Форум метеозависимых

Уважаемый читатель мы с Вами уже знаем, что ИИ для своего обучения использует предоставленную ему информацию.
Знаем,также, что сейчас мир столкнулся с нехваткой высококачественных данных.
Сегодня LLM (большие языковые модели) стали неотъемлемой частью интернета, существенно изменив ландшафт онлайн-текстов и изображений
Чем этой информации больше, и чем она более качественно подготовлена, тем глубже степень обученности ИИ и, казалось-бы,
его ответы на вопросы должны быть наиболее точны.

Ан нет! Оказывается не всякие данные могут быть подсунуты для обучения т.н.искусственного интеллекта.

На обложке журнала Nature появилась статья, написанная учёными из Оксфорда, Кембриджа и других учебных заведений.
"

Появилась очень интересная ветка-статья с примерами рассказывающая о еще одном недостатке выявленном в ходе обучения ИИ.

"Исследователи обнаружили, что если при обучении использовать контент, созданный ИИ без разбора,
то модель может иметь необратимые дефекты.

Если большие модели действительно рухнут под тяжестью контента, созданного искусственным интеллектом,
это может стать концом света для их достоверности.

Полный текст статьи можно посмотреть перейдя по ссылке.
Искусственный интеллект "потерял сознание" после 9-кратного "отравления"

Когда вы начнете читать статью в русском переводе выполненном ИИ, то увидите, что ИИ даже
с переводом этой статьи на русский не справился. Хотя предыдущие статьи были вполне себе читаемы

Хоть тема сложна,но суть проблемы довольно проста

Т.н. искусственный интеллект оперирует вероятностями, поэтому в результатах могут накапливаться ошибки.

"LLM повторился до 9-го поколения, результат - полная тарабарщина"

Так называемый «Искусственный Интеллект», далее ИИ, неизбежно «падает в обморок», обрабатывая сгенерированную ИИ информацию потому, что накапливаются ошибки из неподтвержденных данных. Особенно, если он начинает «углубляться» в т.н. ложные корреляции. Математически так и есть. "Грубо говоря, если перемножать вероятности, допустим 0,95*0,95*0,95 ... 9 раз, то выходит 0,63, почти 50/50.
Это совершенно недопустимая величина для мало-мальски научных исследований."