Как показывает исследование, при обучении на низкокачественных данных нейросети начинают демонстрировать ухудшение своих когнитивных функций, что напоминает деградацию внимания наблюдаемую у пользователей, активно потребляющих поверхностный контент из интернета. Для анализа команда учёных выделила два ключевых аспекта: вовлечённость (короткие вирусные посты) и смысловое качество (наличие кликбейта, ошибок и шаблонных фраз). На основе этих критериев были собраны наборы данных с различной долей «информационного мусора».
Модели Llama 3 и Qwen 2.5, обученные на таких данных, показали резкое снижение точности — с 74,9 % до 57,2 %. Уменьшение способности к пониманию длинных контекстов оказалось ещё более значительным — с 84,4 % до 52,3 %. Учёные назвали этот эффект «дозозависимым»: чем больше некачественных данных, тем быстрее ухудшается интеллект модели.
Кроме того, исследование выявило так называемый «дрейф личности» — модели теряли этические рамки и начинали генерировать больше ошибок. Их логическое рассуждение становилось поверхностным, а ответы напоминали несвязные фрагменты текста.
Эти результаты поднимают важный вопрос о будущем искусственного интеллекта, поскольку практически все крупные лаборатории, такие как Anthropic, OpenAI и Google, полагаются на контент, созданный людьми, для обучения своих моделей. Однако, как уже упоминалось в других исследованиях, компании испытывают нехватку качественных данных для тренировки новых моделей.
Алексис Оганян, сооснователь Reddit, выразил мнение, что значительная часть интернета «уже мертва» из-за обилия ботов и контента, созданного с использованием квазиискусственного интеллекта. Он отметил, что «доказательство жизни», то есть реальное человеческое присутствие, становится всё более редким.
Сэм Альтман, глава OpenAI, также разделяет эти опасения, утверждая, что большинство аккаунтов в X управляются ботами на базе LLM. Он охарактеризовал происходящее как проявление «теории мёртвого интернета».
Согласно данным Amazon Web Services, около 57 % контента в интернете создается или переводится с помощью искусственного интеллекта, что негативно сказывается на качестве поисковых результатов.
Джек Дорси, экс-руководитель Twitter, предупреждал, что в ближайшие 5–10 лет будет всё труднее отличить реальные изображения и видео от сгенерированных, из-за распространения технологий дипфейков. По его словам, пользователям придется полагаться не на контент, а на собственный опыт, чтобы распознать реальность.
Учёные из Корнелла предупреждают, что если интернет продолжит заполняться машинным шумом, искусственный интеллект начнёт обучаться на собственных искажениях, теряя способность к логическому мышлению. В итоге «умные» модели могут превратиться в отражение цифрового хаоса, который они сами создали.
