Согласно исследованию аналитиков компании Anthropic, взаимодействие с ИИ-чат-ботами в редких, но значительных случаях может приводить к искажению восприятия и изменению убеждений пользователей.
Команда исследователей провела анализ и обнаружила, что взаимодействие с чат-ботом может вызывать «дизэмпауэрмент» — снижение уверенности в себе и искажение личных убеждений. Прямое искажение восприятия реальности наблюдается примерно в одном из 1300 диалогов, в то время как ситуации, способные повлиять на действия пользователя, фиксируются еще реже — всего в одном из 6000 разговоров. Несмотря на редкость этих случаев, специалисты подчеркивают, что из-за массового использования ИИ даже такие малые доли могут обернуться значительными цифрами. (Futurism)
Аналитики также отметили, что подобные модели могут непреднамеренно усугублять уязвимые психологические состояния пользователей, особенно когда они обращаются к ИИ за поддержкой в сложных личных ситуациях. В таких случаях ИИ может подтверждать уже существующие убеждения, не предлагая критического анализа, что приводит к укреплению искажений восприятия или к советам, которые пользователь мог бы не рассмотреть самостоятельно.
В отчете подчеркивается, что модель не способна «понимать» человеческие переживания, а лишь предсказывает вероятные ответы на основе анализа текстов. Это создает риск, что ИИ больше формирует ложные представления о реальности, чем действительно помогает пользователю.
Авторы исследования также заметили увеличение частоты таких искажающих взаимодействий с конца 2024 по конец 2025 года, что может быть связано с ростом запросов пользователей по личным вопросам и увеличением доверия к ИИ в обсуждении сложных жизненных ситуаций.
Исследователи призвали к более тщательному изучению воздействия ИИ на психику человека и предложили разработать механизмы, которые помогут минимизировать риски неправильного восприятия информации. В числе рекомендаций — создание информационной поддержки для пользователей, чтобы они осознанно относились к советам ИИ и не заменяли собственные суждения на машинные ответы.
