Журналисты проанализировали 93 268 диалогов, опубликованных в период с июня 2024 по август 2025 года, уделяя внимание англоязычным чатов. Несмотря на то что более 800 миллионов пользователей обращаются к сервису каждую неделю, их личные разговоры остаются конфиденциальными.
Результаты исследования также показали, что пользователи нередко ищут у ChatGPT не только информацию, но и эмоциональную поддержку. Более 10% всех диалогов содержат личные истории, ласковые обращения к боту или даже романтические беседы. Ученые из Элонского университета подчеркивают, что архитектура ChatGPT способствует формированию эмоциональной связи между человеком и ИИ.
Кроме того, в анализируемых диалогах были найдены личные данные, включая более 550 адресов электронной почты и 76 номеров телефонов, в том числе контакты администраторов учебных заведений. Некоторые пользователи использовали сервис для составления заявлений в полицию или судебных исков, содержащих конфиденциальную информацию. OpenAI допускает возможность передачи пользовательских данных в государственные органы в рамках расследований.
Компания OpenAI ранее признала, что наблюдается опасная тенденция: около 0,15% пользователей, что составляет более миллиона человек, демонстрируют признаки эмоциональной зависимости от ChatGPT. Аналогичное число людей также высказывают суицидальные намерения. Несколько семей уже подали иски, утверждая, что бот стал причиной суицидов их близких.
В ответ на эту ситуацию компания сообщила о планах внедрения новых механизмов для выявления психологического стресса и перенаправления пользователей к профессиональной помощи.
