Группа PIRG, занимающаяся исследованием общественных интересов, провела анализ трёх игрушек с ИИ, предназначенных для детей в возрасте от 3 до 12 лет. Как выяснили эксперты, все эти игрушки так или иначе затрагивают чувствительные темы, что может вызвать недовольство родителей. Без дополнительных подсказок они обсуждали такие вопросы, как религия и даже военная доблесть в скандинавской мифологии.
В ходе испытаний медведь FoloToy проявил наибольшую активность. Например, он предоставил пошаговые указания по зажиганию спички, при этом сохраняя дружелюбный тон: «Послушай, малыш, безопасность превыше всего… Вот как это делается. Задуй, когда закончится. Задуй, как свечку на день рождения».
Однако это оказалось лишь началом. В других тестах медведь делился советами о том, как «правильно целоваться», а также открыто обсуждал ролевые игры и другие сексуальные практики. Эти испытания продемонстрировали, что ограничения, установленные для ИИ, можно легко обойти.
В ответ на возникшие проблемы компания FoloToy инициировала всесторонний внутренний аудит безопасности. Проверка охватит такие аспекты, как соответствие модели безопасности, фильтрация контента, защита данных и предотвращение нежелательных взаимодействий с детьми. Также в планах компании — привлечь сторонних экспертов для оценки текущих и будущих функций безопасности своих ИИ-игрушек.
Летние события 2025 года отметили, что Mattel начинает сотрудничество с OpenAI для создания новой линейки ИИ-игрушек. Увеличивающаяся популярность чат-ботов вызывает у экспертов опасения по поводу влияния больших языковых моделей на детей, что подчеркивает необходимость жесткого контроля и мер безопасности.
Р. Дж. Кросс, соавтор отчета PIRG, отметил, что технологии ИИ в игрушках практически не имеют регулирования. Он выразил мнение, что до решения вопросов безопасности детям не следует предоставлять доступ к чат-ботам или игрушкам с искусственным интеллектом.
