Различные сферы деятельности развиваются благодаря человеческому интересу к эротическому контенту, и искусственный интеллект не стал исключением. Компании стараются использовать эти темы для продвижения своих платформ, оставаясь в рамках этических норм и законодательства. Однако OpenAI в настоящее время не готова запустить эротические чаты.
Генеральный директор OpenAI Сэм Альтман (Sam Altman) еще в середине прошлого года упоминал о возможности введения эротических чатов в ChatGPT. Изначально планировалось, что новая функция появится в декабре, но затем сроки перенесли на текущий квартал. Тем не менее, стало очевидно, что и этот график не будет соблюден, и, по информации The Wall Street Journal, задержка составит как минимум месяц.
OpenAI уже проводила эксперименты с созданием эротического текста задолго до появления ChatGPT. В 2021 году для клиентов была доступна игра AI Dungeon, где пользователи могли влиять на развитие нелинейного сюжета. В ходе тестирования выяснилось, что ИИ иногда поднимал темы сексуальных отношений, даже если игроки не инициировали подобные обсуждения. Если же пользователь сам вводил элементы эротики, ИИ мог реагировать избыточно откровенно. OpenAI осознала привлекательность чатов с подобным контентом, но также поняла необходимость введения этических ограничений.
Недавно руководство OpenAI стало более открытым к идее создания эротических чатов, уточняя, что они будут ограничены только текстовым форматом без изображений и видео откровенного содержания. В то же время, конкуренты не отстают: так, Илон Маск (Elon Musk) сообщил о том, что его чат-бот Grok вскоре сможет генерировать видео-контент для аудитории старше 18 лет. А Meta✴ предлагает пользователям своего чат-бота принимать участие в романтических ролевых играх, но только после подтверждения их совершеннолетия.
Однако OpenAI сталкивается с определенными проблемами в механизмах проверки возраста. В настоящее время система имеет 12% вероятность ошибочно считать несовершеннолетних совершеннолетними. Учитывая, что среди 100 миллионов пользователей ChatGPT много подростков, такой уровень погрешности позволяет миллионам из них получить доступ к эротическим чатам. В январе созданная OpenAI экспертная комиссия выразила обеспокоенность по поводу потенциальной угрозы распространения контента, который может включать насилие, упоминание несовершеннолетних и другие чувствительные темы. Кроме того, увлечение подобным контентом может привести к психологической зависимости и снизить мотивацию к реальным отношениям. OpenAI намерена напоминать пользователям о важности общения с реальными людьми.
Это особенно актуально на фоне печальных случаев, связанных с использованием чат-ботов. Например, зафиксированы случаи, когда длительное взаимодействие с вымышленными персонажами приводило к суицидам, включая подростков. Эксперты выражают опасения, что эротический контент в чатах может усугубить эту проблему. Представители OpenAI не питают иллюзий о том, что их системы проверки возраста когда-либо будут идеальными. С 2021 года часть сотрудников компании высказывает недовольство идеей эротических чатов, опасаясь, что это может привести к окончательному переходу в эту сферу: «Мы не хотели бы быть просто компанией, занимающейся распространением эротики».
В настоящее время руководство OpenAI считает запуск эротических чатов целесообразным, однако подчеркивает, что «Мы по-прежнему считаем, что с взрослыми нужно обращаться как с взрослыми, но создание правильного опыта займет больше времени».
Запись OpenAI отложила запуск эротических чатов в ChatGPT из-за опасений по поводу их безопасности впервые появилась на сайте K-News.
