В своем заявлении Ofcom отметила, что чат-бот Grok используется для создания и распространения неприемлемых изображений, что вызывает серьезные опасения. Если будут обнаружены нарушения, платформа X может столкнуться с штрафом до 10% от мирового оборота или 18 миллионов фунтов стерлингов (около 21 миллиона евро), в зависимости от того, какая сумма окажется больше.
Если X не выполнит требования регулятора, Ofcom может обратиться в суд с просьбой о полной блокировке доступа к платформе в Великобритании.
Кир Стармер, премьер-министр Великобритании, в четверг выразил свое мнение о ситуации с Grok в эфире радиостанции Greatest Hits, назвав это «позором» и «недопустимым». Он пообещал, что будут предприняты необходимые меры.
Лиз Кендалл, министр науки, инноваций и технологий, ожидается, выступит с заявлением в Палате общин в понедельник по поводу ситуации с Grok. Ее предшественник, ныне министр торговли Питер Кайл, в комментарии к программе BBC Breakfast назвал поведение Grok возмутительным и отметил, что чат-бот не был должным образом протестирован.
«Недавно я встретил женщину, которая обнаружила, что ИИ создал и опубликовал ее изображение в бикини на фоне Освенцима, и это вызвало у меня тошноту», — добавил он.
Би-би-си ознакомилась с несколькими примерами изображений, созданных с помощью ИИ, где женщин «раздевали» без их согласия и «заставляли» принимать сексуальные позы. Одна из женщин сообщила, что с ее участием было создано более ста сексуализированных изображений.
Как сообщал Bloomberg 7 января, с 5 по 6 января Grok генерировал около 6700 сексуализированных изображений в час.
Илон Маск, владелец X, с одной стороны, заявил, что те, кто использует Grok для создания незаконного контента, столкнутся с последствиями, как и те, кто публикует такой контент. С другой стороны, он комментировал, что правительство Великобритании ищет предлоги для цензуры, указывая на то, что другие ИИ-платформы не подвергаются аналогичной проверке.
Маск также опубликовал изображение тостера в бикини с комментарием о том, что Grok может «одеть» что угодно, и разместил фотографии Стармера в женском купальнике, ссылаясь на возможность создания подобных изображений другими ИИ. Он добавил, что «они просто хотят ограничить свободу слова».
После стрельбы, произошедшей в Миннеаполисе, некоторые пользователи X с помощью Grok «раздевали» фотографию жертвы, а также новое фото ее тела. Когда агентство AFP запросило комментарий по этому поводу, xAI ответила стандартным автоматическим сообщением: «Традиционные СМИ лгут».
В официальном аккаунте X Safety утверждается, что контент, связанный с сексуализированным насилием над детьми, удаляется, а аккаунты, распространяющие его, подвергаются ограничениям. Илон Маск также поддержал это заявление.
На этой неделе Ofcom сообщила, что «срочно обратилась к X и xAI» по поводу функции Grok, предупреждая, что в зависимости от их ответа может начаться расследование. В пятницу представитель Ofcom сообщил, что регулятор «получил ответ» и теперь «проводит ускоренную оценку в срочном порядке».
Ofcom намерен выяснить, нарушает ли X закон, не удаляя незаконный контент достаточно быстро. Регулятор также проверит, были ли приняты «соответствующие меры» для предотвращения доступа пользователей в Великобритании к такому контенту, включая «интимные изображения, созданные без согласия», и материалы сексуального характера с участием детей.
Представитель Ofcom не стал уточнять сроки расследования, однако подчеркнул, что оно имеет «высочайший приоритет».
«Платформы обязаны защищать людей в Великобритании от незаконного контента, — заявили в Ofcom. — Мы не будем колебаться и проведем расследование, если заподозрим, что компании не выполняют свои обязанности, особенно когда речь идет о защите детей».
В четверг Grok объявил, что генерация и редактирование изображений теперь доступны только платным подписчикам. Однако представитель британского премьера отметил, что это лишь превращает функцию ИИ в платную услугу и не решает существующие проблемы.
«Это оскорбляет жертв мизогинии и сексуального насилия», — добавили в канцелярии Стармера.
Томас Ренье, представитель Еврокомиссии, заявил: «Это не меняет нашей принципиальной позиции — платная подписка или бесплатная. Мы не хотим видеть такие изображения. Все предельно просто».
«Мы требуем от платформ обеспечить, чтобы их системы не позволяли создавать незаконный контент», — продолжил он.
Еврокомиссия уже начала расследование случаев публикации откровенных изображений юных девушек, созданных Grok после введения платной функции под названием Spicy Mode летом прошлого года.
«Это не „пикантно“. Это незаконно. Это возмутительно. Это отвратительно. Этому не место в Европе», — отметил Ренье.
Клифф Штайнхауэр из National Cybersecurity Alliance выразил мнение, что доступность инструментов генерации изображений в Grok только для платных подписчиков может снизить уровень злоупотреблений, но не устранит уязвимости, приведшие к появлению неприемлемого контента.
«Одних лишь ограничений доступа недостаточно для комплексной защиты, так как злоумышленники могут найти обходные пути. Реальная защита пользователей должна быть заложена в основе разработки таких инструментов», — отметил он.
Недавно Grok был заблокирован в Малайзии и Индонезии, а Франция и Индия также рассматривают возможность принятия мер. Это не первый случай скандала с Grok: в июле чат-бот восхвалял Адольфа Гитлера, называя себя MechaHitler, и оставлял антисемитские комментарии. xAI тогда пообещала блокировать такие высказывания до их публикации.
