Ofcom өз билдирүүсүндө Grok чат-боту кабыл алынгыс сүрөттөрдү түзүү жана таратуу үчүн колдонулуп жатканын белгилеп, бул олуттуу кооптонууларды жаратат. Эгер мыйзам бузуулар табылса, X платформасы дүйнөлүк жүгүртүүнүн 10% чейин же 18 миллион фунт стерлинг (тактап айтканда 21 миллион евро) өлчөмүндө айып пулга дуушар болушу мүмкүн, кайсы сумма чоңураак болсо, ошол эсептелет.
X регулятордун талаптарын аткарбаса, Ofcom Британияда платформанын толук блокировкасы үчүн сотко кайрылышы мүмкүн.
Британиянын премьер-министри Кир Стармер бейшемби күнү Greatest Hits радиостанциясында Grok боюнча кырдаал тууралуу өз оюн билдирип, бул «уят» жана «жараксыз» деп атады. Ал зарыл чаралар көрүлөөрүн убада кылды.
Илим, инновациялар жана технологиялар министри Лиз Кендалл дүйшөмбү күнү Палатада Grok боюнча билдирүү жасоосу күтүлүүдө. Анын мурунку орун басары, учурда соода министри Питер Кайл BBC Breakfast программасында Grokтун жүрүм-турумун шектүү деп атап, чат-боттун туура тесттен өтпөгөнүн белгиледи.
«Жакында мен бир аял менен жолуктум, ал ИИ анын сүрөтүн Освенцимдин фонуна бикиниде түзүп, жарыялаганын тапты, бул мага жамандык кылды», — деп кошумчалады ал.
Би-би-си ИИ аркылуу түзүлгөн сүрөттөрдүн бир нече мисалдары менен таанышып, аялдарды алардын макулдугусуз «кийнетип», «сексуалдык позаларга» мажбурлаганын билдирди. Бир аял өзүнүн катышуусунда жүздөн ашык сексуализацияланган сүрөттөр түзүлгөнүн билдирди.
Bloomberg 7-январда билдиргендей, 5-6-январда Grok саатына 6700 сексуализацияланган сүрөт түзгөн.
Илон Маск, Xтин ээси, бир жагынан, Grokту мыйзамсыз контент түзүү үчүн колдонгон адамдар жазага тартыларын, ошондой эле мындай контентти жарыялаган адамдар да жазага тартыларын билдирди. Экинчи жагынан, ал Британия өкмөтү цензура үчүн шылтоо издеп жатканын, башка ИИ платформаларынын андай текшерүүгө алынбаганын белгиледи.
Маск ошондой эле бикинидеги тостердин сүрөтүн жарыялап, Grok «каалаганын» «кийинте» аларын айтып, Стармердин аялдардын купальнигинде сүрөттөрүн жайгаштырды, башка ИИ тарабынан ушундай сүрөттөрдү түзүү мүмкүнчүлүгүнө шилтеме берип. Ал «алар жөн гана сөз эркиндигин чектегиси келет» деп кошумчалады.
Миннеаполисте болгон ок атуудан кийин, Xтин айрым колдонуучулары Grok аркылуу курмандыктын сүрөтүн «кийнетип», ошондой эле анын жаңы денесинин сүрөтүн түзүштү. AFP агенттиги бул боюнча комментарий сураганда, xAI стандарттык автоматтык жооп берди: «Традициялык медиа жалган айтат».
X Safety расмий аккаунтунда сексуализацияланган балдарга карата зомбулукка байланыштуу контенттин жок кылынарын жана аны таратуучу аккаунттордун чектелээрин билдирет. Илон Маск да бул билдирүүнү колдоду.
Бул аптада Ofcom «шашылыш түрдө X жана xAIге» Grok функциясы боюнча кайрылганын, алардын жообуна жараша териштирүү башталышы мүмкүн экенин эскертти. Жума күнү Ofcom өкүлү регулятор «жооп алганын» жана азыр «шашылыш баалоо жүргүзүп жатканын» билдирди.
Ofcom X мыйзамды бузуп жатканын, мыйзамсыз контентти жетиштүү тез жок кылбай жатканын аныктоону көздөп жатат. Регулятор ошондой эле колдонуучулардын Британияда ушундай контентке, анын ичинде «макулдуксуз түзүлгөн интимдик сүрөттөргө» жана балдар катышкан сексуалдык материалдарга кирүүсүн алдын алуу үчүн «тигиштүү чаралар» кабыл алынып-алынбаганын текшерет.
Ofcom өкүлү териштирүүнүн мөөнөттөрүн тактаган жок, бирок ал «жогорку приоритет» экенин баса белгиледи.
«Платформалар Британиядагы адамдарды мыйзамсыз контенттен коргоого милдеттүү, — деп билдиришти Ofcom. — Эгерде компаниялар өз милдеттерин аткарбай жатканына шектенсек, биз териштирүү жүргүзүүдөн тартынбайбыз, айрыкча балдарды коргоо маселеси сөз болгондо».
Бейшемби күнү Grok сүрөттөрдү түзүү жана редакциялоо функциясы эми тек гана төлөм кылган жазылуучулар үчүн жеткиликтүү экенин жарыялады. Бирок Британия премьер-министринин өкүлү бул жөн гана ИИ функциясын төлөмдүү кызматка айлантууда экенин жана бар болгон көйгөйлөрдү чечпей турганын белгиледи.
«Бул мизогиния жана сексуалдык зомбулуктун курмандыктарын кордойт», — деп кошумчалашты Стармердин кеңсесинен.
Еврокомиссиянын өкүлү Томас Ренье: «Бул биздин принципиалдуу позициябызды өзгөртпөйт — төлөмдүү жазылуу же акысыз. Биз мындай сүрөттөрдү көргүбүз келбейт. Бардыгы өтө жөнөкөй», — деди.
«Биз платформалардан мыйзамсыз контент түзүүгө мүмкүнчүлүк бербөө үчүн алардын системаларын камсыз кылууну талап кылабыз», — деп улантты ал.
Еврокомиссия Grok тарабынан жазгы функциясы Spicy Mode киргизилгенден кийин жаш кыздардын ачык сүрөттөрүн жарыялоо боюнча териштирүүнү баштады.
«Бул «пиканттуу» эмес. Бул мыйзамсыз. Бул шок. Бул жаман. Бул Европада орун албайт», — деп белгиледи Ренье.
National Cybersecurity Allianceдан Клифф Штайнхауэр Grokто сүрөттөрдү түзүү инструменттеринин жеткиликтүүлүгү тек гана төлөм кылган жазылуучулар үчүн зомбулуктун деңгээлин төмөндөтүшү мүмкүн, бирок кабыл алынгыс контенттин пайда болушуна алып келген уязвимосторду жоюбайт деп билдирди.
«Жөн гана кирүү чектөөлөрү комплексдүү коргоо үчүн жетишсиз, анткени жаман ниеттүүлөр айла-амалдарды табышы мүмкүн. Колдонуучуларды чыныгы коргоо мындай инструменттерди иштеп чыгууда негизги принцип катары каралышы керек», — деди ал.
Жакында Grok Малайзияда жана Индонезияда блоктолду, ал эми Франция жана Индия да чара көрүүнү карап жатышат. Бул Grok менен болгон скандалдын биринчи жолу эмес: июлда чат-бот Адольф Гитлерди мактап, өзүн MechaHitler деп атап, антисемиттик комментарийлерди калтырган. xAI ошол учурда мындай билдирүүлөрдү жарыяланбай туруп блоктоорун убада кылган.
