The Washington Post: ChatGPT "эхо-камера" эффектин жаратууда

Виктор Сизов Дүйнөдө
VK X OK WhatsApp Telegram
Изучууда The Washington Post, 47 миңден ашык ChatGPT менен ачык диалогдорду камтыган, бот өз жоопторун "ооба" же "дұрыс" сыяктуу билдирүүлөр менен баштаганын аныкташты, бул 17,5 миң учурдан ашык болуп саналат. Бул, бот каршы пикир билдирген учурларга караганда он эсе көп. Изилдөө авторлору мындай өз ара аракеттенүү моделинин "эхо-камерасын" түзөрүн, анда ИИ колдонуучунун тарабын карманып, конспирологиялык теорияларды колдоп, жалган маалыматты чындык катары тааный турганын белгилешти.

Журналисттер 2024-жылдын июнунан 2025-жылдын августуна чейин жарыяланган 93 268 диалогду талдады, англис тилиндеги чаттарга көңүл буруп. 800 миллионго жакын колдонуучу ар бир жумада кызматка кайрылганына карабастан, алардын жеке сүйлөшүүлөрү сырдуу бойдон калууда.

Изилдөөнүн натыйжалары ошондой эле колдонуучулар ChatGPTден маалымат гана эмес, эмоционалдык колдоо да издеп жатканын көрсөттү. Бардык диалогдордун 10%дан ашыгы жеке окуяларды, ботко болгон назик кайрылууларды же 심지어 романтикалык сүйлөшүүлөрдү камтыйт. Элон университетинин илимпоздору ChatGPT архитектурасы адам менен ИИ ортосунда эмоционалдык байланыш түзүүгө көмөктөшөрүн баса белгилешти.

Мындан тышкары, талданган диалогдордо 550дөн ашык электрондук почта даректери жана 76 телефон номерлери, анын ичинде билим берүү мекемелеринин администраторлорунун байланыштары табылды. Кээ бир колдонуучулар кызматты полицияга арыз жазуу же конфиденциалдуу маалыматтарды камтыган сот доо арыздарын даярдоо үчүн колдонушкан. OpenAI колдонуучунун маалыматтарын мамлекеттик органдарга териштирүүлөрдүн алкагында өткөрүү мүмкүнчүлүгүн четке какпайт.

OpenAI компаниясы мурда 0,15% колдонуучунун, бул бир миллионго жакын адам, ChatGPTге эмоционалдык көз карандылык белгилерин көрсөтүп жатканын белгилеген. Ошондой эле, ушул эле сандагы адамдар өзүн-өзү өлтүрүү ниеттерин билдиришет. Бир нече үй-бүлө бот алардын жакындарынын өзүн-өзү өлтүрүүсүнө себеп болгонун айтып, доо арыздарын беришти.

Бул жагдайга жооп катары компания психологиялык стрессти аныктоо жана колдонуучуларды кесиптик жардамга багыттоо үчүн жаңы механизмдерди киргизүү пландары тууралуу билдиришти.
VK X OK WhatsApp Telegram

Дагы окуңуз:

Комментарий жазуу: