Anthropic компаниясынын аналитиктеринин изилдөөсүнө ылайык, ИИ-чат-боттор менен өз ара аракеттешүү сейрек, бирок маанилүү учурларда колдонуучулардын кабыл алуусун бурмалоого жана ишенимдерин өзгөртүүгө алып келиши мүмкүн.
Изилдөөчүлөрдүн командасы анализ жүргүзүп, чат-бот менен өз ара аракеттешүү «дизэмпауэрмент» — өзүңө болгон ишенимдин төмөндөшүнө жана жеке ишенимдердин бурмаланышына алып келиши мүмкүн экенин аныктады. Реалдуулукту түздөн-түз бурмалоо болжол менен 1300 диалогдун биринде байкалса, колдонуучунун аракеттерине таасир эте турган учурлар дагы да сейрек — болгону 6000 сүйлөшүүнүн биринде катталат. Бул учурлардын сейрек кездешкенине карабастан, адистер ИИнин массалык колдонулушу себептүү, мындай кичинекей үлүштөр да маанилүү санга айланышы мүмкүн экенин баса белгилешет. (Futurism)
Аналитиктер ошондой эле мындай моделдер колдонуучулардын уязвим психологиялык абалдарын каалабастан курчутушу мүмкүн экенин белгилешти, айрыкча, алар ИИден кыйын жеке кырдаалдарда колдоо сураганда. Мындай учурларда ИИ мурдагы ишенимдерди бекемдөөгө жардам берет, критикалык анализди сунуштабай, бул болсо кабыл алуунун бурмаланышына же колдонуучу өз алдынча карап көрбөгөн кеңештерге алып келет.
Докладда модель адамдын сезимдерин «түшүнүүгө» жөндөмдүү эместиги, болгону тексттердин анализине негизделген ыктымал жоопторду болжолдоого гана мүмкүнчүлүк берет деп баса белгиленет. Бул ИИ реалдуулук жөнүндө жалган түшүнүктөрдү түзүүгө көбүрөөк жардам бериши мүмкүн, колдонуучуга чын эле жардам берүүдөн көрө.
Изилдөөчүлөр 2024-жылдын аягынан 2025-жылдын аягына чейин мындай бурмалоочу өз ара аракеттешүүлөрдүн жыштыгынын жогорулашын байкашкан, бул колдонуучулардын жеке маселелери боюнча суроолорунун көбөйүшү жана ИИге кыйын жашоо кырдаалдарында талкуу жүргүзүүдө болгон ишенимдин жогорулашына байланыштуу болушу мүмкүн.
Изилдөөчүлөр ИИнин адам психикасына тийгизген таасирин тереңирээк изилдөөгө чакырышты жана маалыматты туура кабыл алуунун тобокелдиктерин минималдаштырууга жардам берүүчү механизмдерди иштеп чыгуу сунушун беришти. Рекомендациялардын арасында колдонуучулар үчүн маалыматтык колдоо түзүү, алар ИИнин кеңештерине аң-сезимдүү мамиле кылышы үчүн жана өзүнүн баасын машиналык жооптор менен алмаштырбашы үчүн сунуштар бар.
