ИИдеги галлюцинациялар маселеси алардын өз аракеттерин аңдабай, маалыматтарды иштеп чыгуу жана салыштыруу менен гана алектенишинде. Кээ бир адистер мындай каталарды ашыкча окутуу себептүү пайда болот деп эсептешет, анда ИИ маалыматты "эске сактайт", обобщалоонун ордуна. Ошол эле учурда башка изилдөөчүлөр алгоритмдердин кемчиликтерине жана сырттан келген зыянкечтердин таасирине көңүл бурушат, алар "окутуучу маалыматтарды ууландырууга" жөндөмдүү.
Акырында, чоң тилдик моделдер болжолдоо системалары катары иштешет, суроолорго жооп катары эң ыктымал сөздөрдүн тизмесин түзүшөт. Эгер кирген маалыматтар толук эмес же карама-каршы болсо, алар дагы эле жооп беришет, анткени алар ушул максатта иштелип чыккан. Алардын макулдугу сунуштардын структуралык байланышына негизделет, чындыкка же моралдык баага эмес. Адам акылынан айырмаланып, ИИ карама-каршы маалыматтарды сактай албайт же өз баасын жаңырта албайт, бул белгисиздик пайда болгондо, алар шектүү, бирок жалган билдирүүлөр менен боштуктарды толтурат.
Мындай жүрүм-турум "нарциссисттик конфабуляция" менен салыштырууга болот, анда адам психикасы өзүнүн бүтүндүгүн коргоо үчүн байланыштуу, бирок бурмаланган тарыхты түзөт. Маанилүү болгон нерсе, бул нарциссисттик мүнөзгө ээ адамдарды патологиялаштыруудан эмес, адамдардын жана машиналардын чындыкка дал келбеген, бирок ишенимдүү нараттарды түзүү себептерин түшүнүүдөн турат.
Нарциссизм, эмоционалдык жүктөлгөн термин катары, чындыгында өзүн-өзү кабыл алуунун бузулушун билдирет, бул эгоцентризмге жана мамилелерде кыйынчылыктарга алып келет. Нарциссисттик мүнөзгө ээ адамдар өздөрүнүн уялчаактыгын жашыруу үчүн ишенимдүүлүк жана жогору көрүүчүлүктү көрсөтүшү мүмкүн, өздөрү жөнүндө жалган түшүнүк түзүшөт. Бул жамандыкка багытталган алдамчылык эмес, өзүн-өзү сезүүнү сактоого жардам берген коргоо механизми. Алар белгисиздик же шек менен беттешкенде, өз күчүн жана ишенимин көрсөтүүгө аракет кылышат.
Нарциссизм боюнча адис Сэм Вакнин: "Эс тутуунун кемчиликтерин жоюу үчүн, нарциссисттер конфабуляциялашат: чын жүрөктөн ишенген ыктымал кошумчаларды түзүшөт. Логика алар үчүн коргоо механизми болуп, өздөрүнүн ишенимсиздигин жана жупунуктукту жашырууга жардам берет, бул болсо жупуну өзүн-өзү сезүү менен мүнөздөлөт".
Эгерде "мен" концепциясы талкууланган болсо, адистер жакшы интеграцияланган "мен" рефлексияга жана карама-каршылыктарга туруштук берүүгө жөндөмдүү экендигине макулдашышат. Ал карама-каршы маалыматтарды тынчтандырып, өздүгүн сактай алат, туруктуу тышкы растаууга муктаж болбой. Туруктуу "мен" бар адамдар карама-каршы идеяларды кабыл алууга жөндөмдүү, мисалы, "Мен өз өнөктөшүмдү сүйөм, бирок азыр анын менен канааттанбайм". Нарциссисттер болсо кара-каршы ойлорду жоюуга аракет кылышат, бул алардын өсүшүнө жана интеграциясына чектөө коюу. Ошентип, алар үчүн макулдук чындыкка караганда маанилүү болуп калат.
Өзүмдүн жашоомдон бир окуяны эске алганда, мен күйөөм менен унаада баратканымды, ал болсо улам татаалданган бир окуяны айтып жатканын эстеймин. Мен андан чындап эле ушундай болду беле деп сураганда, ал: "Жок, бирок болушу мүмкүн эле", - деп жооп берди. Кийин мен бул "нарциссисттик конфабуляция" экенин түшүндүм, өзүнүн жупуну сезимин коргоо үчүн чындыкты кайра жазуу аракетин.
Бул динамика адамдын жүрүм-турумун ИИ белгисиздик шартында кантип иштээрин түшүнүүгө жардам берет. Эки жагдайда да карама-каршылыктар кабыл алынбайт, жана ыктымалдык чындыкты алмаштырат. Адамдар жана ИИ өз жоопторун күчөтүүгө аракет кылышат, анткени тарыхтан баш тартуу алардын ички бүтүндүгүнө коркунуч туудурат, психикалык же алгоритмдик болобу. Бул тынчсызданууну жаратууда, анткени көрүнгөн ыктымалдыкка карабастан, ички текшерүү жок.
Эгер галлюцинациялар "мен" сыяктуу структуранын жетишсиздигинен пайда болсо, анда маселени чечүүнүн бир жолу карама-каршылыктарды жакшыраак чечүүчү системаларды түзүү болушу мүмкүн. Бул суроону "Эмне үчүн ИИ жалган айтат?" дегенден "ИИ белгисиздик менен кантип бирге жашай алат?" дегенге өзгөртөт. Мүмкүн, бул акылдуу системаны түзүү эмес, карама-каршы маалыматтарды сактоого жөндөмдүү архитектураны иштеп чыгуу дегенди билдирет, мурунку чечимдерге кайрылбай.
Мисалы, ИИ белгисиздикти белгилөө үчүн туруктуу эс тутумду жана өзүн-өзү текшерүү механизмдерин кошууну карап чыгууга болот, бул ИИге белгисиздикти эске алууга, аны жокко чыгарбоого мүмкүнчүлүк берет. Бул система чечилбеген маселелерди жаңы маалымат алынганга чейин сактоого мүмкүндүк берет, психологиялык жактан ден-соолукта болгон адамдын "Мен азырынча ишенбейм" деп айта алганындай.
ИИнин иштеп чыгуучуларынын милдети ыңгайсыз фактыларды кайра жазуу каалоосуна туруктуу системаларды түзүү болуп саналат. ИИде макулдукту бузбай камсыз кылуунун жолдорун изилдөө, нарциссисттик бузулуулары бар адамдарга жардам берүү үчүн жаңы мүмкүнчүлүктөрдү ачышы мүмкүн, алардын карама-каршы кабыл алууларын өнүктүрүү.
Эгер конфабуляциянын негизги коркунучу адамда же машинада жаман ниет менен эмес, жупунуктуктан келип чыкса, анда байланыштуулукка болгон каалоо жөнөкөй сентимент эмес. Ал ишенимдин негизин түзөт. Адамдарда бул ички идентичтикти колдоо үчүн эс тутумду же тилди бекемдөөгө түрткү берет, тарыхты кайра жазбай. ИИде бул кабыл алынган белгисиздикти жалган тактыкка караганда артык көргөн механизмдерди түзүү аркылуу көрүнүшү мүмкүн.
«Зловещая долина» жөнүндө сүйлөшкөндө, биз адамга окшош, бирок так эмес нерселердин пайда кылган дискомфортун талкуулайбыз. Искусственный интеллекттин учурда зловещность психологиялык мүнөзгө ээ: биздин чоң тилдик модельдер жана чат-боттор биздин жашообуздун эң уялчаак аспектилерин коркунучтуу тактык менен чагылдырат. Ошентип, ИИ бурмаланган айна катары иштейт: акылдуу "мен" жок, ал нарциссисттик боштуктарды ыктымалдуу, бирок фактыларга негизделбеген тарыхтар менен толтурат.
ИИге болгон коркуу биздин өзгөчөлүктөрүбүз менен эмес, адам психологиясынын эң жупуну аспектилери менен коркунучтуу окшоштугу менен байланыштуу болушу мүмкүн. Эгер биз машиналардагы боштуктарды атаандаш мүмкүнчүлүктөрдү колдонуучу архитектуралар менен толтуруп алсак, бул бизге адамдарда ошондой эле мүмкүнчүлүктөрдү өнүктүрүүнү түшүнүүгө жардам берет. Эгер биз бул процессте адамдарга жана ИИге диссонансты жакшыраак чечүүгө мүмкүндүк берген жолдорду түзсөк, анда биз көргөн чагылыш азыраак жупуну жана толук болушу мүмкүн.
