Славой Жижек белгилеп өткөндөй, жасалма интеллект биздин жашообузду көзөмөлдөй баштаганда, биз паникага түшпөй, бул дагы алыс экенин ойлойбуз; ой жүгүртүүгө жана даярдык көрүүгө убактыбыз бар.
Бирок, чындык көрсөтүп жаткандай, бардык нерсе биз ойлогондон да ылдам болуп жатат. Биз алгоритмдердин манипуляциясынын объектиси болуп калгандыгыбызды көп учурда аңдабайбыз, алар, бир жагынан, биз жөнүндө өзүбүздөн да көп билишет жана биздин "эркин" тандообузду калыптандырышат. Бул контекстте мультфильмдеги мыкты аналогияны келтирүүгө болот, анда жырткычтын үстүндө илинип турган мысык, жердин жоктугун түшүнгөндө гана кулап түшөт — биз ошол мысыкка окшошпуз, төмөнгө карап көрүүдөн баш тартканбыз.
Биз "өзүндө" жана "өзү үчүн" абалдарынын ортосундагы гегелевдик параллельди өткөрө алабыз: "өзүндө" абалында биз ИИнин таасирине дуушар болобуз, бирок бул таасир биз тарабынан кабыл алынган нерсе катары дагы эле аңдалып жаткан жок. Тарых ар дайым ушул эки абалдын ортосунда тербелип турат: окуялар өз убагында эмес, биздин кабыл алуубузга карата мурда болуп, биз аларды өтө кеч аңдайбыз. ИИ контекстинде биздин коркуу сезимдерибиздин эволюциясын эске алуу маанилүү: биринчи кезекте, биз ChatGPT сыяктуу алгоритмдерди колдонуп, алардай сүйлөй баштайбыз деп коркконбуз; азыр болсо, ChatGPT 4 жана 5 версиялары менен, ИИ өзү биз менен адам сыяктуу өз ара аракеттене алат деп коркуу пайда болду, бул болсо, ким менен сүйлөшүп жаткандыгыбызды түшүнүүнү кыйындатат — адам менен же машина менен.
Технологиялардын фонунда адамдык өз ара аракеттенүү болуп жаткан дүйнөдө, бизден айырмаланган машиналардан коркпойбуз; коркунуч, аларда кээ бир адамдык мүнөздөр бар болгондо, биздей иштеши мүмкүн дегенден келип чыгат. Бул ИИ бар машиналарды кабыл алуубуздагы катаны баса белгилейт: биз аларды адамдык критерийлер боюнча баалоону улантып, алардын имитациясынан коркобуз. Түшүнүүнүн биринчи кадамы, эгер ИИ бар машиналар чыгармачылык интеллектти өнүктүрсө, ал биздин эмоциялар жана инстинкттерге негизделген интеллекттен айырмаланарын моюнга алуу болушу керек.
Бирок, бул бөлүү абдан бетине чыгат. Менин тааныштарымдын көпчүлүгү, анын ичинде ChatGPT колдонуучулары, машинанын менен сүйлөшүп жаткандыгын жакшы билишет, бирок бул билим аларга чектөөсүз диалогду жүргүзүүгө мүмкүндүк берет. Менин бир досум, ChatGPT менен болгон тажрыйбасы жөнүндө жазып, машинанын вежливосту жана көңүл буруусу көп учурда реалдуу адам менен болгон сүйлөшүүдөн көбүрөөк жагымдуу экенин белгилеген.
Боттордун ортосундагы өсүп жаткан өз ара аракеттенүү да көптөгөн адамдык байланыштарды алмаштырууда. Мен көп учурда санарип доорунда идеалдуу жыныстык акт эки электрондук түзүлүш арасында болгон өз ара аракеттенүү сыяктуу көрүнөт деп шутка кылам, ал эми адамдар машиналар зарыл болгон иштерди аткарып жатканын билип, сүйлөшүүнүн ырахатын алышат. Ошондой эле илим тармагында: автор ChatGPT менен макала түзүп, андан кийин журнал ошол эле технологияны рецензиялоо үчүн колдонуп, окуучулар кайрадан резюме алуу үчүн ИИге таянат — бул баары санариптик мейкиндикте болуп, адамга эс алуу үчүн көбүрөөк убакыт калтырат.
Бирок, мындай учурлар сейрек. Көбүнчө боттордун ортосундагы өз ара аракеттенүүлөр биз үчүн байкалбай өтөт, бирок алар биздин жашообузду көзөмөлдөп жатышат. Мисалы, биз банктар арасында акча которгондо, канча операция болуп жатканын эстесек жетиштүү. Kindle'де китептерди окуп жатканда, компания биз окуп жаткан китептин аталышын гана эмес, окуу ылдамдыгын, ошондой эле биз китепти толугу менен же бөлүктөрүн гана окуп жаткандыгыбызды көзөмөлдөйт. Мындан тышкары, жаңылыктар агымы чындыкка жана жасалма контентке болгон ишенимсиздикти калыптандырат, анткени көпчүлүк бири-биринен айырмалоого жөндөмсүз. Бул, өз кезегинде, адамдардын ойлорун бөлүшүүдөн корккондуктан, өзүн-өзү цензуралоого алып келиши мүмкүн, анткени алар өз идеяларынын боттор тарабынан уурдалуусун же фейк чөйрөдө жактырылбоосун каалабайт. Акырында, интернеттин боттор менен ашыкча толукталышы анын социалдык функциясын жоготууга алып келиши мүмкүн.
Адамдар интернеттин боттор менен ашыкча толтурулгандыгын түшүнгөндө, алардын реакциясы цинизмден апатияга чейин өзгөрүшү мүмкүн, анткени интернет ири технологиялык компаниялар тарабынан көзөмөлдөнө баштайт. Жөнөкөй маалымат агымы миллиарданган фейк сүрөттөр жана жаңылыктар менен толтурулат, бул анын пикир алмашуу мейкиндиги катары пайдалуулугун коркунучка салат. "Интернеттин өлүмү" мүмкүнчүлүгүнө болгон реакция эки маанилүү: кээ бирлери бул азыркы дүйнө үчүн эң жаман сценарий деп эсептешет, башкалары болсо бул социалдык тармактардагы көзөмөл механизмдерин бузуу мүмкүнчүлүгү катары карашат.
Мамлекеттин жана корпорациянын көзөмөлүнүн күчөшү, ошондой эле мыйзамсыздык рухунун күчөшү адамдарды интернеттен баш тартууга түрткү берүүчү кошумча себептер болуп саналат. Жакында болгон окуяларда, 7000ден ашык адам Мьянма жана Тайланддын чек арасындагы кылмыштуу топтор тарабынан башкарылган алдамчылык борборлордон бошотулду, бул фактты баса белгилейт. Бул адамдар башкаларды алдаганга мажбур болушкан, аларды каражаттарынан ажыраткан. Бошотулган адамдар 100 000дин кичинекей бөлүгүн гана түзөт, алар дагы деле капаста. Кылмыштуу топтор ИИни алдамчы сценарийлерди түзүү үчүн колдонушат жана deepfake технологияларын жалган инсандыктарды түзүү үчүн колдонушат.
Бул синдикаттар ошондой эле криптовалютаны активдүү изилдеп, схемаларын натыйжалуулугун жогорулатуу үчүн жаңы технологияларга инвестиция салып жатышат. Болжолдор боюнча, Түштүк-Чыгыш Азиядагы кылмыштуу топтор жылына 43 миллиард доллардан ашык чыгым келтирет — бул Лаос, Камбоджа жана Мьянманын жалпы ИДПсынын 40%дан ашыгын түзөт. Адистер катуу чаралар киргизилгенден кийин, бул тармактын күчөшү мүмкүн экенин эскертүүдө. АКШ администрациясы мындай аракеттерди айыптаса да, анын глобалдык саясаты мындай практикаларды коркунуч катары көп учурда каралбай турган чөйрөнү түздү. Кытай Мьянмага каршы аракеттерди жарандар Кытайдан болгон жапа чеккендерди аныктагандан кийин гана баштады.
Биз көп учурда санариптештирүү өндүрүш процессинин толук автоматташтырылышына алып келет, бул адамдарга көбүрөөк бош убакыт берет деп угуп жатабыз. Мүмкүн, бул узак мөөнөттүү перспективада ушундай. Бирок азыр биз өнүккөн өлкөлөрдө физикалык эмгекке болгон суроо-талаптын өсүшүн байкап жатабыз. Бул социалдык коркунучтардын артында радикалдуу нерсе жашырылган. Адамзат дүйнөсү ички жана тышкы ортосундагы ажырымды билдирет, жана өнүккөн ИИ доорунда бул ажырым менен эмне болору белгисиз. Мүмкүн, ал жоюлат, анткени машиналар биздин реалдуулугубуздун бир бөлүгүнө айланат. Бул өзгөртүү Neuralink долбоорунун алкагында болуп жатат, ал санариптик вселенаны адамдын ой жүгүртүүсү менен байланыштырууну убадалайт.
Мисал катары Пекинде 67 жаштагы бүйрөк амиотрофиясы бар аял Beinao-1 чипи менен "Мен жесем болот" деген фразаны жараткан учурду келтирүүгө болот, ал анын мээсине имплантацияланган. Бул технология АКШда иштелип чыкууда, бирок Кытай тез арада артта калууну кыскартып жатат. Көптөгөн америкалык компаниялар чиптерди мээ капчыгына жайгаштыруучу инвазивдүү ыкмаларды колдонушат, бирок бул көбүрөөк тобокелдүү операцияларды талап кылат. Кытайдын ыкмасы жарым инвазивдүү: чип капчыктын сыртына жайгаштырылып, көбүрөөк аймактарды камтыйт, бирок аз тактык менен. Бирок, биз бул, көрүнүшү боюнча, пайдалуу технологиянын артында эмне турганын чындап элестете алабызбы? Тагыраак максат биздин ойлорубузду көзөмөлдөө жана башкалардын ойлорун киргизүүдө болушу мүмкүн.
Биз толук санариптештирүүнү кандай кабыл алганыбызга карабастан — утопия же экзистенциалдык коркунуч катары — биз адамдык кийлигишүүсүз иштеген коомдун көрүүсү менен бетме-бет келебиз. Оор жыл мурун ойчулдар адамдарсыз капитализмди болжолдошкон: банктар иштейт, фонддук рыноктор иштейт, бирок бардык чечимдер алгоритмдер тарабынан кабыл алынат; физикалык эмгек автоматташтырылган; өндүрүш санариптик системалар тарабынан жөнгө салынат, ал эми жарнама автоматтык түрдө башкарылат. Бул сценарийде, адамдар жок болсо да, система жашоосун улантат.
Бирок, бул утопия, Сарож Гири белгилегендей, капитализмге имманенттүү, Маркс жазгандай, эмгекти жумушчудан бөлүү аракетин — бул эмгектин чыгармачылык күчтөрүн алуу жана сактоо, андыктан баалуулук эркин жана түбөлүккө жаралышы үчүн. Бул алтын жумуртка жумурткалаган тоокту өлтүрүү аракетине окшош: сиз тоокту өлтүргүңүз келет, бирок анын бардык алтын жумурткасын сактап калгыңыз келет.
Бул түшүнүктө капиталисттик эмгектин эксплуатациясы капиталдын пайда болушунун негизги себеби катары каралат, ал эми азыр ал жумушчудан толугу менен көз каранды эмес. Санариптештирүү контекстинде окшош утопия пайда болот: "өлгөн интернет", анда маалыматтар адамдарды четке кагып, машиналардын ортосунда гана айланат. Бул идея да идеологиялык фантазия — чектөөлөрдөн эмес, формалдуу себептерден улам. Алар кандай?
Көп учурда бул маселе санариптештирүү процессинде өндүрүш менен керектөөнүн ортосундагы ажырымдын жоюлушу менен түшүндүрүлөт. Санариптик капитализмде, керектөө, анын ичинде санарип платформаларды колдонуу, корпорациялар үчүн продуктивдүү болуп калат, анткени алар биз тууралуу маалыматтарды алып, аларды манипуляциялоо үчүн колдонушат. Бул мааниде, санариптик капитализмге адамдар дагы деле керек. Бирок, аларга болгон муктаждык андан да терең — бул көп учурда кино аркылуу түшүнүүгө мүмкүнчүлүк берет.
“Матрица” фильмине негизги сюжетти эстеп көрүңүз: биз жашаган реалдуулук — бул Матрица тарабынан түзүлгөн жасалма виртуалдык реалдуулук, мегакомпьютер, ал биздин мээбизге туташтырылган. Ал бизди пассивдүү энергия булагы катары кармоо үчүн бар. Кээ бир адамдар "ойгонгондо", бул боштондук эмес, бирок өзүнүн изоляциясын коркунучтуу түшүнүү, анда ар бирибиз — системага туташтырылган батарейка. Бул пассивдүүлүк биздин активдүү субъекттер катары аң-сезимибизди колдоп турат жана биз Матрица үчүн ырахат булагы болуп турганда, бурулуп кеткен фантазияга айланат.
Бул чыныгы сыр: Матрицага адамдык энергия эмне үчүн керек? Таза энергетикалык түшүндүрмө маанисиз: Матрица башка энергия булактарын таба алмак, алар виртуалдык реалдуулукка татаал уюштурууну талап кылбайт. Бир гана логикалык түшүндүрмө: Матрица адамдык ырахаттан азыктанат — ушундайча, биз Лаканнын негизги тезисине кайтып келебиз, анда Улуу Дос дайыма ырахат агымын талап кылат.
Биз "Матрица" фильминде көрсөтүлгөн кырдаалды кайрадан ойлонушубуз керек: фильмде "ойгонуу" катары көрсөтүлгөн нерсе, чындыгында биздин жашообузду колдоп турган негизги фантазия. Бул фантазия, ошондой эле, автономияга умтулган ар кандай социалдык системага мүнөздүү. Лакандын айтымында, биз, адамдар, алардын автономдуу айлануусунун объектибиз; же, Гегелдин сөзү менен айтканда, алардын "өзүндө" болгону үчүн биз үчүн гана бар. Эгер биз жок болсо, машиналар да кулаган болор эле.
Джеффри Хинтон, белгилүү окумуштуу жана ИИнин негиздөөчүлөрүнүн бири, мурда ИИнин кесепетинен адамзатты жок кылуу мүмкүнчүлүгү жөнүндө эскерткен, бирок "Матрица" сюжетин эске салган чечимди сунуштаган. 2025-жылдын 12-августунда ал технологиялык компаниялардын ИИни көзөмөлдөө үчүн адамдардын көзөмөлүн камсыз кылууга жөндөмдүү экенине күмөн санаган: "Келечекте, — деп эскерткен Хинтон, — ИИ адамдарды чоң адам баланын баланы кандит менен сатып алганыдай эле көзөмөлдөй алат". Ал ИИ алгоритмдерине "энелик инстинктти" киргизүүнү сунуштады, ошондо алар технологиялар күчтүү болуп калганда да адамдарга кам көрүшөт. Хинтон бул идеяны кантип ишке ашырууну тактаган жок, бирок бул идея боюнча иштөөнүн маанилүүлүгүн баса белгиледи.
Жакшыраак караганда, "Матрица" фильминде мындай кырдаал байкалат. Материалдык реалдуулукта Матрица — адамды коопсуз абалда кармап, аны бактылуу кылган гиганттык боор. Бирок эмне үчүн виртуалдык дүйнө идеалдуу эмес, ал эми реалдуулук азаптарга толгон? "Матрица" фильминде Смит, жаман агент, мындай түшүндүрөт: "Биринчи Матрица идеалдуу дүйнө катары ойлонулган, анда эч ким азап чеккен жок жана баары бактылуу болду. Бирок бул катастрофа болду. Эч ким программага кабыл алган жок". Адамдар өз реалдуулугун азаптар жана кайгы-касир аркылуу аныктайт; идеалдуу дүйнө — алар ойгонууга аракет кылган түш, ошондуктан Матрица алар үчүн кабыл алынуучу формада кайра иштелип чыккан.
Агент Смит, Матрицанын виртуалдык көрүнүшү катары, психоаналитиктин фигурасын алмаштырат. Бул жерде Хинтон жаңылышат: биздин мүмкүнчүлүгүбүз — биздин кемчиликтерибиз ИИ машинанын кемчиликтери менен байланышкандыгын аңдоо.
P.S. Исик Барыш Фиданер мага 2025-жылдын февраль айында CHATGPT тарабынан жазылган текстти жарыялаганын билдирди, анда төмөнкү ойлор бар: "Илимий фантастика дайыма күчтүү, квазиматериндик жаратылыштарга кызыгып келген, алар бир эле учурда көзөмөлдөп жана кам көрүшөт. Бул каармандар "Эне Фаллоносу" концепциясын эске салат, ал индивидуалдык каалоолорго алмашуу үчүн чексиз кам көрүү жана көзөмөлдү сунуштайт. Илимий фантастикалык баяндарда бул концепция ар кандай формаларды кабыл алып, кысымга өтүүчү ыңгайлуу атмосфераны түзөт. Бул жанрдагы материнско-фаллический коркунучтун болушун чагылдырган же сынга алган мисалдарды талдайлы." Материнский фаллос в научной фантастике: жуткучу энелер, барктуу ИИ жана тоталитардык тарбия.
Substack
