Эссесинде профессор Колин Льюис бизди жасалма интеллектти көзөмөлдөөнүн традициялык ыкмаларынын натыйжалуулугун жоготуп жаткан доордун босогосунда турганыбызды билдирет.
Маселе технологиялардын өнүгүшүндө эмес, коомдун алардын кесепеттерин кандайча жеңе алатында. Башында биз ИИни кызыктуу көрүнүш катары карап жатсак, азыр бул биздин социалдык институттарыбыздын чыдамдылыгын текшерүү сыноосу экендиги ачык болуп калды. Льюис, биз техникалык чектөөлөргө гана таянууну токтотуп, «жакшыртылган коомду» түзүүгө киришүүбүз керектигин баса белгилейт.
Биринчи маанилүү өзгөрүү көзгө көрүнбөй эле болду, «эшиктеги кулпу сынган» учурда. 2020-жылы татаал моделдерди үйрөтүү үчүн чыгымдар миллиондорго жеткен, бирок эки жылдан кийин бул чыгымдар он эсе кыскарды. Льюистин белгилөөсү боюнча, «жакшы сервери бар кичинекей команда мурда ири компаниялардын бюджетин талап кылган коргоо фильтрлерин жеңип өтө алат». Бул эски көзөмөл стратегиясынын, чектелген кирүү аркылуу, актуалдуулугун жоготуп жатканын көрсөтөт.
Бул концепция Джейми Бернарди жетекчилигиндеги илимпоздор тобу тарабынан жүргүзүлгөн изилдөөлөрдө тереңирээк каралган. Алардын жумушунда «бөтөлкө мойну» көзөмөлдүн жоголуп жатканын жана «көп жолу хакерлик кылуу» сыяктуу ыкмаларды колдонуу менен чектөөлөрдү жеңип өтүү мүмкүнчүлүгү бар экенин белгилешет, ал тургай моделдердин ички параметрлерине кирүү мүмкүнчүлүгү жок болсо дагы. Мындан тышкары, системаларды «коопсуз» кылуу үчүн тыюу салуу аракеттери жаңы тобокелдиктерди жаратууда. Льюис, «пайдалануу жана зомбулук кылуу ортосунда компромисс бар» деп түшүндүрөт: эгер сиз моделдерге вирус кандай иштээрин үйрөнүүгө тыюу салсаңыз, биотерроризмди алдын алуу үчүн, сиз жаңы муун дарыгерлерди реалдуу пандемияларга каршы күрөшүү үчүн куралдан ажыратасыз. Эгер сиз ИИни жарылуучу заттар же биологиялык куралдардын компоненттерин таанууга үйрөтсөңүз, ал кооптуу суроолорду бөгөттөөгө жардам бериши үчүн, сиз бул маалыматты коргонууга жол табууга аракет кылгандарга өткөрүп бересиз.
Льюистин пикири боюнча, экинчи өзгөрүү дагы да маанилүү болду. 2025-жылга карата ИИ адам интеллектине аналог катары каралбашы керектиги ачык болду. Йель университетинин профессору Лучано Флориди, бул «иштеген субъектилердин» формасы экенин — милдеттерди аткарган, бирок ниеттери же жоопкерчилиги жок инструмент экенин баса белгилейт.
Коомдун бул логикага адаптацияланышы менен коркунуч күчөйт. «Биз ИИ бизге ылайыкташабы, деп суроо бербейбиз», — деп жазат Льюис. — «Биз алгоритмдердин тез өтүшү үчүн институттарыбызды жөнөкөйлөтүп жатабыз». Соңку жылдарда экономика, медиа жана мамлекеттик процесстер санариптештирилип, стандартташтырылды, ошондуктан аларды машиналар натыйжалуу иштетип ала алышат. Натыйжада «биз дүйнөнү адамдар үчүн эмес, системалар үчүн ыңгайлуу болууга жатамыш кылып жатабыз».
Бул жөн гана инженердик маселе эмес, маанилүү саясий суроо. Маселе моделдерди жакшыртууда эмес, коомду кайра курууда. Эгер ИИ энергетикалык инфраструктурага чабуулдар үчүн колдонулса, «башка этикалык» ИИ талап кылынбайт, тескерисинче, өз алдынча ишти калыбына келтире ала турган система керек. Эгер дипфейктер шайлоолорду бурмалап жатса, аны аныктоо эмес, коомдун кайра өткөрүүгө даярдыгы маанилүү. Мындай мамиле, маселени техникалык каражаттар менен гана чечүүгө мүмкүн экендиги иллюзиясын жок кылат: бул эми саясий эрк жана институттардын жетилгендиги боюнча суроо. Яғни, технологиялар бизди саясий чечимдерди кабыл алуудан бошотпойт, болгону каталардын кесепеттерин ого бетер оорлотот.
Мунун натыйжасында «жакшыртылган» коомду түзүү зарылдыгы келип чыгат. Системалык адаптация талап кылынат: санарип платформаларда адамдын идентификациясын тастыктоодон, коргоочу ИИ системаларын жана энергетика, саламаттык сактоо сыяктуу критикалык секторлор үчүн резервдик инфраструктураны иштеп чыгууга чейин. Бул жаркын технологиялык келечек эмес, күнүмдүк, бирок өтө маанилүү жумуш: үзгүлтүксүз текшерүүлөр, резервдик системалар жана бузулууларга даярдык.
ИИ доорунун негизги суроосу, машиналар адамдардай ойлонуп кете алабы, же адамдар өздөрүн башкаруу мүмкүнчүлүгүн сактап калабы, ал эми андан баш тартуу оңой болуп калса.
Бул суроонун жообу үч факторго байланыштуу: алгоритмдердин чечимдерин жокко чыгаруу укугун сактоо, бузулуулар үчүн ишенимдүү инфраструктураны түзүү жана туруктуу «цикл дисциплинасын» — тобокелдиктерди үзгүлтүксүз аныктоо жана иштеп чыгуу. Коом машиналарга ылайыкташууну улантууну же институттарын бекемдөөнү тандайт. «Көрүүчүлөр болууну токтотуп, архитекторлор болуунун убагы келди», — деп жыйынтыктоодо автор.
Макала ИИни көзөмөлдөө боюнча контролдун орнотуу мезгили өткөрүп жиберилди, эми келечек «жакшыртылган коомго» таандык деген аталыш менен K-News сайтында биринчи жолу жарыяланды.
