Өзүнүн жаңы эссесинде, Financial Times басылмасында жарыяланган, Дарио Амодеи, жасалма интеллект боюнча алдыңкы адистердин бири, күчтүү ИИ системаларынын өнүгүшү менен байланышкан мүмкүн болгон коркунучтар тууралуу тынчсызданууларды көтөрөт. Амодеи, алдыңкы технологияларды түзүүгө активдүү катышып, адамзаттын дээрлик элестетүү мүмкүн эмес бийликке жетүүнүн босогосунда турганын, бирок биздин социалдык, саясий жана технологиялык структуралардын бул бийликти коопсуз башкарууга даярбы, белгисиз экенин айтат.
Ал ИИ тармагындагы прогресстин ылдамдыгы контролдоо жана коопсуздукту камсыз кылуу үчүн жасалган кадамдарды кыйла ашып өткөнүнө көңүл бурат.
Амонеи контролдонуучу «күчтүү жасалма интеллекттин» өнүгүшү менен байланышкан тобокелдиктер тууралуу өзүнүн тынчсызданууларын бөлүшөт. Анын болжолдоолору боюнча, мындай системалар жакынкы жылдарда Нобель сыйлыгынын лауреаттары же алдыңкы мамлекеттик ишмерлерден кыйла өнүккөн болот.
Ал массалык жумуш орундарын жоготуу жана биотерроризм коркунучунун жогорулашы сыяктуу мүмкүн болгон кесепеттер жөнүндө сөз кылат. Амодеи боюнча, жасалма интеллект айрым адамдарга мурдагыдай эле тар чөйрөдөгү адистерге гана жеткиликтүү болгон билимдерди жана көндүмдөрдү берет, бул болсо биологиялык куралдарды түзүүнү жеңилдетиши мүмкүн, анын кесепеттери катастрофалык болушу мүмкүн.
«Мурда ядролук куралды түзө албаган же чума чыгарууга мүмкүнчүлүгү жок адам, эми вирусология боюнча адис боло алат», — деп баса белгилейт ал.
Мындан тышкары, Амодеи ИИ контролдон чыгып кетүү коркунучуна көңүл бурат, бул авторитардык режимдердин күчөшүнө жана «глобалдык тоталитардык диктатуранын» түзүлүшүнө алып келиши мүмкүн.
Ал акырында өкмөттөрдүн, илимий коомчулуктун жана бизнесинин күчтүү ИИнин пайда болушу менен байланышкан коркунучтарды минималдаштыруу үчүн эффективдүү жөнгө салуу механизмдерин иштеп чыгуу боюнча тез арада аракет кылууга чакырат.
Дарио Амодеи
Дүйнөлүк жасалма интеллект индустриясындагы эң таасирдүү адистердин бири.
Anthropic компаниясынын негиздөөчүсү жана башкы директору.
Физик жана машина менен үйрөнүү боюнча адис, мурда OpenAIда жетекчилик кызматтарда иштеген жана ири тил моделдерин иштеп чыгууга катышкан.
Амодеи ИИни өнүктүрүүдө коопсуздук жана контролдоо боюнча катуу чараларды колдогондугу менен белгилүү. Анын OpenAI жетекчилиги менен тобокелдиктерди башкаруу боюнча пикир келишпестиктери компаниядан кетишинин себептеринин бири болду.
Anthropic
Anthropic — 2021-жылы OpenAIнын мурдагы кызматкерлери тарабынан негизделген америкалык компания. Штаб-квартирасы Сан-Францискодо жайгашкан.
Компания коопсуз жана башкарылуучу ИИ системаларын иштеп чыгууга көңүл бурат, ал эми анын негизги продукты — ChatGPT жана башка ири ИИ моделдерине атаандаш болгон Claude тил моделдери.
Anthropic «конституциялык ИИ» концепциясына басым жасап, моделдерди кооптуу жүрүм-турумдун тобокелдиктерин азайтуу үчүн алдын ала белгиленген этикалык нормаларды сактоого үйрөтөт.
Таасир жана колдоо
Anthropic ИИ тармагында лидерлердин бири катары эсептелет жана миллиарддаган доллар инвестиция тарткан.
Ири өнөктөштөрдүн жана инвесторлордун арасында Amazon жана Google бар.
Ошондуктан Дарио Амодеи ИИ менен байланышкан тобокелдиктер боюнча пикирлери чоң мааниге ээ: ал жөн гана сынчы эмес, дүйнөдөгү эң күчтүү ИИ системаларын түзүп жаткан эксперт.
