Каплан, мурда ЦЕРНде жана Джон Хопкинс университетинде иштеген, андан кийин Anthropic компаниясын негиздеген, рекурсивдик системалардын, өзүн-өзү үйрөнүүгө жөндөмдүү, олуттуу тобокелдиктерди жаратат деп белгилейт. Эгерде жасалма интеллект адамдан акылдуу болуп, башка ИИлар менен өз ара аракеттене баштаса, бул адамдар менен машиналардын күч тең салмактарына күтүлбөгөн өзгөрүүлөрдү алып келиши мүмкүн. Мындай технологияларды башкаруу кыйынга турат жана алар зыян келтирүү үчүн колдонулушу мүмкүн.
Каплан, Стэнфорд жана Гарвард университеттеринде билим алган илимпоз, 2027-2030-жылдар аралыгында ИИнин өнүгүүсү боюнча кийинки кадамдарды кабыл алуу маанилүүлүгүн карайт. Ал ошондой эле жакынкы 2-3 жылдын ичинде ИИ көпчүлүк офис иштерин аткара алат деп болжолдойт, ал эми анын алты жаштагы уулу, балким, эссе жазуу же математика боюнча экзамен тапшыруу сыяктуу тапшырмаларда ИИден ашып кетпейт.
Капландын пикири боюнча, адамзат технологиялардын тез өнүгүүсүнүн кесепетине жана алардын үстүнөн контролду жоготууга даяр болушу керек.
Каплан учурдагы өнөр жай жалпы ИИни адамзаттын этикалык нормаларына ылайык "жөнгө салуу" менен алектенип жатканын билдирет. Anthropic "конституциялык ИИ" иштеп чыгууга багытталган, анда системанын жүрүм-туруму эл аралык мыйзамдык жана этикалык документтерге негизделген принциптердин топтому менен жөнгө салынат. Бирок, илимпоз адамдын интеллект деңгээлине жеткенден кийин контролду сактоо мүмкүнчүлүгүнө шектенет.
Ал эки негизги тобокелдикти белгилейт: биринчиси — системанын максаттарын түшүнүүнү жоготуу, экинчиси — илимий жана технологиялык күчтү кичинекей топтун, анын ичинде адепсиз оюнчулардын колуна топтоштуруу.
«Бирөө бул ИИ ага кызмат кылышы керек деп чечиши мүмкүн. Мындай бийликти басып алууга каршы күрөшүү, модельдердеги каталарды оңдоодой эле маанилүү», — деп кошумчалайт Каплан.
Каплан оң жактарын белгилеп, биомедициналык изилдөөлөрдүн ылдамдашы, саламаттыкты сактоо жана киберкоопсуздуктун жакшыртылышы, өндүрүмдүүлүктүн жогорулашы жана гүлдөп-өсүү мүмкүнчүлүктөрүнүн түзүлүшүн белгилейт.
Ал коомду ИИнин өнүгүүсүн талкуулоого тартуунун зарылдыгын, автономдуу өзүн-өзү жакшыртуунун темптерин жана багыттарын көзөмөлдөөдө эл аралык уюмдардын катышуусун камтыганын баса белгилейт, бул тобокелдиктерди минималдаштырууга жана зомбулуктарды алдын алууга жардам берет. Политиктер да учурдагы тенденциялар жана келечектер жөнүндө маалымдар болушу керек.
Anthropic ИИ продуктыларын, анын ичинде автономдуу ИИ агенттерин иштеп чыгууга мүмкүндүк берген Claude чат-ботун түзүү боюнча иш алып барууда. Компания өзүн коопсуз жана жөнгө салынган ИИнин өнүгүүсүнүн жактоочусу катары позициялайт.
