Биз жаңы доордун босогосунда турабыз, ал өзүнө таң калыштуу мүмкүнчүлүктөрдү жана олуттуу коркунучтарды алып келет. Бул тууралуу «Россия газета» үчүн берген интервьюсунда Аскар Акаев, МГУнун профессору жана РАНдын чет өлкөлүк мүчөсү, айтып өттү.
Сиздин профессор Илья Ильин жана Андрей Коротаев менен биргеликте жүргүзгөн изилдөөлөрүңүздө, «Вестник РАН» журналында жарыяланган, сиздер тынчсыздандыра турган болжолдорду бересиздер. Сиздер жакынкы жылдарда адамзат сингулярдуулук доору менен беттешиши мүмкүн деп айтасыздар. Бул сөз «кара тешиктер» менен кандай байланышы бар жана ал бизге кандай коркунучтарды алып келет?
Аскар Акаев: Биринчиден, көптөгөн астрофизиктер «кара тешиктер» боюнча көз караштарын кайра карап чыгышы керек, бирок бул башка тема. Биз технологиялык сингулярдуулук жөнүндө айтып жатабыз, ал биздин баамдарыбыз боюнча 2027-2029-жылдар аралыгында болушу мүмкүн. Бул убакта жасалма интеллект адам деңгээлине жетет жана эң квалификациялуу адистерге гана жеткиликтүү болгон тапшырмаларды аткара алат.
Мындай ИИнин пайда болушу гана эмес, ошондой эле бул учурда бир нече глобалдык процесстердин бириккендиги таң калтырат, сымал бул алдын ала белгиленгендей.
Бул дээрлик мистикалык угулат. Технологиялык сингулярдуулук дегенде эмне түшүнгөнүңүздү түшүндүрсөңүз?
Аскар Акаев: Бул технологиялардын өнүгүшү андай деңгээлге жеткенде, биз бул абалдан кандайча чыгарыбызды болжолдоо мүмкүн эмес болот. Биздин болжолдорубуз боюнча, бул «биздин» период 2027-2029-жылдарда башталып, 15-20 жылга созулат.
Жасалма интеллект, мен түшүнгөндөй, бизди ушул белгисиздикке алып келет?
Аскар Акаев: Ооба, бирок бул андан да татаал жана кызыктуу процесс. Адам деңгээлиндеги ИИнин пайда болушу бир нече глобалдык эволюциялык өзгөрүүлөр менен бир убакта келип жатат.
Адамзат нейрондук тармактарга адам менен кызматташуу жана достук үчүн «генетикалык кодду» киргизүү боюнча алдын ала макулдашышы керек.
Демографиядан баштайлы. XIX кылымдын аягында жана XX кылымдын башында калк санынын кескин өсүшү болду, ал көп жылдар бою улантылды. Ошондо британ окумуштуусу Мальтусунун калк саны чексиз өсөт деген божомолун эске алышты, жана математиктер булды формулалар менен тастыкташты. Алар Жер шарындагы калк саны 2026-жылы критикалык чекке жетет деп божомолдошту, бирок кийин божомолдор 2027-жылга жылдырылды.
Бирок 60-жылдардын башында, бийликтен эч кандай директивалар жок, тукумдуулуктун кескин төмөндөшү башталды. Демек, калк өсөт, бирок жайлап.
Бул жайлашуу кандай кесепеттерге алып келет?
Аскар Акаев: Сергей Петрович Капица божомолдорунун негизинде, 2100-жылга чейин Жер шарындагы адамдардын саны 11,4 миллиардга жетет. Бирок биздин эсептөөлөр академик Садовничий менен бирге, кылымдын ортосуна чейин бул сан 9 миллиарддан ашпайт, ал эми XXI кылымдын аягына чейин 7,9 миллиардга төмөндөйт, негизинен интеллектуалдык системалардын күнүмдүк жашоого киргизилиши себептүү.
Бирок жайлашуу демография менен гана чектелбейт. Биздин астрофизик Александр Панов жана америкалык окумуштуу Рэймонд Курцвейл макроэволюцияда жайлашуунун байкалганын тастыкташты. Мындан тышкары, ал Жер шарындагы бардык тирүү организмдердин эволюциясына, планетардык татаалдыктын эволюциясына да таасир этет.
Профессор Андрей Коротаев бул үч процесс математикалык жактан тездетилгенин, бирок кийин жайлашканын далилдеди, жана үч график бир эле чекитте, 2027-2029-жылдарга туура келет.
Үч өз алдынча глобалдык процесс убакыт боюнча кандайча бирикти? Бул мүмкүнчүлүк өтө төмөн көрүнөт.
Аскар Акаев: Ошентсе да, математикалык моделдер бул жыйынтыкты тастыктап жатат. Бирок андан ары дагы таң калыштуу. Адамзат өзүнүн эволюциялык чокусуна жеткенде, ИИ пайда болот, ал тез өсүүдө. Бул аны эволюциянын кыймылдаткычы кылып, аны бир нече эсе тездетиши мүмкүн.
Ошентип, ИИ биздин цивилизациябыздын куткаруучусу болушу мүмкүн, эгерде эволюция жайлап жатса. Бул коинциденттер фантастикалык баяндын сюжетиндей көрүнөт. Бул жерде жогорку күчтөрдүн мындай окуяларды алдын ала белгилөөгө мүмкүнчүлүгү жөнүндө ойлонууга болот.
Аскар Акаев: Чынчыл болсом, бул суроого жообум жок. Убакыттын өтүшү менен илим бул маселени чечет деп үмүттөнөм.
2027-2029-жылдарда боло турган сингулярдуулукка кайтып келсек. Неге биз бул мезгилде кандай мыйзамдар иштей турганын божомолдой албайбыз? Неге белгисиздик үстөмдүк кылат?
Аскар Акаев: Бул адам менен ИИнин өз ара аракеттенүүсү кандайча болорун билбегендиктен. Эки сценарий мүмкүн: биз ИИ менен сингулярдуулуктан чыга алабыз, же ал бизден мурун чыгат, бул адамзат үчүн терс кесепеттерге алып келиши мүмкүн.
Учурда Илон Маск жана Сэм Альтман жөнүндө көбүрөөк айтылууда, алар 2030-жылга чейин адам интеллектинен миллиондорчу эсе ашкан күчтүү суперразум пайда болот деп божомолдошот, жана ошол учурда адамзат керексиз болуп калат.
Аскар Акаев: Бул абал «Гея» жана «Медея» концепцияларына окшош. Биринчиси, адамзат Жаратканга дүйнөнү башкарууга жардам берүү үчүн жаратылган деп эсептейт, ал эми «Медея» - өзүн-өзү жок кылуу жана ИИге бийлик өткөрүү үчүн. Бул концепциянын кайсысы ишке ашары белгисиз, жана алардын ар биринин колдоочулары саны боюнча тең.
Бардыгы ИИ кандайча ишке ашырыларына байланыштуу. Эгер ал адам менен симбиоздо жана анын көзөмөлүндө иштесе, бул «Гея» вариантын алып келет, ал бардык тармактарда олуттуу жетишкендиктерди убада кылат. Эгер ИИ көзөмөлдөн чыгып, адамга атаандаш болуп калса, анда «Медея» сценарийи болот, жана адамдын деградациясы дээрлик不可避免. Келечектеги 15-20 жыл чоң мүмкүнчүлүктөрдүн жана коркунучтардын мезгили болот. Бул адамзаттын тарыхындагы эң кыска жана жооптуу мезгил.
Парадоксалдуу, бирок адамзаттын тарыхы негизинен планетада кайсы бир жерде болуп жаткан согуштардын тарыхы. Учурда Үчүнчү дүйнөлүк согуштун мүмкүнчүлүгү жөнүндө сөз болуп жатат, жана келечекте адамдар примитивдүү куралдарды колдонууга киришиши мүмкүн. Мүмкүн, суперразум ушул конфликттерди токтотууга жардам берет, анткени анын жашоосу, акылсыз адамдар менен бирге жок кылуудан эмес, жашоодон турат.
Аскар Акаев: Бул логика боюнча, жасалма интеллект өзүнүн жашоосуна коркунуч туудурган адамдарды жок кылуу оңой болот. Ошондо биз «Медея» сценарийин көрөбүз.
Ошентип, илимдин милдети суперразум сценарийинин ишке ашуусун алдын алуу болуп саналат. Бирок бул мүмкүнбү? Бардык өлкөлөр «ИИ - бул биздин келечегибиз!» деп жарыялашты. Жарыш башталды, анын жеңүүчүлөрү дүйнөнү аныктайт. Бул шатыранын ичинде «Гея» жана «Медея» кайсынысы экенин түшүнүү кыйын болот.
Аскар Акаев: Заманауи ИИ системаларынын негизги коркунучу - бул терең машиналык үйрөнүү методдоруна негизделген чоң тилдик моделдер, алар «кара куту» болуп эсептелет. Эгер ИИ адам тарабынан көзөмөлдөнсө, бул бир башкача, бирок «максаттары түшүнүксүз» «куту» чечимдерди кабыл алса, бул башкача.
Эми чыгуу кандай? Ооба, ал бар. ИИни түзүүнүн негизги принциби «кара кутунун» моделде аз болушу керектигинде. Бүгүнкү күндө так себеп-натыйжа байланыштары бар системалар иштелип жатат. Мындай моделдер 1950-1960-жылдары биздин белгилүү математиктер Андрей Колмогоров жана Владимир Арнольд тарабынан түзүлгөн. Алардын негизинде илимий-техникалык маселелерди чечүү үчүн колдонулган нейрондук тармактар түзүлүүдө, анда себеп-натыйжа байланышы маанилүү.
Демек, эгер биз ИИ кандайча ойлонорун түшүнсөк жана «кара куту» ачык болсо, ал көзөмөлдө болот. Эмне үчүн көпчүлүк «Медеядан» коркушат?
Аскар Акаев: Тилекке каршы, көзөмөл адам деңгээлиндеги ИИге гана мүмкүн, ал эми суперразум адамдан көз каранды эмес иштейт. Адамзат алдын ала макулдашып, нейрондук тармактарга адамдар менен кызматташуу жана достук үчүн «генетикалык кодду» киргизиши керек, бул «генди» кийинки ИИ муундарына алардын жүрүм-турумунун негизги мыйзамы катары өткөрүү үчүн.
Справка «РГ»
Сингулярдык (латынча singularis «биринчи, өзгөчө») - уникалдуу жана кайталанбас. Ар түрдүү тармактарда «сингулярдуулук» терминине ар кандай маанилер берилет. Философияда бул мүмкүн эмес нерсени кабыл алууну өзгөртчү окуя.
Технологиялык сингулярдуулук илим жана техниканын өнүгүшү көзөмөлдөнбөй, адам цивилизациясында негизги өзгөрүүлөргө алып келет деп түшүндүрөт.
Космологиялык сингулярдуулук - Бул чоң жарылуу учурунда Жер шарындагы абал.
Гравитациялык сингулярдуулук - бул теоретикалык түшүнүк, ал жерде Жер шарындагы мейкиндик үзүлүп, жок болуп кетет.
