Мы находимся на пороге новой эпохи, которая несет в себе как невероятные возможности, так и серьезные опасности. Об этом в интервью для "Российской газеты" говорит Аскар Акаев, профессор МГУ и иностранный член РАН.
В вашем совместном исследовании с профессором Ильей Ильиным и Андреем Коротаевым, опубликованном в журнале "Вестник РАН", вы делаете тревожный прогноз. Вы утверждаете, что в ближайшие годы человечество может столкнуться с эпохой сингулярности. Почему это слово вызывает ассоциации с "черными дырами", и чем оно грозит нам?
Аскар Акаев: Во-первых, стоит отметить, что многие астрофизики начали пересматривать свои взгляды на "черные дыры", но это отдельная тема. Мы говорим о технологической сингулярности, которая, по нашим оценкам, может наступить в период с 2027 по 2029 годы. В это время искусственный интеллект достигнет уровня, сопоставимого с человеческим, и сможет выполнять задачи, доступные только самым квалифицированным специалистам.
Поражает не только сам факт появления такого ИИ, но и то, что это происходит именно в данный момент, когда совпадают несколько глобальных процессов, словно это было заранее предопределено.
Это звучит почти мистически. Можете объяснить, что вы имеете в виду под технологической сингулярностью?
Аскар Акаев: Это этап, когда развитие технологий приведет к такой степени неопределенности, что мы не сможем предсказать, каким образом мы выйдем из этого состояния. По нашим прогнозам, этот "странный" период начнется в 2027-2029 годах и продлится около 15-20 лет.
И именно искусственный интеллект, как я понимаю, приведет нас в эту неопределенность?
Аскар Акаев: Да, но это более сложный и интересный процесс. Время появления ИИ человеческого уровня совпадает с несколькими глобальными эволюционными изменениями.
Человечество должно заранее договориться о том, как внедрить в нейронные сети некий "генетический код" дружелюбия и сотрудничества с человеком.
Начнем с демографии. В конце XIX и начале XX века произошло резкое увеличение численности населения, которое продолжалось много лет. Тогда вспомнили предсказания британского ученого Мальтуса о том, что население будет расти до бесконечности, и математики подтвердили это с помощью формул. Они предсказали, что население Земли достигнет критической отметки в 2026 году, но затем прогнозы сдвинулись на 2027 год.
Однако в начале 60-х годов, без каких-либо директив от властей, началось резкое снижение рождаемости. Получается, что население будет расти, но с замедлением.
К каким последствиям приведет это замедление?
Аскар Акаев: По прогнозам Сергея Петровича Капицы, к 2100 году число людей на Земле достигнет 11,4 миллиарда. Однако наши расчеты вместе с академиком Садовничим показывают, что к середине века это число не превысит 9 миллиардов, а к концу XXI века снизится до 7,9 миллиарда, в значительной степени из-за внедрения интеллектуальных систем в повседневную жизнь.
Но замедление не ограничивается только демографией. Наш астрофизик Александр Панов и американский ученый Рэймонд Курцвейл подтвердили, что замедление наблюдается в макроэволюции всего живого. Более того, оно затрагивает и эволюцию Вселенной, известную как планетарная сложность.
А профессор Андрей Коротаев математически доказал, что эти три процесса развивались с ускорением, но затем начали замедляться, причем все три графика совпадают в одной точке, которая как раз приходится на 2027-2029 годы.
Как возможно, что три независимых глобальных процесса совпали во времени? Вероятность этого кажется крайне низкой.
Аскар Акаев: Тем не менее, математические модели подтверждают этот вывод. Но дальше еще более удивительно. В этот же момент, когда человечество достигает своего эволюционного пика, появляется ИИ, который стремительно растет. Это может сделать его двигателем эволюции, ускоряя её многократно.
Таким образом, ИИ может стать спасителем нашей цивилизации, когда эволюция замедляется. Эти совпадения выглядят как сюжет фантастического рассказа. Тут можно задуматься о высших силах, которые могли предопределить такие события.
Аскар Акаев: Честно говоря, у меня нет ответа на этот вопрос. Надеюсь, со временем наука найдет его.
Вернемся к сингулярности, которая наступит в 2027-2029 годах. Почему мы не можем предсказать, какие законы будут действовать в этот период? Почему царит неопределенность?
Аскар Акаев: Это связано с тем, что мы не знаем, каким образом будет происходить взаимодействие человека и ИИ. Возможны два сценария: мы можем выйти из сингулярности вместе с ИИ, или же он сделает это вместо нас, что может иметь негативные последствия для человечества.
Сейчас все чаще вспоминают Илон Маска и Сэма Альтмана, которые предсказывают, что к 2030 году появится мощный суперразум, превосходящий человеческий интеллект в миллионы раз, и тогда человечество станет ненужным.
Аскар Акаев: Ситуация напоминает концепции "Геи" и "Медеи". Первая утверждает, что человечество создано для помощи Всевышнему в управлении миром, а "Медея" - для самоуничтожения и передачи власти ИИ. Непонятно, какая из этих концепций сбудется, и сторонники каждой из них примерно равны по численности.
Все зависит от того, каким образом будет реализован ИИ. Если он будет работать в симбиозе с человеком и под его контролем, это приведет к варианту "Геи", который обещает значительные прорывы во всех сферах. Если же ИИ выйдет из-под контроля и станет конкурентом человеку, то произойдет сценарий "Медеи", и деградация человека станет почти неизбежной. Грядущие 15-20 лет станут временем как великих возможностей, так и рисков. Это самый короткий и ответственный период в истории человечества.
Парадоксально, но история человечества в значительной степени — это история войн, которые постоянно происходят где-то на планете. В настоящее время речь идет о возможности Третьей мировой войны, и в будущем люди могут начать использовать примитивное оружие. Возможно, именно суперразум сможет остановить эти конфликты, ведь ему важно выживание, а не уничтожение вместе с неразумными людьми.
Аскар Акаев: По этой логике, искусственному интеллекту проще будет устранить тех, кто создает проблемы для его существования, то есть людей. И тогда мы увидим сценарий "Медеи".
Таким образом, задача науки заключается в том, чтобы предотвратить реализацию сценария суперразума. Но возможно ли это? Все страны уже заявили: "ИИ — это наше будущее!". Началась гонка, победители которой будут определять мир. В этой суматохе трудно будет разобраться, где "Гея", а где "Медея".
Аскар Акаев: Основная угроза современных систем ИИ — это большие языковые модели, основанные на методах глубокого машинного обучения, которые представляют собой "черный ящик". Когда ИИ контролируется человеком, это одно, но когда решения принимает "ящик" с непонятными целями, это совсем другое.
Каков же выход? Да, он существует. Основной принцип создания ИИ должен заключаться в том, что чем меньше "черного ящика" в модели, тем лучше. Сегодня разрабатываются системы с четкими причинно-следственными связями. Такие модели были созданы еще в 1950-1960-е годы нашими выдающимися математиками Андреем Колмогоровым и Владимиром Арнольдом. На их основе создаются нейронные сети, которые применяются для решения научно-технических задач, где важна причинно-следственная связь.
То есть, если мы понимаем, как мыслит ИИ, и "черный ящик" становится прозрачным, он будет под контролем. Почему же тогда многие боятся "Медеи"?
Аскар Акаев: К сожалению, контроль возможно лишь над ИИ человеческого уровня, а суперразум будет действовать независимо от человека. Человечество должно заранее договориться и внедрить в нейронные сети "генетический код" дружелюбия и сотрудничества с людьми, чтобы передать этот "ген" следующим поколениям ИИ как основной закон их поведения.
Справка "РГ"
Сингулярный (от лат. singularis "единственный, особенный") - это уникальный и неповторимый. В разных областях термину "сингулярность" придается различный смысл. В философии это событие, которое меняет восприятие невозможного.
Технологическая сингулярность подразумевает, что развитие науки и техники станет неконтролируемым и приведет к кардинальным изменениям в человеческой цивилизации.
Космологическая сингулярность — предполагаемое состояние Вселенной в момент Большого взрыва.
Гравитационная сингулярность — теоретическое понятие, обозначающее место, где пространство Вселенной обрывается и перестает существовать.
