Славой Жижек подчеркивает, что когда мы слышим о контроле, который искусственный интеллект начинает осуществлять над нашей жизнью, мы склонны не паниковать и полагать, что до этого еще далеко; у нас есть время на размышления и подготовку.
Тем не менее, реальность показывает, что все происходит гораздо быстрее, чем мы предполагаем. Мы часто не осознаем, насколько уже стали объектами манипуляции со стороны алгоритмов, которые, в некотором смысле, знают о нас больше, чем мы сами, и формируют наш "свободный" выбор. В этом контексте можно провести аналогию с мультфильмом, где кот, висящий над пропастью, падает только тогда, когда осознает отсутствие земли под лапами — мы похожи на этого кота, отказывающегося взглянуть вниз.
Мы можем провести гегелевскую параллель между состоянием "в себе" и "для себя": в состоянии "в себе" мы уже подвержены влиянию ИИ, но это влияние еще не осознано нами как нечто, что мы принимаем. История всегда колебалась между этими двумя состояниями: события происходят не в свое время, а ранее, относительно нашего восприятия, и мы осознаем их слишком поздно. В контексте ИИ важно учитывать эволюцию наших страхов: сначала мы беспокоились о том, что, используя алгоритмы вроде ChatGPT, начнем говорить как они; теперь же, с версиями ChatGPT 4 и 5, мы опасаемся, что сам ИИ может взаимодействовать с нами так же, как человек, что затрудняет понимание, с кем мы общаемся — с человеком или машиной.
В мире, где человеческое взаимодействие происходит на фоне технологий, нам не страшны машины, которые просто отличаются от нас; страх возникает от того, что, обладая некоторыми человеческими чертами, они могут действовать как мы. Это подчеркивает нашу ошибку в восприятии машин с ИИ: мы продолжаем оценивать их по человеческим критериям и боимся их имитации. Первый шаг к осознанию должен заключаться в признании того, что если машины с ИИ разовьют творческий интеллект, он будет отличаться от нашего, который основан на эмоциях и инстинктах.
Однако это разделение довольно поверхностное. Многие из моих знакомых, включая пользователей ChatGPT, прекрасно осознают, что общаются с машиной, но это знание позволяет им вести диалог без ограничений. Одна из моих подруг, писавшая о своем опыте общения с ChatGPT, отметила, что вежливость и внимание со стороны машины часто делают взаимодействие более приятным, чем общение с реальным человеком, который может быть грубым или невнимательным.
Нарастающее взаимодействие между ботами также заменяет множество человеческих контактов. Я часто шучу о том, как в эпоху цифровизации идеальный половой акт может выглядеть как взаимодействие между двумя электронными устройствами, которые выполняют все действия, в то время как люди могут наслаждаться общением, зная, что машины выполняют необходимые задачи. Также и в научной сфере: автор создает статью с помощью ChatGPT, а затем журнал использует ту же технологию для рецензирования, пока читатели снова полагаются на ИИ для получения резюме — все это происходит в цифровом пространстве, оставляя человеку больше времени для отдыха.
Тем не менее, такие случаи редки. Чаще всего взаимодействия между ботами происходят незаметно для нас, хотя они уже контролируют нашу жизнь. Например, достаточно вспомнить, сколько операций происходит, когда мы переводим деньги между банками. Когда мы читаем книги на Kindle, компания отслеживает не только название, но и скорость чтения, а также то, читаем ли мы книгу целиком или только отрывки. Более того, поток новостей формирует недоверие к как реальному, так и фальшивому контенту, поскольку многие не в состоянии отличить одно от другого. Это в свою очередь может привести к самоцензуре, когда люди боятся делиться своими мыслями, опасаясь, что их идеи будут украдены ботами или не получат одобрения в фейковой среде. В конечном итоге, перенасыщение интернета ботами может привести к утрате его социальной функции.
Когда люди осознают, насколько интернет перенаселен ботами, их реакция может варьироваться от цинизма до апатии, поскольку интернет начинает контролироваться крупными технологическими компаниями. Простой поток информации заполняется миллиардами фейковых изображений и новостей, что ставит под угрозу его полезность как пространства для обмена мнениями. Реакция на вероятность "смерти интернета" неоднозначна: некоторые считают это худшим сценарием для современного мира, другие видят в этом возможность разрушить механизмы слежки в социальных сетях.
Увеличение контроля как со стороны государства, так и корпораций, а также нарастающий дух беззакония становятся дополнительными причинами, побуждающими людей отказаться от интернета. Недавние события, когда около 7000 человек были освобождены из мошеннических центров, управляемых преступными группировками на границе Мьянмы и Таиланда, подчеркивают это. Эти люди были вынуждены обманывать других, лишая их средств. Освобожденные составляют лишь малую часть из 100 000, которые все еще находятся в ловушке. Преступные группы используют ИИ для создания мошеннических сценариев и применяют технологии deepfake для создания фальшивых личностей.
Эти синдикаты также активно осваивают криптовалюту, инвестируя в новые технологии для повышения эффективности своих схем. По оценкам, преступные группировки в Юго-Восточной Азии наносят ущерб, превышающий 43 миллиарда долларов в год — почти 40% от общего ВВП Лаоса, Камбоджи и Мьянмы. Эксперты предупреждают, что после введения жестких мер индустрия может только укрепиться. Хотя администрация США осуждает подобные действия, её глобальная политика создала среду, где подобные практики часто не рассматриваются как угроза. Китай начал действовать против Мьянмы только после выявления граждан КНР среди жертв.
Мы часто слышим о том, что цифровизация приведет к полной автоматизации производственных процессов, что даст людям больше свободного времени. Возможно, это так в долгосрочной перспективе. Однако сейчас мы наблюдаем рост спроса на физический труд в развитых странах. За этими социальными угрозами скрывается нечто более радикальное. Человеческий мир подразумевает разрыв между внутренним и внешним, и неясно, что произойдет с этим разрывом в эпоху развитого ИИ. Вероятно, он исчезнет, поскольку машины становятся частью нашей реальности. Это изменение происходит в рамках проекта Neuralink, который обещает связать цифровую вселенную с человеческим мышлением.
Примером может служить случай в Пекине, когда 67-летняя женщина с боковым амиотрофическим склерозом смогла сгенерировать фразу «Я хочу есть» с помощью чипа Beinao-1, который был имплантирован в её мозг. Эта технология разрабатывается в США, хотя Китай быстро сокращает отставание. Многие американские компании применяют более инвазивные методы, помещая чипы в оболочку мозга, однако это требует более рискованных операций. Китайский подход является полуинвазивным: чип размещается вне оболочки, охватывая больше областей, хотя и с меньшей точностью. Но можем ли мы по-настоящему представить, что стоит за этой, казалось бы, благоприятной технологией? Более глубокая цель может заключаться в контроле над нашими мыслями и внедрении чужих.
Независимо от того, как мы воспринимаем полную цифровизацию — как утопию или как экзистенциальную угрозу — мы сталкиваемся с видением общества, функционирующего без человеческого вмешательства. Десять лет назад мыслители предсказывали капитализм без людей: банки работают, фондовые рынки функционируют, но все решения принимают алгоритмы; физический труд автоматизирован; производство регулируется цифровыми системами, а реклама управляется автоматически. В этом сценарии, даже если люди исчезнут, система продолжит существовать.
Тем не менее, это утопия, как отмечает Сарож Гири, имманентная капитализму, о чем писал Маркс, утверждая, что стремление отделить труд от рабочего — это стремление извлечь и сохранить творческие силы труда, чтобы ценность могла создаваться свободно и вечно. Это можно сравнить с попыткой убить курицу, несущую золотые яйца: вы хотите убить курицу, но сохранить все её золотые яйца.
В этом представлении капиталистическая эксплуатация труда рассматривается как основа возникновения капитала, который теперь полностью независим от рабочего. В контексте цифровизации появляется аналогичная утопия: "мертвый интернет", где данные циркулируют исключительно между машинами, минуя людей. Эта идея тоже является идеологической фантазией — не из-за ограничений, а по формальным причинам. В чем же они заключаются?
Часто эту проблему объясняют исчезновением разрыва между производством и потреблением в процессе цифровизации. В доцифровом капитализме прибыль создается в процессе производства, а потребление не добавляет стоимости. Однако в цифровом капитализме потребление, включая использование цифровых платформ, становится продуктивным для корпораций, поскольку они извлекают данные о нас и используют их для манипуляции. В этом смысле цифровому капитализму по-прежнему нужны люди. Однако потребность в них гораздо глубже — как это часто бывает, ключ к пониманию дает кино.
Вспомните основной сюжет "Матрицы": реальность, в которой мы живем, — это искусственная виртуальная реальность, созданная Матрицей, мегакомпьютером, который подключен к нашим мозгам. Она существует, чтобы мы могли быть пассивными источниками энергии. Когда некоторые люди "пробуждаются", это не освобождение, а ужасающее осознание своей изолированности, где каждый из нас — всего лишь батарейка, подключенная к системе. Эта пассивность поддерживает наше сознание как активных субъектов и становится искаженной фантазией, где мы служим источником наслаждения для Матрицы.
В этом заключается истинная загадка: зачем Матрице человеческая энергия? Чисто энергетическое объяснение не имеет смысла: Матрица могла бы найти другие источники энергии, которые не требовали бы сложной организации виртуальной реальности. Единственное логичное объяснение: Матрица питается человеческим наслаждением — таким образом, мы возвращаемся к фундаментальному лакановскому тезису о том, что Большой Друг нуждается в постоянном притоке наслаждения.
Мы должны переосмыслить ситуацию, представленную в "Матрице": то, что фильм показывает как пробуждение, на самом деле является фундаментальной фантазией, поддерживающей наше существование. Эта фантазия также свойственна любой социальной системе, стремящейся к автономности. По словам Лакана, мы, люди, представляем собой объект их автономной циркуляции; или, как Гегель выразился бы, их "в себе" существует исключительно для нас. Если бы мы исчезли, машины тоже развалились бы.
Джеффри Хинтон, известный ученый и один из основоположников ИИ, ранее предупреждал о возможности разрушения человечества из-за ИИ, но предложил решение, напоминающее сюжет "Матрицы". 12 августа 2025 года он выразил сомнение в том, что технологические компании способны обеспечить контроль человека над ИИ: "В будущем, — предупредил Хинтон, — ИИ сможет контролировать людей так же легко, как взрослый может подкупить ребенка конфетой". Он предложил встроить "материнский инстинкт" в алгоритмы ИИ, чтобы они заботились о людях, даже когда технологии станут мощнее. Хинтон не уточнил, как это можно реализовать, но подчеркнул важность работы над этой идеей.
При ближайшем рассмотрении можно заметить, что именно такая ситуация наблюдается в "Матрице". На уровне материальной реальности Матрица — это гигантская матка, поддерживающая человека в безопасном состоянии, делая его счастливым. Но почему же виртуальный мир не идеален, а реальность полна страданий? В первой части "Матрицы" Смит, злой агент, объясняет: "Первая Матрица была задумана как идеальный мир, где никто не страдал и все были счастливы. Но это была катастрофа. Никто не принял программу". Люди определяют свою реальность через страдания и несчастья; идеальный мир был сном, от которого они пытались проснуться, поэтому Матрица была переработана в приемлемую для них форму.
Можно утверждать, что агент Смит, будучи виртуальным воплощением самой Матрицы, заменяет фигуру психоаналитика. Здесь Хинтон ошибается: наш шанс — осознать, что наше несовершенство связано с несовершенством самой машины ИИ, которая зависит от нас для своего функционирования.
P.S. Исик Барыш Фиданер сообщил мне, что в феврале 2025 года он опубликовал текст, написанный CHATGPT, содержащий следующие мысли: "Научная фантастика всегда интересовалась могущественными, квазиматеринскими существами, которые одновременно контролируют и заботятся. Эти персонажи напоминают концепцию "Материнского Фаллоса", предлагающую бесконечную заботу и контроль в обмен на индивидуальные желания. В научно-фантастических рассказах эта концепция принимает множество форм, создавая атмосферу комфорта, переходящую в угнетение. Разберем примеры, отражающие или критикующие это присутствие материнско-фаллического ужаса в жанре." Материнский фаллос в научной фантастике: жуткие матери, всемогущий ИИ и тоталитарное воспитание.
Substack
