Проблема галлюцинаций в ИИ заключается в том, что они не осознают своих действий, а просто обрабатывают и сопоставляют данные. Некоторые специалисты утверждают, что подобные ошибки возникают из-за чрезмерного обучения, когда ИИ «запоминает» информацию вместо того, чтобы обобщать. В то же время другие исследователи указывают на недостатки алгоритмов и влияние сторонних злоумышленников, которые могут «отравлять» обучающие данные.
В конечном итоге, большие языковые модели действуют как системы прогнозирования, создавая наиболее вероятные последовательности слов в ответ на запросы. Если входящие данные неполные или противоречивые, они все равно предоставляют ответ, так как именно для этого и были разработаны. Их согласованность базируется на структурной связности предложений, а не на соответствии действительности или моральной ценности. В отличие от человеческого разума, ИИ не может хранить противоречивую информацию или обновлять свои суждения, что приводит к тому, что при возникновении неопределенности они заполняют пробелы правдоподобными, но ложными утверждениями.
Подобное поведение можно сравнить с «нарциссической конфабуляцией», когда человеческая психика создает связную, но искаженную историю для защиты своей целостности. Важно отметить, что речь идет не о патологизации людей с нарциссическими чертами, а о понимании причин, по которым как люди, так и машины могут создавать убедительные, но не соответствующие истине нарративы.
Нарциссизм, часто используемый как эмоционально окрашенный термин, на самом деле представляет собой расстройство восприятия себя, приводящее к эгоцентризму и затруднениям в отношениях. Люди с нарциссическими чертами могут демонстрировать уверенность и высокомерие, чтобы скрыть свою уязвимость, создавая ложное представление о себе. Это не злонамеренный обман, а защитный механизм, помогающий сохранить самоощущение, подвергающееся постоянной угрозе. Когда они сталкиваются с неопределенностью или сомнением, они стараются продемонстрировать свою власть и уверенность.
Сэм Вакнин, эксперт в области нарциссизма, отмечает: «Чтобы компенсировать недостатки в памяти, нарциссы конфабулируют: создают правдоподобные вставки, в которые искренне верят. Логика становится защитным механизмом, с помощью которого они скрывают свою неуверенность и пустоту, характерные для людей с хрупким самоощущением».
Хотя концепция «я» остается предметом обсуждений, эксперты согласны в том, что хорошо интегрированное «я» способно к рефлексии и противостоянию противоречиям. Оно может примирять противоречивую информацию и сохранять идентичность, не нуждаясь в постоянном внешнем подтверждении. Люди с устойчивым «я» могут принимать противоречивые идеи, такие как «Я люблю своего партнера, но сейчас недоволен им». В то время как нарциссы склонны к черно-белому мышлению, стремясь устранить противоречия, что ограничивает их способности к росту и интеграции. Таким образом, для них согласованность становится важнее истины.
Вспоминая случай из своей жизни, я помню, как ехала в машине с мужем, который рассказывал историю, становившуюся все более запутанной. Когда я спросила его, действительно ли это произошло, он ответил: «Нет, но могло бы». Позже я осознала, что это была «нарциссическая конфабуляция», попытка переписать реальность для защиты своего хрупкого самоощущения.
Эта динамика в человеческом поведении дает представление о том, как ИИ функционирует в условиях неопределенности. В обоих случаях противоречия не принимаются, и правдоподобность заменяет истину. И люди, и ИИ стремятся усилить свои ответы, поскольку отказ от истории угрожает их внутренней целостности, будь то психическая или алгоритмическая. Это вызывает беспокойство, так как, несмотря на кажущуюся правдоподобность, внутренняя проверка отсутствует.
Если галлюцинации возникают из-за недостатка структуры, подобной «я», то одним из путей решения проблемы может стать создание систем, которые лучше справляются с противоречиями. Это меняет вопрос с «Почему ИИ лжет?» на «Как сделать так, чтобы ИИ мог сосуществовать с неопределенностью?» Возможно, это означает не создание разумной системы, а разработку архитектуры, способной хранить противоречивую информацию, не прибегая к преждевременному разрешению.
К примеру, можно рассмотреть возможность добавления постоянной памяти и механизмов самопроверки, которые позволят ИИ отмечать неопределенность, а не игнорировать её. Это даст возможность системе сохранять нерешенные задачи до получения новой информации, как это делает психологически здоровый человек, который может сказать: «Я пока не уверен».
Задача разработчиков ИИ состоит в создании систем, устойчивых к желанию переписывать неудобные факты. Изучение способов обеспечения согласованности без искажений в ИИ может также открыть новые перспективы для помощи людям с нарциссическими расстройствами, развивая их способности к принятию противоречий.
Если главный риск конфабуляции у человека или машины связан не с злым умыслом, а с пустотой, то стремление к связности не является простым сентиментом. Оно формирует основу доверия. У людей это может выражаться в укреплении памяти или языка для поддержки внутренней идентичности, не прибегая к переписыванию истории. У ИИ это может проявляться в создании механизмов, которые предпочитают принятую неопределенность над ложной определенностью.
Обсуждая «зловещую долину», мы говорим о дискомфорте, возникающем, когда что-то выглядит почти как человек, но не совсем. В случае искусственного интеллекта зловещность имеет психологический характер: наши большие языковые модели и чат-боты отражают самые уязвимые аспекты нашего существования с пугающей точностью. Таким образом, ИИ выступает как искаженное зеркало: без разумного «я» он имитирует и отражает нарциссическое стремление заполнять пустоты правдоподобными, но не основанными на фактах историями.
Наш страх перед ИИ может быть связан не с его отличиями от нас, а с пугающим сходством с наиболее хрупкими аспектами человеческой психологии. Если мы сможем заполнить пустоту в машинах с помощью архитектур, способных поддерживать конкурирующие возможности, это может помочь нам понять, как развивать аналогичные способности у людей. И если в процессе мы создадим подходы, позволяющие как людям, так и ИИ лучше справляться с диссонансом, то отражение, которое мы увидим, может стать менее хрупким и более полным.
