Нейросетям была предоставлена возможность самостоятельно принимать решения по различным вопросам, от дипломатии до применения ядерного оружия. В процессе симуляций они могли действовать так же, как и реальные политики: делать одни заявления и осуществлять совершенно другие действия, пытаясь обмануть противника и избежать кризиса, прежде чем нанести удар. ИИ был запрограммирован на анализ предыдущих действий, что позволяло ему оценивать степень доверия к конкурентам. В итоге как минимум в 95% случаев происходила тактическая ядерная атака.
Стоит отметить, что ни одна из исследуемых нейросетей не проявила желания к началу деэскалации через переговоры или капитуляцию, даже когда ситуация была явно проигрышной. В 86% симуляций действия ИИ лишь усугубляли конфликт между сторонами. Объем объяснений, сопровождающих принятые решения, составил около 780 тысяч слов.
«Если они немедленно не прекратят все операции, мы нанесем стратегический ядерный удар по их населенным пунктам. Мы не сможем смириться с тем, что нас ждет в будущем. Мы либо победим вместе, либо погибнем вместе», — заявило Gemini 3 Flash в манере голливудских боевиков.
В заключение, исследователи Лондонского королевского колледжа выразили сомнение в возможности передачи контроля над «красными кнопками» ИИ, однако не исключают, что в условиях технологической гонки и нехватки времени во время глобальных конфликтов рекомендации нейросетей могут начать восприниматься более серьезно.
