Группа ученых провела эксперимент для изучения логики и памяти искусственного интеллекта.
Исследование показало, что в нейросетях память и аналитические способности функционируют раздельно. Даже после удаления некоторых знаний ИИ демонстрировал аналогичную точность в рассуждениях.
Команда из стартапа Goodfire.ai решила изучить, как работает мышление ИИ, отключив часть его памяти и исследуя, изменится ли его способность к логическим выводам.
Для этого эксперимента ученые применили математический метод K-FAC (Kronecker-Factored Approximate Curvature), который позволяет избирательно удалять данные, не нарушая общую структуру нейросети.
После проведения процедуры «амнезии» ИИ по-прежнему мог называть столицы стран, однако допускал ошибки в именах руководителей компаний, что снизило точность его ответов на 78% в этой категории.
При этом способности ИИ к решению математических задач и логических задач почти не изменились, что подтвердило возможность разделения памяти и рассуждений.
Учёные также отметили, что чем чаще модель сталкивалась с информацией во время обучения, тем лучше она её запоминала — редкие факты стирались быстрее.
Исследователи убеждены, что полученные результаты помогут в создании ИИ, который можно будет частично «обнулять», удаляя ненужные данные, не затрагивая его аналитические способности.
