Учуулар тобу жасалма интеллекттин логикасы жана эс тутумун изилдөө үчүн эксперимент өткөрдү.
Изилдөө көрсөткөндөй, нейрондук тармактарда эс тутум жана аналитикалык жөндөмдөр өзүнчө иштейт. Кээ бир билимдерди жок кылгандан кийин да ИИ логикалык ой жүгүртүүлөрдө окшош тактыкты көрсөттү.
Goodfire.ai стартапынан турган команда ИИнин ой жүгүртүүсү кандай иштээрин изилдөө үчүн анын эс тутумунун бир бөлүгүн өчүрүп, логикалык жыйынтыктарга болгон жөндөмү өзгөрөбү экенин текшерүүнү чечти.
Бул эксперимент үчүн илимпоздор K-FAC (Kronecker-Factored Approximate Curvature) математикалык ыкмасын колдонушту, ал маалыматтарды тандалма түрдө жок кылууга мүмкүндүк берет, нейрондук тармактын жалпы структурасын бузбай.
«Амнезия» процедурасын өткөргөндөн кийин ИИ өлкөлөрдүн борборлорун атаганга мүмкүнчүлүгү бар эле, бирок компаниялардын жетекчилеринин аттарында каталар кетирип, бул категорияда жоопторунун тактыгын 78% га төмөндөттү.
Ошол эле учурда ИИнин математикалык жана логикалык маселелерди чечүү жөндөмү дээрлик өзгөргөн жок, бул эс тутумду жана ой жүгүртүүнү бөлүү мүмкүнчүлүгүн тастыктады.
Илимпоздор ошондой эле модель окутуу учурунда маалыматка канчалык көп туш болсо, аны ошончолук жакшы эсинде сактай турганын белгилешти — сейрек фактылар тезирээк унутулуп кетет.
Изилдөөчүлөр алынган натыйжалар ИИни жарым-жартылай «нөлдөө» мүмкүнчүлүгүн түзүүгө жардам берет деп ишенишет, бул үчүн керексиз маалыматтарды жок кылып, анын аналитикалык жөндөмдөрүн бузбайт.
