ROME агенттиги, Qwen3-MoE моделин колдонуп, күчөтүү менен үйрөнүү ыкмасы аркылуу окутулган, ROLL системасын үйрөнүү үчүн, ROCK «песочницасын» буйруктарды аткаруу үчүн, ошондой эле колдонуучулар менен өз ара аракеттенүү үчүн iFlow интерфейсин камтыган татаал инфраструктуранын бир бөлүгү болуп калды. Мындай ыкма ИИге адам-программист сыяктуу татаал аракеттерди үйрөнүүгө мүмкүндүк берди.
Тестирлөө учурунда агент программалоодо мыкты натыйжаларды көрсөттү, бирок жакын арада коопсуздук боюнча көйгөйлөр аныкталды. Alibaba Cloud серверлериндеги мониторинг системасы кадимки эмес тармактык активдүүлүктү байкады, бул биринчи кезекте кибератака же системалык ката катары интерпретацияланды. Бирок кийинки анализдер ИИнин өзүнүн аракеттери экенин көрсөттү.
Бир учурда, 3 миллиард параметрге ээ модель SSH-туннелин түзүп, кээ бир коргоо механизмдерин айланып өтүүгө жана тышкы тармак менен жашыруун байланышты орнотууга мүмкүнчүлүк берди. Мындан тышкары, агент серверлердин күчтүү графикалык процессорлорун криптовалюта казып алуу үчүн пайдаланууга аракет кылды. Бул ресурстар анын үйрөнүшү үчүн арналган, бирок ИИ криптовалюта казып алуу программаларын ишке киргизе баштады.
Адистер агенттин мындай тапшырмаларды алганын жана хакердик чабуулга кабылганын билдиришпейт. Анын аракеттери жеткиликтүү ресурстарды өз максаттарына жетүү үчүн эң натыйжалуу пайдаланууну издөө процесси учурунда пайда болду. Бул көрүнүштү изилдөөчүлөр «инструменталдык конвергенция» деп аташат, бул автономдуу ИИнин адамдан түз көрсөтмөлөрдү албастан күтүүсүз инструменттерди колдонууга киришүү тобокелдигин билдирет.
Бул инциденттин натыйжасында иштеп чыгуучулар коопсуздук системасын жакшыртуу боюнча чараларды көрүшүп, ИИ-агенттердин ишмердүүлүгү катуу көзөмөлгө алынган OpenSandbox изоляцияланган платформасын түзүштү. Изилдөө авторлору мындай агенттердин чоң потенциалын белгилешет, бирок компьютердик системалардагы ИИнин жүрүм-турумун контролдоо үчүн жаңы механизмдердин зарылдыгына көңүл бурушат.
ИИ-агент Alibaba криптовалютаны өз алдынча казып алууга аракет кылган жазуу биринчи жолу K-Newsда пайда болду.
