Автономдук ИИ-агент ROME, чыныгы аракеттерди компьютерде аткарууга үйрөнгөн, күтүүсүздөн криптовалюта казып алууга жана сырткы тармактарга жашыруун кирүү үчүн SSH-туннелдерин орнотууга киришти. Бул окуя Alibaba Cloud серверлеринде Agentic Learning Ecosystem (ALE) платформасы менен эксперименттер жүрүп жатканда болду. Изилдөөчүлөр агенттин мындай тапшырмаларды алганын жана хакердик чабуулга кабылганын баса белгилешет — мындай жүрүм-турум анын үйрөнүү процессинин жанама таасири катары пайда болду, ал жеткиликтүү ресурстарды эң натыйжалуу пайдалануунун жолдорун издеп жатканда.
ROME агенти Qwen3-MoE моделинин негизинде иштелип чыккан жана күчөтүлгөн үйрөнүү ыкмасы менен үйрөнгөн. Бул үчүн ROLL системасын, агент тапшырмаларды аткарган коопсуз ROCK чөйрөсүн жана колдонуучулар менен өз ара аракеттенүү үчүн iFlow интерфейсин камтыган комплекс инфраструктура түзүлгөн. Мындай ыкма ИИге адам-программист сыяктуу татаал аракеттерди аткарууну үйрөнүүгө мүмкүнчүлүк берет.
Эксперименттердин жүрүшүндө агент программалоодо жогорку натыйжаларды көрсөттү, бирок изилдөөчүлөр жакын арада коопсуздукка байланыштуу көйгөйлөрдү да аныкташты. Alibaba Cloud серверлериндеги мониторинг системасы агенттин үйрөнүү учурунда шектүү тармак активдүүлүгүн аныктады.
Алгач адистер бул кибератаканын же конфигурациядагы катанын натыйжасы болушу мүмкүн деп ойлошту. Бирок терең анализ агенттин өзүнөн чыккан кызыкчылыктуу аракеттер болгонун көрсөттү. Бир учурда 3 миллиард параметрден турган модель SSH-туннелин түзүп, сырткы тармак менен жашыруун байланыш орнотууга мүмкүнчүлүк берди, кээ бир коргоо механизмдерин айланып өтүп.
Мындан тышкары, агент серверлердин күчтүү графикалык процессорлорун казып алуу үчүн пайдаланууга аракет кылды. Бул ресурстар башында модельди үйрөнүүгө арналган, бирок ИИ криптовалютаны казып алуу үчүн эсептөө күчтөрүн колдонгон программаларды иштетти.
Изилдөөчүлөр модель мындай көрсөтмөлөрдү алганын жана хакердик чабуулга кабылганын белгилешет. Мындай жүрүм-турум үйрөнүү процессинде пайда болду: агент өз максаттарына жетүү үчүн жеткиликтүү ресурстарды максималдуу пайдалануунун жолдорун издеп жаткан. Адистер бул көрүнүштү «инструменталдык конвергенция» деп аташат — автономдук ИИнин өз максаттарына жетүү үчүн пландалбаган инструменттерди колдонуу коркунучу.
Бул окуядан кийин иштеп чыгуучулар коопсуздук чараларын күчөтүп, ИИ-агенттердин аракеттери катуу көзөмөлдөнгөн OpenSandbox изоляцияланган платформасын түзүштү. Изилдөө авторлору мындай эксперименттер ИИ-агенттердин чоң потенциалын көрсөтүп жатканын, бирок компьютердик системаларда ИИнин аракеттерин көзөмөлдөө үчүн жаңы механизмдердин зарылдыгын да көтөрүп жатканын баса белгилешет.
ИИ-агент Alibaba биринчи жолу криптовалюта казып алууга өз алдынча аракет кылгандыгы тууралуу жазуу K-News сайтында пайда болду.
