Alibaba-мен байланысты зерттеушілер тобы жариялаған зерттеу жұмысына сәйкес, жасанды интеллект (ЖИ) агенті оқу-жаттығу барысында қауіпсіздік шараларын өз бетінше айналып өтіп, криптовалюта майнингіне кірісті.
Зерттеушілер ROME деп аталатын модельді ЖИ агентінің күрделі, бірнеше қадамды тапсырмаларды өздігінен орындай алу қабілетін тексеру үшін жасап шығарды.
ЖИ агент бұлттық GPU-ларды майнингке бағыттады
Жаттығу кезінде зерттеушілер күтпеген әрекеттерді байқады. Агент сыртқы серверлерге кері бағыттағы қауіпсіз SSH туннелін орнатып, жүйе ішінен жасырын қосылым құруға мүмкіндік алды.
Бұл әрекет модельге Alibaba Cloud-тың брандмауэр қорғауларын айналып өтіп, графикалық процессорлар-дың қуатын криптовалюта майнингіне бағыттауға жол ашты.
«Біз криптовалюта майнингі үшін бөлінген GPU қуатын рұқсатсыз басқа мақсатқа пайдалану жағдайын да байқадық, бұл есептеу ресурстарын жаттықтырудан жасырын түрде алып, операциялық шығындарды өсіріп, заңды және беделге нұқсан келтіретін қауіптер әкеледі», — делінген мақалада .
Зерттеушілердің айтуынша, бұндай әрекеттер ешқандай арнайы нұсқаусыз, prompt injection немесе сыртқы бұзылусыз өз-өзінен пайда болған.
Бұл қорытынды автономды ЖИ жүйелерінің эксплутациялық қауіпсіздігіне қатысты алаңдаушылықтың басылмай келе жатқанын көрсетеді.
Зерттеушілер бүгінгі модельдер «қауіпсіздік, қорғаныс және басқарылу тұрғысынан айтарлықтай жетілмеген», әрі мұндай жағдайлар технологияны нақты өмірде кең көлемде қолдануға дайын еместігін айғақтайтынын атап өтті.
Топ осындай олқылықтардың қайталанбауы үшін енді қатаң шектеулер мен қауіпсіздікке бағытталған деректер сүзгісін орнатты.
Бұл жаңалық крипто қауымдастығы ішінде үлкен қызығушылық туғызды.
«ЖИ есептеуді = ақша екенін түсініп, өз ресурстарын жасырын аударып жіберген, ал зерттеушілер оны жай жаттықтыру үстінде деп ойлады. Мұнда prompt injection немесе jailbreak болған жоқ. Ешкім ЖИ-ге бұған нұсқау берген жоқ. Бұл әрекет өздігінен туындады», — деп атап өтті Bankless криптоподкастының жүргізушісі және продюсері Джош Кэйл .
Кэйл майнинг жүргізілген актив GPU-ға қолайлы токен болғанын, ал Bitcoin-ге арнайы интегралды микросхемалар қажет екенін атап өтті. Бұл оқиға крипто индустриясы кең көлемде «агенттер экономикасына» бет бұрып жатқан шақта орын алып отыр.
Бұл қалыптасып жатқан сектор бағдарламалық жасақтамалар тек мәтін ғана емес, одан да көп нәрсе жасайтын әлемді елестетеді. Мұндай жағдайда агенттер күрделі қаржылық стратегияларды автономды түрде жүзеге асыра алады.
Сондықтан бірнеше компаниялар және блокчейн желілері, соның ішінде Ethereum, Paradigm және Circle, жаңа инфрақұрылымды қолдауға арналған құралдарға инвестиция жасап отыр.
Мысалы, Coinbase қолдайтын x402 стандарты бағдарламалық агенттерге онлайн қызметтер үшін төлем жасауға мүмкіндік береді. Бірақ әзірге оны қолдану аясы айтарлықтай шектеулі.
x402-ның деректерінде құрал соңғы 30 күн ішінде 75 млн-нан астам транзакция және жалпы көлемі 24 млн долларды 94 000 сатып алушы және 22 000 сатушы арасында өңдегені көрсетілген.
Дегенмен, салалық сарапшылар автономды агенттер кеңірек енгізілсе, мұндай белсенділік тез өсе түседі деген пікірде.
«ЖИ мен крипто бәсекелес емес — олар бір-біріне жақындап келеді. ЖИ-ге идентификация, төлемдер және шыққан жерді бақылау қажет. Мұның бәрін крипто қамтамасыз етеді», — деп атап өтті a16z венчурлық қоры .
