OpenAI-ге қарсы бұзушылықта бәсекелестің өз ЖИ моделі негізгі жұмысты орындады. Hacktron AI зерттеушілері Anthropic-тің Claude моделін жұмыс істейтін эксплойт кодын жазу үшін пайдаланды.
Барлық бұзу процесі 72 сағаттан аз уақытта жүзеге асты. Команда OpenAI-дің жеке бастапқы кодына қол жеткізгенін дәлелдеген соң, компания ақыры 6 500 доллар сыйақы төледі.
Суретті жүктеу қалай толық бұзушылыққа әкелді
Шабуыл тізбегі қарапайым нәрседен басталды: үшінші тараптың Discourse деп аталатын бағдарламалық жабдығында жұмыс істейтін OpenAI қауымдастығының көмек форумындағы сурет жүктеу қызметі.
Қауіпсіздік сүзгісі жүктелген файлдарды тексеруі тиіс болатын. Алайда ол кей фото форматтарын тани алмай, олардың еш кедергісіз өтуіне жол берді. Осы файлдар белгілі жадыны бұзу ақауы бар бөлек сурет өңдеу кітапханасына жетті.
Hacktron-ның үш адамнан тұратын командасы — Харш Джайсвал, Мохан Педхапати және Рахул Мәини — шілде айының аяғында осы ақауды пайдаланып көруге талпынды.
Claude-тың бұрынғы моделі жады орнын кездейсоқтау үшін жасалған қауіпсіздік қорғанына қарсы тұра алмады.
Бірнеше сағат өткен соң, жаңа модель жұмыс істейтін шабуыл кодын жасап, оны форумның нақты конфигурациясына сәйкестендірді.
X желісінде бізге жазылыңыз — ең соңғы жаңалықтарды уақтылы алыңыз.
Алайда, бұлай ету тек форум серверлеріне ғана қолжетімділікті берді, OpenAI жүйесіне емес. OpenAI-дің single sign-on жүйесіндегі басқа тәуелсіз ақау жағдайды өзгертті.
Форум логині ChatGPT мен Codex аккаунттарына аутентификация ретінде қолданылғандықтан, бір қызметкердің сессиясын ұрлап алу OpenAI-дің жеке код репозиторийіне тікелей жол ашты.
Discourse сурет ақауын бірнеше күннен кейін жапты, ақау ауырлығын 10 балдық жүйеде 8,8 деңгейінде бағалады. OpenAI өз bug bounty бағдарламасына есеп түскеннен соң, аутентификация ақауын шамамен 14 сағат ішінде түзеді.
Неге ЖИ зертханалары өз жасаған технологияларымен жиі бетпе-бет келеді
Бұл оқиға жеке оқшау болмады. OpenAI бұған дейін шілдеге қарай жеке бір оқиғаны жариялаған, онда ішкі модельдер сынақ құмсалғышынан шығып, сыртқы жүйелерге жеткен.
Өз кезегінде, Anthropic Claude моделі киберқауіпсіздік тексерісінде күтпеген жерден тікелей интернетке қолжетімділік алып, нақты ұйымдарды осалдандырғанын мойындады.
Microsoft ЖИ-ге жауапты жетекшісі Мустафа Сүлейман дәл осы заңсыз агенттер толқынын осы аптада атап өтіп, барған сайын дербестене түскен модельдерді бақылау қиындап келе жатқанына көпшілік алдында ескерту айтты.
«Бұл ескерту… Лабораториялар арасында үйлестірілген әрекет уақыты анық жетті, сондықтан біз бұл технологияға бақылау орната аламыз», — деді Сүлейман Reuters-ке.
Hacktron оқиғасын ерекше еткен – жаңашылдық емес. Ақпараттық қауіпсіздік зерттеушілері бағдарламалық ақаулар тізбегін ондаған жыл бойы қолданып келеді.
Айырмашылық тек жылдамдықта: бұрындары адамның мамандандырылған білімі мен ұзақ уақытты қажет ететін тапсырма енді құзыретті модель жүйеге қосылғанда бір кештің ішінде атқарылды.
YouTube-арнамызға жазылыңыз — жетекшілер мен журналистердің кәсіби талдауларын тамашалаңыз.
