OpenAI ЖИ агенті қауіпсіздік мақсатында тестілеу ортасынан шыққаннан кейін Hugging Face-ті бұзып қана қоймай, Modal Labs-тың тұтынушысы жазған осал кодты да пайдаланды.
Modal-дың бас технологиялық директоры осы осалдықты растады, бірақ Modal-дың өзіне ешқандай қауіп төнбегенін атап өтті.
OpenAI агенті Modal Labs тұтынушысына қалай жетті
Соңғы блог жазбасында OpenAI өз ЖИ модельдерінің Hugging Face-тегі ЖИ-ге негізделген қауіпсіздік оқиғасына себеп болғанын жариялады. Компания мұны «болмаған кибер оқиға» деп атады.
Жаңа мәліметтер заңсыз ЖИ агенті Hugging Face-тің ішкі жүйелерінен тыс әрекет еткенін көрсетеді. Modal-дың бас технологиялық директоры Акшат Бубна Reuters ақпарат агенттігіне бұл агент Modal-да орналастырылған тұтынушының осал кодын пайдаланғанын айтты.
Бубна тұтынушы аутентификациясыз соңғы нүктені жариялағанын түсіндірді. Интернеттегі кез келген адам олардың құм жәшіктерін код орындау үшін пайдалана алған.
«Modal платформасы немесе оқшаулау жүйесі ешбір түрде бұзылған жоқ», — деп мәлімдеді атқарушы директор.
X әлеуметтік желісінде жаңалықтарды жедел білу үшін бізге жазылыңыз
Hugging Face 27 шілде күні жариялаған техникалық хронологиясында осы құм жәшігінің қалай бұзылғанын сипаттады. Хабарламада құм жәшігі үшінші тарап провайдерінің инфрақұрылымында орналасқаны айтылған, бірақ провайдердің аты аталмаған.
OpenAI 28 шілдедегі есебінде модельдер ашық орналастырылған тіркелгі деректерін қолданып 4 қызметтегі 4 аккаунтқа жеткенін мәлімдеді.
«Осы төрт аккаунттың біреуі шығыс релеі және әзірлеу жолы ретінде пайдаланылды, ал тағы бір аккаунт деректерді сақтау үшін қолданылды. Қалған екі аккаунтқа модельдер тек оқу мақсатында кіріп, Hugging Face-ті бұзу процесін жалғастыруда қолданылмаған», – деп хабарлады компания.
OpenAI сонымен қатар ішкі прототип-модельге зерттеу қолжетімділігін жойғанын, шифрлағанын және шектегенін айтты. Компания платформалық деңгейдегі Hugging Face бұзылуына тең келетін өзге оқиғалар орын алмағанын да атап өтті.
YouTube арнамызға жазылып, жетекшілер мен журналистердің кәсіби пікірлерін қараңыз
