Anthropic бас директоры Дарио Амодей сәрсенбі күні алдыңғы қатарлы ЖИ модельдеріне үшінші тұлғалармен міндетті тестілеуді талап етті. Ол сондай-ақ, қауіпсіздік аудиттерінен өтпеген жүйелерді үкіметтерге бұғаттауға мүмкіндік беруді ұсынады.
«Policy on the AI Exponential» атты эссе Anthropic Claude Fable 5 шығарғаннан кейін бір күн өткен соң жарияланды. Компания оны модельдерді тестілеу бойынша заң шығарушылық ұсынымымен және жұмыс орындарын ауыстыруға арналған негіздемемен толықтырды.
Дарио Амодей ашықтықтан міндетті ережелерге көшеді
Anthropic 2025 жылы жария етуге негізделген заңдарды қолдап келді. Компания Калифорниядағы SB 53, Нью-Йорктегі RAISE Act және Иллинойстың SB 315-ін қолдады. Алайда, Амодей ашықтық тәуекелдерге енді сәйкес келмейтінін хабарлады.
Ол Федералды авиация әкімшілігі (FAA) моделіне ұқсас жүйе енгізуді ұсынады. Есептеу деңгейінен асатын модельдер төрт салада тәуелсіз тараптардың міндетті аудитінен өтуге тиіс деп көрсетеді.
Олар киберқауіпсіздік, биологиялық қару, бақылаудан айырылу және автоматтандырылған ЖИ зерттеун қамтиды.
«Алдыңғы қатарлы ЖИ модельдері ұшақтар секілді техникалық тестілеу мен аудиттен өтіп, егер олар жоғары қауіпсіздік стандарттарына сай келмесе, олардың іске қосылуына немесе қолжетімді болуына қоғамдық қауіпсіздік үшін тосқауыл қойылуы тиіс», — деп жазды Амодей эсседе өз сайтында.
X-те бізге жазылыңыз – соңғы жаңалықтар жедел түрде жарияланады
Жоспар Ақ үйдің маусымдағы ЖИ-ге қатысты атқарушы бұйрығынан асып түседі, ал Амодей оны ілгерілеудің алғашқы сатысы деп атады.
Ол сондай-ақ жедел түрде қауіпсіздік оқиғаларын хабарлау мен модель салмақтарын қатаң қорғауды талап етеді.
Киберқауіптер крипто инфрақұрылымын ескертуге мәжбүр етті
Амадай киберқауіпсіздікті толық қалыптасқан бірінші қатер деп атады. Ол Claude Mythos Preview моделін мысалға келтіріп, осы ЖИ модель бұрын ешқайсысы шеше алмаған эксперттік деңгейдегі кибер міндеттердің 73%-ын орындағанын айтты.
Эсседе алдыңғы қатарлы модельдердің қаржы секторына және дағдарыстық инфрақұрылымға қауіп төндіруі ықтимал екендігі ескертіледі.
BeInCrypto талдауы да Mythos-классты модельдермен байланысты DeFi қауіпсіздік қатерлеріне назар аударуда, себебі орталықтандырылмаған қаржы (DeFi) протоколдарында ашық әрі шабуылға бейім құндылық сақталады.
Сонымен бірге, Anthropic маусымның 9-ында Claude Fable 5 моделін жариялап, онда жоғары тәуекелді кибер және биология сұраныстарын бөгейтін шектеулер енгізді.
Амадай мұндай ерікті шектеулер саладағы міндетті ережелерді толыққанды алмастыра алмайтынын алға тартады.
Ол сонымен бірге автономия қатері де туындауы мүмкін екенін ескертті. Anthropic-тің өз деректері Claude-тың ірі ЖИ зертханаларындағы кодтың басым бөлігін жазып, ЖИ-дің ЖИ-ді дамыту қабілетін көрсетті.
Жұмыс орындарынан айырылу, азаматтық еркіндіктер және демократиялық коалиция
Экономикалық тұрғыдан эссе жалақыны сақтандыруды, кадрларды ұстап қалу үшін салықтық ынталандыруды және жұмыс күшін оқытуға гранттар бөлуді ұсынады.
Егер жұмыстан ығыстыру ұзақ сақталса, Амодейдің айтуынша, әмбебап базалық табысты компанияға немесе капитал өсімінен алынатын салықтар есебінен қаржыландыруға болады.
Азаматтық еркіндіктерге байланысты ұсынысы да нақты. Амодей толықтай автономды қарулардың ішкі құқық қорғау органдарына қолданысын тыйымдауды қалайды. Сонымен бірге, деректер делдалдарының жаппай қадағалауға мүмкіндік беретін заңдағы саңылауын жабуға Конгрестің назар аударуын талап етеді.
Геосаяси тұрғыда ол чиптер мен жартылай өткізгіштер өндірісі құралдарын бақылау үшін демократиялық елдердің коалициясын ұсынады.
АҚШ-та қаралуға дайын MATCH және OVERWATCH заң жобаларын ол экспорттық бақылауды қатаң әрі үйлесімді ету жолындағы алғашқы қадамдар ретінде атады.
Амадай қоғамдық ЖИ-дан қорқудың маркетинг мәселесі емес екенін айтып, алаңдаушылықты орынды деп санайтынын жеткізді. Конгресс Anthropic компаниясының тестілеу ұсынысын қарай ма, енді ЖИ саясатының келесі кезеңін осы анықтауы ықтимал.
