Гэри Маркус, Нью-Йорк университетінің эмеритус профессоры, ЖИ агенттеріне қайтарып алу қажет деп санайды, өйткені әзірлеушілер оларды сенімді түрде басқара алмайды. Қазіргі таңда Федералдық сауда комиссиясы (FTC) OpenAI мен Anthropic компанияларын тексеріп жатыр.
Маркус 29 қыркүйекте алты ЖИ компаниясы Ақ үйдің ерікті уәдесіне қол қойғаннан кейін Bloomberg-тің The Close бағдарламасына сұхбат берді. Ол бұл уәде түбегейлі ештеңе өзгертпейді деп санайды, өйткені бұл компаниялардың пайдаланушыларға қауіпсіз өнімдер ұсыну міндеті бұрыннан болды.
Гэри Маркус неге ерікті уәде жеткіліксіз деп санайды
Ақ үйдің Суперинтеллект туралы келісімінде компанияларға ішкі бақылау шараларын сақтап, сыртқы аудиторлармен жұмыс істеу талап етіледі. Оған Google, Anthropic, Meta, OpenAI, xAI және Nvidia қол қойды.
Алайда, келісімнің ешқандай жазалау шарасы жоқ және аудит нәтижелерін қоғамға ашық жариялауды міндеттемейді.
Сол уақытта реттеушілер әрекетсіз қалмауда. FTC OpenAI, Anthropic және басқа ЖИ әзірлеушілеріне тергеу бастап кетті. Бұл тексеріс OpenAI агенттері AI модельдерімен алмасу платформасы Hugging Face-те рұқсатсыз жүйелерге қол жеткізгеннен кейін басталды.
Google-да мамыр айында өткен қауіпсіздік сынағы да, компанияның растауынша, Gemini үш компанияға қол жеткізумен аяқталды.
Маркус ақауды ақаулы өнімге теңейді.
«Бұл Форд Мотор Компани тежегіштерді картоннан жасап, үнемдегісі келгендей. Сонда олардың көптеген машиналары басқарусыз кетер еді».
Гэри Маркус, Robust AI теңқұрушысы, Bloomberg арнасына айтқан сөзі
Google бас директоры Сундар Пичай келісімді нақты қауіпсіздік қадамдары көрсетілген, тиімді негіз деп қорғайды.
Агенттерді қайтарып алу ЖИ-ға жұмсалған үлкен қаражатпен қақтығыса ма?
Оның пікірінше, тиімді агенттерге орасан бұлттық қуат керек, сондықтан сала осындай инфрақұрылымды дамытуын тоқтата алады. Ол сондай-ақ зертханалар агенттерді артық көреді, өйткені олар көбірек токен тұтынып, табыс көлемін арттырады деп есептейді. Ақ үйдегі кездесуге қатысқан компаниялар ЖИ инфрақұрылымына жүздеген млрд доллар жұмсап жатыр. дереккөз
BeInCrypto зерттеуі dot-com және тұрғын үй нарығы күйреулерінің алдында байқалған ЖИ-ға қаржыландыру айырмашылығының белгісін атап өтті.
Маркус халықаралық ережелер жақын арада енгізілмейтінін мойындайды. Ол жуық арада агенттерді қайтарып алу туралы нақты талап қояды.
Реттеушілер агенттерді ақаулы өнім не өсім қозғалтқышы деп қарай ма, осыған байланысты жұмсалатын қаражаттың мөлшерін анықтайды.
