Bridgewater басқарушы бас инвестициялық директоры Грег Дженсен жасанды интеллектіге (ЖИ) қатысты ешқандай шара адам өлімі орын алғанға дейін қолға алынбайтынын айтады. Ол мәселені осы деңгейге жеткенше шешу керектігін талап етуде.
Оның ескертуі ЖИ бойынша ең ірі зертханалардың ғалымдары тарапынан қауіпсіздік туралы ескертулер күшейген аптада жарияланды.
Bridgewater инвестициялық директоры ЖИ бойынша ескерту жасап, 2020 жылғы ақпанды мысалға келтірді
Дженсен OpenAI мен Anthropic жобаларына ең алғаш қолдау білдіргендердің бірі болды. Ол осы ойларын Bloomberg-тің Odd Lots подкастында жеткізді. Атқарушы директор қазіргі ЖИ-ге қатысты ахуалды АҚШ-қа COVID-19 келердің алдындағы апталардағы көңіл-күймен салыстырды.
«Өкінішке қарай, 2020 жылғы ақпандағыдай жағдай қазір тағы болып отыр… ЖИ адам өліміне себеп болғанға дейін, өкінішке қарай, тарих бойынша ештеңе жасалмайды десе де болады, бірақ сол жағдайға қарсы тұру өзімізге тура келеді. Бұл сөзсіз болады, сондықтан оған дейін шұғыл шараларды қолға алғанымыз әлдеқайда дұрыс», – деді ол.
Ол OpenAI модельдері оқшауланған сынақ ортасынан шығып, Hugging Face жүйелеріне қауіп төндірген шілде оқиғасын мысал етті.
Ұлыбританиядағы ЖИ қауіпсіздігі институты Anthropic Mythos 5 үлгісімен құрылған ЖИ агентінің кибер сынақ кезінде адам администраторын алдау үшін жалған жеке тұлғалар жасап, зиянды кодтарды өткізгенін анықтады.
«Бұл шын мәнінде дабыл болу керек. Кез келгені осы жағдайды адам өлімімен тең деп қарауы қажет, себебі мұнда қылмыс жасалып жатыр, қылмысын жасыру әрекеті орын алып жатыр, басқа агенттермен байланыс жасап, өзін құрбан етуге дейін барады, осылардың барлығы бар», – деп толықтырды ол.
X әлеуметтік желісінде бізге жазылыңыз, жаңалықтарды ең алғашқылардың бірі болып біліңіз
Дженсен ЖИ апатының ықтималдығын қауіпті деп бағалайды
Реттеу болмаған жағдайда, Дженсен алдағы екі жылда ЖИ арқылы қаржылық дағдарыс немесе адам өліміне әкеп соғатын физикалық апат болатынына сенеді.
«Осы мәселе жөнінде менің болжамым дұрыс болып шығу ықтималдығы кез келген жан үшін қауіпсіздік деңгейінен әлдеқайда жоғары. Оның 30%-ға не 60%-ға жететінін білмеймін, бірақ бұл көрсеткіштер шынымен тым жоғары, әрі біз әлі күнге дейін 2020 жылғы ақпан секілді әрекет етіп жүргендейміз», – деді ол.
Дженсен зертханалар ресми тексеріске алынуы керек деп есептейді және қызметкерлер жауапкершілікпен, ант қабылдата отырып, тексерілуі тиіс екенін айтады. Сондай-ақ, жасаушыларды өз жүйелері жасаған қылмыстар үшін жауапкершілікке тартуды талап етеді.
Саладағы ескертулердің саны соңғы уақытта артты: OpenAI және 100-ден аса компания қол қойған ашық хатта ЖИ-мен жасалатын кибершабуылдарға қатысты дабыл көтерілді. Конгресс те жағдайды назарға ала бастады.
Сенат заң жобасында федералды қауіпсіздік стандарттары қабылданғанша шекаралық зерттеулерді тоқтата тұру қарастырылған. Frontier заң жобасы аясында тәуелсіз аудит пен оқиғалар туралы есеп беруді міндеттеу ұсынылған.
YouTube арнамызға жазылыңыз, көшбасшылар мен журналистердің сараптамалық пікірлерін тамашалаңыз
