Әдебиет бізге ескерту жасауға тырысты, шынымен де, бес ғасыр бойы ортағасырлық Праганың балшықтан жабыстырған Големінен бастап, Уильям Гибсонның неонға боялған нейрондық желілеріне дейін бір мәселеге айқайлап келеді. Сценарийі қандай? Әрдайым бірдей. Өзің үшін жасаған нәрсе түптің түбінде сені өзгертеді.
Оны оқып, басымызды изеп, кітапты жаптық та, бірден чатботтарға үйлену тойымыздағы сөзді, заңды мәтіндерді, медициналық кеңесті жазуды тапсырдық.
Қазір ЖИ-дың хайп машинасы журналистикадағы жас қызметкерден бастап, сөзі майда заңгерге дейін бәрі де шаң-тозаңға айналатын жылтыр болашақты саудалайды. Алайда Силикон аңғары жұмақта өмір бар деп сендірсе, шындық күлімдеген чат терезесі арқылы қауіпті, бейтарап емес кеңес таратады.
BitOK компаниясының CPO-сы Дмитрий Николский енді тоқтау керек екенін айтады. Ол адамзат неге ЖИ-дың пиксельдей жұқа «иығына» бүкіл ауыртпалықты арта беруді доғаруға тиіс екенін түсіндіріп бермек.
Тіпті Илон Маск өзі де жақында OpenAI-ға қарсы сот процесінде «ЖИ бәрімізді өлтіруі ықтимал» деп ескерткен болатын.
Големнен бастап R.U.R.-ға дейін: әрдайым өшіру тетігін қалайтынбыз
Жасанды интеллектіден қорқу тек Терминатордан басталды деп ойлайсыз ба? Тағы да ойлап көріңіз. Мұндай үрей электр қуатынан да бұрын пайда болған.
ХVI ғасырдағы Прагаға шегініс жасайық. Рабби Лев балшықтан үлкен қорғаушы Голем жасап шығады, алайда ол дереу қосу сымды жұлып тастауға мәжбүр екенін түсінеді. Жаратылым бақылаудан шығады. Адамзат шексіз даналығында ЖИ-ды және өшіру тетігін бір мезетте ойлап тапқан.
Өшіру тетігі – төтенше жағдайда жүйені дереу тоқтататын, жүйе өздігінен қате әрекет еткенде, бұзылғанда не бақылаудан шыққанда іске қосылатын үлкен қызыл түйме. Оның басты мақсаты – әдепті түрде өшіру сәтсіз болған жағдайда, залалды шектеу.
Содан кейін Мэри Шелли шықты. Франкенштейн – шынында қорқынышты оқиға емес, ол – апатты жобаны басқару жөніндегі оқулық мысал. Виктор Франкенштейн ше? Техникалық түйінді шеше салған, бірақ салдарын елемеген тағы бір ғажап инженер. Кез келген әзірлеуші айнаға қарағандағы сол бейнені біледі.
1920 жылға тез оралайық. Карел Чапек «робот» сөзін енгізді. Оның әңгімесінде машиналар зұлымдықтан бүліктемейді. Жоқ, адамдар өзі істейтіннің бәрін өзге қолға беріп, өздерін керексіз етіп алады.
Сабақ қандай? Өзіңнің орныңа келетінді жасағаныңда, сен қай сәтте қажетсізге айналғаныңды байқамай қаласың.
Үш пайғамбарлық – біз bug-репортқа айналдырған болжамдар
Өткен ғасырдағы фантаст қаламгерлер технологияларды болжаған жоқ. Олар біздің сәтсіздіктерімізді болжады.
Айзек Азимов өзінің Үш заңын ойлап тапты – яғни, «алигнменттің» алғашқы нұсқасы, яғни машинаны адам құндылықтарымен сәйкестендірудің қазіргі заманауи анықтамасы. Кез келген Азимов әңгімесі – соққы: мінсіз логика, абсурдты нәтиже.
Николский күн сайын AML жүйелері-нің ішінде осыны өз көзімен көріп жүр: алгоритмдер әжесінің 40 долларлық туған күн ақшасын еркін түрде бұғаттайды, ал айқын офшорлық жылыстату арнасы еш бөгетсіз өте береді. Формалды түрде дұрыс. Практика жүзінде – ессіздік.
Артур Кларк HAL 9000-ды ойлап тапты: ол экипажды қыруға зұлымдықтан емес, тапсырмалары бір-біріне қайшы болған соң барады. Ақпаратты жасыру керек. Әрі шынайы болу керек. Екеуін қалай үйлестіресің? Инженерге ол қорқынышты нәрсе емес, қарапайым талаптар қайшылығы.
Филип Дик дипфейк дәуірінде маңызды сұрақ қойған: егер көшірме түпнұсқадан ажыратылмаса, оның айырмашылығы бар ма? Оның жауабы – бар. Өйткені ішкі сезінім керек. Машиналарда ол жоқ. Нүкте.
Тереңіне үңілсек: ЖИ ойламайды, ол есептейді
Маркетингтік бояуды алып тастайық. Қазіргі тілдік моделдер – интеллект емес. Олар – алып статистикалық болжау машиналары. Оларда «мағына» ұғымы жоқ, олар тек ықтималдықты есептейді.
ChatGPT сеніммен болған сот істерін келтіргенде, ондай іс-шара шын мәнінде болмаған, ол өтірік айтып тұрған жоқ. Статистикалық түрде қисынды сөз тізбегін жасап отыр. Ол үшін «ақиқат» ұғымы жоқ, тек «ықтималдық» бар.
Блокчейн әзірлеуші үшін бұл ақылға сыймайтын нәрсе сияқты естіледі. Біз сенім артуға болмайтын жүйелерді арнайы саламыз, себебі,ешкімге сенбейміз, енді бізге жауаптың неге шыққанын өзі де түсінбейтін «қара жәшікке» сенуге кеңес береді.
Блокчейн – тексеруді, ЖИ – көзсіз сенімді үйретеді
Криптода мәңгі қағида бар: Сенбе. Тексер.
Толық мәні — математика беделдің орнын басады.
ЖИ – осы қағиданы кері айналдырады. Сен жаттықтыру деректерін көрген жоқсың. Модель салмағын білмейсің. Логикасын түсінбейсің. Шығарылған нәтижені тексеру үшін сен өзің маман болуың керек, егер сен онсыз да маман болсаң, онда неге чатботқа сұрақ қоясың?
AML саласында олар оны «жалған сенімділік мәселесі» деп атайды. Сарапшылар жарқыраған бақылау тақтасына қарап, нәтижелерге өз түйсігінен гөрі көбірек сене бастайды. ЖИ ойлауды жақсартпайды, керісінше, сенімділіктің елесімен ауыстырады.
Үмітсіздіктер шежіресі: ЖИ жолынан тайғанда
Бұл жай ғана ойша жасалған тәжірибе емес. Дәлелдер күн санап көбейіп келеді.
- Microsoft редакторларды жұмыстан шығарып, пернетақтаны алгоритмге табыстады. Ал алгоритм нәсілшілдік туралы мақалада әншілердің фотоларын шатастырып жариялады.
Алгоритм келтірген зардаптарды жою үшін адамдар қайтадан араласуға мәжбүр болды.
- NEDA, тамақтану бұзылыстарымен күресетін ұйым, еріктілерін чатботпен алмастырды.
Бот анорексиямен ауыратындарға калория санап, салмақ тастауға кеңес берді. Бұл – өмірге қауіпті ақыл-кеңес. Біреу «іске қосу» батырмасын тірі гранатаны ұстаған маймылдың жауапкершілігімен басып жіберген еді.
- Air Canada сотта chatbot-пен шығарылып ойдан құрастырылған қайтарым саясаты үшін жауап берді.
Әуе компаниясының қорғауы? Бот – «жеке заңды тұлға». Бірақ судья оны қабылдаған жоқ.
Соңғы зерттеулер көрсетіп отыр, 55% компаниялар қызметкерлерін ЖИ-мен ауыстыруға асыққанын қымбатқа түскен қате деп санайды. Үнемделген қаржы клиенттердің кетуі мен беделдің түсуіне әкеліп, буға айналды. «Claude және басқа да чатботтар команда толықтай алмастыра алады» деген қиялға енген басшылар сол % көрсеткішіне тағы бір көз жүгіртсін. Баяу оқып шықсын.
Нақты неден қорқуымыз керек
Skynet-ті ұмытыңыз. Көшені кезіп жүрген қызылкөз өлтіруші роботтарды да елестетудің қажеті жоқ. Қарсылық болмайды.
Тек тыныш әлсіреу орын алады.
Көп жылдар бойы Copilot-қа сеніп келген бағдарламашы сәулет тұрғысынан ойлауды ұмытады. Сарапшы бастапқы деректерді оқуды доғарады. Студент ешқашан күрделі мәтінге төтеп беріп, оны меңгерудің азабын бастан өткеріп, түсінікке жетпейді.
Қозғалыс, төңкеріс болмайды. Адамдар біртіндеп интерфейстің қосымшасына айнала береді.
Филип К. Диктің болжамынша, ең үлкен қауіп – машиналар адамға айналмайды. Қауіп – адамдар машиналанып бара жатқанында.
Қызыл таблетка – технология емес
Бұл – луддиттердің соғысына шақырған үндеу емес. Автоматтандыру мен машиналық оқыту – қуатты құралдар. Бірақ мынадай қағидаларды сақтау қажет:
- Блокчейн қағидасы: Сенім емес, тексеру маңызды. Егер жүйенің шешімі қалай қабылданғанын тексере алмасаңыз, оны ақиқат ретінде қабылдамаңыз. ЖИ – қара жәшік, Жоғарғы сот судьясы емес.
- Инженерлік қағида: Құрал – алмастырушы емес. Балға шеге қақса да, үйдің қай жеріне қағу керектігін өзі шешпейді. ЖИ-ды күнделікті жұмыстарға пайдаланыңыз, бірақ шешуші үкімді өзіңіз беру керек.
- AML қағидасы: Сын тұрғысынан сүзгілеу. Алгоритмдер күрделі жағдайларда әрдайым сүрінеді, себебі оларда шынайы тәжірибе жоқ. «Цифрлық толқу» түйсігіңіз бен қарапайым ақылға үстемдік етпеу керек.
Матрицаға бір сәтке оралайық. Қызыл таблетка – шынайылықты дәл қалпында қабылдау таңдауын білдіреді. Қауіп бізден ақылдырақ нәрсе жасау емес. Қауіп – өзімізді ақымақ етіп жіберетін дүниені жасап, оны прогресс деп санайтындығымызда.
Ең қауіпті қателік – пайдалы мүмкіндікке ұқсайтын қате.
Дмитрий Николский – BitOK платформасының өнім бойынша директоры; BitOK – сәйкестік пен он-чейн зерттеулерге арналған аналитикалық платформа.
