ETHDenver 2026 шарасында автономды қаржыдан он-чейн робототехникаға дейін ЖИ агенттері басымдық танытты. Дегенмен, агенттік экономикаларға қатысты қызығушылық артып жатқан тұста, неғұрлым күрделі сауал туындады: институттар өздерінің ЖИ жүйелерін нақты қандай деректерге сүйеніп оқытқанын дәлелдей ала ма?
Осы мәселеге бағытталған стартаптар қатарына Perle Labs жатады. Бұл компания ЖИ жүйелерінде, әсіресе реттелетін және тәуекелі жоғары ортада, оқыту деректерінің расталатын меншік тізбегі қажет деп санайды. Институттар үшін аудиторлық және куәландырылған деректер инфрақұрылымын құруға басымдық бере отырып, Perle осы күнге дейін 17,5 млн доллардан астам қаржы тартты, ал соңғы инвестиция айналымына Framework Ventures жетекшілік етті. Басқа инвесторлар қатарына CoinFund, Protagonist, HashKey және Peer VC кіреді. Компания платформасында 1 млн-нан астам аннотатормен бірге 1 млрд-тан астам бағаланған дерек нүктесі енгізілгенін хабарлайды.
BeInCrypto ETHDenver 2026 аясында Perle Labs бас директоры Ахмед Рашадпен әңгімелесті. Рашад бұған дейін Scale AI компаниясында жедел өсу кезінде операциялық көшбасшылық қызмет атқарған. Кездесу барысында ол деректер шығу тегі, модельдің құлдырауы, қарсыластық тәуекелдер және ЖИ-ды дағдарыстық жүйелерде енгізу үшін егемен интеллект басты шартқа айналады деп не себепті сенетіні жөнінде сөз қозғады.
BeInCrypto: Perle Labs-ты «ЖИ үшін егемен интеллект қабаты» деп сипаттайсыз. Деректер инфрақұрылымы жөніндегі пікірталасқа қатыспайтын оқырмандарға бұл сөз тіркесінің нақты мағынасы қандай?
Ахмед Рашад: «Егемен сөзін мақсатты түрде қолданып отырмын, ол бірнеше мағынаны қамтиды.
Ең тура мағынасы – бақылау. Егер сіз мемлекет, аурухана, қорғаныс мердігері не жоғары жауапкершілікке ие кәсіпорын болсаңыз және ЖИ-ды маңызды ортада енгізген жағдайда, сол жүйенің артында тұрған интеллектіні өзіңізге иемденуіңіз керек, ал оны бақылау немесе аудит жүргізу мүмкіндігінсіз қара жәшікке сеніп тапсыра алмайсыз. Егемен дегеніміз – ЖИ не нәрсеге сүйеніп оқытылғанын, кім тексергенін, оны дәлелдей алатындығыңызды білдіреді. Қазіргі индустрияда мұны растай алатындар аз.
Екінші мағынасы – тәуелсіздік. Яғни сыртқы араласусыз әрекет ету. Бұл қорғаныс ведомстваларына немесе кәсіпорындарға, әсіресе сезімтал ортада ЖИ-ды қолданғанда аса қажет. Ешкім маңызды ЖИ инфрақұрылымы тексерілмейтін, қорғай алмайтын әрі бақылауы жоқ деректер тізбегіне тәуелді болуын қаламайды. Бұл тек теориялық қауіп емес. Қауіпсіздік мәселесі ретінде, NSA мен CISA деректермен қамту тізбегіндегі осалдықтарға қатысты арнайы нұсқаулық әзірледі.
Үшінші мағынасы – есеп берушілік. ЖИ контент жасап қана қоймай, шешім қабылдау саласына да енгенде, мысалы, медицинада, қаржыда, әскери салада, интеллект қайдан шыққанын, оны кім верификациялағанын, жазбалар тұрақты ма деген сауалға нақты жауап беру керек. Perle платформасында біз әрбір сарапшы-аннотаторының үлесі он-чейн жазылады деп мақсат қойып отырмыз. Оны өзгерту, жою немесе қайта жазу мүмкін емес. Сол өзгермейтін сипат егемен сөзінің шын мәнін береді.
Практикалық тұрғыда, біз верификация және куәландыру қабатын жасаймыз. Егер аурухана ЖИ-ға негізделген диагностикалық жүйені іске қосса, оқыту жиынындағы әрбір дерек нүктесін тексерген маманға дейін кері іздеуді қамтамасыз ете алуы тиіс. Мұны біз егемен интеллект дейміз. Біз айтатын ұғым осы.»
BeInCrypto: Scale AI-да гиперөсу кезеңінде, ірі қорғаныс келісімшарттары мен Meta инвестициясы кезінде жұмыс істедіңіз. Сол тәжірибе дәстүрлі ЖИ деректер тізбектеріндегі іркілістердің себебін қалай түсіндірді?
Ахмед Рашад: «Scale – таңғаларлық компания. Мен 90 млн доллардан бастап 29 млрд долларға дейін өскен уақытында сол процестің бел ортасында болдым, қай жерде ақау пайда болатынын бірден көрдім.
Негізгі проблема – деректер сапасы мен ауқымдығы бір-біріне қарама-қарсы тартып тұратындығында. Үстемелі 100 есе өсу кезінде әрдайым басты мақсат – жылдамдық: көбірек деректер, тезірек аннотациялау, бір белгіні арзанырақ ету. Мұндайда нақтылық пен есеп беру зардап шегеді. Сәйкесінше, деректер тізбегі тұманданғандай болады: ішіне қандай материал түскені шамамен белгілі, ал шығарда сапа метрикасы бар, ал ортаңғы бөлігі – қара жәшік. Кім тексерді? Шын мәнінде ол маман болды ма? Аннотация тұрақты болды ма? Дәстүрлі модельдерде ауқым ұлғайғанда бұл сұрақтарға жауап табу айтарлықтай қиындайды.
Екінші байқағаным, адам факторы көбіне қысқартатын шығын ретінде ғана қарастырылады, даму әлеуеті ретінде емес. Жұмысты тапсырма бойынша төлеу, кейін тиімділікті арттыру арқылы жүйе уақыт өте келе сапаны төмендетеді. Үздік қатысушылар тез шығынды болады. Сарапшылық деңгейдегі сапалы аннотация беретін адамдар бірнеше центке геймификацияланған микротапсырмалар жүйесіне шыдамайды. Егер шынымен сондай эксперттік деңгейдегі дерек керек болса, басқа жолмен салу қажет.
Perle-дің негізі дәл осы түсініктен шыққан. Деректер мәселесін көбірек жұмыс күшімен шешу мүмкін емес. Барлығын кәсіби маман ретінде қарап, расталатын куәландыру енгізіп, бүкіл процесті басынан аяғына дейін аудиттеуді қамтамасыз ету арқылы шешу керек.»
BeInCrypto: Сіздерде 1 млн аннотатор, 1 млрд-тан астам дерек нүктесі бар. Көптеген деректер белгілеу платформалары анонимді топтық еңбекке сүйенеді. Репутациялық модельдегі түбегейлі ерекшелік неде?
Ахмед Рашад: «Perle-де негізгі өзгешелік – сіздің жұмыс тарихыңыз жеке өзіңізге тиесілі әрі тұрақты. Әр тапсырма орындаған сәтте сол үлес, оның сапа санаты, сарапшылардың консенсусымен сәйкестігі он-чейн жазылады. Оны түзету, жою немесе басқаға тағайындау мүмкін емес. Осылайша, уақыт өте келе маманның құжаттық біліктілігі жинақталады.
Анонимді еңбек моделінде адам бір-бірінен айнымас, сапаға жауапкершілік жоқ, себебі өз беделі жоқ, әр тапсырма бір-біріне байланыссыз. Ынталандыру құрылымы күткендей ең аз еңбекке алып келеді.
Біз бұл құрылымды керісінше жүргіземіз. Қатысушылар верификацияланатын тәжірибелік портфолио құрайды, платформа салалық сараптаманы таниды. Мысалы, рентгенолог тұрақты түрде жоғары сапалы медициналық сурет аннотацияларын ұсынса, бұл оның профилінде көрініс табады. Осы бедел іріктеудегі жоғары құнды тапсырмаларға қатысуға, жақсы жалақы алуға, маңызды жұмысқа мүмкіндік береді. Бұл – шиыршық; сапа ынталандыруларға негізделгендіктен, тұрақты түрде артады.
Біз аннотаторлар желісі бойынша 1 млрд ұпайдан өттік. Бұл жай ғана көлем емес, 1 млрд адамға телінген, верификацияланған нақты дерек үлесі. Сенімді ЖИ оқыту деректерінің негізі де осы және анонимді еңбек үлгісінде мұндай нәтижеге қол жеткізу мүмкін емес.»
BeInCrypto: Зерттеу салаларында модельдің құлдырауы жиі айтылады, бірақ ол негізгі ЖИ қауымдастықтарында кең таралмаған. Сіздіңше, неге олай, бұған алаңдау қажет пе?
Ахмед Рашад: «Модель құлдырауы бұқаралық талқылауға түсе бермейді, себебі ол баяу жүреді, әп-сәтте айқын дағдарыс болмайды. ЖИ жүйелері барған сайын ЖИ-дің өз жасаған контентіне сүйеніп оқытылғанда, олар күрделілігін жоғалтып, ортақтыққа ұмтыла бастайды, нәтижесінде сапа біртіндеп төмендейді, оны бірден байқау қиын, қателік айтарлықтай болып кеткенге дейін байқалмайды да.
Механизмі өте қарапайым: интернетке ЖИ жасаған материал толып барады. Сол контентпен оқыған модельдер енді өз өнімдерін, яғни таза адами білім мен тәжірибе емес, өзі жасаған өнімдерді меңгеруде. Оқытудағы әр келесі ұрпақ өткеннің бұрмалауын күшейтеді. Өз бетімен түзелмейтін кері байланыс шеңбері орын алады.
Алаңдау керек пе? Әсіресе үлкен тәуекел бар салаларда иә, сөзсіз. Модель құлдырауы контентті ұсыну алгоритміне әсер етсе, ұсыныстар нашарлайды. Ал ол медициналық диагностика, заңдық ойлау жүйесі немесе әскери интеллект құралдарына әсер етсе, салдары сапалы түрде басқа болады. Қауіпсіздік айырымы жойылады.
Сондықтан адамның тексерісінен өткен деректер қабаты маңызды инфрақұрылымға енген кезде ЖИ үшін міндетті болуға тиіс. ЖИ жүйелерін жаттықтыруда, басқа үлгі арқылы өңделген ЖИ нәтижелерін емес, шынайы әрі түрлі адам интеллектісінің үздіксіз ағынын пайдалану керек. Бізде ондаған салада шынайы салалық сарапшылардан құралған миллионнан астам аннотациялаушы бар. Сол әртүрлілік – үлгі бұзылуының қайта оралуына қарсы басты құрал. Мұны жасанды деректермен не есептеу қуатын арттыру арқылы түзете алмайсыз.
BeInCrypto: ЖИ сандық ортадан физикалық жүйелерге таралғанда, қатер, жауапкершілік және әзірлеу стандарттары деңгейінде не өзгереді?
Ахмед Рашад: Қайтымсыздық өзгереді. Бұл – негізгі мәселе. Галлюцинациялайтын тіл үлгісі қате жауап береді. Оны түзете аласыз, белгілейсіз, әрі қарай жылжисыз. Бірақ қате шешіммен әрекет ететін роботты хирургиялық жүйе, дұрыс емес жіктеме жасаған автокөлік немесе қате анықталған нысанаға әрекет ететін дрон — мұндай қателіктердің қайтару түймесі жоқ. Сәтсіздік құны ұяттан дағдарыстық деңгейге ауысады.
Сол себептен қандай стандарттар болуы керек деген сұрақ түбегейлі өзгереді. Сандық ортада ЖИ дамуы негізінен тез өзгеріп, өздігінен түзелуге мүмкіндік берілген. Физикалық жүйелерге бұл модель жарамайды. Мұндай жүйелерге арналған жаттығу деректері енгізілгенге дейін тексерілген болуға тиіс, оқиғадан соң тексеру жетімсіз болады.
Бұл жауапкершілікке де ықпал етеді. Сандық контексте жауапкершілікті тарату оңайырақ: үлгіде ме қиындық? Деректе ме? Ендіруде ме? Ал физикалық жүйелерде, әсіресе адамдарға зиян келетін жағдайда, реттеуші органдар мен соттар анық жауап талап етеді. Мұны кім жаттықтырды? Қандай дерекпен? Сол деректі кім әрі қандай стандартпен тексерді? Осындай сұрақтарға жауап бере алған компаниялар мен мемлекеттер ғана әрекет етуге рұқсат алады. Мұндайға дайын емес ұйымдар күтпеген жауапкершілікке тап болады.
Perle-ді дәл осындай өткел үшін құрдық. Адам тексерісінен өткен, сарапшыдан алынған, он-чейн аудитке қолжетімді жүйе. ЖИ қоймаларда, операциялық блоктарда, соғыс алаңында жұмыс істей бастаған уақытта, оның негізіндегі интеллект қабаты басқа стандарттарға сай болуға тиіс. Біз дәл осы стандартқа ұмтылып отырмыз.
BeInCrypto: Қазіргі кезде, әсіресе ұлттық деңгейде, ЖИ жүйелеріне арналған деректерді улау мен қасақана манипуляция қатері қаншалықты шынайы?
Ахмед Рашад: Бұл қатер шынайы, құжатталған және ол туралы құпия ақпаратқа қол жеткізе алатын адамдар оны қазірдің өзінде ұлттық қауіпсіздік басымдығы ретінде қарастырып отыр.
DARPA-ның GARD бағдарламасы (ЖИ-ды алдау әрекеттерінен сақтау үшін төзімділікті қамтамасыз ету) бірнеше жыл бойы ЖИ жүйелеріне қарсы мақсатты шабуылдардан, соның ішінде деректерді улаудан қорғану құралдарын жасаумен айналысты. NSA мен CISA 2025 жылы ортақ нұсқаулық жариялап, деректер жеткізу тізбегіндегі осал тұстар мен әдейі өзгертілген оқу деректерінің ЖИ жүйесінің тұтастығына айтарлықтай қауіп төндіретінін ресми түрде айтты. Бұл кәдімгі теориялық мақалалар емес. Бұлар қауіп-қатер жайлы болжам емес, нақты агенттіктердің жұмыс нұсқаулықтары.
Шабуыл алаңы айтарлықтай кең. Егер қауіп анықтау, медициналық диагноз немесе логистикалық оңтайландыру үшін пайдаланылатын ЖИ жүйесінің оқу деректерін бұза алсаңыз, жүйеге тікелей шабуыл жасаудың қажеті болмай қалады. Әлемді қалай қабылдайтынын сіз өзгертіп қойған боласыз. Бұл классикалық киберқауіпсіздік бұзуларынан анағұрлым күрделі әрі байқалуы да әлдеқайда қиын вектор.
Scale AI-дың Қорғаныс министрлігінің CDAO-мен жасасқан 300 млн долларлық келісімшартының себептерінің бірі үкіметтің құпия желілерде ЖИ қолдану үшін тексерілмеген ашық деректер негізінде оқытылған ЖИ-ды пайдалануға болмайтынын түсінуі. Мұндай деңгейде дерек көзі мәселесі таза академиялық сұрақ емес. Ол – операциялық талап.
Көпшілік арасындағы әңгіме барысында ескерілмей жүрген жайт – бұл тек үкіметтік мәселе емес. ЖИ-ды бәсекелі ортада қолданатын кез келген кәсіпорын – қаржы қызметтері, фармацевтика, инфрақұрылым – мұндайға қарсы деректер қауіпіне толық талдау жасамаған болар. Қатер шынайы. Қорғаныс шаралары әлі де құрастырылып жатыр.
BeInCrypto: Үкімет не ірі ұйымдар мұндай тексеру қабатын өздері де жасап алмай ма? Қарсы пікір айтылғанда нақты жауабы қандай?
Ахмед Рашад: Кейбір ұйымдар мұны қолға алады. Бірақ әрекетке көшкендер негізгі қиындықтың неде екенін тез аңғарады.
Технологияны құру – ең оңай бөлімі. Ең қиыны – желіні қалыптастыру. Тексерілген, құжатталған сарапшылар – рентгенологтар, лингвистер, заңгер мамандар, инженерлер, ғалымдар – жай ғана платформа құрылғандықтан пайда болмайды. Оларды тарту, құжаттау, ынталандыру жүйесін құрып, олардың үлестерін ауқымды деңгейде мәнді ету үшін сапалық келісім тетіктерін дамыту қажет. Мұндай жұмысқа жылдар керек, әрі үкімет пен кәсіпорындарда сәйкес қабілет пен тәжірибе жоқтың қасы.
Екінші қиындық – әртараптылық. Өз тексеру қабатын құратын мемлекеттік орган шектеулі әрі біртекті топтан ғана таңдай алады. Ғаламдық сарапшылар торабындағы құндылық тек құжаттау емес; бұл – масштабты әрі нағыз географияда ғана алуға болатын көзқарас, тіл, мәдениет аясындағы әртүрлілік пен салаға мамандану. Бізде миллионнан астам аннотациялаушы бар. Мұндайды ішкі ресурстарыңызбен қайталай алмайсыз.
Үшінші мәселе – ынталандыруды ұйымдастыру. Жоғары сапалы қатысушыларды ұзақ уақыт бойы тарту үшін әділ де ашық, бағдарламаланатын сыйақы қажет. Блокчейн инфрақұрылымы мұны қамтамасыз етеді; бұл ішкі жүйелерде әдетте жүзеге аспайды: өзгермейтін үлес жазбасы, тікелей иелену, растауға болатын төлем. Мемлекеттік сатып алу жүйесі мұндайды тиімді етуге арналмаған.
Қарсы уәжге беретін шынайы жауап: сіз тек құрал сатып алмайсыз. Бұл – ондаған жылдан аса құрылған желі мен құжаттау жүйесіне қол жеткізу. Балама – «өзіміз құрамыз» емес, «қолда барды пайдаланыңыз, әйтпесе сапасыз деректің қатеріне келісіңіз».
BeInCrypto: Егер ЖИ ұлттық инфрақұрылымның негізгі бөлігіне айналса, бес жылдан кейін егемен интеллект қабаты қайда орналасады деп ойлайсыз?
Ахмед Рашад: Бес жылдан кейін, меніңше, бұл қазіргі қаржы аудиті функциясы сияқты нақты әрі міндетті тексеру қабаты болады, ол дерек пен енгізу арасында орын алады әрі реттеушілер қолдау көрсетіп, кәсіби стандарттар арқылы рәсімделеді.
Қазір ЖИ әзірлемелері ешқандай қаржылық аудит баламасыз жүзеге асады. Компаниялар оқу деректері жөнінде өздері есеп береді. Үшінші тараптың тексеруі, кәсіби құжаттауы, үлгі интеллектісі нақты стандартқа сай келетінін куәландыратын орган жоқ. Біз әлі де бойымызға сенім мен өзін-өзі растауға арқа сүйеген, Sarbanes-Oxley-ге дейінгі қаржы кезеңінің алғашқы сатысында жүрміз.
ЖИ маңызды инфрақұрылымға, энергетика желілерін, денсаулық сақтау жүйелерін, қаржы нарықтарын, қорғаныс желілерін басқаруға انتقال жасағанда, мұндай ұстаным жарамсыз болады. Мемлекеттер аудит жүргізуді міндеттейді. Сатып алу процестерінде келісімшарт шарты ретінде расталған деректің қайнар көзі талап етіледі. Жауапкершілік жүйелері тиісті тексеруден өтпеген жағдайда алдын алуға болатын сәтсіздіктер үшін салдары бар етіп құрылады.
Perle бұл стек ішінде дәл осы жерде – тексеру мен құжаттаудың қабаты ретінде, үлгіні кім, қандай стандартпен үйреткенін өзгермейтін, аудит жүргізуге болатын түрде растайтын құрылым ретінде орналасады. Бұл бес жылдан кейін ЖИ әзірлеу функцияларының бір бөлігі емес, алғышарт болып табылады.
Енірек қарасақ, егемен интеллект тек қорғаныс мердігерлеріне тән алаң емес. Бұл – сәтсіздік нақты зардапқа апаратын кез келген контексте ЖИ-ды қолжетімді ететін іргетас. ЖИ мұндай салаларға кеңейген сайын, дәл сол іргетас стектің ең құнды бөлігіне айналады.
