Цифрлық темір перде төмендейді және біз бәріміз патчинг тредмиліндеміз
Бірыңғай жаһандық технологиялық болашаққа деген көзқарас жойылуда; сол дәуір өтті, оның орнын бәсекелес геосаяси блоктар басты. Егер сіз әлі де «ашық дереккөзді» бейтарап, әмбебап пайдалы күш деп санасаңыз немесе AI біздің өмірімізді жеңілдетеді деп ойласаңыз, Қытайдың BRICS AI итері мен Microsoft корпорациясының AI-ге негізделген осалдықты ашуы бұл болжамдарға қарсы болады. Біз цифрлық әлемнің әдейі, стратегиялық бөлшектенуінің куәсі болып отырмыз және бұл сіздің жұмысыңызды айтарлықтай қиындатады.
Ашық дереккөз, ребрендтелген: BRICS AI гамбиті
Қытайдың БРИКС аясындағы ашық бастапқы ірі тіл үлгісі (LLM) қауымдастығына жетекшілік ету туралы ұсынысы тек академиялық жаттығу емес; бұл әзірлеушілерге қолайлы шарттарда ұсынылған геосаяси күш ойыны [1]. Бұл оның алғашқы пионерлері ойлағандай ашық бастапқы қозғалыс емес. Бұл мемлекет қолдайтын күн тәртібі бар «ашық дереккөз», Батыстың технологиялық үстемдігіне қасақана қарсы баяндау. Силикон алқабы мен оның одақтастары қолдайтындардан сөзсіз ерекшеленетін инфрақұрылым мен стандарттарды белгілейтін AI үшін цифрлық белдеу мен жол бастамасы деп қарастырыңыз.
КТО және инженерлік жетекшілер үшін бұл дерексіз саясат емес. Бұл жаһандық AI таланттар пулының әлеуетті бифуркациясын білдіреді. Сіздің ең жақсы зерттеушілеріңіз бен әзірлеушілеріңіз батыстық деректерді басқаруға және этикалық нұсқауларға сәйкес келетін үлгілер мен құрылымдарға ұмтыла ма, әлде олар тез дамып келе жатқан BRICS экожүйесінің өзіндік ерекше стандарттары бар мүмкіндіктерге ұмтыла ма? Жауап қарапайым емес, талантты иемдену мен сақтаудың салдары терең.
Сонымен қатар, бұл қадам жаһандық технологияда біз күткен өзара әрекеттестікке тікелей қауіп төндіреді. BRICS-ке сәйкестендірілген деректер жинағында оқытылған және олардың этикалық негіздерін ұстанатын «ашық бастапқы» LLM батыста әзірленген қолданбалармен немесе бұлттық қызметтермен үздіксіз біріктіру үшін күресетін сценарийді елестетіп көріңіз. Біз әртүрлі деректерді басқарумен, сәйкес келмейтін үлгі архитектурасымен және GDPR қарапайым болып көрінетін реттеу лабиринтімен бетпе-бет келіп отырмыз. Бұл ашық бастапқы AI-ның жойылуы емес; бұл нарықтағы үлес, ақыл-ой бөлісу және сайып келгенде, жаһандық ықпал үшін бәсекелесетін батыстық емес балама жасайтын оның стратегиялық орналасуы. Жасанды интеллект үлгілеріне арналған жеткізу тізбегі әлдеқайда күрделі болды және сіздің сәйкестік тобыңыз қосымша ресурстарды қажет етеді.
Жасанды интеллектпен жұмыс істейтін жүгіру жолы: Microsoft корпорациясының қауіпсіздік «сыйлығы»
Енді геосаяси стратегиядан операциялық шындыққа көшейік. Жақында Майкрософт өзінің AI-мен жұмыс істейтін осалдықтарды анықтау жүйесі кемшіліктердің айтарлықтай көбейгенін анықтады [2]. Бұл қажетті түзетулердің айтарлықтай өсуіне әкеледі. Сырттай бұл жеңіске ұқсайды: AI қателерді жылдам табу арқылы бағдарламалық жасақтаманы қауіпсіз етеді. Бірақ жақынырақ қараңыз, сонда сіз планетадағы әрбір АТ және қауіпсіздік командасы үшін жаңа, жылдамырақ және одан да шаршайтын циклді табасыз.
Бұл AI-ның нөлдік күндерді пайдалануы туралы емес; бұл AI * оларды бұрын-соңды болмаған жылдамдықпен ашуы туралы. Сонымен, көбінесе күрделі, өзара байланысты кәсіпорын жүйелері арқылы жаңадан анықталған жүздеген осалдықтарды түзетуге кім жауапты? Бұл сіз және сіздің бұрыннан созылған командаларыңыз болар еді. AI осалдықты ашу циклін жеделдетілген қарқынға дейін жылдамдатты, бірақ адамның патчинг және валидация мүмкіндігі сиқырлы түрде қарқын алған жоқ.
Мұндағы «пайда» күрделі артықшылық болып табылады. Иә, біздің жүйелеріміз қауіпсіз болуы мүмкін, себебі көбірек кемшіліктер табылуда. Бірақ операциялық шындық - бұл тұрақты, күшейетін жұмыс жүктемесі. Сіздің түзету стратегияларыңыз, ресурстарды бөлу және тіпті тәуекелді бағалау үлгілері түбегейлі қайта бағалауды қажет етеді. «Жамау сейсенбісінің» дәстүрлі каденциясы үздіксіз, жоғары қарқынды спринтпен ауыстырылған ескірген тұжырымдамаға айналуда. Бұл жай ғана қосымша патчтарды басқару туралы емес; бұл патчтардың күрделілігін, регрессиялардың әлеуетін және қажетті өзгерістерді басқарудың үлкен көлемін басқару туралы. Бұл жағдайда AI қауіпсіздікті жеңілдетпейді; бұл операциялық жүктемені күшейтіп, онсыз да шиеленіскен адам ресурстарынан көбірек талап етеді.
Бөлінген болашақ
Бір-бірінен алшақ болып көрінетін бұл екі оқиға дәйекті суретті салады: AI біріктіруші немесе жеңілдететін күш емес, бөлшектенген және талап етілетін технологиялық ортаға белсенді түрде үлес қосуда. BRICS AI бастамасы геосаяси бөлшектенуді білдіреді, бұл бізді әртүрлі стандарттар мен экожүйелермен күресуге мәжбүр етеді. Microsoft корпорациясының AI негізіндегі патчингі операциялық фрагментацияны білдіреді, мұнда ашу жылдамдығы басқарудың қарапайымдылығынан асып түседі, бұл мәңгілік реактивті жұмысқа әкеледі.
Технологиялық көшбасшылар ретінде біз бұдан былай аңғал оптимизмге жол бере алмаймыз. Цифрлық әлем ыдырап жатыр, ал біз құрастырған құралдар, тіпті қорғанысқа арналған құралдар да ескілерін шешкеннен гөрі жаңа қиындықтарды тезірек тудырады. Сіздің стратегиялық жоспарлауыңыз енді екіге бөлінген жаһандық AI нарығын есепке алуы керек, мұнда «ашық көзде» бірнеше, ықтимал қайшылықты анықтамалар бар. Сіздің операциялық топтарыңыз шектеулерін тексеретін тынымсыз, AI-жеделдетілген қауіпсіздікті қамтамасыз ету цикліне дайындалуы керек. Болашақ аз күрделілік туралы емес; бұл оның көп бөлігін, жылдамырақ және барған сайын бұзылған домендерді басқару туралы. Бейімделу немесе қауіп-қатер маңызды емес.
Дереккөздер
[1] Қытай BRICS ашық бастапқы AI платформасын ұсынады — https://www.scmp.com/tech/tech-war/article/3232675/china-proposes-brics-open-source-ai-platform-counter-western-dominance-and-boost-developing-nations [2] Microsoft қауіпсіздік блогы: AI тұтынушыларды қорғауға қалай көмектеседі — https://www.microsoft.com/security/blog/2023/07/18/how-ai-is-helping-us-protect-customers/