Дигиталната железна завеса се спушта и сите ние сме на неблагодарна работа
Визијата за обединета глобална технолошка иднина се повлекува; таа ера помина, заменета со конкурентни геополитички блокови. Ако сè уште верувате дека „отворениот код“ е инхерентно неутрална, универзално корисна сила, или дека вештачката интелигенција едноставно ќе ни ги поедностави животите, тогаш кинеската вештачка интелигенција BRICS и откритието на ранливоста на Мајкрософт, управувано од вештачката интелигенција, ќе ги оспорат тие претпоставки. Сведоци сме на намерна, стратешка фрагментација на дигиталниот свет и тоа ќе ја направи вашата работа значително попредизвикувана.
Отворен код, ребрендиран: BRICS AI Gambit
Предлогот на Кина да ја предводи заедницата со отворен код со голем јазичен модел (LLM) во рамките на БРИКС не е само академска вежба; тоа е игра за геополитичка моќ претставена во термини погодни за развивачите [1]. Ова не е движење со отворен код како што го замислија неговите рани пионери. Ова е „отворен код“ со агенда поддржана од државата, намерен контра-наратив на западната технолошка доминација. Сметајте го за дигитална иницијатива „Појас и пат“ за вештачка интелигенција, воспоставувајќи инфраструктура и стандарди кои неизбежно ќе се разликуваат од оние што се залагаат од Силиконската долина и нејзините сојузници.
За CTO и инженерски води, ова не е апстрактна политика. Ова подразбира потенцијална бифуркација на глобалниот базен на таленти за вештачка интелигенција. Дали вашите најдобри истражувачи и програмери ќе гравитираат кон модели и рамки што се усогласуваат со западното управување со податоци и етичките упатства или ќе ги следат можностите во рамките на брзорастечкиот екосистем на БРИКС со свои посебни стандарди? Одговорот не е јасен, а импликациите за стекнување и задржување таленти се длабоки.
Понатаму, овој потег директно ја предизвикува интероперабилноста што ја очекувавме во глобалната технологија. Замислете сценарио каде што вашиот LLM со „отворен извор“, обучен на база на податоци усогласени со BRICS и придржувајќи се до нивните етички рамки, се бори да се интегрира беспрекорно со апликациите или облак-услугите развиени од Запад. Се соочуваме со различно управување со податоци, потенцијално некомпатибилни архитектури на модели и регулаторен лавиринт што прави GDPR да изгледа едноставен. Ова не е пропаст на вештачката интелигенција со отворен код; тоа е негово стратешко распоредување, создавајќи незападна алтернатива која ќе се натпреварува за удел на пазарот, споделување на размислување и на крајот, глобално влијание. Вашиот синџир на снабдување за модели со вештачка интелигенција стана далеку покомплексен, а вашиот тим за усогласеност ќе бара зголемени ресурси.
Неблагодарна работа напојувана со вештачка интелигенција: безбедносен „подарок“ на Мајкрософт
Сега, да се префрлиме од геополитичката стратегија кон оперативната реалност. Мајкрософт неодамна откри дека неговиот систем за откривање ранливост напојуван со вештачка интелигенција открива значително зголемен број на недостатоци [2]. Ова води до значителен пораст на потребните поправки. На површината, ова звучи како победа: вештачката интелигенција го прави нашиот софтвер побезбеден со побрзо наоѓање на грешки. Но, погледнете поблиску и ќе најдете нов, побрз и поисцрпувачки циклус за секој тим за ИТ и безбедност на планетата.
Овде не станува збор за вештачка интелигенција која ги искористува нула-деновите; се работи за вештачката интелигенција која ги открива со невидена брзина. И кој е тогаш одговорен за поправање на овие стотици новоидентификувани пропусти, често преку сложени, меѓусебно поврзани системи на претпријатија? Тоа би биле ти, и твоите веќе развлечени тимови. Вештачката интелигенција го забрза циклусот на откривање ранливост до забрзано темпо, но човечкиот капацитет за поправање и валидација не магично го задржа темпото.
„Придобивката“ овде е комплексна предност. Да, нашите системи би можеле да бидат побезбедни бидејќи се наоѓаат повеќе недостатоци. Но, оперативната реалност е постојан, растечки обем на работа. На вашите стратегии за поправање, распределба на ресурси, па дури и на вашите модели за проценка на ризикот е потребна фундаментална реевалуација. Традиционалната каденца на „Patch Tuesday“ станува застарен концепт, заменет со континуиран спринт со висок интензитет. Ова не е само за управување со повеќе закрпи; се работи за управување со комплексноста на тие закрпи, потенцијалот за регресии и огромниот обем на потребниот менаџмент на промени. ВИ, во овој пример, не ја поедноставува безбедноста; тоа го засилува оперативниот товар, барајќи повеќе од веќе затегнатите човечки ресурси.
Фрагментирана иднина
Овие два развоја, навидум различни, даваат конзистентна слика: ВИ, далеку од тоа да биде обединувачка или поедноставувачка сила, активно придонесува за пофрагментирана и понапорна технолошка средина. Иницијативата BRICS AI претставува геополитичка фрагментација, принудувајќи нè да се бориме со различни стандарди и екосистеми. Крпењето на Мајкрософт управувано од вештачка интелигенција означува оперативна фрагментација, каде што брзината на откривање ја надминува леснотијата на управување, што доведува до постојана реактивна работа.
Како лидери во технологијата, повеќе не можеме да си дозволиме наивен оптимизам. Дигиталниот свет се дели, а алатките што ги градиме, дури и оние дизајнирани за одбрана, побрзо создаваат нови предизвици отколку што ги решаваат старите. Вашето стратешко планирање сега мора да води сметка за бифурциран глобален пазар на вештачка интелигенција, каде што „отворен код“ има повеќекратни, потенцијално спротивставени дефиниции. Вашите оперативни тимови мора да се подготват за безмилосен циклус на безбедносно одржување забрзан со вештачка интелигенција, кој ќе ги тестира нивните граници. Иднината не е за помала сложеност; се работи за управување со повеќе од него, побрзо и низ сè пофрактурирани домени. Приспособете се или ризикувајте ирелевантност.
Извори
[1] Кина предлага БРИКС платформа за вештачка интелигенција со отворен код - https://www.scmp.com/tech/tech-war/article/3232675/china-proposes-brics-open-source-ai-platform-counter-western-dominance-and-boost-developing-nations [2] Блог за безбедност на Microsoft: Како вештачката интелигенција ни помага да ги заштитиме клиентите — https://www.microsoft.com/security/blog/2023/07/18/how-ai-is-helping-us-protect-customers/