Digitálna železná opona klesá a my všetci sme na bežiacom páse
Vízia zjednotenej globálnej technologickej budúcnosti ustupuje; táto éra pominula a nahradili ju konkurenčné geopolitické bloky. Ak stále veríte, že „open source“ je vo svojej podstate neutrálna, všeobecne prospešná sila, alebo že AI jednoducho zjednoduší naše životy, potom čínsky BRICS AI push a Microsoft objavovanie zraniteľností poháňané AI tieto predpoklady spochybní. Sme svedkami zámernej, strategickej fragmentácie digitálneho sveta, vďaka čomu bude vaša práca výrazne náročnejšia.
Open Source, rebranded: The BRICS AI Gambit
Čínsky návrh postaviť sa do čela komunity LLM (Large Language Model) s otvoreným zdrojom v rámci BRICS nie je len akademickým cvičením; je to geopolitická mocenská hra prezentovaná v pojmoch, ktoré sú priaznivé pre vývojárov [1]. Toto nie je hnutie s otvoreným zdrojom, ako si predstavovali jeho prví priekopníci. Toto je „open source“ so štátom podporovanou agendou, zámerným protikladom k západnej technologickej dominancii. Považujte to za digitálnu iniciatívu Belt and Road pre AI, ktorá vytvára infraštruktúru a štandardy, ktoré sa budú nevyhnutne líšiť od tých, ktoré presadzuje Silicon Valley a jeho spojenci.
Pre CTO a vedúcich inžinierov to nie je abstraktná politika. To znamená potenciálne rozdvojenie globálneho fondu AI talentov. Budú vaši najlepší výskumníci a vývojári smerovať k modelom a rámcom, ktoré sú v súlade so západnou správou údajov a etickými usmerneniami, alebo budú využívať príležitosti v rámci rýchlo sa rozširujúceho ekosystému BRICS s vlastnými odlišnými štandardmi? Odpoveď nie je jednoduchá a dôsledky pre získavanie a udržanie talentov sú hlboké.
Okrem toho tento krok priamo spochybňuje interoperabilitu, ktorú sme od globálnej technológie očakávali. Predstavte si scenár, v ktorom sa váš „open-source“ LLM, vyškolený na súbore údajov zosúladených s BRICS a dodržiavajúci ich etické rámce, snaží hladko integrovať s aplikáciami alebo cloudovými službami vyvinutými na Západe. Čelíme rozdielnej správe údajov, potenciálne nekompatibilným modelovým architektúram a regulačnému labyrintu, vďaka ktorému sa GDPR zdá byť jednoduché. Toto nie je zánik umelej inteligencie s otvoreným zdrojom; je to jeho strategické nasadenie, vytvárajúce nezápadnú alternatívu, ktorá bude súťažiť o podiel na trhu, zdieľanie mysle a v konečnom dôsledku aj o globálny vplyv. Váš dodávateľský reťazec pre modely AI sa práve stal oveľa zložitejším a váš tím pre dodržiavanie predpisov bude vyžadovať zvýšené zdroje.
Bežecký pás poháňaný umelou inteligenciou: „Darček“ zabezpečenia spoločnosti Microsoft
Teraz prejdime od geopolitickej stratégie k operačnej realite. Microsoft nedávno odhalil, že jeho systém na zisťovanie zraniteľností poháňaný AI odhaľuje výrazne zvýšený počet nedostatkov [2]. To vedie k podstatnému nárastu požadovaných opráv. Navonok to znie ako víťazstvo: AI robí náš softvér bezpečnejším tým, že rýchlejšie nachádza chyby. Ale pozrite sa bližšie a nájdete nový, rýchlejší a vyčerpávajúci cyklus pre každý IT a bezpečnostný tím na planéte.
Toto nie je o AI využívaní zero-days; ide o to, aby ich AI objavila bezprecedentnou rýchlosťou. A kto je potom zodpovedný za opravu týchto stoviek novo identifikovaných zraniteľností, často v zložitých, vzájomne prepojených podnikových systémoch? To by ste boli vy a vaše už natiahnuté tímy. Umelá inteligencia zrýchlila cyklus odhaľovania zraniteľnosti na zrýchlené tempo, ale ľudská kapacita na opravu a overenie zázračne neudržala tempo.
„Výhoda“ je tu komplexná výhoda. Áno, naše systémy mohli byť bezpečnejšie, pretože sa nachádza viac nedostatkov. Ale prevádzková realita je neustála, eskalujúca pracovná záťaž. Vaše záplatovacie stratégie, alokácia zdrojov a dokonca aj vaše modely hodnotenia rizík potrebujú zásadné prehodnotenie. Tradičná kadencia „Patch Tuesday“ sa stáva zastaraným konceptom, ktorý je nahradený kontinuálnym šprintom s vysokou intenzitou. Toto nie je len o spravovaní viacerých záplat; je to o riadení zložitosti týchto záplat, potenciálu pre regresie a veľkého množstva požadovaného manažmentu zmien. AI v tomto prípade nezjednodušuje bezpečnosť; zvyšuje prevádzkovú záťaž a vyžaduje viac od už aj tak napätých ľudských zdrojov.
Fragmentovaná budúcnosť
Tieto dva vývojové trendy, zdanlivo nesúrodé, vykresľujú konzistentný obraz: AI, ďaleko od toho, že je zjednocujúcou alebo zjednodušujúcou silou, aktívne prispieva k fragmentovanejšiemu a náročnejšiemu technologickému prostrediu. Iniciatíva BRICS AI predstavuje geopolitickú fragmentáciu, ktorá nás núti bojovať s rozdielnymi štandardmi a ekosystémami. Záplaty založené na umelej inteligencii od Microsoftu znamenajú operačnú fragmentáciu, kde rýchlosť objavovania prevyšuje jednoduchosť správy, čo vedie k neustálej reaktívnej práci.
Ako tech lídri si už nemôžeme dovoliť naivný optimizmus. Digitálny svet sa rozdeľuje a nástroje, ktoré vytvárame, dokonca aj tie, ktoré sú určené na obranu, vytvárajú nové výzvy rýchlejšie ako riešia staré. Vaše strategické plánovanie musí teraz počítať s rozdvojeným globálnym trhom AI, kde má „open source“ viacero, potenciálne protichodných definícií. Vaše operačné tímy sa musia pripraviť na neúnavný cyklus údržby zabezpečenia akcelerovaný AI, ktorý otestuje ich limity. Budúcnosť nie je o menšej zložitosti; ide o spravovanie väčšieho množstva, rýchlejšie a naprieč čoraz viac roztrieštenými doménami. Prispôsobte sa alebo riskujte irelevantnosť.
Zdroje
[1] Čína navrhuje platformu umelej inteligencie s otvoreným zdrojom BRICS – https://www.scmp.com/tech/tech-war/article/3232675/china-proposes-brics-open-source-ai-platform-counter-western-dominance-and-boost-developing-nations [2] Blog o zabezpečení spoločnosti Microsoft: Ako nám AI pomáha chrániť zákazníkov – https://www.microsoft.com/security/blog/2023/07/18/how-ai-is-helping-us-protect-customers/