Digitalna željezna zavjesa se spušta i svi smo na traci za krpanje
Vizija jedinstvene globalne tehnološke budućnosti se povlači; to je doba prošlo, zamijenjeno konkurentskim geopolitičkim blokovima. Ako još uvijek vjerujete da je "otvoreni izvor" inherentno neutralna, univerzalno korisna sila ili da će umjetna inteligencija jednostavno pojednostaviti naše živote, onda će kineski BRICS AI poticaj i Microsoftovo otkrivanje ranjivosti vođeno umjetnom inteligencijom osporiti te pretpostavke. Svjedoci smo namjerne, strateške fragmentacije digitalnog svijeta, a to će vaš posao učiniti znatno izazovnijim.
Otvoreni izvor, preimenovan: BRICS AI Gambit
Kineski prijedlog da predvodi zajednicu otvorenog koda Large Language Model (LLM) unutar BRICS-a nije samo akademska vježba; to je igra geopolitičke moći predstavljena na način prilagođen programerima [1]. Ovo nije pokret otvorenog koda kako su zamislili njegovi rani pioniri. Ovo je "otvoreni izvor" s programom koji podupire država, namjerna protupriča zapadnoj tehnološkoj dominaciji. Smatrajte to digitalnom inicijativom Pojas i put za umjetnu inteligenciju, uspostavljanjem infrastrukture i standarda koji će se neizbježno razlikovati od onih koje zagovaraju Silicijska dolina i njezini saveznici.
Za tehničke direktore i voditelje inženjera ovo nije apstraktna politika. To implicira potencijalnu bifurkaciju globalne baze talenata za umjetnu inteligenciju. Hoće li vaši najbolji istraživači i razvojni programeri gravitirati prema modelima i okvirima koji su usklađeni sa zapadnim upravljanjem podacima i etičkim smjernicama ili će slijediti prilike unutar ekosustava BRICS-a koji se brzo širi s vlastitim posebnim standardima? Odgovor nije jednostavan, a implikacije za stjecanje i zadržavanje talenata su duboke.
Nadalje, ovaj potez izravno dovodi u pitanje interoperabilnost koju smo očekivali u globalnoj tehnologiji. Zamislite scenarij u kojem se vaš "open-source" LLM, obučen na skupu podataka usklađenom s BRICS-om i pridržavajući se njihovih etičkih okvira, bori da se neprimjetno integrira s aplikacijama ili uslugama u oblaku razvijenim na Zapadu. Suočavamo se s različitim upravljanjem podacima, potencijalno nekompatibilnim arhitekturama modela i regulatornim labirintom zbog kojeg se GDPR čini jednostavnim. Ovo nije propast umjetne inteligencije otvorenog koda; to je njegova strateška implementacija, stvaranje nezapadne alternative koja će se natjecati za tržišni udio, umove i konačno, globalni utjecaj. Vaš opskrbni lanac za AI modele upravo je postao daleko složeniji, a vašem će timu za usklađenost trebati više resursa.
Traka za trčanje pokretana umjetnom inteligencijom: Microsoftov sigurnosni "poklon"
Prijeđimo sada s geopolitičke strategije na operativnu stvarnost. Microsoft je nedavno otkrio da njegov sustav za otkrivanje ranjivosti koji pokreće AI otkriva značajno povećan broj nedostataka [2]. To dovodi do znatnog povećanja potrebnih popravaka. Na površini, ovo zvuči kao pobjeda: AI čini naš softver sigurnijim bržim pronalaženjem grešaka. Ali bolje pogledajte i pronaći ćete novi, brži i iscrpljujući ciklus za svaki IT i sigurnosni tim na planetu.
Ne radi se o tome da AI iskorištava zero-days; radi se o tome da ih AI otkriva neviđenom brzinom. I tko je onda odgovoran za krpanje ovih stotina novootkrivenih ranjivosti, često u složenim, međusobno povezanim poslovnim sustavima? To biste bili vi i vaši već nategnuti timovi. AI je ubrzao ciklus otkrivanja ranjivosti do ubrzanog tempa, ali ljudski kapacitet za krpanje i provjeru valjanosti nije magično držao korak.
Ovdje je "korist" kompleksna prednost. Da, naši bi sustavi mogli biti sigurniji jer se pronalazi više nedostataka. Ali operativna stvarnost je stalno, rastuće radno opterećenje. Vaše strategije krpanja, raspodjela resursa, pa čak i vaši modeli procjene rizika trebaju temeljnu ponovnu procjenu. Tradicionalna kadenca "Patch Tuesday" postaje zastarjeli koncept, zamijenjen kontinuiranim sprintom visokog intenziteta. Ovdje se ne radi samo o upravljanju većim brojem zakrpa; radi se o upravljanju složenošću tih zakrpa, potencijalu regresija i samom opsegu potrebnog upravljanja promjenama. AI, u ovom slučaju, ne pojednostavljuje sigurnost; povećava operativni teret, zahtijevajući više od već opterećenih ljudskih resursa.
Fragmentirana budućnost
Ova dva razvoja, naizgled različita, oslikavaju dosljednu sliku: umjetna inteligencija, daleko od toga da bude sila koja objedinjuje ili pojednostavljuje, aktivno pridonosi fragmentiranijem i zahtjevnijem tehnološkom okruženju. BRICS AI inicijativa predstavlja geopolitičku fragmentaciju, tjerajući nas da se borimo s različitim standardima i ekosustavima. Microsoftovo krpanje vođeno umjetnom inteligencijom označava operativnu fragmentaciju, gdje brzina otkrivanja nadmašuje jednostavnost upravljanja, što dovodi do stalnog reaktivnog rada.
Kao tehnološki lideri, ne možemo si više priuštiti naivni optimizam. Digitalni svijet se dijeli, a alati koje izrađujemo, čak i oni namijenjeni obrani, stvaraju nove izazove brže nego što rješavaju stare. Vaše strateško planiranje sada mora uzeti u obzir razdvojeno globalno tržište umjetne inteligencije, gdje "otvoreni kod" ima više, potencijalno proturječnih definicija. Vaši operativni timovi moraju se pripremiti za nemilosrdan, AI-ubrzan ciklus sigurnosnog održavanja koji će testirati njihove granice. Budućnost nije manja složenost; radi se o upravljanju većim dijelom toga, brže i preko sve više podijeljenih domena. Prilagodite se ili riskirajte irelevantnost.
Izvori
[1] Kina predlaže BRICS AI platformu otvorenog koda — https://www.scmp.com/tech/tech-war/article/3232675/china-proposes-brics-open-source-ai-platform-counter-western-dominance-and-boost-developing-nations [2] Microsoftov sigurnosni blog: Kako nam umjetna inteligencija pomaže u zaštiti kupaca — https://www.microsoft.com/security/blog/2023/07/18/how-ai-is-helping-us-protect-customers/