Digitālais dzelzs priekškars nolaižas, un mēs visi esam lāpīšanas skrejceliņā
Vīzija par vienotu globālo tehnoloģiju nākotni atkāpjas; šis laikmets ir pagājis, to aizstāja konkurējoši ģeopolitiskie bloki. Ja jūs joprojām uzskatāt, ka "atvērtais kods" ir pēc būtības neitrāls, vispārēji izdevīgs spēks vai ka AI vienkārši vienkāršos mūsu dzīvi, Ķīnas BRICS AI virzība un Microsoft AI vadītais ievainojamības atklājums apšaubīs šos pieņēmumus. Mēs esam liecinieki apzinātai, stratēģiskai digitālās pasaules sadrumstalotībai, un tas padarīs jūsu darbu ievērojami sarežģītāku.
Atvērtā pirmkoda, pārdēvēts: BRICS AI Gambit
Ķīnas priekšlikums vadīt atvērtā koda lielo valodu modeļa (LLM) kopienu BRICS ietvaros nav tikai akadēmisks uzdevums; tā ir ģeopolitiska spēka spēle, kas parādīta izstrādātājiem draudzīgā izteiksmē [1]. Šī nav atvērtā pirmkoda kustība, kā to bija iecerējuši tās pirmie pionieri. Tas ir "atvērtais avots" ar valsts atbalstītu darba kārtību, apzinātu pretstāstu Rietumu tehnoloģiju dominēšanai. Uzskatiet to par digitālo joslu un ceļu iniciatīvu mākslīgajam intelektam, izveidojot infrastruktūru un standartus, kas neizbēgami atšķirsies no tiem, ko atbalsta Silīcija ieleja un tās sabiedrotie.
CTO un vadošajiem inženieriem šī nav abstrakta politika. Tas nozīmē iespējamu globālā AI talantu kopuma sadalīšanos. Vai jūsu labākie pētnieki un izstrādātāji pievērsīsies modeļiem un ietvariem, kas atbilst Rietumu datu pārvaldībai un ētikas vadlīnijām, vai arī viņi izmantos iespējas strauji augošā BRICS ekosistēmā ar saviem atšķirīgiem standartiem? Atbilde nav vienkārša, un ietekme uz talantu iegūšanu un saglabāšanu ir dziļa.
Turklāt šis solis tieši izaicina sadarbspēju, ko esam pieraduši sagaidīt globālajās tehnoloģijās. Iedomājieties scenāriju, kurā jūsu "atvērtā koda" LLM, kas ir apmācīts, izmantojot BRICS saskaņotu datu kopu un ievēro viņu ētiskos pamatprincipus, cenšas nemanāmi integrēties ar Rietumos izstrādātajām lietojumprogrammām vai mākoņpakalpojumiem. Mēs saskaramies ar atšķirīgu datu pārvaldību, potenciāli nesaderīgām modeļu arhitektūrām un regulējuma labirintu, kas padara GDPR vienkāršu. Tas nav atvērtā pirmkoda AI bojāeja; tā ir tās stratēģiskā izvietošana, radot ne-Rietumu alternatīvu, kas konkurēs par tirgus daļu, prāta dalīšanu un galu galā globālo ietekmi. Jūsu mākslīgā intelekta modeļu piegādes ķēde tikko kļuva daudz sarežģītāka, un atbilstības komandai būs nepieciešami lielāki resursi.
Ar AI darbināms skrejceļš: Microsoft drošības "dāvana"
Tagad pāriesim no ģeopolitiskās stratēģijas uz operatīvo realitāti. Microsoft nesen atklāja, ka tās ar AI darbinātā ievainojamību atklāšanas sistēma atklāj ievērojami lielāku trūkumu skaitu [2]. Tas ievērojami palielina nepieciešamo labojumu skaitu. No malas tas izklausās pēc uzvaras: AI padara mūsu programmatūru drošāku, ātrāk atrodot kļūdas. Taču paskatieties uzmanīgāk, un jūs atradīsiet jaunu, ātrāku un nogurdinošāku ciklu katrai planētas IT un drošības komandai.
Šeit nav runa par AI, kas izmanto nulles dienas; tas ir par AI atklāšanu to nepieredzētā ātrumā. Un kurš tad ir atbildīgs par šo simtiem jaunatklāto ievainojamību aizlāpīšanu, bieži vien sarežģītās, savstarpēji saistītās uzņēmuma sistēmās? Tas būtu jūs un jūsu jau tā saspringtās komandas. AI ir paātrinājis ievainojamības atklāšanas ciklu līdz paātrinātam tempam, taču cilvēka spēja veikt ielāpu un validāciju nav maģiski turējusies līdzi.
Šeit "ieguvums" ir sarežģīta priekšrocība. Jā, mūsu sistēmas varētu būt drošākas, jo tiek atrasts vairāk trūkumu. Taču operatīvā realitāte ir pastāvīga, pieaugoša darba slodze. Jūsu ielāpu stratēģijas, resursu piešķiršana un pat riska novērtēšanas modeļi ir rūpīgi jāpārvērtē. Tradicionālā "Plāķa otrdienas" kadence kļūst par novecojušu koncepciju, ko aizstāj nepārtraukts, augstas intensitātes sprints. Tas attiecas ne tikai uz vairāku ielāpu pārvaldību; runa ir par šo ielāpu sarežģītības pārvaldību, regresijas iespējamību un nepieciešamo izmaiņu pārvaldības apjomu. AI šajā gadījumā nevienkāršo drošību; tas palielina darbības slogu, prasot vairāk no jau tā saspringtajiem cilvēkresursiem.
Sadrumstalotā nākotne
Šīs divas šķietami atšķirīgas norises rada konsekventu ainu: AI nebūt nav vienojošs vai vienkāršojošs spēks, bet gan aktīvi veicina sadrumstalotāku un prasīgāku tehnoloģisko vidi. BRICS AI iniciatīva atspoguļo ģeopolitisko sadrumstalotību, liekot mums cīnīties ar atšķirīgiem standartiem un ekosistēmām. Microsoft mākslīgā intelekta vadītā ielāpēšana nozīmē darbības sadrumstalotību, kur atklāšanas ātrums pārsniedz pārvaldības vienkāršību, tādējādi radot nepārtrauktu reaktīvu darbu.
Kā tehnoloģiju līderi mēs vairs nevaram atļauties naivu optimismu. Digitālā pasaule sadalās, un mūsu izveidotie rīki, pat tie, kas paredzēti aizsardzībai, rada jaunus izaicinājumus ātrāk, nekā risina vecos. Jūsu stratēģiskajā plānošanā tagad ir jāņem vērā divšķautņains globālais AI tirgus, kurā "atvērtajam pirmkodam" ir vairākas, potenciāli pretrunīgas definīcijas. Jūsu operatīvajām komandām ir jāsagatavojas nerimstošam, mākslīgā intelekta paātrinātam drošības uzturēšanas ciklam, kas pārbaudīs viņu robežas. Nākotne nav saistīta ar mazāku sarežģītību; tas ir par to, lai pārvaldītu vairāk, ātrāk un arvien vairāk sadalītos domēnos. Pielāgojiet vai riskējiet ar neatbilstību.
Avoti
[1] Ķīna piedāvā BRICS atvērtā pirmkoda mākslīgā intelekta platformu — https://www.scmp.com/tech/tech-war/article/3232675/china-proposes-brics-open-source-ai-platform-counter-western-dominance-and-boost-developing-nations [2] Microsoft drošības emuārs: kā AI palīdz mums aizsargāt klientus — https://www.microsoft.com/security/blog/2023/07/18/how-ai-is-helping-us-protect-customers/