Upočasnitev AI je moteča. Vaša hiša gori.
Bodimo odkriti: tehnološka industrija z umetno inteligenco končno doživlja trenutek »pridi k Jezusu«, vendar se zdi manj kot pristno kesanje in bolj kot strateški preobrat. Nenadoma sami arhitekti te vratolomne dirke z umetno inteligenco – ugledni raziskovalci in financerji, ki so financirali njihove s kofeinom poganjane sprinte – pozivajo k upočasnitvi [1]. Govorijo o "notranjem upravljanju", "etičnih okvirih" in "bolj premišljenem" tempu. In trg, ki je vedno občutljiv barometer, se je že odzval z zaskrbljenostjo glede trajnosti naložb v umetno inteligenco, ki povzroča nestanovitnost zalog čipov [2].
To ni zunanja ureditev; to je notranja "črta napake", ki izhaja iz samega ekosistema umetne inteligence. In medtem ko C-suite razpravlja o filozofskih posledicah svojih prihodnjih stvaritev, sedanjost aktivno gori.
Priročen premor
Upoštevajte čas. Že leta je bila mantra »hitro se premikaj in zlomi stvari« ali v zadnjem času »hitro se premikaj in gradi AGI«. Zdaj, ko so zmogljivi modeli že uvedeni, ko je konkurenčno okolje v veliki meri opredeljeno in ko se obeta spekter dejanske, smiselne regulacije, pozivi k previdnosti zvenijo nekoliko prazno. Je to resnično zavedanje velikih tveganj ali preračunljiv manever za utrditev moči, upočasnitev tekmecev in obvladovanje javnega dojemanja, preden se vile pokažejo?
Preprosto je pridigati previdnost, ko ste že dosegli trg na področju računalništva, talentov in temeljnih modelov. Nenadna osredotočenost industrije na "ponovno oceno časovnih načrtov izdelkov, ocen tveganja in strateškega načrtovanja" zveni plemenito, a zveni tudi kot priročen način za ponovno usklajevanje virov. To bi lahko potencialno upočasnilo odprtokodne alternative ali manjše igralce, ki bi lahko izzvali uveljavljene velikane z nadzorom dostopa do bistvenih virov ali vplivanjem na regulativne okvire. "Etični okvir" je nenadoma najpomembnejši, ne takrat, ko so se modeli urili na postrganih podatkih, ampak zdaj, ko so dovolj močni, da resnično preoblikujejo družbo.
Pomisleki, izraženi v akademskih in znanstvenih skupnostih, ki opozarjajo, da bi lahko "rešitve" odprtih problemov z umetno inteligenco ogrozile celovitost njihovih področij [3], so jasen pokazatelj globine te notranje skrbi. Vendar ne zamenjajmo tega za altruizem. Ne gre za vpliv umetne inteligence na delovna mesta ali infrastrukturo; gre za nadzor – kdo ga uporablja in s kakšno hitrostjo. Razprava je manj o tem, "ali naj ga zgradimo?" in več o tem, "kdo se odloči, kako hitro bomo zgradili in kdo ima dobiček?"
Medtem ko razpravljajo o prihodnosti, je vaša sedanjost ogrožena
Zdaj pa se pomaknimo od abstraktnih, v prihodnost zazrtih skrbi notranjega razkola AI k takojšnji, oprijemljivi krizi, ki se odvija v naših omrežjih prav zdaj. Medtem ko titani umetne inteligence premišljujejo o duši svojih strojev, se vaše operativne ekipe trudijo zajeziti popolno kibernetsko varnostno katastrofo.
Ne govorimo o teoretičnih grožnjah ali splošnih trendih. Govorimo o aktivno izkoriščenih ranljivostih zero-day v temeljni podjetniški programski opremi, ki udarijo kritično infrastrukturo z močjo kladiva.
- Ivanti Connect Secure in Policy Secure (CVE-2023-46805 & CVE-2024-21887): To ni le napaka; to je zevajoča rana. Te ranljivosti v rešitvah za VPN in dostop do omrežja Ivanti so bile aktivno izkoriščene, kar napadalcem omogoča, da obidejo avtentikacijo in izvajajo oddaljene ukaze. CISA je izdala več opozoril, ki poudarjajo kritično tveganje za organizacije, ki se zanašajo na te sisteme za varen dostop na daljavo [4]. Vaša primarna omrežna obramba, edina stvar, na katero se zanašate, da ustavite negativce na vratih, se aktivno izkorišča za omogočanje globokega dostopa napadalcem do neštetih omrežij podjetij.
- Spletni uporabniški vmesnik Cisco IOS XE (CVE-2023-20198): Največja resnost. Aktivno izkoriščen. Ta ranljivost omogoča nepreverjenim napadalcem, da ustvarijo privilegirane račune in pridobijo popoln nadzor nad prizadetimi napravami Cisco IOS XE. Če ima napadalec ravnino upravljanja vaše omrežne infrastrukture, ima v lasti vaše celotno omrežje. Igra je končana [5].
CISA ne izdaja "opozoril" za zabavo; v nabito polnem gledališču kričijo "ogenj". To niso le teoretične grožnje; aktivno se uporabljajo za ogrožanje temeljnih obrambnih sistemov in sistemov upravljanja v globalnih podjetjih.
Resnična prelomnica
Ironija je tako debela, da bi jo lahko rezal s topim nožem. Na eni strani imamo elito umetne inteligence, ki razpravlja o etičnih posledicah prihodnosti, ki jo še gradi, in poziva k upočasnitvi po letih nenadzorovanega pospeševanja. Po drugi strani pa imamo neposredno, eksistencialno grožnjo naše trenutne temeljne tehnologije, ki aktivno propada pod težo neodpravljenih, nepopravljenih ranljivosti.
Prava "črta napake" ni samo znotraj skupnosti AI; je med slonokoščenim stolpom inovacij in okopi operativne realnosti. Je med abstraktnimi, v prihodnost osredotočenimi razpravami o "samoregulaciji" za AI in takojšnjo, konkretno potrebo po dejanski varnosti in stabilnosti v sistemih, na katere se danes zanašamo.
Kot tehnični direktorji in inženirji si ne moremo privoščiti, da bi nas motile filozofske razprave o upočasnitvi umetne inteligence. Čeprav so te razprave dolgoročno pomembne, so razkošje, ko vaša hiša aktivno gori. "Ponovna ocena načrtov izdelkov" bi se morala začeti s krepitvijo razpadajočih temeljev naše obstoječe infrastrukture. "Ocene tveganja" morajo dati prednost takojšnjim, aktivno izkoriščenim grožnjam, ki danes ogrožajo kontinuiteto delovanja in celovitost podatkov.
Prednostne naloge industrije so izkrivljene. Gradimo hitrejše, sijoče stvari na temelju, ki aktivno gnije. Poziv k upočasnitvi umetne inteligence je morda nujen pogovor, toda za nas na terenu, ki imamo opravka z Ivantijem in Ciscovim ničelnimi dnevi, se zdi, kot da bi razpravljali o barvi zaves, medtem ko se streha zruši. Osredotočite se na sedanjost. Prihodnost lahko počaka, dokler ne bomo več aktivno krvareli.
Viri
[1] Odprto pismo za prekinitev ogromnih eksperimentov AI — https://futureoflife.org/open-letter-pause-ai-development/ [2] Delnice umetne inteligence strmo naraščajo, vendar nekateri vlagatelji postajajo nervozni — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] Revolucija umetne inteligence v znanosti: obljube in nevarnosti — https://www.nature.com/articles/d41586-023-03223-y [4] Akterji groženj izkoriščajo ranljivosti Ivanti Connect Secure in Ivanti Policy Secure — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Akterji groženj izkoriščajo ranljivost spletnega uporabniškega vmesnika programske opreme Cisco IOS XE — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a