Nauji imperatoriaus dirbtinio intelekto apsauginiai drabužiai: kol žiūrime į Muse, pamatas griūva
Būkime tiesioginiai: technologijų pramonė turi naują maniją, kuri vadinama „AI saugumu“. Tikimasi, kad visi sutelksime dėmesį į greitą injekciją, modelių apsinuodijimą ir duomenų išfiltravimą iš didelių kalbų modelių. Tuo tarpu tikroji, fizinė, skaitmeninė infrastruktūra, laikanti mūsų įmones kartu, yra aktyviai padegta nenumaldomos nulinių dienų užtvaros. Neseniai įvykęs incidentas, susijęs su pagrindine DI platforma, iliustruojantis platesnius iššūkius užtikrinant AI infrastruktūrą, išryškina šią pavojingą dichotomiją [1].
„Meta“, įmonė, žinoma dėl „greitai judėk ir sulaužyk dalykus“ etoso, susidūrė su AI platformų saugumo trūkumų tikrinimu. Pavyzdžiui, klaidų kompensavimo programa atskleidė reikšmingą trūkumą, atskleidžiantį naudotojo virtualiąsias mašinas. Tai nebuvo subtilus duomenų nutekėjimas ar sumanus greitas apėjimas, o esminė infrastruktūros lygio klaida, kuri atskleidė vartotojo VM. Tai nėra koks nors ezoterinis DI pažeidžiamumas; tai pagrindinė VM izoliacija, problema, kurią prieš dešimtmetį iš esmės manėme, kad ji buvo sutramdyta. Tai yra esminis privatumo ir duomenų vientisumo pažeidimas, tiesiogiai paveikiantis vartotojus ir potencialius verslo klientus, naudojančius tokią AI infrastruktūrą.
Šio tipo trūkumai, nors ir tikrai įtakingi, labiau atrodo kaip naujas „AI saugumo“ iššūkis, o labiau kaip klasikinis infrastruktūros gedimas užsidėjus AI kepurę. Tai priminimas, kad net pažangiausios AI platformos yra sukurtos remiantis įprasto skaičiavimo, tinklų kūrimo ir virtualizacijos sluoksniais. Jei šiuose pagrindiniuose sluoksniuose gausu skylių, nesvarbu, koks sudėtingas yra jūsų AI modelis; visa sistema lieka pažeidžiama. Šios istorijos „AI“ aspektas yra beveik blaškymas, klaidinga kryptis, kuri atitraukia mūsų žvilgsnį nuo pūvančių medžių, esančių po poliruotomis grindų lentomis.
CISA KEV užtvara: svarbus rodiklis
Kol diskutuojame apie etines jautrių pokalbių robotų pasekmes ir dirbtinio intelekto saugos niuansus, CISA į savo žinomų išnaudotų pažeidžiamumų (KEV) katalogą įtraukia precedento neturintį skaičių aktyviai išnaudojamų pažeidžiamumų. Tai nėra teorinis pratimas. Tai nėra „pataisymų kada nors“ sąrašas. Tai skubus sąrašas „jūsų namas dega šiuo metu“.
Pastarosiomis savaitėmis CISA pridėjo daug įrašų, todėl per trumpą laiką bendras aktyviai išnaudotų pažeidžiamumų skaičius padidėjo iki stulbinančio skaičiaus [2]. Tai ne tik „saugumas yra blogas“; tai sisteminė, didėjanti krizė, paveikianti labai svarbią įmonės programinę įrangą, kuri valdo mūsų pasaulį.
Apsvarstykite naujausius KEV katalogo papildymus:
- CVE-2023-46214: „Splunk Enterprise“ nuotolinio kodo vykdymo pažeidžiamumas (CVSS 9.8) su CISA pataisos terminu, todėl nepataisytos sistemos yra labai pažeidžiamos.
- CVE-2023-29357: „Microsoft SharePoint Server“ privilegijų padidinimo pažeidžiamumas, turintis įtakos daugelio įmonių intranetų stuburui.
- CVE-2023-42824: „Apple iOS“ / „iPadOS“ branduolio pažeidžiamumas, jau naudojamas tikslinėms atakoms, rodantis, kad net valdomos ekosistemos nėra neįveikiamos.
- CVE-2023-30799: „MikroTik RouterOS“ nuotolinio kodo vykdymo trūkumas, turintis įtakos maršruto parinktuvams, kurie jungia viską, dažnai paliekamas nepataisytas giliausiuose tinklo kampeliuose.
Šis spartus pagrindinių pardavėjų – Microsoft, Apple, Splunk, MikroTik, Linux, JFrog – aktyviai išnaudojamų nulinių dienų priedas reikalauja skubaus ir pašėlusio dėmesio. Tai nėra bendras įspėjimas; tai sirena, kuri ūžia tiesiai į kiekvieną IT ir saugos komandą. CISA KEV sąrašas yra ne tik pasiūlymas federalinėms agentūroms; tai kritinis įspėjimas visoms organizacijoms. Ignoruokite tai savo pavojuje.
„AI saugumo“ iliuzija ir išsiblaškymo kaina
Štai nepatogi tiesa: pagrindiniai AI platformų trūkumai ir CISA KEV užtvara yra tarpusavyje susiję tos pačios problemos aspektai. Jie abu rėkia apie esminį programinės įrangos saugumo gedimą, tačiau mūsų pramonės kolektyvinis žvilgsnis pavojingai nesuderinamas. Esame taip sužavėti „AI“ pažadų ir pavojaus, kad leidžiame pagrindinei skaitmeninei infrastruktūrai supūti.
„AI saugumas“ tapo populiariu žodžiu, nauja konsultantų ir produktų vadovų riba. Bet kas tai iš tikrųjų? Dažnai tai tik saugumas, taikomas AI sistemoms. Taip, dirbtinis intelektas pristato naujus atakų vektorius ir unikalius iššūkius, tačiau didelę „AI saugumo“ dalį sudaro tiesiog patikima inžinerija, saugus kodavimas ir kruopštus pataisymas – tie patys dalykai, kurių mums nesiseka dešimtmečius. Anksčiau minėta VM izoliacijos problema yra puikus pavyzdys: klasikinis pažeidžiamumas, kurį sustiprina AI platformos sudėtingumas.
Kuriame neįtikėtinai sudėtingas AI sistemas ant vis trapesnių ir aktyviai naudojamų pagrindų. Tai tarsi kruopštus savarankiškai važiuojančio automobilio su pažangia AI navigacija projektavimas, kai ratai krenta ir variklis purškia. Dėmesys „AI saugumui“ dažnai atrodo kaip atitraukimas, nukreipiantis išteklius ir dėmesį nuo kasdieninio, nešvankaus, bet absoliučiai kritinio darbo, skirto apsaugoti esamą infrastruktūrą.
Ar mes taip užsiėmę siekdami kito didelio dalyko, kad leidžiame dabartiniams dideliems dalykams sudegti? Didžiulis KEV grėsmių kiekis ir platumas rodo sisteminį ir neatidėliotiną iššūkį pagrindinei skaitmeninei infrastruktūrai, kuris skiriasi nuo ankstesnių į DI orientuotų nulinės dienos diskusijų. Tai ne apie AI ateitį; kalbama apie dabartinę mūsų skaitmeninės egzistencijos būklę.
Kas dabar, CTO?
Inžinerijos vadovams ir techniniams vadovams žinutė yra aiški ir betarpiška:
- Suteikite pirmenybę KEV sąrašui: Viską atsisakykite. Pataisykite šiuos pažeidžiamumus. Įgaliokite. Vykdykite tai. Tai neprivaloma.
- Neįsitraukite į „AI saugumo“ ažiotažą pagrindinių dalykų sąskaita: Taip, supraskite unikalią AI riziką, bet atminkite, kad patikima inžinerija, saugūs kūrimo ciklai ir kruopštus pataisymas vis dar yra geriausia jūsų apsauga. Įmantrus AI modelis jūsų neišgelbės, jei užpuolikui priklauso jūsų pagrindinė VM arba SharePoint serveris.
- Investuokite į pagrindinį saugumą: tai reiškia daugiau nei tik kito saugos įrankio įsigijimą. Tai reiškia investicijas į žmones, procesus ir kultūrą, kuri vertina saugumą kaip pagrindinę inžinerijos discipliną, o ne pasekmes. Bug Bounty programos yra puikios, tačiau jos turėtų būti apsaugos tinklas, o ne jūsų pagrindinė saugumo strategija.
Incidentas, susijęs su AI platformos infrastruktūra, yra pažadinimo skambutis, tačiau CISA KEV sąrašas yra skubus pavojaus signalas. Turime nustoti žavėtis naujausiomis AI saugumo iniciatyvomis ir pradėti lopyti savo tikrosios gynybos spragas. AI ateitis yra įdomi, tačiau dabartinė mūsų saugumo būklė kelia siaubą.
Šaltiniai
[1] AI saugumas yra netvarka ir netrukus pablogės – https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Žinomas išnaudotų pažeidžiamumų katalogas – https://www.cisa.gov/known-exploited-vulnerabilities-catalog