Keisri uued tehisintellekti turvariided: kui me Muse'i vaatame, laguneb vundament
Olgem otsekohesed: tehnoloogiatööstusel on uus kinnisidee ja seda nimetatakse "AI-turvalisuseks". Eeldatakse, et me kõik keskendume kiirele süstimisele, mudeli mürgitamisele ja andmete väljafiltreerimisele suurtest keelemudelitest. Samal ajal süütab meie ettevõtteid koos hoidev tegelik füüsiline ja digitaalne infrastruktuur aktiivselt põlema lakkamatu nullpäevade tulviga. Hiljutine suure tehisintellekti platvormiga seotud juhtum, mis illustreerib tehisintellekti infrastruktuuri turvamise laiemaid väljakutseid, toob esile selle ohtliku dihhotoomia [1].
Ettevõte Meta, mis on tuntud oma "liiku kiiresti ja lõhu asju" eetose poolest, on sattunud kontrolli alla oma tehisintellekti platvormide turvavigade üle. Näiteks avastas vearahaprogramm olulise vea, mis paljastas kasutaja virtuaalmasinad. See ei olnud peen andmeleke ega nutikas viipe möödaviimine, vaid fundamentaalne infrastruktuuri tasemel viga, mis paljastas kasutaja VM-id. See ei ole mingi esoteeriline AI-spetsiifiline haavatavus; see on VM-i põhiisolatsioon, probleem, mida me kümmekond aastat tagasi arvasime suuresti taltsutatuks. See kujutab endast privaatsuse ja andmete terviklikkuse kriitilist rikkumist, mis mõjutab otseselt kasutajaid ja potentsiaalselt ettevõtte kliente, kes sellist tehisintellekti infrastruktuuri võimendavad.
Seda tüüpi viga, kuigi see on tõeliselt mõjuv, tundub vähem uudse tehisintellekti turvalisuse väljakutsena, vaid pigem klassikalise infrastruktuuri rikkena tehisintellekti mütsi kandmisel. See tuletab meelde, et isegi kõige arenenumad AI-platvormid on üles ehitatud tavapärase arvutus-, võrgu- ja virtualiseerimise kihtidele. Kui need aluskihid on täis auke, pole vahet, kui keerukas on teie tehisintellekti mudel. kogu süsteem jääb haavatavaks. Selle loo "AI" aspekt on peaaegu segav, vale suund, mis juhib meie pilgu eemale poleeritud põrandalaudade all olevatelt mädanenud puidult.
CISA KEV paisu: kriitiline näitaja
Samal ajal kui arutleme tundlike vestlusrobotite eetiliste mõjude ja tehisintellekti ohutuse nüansside üle, lisab CISA oma tuntud ärakasutatud haavatavuste (KEV) kataloogi enneolematult palju aktiivselt ära kasutatud turvaauke. See ei ole teoreetiline harjutus. See ei ole "paigutage kunagi" nimekiri. See on kiireloomuline nimekiri "teie maja põleb praegu".
Viimastel nädalatel on CISA lisanud arvukalt sissekandeid, viies aktiivselt ära kasutatud turvaaukude kogusumma lühikese aja jooksul hämmastava arvuni [2]. See pole lihtsalt "turvalisus on halb"; see on süsteemne, eskaleeruv kriis, mis mõjutab meie maailma haldavat väga kriitilist ettevõttetarkvara.
Mõelge KEV kataloogi hiljutistele täiendustele:
- CVE-2023-46214: Splunk Enterprise'i koodi kaugkäitamise haavatavus (CVSS 9.8) koos CISA paikamise tähtajaga, mis muudab paigatamata süsteemid väga haavatavaks.
- CVE-2023-29357: Microsoft SharePoint Serveri privileegide eskalatsiooni haavatavus, mis mõjutab lugematute ettevõtte sisevõrkude selgroogu.
- CVE-2023-42824: Apple iOS-i/iPadOS-i tuuma haavatavus, mida on juba sihitud rünnakutes ära kasutatud ja mis näitab, et isegi kontrollitud ökosüsteemid ei ole läbipääsmatud.
- CVE-2023-30799: MikroTik RouterOS-i koodi kaugkäitamise viga, mis mõjutab ruutereid, mis ühendavad kõike ja jäetakse sageli võrgu sügavaimates nurkades parandamata.
See suurte tootjate – Microsoft, Apple, Splunk, MikroTik, Linux, JFrog – aktiivselt ärakasutatud nullpäevade kiire lisamine nõuab kohest meeletut tähelepanu. See ei ole üldine hoiatus; see on sireen, mis lõõmab otse iga IT- ja turvameeskonna pihta. CISA KEV-loend ei ole ainult soovitus föderaalasutustele; see on kriitiline hoiatus kõigile organisatsioonidele. Ignoreeri seda oma ohus.
"AI turvalisuse" illusioon ja tähelepanu hajutamise hind
Siin on ebamugav tõde: tehisintellekti platvormide põhilised vead ja CISA KEV paisk on sama probleemi omavahel seotud aspektid. Nad mõlemad karjuvad tarkvaraturbe põhjaliku rikke pärast, kuid meie tööstuse kollektiivne pilk on ohtlikult valesti joondatud. Oleme tehisintellekti lubadusest ja ohust nii võlutud, et laseme põhilisel digitaalsel infrastruktuuril mädaneda.
"AI turvalisus" on muutunud moesõnaks, konsultantide ja tootejuhtide uueks piiriks. Aga mis see tegelikult on? Sageli on see AI-süsteemidele rakendatud lihtsalt turvalisus. Jah, tehisintellekt tutvustab uusi ründevektoreid ja ainulaadseid väljakutseid, kuid märkimisväärne osa tehisintellekti turvalisusest on lihtsalt jõuline projekteerimine, turvalised kodeerimistavad ja hoolikas lappimine – samad asjad, millega oleme aastakümneid läbi kukkunud. Varem mainitud VM-i isolatsiooniprobleem on suurepärane näide: klassikaline haavatavus, mida võimendab AI-platvormi keerukus.
Ehitame uskumatult keerukaid tehisintellektisüsteeme üha hapramatele ja aktiivsemalt kasutatavatele alustele. See on nagu täiustatud AI-navigatsiooniga isejuhtiva auto pedantne projekteerimine, samal ajal kui rattad kukuvad maha ja mootor pritsib. Keskendumine tehisintellekti turvalisusele tundub sageli häirivana, suunates ressursid ja tähelepanu kõrvale igapäevaselt, ebaglamuurselt, kuid täiesti kriitiliselt olemasoleva infrastruktuuri turvamise töölt.
Kas oleme nii hõivatud järgmise suure asja tagaajamisega, et laseme praegustel suurtel asjadel maha põleda? KEV-ohtude suur hulk ja laius viitavad süsteemsele ja kiireloomulisele väljakutsele põhilisele digitaalsele infrastruktuurile, mis erineb varasematest AI-kesksetest nullpäeva aruteludest. See ei puuduta AI tulevikku; see puudutab meie digitaalse eksistentsi hetkeseisu.
Mis nüüd, tehnikajuhid?
Insenerijuhtide ja tehnoloogiajuhtide jaoks on sõnum karm ja vahetu:
- KEV-nimekirja tähtsuse järjekorda seadmine: Tühjendage kõik. Parandage need haavatavused. Mandata. Jõusta see. See ei ole vabatahtlik.
- Ärge sattuge tehisintellekti turvalisuse hüppesse põhialuste arvelt: Jah, mõistke tehisintellektiga kaasnevaid unikaalseid riske, kuid pidage meeles, et jõuline projekteerimine, turvalised arendustegevuse elutsüklid ja hoolikas paikamine on endiselt teie parim kaitse. Väljamõeldud AI-mudel ei päästa teid, kui teie aluseks olev VM või SharePointi server omab ründajat.
- Investeerige põhiturvalisusesse: see tähendab enamat kui lihtsalt teise turvatööriista ostmist. See tähendab investeerimist inimestesse, protsessidesse ja kultuuri, mis väärtustab turvalisust kui inseneri põhidistsipliini, mitte järelmõtet. Vearahaprogrammid on suurepärased, kuid need peaksid olema turvavõrk, mitte teie peamine turvastrateegia.
AI platvormi infrastruktuuriga seotud juhtum on äratuskõne, kuid CISA KEV loend on kiireloomuline häire. Peame lõpetama uusimate tehisintellekti turvaalgatuste imetlemise ja hakkama lappima auke meie tegelikes kaitsemehhanismides. AI tulevik on põnev, kuid meie turvalisuse praegune olukord on hirmutav.
Allikad
[1] AI turvalisus on segadus ja see läheb hullemaks – https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Teadaolevate ärakasutatud haavatavuste kataloog – https://www.cisa.gov/known-exploited-vulnerabilities-catalog