Cesarjeva nova varnostna oblačila z umetno inteligenco: Medtem ko gledamo v Muse, fundacija propada
Bodimo neposredni: tehnološka industrija ima novo obsedenost in imenuje se "varnost AI". Od vseh se pričakuje, da se bomo osredotočili na takojšnje vstavljanje, zastrupitev modela in izločanje podatkov iz velikih jezikovnih modelov. Medtem dejansko, fizično, digitalno infrastrukturo, ki drži naša podjetja skupaj, aktivno podžiga neusmiljen jez dni nič. Nedavni incident, ki vključuje veliko platformo AI, ki ponazarja širše izzive pri varovanju infrastrukture AI, poudarja to nevarno dihotomijo [1].
Meta, podjetje, ki je znano po etosu "hitro se premikaj in zlomi stvari", se je soočilo s skrbnim nadzorom zaradi varnostnih pomanjkljivosti v svojih platformah AI. Na primer, program za nagrado za napake je odkril pomembno napako, ki je razkrila uporabniške virtualne stroje. To ni bilo subtilno uhajanje podatkov ali pameten hiter obvod, ampak temeljna napaka na ravni infrastrukture, ki je razkrila uporabniške VM-je. To ni neka ezoterična ranljivost, specifična za AI; to je osnovna izolacija VM, težava, za katero smo večinoma mislili, da jo je mogoče ukrotiti pred desetletjem. Predstavlja kritično kršitev zasebnosti in celovitosti podatkov, ki neposredno vpliva na uporabnike in potencialno poslovne odjemalce, ki uporabljajo takšno infrastrukturo umetne inteligence.
Čeprav je ta vrsta napake resnično močna, se zdi manj kot nov izziv "varnosti AI" in bolj kot klasična infrastrukturna napaka, ki nosi klobuk AI. To je opomnik, da so celo najnaprednejše platforme AI zgrajene na ravneh običajnega računalništva, mreženja in virtualizacije. Če so te temeljne plasti prepredene z luknjami, ni pomembno, kako sofisticiran je vaš model AI; celoten sistem ostaja ranljiv. Vidik »AI« te zgodbe je skoraj odvračanje pozornosti, napačna usmeritev, ki odvrača naš pogled od gnijočih lesov pod poliranimi talnimi deskami.
CISA's KEV Barage: Kritični indikator
Medtem ko smo zaposleni z razpravo o etičnih posledicah čutečih klepetalnih robotov in niansah varnosti umetne inteligence, CISA v svoj katalog znanih izkoriščanih ranljivosti (KEV) spusti izjemno število aktivno izkoriščanih ranljivosti. To ni teoretična vaja. To ni seznam "nekega dne popravi". To je nujni seznam "vaša hiša gori trenutno".
V zadnjih tednih je CISA dodal številne vnose, s čimer je skupno število aktivno izkoriščenih ranljivosti v kratkem času doseglo osupljivo število [2]. To ni samo "varnost je slaba"; to je sistemska, stopnjujoča se kriza, ki vpliva na zelo kritično poslovno programsko opremo, ki vodi naš svet.
Razmislite o nedavnih dodatkih v katalogu KEV:
- CVE-2023-46214: Ranljivost oddaljenega izvajanja kode Splunk Enterprise (CVSS 9.8) z rokom za popravke CISA, zaradi česar so nepopravljeni sistemi zelo ranljivi.
- CVE-2023-29357: Ranljivost stopnjevanja privilegijev strežnika Microsoft SharePoint Server, ki vpliva na hrbtenico neštetih intranetov podjetij.
- CVE-2023-42824: Ranljivost jedra Apple iOS/iPadOS, ki je že bila izkoriščena v ciljanih napadih, kar dokazuje, da tudi nadzorovani ekosistemi niso neprebojni.
- CVE-2023-30799: Napaka pri oddaljenem izvajanju kode MikroTik RouterOS, ki vpliva na usmerjevalnike, ki povezujejo vse, pogosto ostanejo nepopravljeni v najglobljih kotih omrežja.
Ta hiter dodatek dejavno izkoriščenih ničelnih dni pri večjih proizvajalcih – Microsoft, Apple, Splunk, MikroTik, Linux, JFrog – zahteva takojšnjo, divjo pozornost. To ni splošno opozorilo; to je sirena, ki tuli neposredno na vsako IT in varnostno ekipo. Seznam KEV CISA ni samo predlog za zvezne agencije; to je kritično opozorilo za vse organizacije. Ignorirajte ga na lastno nevarnost.
Iluzija "varnosti AI" in cena odvračanja pozornosti
Tukaj je neprijetna resnica: temeljne napake v platformah umetne inteligence in zapora CISA KEV so medsebojno povezani vidiki istega problema. Oba kričita o temeljnem zlomu varnosti programske opreme, vendar je skupni pogled naše industrije nevarno napačno usmerjen. Tako smo očarani nad obljubami in nevarnostjo "AI", da puščamo, da temeljna digitalna infrastruktura zgnije.
"Varnost AI" je postala modna beseda, nova meja za svetovalce in produktne vodje. Toda kaj je v resnici? Pogosto je to samo varnost, ki se uporablja za sisteme AI. Da, umetna inteligenca uvaja nove vektorje napadov in edinstvene izzive, vendar je pomemben del "varnosti umetne inteligence" preprosto robusten inženiring, varne prakse kodiranja in skrbno popravljanje popravkov – iste stvari, ki nam že desetletja ne uspevajo. Prej omenjena težava z izolacijo VM je odličen primer: klasična ranljivost, povečana s kompleksnostjo platforme AI.
Gradimo neverjetno zapletene sisteme umetne inteligence na vse bolj krhkih in aktivno izkoriščanih temeljih. To je kot natančno načrtovanje samovozečega avtomobila z napredno navigacijo z umetno inteligenco, medtem ko mu kolesa odpadajo in motor škropi. Osredotočenost na "varnost umetne inteligence" se pogosto zdi kot motnja, ki odvrača vire in pozornost od vsakdanjega, neglamuroznega, a popolnoma kritičnega dela varovanja obstoječe infrastrukture.
Ali smo tako zaposleni z lovljenjem naslednje velike stvari, da pustimo, da trenutne velike stvari zgorejo? Sam obseg in širina groženj KEV kažeta na sistemski in nujni izziv za temeljno digitalno infrastrukturo, ki se razlikuje od prejšnjih razprav o ničelnem dnevu, osredotočenih na AI. Ne gre za prihodnost AI; gre za trenutno stanje našega digitalnega obstoja.
Kaj zdaj, tehnični direktorji?
Za vodilne inženirje in tehnične direktorje je sporočilo ostro in takojšnje:
- Določite prednost seznamu KEV: Izpustite vse. Popravite te ranljivosti. Pooblastite ga. Uveljavite ga. To ni neobvezno.
- Ne nasedajte navdušenju nad "varnostjo umetne inteligence" na račun osnov: Da, razumejte edinstvena tveganja umetne inteligence, vendar ne pozabite, da so robusten inženiring, varni življenjski cikli razvoja in skrbno popravljanje popravkov še vedno vaša najboljša obramba. Modni model umetne inteligence vas ne bo rešil, če ima napadalec vaš osnovni VM ali strežnik SharePoint.
- Investirajte v temeljno varnost: To pomeni več kot le nakup drugega varnostnega orodja. Pomeni vlaganje v ljudi, procese in kulturo, ki ceni varnost kot temeljno inženirsko disciplino, ne pa naknadno razmišljanje. Programi za nagrajevanje hroščev so odlični, vendar bi morali biti varnostna mreža in ne vaša glavna varnostna strategija.
Incident, ki vključuje infrastrukturo platforme AI, je alarm, vendar je seznam CISA KEV nujen alarm. Nehati moramo občudovati najnovejše varnostne pobude AI in začeti krpati luknje v naši dejanski obrambi. Prihodnost umetne inteligence je vznemirljiva, a trenutno stanje naše varnosti je grozljivo.
Viri
[1] Varnost z umetno inteligenco je zmešnjava in kmalu bo še slabša — https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Katalog znanih izkoriščenih ranljivosti — https://www.cisa.gov/known-exploited-vulnerabilities-catalog