Careva nova sigurnosna odjeća s umjetnom inteligencijom: Dok gledamo u Muse, temelj se urušava
Budimo izravni: tehnološka industrija ima novu opsesiju, a zove se "AI sigurnost". Od svih nas se očekuje da se usredotočimo na brzo ubacivanje, trovanje modela i izvlačenje podataka iz velikih jezičnih modela. U međuvremenu, stvarna, fizička, digitalna infrastruktura koja drži naša poduzeća na okupu aktivno se pali nemilosrdnom baražom nula dana. Nedavni incident koji uključuje veliku AI platformu, ilustrativan za šire izazove u osiguravanju AI infrastrukture, naglašava ovu opasnu dihotomiju [1].
Meta, tvrtka poznata po etosu "kreni brzo i razbijaj stvari", suočila se s pomnim nadzorom zbog sigurnosnih nedostataka u svojim AI platformama. Na primjer, bug bounty program otkrio je značajan nedostatak koji je razotkrio korisničke virtualne strojeve. Ovo nije bilo suptilno curenje podataka ili pametno brzo zaobilaženje, već temeljna pogreška na razini infrastrukture koja je razotkrila korisničke VM-ove. Ovo nije neka ezoterična ranjivost specifična za AI; ovo je osnovna izolacija VM-a, problem za koji smo uglavnom mislili da je ukroćen prije deset godina. Predstavlja kritičnu povredu privatnosti i integriteta podataka, izravno utječući na korisnike i potencijalno poslovne klijente koji koriste takvu AI infrastrukturu.
Ova vrsta greške, iako je uistinu dojmljiva, manje se doima kao novi izazov "sigurnosti umjetne inteligencije", a više kao klasični kvar infrastrukture koji nosi AI kapu. To je podsjetnik da su čak i najnaprednije AI platforme izgrađene na slojevima konvencionalnog računanja, umrežavanja i virtualizacije. Ako su ti temeljni slojevi prožeti rupama, nije važno koliko je sofisticiran vaš AI model; cijeli sustav ostaje ranjiv. "AI" aspekt ove priče je gotovo distrakcija, krivo usmjerenje koje nam odvlači pogled od trulog drveta ispod ulaštenih podnih dasaka.
CISA-in KEV baraž: kritičan pokazatelj
Dok smo zauzeti raspravom o etičkim implikacijama osjetljivih chatbota i nijansama sigurnosti umjetne inteligencije, CISA izbacuje neviđen broj aktivno iskorištavanih ranjivosti u svoj katalog Known Exploited Vulnerabilities (KEV). Ovo nije teorijska vježba. Ovo nije popis "zakrpi jednog dana". Ovo je hitan popis "vaša kuća gori trenutačno".
Posljednjih tjedana CISA je dodala brojne unose, čime je ukupan broj aktivno iskorištenih ranjivosti u kratkom razdoblju porastao na zapanjujući broj [2]. Ovo nije samo "sigurnost je loša"; ovo je sustavna, eskalirajuća kriza koja utječe na vrlo kritičan poslovni softver koji upravlja našim svijetom.
Razmotrite nedavne dodatke KEV katalogu:
- CVE-2023-46214: Splunk Enterprise ranjivost daljinskog izvršavanja koda (CVSS 9.8) s rokom za zakrpu CISA, zbog čega su nezakrpani sustavi vrlo ranjivi.
- CVE-2023-29357: Ranjivost eskalacije privilegija Microsoft SharePoint Servera, koja utječe na okosnicu bezbrojnih korporativnih intraneta.
- CVE-2023-42824: Ranjivost jezgre Apple iOS/iPadOS, već iskorištena u ciljanim napadima, pokazujući da čak ni kontrolirani ekosustavi nisu neprobojni.
- CVE-2023-30799: Greška u daljinskom izvršavanju koda MikroTik RouterOS-a, koja utječe na usmjerivače koji povezuju sve, često ostaju nezakrpani u najdubljim kutovima mreže.
Ovaj brzopotezni dodatak aktivno iskorištavanih zero-day-a među glavnim dobavljačima – Microsoft, Apple, Splunk, MikroTik, Linux, JFrog – zahtijeva trenutnu, mahnitu pozornost. Ovo nije opće upozorenje; to je sirena koja trešti izravno na svaki IT i sigurnosni tim. CISA-in KEV popis nije samo prijedlog za savezne agencije; to je kritično upozorenje za sve organizacije. Ignorirajte to na vlastitu odgovornost.
Iluzija "AI sigurnosti" i cijena odvraćanja pažnje
Evo neugodne istine: temeljni nedostaci u AI platformama i CISA KEV baraža međusobno su povezani aspekti istog problema. Obojica vrište o temeljnom kvaru u sigurnosti softvera, ali kolektivni pogled naše industrije opasno je neusklađen. Toliko smo opčinjeni obećanjima i opasnošću "AI" da dopuštamo da temeljna digitalna infrastruktura trune.
"AI sigurnost" postala je popularna riječ, nova granica za konzultante i voditelje proizvoda. Ali što je zapravo? Često se samo sigurnost primjenjuje na AI sustave. Da, umjetna inteligencija uvodi nove vektore napada i jedinstvene izazove, ali značajan dio "sigurnosti umjetne inteligencije" jednostavno je robustan inženjering, sigurne prakse kodiranja i marljivo krpanje – iste stvari u kojima desetljećima ne uspijevamo. Problem izolacije VM-a spomenut ranije savršen je primjer: klasična ranjivost pojačana složenošću AI platforme.
Gradimo nevjerojatno složene AI sustave na sve krhkijim temeljima koji se aktivno iskorištavaju. To je kao da pažljivo dizajnirate samovozeći automobil s naprednom AI navigacijom, dok kotači otpadaju, a motor pršti. Usredotočenost na "sigurnost umjetne inteligencije" često se čini kao smetnja, odvraćanje resursa i pozornosti od svakodnevnog, neglamuroznog, ali apsolutno kritičnog rada osiguranja postojeće infrastrukture.
Jesmo li toliko zauzeti jurnjavom za sljedećom velikom stvari da dopuštamo trenutnim velikim stvarima da izgore? Sama količina i širina KEV prijetnji ukazuju na sustavni i hitni izazov temeljnoj digitalnoj infrastrukturi, za razliku od prethodnih rasprava o nultom danu usredotočenih na AI. Ovdje se ne radi o budućnosti umjetne inteligencije; radi se o trenutnom stanju našeg digitalnog postojanja.
Što sada, tehnički direktori?
Za voditelje inženjera i tehničke direktore, poruka je oštra i neposredna:
- Postavite prioritet KEV popisu: Odbacite sve. Zakrpite ove ranjivosti. Naložite to. Provedi ga. Ovo nije izborno.
- Nemojte biti pometeni pompom o "sigurnosti umjetne inteligencije" nauštrb osnova: Da, shvatite jedinstvene rizike umjetne inteligencije, ali zapamtite da su robustan inženjering, sigurni životni ciklusi razvoja i marljivo krpanje i dalje vaša najbolja obrana. Otmjeni AI model neće vas spasiti ako napadač posjeduje vaš temeljni VM ili vaš SharePoint poslužitelj.
- Ulažite u temeljnu sigurnost: To znači više od puke kupnje drugog sigurnosnog alata. To znači ulaganje u ljude, procese i kulturu koja cijeni sigurnost kao temeljnu inženjersku disciplinu, a ne naknadnu misao. Bug bounty programi su izvrsni, ali oni bi trebali biti sigurnosna mreža, a ne vaša primarna sigurnosna strategija.
Incident koji uključuje infrastrukturu AI platforme je poziv na uzbunu, ali CISA KEV popis je hitan alarm. Moramo se prestati diviti najnovijim sigurnosnim inicijativama umjetne inteligencije i početi krpati rupe u našoj stvarnoj obrani. Budućnost umjetne inteligencije je uzbudljiva, ali sadašnje stanje naše sigurnosti je zastrašujuće.
Izvori
[1] Sigurnost umjetne inteligencije je haos i bit će još gore — https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Katalog poznatih iskorištenih ranjivosti — https://www.cisa.gov/known-exploited-vulnerabilities-catalog