Kejserens nye AI-sikkerhedstøj: Mens vi stirrer på Muse, smuldrer fundamentet

Kejserens nye AI-sikkerhedstøj: Mens vi stirrer på Muse, smuldrer fundamentet

Lad os være direkte: Teknologiindustrien har en ny besættelse, og den kaldes "AI-sikkerhed." Vi forventes alle at fokusere på hurtig injektion, modelforgiftning og dataeksfiltrering fra store sprogmodeller. I mellemtiden bliver den faktiske, fysiske, digitale infrastruktur, der holder vores virksomheder sammen, aktivt sat i brand af en ubarmhjertig byge af nul-dage. En nylig hændelse, der involverer en større AI-platform, illustrerer de bredere udfordringer med at sikre AI-infrastruktur, fremhæver denne farlige dikotomi [1].

Meta, en virksomhed kendt for sin "bevæg dig hurtigt og bryd tingene"-etos, har været udsat for kontrol over sikkerhedsfejl i sine AI-platforme. For eksempel afslørede et bug bounty-program en væsentlig fejl, der afslørede brugerens virtuelle maskiner. Dette var ikke en subtil datalækage eller en smart prompt-omgåelse, men en grundlæggende fejl på infrastrukturniveau, der afslørede bruger-VM'er. Dette er ikke en eller anden esoterisk AI-specifik sårbarhed; dette er grundlæggende VM-isolering, et problem, vi stort set troede var tæmmet for et årti siden. Det repræsenterer et kritisk brud på privatlivets fred og dataintegritet, der direkte påvirker brugere og potentielt virksomhedskunder, der udnytter en sådan AI-infrastruktur.

Denne type fejl, selvom den er virkelig virkningsfuld, føles mindre som en ny "AI-sikkerhedsudfordring" og mere som en klassisk infrastrukturfejl iført en AI-hat. Det er en påmindelse om, at selv de mest avancerede AI-platforme er bygget på lag af konventionel databehandling, netværk og virtualisering. Hvis de grundlæggende lag er fyldt med huller, er det lige meget, hvor sofistikeret din AI-model er; hele systemet forbliver sårbart. "AI"-aspektet af denne historie er næsten en distraktion, en fejlretning, der trækker vores blik væk fra det rådnende tømmer under de polerede gulvbrædder.

CISA's KEV Barrage: A Critical Indicator

Mens vi har travlt med at diskutere de etiske implikationer af sansende chatbots og nuancerne af AI-sikkerhed, dropper CISA et hidtil uset antal aktivt udnyttede sårbarheder i sit KEV-katalog (Kendt Udnyttede Vulnerabilities). Dette er ikke en teoretisk øvelse. Dette er ikke en "patch someday" liste. Dette er en presserende liste over "dit hus brænder lige nu".

I de seneste uger har CISA tilføjet adskillige poster, hvilket bringer det samlede antal aktivt udnyttede sårbarheder til et svimlende antal på kort tid [2]. Dette er ikke bare "sikkerhed er dårlig"; dette er en systemisk, eskalerende krise, der påvirker den meget kritiske virksomhedssoftware, der styrer vores verden.

Overvej de seneste tilføjelser til KEV-kataloget:

• CVE-2023-46214: En Splunk Enterprise fjernudførelsessårbarhed (CVSS 9.8) med en CISA-patch-deadline, hvilket gør upatchede systemer meget sårbare.
• CVE-2023-29357: En Microsoft SharePoint Server-privilegieeskaleringssårbarhed, der påvirker rygraden i utallige virksomheders intranet.
• CVE-2023-42824: En Apple iOS/iPadOS-kernesårbarhed, der allerede er udnyttet i målrettede angreb, der viser, at selv kontrollerede økosystemer ikke er uigennemtrængelige.
• CVE-2023-30799: En MikroTik RouterOS fjernudførelse af kodefejl, der påvirker de routere, der forbinder alt, ofte efterladt uden opdatering i de dybeste hjørner af netværket.

Denne hurtige tilføjelse af aktivt udnyttede nul-dage på tværs af store leverandører – Microsoft, Apple, Splunk, MikroTik, Linux, JFrog – kræver øjeblikkelig, hektisk opmærksomhed. Dette er ikke en generel advarsel; det er en sirene, der brager direkte mod hvert it- og sikkerhedsteam. CISA's KEV-liste er ikke kun et forslag til føderale agenturer; det er en kritisk advarsel til alle organisationer. Ignorer det på egen risiko.

Illusionen om "AI-sikkerhed" og omkostningerne ved distraktion

Her er den ubehagelige sandhed: de grundlæggende fejl i AI-platforme og CISA KEV-spærringen er indbyrdes forbundne aspekter af det samme problem. De skriger begge om et fundamentalt nedbrud i softwaresikkerhed, men vores branches kollektive blik er farligt skævt. Vi er så betaget af løftet og faren ved "AI", at vi lader den grundlæggende digitale infrastruktur rådne.

"AI-sikkerhed" er blevet et buzzword, en ny grænse for konsulenter og produktchefer. Men hvad er det egentlig? Ofte er det bare sikkerhed anvendt på AI-systemer. Ja, AI introducerer nye angrebsvektorer og unikke udfordringer, men en betydelig del af "AI-sikkerhed" er ganske enkelt robust konstruktion, sikker kodningspraksis og flittig patching – det samme som vi har fejlet i i årtier. VM-isolationsproblemet nævnt tidligere er et perfekt eksempel: en klassisk sårbarhed forstærket af kompleksiteten af ​​en AI-platform.

Vi bygger utroligt komplekse AI-systemer oven på stadig mere skrøbelige og aktivt udnyttede fundamenter. Det er som omhyggeligt at designe en selvkørende bil med avanceret AI-navigation, mens hjulene falder af, og motoren sprutter. Fokus på "AI-sikkerhed" føles ofte som en distraktion, der afleder ressourcer og opmærksomhed fra det verdslige, uglamorøse, men absolut kritiske arbejde med at sikre eksisterende infrastruktur.

Har vi så travlt med at jagte den næste store ting, at vi lader de nuværende store ting brænde ned? Alene volumen og bredden af ​​KEV-truslerne indikerer en systemisk og presserende udfordring for grundlæggende digital infrastruktur, adskilt fra tidligere AI-centrerede nul-dages diskussioner. Dette handler ikke om fremtiden for kunstig intelligens; det handler om den nuværende tilstand af vores digitale eksistens.

Hvad nu, CTO'er?

For tekniske leads og CTO'er er budskabet skarpt og øjeblikkeligt:

1. Prioriter KEV-listen: Drop alt. Patch disse sårbarheder. Giv det mandat. håndhæve det. Dette er ikke valgfrit.
2. Lad dig ikke rive med i "AI-sikkerhed"-hypen på bekostning af det grundlæggende: Ja, forstå de unikke risici ved AI, men husk, at robust konstruktion, sikker udviklingslivscyklus og flittig patching stadig er dit bedste forsvar. En fancy AI-model vil ikke redde dig, hvis en angriber ejer din underliggende VM eller din SharePoint-server.
3. Invester i grundlæggende sikkerhed: Dette betyder mere end blot at købe et andet sikkerhedsværktøj. Det betyder at investere i mennesker, processer og en kultur, der værdsætter sikkerhed som en kerneingeniørdisciplin, ikke en eftertanke. Bug bounty-programmer er fremragende, men de bør være et sikkerhedsnet, ikke din primære sikkerhedsstrategi.

Hændelsen, der involverer AI-platformens infrastruktur, er et wake-up call, men CISA KEV-listen er den akutte alarm. Vi er nødt til at stoppe med at beundre de seneste AI-sikkerhedsinitiativer og begynde at lappe hullerne i vores egentlige forsvar. Fremtiden for kunstig intelligens er spændende, men den nuværende tilstand af vores sikkerhed er skræmmende.

Kilder

[1] AI-sikkerhed er et rod, og det er ved at blive værre — https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Katalog over kendte udnyttede sårbarheder — https://www.cisa.gov/known-exploited-vulnerabilities-catalog