Keiserens nye AI-sikkerhetsklær: Mens vi stirrer på Muse, smuldrer stiftelsen
La oss være direkte: Teknologiindustrien har en ny besettelse, og den kalles «AI-sikkerhet». Vi forventes alle å fokusere på umiddelbar injeksjon, modellforgiftning og dataeksfiltrering fra store språkmodeller. I mellomtiden blir den faktiske, fysiske, digitale infrastrukturen som holder bedriftene våre sammen aktivt satt i brann av en nådeløs bølge av nulldager. En nylig hendelse som involverer en stor AI-plattform, illustrerer de bredere utfordringene med å sikre AI-infrastruktur, fremhever denne farlige dikotomien [1].
Meta, et selskap kjent for sin "beveg deg raskt og knekk ting"-etos, har møtt gransking over sikkerhetsfeil i sine AI-plattformer. For eksempel avdekket et bug bounty-program en betydelig feil som avslørte brukerens virtuelle maskiner. Dette var ikke en subtil datalekkasje eller en smart omgåelse av spørsmål, men en grunnleggende feil på infrastrukturnivå som avslørte bruker-VM-er. Dette er ikke en esoterisk AI-spesifikk sårbarhet; dette er grunnleggende VM-isolasjon, et problem vi i stor grad trodde var temmet for et tiår siden. Det representerer et kritisk brudd på personvern og dataintegritet, som direkte påvirker brukere og potensielt bedriftskunder som utnytter slik AI-infrastruktur.
Denne typen feil, selv om den er genuint virkningsfull, føles mindre som en ny "AI-sikkerhetsutfordring" og mer som en klassisk infrastruktursvikt med en AI-hatt. Det er en påminnelse om at selv de mest avanserte AI-plattformene er bygget på lag med konvensjonell databehandling, nettverk og virtualisering. Hvis de grunnleggende lagene er fulle av hull, spiller det ingen rolle hvor sofistikert AI-modellen din er; hele systemet forblir sårbart. "AI"-aspektet av denne historien er nesten en distraksjon, en feilretning som trekker blikket bort fra det råtnende tømmeret under de polerte gulvplankene.
CISAs KEV Barrage: A Critical Indicator
Mens vi er opptatt med å diskutere de etiske implikasjonene av sansende chatboter og nyansene til AI-sikkerhet, slipper CISA et enestående antall aktivt utnyttede sårbarheter inn i sin katalog over kjente utnyttede sårbarheter (KEV). Dette er ikke en teoretisk øvelse. Dette er ikke en "lapp en dag"-liste. Dette er en presserende "huset ditt er i brann akkurat nå"-liste.
I løpet av de siste ukene har CISA lagt til en rekke oppføringer, noe som bringer totalen av aktivt utnyttede sårbarheter til et svimlende antall på kort tid [2]. Dette er ikke bare "sikkerhet er dårlig"; dette er en systemisk, eskalerende krise som påvirker den svært kritiske bedriftsprogramvaren som styrer vår verden.
Vurder nylige tillegg til KEV-katalogen:
- CVE-2023-46214: En Splunk Enterprise-sårbarhet for ekstern kjøring av kode (CVSS 9.8) med en CISA-oppdateringsfrist, noe som gjør upatchede systemer svært sårbare.
- CVE-2023-29357: Et sikkerhetsproblem med Microsoft SharePoint Server-privilegiereskalering, som påvirker ryggraden til utallige bedriftsintranett.
- CVE-2023-42824: En Apple iOS/iPadOS-kjernesårbarhet, allerede utnyttet i målrettede angrep, som viser at selv kontrollerte økosystemer ikke er ugjennomtrengelige.
- CVE-2023-30799: En MikroTik RouterOS ekstern kodeutførelsesfeil, som påvirker ruterne som kobler til alt, ofte forlatt i de dypeste hjørnene av nettverket.
Denne raske tilsetningen av aktivt utnyttede nulldager på tvers av store leverandører – Microsoft, Apple, Splunk, MikroTik, Linux, JFrog – krever umiddelbar, frenetisk oppmerksomhet. Dette er ikke en generell advarsel; det er en sirene som blåser direkte mot alle IT- og sikkerhetsteam. CISAs KEV-liste er ikke bare et forslag for føderale byråer; det er en kritisk advarsel for alle organisasjoner. Ignorer det på egen risiko.
Illusjonen om "AI Security" og kostnadene ved distraksjon
Her er den ubehagelige sannheten: de grunnleggende feilene i AI-plattformer og CISA KEV-sperringen er sammenkoblede aspekter av det samme problemet. De skriker begge om et grunnleggende sammenbrudd i programvaresikkerhet, men bransjens kollektive blikk er farlig feiljustert. Vi er så betatt av løftet og faren ved "AI" at vi lar den grunnleggende digitale infrastrukturen råtne.
«AI-sikkerhet» har blitt et buzzword, en ny grense for konsulenter og produktsjefer. Men hva er det, egentlig? Ofte er det bare sikkerhet brukt på AI-systemer. Ja, AI introduserer nye angrepsvektorer og unike utfordringer, men en betydelig del av "AI-sikkerhet" er ganske enkelt robust konstruksjon, sikker kodingspraksis og flittig patching – det samme vi har mislyktes med i flere tiår. VM-isolasjonsproblemet nevnt tidligere er et perfekt eksempel: en klassisk sårbarhet forsterket av kompleksiteten til en AI-plattform.
Vi bygger utrolig komplekse AI-systemer på toppen av stadig mer skjøre og aktivt utnyttede fundamenter. Det er som å omhyggelig designe en selvkjørende bil med avansert AI-navigasjon, mens hjulene faller av og motoren spruter. Fokuset på «AI-sikkerhet» føles ofte som en distraksjon, som avleder ressurser og oppmerksomhet fra det verdslige, uglamorøse, men absolutt kritiske arbeidet med å sikre eksisterende infrastruktur.
Er vi så opptatt av å jage den neste store tingen at vi lar de nåværende store tingene brenne ned? Selve volumet og bredden av KEV-truslene indikerer en systemisk og presserende utfordring til grunnleggende digital infrastruktur, forskjellig fra tidligere AI-sentriske nulldagers diskusjoner. Dette handler ikke om fremtiden til AI; det handler om den nåværende tilstanden til vår digitale eksistens.
Hva nå, CTOer?
For ingeniørledere og CTOer er meldingen skarp og umiddelbar:
- Prioriter KEV-listen: Slipp alt. Patch disse sårbarhetene. Mandat det. Håndheve det. Dette er ikke valgfritt.
- Ikke la deg rive med av "AI-sikkerhet"-hypen på bekostning av grunnleggende: Ja, forstå de unike risikoene ved AI, men husk at robust konstruksjon, sikker utviklingslivssyklus og flittig patching fortsatt er ditt beste forsvar. En fancy AI-modell vil ikke redde deg hvis en angriper eier din underliggende VM eller SharePoint-serveren din.
- Invester i grunnleggende sikkerhet: Dette betyr mer enn bare å kjøpe et annet sikkerhetsverktøy. Det betyr å investere i mennesker, prosesser og en kultur som verdsetter sikkerhet som en kjerneingeniørdisiplin, ikke en ettertanke. Bug bounty-programmer er utmerket, men de bør være et sikkerhetsnett, ikke din primære sikkerhetsstrategi.
Hendelsen som involverer AI-plattforminfrastruktur er en vekker, men CISA KEV-listen er den akutte alarmen. Vi må slutte å beundre de siste AI-sikkerhetsinitiativene og begynne å lappe hullene i vårt faktiske forsvar. Fremtiden til AI er spennende, men den nåværende sikkerheten vår er skremmende.
Kilder
[1] AI-sikkerhet er et rot, og det er i ferd med å bli verre — https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Katalog over kjente utnyttede sårbarheter – https://www.cisa.gov/known-exploited-vulnerabilities-catalog