De nieuwe AI-beveiligingskleding van de keizer: terwijl we naar Muse staren, stort de stichting ineen
Laten we direct zijn: de technologie-industrie heeft een nieuwe obsessie en deze heet ‘AI-beveiliging’. Er wordt van ons allemaal verwacht dat we ons concentreren op snelle injectie, modelvergiftiging en data-exfiltratie uit grote taalmodellen. Ondertussen wordt de feitelijke, fysieke, digitale infrastructuur die onze ondernemingen bij elkaar houdt actief in brand gestoken door een meedogenloos spervuur van zero-days. Een recent incident waarbij een groot AI-platform betrokken was, dat illustratief is voor de bredere uitdagingen bij het beveiligen van de AI-infrastructuur, benadrukt deze gevaarlijke tweedeling [1].
Meta, een bedrijf dat bekend staat om zijn ‘beweeg snel en maak dingen kapot’-ethos, heeft te maken gehad met kritiek op beveiligingsfouten in zijn AI-platforms. Een bugbounty-programma heeft bijvoorbeeld een aanzienlijke fout blootgelegd waardoor virtuele machines van gebruikers aan het licht kwamen. Dit was geen subtiel gegevenslek of een slimme promptomzeiling, maar een fundamentele fout op infrastructuurniveau waardoor gebruikers-VM's aan het licht kwamen. Dit is geen esoterische AI-specifieke kwetsbaarheid; dit is fundamentele VM-isolatie, een probleem waarvan we tien jaar geleden grotendeels dachten dat het onder controle was. Het vertegenwoordigt een kritieke inbreuk op de privacy en de gegevensintegriteit, met directe gevolgen voor gebruikers en potentiële zakelijke klanten die gebruik maken van een dergelijke AI-infrastructuur.
Hoewel dit soort tekortkomingen echt impact hebben, voelt het minder als een nieuwe uitdaging op het gebied van ‘AI-beveiliging’ en meer als een klassiek falen van de infrastructuur met een AI-hoed op. Het herinnert ons eraan dat zelfs de meest geavanceerde AI-platforms zijn gebouwd op lagen van conventionele rekenkracht, netwerken en virtualisatie. Als die fundamentele lagen vol gaten zitten, maakt het niet uit hoe geavanceerd uw AI-model is; het hele systeem blijft kwetsbaar. Het ‘AI’-aspect van dit verhaal is bijna een afleiding, een misleiding die onze blik afleidt van het rottende hout onder de gepolijste vloerplanken.
CISA's KEV-spervuur: een cruciale indicator
Terwijl we druk bezig zijn met het bespreken van de ethische implicaties van bewuste chatbots en de nuances van AI-veiligheid, schrapt CISA een ongekend aantal actief uitgebuite kwetsbaarheden in de Known Exploited Vulnerabilities (KEV)-catalogus. Dit is geen theoretische oefening. Dit is geen "patch ooit"-lijst. Dit is een dringende lijst met 'uw huis staat nu in brand'.
De afgelopen weken heeft CISA talloze vermeldingen toegevoegd, waardoor het totaal aan actief misbruikte kwetsbaarheden in korte tijd op een duizelingwekkend aantal is gekomen [2]. Dit is niet alleen "de beveiliging is slecht"; Dit is een systemische, escalerende crisis die gevolgen heeft voor de zeer kritieke bedrijfssoftware die onze wereld bestuurt.
Overweeg recente toevoegingen aan de KEV-catalogus:
- CVE-2023-46214: Een Splunk Enterprise-kwetsbaarheid voor het uitvoeren van externe code (CVSS 9.8) met een CISA-patchdeadline, waardoor niet-gepatchte systemen zeer kwetsbaar zijn.
- CVE-2023-29357: Een kwetsbaarheid voor escalatie van bevoegdheden in Microsoft SharePoint Server, die de ruggengraat van talloze bedrijfsintranetten aantast.
- CVE-2023-42824: Een Apple iOS/iPadOS-kernelkwetsbaarheid, die al wordt uitgebuit bij gerichte aanvallen, wat aantoont dat zelfs gecontroleerde ecosystemen niet ondoordringbaar zijn.
- CVE-2023-30799: Een MikroTik RouterOS-fout bij het uitvoeren van code op afstand, die gevolgen heeft voor de routers die alles verbinden, en vaak ongepatcht blijft in de diepste hoeken van het netwerk.
Deze snelle toevoeging van actief geëxploiteerde zero-days bij grote leveranciers – Microsoft, Apple, Splunk, MikroTik, Linux, JFrog – vereist onmiddellijke, hectische aandacht. Dit is geen algemene waarschuwing; het is een sirene die rechtstreeks naar elk IT- en beveiligingsteam loeit. De KEV-lijst van CISA is niet alleen een suggestie voor federale agentschappen; het is een cruciale waarschuwing voor alle organisaties. Negeer het op eigen risico.
De illusie van "AI-beveiliging" en de kosten van afleiding
Hier is de ongemakkelijke waarheid: de fundamentele tekortkomingen in AI-platforms en het CISA KEV-spervuur zijn onderling verbonden aspecten van hetzelfde probleem. Ze schreeuwen allebei over een fundamentele storing in de softwarebeveiliging, maar de collectieve blik van onze sector is gevaarlijk verkeerd uitgelijnd. We zijn zo gefascineerd door de belofte en het gevaar van ‘AI’ dat we de fundamentele digitale infrastructuur laten rotten.
‘AI-beveiliging’ is een modewoord geworden, een nieuwe grens voor consultants en productmanagers. Maar wat is het eigenlijk? Vaak is het gewoon beveiliging toegepast op AI-systemen. Ja, AI introduceert nieuwe aanvalsvectoren en unieke uitdagingen, maar een aanzienlijk deel van de ‘AI-beveiliging’ bestaat eenvoudigweg uit robuuste engineering, veilige coderingspraktijken en zorgvuldige patching – dezelfde dingen waar we al tientallen jaren in falen. Het eerder genoemde VM-isolatieprobleem is een perfect voorbeeld: een klassieke kwetsbaarheid die wordt versterkt door de complexiteit van een AI-platform.
We bouwen ongelooflijk complexe AI-systemen bovenop steeds kwetsbaarder en actiever geëxploiteerde fundamenten. Het is alsof je minutieus een zelfrijdende auto ontwerpt met geavanceerde AI-navigatie, terwijl de wielen eraf vallen en de motor sputtert. De focus op ‘AI-beveiliging’ voelt vaak als een afleiding, waardoor middelen en aandacht worden afgeleid van het alledaagse, weinig glamoureuze, maar absoluut cruciale werk van het beveiligen van de bestaande infrastructuur.
Zijn we zo druk bezig met het najagen van het volgende grote ding dat we de huidige grote dingen laten afbranden? Alleen al het volume en de reikwijdte van de KEV-bedreigingen duiden op een systemische en urgente uitdaging voor de fundamentele digitale infrastructuur, die zich onderscheidt van eerdere AI-centrische zero-day-discussies. Dit gaat niet over de toekomst van AI; het gaat over de huidige staat van ons digitale bestaan.
Wat nu, CTO's?
Voor engineeringleads en CTO's is de boodschap krachtig en direct:
- Geef prioriteit aan de KEV-lijst: Laat alles vallen. Patch deze kwetsbaarheden. Geef het een mandaat. Dwing het af. Dit is niet optioneel.
- Laat je niet meeslepen in de 'AI-beveiligingshype' ten koste van de fundamentele zaken: Ja, begrijp de unieke risico's van AI, maar onthoud dat robuuste engineering, veilige ontwikkelingslevenscycli en zorgvuldige patching nog steeds je beste verdediging zijn. Een fraai AI-model zal u niet redden als een aanvaller eigenaar is van uw onderliggende VM of uw SharePoint-server.
- Investeer in fundamentele beveiliging: Dit betekent meer dan alleen het kopen van nog een beveiligingstool. Het betekent investeren in mensen, processen en een cultuur die veiligheid waardeert als een kerndiscipline van de techniek, en niet als een bijzaak. Bugbounty-programma's zijn uitstekend, maar ze moeten een vangnet zijn en niet uw primaire beveiligingsstrategie.
Het incident met de AI-platforminfrastructuur is een wake-up call, maar de CISA KEV-lijst is het dringende alarm. We moeten stoppen met het bewonderen van de nieuwste AI-beveiligingsinitiatieven en beginnen met het dichten van de gaten in onze feitelijke verdediging. De toekomst van AI is spannend, maar de huidige staat van onze veiligheid is angstaanjagend.
Bronnen
[1] AI-beveiliging is een puinhoop, en het zal nog erger worden – https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Catalogus van bekende misbruikte kwetsbaarheden – https://www.cisa.gov/known-exploited-vulnerabilities-catalogus