Die neue KI-Sicherheitskleidung des Kaisers: Während wir Muse anstarren, zerfällt die Stiftung
Seien wir ehrlich: Die Technologiebranche hat eine neue Obsession, und sie heißt „KI-Sicherheit“. Von uns allen wird erwartet, dass wir uns auf die sofortige Injektion, Modellvergiftung und Datenexfiltration aus großen Sprachmodellen konzentrieren. Unterdessen wird die tatsächliche, physische, digitale Infrastruktur, die unsere Unternehmen zusammenhält, durch eine unerbittliche Flut von Zero-Days aktiv in Brand gesetzt. Ein aktueller Vorfall mit einer großen KI-Plattform, der die umfassenderen Herausforderungen bei der Sicherung der KI-Infrastruktur veranschaulicht, verdeutlicht diese gefährliche Dichotomie [1].
Meta, ein Unternehmen, das für seinen Ethos „Schnell handeln und Dinge kaputt machen“ bekannt ist, wurde wegen Sicherheitslücken in seinen KI-Plattformen unter die Lupe genommen. Beispielsweise hat ein Bug-Bounty-Programm einen erheblichen Fehler aufgedeckt, der die virtuellen Maschinen der Benutzer offenlegt. Hierbei handelte es sich nicht um ein subtiles Datenleck oder eine clevere Umgehung von Eingabeaufforderungen, sondern um einen grundlegenden Fehler auf Infrastrukturebene, der Benutzer-VMs offenlegte. Hierbei handelt es sich nicht um irgendeine esoterische KI-spezifische Schwachstelle; Hierbei handelt es sich um eine grundlegende VM-Isolation, ein Problem, von dem wir vor einem Jahrzehnt dachten, es sei weitgehend gezähmt. Es stellt einen schwerwiegenden Verstoß gegen den Datenschutz und die Datenintegrität dar und wirkt sich direkt auf Benutzer und potenzielle Unternehmenskunden aus, die eine solche KI-Infrastruktur nutzen.
Diese Art von Schwachstelle ist zwar wirklich schwerwiegend, fühlt sich aber weniger wie eine neuartige „KI-Sicherheitsherausforderung“ an, sondern eher wie ein klassischer Infrastrukturausfall mit KI-Hut. Es erinnert daran, dass selbst die fortschrittlichsten KI-Plattformen auf Schichten konventioneller Datenverarbeitung, Vernetzung und Virtualisierung basieren. Wenn diese Grundschichten voller Löcher sind, spielt es keine Rolle, wie ausgefeilt Ihr KI-Modell ist; Das gesamte System bleibt angreifbar. Der „KI“-Aspekt dieser Geschichte ist fast eine Ablenkung, eine Irreführung, die unseren Blick von den verrottenden Balken unter den polierten Dielen ablenkt.
CISAs KEV-Sperrfeuer: Ein kritischer Indikator
Während wir damit beschäftigt sind, die ethischen Auswirkungen empfindungsfähiger Chatbots und die Nuancen der KI-Sicherheit zu diskutieren, nimmt CISA eine beispiellose Anzahl aktiv ausgenutzter Schwachstellen in seinen Katalog bekannter ausgenutzter Schwachstellen (KEV) auf. Dies ist keine theoretische Übung. Dies ist keine „Patch-Liste eines Tages“. Dies ist eine dringende „Ihr Haus steht gerade“-Liste.
In den letzten Wochen hat CISA zahlreiche Einträge hinzugefügt, wodurch die Gesamtzahl der aktiv ausgenutzten Schwachstellen in kurzer Zeit auf eine erstaunliche Zahl gestiegen ist [2]. Dabei geht es nicht nur um „Sicherheit ist schlecht“; Dies ist eine systemische, eskalierende Krise, die sich auf die äußerst wichtige Unternehmenssoftware auswirkt, die unsere Welt steuert.
Beachten Sie die jüngsten Ergänzungen zum KEV-Katalog:
- CVE-2023-46214: Eine Schwachstelle bezüglich Remotecodeausführung in Splunk Enterprise (CVSS 9.8) mit einer CISA-Patchfrist, die ungepatchte Systeme äußerst anfällig macht.
- CVE-2023-29357: Eine Microsoft SharePoint Server-Schwachstelle bezüglich der Eskalation von Berechtigungen, die sich auf das Rückgrat unzähliger Unternehmensintranets auswirkt.
- CVE-2023-42824: Eine Sicherheitslücke im Apple iOS/iPadOS-Kernel, die bereits bei gezielten Angriffen ausgenutzt wurde und zeigt, dass selbst kontrollierte Ökosysteme nicht undurchdringlich sind.
- CVE-2023-30799: Ein MikroTik RouterOS-Fehler bei der Remote-Codeausführung, der sich auf die Router auswirkt, die alles verbinden und oft in den tiefsten Ecken des Netzwerks ungepatcht bleiben.
Diese rasante Zunahme aktiv ausgenutzter Zero-Days bei großen Anbietern – Microsoft, Apple, Splunk, MikroTik, Linux, JFrog – erfordert sofortige, hektische Aufmerksamkeit. Dies ist keine allgemeine Warnung; Es ist eine Sirene, die direkt auf jedes IT- und Sicherheitsteam losgeht. Die KEV-Liste der CISA ist nicht nur ein Vorschlag für Bundesbehörden; Es ist eine kritische Warnung für alle Organisationen. Ignorieren Sie es auf eigene Gefahr.
Die Illusion der „KI-Sicherheit“ und die Kosten der Ablenkung
Hier ist die unbequeme Wahrheit: Die grundlegenden Mängel in KI-Plattformen und das CISA-KEV-Sperrfeuer sind miteinander verbundene Aspekte desselben Problems. Sie schreien beide über einen grundlegenden Zusammenbruch der Softwaresicherheit, doch der kollektive Blick unserer Branche ist gefährlich falsch ausgerichtet. Wir sind so fasziniert von den Versprechen und Gefahren der „KI“, dass wir die grundlegende digitale Infrastruktur verrotten lassen.
„KI-Sicherheit“ ist zu einem Schlagwort geworden, einer neuen Herausforderung für Berater und Produktmanager. Aber was ist das eigentlich? Oft geht es nur um Sicherheit, die auf KI-Systeme angewendet wird. Ja, KI bringt neue Angriffsvektoren und einzigartige Herausforderungen mit sich, aber ein erheblicher Teil der „KI-Sicherheit“ besteht einfach aus robuster Technik, sicheren Codierungspraktiken und sorgfältigem Patching – den gleichen Dingen, bei denen wir seit Jahrzehnten versagen. Das zuvor erwähnte Problem der VM-Isolation ist ein perfektes Beispiel: eine klassische Schwachstelle, die durch die Komplexität einer KI-Plattform noch verstärkt wird.
Wir bauen unglaublich komplexe KI-Systeme auf immer fragileren und aktiv genutzten Grundlagen auf. Es ist, als würde man akribisch ein selbstfahrendes Auto mit fortschrittlicher KI-Navigation entwerfen, während die Räder abfallen und der Motor stottert. Der Fokus auf „KI-Sicherheit“ fühlt sich oft wie eine Ablenkung an und lenkt Ressourcen und Aufmerksamkeit von der alltäglichen, unrühmlichen, aber absolut entscheidenden Arbeit der Sicherung bestehender Infrastruktur ab.
Sind wir so damit beschäftigt, dem nächsten großen Ding nachzujagen, dass wir die aktuellen großen Dinge verbrennen lassen? Das schiere Ausmaß und die Breite der KEV-Bedrohungen weisen auf eine systemische und dringende Herausforderung für die grundlegende digitale Infrastruktur hin, die sich von früheren KI-zentrierten Zero-Day-Diskussionen unterscheidet. Hier geht es nicht um die Zukunft der KI; es geht um den gegenwärtigen Zustand unserer digitalen Existenz.
Was nun, CTOs?
Für technische Leiter und CTOs ist die Botschaft deutlich und unmittelbar:
- Priorisieren Sie die KEV-Liste: Lassen Sie alles fallen. Beheben Sie diese Schwachstellen. Beauftragen Sie es. Setzen Sie es durch. Dies ist nicht optional.
- Lassen Sie sich nicht auf Kosten der Grundlagen vom „KI-Sicherheits-Hype“ mitreißen: Ja, verstehen Sie die einzigartigen Risiken von KI, aber denken Sie daran, dass robuste Technik, sichere Entwicklungslebenszyklen und sorgfältiges Patchen immer noch Ihre beste Verteidigung sind. Ein ausgefallenes KI-Modell wird Sie nicht retten, wenn ein Angreifer Eigentümer Ihrer zugrunde liegenden VM oder Ihres SharePoint-Servers ist.
- In grundlegende Sicherheit investieren: Dies bedeutet mehr als nur den Kauf eines weiteren Sicherheitstools. Es bedeutet, in Menschen, Prozesse und eine Kultur zu investieren, die Sicherheit als eine zentrale technische Disziplin ansieht und nicht als nachträglichen Gedanken. Bug-Bounty-Programme sind ausgezeichnet, aber sie sollten ein Sicherheitsnetz sein und nicht Ihre primäre Sicherheitsstrategie.
Der Vorfall mit der KI-Plattform-Infrastruktur ist ein Weckruf, aber die CISA KEV-Liste ist der dringende Alarm. Wir müssen aufhören, die neuesten KI-Sicherheitsinitiativen zu bewundern, und stattdessen damit beginnen, die Lücken in unseren tatsächlichen Abwehrmaßnahmen zu schließen. Die Zukunft der KI ist aufregend, aber der aktuelle Stand unserer Sicherheit ist erschreckend.
Quellen
[1] KI-Sicherheit ist ein Chaos, und es wird noch schlimmer – https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Katalog bekannter ausgenutzter Sicherheitslücken – https://www.cisa.gov/known-exploited-vulnerabilities-catalog