Die neue KI des Kaisers und das verrottende Fundament darunter
Erinnern Sie sich, als die KI uns alle retten wollte? Es stellt sich heraus, dass die Retter nun um eine Auszeit bitten. Erst kürzlich traten die Architekten unserer KI-gesteuerten Zukunft – die „Pionierforscher“ und Finanzschwergewichte – gemeinsam auf die Bremse und forderten eine Verlangsamung der Entwicklung aufgrund „eskalierender Sicherheitsbedenken“ [1]. Der Markt, immer das stumpfe Instrument, reagierte mit einem Lungenhusten: Chip-Aktien und große KI-Aktien stürzten ab [2]. Wie zu erwarten war, spottete Peking über die Warnungen, während Seouls Chipgiganten sich gegen Vorauszahlungen für künftige KI-Fortschritte sträubten [2].
Dies ist nicht nur eine philosophische Debatte über den Elfenbeinturm. Dies ist eine seismische Veränderung, ein öffentliches Eingeständnis der Rücksichtslosigkeit innerhalb der Elite der Branche. Und ehrlich gesagt ist es etwas zu praktisch.
Die KI-Pause: Altruismus oder Machtspiel?
Um es klar zu sagen: Wenn die Leute, die die Rakete gebaut haben, plötzlich feststellen, dass sie die Fallschirme nach dem Start vergessen haben, ist das kein Moment tiefgreifenden ethischen Erwachens. Es ist ein verspätetes, eigennütziges Gerangel. Das sind keine großäugigen Idealisten; Dies sind die Titanen, die Vollgas geben und exponentielles Wachstum und Marktbeherrschung anstreben. Jetzt, da das Schreckgespenst „unvorhergesehener Konsequenzen“ allgegenwärtig ist – und vielleicht, noch zynischer, die Erkenntnis, dass das derzeitige Tempo nicht nachhaltig ist oder dass sie ihren Vorsprung festigen müssen – fordern sie einen gemeinsamen Atemzug.
Die Reaktion des Marktes ist bezeichnend. Ein Rückgang der Chip-Aktien hat nicht nur mit Angst zu tun; Es geht um die unmittelbaren finanziellen Auswirkungen einer möglichen Abschwächung. Pekings Gegenreaktion? Ein klares Signal, dass der nationale strategische Vorteil Vorrang vor abstrakten Sicherheitsbedenken hat. Und Seouls Chiphersteller verweigern Vorauszahlungen? Das ist der Klang des Kapitals, das die langfristige Stabilität und Rentabilität einer plötzlich ungewissen Zukunft in Frage stellt.
Für uns, die CTOs und technischen Leiter, führt dies direkt zu einer chaotischen Landschaft. Es ist mit einer Beschleunigung regulatorischer Eingriffe zu rechnen, die eine Neupriorisierung von KI-Projekten erzwingen werden. Das KI-Ethos „Schnell bewegen und Dinge kaputt machen“ ist offiziell tot und wird durch eine hektische Suche nach Rahmenwerken für die „ethische KI-Entwicklung“ ersetzt, die vom ersten Tag an hätten integriert werden sollen. Die Investitionen werden vorsichtiger, die Strategien werden sich ändern, und ja, die Arbeitsmärkte werden die Kälte spüren, wenn der Goldrausch einem maßvolleren und hoffentlich verantwortungsvolleren Ansatz Platz macht. Aber verwechseln wir das nicht mit purem Altruismus. Bei dieser „Pause“ geht es sowohl um Kontrolle und Neukalibrierung des Marktes als auch um echte Sicherheit.
Während die Titanen debattieren, zerfällt die Stiftung
Während die KI-Elite ihre existenzielle Krise durchlebt und über die Ethik der künftigen Superintelligenz debattiert, sprechen wir über die sehr reale, sehr gegenwärtige und absolut katastrophale Sicherheitskrise, die sich gerade abspielt.
Diese Woche hat CISA mehrere neue CVEs zu seinem Katalog „Known Exploited Vulnerabilities“ hinzugefügt [3]. Wir sprechen von einem bestätigten Root-RCE im Cisco Secure Email Gateway (CVE-2023-20269) [4], einem CVSS 10.0 Path Traversal in GitLab (CVE-2023-2825) [3] und einem kürzlich gepatchten Chrome Zero-Day (CVE-2023-4863) [3], der sofortige Aufmerksamkeit erforderte.
Aber der eigentliche Schlag in die Magengrube, der jeden Sicherheitsexperten ins Leere schreien lassen sollte, ist die anhaltende Bedrohung durch grundlegende Mängel. Betrachten Sie CVE-2021-1647, eine lokale Sicherheitslücke zur Rechteausweitung in der Malware Protection Engine von Microsoft Defender [5]. Das war kein obskurer Fehler; Es gab einen öffentlichen Proof-of-Concept und wurde aktiv in freier Wildbahn genutzt. Dies verdeutlicht, wie kritische Komponenten unserer digitalen Verteidigung kompromittiert werden können und für einen bestimmten Zeitraum angreifbar bleiben.
Lassen Sie das auf sich wirken. Während wir über die Ethik der KI-Empfindlichkeit diskutieren, hat sich gezeigt, dass die Software, die zum Schutz unserer Endpunkte, der Grundschicht unserer digitalen Verteidigung, entwickelt wurde, öffentlich bekannte, aktiv ausgenutzte Schwachstellen aufweist, die es einem Angreifer ermöglichen, Privilegien zu erhöhen. Es ist, als würde man über die philosophischen Implikationen des Warp-Antriebs streiten, während die Bremsen Ihres Autos versagen und der Motor in Flammen steht.
Die Abrechnung: Zwei Seiten derselben Medaille
Das sind keine getrennten Geschichten. Sie sind zwei Seiten derselben zutiefst fehlerhaften Medaille: einer Technologiebranche, die Geschwindigkeit, Neuheit und wahrgenommene Innovation konsequent über grundlegende Sicherheit, Stabilität und Verantwortung gestellt hat.
Der plötzliche Ruf der KI-Führungskräfte nach einer Verlangsamung ist ein reaktiver, eigennütziger Versuch, den Kurs zu korrigieren, nachdem sie bereits mächtige, kaum verstandene Systeme in die Wildnis entlassen haben. Es ist ein Eingeständnis, dass das Mantra „Beweg dich schnell und mach Dinge kaputt“, wenn es auf potenziell weltverändernde Technologien angewendet wird, nicht nur unverantwortlich, sondern auch gefährlich ist.
Der Zero-Day-Angriff, insbesondere die kritische Defender-Schwachstelle, ist die direkte, schmerzhafte Folge derselben Denkweise, die auch auf die grundlegende IT angewendet wird. Es ist das Ergebnis einer Kultur, die Sicherheit oft als nachträglichen Aspekt, als Compliance-Kontrollkästchen oder als Kostenstelle betrachtet und nicht als integralen, nicht verhandelbaren Bestandteil jedes einzelnen Produkts und Systems. Wir sind so damit beschäftigt, das nächste glänzende Objekt zu jagen – das nächste LLM, den nächsten KI-Agenten –, dass wir den Boden unter unseren Füßen verfaulen lassen.
Für CTOs und technische Leiter ist die Botschaft klar und unmittelbar. Hören Sie auf, jedem KI-Trend hinterherzulaufen, der in Ihrem Feed auftaucht. Verdoppeln Sie die Grundlagen. Priorisieren Sie das Patchen, insbesondere für kritische, aktiv ausgenutzte Schwachstellen wie die in Cisco, GitLab und die anhaltende Bedrohung, die durch die früheren LPEs von Defender veranschaulicht wird. Implementieren Sie wirksame Abhilfemaßnahmen. Fordern Sie von Ihren Anbietern Verantwortung für ihre Sicherheitslage und nicht nur für ihre Funktions-Roadmap.
Der Markteinbruch und die ungelösten grundlegenden Sicherheitsprobleme sind nicht nur Nachrichten. Sie sind eine Abrechnung. Eine Tech-Welt, die zu schnell, zu rücksichtslos und letztendlich zu exponiert ist. Es ist an der Zeit, erwachsen zu werden, unsere Grundlagen zu sichern und dann, nur dann, vorsichtig über die nächste Grenze nachzudenken.
Quellen
[1] Future of Life Institute – Pause Giant AI Experiments: Ein offener Brief – https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC – KI-Experten fordern eine Pause bei der Entwicklung fortschrittlicher KI-Systeme – https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA – Katalog bekannter ausgenutzter Sicherheitslücken – https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Advisory – Cisco Secure Email and Web Manager, Cisco Email Security Appliance und Cisco Web Security Appliance Vulnerabilities – https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Microsoft Security Response Center – Sicherheitslücke bei der Eskalation lokaler Berechtigungen in Microsoft Defender – https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647