Les nouveaux vêtements de sécurité IA de l'empereur : pendant que nous regardons Muse, la fondation s'effondre
Soyons directs : l'industrie technologique a une nouvelle obsession, et elle s'appelle "la sécurité de l'IA". Nous sommes tous censés nous concentrer sur l’injection rapide, l’empoisonnement des modèles et l’exfiltration de données à partir de grands modèles de langage. Pendant ce temps, l’infrastructure physique et numérique qui maintient la cohésion de nos entreprises est activement incendiée par un barrage incessant de zéro jour. Un incident récent impliquant une plateforme d’IA majeure, illustrant les défis plus larges liés à la sécurisation des infrastructures d’IA, met en évidence cette dangereuse dichotomie [1].
Meta, une entreprise connue pour sa philosophie « agir vite et casser les choses », a fait l'objet d'un examen minutieux concernant les failles de sécurité de ses plates-formes d'IA. Par exemple, un programme de bug bounty a découvert une faille importante exposant les machines virtuelles des utilisateurs. Il ne s'agissait pas d'une fuite de données subtile ou d'un contournement intelligent des invites, mais d'une erreur fondamentale au niveau de l'infrastructure qui a exposé les VM utilisateur. Il ne s’agit pas d’une vulnérabilité ésotérique spécifique à l’IA ; il s’agit d’une isolation de base des machines virtuelles, un problème que nous pensions en grande partie résolu il y a dix ans. Cela représente une violation critique de la confidentialité et de l’intégrité des données, affectant directement les utilisateurs et potentiellement les entreprises clientes tirant parti de cette infrastructure d’IA.
Ce type de faille, bien que véritablement impactant, ressemble moins à un nouveau défi de « sécurité de l’IA » qu’à une panne d’infrastructure classique coiffée d’un chapeau d’IA. Cela nous rappelle que même les plates-formes d'IA les plus avancées reposent sur des couches de calcul, de mise en réseau et de virtualisation conventionnelles. Si ces couches fondamentales sont criblées de trous, peu importe la sophistication de votre modèle d’IA ; le système tout entier reste vulnérable. L’aspect « IA » de cette histoire est presque une distraction, une mauvaise orientation qui détourne notre regard des bois pourris sous les planches polies.
Barrage KEV de CISA : un indicateur critique
Alors que nous sommes occupés à débattre des implications éthiques des chatbots sensibles et des nuances de la sécurité de l'IA, CISA introduit un nombre sans précédent de vulnérabilités activement exploitées dans son catalogue de vulnérabilités exploitées connues (KEV). Ce n'est pas un exercice théorique. Il ne s'agit pas d'une liste de « correctifs un jour ». Il s'agit d'une liste urgente « votre maison est en feu en ce moment ».
Ces dernières semaines, CISA a ajouté de nombreuses entrées, portant le total des vulnérabilités activement exploitées à un nombre stupéfiant en peu de temps [2]. Il ne s’agit pas seulement de « la sécurité est mauvaise » ; il s’agit d’une crise systémique et croissante qui touche les logiciels d’entreprise très critiques qui font fonctionner notre monde.
Considérez les ajouts récents au catalogue KEV :
- CVE-2023-46214 : Une vulnérabilité d'exécution de code à distance Splunk Enterprise (CVSS 9.8) avec une date limite de mise à jour CISA, rendant les systèmes non corrigés très vulnérables.
- CVE-2023-29357 : Une vulnérabilité d'élévation de privilèges de Microsoft SharePoint Server, affectant l'épine dorsale d'innombrables intranets d'entreprise.
- CVE-2023-42824 : Une vulnérabilité du noyau Apple iOS/iPadOS, déjà exploitée dans des attaques ciblées, démontrant que même les écosystèmes contrôlés ne sont pas impénétrables.
- CVE-2023-30799 : Une faille d'exécution de code à distance de MikroTik RouterOS, impactant les routeurs qui connectent tout, souvent laissée non corrigée dans les recoins les plus profonds du réseau.
Cet ajout rapide de systèmes Zero Day activement exploités par les principaux fournisseurs – Microsoft, Apple, Splunk, MikroTik, Linux, JFrog – exige une attention immédiate et frénétique. Il ne s'agit pas d'un avertissement général ; c'est une sirène qui retentit directement auprès de chaque équipe informatique et de sécurité. La liste KEV de la CISA n'est pas seulement une suggestion destinée aux agences fédérales ; c'est un avertissement critique pour toutes les organisations. Ignorez-le à vos risques et périls.
L'illusion de la « sécurité de l'IA » et le coût de la distraction
Voici la vérité inconfortable : les failles fondamentales des plates-formes d’IA et le barrage CISA KEV sont des aspects interconnectés du même problème. Ils dénoncent tous deux une faille fondamentale dans la sécurité des logiciels, mais le regard collectif de notre industrie est dangereusement mal aligné. Nous sommes tellement captivés par les promesses et les périls de « l’IA » que nous laissons pourrir l’infrastructure numérique fondamentale.
La « sécurité de l'IA » est devenue un mot à la mode, une nouvelle frontière pour les consultants et les chefs de produits. Mais qu’est-ce que c’est, vraiment ? Souvent, il s'agit simplement de sécurité appliquée aux systèmes d'IA. Oui, l'IA introduit de nouveaux vecteurs d'attaque et des défis uniques, mais une partie importante de la « sécurité de l'IA » repose simplement sur une ingénierie robuste, des pratiques de codage sécurisées et des correctifs diligents – les mêmes choses dans lesquelles nous échouons depuis des décennies. Le problème d’isolation des VM mentionné précédemment en est un parfait exemple : une vulnérabilité classique amplifiée par la complexité d’une plateforme d’IA.
Nous construisons des systèmes d’IA incroyablement complexes sur des fondations de plus en plus fragiles et activement exploitées. C'est comme concevoir méticuleusement une voiture autonome avec une navigation avancée par IA, alors que les roues tombent et que le moteur crache. L’accent mis sur la « sécurité de l’IA » apparaît souvent comme une distraction, détournant les ressources et l’attention du travail banal, peu glamour, mais absolument crucial, consistant à sécuriser les infrastructures existantes.
Sommes-nous tellement occupés à rechercher le prochain grand projet que nous laissons les grands projets actuels brûler ? Le volume et l’ampleur des menaces KEV indiquent un défi systémique et urgent pour l’infrastructure numérique fondamentale, distinct des précédentes discussions sur le jour zéro centrées sur l’IA. Il ne s’agit pas de l’avenir de l’IA ; il s'agit de l'état actuel de notre existence numérique.
Et maintenant, CTO ?
Pour les responsables de l’ingénierie et les CTO, le message est clair et immédiat :
- Donnez la priorité à la liste KEV : Supprimez tout. Corrigez ces vulnérabilités. Mandatez-le. Appliquez-le. Ce n’est pas facultatif.
- Ne vous laissez pas emporter par le battage médiatique sur la « sécurité de l'IA » au détriment des fondamentaux : Oui, comprenez les risques uniques de l'IA, mais n'oubliez pas qu'une ingénierie robuste, des cycles de vie de développement sécurisés et des correctifs diligents restent votre meilleure défense. Un modèle d'IA sophistiqué ne vous sauvera pas si un attaquant possède votre machine virtuelle sous-jacente ou votre serveur SharePoint.
- Investir dans une sécurité fondamentale : Cela signifie bien plus que simplement acheter un autre outil de sécurité. Cela signifie investir dans les personnes, les processus et une culture qui valorise la sécurité comme une discipline d'ingénierie fondamentale, et non comme une réflexion après coup. Les programmes de bug bounty sont excellents, mais ils doivent constituer un filet de sécurité et non votre principale stratégie de sécurité.
L’incident impliquant l’infrastructure de la plateforme d’IA est un signal d’alarme, mais la liste CISA KEV est l’alarme urgente. Nous devons cesser d’admirer les dernières initiatives de sécurité de l’IA et commencer à combler les failles de nos défenses actuelles. L’avenir de l’IA est passionnant, mais l’état actuel de notre sécurité est terrifiant.
##Sources [1] La sécurité de l'IA est un gâchis, et elle est sur le point d'empirer — https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Catalogue des vulnérabilités exploitées connues — https://www.cisa.gov/known-exploited-vulnerabilities-catalog