Le ralentissement de l'IA est une distraction. Votre maison est en feu.
Soyons francs : l’industrie technologique connaît enfin son moment de « venir à Jésus » avec l’IA, mais cela ressemble moins à une véritable repentance qu’à un pivot stratégique. Soudain, les architectes mêmes de cette course effrénée à l’IA – les chercheurs éminents et les financiers qui ont financé leurs sprints alimentés par la caféine – appellent à un ralentissement [1]. Ils parlent de « gouvernance interne », de « cadres éthiques » et d’un rythme « plus délibéré ». Et le marché, toujours un baromètre sensible, a déjà réagi, avec des inquiétudes quant à la durabilité des investissements dans l’IA, provoquant une volatilité des stocks de puces [2].
Il ne s’agit pas d’une régulation externe ; il s'agit d'une « ligne de faille » interne émergeant de l'écosystème de l'IA lui-même. Et pendant que les dirigeants débattent des implications philosophiques de leurs futures créations, le présent brûle activement.
La pause pratique
Considérez le timing. Pendant des années, le mantra a été « Agir vite et casser les choses » ou, plus récemment, « Agir vite et construire AGI ». Aujourd’hui, avec des modèles puissants déjà déployés, un paysage concurrentiel largement défini et le spectre d’une réglementation réelle et significative qui se profile, les appels à la prudence sonnent un peu creux. S’agit-il d’une véritable prise de conscience des risques profonds, ou d’une manœuvre calculée pour consolider le pouvoir, ralentir les concurrents et gérer la perception du public avant que les fourches ne sortent ?
Il est facile de prêcher la prudence quand on a déjà accaparé le marché en matière de calcul, de talent et de modèles fondamentaux. L'accent soudain mis par l'industrie sur « la réévaluation des feuilles de route des produits, des évaluations des risques et de la planification stratégique » semble noble, mais cela semble également être un moyen pratique de réaligner les ressources. Cela pourrait potentiellement ralentir les alternatives open source ou les petits acteurs qui pourraient défier les géants établis en contrôlant l’accès aux ressources essentielles ou en influençant les cadres réglementaires. Le « cadre éthique » devient soudainement primordial, non pas lorsque les modèles étaient formés à partir de données récupérées, mais maintenant qu'ils sont suffisamment puissants pour véritablement remodeler la société.
Les inquiétudes exprimées au sein des communautés universitaires et scientifiques, avertissant que les « solutions » de l’IA aux problèmes ouverts pourraient menacer l’intégrité de leurs domaines [3], sont un indicateur frappant de la profondeur de cette préoccupation interne. Mais ne confondons pas cela avec de l’altruisme. Il ne s’agit pas de l’impact de l’IA sur les emplois ou les infrastructures ; il s'agit de contrôle – qui l'exerce et à quel rythme. Le débat porte moins sur « faut-il le construire ? » et plus encore sur « qui décide de la rapidité avec laquelle nous le construisons et à qui profite ? »
Pendant qu'ils débattent de l'avenir, votre présent est compromis
Passons maintenant des préoccupations abstraites et tournées vers l'avenir liées à la fracture interne de l'IA à la crise immédiate et tangible qui se déroule en ce moment sur nos réseaux. Pendant que les titans de l’IA s’interrogent sur l’âme de leurs machines, vos équipes opérationnelles se démènent pour contenir une véritable catastrophe de cybersécurité.
Nous ne parlons pas de menaces théoriques ou de tendances générales. Nous parlons de vulnérabilités zero-day activement exploitées dans les logiciels d’entreprise fondamentaux, frappant les infrastructures critiques avec la force d’un marteau.
- Ivanti Connect Secure et Policy Secure (CVE-2023-46805 et CVE-2024-21887) : Il ne s'agit pas simplement d'un bug ; c'est une blessure béante. Ces vulnérabilités des solutions VPN et d'accès réseau d'Ivanti ont été activement exploitées, permettant aux attaquants de contourner l'authentification et d'exécuter des commandes à distance. La CISA a émis plusieurs avertissements, soulignant le risque critique pour les organisations qui s'appuient sur ces systèmes pour un accès à distance sécurisé [4]. Votre principale défense réseau, la seule chose sur laquelle vous comptez pour arrêter les méchants à la porte, est activement exploitée pour accorder aux attaquants un accès approfondi à d’innombrables réseaux d’entreprise.
- Interface utilisateur Web Cisco IOS XE (CVE-2023-20198) : Gravité maximale. Activement exploité. Cette vulnérabilité permet à des attaquants non authentifiés de créer des comptes privilégiés et d'obtenir un contrôle total sur les appareils Cisco IOS XE concernés. Si un attaquant possède le plan de gestion de votre infrastructure réseau, il possède l’intégralité de votre réseau. Partie terminée [5].
La CISA n'émet pas d'« avertissements » pour le plaisir ; ils crient « au feu » dans un théâtre bondé. Ce ne sont pas seulement des menaces théoriques ; ils sont activement utilisés pour compromettre les systèmes de défense et de gestion de base des entreprises mondiales.
La vraie ligne de faille
L’ironie est si épaisse qu’on pourrait la couper avec un couteau émoussé. D’un côté, l’élite de l’IA débat des implications éthiques d’un avenir qu’elle est encore en train de construire, appelant à un ralentissement après des années d’accélération incontrôlée. De l’autre, nous avons la menace existentielle immédiate de notre technologie fondamentale actuelle qui s’effondre activement sous le poids de vulnérabilités non corrigées et non corrigées.
La véritable « ligne de faille » ne se situe pas seulement au sein de la communauté de l’IA ; c'est entre la tour d'ivoire de l'innovation et les tranchées de la réalité opérationnelle. C'est entre les discussions abstraites et tournées vers l'avenir sur « l'autorégulation » de l'IA et le besoin immédiat et concret d'une sécurité et d'une stabilité réelles dans les systèmes sur lesquels nous comptons aujourd'hui.
En tant que directeurs techniques et responsables de l’ingénierie, nous ne pouvons pas nous permettre de nous laisser distraire par les débats philosophiques sur le ralentissement de l’IA. Bien que ces discussions soient importantes à long terme, elles constituent un luxe lorsque votre maison est en feu. La « réévaluation des feuilles de route des produits » devrait commencer par consolider les fondations en ruine de notre infrastructure existante. Les « évaluations des risques » doivent donner la priorité aux menaces immédiates et activement exploitées qui compromettent aujourd'hui la continuité opérationnelle et l'intégrité des données.
Les priorités de l'industrie sont biaisées. Nous construisons des choses plus rapides et plus brillantes sur une fondation qui pourrit activement. L’appel au ralentissement de l’IA est peut-être une conversation nécessaire, mais pour ceux d’entre nous sur le terrain, confrontés aux Zero Days d’Ivanti et de Cisco, cela a l’impression de débattre de la couleur des rideaux pendant que le toit s’effondre. Concentrez-vous sur le présent. L’avenir peut attendre que nous ne saignions plus activement.
##Sources [1] Une lettre ouverte pour suspendre les expériences géantes d'IA — https://futureoflife.org/open-letter-pause-ai-development/ [2] Les actions de l'IA montent en flèche, mais certains investisseurs deviennent nerveux — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] La révolution de l'IA en science : promesses et périls — https://www.nature.com/articles/d41586-023-03223-y [4] Acteurs de menace exploitant les vulnérabilités d'Ivanti Connect Secure et d'Ivanti Policy Secure — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Acteurs de menace exploitant la vulnérabilité de l'interface utilisateur Web du logiciel Cisco IOS XE — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a