La nuova IA dell'Imperatore e le fondamenta marce sotto di essa
Ricordi quando l'intelligenza artificiale ci avrebbe salvato tutti? Si scopre che i salvatori ora chiedono un timeout. Proprio di recente, gli stessi architetti del nostro futuro guidato dall’intelligenza artificiale – i ricercatori “di frontiera” e i pesi massimi della finanza – hanno collettivamente premuto il freno, chiedendo una decelerazione nello sviluppo a causa di “crescenti problemi di sicurezza” [1]. Il mercato, da sempre uno strumento brusco, ha risposto tossendo un polmone: i titoli dei chip e i principali attori dell’intelligenza artificiale sono crollati [2]. Pechino, prevedibilmente, si è fatta beffe degli avvertimenti, mentre i giganti dei chip di Seoul si sono opposti ai pagamenti anticipati per i futuri progressi dell’intelligenza artificiale [2].
Questo non è solo un dibattito filosofico per la Torre d'Avorio. Si tratta di un cambiamento epocale, un’ammissione pubblica di incoscienza da parte dell’élite del settore. E francamente, è un po' troppo conveniente.
La pausa dell'IA: altruismo o gioco di potere?
Cerchiamo di essere chiari: quando le persone che hanno costruito il razzo si rendono conto all'improvviso di aver dimenticato i paracadute dopo il lancio, non è un momento di profondo risveglio etico. È una corsa tardiva ed egoistica. Questi non sono idealisti con gli occhi spalancati; questi sono i titani che hanno premuto sull’acceleratore, inseguendo una crescita esponenziale e il dominio del mercato. Ora, con lo spettro di “conseguenze impreviste” che incombe grande – e forse, più cinicamente, la consapevolezza che il ritmo attuale è insostenibile o che hanno bisogno di consolidare il loro vantaggio – chiedono un respiro collettivo.
La reazione del mercato è significativa. Un calo dei titoli azionari non è solo una questione di paura; riguarda le implicazioni finanziarie immediate di un potenziale rallentamento. La reazione di Pechino? Un chiaro segnale che il vantaggio strategico nazionale prevale sulle preoccupazioni astratte sulla sicurezza. E i produttori di chip di Seoul rifiutano i pagamenti anticipati? Questo è il suono del capitale che mette in discussione la stabilità a lungo termine e la redditività di un futuro improvvisamente incerto.
Per noi, CTO e responsabili tecnici, questo si traduce direttamente in un panorama caotico. Aspettatevi che gli interventi normativi subiscano un’accelerazione, costringendo a ridefinire le priorità dei progetti di intelligenza artificiale. L'etica del "muoversi velocemente e rompere le cose" per l'intelligenza artificiale è ufficialmente morta, sostituita da una frenetica ricerca di strutture di "sviluppo etico dell'intelligenza artificiale" che avrebbero dovuto essere integrate fin dal primo giorno. Gli investimenti diventeranno più cauti, le strategie cambieranno e, sì, i mercati del lavoro sentiranno il gelo mentre la corsa all’oro lascia il posto a un approccio più misurato e, si spera, più responsabile. Ma non confondiamo questo con puro altruismo. Questa “pausa” riguarda tanto il controllo e la ricalibrazione del mercato quanto una reale sicurezza.
Mentre i Titani discutono, la Fondazione crolla
Ora, mentre l'élite dell'intelligenza artificiale sta attraversando la sua crisi esistenziale, dibattendo sull'etica della futura superintelligenza, parliamo della crisi di sicurezza molto reale, molto presente e assolutamente catastrofica che si sta svolgendo proprio ora.
Questa settimana, CISA ha aggiunto diversi nuovi CVE al suo catalogo delle vulnerabilità sfruttate note [3]. Stiamo parlando di un RCE root confermato in Cisco Secure Email Gateway (CVE-2023-20269) [4], di un percorso trasversale CVSS 10.0 in GitLab (CVE-2023-2825) [3] e di un Chrome zero-day recentemente aggiornato (CVE-2023-4863) [3] che ha richiesto attenzione immediata.
Ma il vero colpo allo stomaco, quello che dovrebbe far urlare nel vuoto ogni professionista della sicurezza, è la persistente minaccia di difetti fondamentali. Considera CVE-2021-1647, una vulnerabilità di escalation dei privilegi locali nel Malware Protection Engine di Microsoft Defender [5]. Questo non era un difetto oscuro; aveva una Proof-of-Concept pubblica ed è stato attivamente sfruttato in natura, evidenziando come componenti critici della nostra difesa digitale possano essere compromessi e rimanere vulnerabili per un certo periodo.
Lasciamo che questo penetri. Mentre discutiamo sull'etica della sensibilità dell'intelligenza artificiale, lo stesso software progettato per proteggere i nostri endpoint, lo strato fondamentale della nostra difesa digitale, ha dimostrato di nascondere difetti pubblicamente noti e attivamente sfruttati che consentono a un utente malintenzionato di elevare i privilegi. È come discutere sulle implicazioni filosofiche della propulsione a curvatura mentre i freni della tua auto non funzionano e il motore è in fiamme.
La resa dei conti: due facce della stessa medaglia
Queste non sono storie separate. Sono le due facce della stessa medaglia profondamente imperfetta: un’industria tecnologica che ha costantemente dato priorità alla velocità, alla novità e all’innovazione percepita rispetto alla sicurezza, alla stabilità e alla responsabilità fondamentali.
L'improvviso appello dei leader dell'intelligenza artificiale a rallentare è un tentativo reattivo ed egoistico di correggere la rotta * dopo * che hanno già liberato sistemi potenti e scarsamente compresi. È un'ammissione che il mantra "muoviti velocemente e rompi le cose", se applicato a una tecnologia potenzialmente in grado di alterare il mondo, non è solo irresponsabile, ma pericoloso.
L’assalto zero-day, in particolare la vulnerabilità critica del Defender, è la conseguenza diretta e dolorosa di questa stessa mentalità applicata all’IT fondamentale. È il risultato di una cultura che spesso considera la sicurezza come un ripensamento, una casella di controllo della conformità o un centro di costo, piuttosto che come una componente integrale e non negoziabile di ogni singolo prodotto e sistema. Siamo così impegnati a dare la caccia al prossimo oggetto luccicante - il prossimo LLM, il prossimo agente AI - che abbiamo lasciato marcire il terreno sotto i nostri piedi.
Per i CTO e i responsabili tecnici, il messaggio è chiaro e immediato. Smetti di inseguire ogni tendenza dell'IA che attraversa il tuo feed. Raddoppiare i fondamentali. Dai priorità all'applicazione delle patch, in particolare per le vulnerabilità critiche e attivamente sfruttate come quelle di Cisco, GitLab e la minaccia persistente esemplificata dai precedenti LPE di Defender. Implementare misure di mitigazione efficaci. Richiedi ai tuoi fornitori la responsabilità del loro livello di sicurezza, non solo della loro roadmap delle funzionalità.
Il crollo del mercato e le questioni di sicurezza fondamentali non affrontate non sono solo notizie. Sono una resa dei conti. Un mondo tecnologico troppo veloce, troppo spericolato e, infine, troppo esposto. È tempo di crescere, proteggere le nostre fondamenta e poi, solo allora, considerare con cautela la prossima frontiera.
Fonti
[1] Future of Life Institute - Pause Giant AI Experiments: una lettera aperta - https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — Gli esperti di intelligenza artificiale chiedono una pausa nello sviluppo di sistemi di intelligenza artificiale avanzati — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA: catalogo delle vulnerabilità sfruttate note: https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Advisory - Vulnerabilità di Cisco Secure Email and Web Manager, Cisco Email Security Appliance e Cisco Web Security Appliance - https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Microsoft Security Response Center: vulnerabilità legata all'escalation dei privilegi locali di Microsoft Defender: https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647