I nuovi abiti di sicurezza IA dell'Imperatore: mentre osserviamo Muse, la fondazione crolla
Cerchiamo di essere diretti: l'industria tecnologica ha una nuova ossessione, e si chiama "sicurezza dell'intelligenza artificiale". Ci si aspetta che tutti ci concentriamo sull'iniezione tempestiva, sull'avvelenamento dei modelli e sull'esfiltrazione di dati da modelli linguistici di grandi dimensioni. Nel frattempo, l’effettiva infrastruttura fisica e digitale che tiene insieme le nostre imprese viene attivamente messa a ferro e fuoco da un’incessante raffica di zero-day. Un recente incidente che ha coinvolto un’importante piattaforma di intelligenza artificiale, illustrativo delle sfide più ampie nella protezione dell’infrastruttura di intelligenza artificiale, evidenzia questa pericolosa dicotomia [1].
Meta, una società nota per la sua filosofia del "muoversi velocemente e rompere le cose", ha dovuto affrontare un esame accurato delle falle di sicurezza nelle sue piattaforme di intelligenza artificiale. Ad esempio, un programma di bug bounty ha scoperto un difetto significativo che esponeva le macchine virtuali degli utenti. Non si è trattato di una subdola fuga di dati o di un intelligente bypass del prompt, ma di un errore fondamentale a livello di infrastruttura che ha esposto le VM degli utenti. Questa non è una vulnerabilità esoterica specifica dell'intelligenza artificiale; questo è l'isolamento di base delle VM, un problema che pensavamo in gran parte risolto dieci anni fa. Rappresenta una violazione critica della privacy e dell’integrità dei dati, che ha un impatto diretto sugli utenti e potenzialmente sui clienti aziendali che sfruttano tale infrastruttura IA.
Questo tipo di difetto, sebbene abbia un vero impatto, sembra meno una nuova sfida di "sicurezza dell'intelligenza artificiale" e più un classico guasto dell'infrastruttura che indossa un cappello di intelligenza artificiale. Ricorda che anche le piattaforme di intelligenza artificiale più avanzate sono costruite su livelli di elaborazione, rete e virtualizzazione convenzionali. Se questi strati fondamentali sono pieni di buchi, non importa quanto sia sofisticato il tuo modello di intelligenza artificiale; l’intero sistema rimane vulnerabile. L'aspetto "AI" di questa storia è quasi una distrazione, una direzione sbagliata che distoglie il nostro sguardo dalle travi marce sotto le assi lucide del pavimento.
Raffica di KEV della CISA: un indicatore critico
Mentre siamo impegnati a dibattere sulle implicazioni etiche dei chatbot senzienti e sulle sfumature della sicurezza dell'intelligenza artificiale, CISA sta inserendo un numero senza precedenti di vulnerabilità sfruttate attivamente nel suo catalogo Known Exploited Vulnerabilities (KEV). Questo non è un esercizio teorico. Questo non è un elenco di "patch un giorno". Questo è un elenco urgente di "la tua casa è in fiamme in questo momento".
Nelle ultime settimane, la CISA ha aggiunto numerose voci, portando in breve tempo il totale delle vulnerabilità sfruttate attivamente a un numero impressionante [2]. Non si tratta solo del fatto che "la sicurezza è una cosa negativa"; si tratta di una crisi sistemica e crescente che ha un impatto sul software aziendale estremamente critico che gestisce il nostro mondo.
Considera le recenti aggiunte al catalogo KEV:
- CVE-2023-46214: Una vulnerabilità relativa all'esecuzione di codice in modalità remota di Splunk Enterprise (CVSS 9.8) con scadenza per la patch CISA, che rende i sistemi privi di patch altamente vulnerabili.
- CVE-2023-29357: Una vulnerabilità legata all'escalation dei privilegi di Microsoft SharePoint Server, che colpisce la struttura portante di innumerevoli intranet aziendali.
- CVE-2023-42824: Una vulnerabilità del kernel Apple iOS/iPadOS, già sfruttata in attacchi mirati, che dimostra che anche gli ecosistemi controllati non sono impenetrabili.
- CVE-2023-30799: Un difetto nell'esecuzione del codice remoto di MikroTik RouterOS, che colpisce i router che collegano tutto, spesso lasciati senza patch negli angoli più profondi della rete.
Questa rapida aggiunta di zero-day sfruttati attivamente dai principali fornitori – Microsoft, Apple, Splunk, MikroTik, Linux, JFrog – richiede un’attenzione immediata e frenetica. Questo non è un avvertimento generale; è una sirena che suona direttamente contro ogni team IT e di sicurezza. L'elenco KEV della CISA non è solo un suggerimento per le agenzie federali; è un avvertimento critico per tutte le organizzazioni. Ignoralo a tuo rischio e pericolo.
L'illusione della "sicurezza dell'intelligenza artificiale" e il costo della distrazione
Ecco la scomoda verità: i difetti fondamentali nelle piattaforme di intelligenza artificiale e il bombardamento CISA KEV sono aspetti interconnessi dello stesso problema. Entrambi denunciano un crollo fondamentale nella sicurezza del software, ma lo sguardo collettivo del nostro settore è pericolosamente disallineato. Siamo così affascinati dalle promesse e dai pericoli dell’“intelligenza artificiale” che stiamo lasciando marcire l’infrastruttura digitale fondamentale.
La “sicurezza AI” è diventata una parola d’ordine, una nuova frontiera per consulenti e product manager. Ma di cosa si tratta, veramente? Spesso si tratta semplicemente di sicurezza applicata ai sistemi di intelligenza artificiale. È vero, l’intelligenza artificiale introduce nuovi vettori di attacco e sfide uniche, ma una parte significativa della “sicurezza dell’intelligenza artificiale” è semplicemente una solida ingegneria, pratiche di codifica sicure e un’applicazione diligente delle patch: le stesse cose in cui non riusciamo da decenni. Il problema dell’isolamento delle VM menzionato in precedenza è un esempio perfetto: una classica vulnerabilità amplificata dalla complessità di una piattaforma AI.
Stiamo costruendo sistemi di intelligenza artificiale incredibilmente complessi su basi sempre più fragili e sfruttate attivamente. È come progettare meticolosamente un'auto a guida autonoma con navigazione AI avanzata, mentre le ruote cadono e il motore scoppietta. L’attenzione alla “sicurezza dell’intelligenza artificiale” spesso sembra una distrazione, che distoglie risorse e attenzione dal lavoro banale, poco affascinante, ma assolutamente fondamentale di proteggere le infrastrutture esistenti.
Siamo così impegnati a rincorrere la prossima grande novità da lasciare che le grandi cose attuali brucino? L’enorme volume e l’ampiezza delle minacce KEV indicano una sfida sistemica e urgente per l’infrastruttura digitale fondamentale, distinta dalle precedenti discussioni zero-day incentrate sull’intelligenza artificiale. Non si tratta del futuro dell'intelligenza artificiale; riguarda lo stato attuale della nostra esistenza digitale.
E adesso, CTO?
Per i responsabili tecnici e i CTO, il messaggio è chiaro e immediato:
- Dai priorità all'elenco KEV: Rilascia tutto. Correggi queste vulnerabilità. Dategli mandato. Applicatelo. Questo non è facoltativo.
- Non lasciarti travolgere dall'hype sulla "sicurezza dell'intelligenza artificiale" a scapito dei fondamentali: Sì, comprendi i rischi specifici dell'intelligenza artificiale, ma ricorda che una progettazione solida, cicli di vita di sviluppo sicuri e un'applicazione diligente delle patch sono ancora la tua migliore difesa. Un sofisticato modello di intelligenza artificiale non ti salverà se un utente malintenzionato possiede la tua VM sottostante o il tuo server SharePoint.
- Investire nella sicurezza fondamentale: questo significa molto più che semplicemente acquistare un altro strumento di sicurezza. Significa investire in persone, processi e in una cultura che valorizzi la sicurezza come una disciplina ingegneristica fondamentale e non come un aspetto secondario. I programmi di bug bounty sono eccellenti, ma dovrebbero essere una rete di sicurezza, non la tua strategia di sicurezza principale.
L’incidente che ha coinvolto l’infrastruttura della piattaforma AI è un campanello d’allarme, ma l’elenco KEV della CISA è l’allarme urgente. Dobbiamo smettere di ammirare le ultime iniziative di sicurezza dell’intelligenza artificiale e iniziare a colmare le falle nelle nostre attuali difese. Il futuro dell’intelligenza artificiale è entusiasmante, ma lo stato attuale della nostra sicurezza è terrificante.
Fonti
[1] La sicurezza dell’intelligenza artificiale è un disastro e sta per peggiorare: https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Catalogo delle vulnerabilità sfruttate note: https://www.cisa.gov/known-exploited-vulnerabilities-catalog