U novu vestitu di sicurezza AI di l'imperatore: Mentre fighjemu à Muse, a Fundazione si scrolla
Semu diretti: l'industria tecnologica hà una nova obsessione, è hè chjamata "AI security". Semu tutti previsti di fucalizza nantu à l'iniezione pronta, l'avvelenamentu di mudelli è l'esfiltrazione di dati da mudelli di lingua maiò. Intantu, l'infrastruttura reale, fisica, digitale chì mantene e nostre imprese inseme hè attivamente incendiata da un incessante barrage di zero-days. Un incidente recente chì implica una grande piattaforma AI, illustrativa di e sfide più larghe in securità di l'infrastruttura AI, mette in risaltu sta dicotomia periculosa [1].
Meta, una sucietà cunnisciuta per u so ethos di "mosse rapidamente è rompe e cose", hà affruntatu u scrutiniu nantu à i difetti di sicurezza in e so piattaforme AI. Per esempiu, un prugramma di bundanza di bug hà scupertu un difettu significativu chì espone l'utilizatori di Macchine Virtuali. Ùn era micca una fuga di dati sottile o un bypass intelligente di prompt, ma un errore fundamentale à livellu di infrastruttura chì hà espostu * VMs d'utilizatori *. Il ne s'agit pas d'une vulnérabilité esotérique spécifique à l'IA; questu hè l'isolamentu di basa di VM, un prublema chì avemu pensatu largamente domestu un decenniu fà. Rappresenta una violazione critica di a privacy è di l'integrità di e dati, affettendu direttamente l'utilizatori è potenzialmente i clienti di l'impresa sfruttendu tali infrastruttura AI.
Stu tipu di difettu, ancu s'ellu hè veramente impattu, si sente menu cum'è una nova sfida di "sicurezza AI" è più cum'è un fallimentu di l'infrastruttura classica chì porta un cappellu AI. Hè un ricordu chì ancu e piattaforme AI più avanzate sò custruite nantu à strati di calculu cunvinziunali, networking è virtualizazione. Sì quelli strati di fundazione sò riddled with holes, ùn importa micca quantu sofisticatu u vostru mudellu AI hè; tuttu u sistema resta vulnerabile. L'aspettu "AI" di sta storia hè guasi una distrazione, una misdirection chì alluntanassi u nostru sguardu da i legni putrici sottu à i pavimenti lucidati.
KEV Barrage di CISA: Un Indicatore Criticu
Mentre simu occupati à discussà l'implicazioni etiche di i chatbots senzienti è e sfumature di a sicurità di l'IA, CISA abbanduneghja un numeru senza precedente di vulnerabili sfruttate attivamente in u so catalogu di Vulnerabilità Sfruttate Cunnisciute (KEV). Questu ùn hè micca un eserciziu teoricu. Questa ùn hè micca una lista di "patch someday". Questa hè una lista urgente "a vostra casa hè in focu * avà *".
In l'ultime settimane, CISA hà aghjustatu numerose voci, purtendu u tutale di vulnerabili sfruttate attivamente à un numeru stupente in un cortu periodu [2]. Questu ùn hè micca solu "a sicurità hè male"; Questa hè una crisa sistemica, crescente chì impacta u software di l'impresa assai criticu chì gestisce u nostru mondu.
Cunsiderate l'addizioni recenti à u catalogu KEV:
- CVE-2023-46214: Una vulnerabilità di esecuzione di codice remota di Splunk Enterprise (CVSS 9.8) cù una scadenza di patch CISA, chì rende i sistemi senza patch altamente vulnerabili.
- CVE-2023-29357: Una vulnerabilità di escalazione di privilegi di Microsoft SharePoint Server, chì affetta a spina dorsale di innumerevoli intranet corporative.
- CVE-2023-42824: Una vulnerabilità di u kernel Apple iOS/iPadOS, digià sfruttata in attacchi mirati, dimustrendu chì ancu l'ecosistemi cuntrullati ùn sò micca impenetrabili.
- CVE-2023-30799: Un difettu di esecuzione di codice remota di MikroTik RouterOS, affettendu i routers chì cullighjanu tuttu, spessu lasciatu senza patch in i cantoni più prufondi di a reta.
Questa aghjunta rapida di i ghjorni zero sfruttati attivamente in i principali venditori - Microsoft, Apple, Splunk, MikroTik, Linux, JFrog - esige una attenzione immediata è frenetica. Questu ùn hè micca un avvisu generale; hè una sirena chì sona direttamente à ogni squadra IT è di sicurità. A lista KEV di CISA ùn hè micca solu un suggerimentu per l'agenzii federali; hè un avvertimentu criticu per * tutte * l'urganisazione. Ignorate à u vostru periculu.
L'illusione di "AI Security" è u costu di distrazione
Eccu a verità scomoda: i difetti fundamentali in e plataforme AI è a barrage CISA KEV sò aspetti interconnessi di u listessu prublema. Tramindui urlanu annantu à una rottura fundamentale in a sicurità di u software, ma u sguardu cullettivu di a nostra industria hè periculosamente misalignatu. Semu cusì captivati da a prumessa è u periculu di "AI" chì lascemu a putenza di l'infrastruttura digitale fundamentale.
"Sicurezza AI" hè diventata una parola di moda, una nova frontiera per i cunsultanti è i gestori di produttu. Ma chì hè, veramente? Spessu, hè solu * sicurezza * applicata à i sistemi AI. Iè, l'AI introduce novi vettori di attaccu è sfide uniche, ma una parte significativa di a "sicurezza AI" hè simplicemente ingegneria robusta, pratiche di codificazione sicura è patching diligente - a stessa cosa chì avemu fallutu per decennii. U prublema di isolamentu VM citatu prima hè un esempiu perfettu: una vulnerabilità classica amplificata da a cumplessità di una piattaforma AI.
Custruemu sistemi AI incredibilmente cumplessi sopra à fundazioni sempre più fragili è sfruttate attivamente. Hè cum'è cuncepisce meticulosamente una vittura autònuma cù una navigazione avanzata AI, mentre i roti cascanu è u mutore sputtering. L'enfasi nantu à a "sicurezza AI" spessu si sente cum'è una distrazione, sviendu risorse è attenzione da u travagliu mundanu, senza glamour, ma assolutamente criticu di assicurà l'infrastruttura esistente.
Semu cusì occupati à perseguite a prossima grande cosa chì lasciamu brusgià e cose grandi attuali? U voluminu è l'ampiezza di e minacce KEV indicanu una sfida sistemica è urgente à l'infrastruttura digitale di fundazione, distinta da discussioni precedenti di ghjornu zero centrate in AI. Ùn si tratta micca di u futuru di l'AI; si tratta di u statu attuale di a nostra esistenza digitale.
Chì avà, CTOs?
Per i capi di l'ingegneria è i CTO, u missaghju hè chjaru è immediatu:
- Priorità a lista KEV: Drop all. Patch queste vulnerabilità. Mandatelu. Infurzà lu. Questu ùn hè micca opcional.
- ** Ùn fate micca spazzatu in u hype "AI security" à a spesa di i fundamentali: ** Iè, capisce i risichi unichi di l'AI, ma ricordate chì l'ingegneria robusta, i cicli di vita di sviluppu sicuru è u patching diligente sò sempre a vostra megliu difesa. Un mudellu AI di fantasia ùn vi salverà micca se un attaccante pussede a vostra VM sottostante o u vostru servitore SharePoint.
- Invistisce in a sicurità fundacional: Questu significa più cà solu cumprà un altru strumentu di sicurità. Significa investisce in e persone, i prucessi è una cultura chì valore a sicurità cum'è una disciplina di l'ingegneria core, micca un pensamentu dopu. I prugrammi di bug bounty sò eccellenti, ma duveranu esse una reta di salvezza, micca a vostra strategia di sicurità primaria.
L'incidentu chì implica l'infrastruttura di a piattaforma AI hè una sveglia, ma a lista CISA KEV hè l'alarma urgente. Avemu bisognu di piantà di ammirazione di l'ultime iniziative di sicurezza AI è cumincià à patching i buchi in e nostre difese attuali. U futuru di l'IA hè eccitante, ma u statu attuale di a nostra sicurezza hè terrificante.
Fonti
[1] A sicurità AI hè un disordine, è hè per peghju - https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Catalogu di vulnerabili sfruttate cunnisciute - https://www.cisa.gov/known-exploited-vulnerabilities-catalog