Il rallentamento dell'IA è una distrazione. La tua casa è in fiamme.
Cerchiamo di essere franchi: l'industria tecnologica sta finalmente vivendo il suo momento di "venire a Gesù" con l'intelligenza artificiale, ma sembra meno un vero pentimento e più un perno strategico. All’improvviso, gli stessi artefici di questa corsa vertiginosa all’intelligenza artificiale – gli eminenti ricercatori e i finanziatori che hanno finanziato i loro sprint alimentati dalla caffeina – chiedono un rallentamento [1]. Stanno parlando di “governance interna”, “quadri etici” e un ritmo “più deliberato”. E il mercato, da sempre un barometro sensibile, ha già reagito, con preoccupazioni sulla sostenibilità degli investimenti nell’intelligenza artificiale che causano volatilità nei titoli dei chip [2].
Questa non è una regolamentazione esterna; è una "linea di faglia" interna che emerge dall'ecosistema stesso dell'intelligenza artificiale. E mentre i dirigenti dibattono sulle implicazioni filosofiche delle loro future creazioni, il presente brucia attivamente.
La pausa conveniente
Considera i tempi. Per anni, il mantra è stato “muoviti velocemente e rompi le cose” o, più recentemente, “muoviti velocemente e costruisci AGI”. Ora, con modelli potenti già implementati, con il panorama competitivo ampiamente definito e con lo spettro di una regolamentazione effettiva e significativa che incombe, le richieste di cautela suonano un po’ vuote. Si tratta di un vero risveglio dei rischi profondi o di una manovra calcolata per consolidare il potere, rallentare i concorrenti e gestire la percezione pubblica prima che escano i forconi?
È facile predicare cautela quando hai già conquistato il mercato su calcolo, talento e modelli fondamentali. L’improvvisa attenzione del settore alla “rivalutazione delle roadmap dei prodotti, alla valutazione del rischio e alla pianificazione strategica” sembra nobile, ma sembra anche un modo conveniente per riallineare le risorse. Ciò potrebbe potenzialmente rallentare le alternative open source o gli attori più piccoli che potrebbero sfidare i giganti consolidati controllando l’accesso alle risorse essenziali o influenzando i quadri normativi. Il “quadro etico” è improvvisamente fondamentale, non quando i modelli venivano addestrati su dati recuperati, ma ora che sono abbastanza potenti da rimodellare veramente la società.
Le preoccupazioni espresse all’interno delle comunità accademiche e scientifiche, che avvertono che le “soluzioni” dell’intelligenza artificiale ai problemi aperti potrebbero minacciare l’integrità dei loro campi [3], sono un chiaro indicatore della profondità di questa preoccupazione interna. Ma non confondiamo questo con altruismo. Non si tratta dell’impatto dell’IA sui posti di lavoro o sulle infrastrutture; è una questione di controllo: chi lo esercita e a quale ritmo. Il dibattito riguarda meno "dovremmo costruirlo?" e ancora su "chi decide quanto velocemente lo costruiamo e chi ci guadagna?"
Mentre discutono del futuro, il tuo presente è compromesso
Ora, passiamo dalle preoccupazioni astratte e lungimiranti della spaccatura interna dell'intelligenza artificiale alla crisi immediata e tangibile che si sta verificando sulle nostre reti proprio ora. Mentre i titani dell'intelligenza artificiale riflettono sull'anima delle loro macchine, i tuoi team operativi si stanno affrettando per contenere una vera e propria catastrofe di sicurezza informatica.
Non stiamo parlando di minacce teoriche o di tendenze generali. Stiamo parlando di vulnerabilità zero-day sfruttate attivamente nei software aziendali fondamentali, colpendo le infrastrutture critiche con la forza di una mazza.
- Ivanti Connect Secure e Policy Secure (CVE-2023-46805 e CVE-2024-21887): Questo non è solo un bug; è una ferita aperta. Queste vulnerabilità nelle soluzioni VPN e di accesso alla rete di Ivanti sono state sfruttate attivamente, consentendo agli aggressori di aggirare l'autenticazione ed eseguire comandi remoti. La CISA ha emesso numerosi avvertimenti, evidenziando il rischio critico per le organizzazioni che fanno affidamento su questi sistemi per l'accesso remoto sicuro [4]. La tua difesa di rete primaria, l'unica cosa su cui fai affidamento per fermare i malintenzionati all'ingresso, viene attivamente sfruttata per garantire agli aggressori un accesso approfondito a innumerevoli reti aziendali.
- Interfaccia utente Web Cisco IOS XE (CVE-2023-20198): Gravità massima. Sfruttato attivamente. Questa vulnerabilità consente agli aggressori non autenticati di creare account privilegiati e ottenere il pieno controllo sui dispositivi Cisco IOS XE interessati. Se un utente malintenzionato possiede il piano di gestione della tua infrastruttura di rete, possiede anche l'intera rete. Fine del gioco [5].
La CISA non emette "avvertimenti" per divertimento; stanno urlando "fuoco" in un teatro affollato. Queste non sono solo minacce teoriche; vengono attivamente utilizzati per compromettere le difese fondamentali e i sistemi di gestione delle imprese globali.
La vera linea di faglia
L'ironia è così densa che potresti tagliarla con un coltello smussato. Da un lato, abbiamo l’élite dell’intelligenza artificiale che dibatte sulle implicazioni etiche di un futuro che stanno ancora costruendo, chiedendo un rallentamento dopo anni di accelerazione incontrollata. Dall’altro, abbiamo la minaccia esistenziale immediata che la nostra tecnologia di base attuale si sgretoli attivamente sotto il peso di vulnerabilità non affrontate e senza patch.
La vera “linea di faglia” non è solo all’interno della comunità dell’intelligenza artificiale; è tra la torre d'avorio dell'innovazione e le trincee della realtà operativa. Si trova tra le discussioni astratte e focalizzate sul futuro sull’“autoregolamentazione” dell’intelligenza artificiale e la necessità immediata e concreta di sicurezza e stabilità effettive nei sistemi su cui facciamo affidamento oggi.
In qualità di CTO e responsabili tecnici, non possiamo permetterci di farci distrarre dai dibattiti filosofici sul rallentamento dell’IA. Sebbene queste discussioni siano importanti a lungo termine, sono un lusso quando la tua casa è in fiamme. La “rivalutazione delle roadmap dei prodotti” dovrebbe iniziare rafforzando le fondamenta fatiscenti della nostra infrastruttura esistente. Le "valutazioni del rischio" devono dare la priorità alle minacce immediate e attivamente sfruttate che stanno compromettendo la continuità operativa e l'integrità dei dati oggi.
Le priorità del settore sono distorte. Stiamo costruendo cose più veloci e brillanti su fondamenta che stanno attivamente marcendo. La richiesta di un rallentamento dell'intelligenza artificiale potrebbe essere una conversazione necessaria, ma per quelli di noi sul campo, alle prese con gli zero-day di Ivanti e Cisco, sembra come discutere del colore delle tende mentre il tetto crolla. Concentrati sul presente. Il futuro può aspettare finché non stiamo più sanguinando attivamente.
Fonti
[1] Lettera aperta per mettere in pausa giganteschi esperimenti di intelligenza artificiale – https://futureoflife.org/open-letter-pause-ai-development/ [2] Le azioni AI stanno aumentando vertiginosamente, ma alcuni investitori si innervosiscono: https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] La rivoluzione dell’intelligenza artificiale nella scienza: promesse e pericoli – https://www.nature.com/articles/d41586-023-03223-y [4] Attori di minacce che sfruttano le vulnerabilità di Ivanti Connect Secure e Ivanti Policy Secure — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Attori di minacce che sfruttano la vulnerabilità dell'interfaccia utente Web del software Cisco IOS XE: https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a