L'AI Slowdown hè una distrazione. A vostra casa hè in focu.
Semu smussati: l'industria di a tecnulugia hè infine avè u so mumentu "vinutu à Ghjesù" cù l'AI, ma si sente menu cum'è un veru pentimentu è più cum'è un pivot strategicu. Di colpu, i stessi architetti di sta razza IA scontu - i circadori prominenti è i finanziarii chì finanzianu i so sprints alimentati da a cafeina - chjamanu un rallentu [1]. Parlanu di "governance interna", "quadri etichi", è di un ritmu "più deliberatu". È u mercatu, sempre u barometru sensitivu, hà digià reagitu, cù preoccupazioni per a sustenibilità di l'investimenti in IA chì causanu volatilità in i stock di chip [2].
Questa ùn hè micca una regulazione esterna; hè una "linea di difettu" interna chì emerge da l'ecosistema AI stessu. E mentre a C-suite discute l'implicazioni filosofiche di e so future creazioni, u presente hè attivamente brusgiatu.
A Pausa Conveniente
Cunsiderate u timing. Per anni, u mantra hè statu "move fast and break things", o più recentemente, "move fast and build AGI". Avà, cù mudelli putenti dighjà implementati, cù u paisaghju cumpetitivu largamente definitu, è cù u spettru di una regulazione attuale è significativa chì si avvicina, i chjama di prudenza sò un pocu cavu. Hè questu un veru risvegliu à i risichi prufondi, o una manuvra calculata per cunsulidà u putere, rallentà i cuncurrenti, è gestisce a percepzione publica prima chì i pitchforks esce ?
Hè facilitu pridicà a prudenza quandu avete digià arricatu u mercatu nantu à i mudelli di calculu, talentu è fundazione. L'enfasi brusca di l'industria nantu à a "rivalutazione di i fogli di strada di u produttu, valutazioni di risichi è pianificazione strategica" sona noble, ma sona ancu cum'è un modu convenientu per riallineà e risorse. Questu puderia rallentà l'alternative open-source o i ghjucatori più chjuchi chì puderanu sfida à i giganti stabiliti cuntrullendu l'accessu à e risorse essenziali o influenzendu i quadri regulatori. U "quadru eticu" hè subitu di primura, micca quandu i mudelli sò stati furmati nantu à dati scraped, ma avà chì sò abbastanza putenti per veramente ristrutturate a società.
E preoccupazioni espresse in e cumunità accademiche è scientifiche, avvistendu chì e "soluzioni" AI à i prublemi aperti puderanu minaccia l'integrità di i so campi [3], sò un indicatore forte di a prufundità di sta preoccupazione interna. Ma ùn cunfondemu micca questu per altruismu. Ùn si tratta micca di l'impattu di l'AI nantu à l'impieghi o l'infrastruttura; si tratta di cuntrollu - quale u manighja, è à quale ritmu. U dibattitu hè menu di "duvemu custruisce?" è più nantu à "quale vene à decide quantu rapidu custruemu, è quale prufitti?"
Mentre discutanu u futuru, u vostru presente hè cumprumissu
Avà, pivotemu da e preoccupazioni astratte è di futuru di a spaccatura interna di l'IA à a crisa immediata è tangibile chì si sviluppa nantu à e nostre rete * avà *. Mentre i titani AI meditanu l'ànima di e so machini, i vostri squadre operative si scramblenu per cuntene una catastrofa di cibersecurità piena.
Ùn parlemu micca di minacce teorichi o tendenzi generali. Parlemu di vulnerabili sfruttate attivamente di u ghjornu zero in u software di l'impresa di fundazione, chì colpisce l'infrastruttura critica cù a forza di una mazza.
- Ivanti Connect Secure è Policy Secure (CVE-2023-46805 & CVE-2024-21887): Questu ùn hè micca solu un bug; hè una ferita spalancata. Queste vulnerabilità in e soluzioni VPN è d'accessu à a rete d'Ivanti sò state sfruttate attivamente, chì permettenu à l'attaccanti di scaccià l'autentificazione è eseguisce cumandamenti remoti. CISA hà emessu parechje avvisi, mettendu in risaltu u risicu criticu per l'urganisazioni chì si basanu in questi sistemi per un accessu remotu sicuru [4]. A vostra difesa primaria di a rete, l'unica cosa in cui vi fidate per piantà i cattivi à a porta, hè attivamente sfruttata per dà à l'attaccanti un accessu profondu à innumerevoli reti d'impresa.
- Cisco IOS XE Web UI (CVE-2023-20198): Gravità massima. Sfruttatu attivamente. Questa vulnerabilità permette à l'attaccanti micca autenticati di creà cunti privilegiati è acquistà u cuntrollu tutale di i dispositi Cisco IOS XE affettati. Se un attaccante pussede u pianu di gestione di a vostra infrastruttura di rete, pussede tutta a vostra reta. Game over [5].
CISA ùn emette micca "avvertimenti" per divertimentu; gridanu « u focu » in un teatru affollatu. Quessi ùn sò micca solu minacce teorichi; sò attivamente utilizati per cumprumette difese core è sistemi di gestione in l'imprese glubale.
A vera linea di colpa
L'ironia hè cusì grossa chì pudete taglià cù un cuteddu matu. Da un latu, avemu l'elite di l'IA chì discute l'implicazioni etiche di un futuru chì stanu sempre custruendu, dumandendu un rallentamentu dopu anni d'accelerazione senza cuntrollu. Da l'altru, avemu a minaccia immediata, esistenziale di a nostra * * currente * tecnulugia di fundazione attivamente sfondata sottu u pesu di vulnerabilità senza indirizzi, senza patch.
A vera "linea di difettu" ùn hè micca solu in a cumunità AI; hè trà a torre d'avorio di l'innuvazione è e trincee di a realità operativa. Hè trà e discussioni astratte, focalizzate in u futuru di "autoregulazione" per l'IA è a necessità immediata è concreta di a sicurezza * attuale * è a stabilità in i sistemi chì ci contanu oghje.
Cume i CTO è l'ingegneria guidanu, ùn pudemu micca permette di esse distratti da i dibattiti filosofichi di a rallentazione di l'AI. Mentre chì e discussioni sò impurtanti per u longu tempu, sò un lussu quandu a vostra casa hè attivamente in u focu. A "rivalutazione di i fogli di strada di u produttu" duverebbe principià cù l'appughjate i fundamenti sbriciolati di a nostra infrastruttura esistente. E "valutazioni di risicu" anu bisognu di priurità e minacce immediate, attivamente sfruttate chì comprometanu a continuità operativa è l'integrità di e dati * oghje *.
E priorità di l'industria sò distorte. Custruemu cose più veloci è più brillanti nantu à una fundazione chì hè attivamente in putrefazione. L'appellu per un rallentamentu di l'AI puderia esse una conversazione necessaria, ma per quelli di noi nantu à a terra, chì trattanu di Ivanti è Cisco zero-days, si senti cum'è dibattà u culore di i cortini mentre u tettu cave in. Focus nantu à u presente. U futuru pò aspittà finu à chì ùn simu attivamente sanguinanti.
Fonti
[1] Una lettera aperta per mette in pausa l'esperimenti di IA giganti - https://futureoflife.org/open-letter-pause-ai-development/ [2] L'azzioni di l'IA sò in crescita, ma alcuni investitori diventanu nervosi - https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] A rivoluzione di l'IA in a scienza: prumesse è periculi - https://www.nature.com/articles/d41586-023-03223-y [4] Attori minacciati chì sfruttanu Ivanti Connect Secure è Ivanti Policy Secure Vulnerabilities - https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Attori di minaccia chì sfruttanu a vulnerabilità di l'interfaccia web di u software Cisco IOS XE - https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a