A nova IA di l'imperatore, è a Fundazione Rotting Sottu
Ricurdativi quandu l'IA ci avia da salvà tutti? Risulta chì i salvatori dumandanu avà un timeout. Recentemente, i stessi architetti di u nostru futuru guidatu da l'intelligenza artificiale - i circadori "di frontiera" è i pesi pesanti finanziarii - cullettivamente chjappà i freni, esigendu una decelerazione in u sviluppu per via di "escalation di preoccupazioni di sicurezza" [1]. U mercatu, sempre u strumentu contundente, hà rispostu tossendu un pulmone: i stock di chip è i principali attori di l'IA sò cascati [2]. Pechino, prevedibilmente, s'era schernitu di l'avvirtimenti, mentre chì i giganti di chip di Seoul si rifiutavanu di pagà in anticipu per i futuri progressi di l'IA [2].
Questu ùn hè micca solu un dibattitu filosoficu per a torre d'ivori. Questu hè un cambiamentu sismicu, una ammissione publica di imprudenza da l'elite di l'industria. È francamente, hè un pocu troppu convenientu.
A Pausa AI: altruismu o ghjocu di putere?
Simu chjaramente : quandu a ghjente chì hà custruitu u missile si capisce di colpu ch'elli si sò scurdati di i paracadute dopu à u lanciu, ùn hè micca un mumentu di risvegliu eticu prufondu. Hè una scramble tardiva, self-serving. Quessi ùn sò micca idealisti ochji spalancati; Quessi sò i titani chì anu spintu u pedale à u metale, perseguendu a crescita esponenziale è a dominanza di u mercatu. Avà, cù u spettru di "cunsequenze impreviste" chì si stende - è forse, più cinicamente, a realizazione chì u ritmu attuale hè insostenibile o ch'elli anu bisognu di cunsulidà u so capu - chjamanu un respiru cullettivu.
A reazione di u mercatu hè dicendu. Un dip in chip stocks ùn hè micca solu di teme; si tratta di l'impurtanza finanziaria immediata di un potenziale rallentamentu. A spinta di Pechino? Un signalu chjaru chì u vantaghju strategicu naziunale trimpeghja i prublemi di sicurezza astratti. È i chipmakers di Seul chì ricusanu i pagamenti in anticipu? Hè u sonu di u capitale chì mette in dubbitu a stabilità à longu andà è a prufittuità di un futuru di colpu incertu.
Per noi, i CTO è i capi di ingegneria, questu si traduce direttamente in un paisaghju caòticu. Aspettate intervenzioni regulatori per accelerà, furzendu una re-prioritizazione di i prughjetti AI. L'ethos di "sposta rapidamente è rompe e cose" per l'AI hè ufficialmente mortu, rimpiazzatu da una ricerca frenetica di quadri di "sviluppu eticu di l'AI" chì duverebbe esse fortu da u primu ghjornu. L'investimentu diventerà più prudente, e strategie pivotaranu, è iè, i mercati di u travagliu si sentenu u friddu mentre a corsa à l'oru cede a strada à un approcciu più misuratu, è sperendu, più rispunsevule. Ma ùn cunfondemu micca questu per altruismu puru. Questa "pausa" hè quantu à u cuntrollu è a ricalibrazione di u mercatu quant'è a vera salvezza.
Mentre u dibattitu di i Titani, a Fundazione si scrolla
Avà, mentre l'elite di l'IA anu a so crisa esistenziale, discutendu l'etica di a futura superintelligenza, parlemu di a crisa di sicurezza assai reale, assai presente è assolutamente catastròfica chì si sviluppa * avà *.
Sta settimana, CISA hà aghjustatu parechje CVE novi à u so catalogu di Vulnerabilità Sfruttatu Cunnisciute [3]. Parlemu di una radica RCE cunfirmata in Cisco Secure Email Gateway (CVE-2023-20269) [4], una traversata di u percorsu CVSS 10.0 in GitLab (CVE-2023-2825) [3], è un Chrome patched recently zero-day (CVE-2023-48) chì dumandava l'attenzione immediata.
Ma u veru punch gut, quellu chì duverebbe fà gridà ogni prufessore di sicurità in u vacu, hè a minaccia persistente di difetti fundamenti. Cunsiderate CVE-2021-1647, una vulnerabilità di l'escalazione di privilegi lucali in u Motore di Proteczione Malware di Microsoft Defender [5]. Questu ùn era micca un difettu scuru; hà avutu una prova di cuncepimentu publicu è hè stata sfruttata attivamente in natura, mette in risaltu cumu i cumpunenti critichi di a nostra difesa digitale ponu esse cumprumessi è restanu vulnerabili per un periudu.
Lasciate ch'ellu affundà. Mentre discutemu l'etica di a sensibilità di l'IA, u software propiu cuncepitu per prutege i nostri punti finali, a strata fundamentale di a nostra difesa digitale, hè statu dimustratu per portà difetti cunnisciuti publicamente, attivamente sfruttati chì permettenu à un attaccante di elevà i privilegi. Hè cum'è discutendu nantu à l'implicazioni filusòfiche di u warp drive mentre i freni di a vostra vittura fallenu è u mutore hè in focu.
U Cundimentu: Dui Lati di a Listessa Muneta
Queste ùn sò micca storie separate. Sò dui lati di a listessa munita profondamente difettu: una industria tecnologica chì hà sempre prioritizatu a velocità, a novità è l'innuvazione percepita sopra a sicurità fundamentali, a stabilità è a responsabilità.
L'appellu improvvisu di i dirigenti di l'AI per un rallentamentu hè un tentativu reattivu, self-serving di currezzione * dopu * chì anu digià liberatu sistemi putenti è pocu capiti in a natura. Hè una ammissione chì u mantra di "muvimenti veloci è rompe e cose", quandu hè appiicatu à a tecnulugia potenziale chì cambia u mondu, ùn hè micca solu irresponsibile, ma periculosu.
L'assaltu di u ghjornu zero, in particulare a vulnerabilità critica di u Defender, hè a cunsequenza diretta è dolorosa di sta stessa mentalità applicata à l'informatica fundazionale. Hè u risultatu d'una cultura chì spessu tratta a sicurità cum'è un pensamentu dopu, una casella di cuntrollu di cunfurmità, o un centru di costu, piuttostu cà un cumpunente integrale, micca negoziabile di ogni pruduttu è sistema. Semu cusì occupati à perseguite u prossimu ughjettu brillanti - u prossimu LLM, u prossimu agente AI - chì avemu lasciatu a terra sottu à i nostri pedi.
Per i CTO è i capi di l'ingegneria, u messagiu hè chjaru è immediatu. Smetti di perseguite ogni tendenza AI chì attraversa u vostru feed. Doppiu nantu à i fundamenti. Priorità à u patching, in particulare per e vulnerabili critiche sfruttate attivamente cum'è quelli in Cisco, GitLab, è a minaccia persistente esemplificata da i LPE passati di Defender. Implementa mitigazioni robuste. Esigete a responsabilità da i vostri venditori per a so postura di sicurità, micca solu a so strada di funziunalità.
A caduta di u mercatu è i prublemi di sicurezza di fundazione senza risposta ùn sò micca solu nutizie. Sò un cuntu. Un mondu tecnulugicu chì hè troppu veloce, troppu imprudente, è infine troppu espostu. Hè ora di cresce, di assicurà e nostre fundazioni, è tandu, solu allora, cunsiderà cun prudenza a prussima frontiera.
Fonti
[1] Future of Life Institute - Pause Giant AI Experiments: Una lettera aperta - https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC - L'esperti in AI chjamanu una pausa in u sviluppu di sistemi AI avanzati - https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA - Catalogu di Vulnerabilità Sfruttate Cunnisciute - https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Advisory - Cisco Secure Email è Web Manager, Cisco Email Security Appliance è Vulnerabilità di Cisco Web Security Appliance - https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Microsoft Security Response Center - Microsoft Defender Local Privilege Escalation Vulnerability - https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647