La nova IA de l'emperador i la fundació podrida que hi ha sota
Recordeu quan la IA ens salvaria a tots? Resulta que els salvadors ara demanen un temps mort. Fa poc, els mateixos arquitectes del nostre futur impulsat per la intel·ligència artificial (els investigadors "fronterers" i els pesos pesats financers) col·lectivament van frenar, exigint una desacceleració en el desenvolupament a causa de "les preocupacions de seguretat creixents" [1]. El mercat, sempre l'instrument contundent, va respondre tossint un pulmó: les accions de xips i els principals jugadors d'IA van caure [2]. Pequín, com era previsible, es va burlar de les advertències, mentre que els gegants de xips de Seül es resistien als pagaments per avançat per a futurs avenços en IA [2].
Aquest no és només un debat filosòfic per a la torre d'ivori. Aquest és un canvi sísmic, una admissió pública de la imprudència des de l'elit de la indústria. I francament, és una mica massa convenient.
La pausa de l'IA: altruisme o joc de poder?
Tinguem clar: quan les persones que van construir el coet de sobte s'adonen que van oblidar els paracaigudes després del llançament, no és un moment de despertar ètic profund. És una lluita tardana i d'autoservei. Aquests no són idealistes amb els ulls oberts; aquests són els titans que han estat empenyent el pedal al metall, perseguint el creixement exponencial i el domini del mercat. Ara, amb l'espectre de les "conseqüències imprevistes" que s'albira —i potser, de manera més cínica, la consciència que el ritme actual és insostenible o que cal consolidar el lideratge—, demanen una respiració col·lectiva.
La reacció del mercat és reveladora. Una caiguda en les accions de xips no és només por; es tracta de les implicacions financeres immediates d'una possible desacceleració. El retrocés de Pequín? Un senyal clar que l'avantatge estratègic nacional supera les preocupacions abstractes de seguretat. I els fabricants de xips de Seül rebutgen els pagaments per avançat? Aquest és el so del capital que qüestiona l'estabilitat i la rendibilitat a llarg termini d'un futur sobtadament incert.
Per a nosaltres, els CTO i els responsables d'enginyeria, això es tradueix directament en un paisatge caòtic. Espereu que les intervencions reguladores s'accelerin, obligant a re-prioritzar els projectes d'IA. L'ethos de "moure ràpid i trencar les coses" per a la IA està oficialment mort, substituït per una recerca frenètica de marcs de "desenvolupament ètic d'IA" que haurien d'haver estat incorporats des del primer dia. La inversió serà més prudent, les estratègies pivotaran i sí, els mercats laborals sentiran el fred a mesura que la febre de l'or cedeixi pas a un enfocament més mesurat i, amb sort, més responsable. Però no ho confonguem amb pur altruisme. Aquesta "pausa" es tracta tant de control i recalibració del mercat com de seguretat genuïna.
Mentre els Titans debaten, la Fundació s'enfonsa
Ara, mentre l'elit de la IA té la seva crisi existencial, debatent sobre l'ètica de la superintel·ligència futura, parlem de la crisi de seguretat molt real, molt present i absolutament catastròfica que es desenvolupa ara.
Aquesta setmana, CISA ha afegit diversos CVE nous al seu catàleg de vulnerabilitats explotades conegudes [3]. Estem parlant d'un RCE arrel confirmat a Cisco Secure Email Gateway (CVE-2023-20269) [4], un recorregut del camí CVSS 10.0 a GitLab (CVE-2023-2825) [3] i un Chrome de dia zero (CVE-2023-2023-4863) recentment pegat que va exigir una atenció immediata.
Però el veritable cop d'intestí, el que hauria de fer cridar tots els professionals de la seguretat al buit, és l'amenaça persistent de defectes fonamentals. Penseu en CVE-2021-1647, una vulnerabilitat local d'escalada de privilegis al motor de protecció contra malware de Microsoft Defender [5]. Això no era cap defecte fosc; tenia una prova de concepte pública i es va explotar activament a la natura, destacant com els components crítics de la nostra defensa digital es poden veure compromesos i romandre vulnerables durant un període.
Mentre estem debatent sobre l'ètica de la sensibilitat de l'IA, s'ha demostrat que el mateix programari dissenyat per protegir els nostres punts finals, la capa fonamental de la nostra defensa digital, alberga defectes coneguts públicament i explotats activament que permeten a un atacant augmentar els privilegis. És com discutir sobre les implicacions filosòfiques de la conducció deformada mentre els frens del cotxe fallen i el motor està en flames.
El compte: dues cares de la mateixa moneda
Aquestes no són històries separades. Són dues cares de la mateixa moneda profundament defectuosa: una indústria tecnològica que ha prioritzat constantment la velocitat, la novetat i la innovació percebuda per sobre de la seguretat, l'estabilitat i la responsabilitat fonamentals.
La crida sobtada dels líders de l'IA per a una desacceleració és un intent reactiu i egoista de corregir el rumb després que ja hagin alliberat sistemes potents i poc coneguts a la natura. És una admissió que el mantra "mou't ràpidament i trenca les coses", quan s'aplica a una tecnologia que pot alterar el món, no només és irresponsable, sinó perillós.
L'atac del dia zero, especialment la vulnerabilitat crítica de Defender, és la conseqüència directa i dolorosa d'aquesta mateixa mentalitat aplicada a les TI fonamentals. És el resultat d'una cultura que sovint tracta la seguretat com una idea posterior, una casella de verificació de compliment o un centre de costos, en lloc d'un component integral i no negociable de cada producte i sistema. Estem tan ocupats perseguint el següent objecte brillant, el proper LLM, el proper agent d'IA, que hem deixat que el sòl sota els nostres peus es podrigui.
Per als CTO i els responsables d'enginyeria, el missatge és clar i immediat. Deixeu de perseguir totes les tendències d'IA que creuen el vostre feed. Doblar els fonaments. Prioritzeu l'aplicació de pedaços, especialment per a vulnerabilitats crítiques i explotades activament com les de Cisco, GitLab i l'amenaça persistent exemplificada pels LPE anteriors de Defender. Implementar mitigacions sòlides. Demaneu responsabilitat als vostres proveïdors per la seva postura de seguretat, no només pel seu full de ruta de funcions.
La caiguda del mercat i els problemes de seguretat fonamentals no tractats no són només notícies. Són un compte. Un món tecnològic massa ràpid, massa temerari i, finalment, massa exposat. És hora de créixer, assegurar els nostres fonaments i després, només llavors, considerar amb cautela la següent frontera.
Fonts
[1] Institut Future of Life: Pausa els experiments d'IA gegant: una carta oberta: https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC: els experts en IA demanen una pausa en el desenvolupament de sistemes d'IA avançats: https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Catàleg de vulnerabilitats explotades conegudes — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Advisory: Cisco Secure Email and Web Manager, Cisco Email Security Appliance i Cisco Web Security Appliance Vulnerabilitats: https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Centre de resposta de seguretat de Microsoft — Vulnerabilitat d'escalada de privilegis locals de Microsoft Defender — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647