A nova IA do emperador e a fundación podrecida debaixo dela
Lembras cando a IA nos ía salvar a todos? Resulta que os salvadores agora piden un tempo morto. Recentemente, os propios arquitectos do noso futuro impulsado pola intelixencia artificial (os investigadores "fronterizos" e os pesos pesados financeiros) de forma colectiva pisaron o freo, esixindo unha desaceleración do desenvolvemento debido ás "preocupacións de seguridade crecentes" [1]. O mercado, sempre o instrumento contundente, respondeu tosendo un pulmón: as accións de fichas e os principais xogadores de IA caeron [2]. Pequín, previsiblemente, mofábase das advertencias, mentres que os xigantes de chips de Seúl negáronse aos pagos por adiantado para futuros avances da IA [2].
Este non é só un debate filosófico para a torre de marfil. Este é un cambio sísmico, unha admisión pública de imprudencia dentro da elite da industria. E francamente, é demasiado cómodo.
A pausa da intelixencia artificial: altruismo ou xogo de poder?
Quedemos claros: cando as persoas que construíron o foguete de súpeto se dan conta de que se esqueceron dos paracaídas despois do lanzamento, non é un momento de profundo espertar ético. É un revolto tardío e autoservizo. Estes non son idealistas de ollos moi ben; estes son os titáns que foron empurrando o pedal ao metal, perseguindo un crecemento exponencial e o dominio do mercado. Agora, ante o espectro das "consecuencias imprevistas" que se albisca -e quizais, con máis cinismo, a constatación de que o ritmo actual é insostible ou de que precisan consolidar o seu liderado-, piden un alento colectivo.
A reacción do mercado é reveladora. Un mergullo nas accións de fichas non se trata só de medo; trátase das implicacións financeiras inmediatas dunha posible desaceleración. O retroceso de Pequín? Un sinal claro de que a vantaxe estratéxica nacional supera as preocupacións abstractas de seguridade. E os fabricantes de chips de Seúl rexeitan os pagos por adiantado? Ese é o son do capital que cuestiona a estabilidade e a rendibilidade a longo prazo dun futuro de súpeto incerto.
Para nós, os directores técnicos e responsables de enxeñería, isto tradúcese directamente nunha paisaxe caótica. Espere que as intervencións regulamentarias se aceleren, o que obrigue a re-priorizar os proxectos de IA. O ethos de "mover rápido e romper as cousas" para a IA está oficialmente morto, substituído por unha busca frenética de marcos de "desenvolvemento de IA ético" que deberían ter sido incorporados desde o primeiro día. O investimento volverase máis cauteloso, as estratexias pivotarán e, si, os mercados de traballo sentirán o frío mentres a febre do ouro dea paso a un enfoque máis medido e, con sorte, máis responsable. Pero non confundamos isto con puro altruísmo. Esta "pausa" trata tanto de control e recalibración do mercado como de seguridade real.
Mentres os Titans debaten, a Fundación se desmorona
Agora, mentres a elite da IA está a ter a súa crise existencial, debatendo sobre a ética da futura superintelixencia, imos falar da crise de seguridade moi real, moi presente e totalmente catastrófica que se está a desenvolver * agora mesmo *.
Esta semana, CISA engadiu varios novos CVE ao seu catálogo de vulnerabilidades explotadas coñecidas [3]. Estamos a falar dun RCE raíz confirmado en Cisco Secure Email Gateway (CVE-2023-20269) [4], un percorrido de ruta CVSS 10.0 en GitLab (CVE-2023-2825) [3] e un Chrome-day zero-day (CVE-2023-4863) que requería atención inmediata [3] .
Pero o verdadeiro golpe, o que debería facer que todos os profesionais da seguridade griten ao baleiro, é a persistente ameaza de fallas fundamentais. Considere CVE-2021-1647, unha vulnerabilidade local de escalada de privilexios no Motor de protección contra malware de Microsoft Defender [5]. Este non era un defecto escuro; tiña unha proba de concepto pública e foi explotada activamente en estado salvaxe, destacando como os compoñentes críticos da nosa defensa dixital poden verse comprometidos e permanecer vulnerables durante un período.
Mentres debatimos sobre a ética da intelixencia artificial, o propio software deseñado para protexer os nosos puntos finais, a capa fundamental da nosa defensa dixital, demostrou que alberga fallos coñecidos e explotados activamente que permiten a un atacante elevar privilexios. É como discutir sobre as implicacións filosóficas da transmisión por deformación mentres fallan os freos do teu coche e o motor arde.
O cálculo: dúas caras da mesma moeda
Estas non son historias separadas. Son dúas caras da mesma moeda profundamente defectuosa: unha industria tecnolóxica que priorizou constantemente a velocidade, a novidade e a innovación percibida sobre a seguridade, a estabilidade e a responsabilidade fundamentais.
A chamada súbita dos líderes da IA para unha desaceleración é un intento reactivo e egoísta de corrixir o rumbo despois de que xa desataran sistemas poderosos e pouco entendidos na natureza. É unha admisión de que o mantra de "mover rápido e romper cousas", cando se aplica a tecnoloxía que pode alterar o mundo, non é só irresponsable, senón perigoso.
O ataque de día cero, especialmente a vulnerabilidade crítica de Defender, é a consecuencia directa e dolorosa desta mesma mentalidade aplicada ás TI fundamentais. É o resultado dunha cultura que a miúdo trata a seguridade como unha idea posterior, unha caixa de verificación de conformidade ou un centro de custos, en lugar de ser un compoñente integral e non negociable de cada produto e sistema. Estamos tan ocupados perseguindo o seguinte obxecto brillante (o seguinte LLM, o seguinte axente de IA) que deixamos que o terreo se pudra baixo os nosos pés.
Para os directores técnicos e responsables de enxeñería, a mensaxe é clara e inmediata. Deixa de perseguir todas as tendencias de IA que atravesan o teu feed. Dobra os fundamentos. Prioriza o parche, especialmente para as vulnerabilidades críticas explotadas activamente como as de Cisco, GitLab e a ameaza persistente exemplificada polos LPE anteriores de Defender. Implementar mitigacións sólidas. Esixe responsabilidade dos teus provedores pola súa postura de seguridade, non só pola súa folla de ruta de funcións.
A caída do mercado e os problemas fundamentais de seguridade non abordados non son só noticias. Son unha conta. Un mundo tecnolóxico demasiado rápido, demasiado temerario e, finalmente, demasiado exposto. É hora de crecer, asegurar os nosos alicerces e despois, só entón, considerar con cautela a seguinte fronteira.
Fontes
[1] Future of Life Institute — Pause Giant AI Experiments: An Open Letter — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC: os expertos en IA piden unha pausa no desenvolvemento de sistemas avanzados de IA: https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Catálogo de vulnerabilidades explotadas coñecidas — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Advisory — Cisco Secure Email and Web Manager, Cisco Email Security Appliance e Cisco Web Security Appliance Vulnerabilidades — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Centro de resposta de seguridade de Microsoft — Vulnerabilidade de escalada de privilexios locais de Microsoft Defender — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647