La nueva IA del Emperador y los cimientos podridos debajo de ella
¿Recuerdas cuando la IA iba a salvarnos a todos? Resulta que los salvadores ahora piden un tiempo muerto. Recientemente, los propios arquitectos de nuestro futuro impulsado por la IA (los investigadores "de frontera" y los pesos pesados financieros) pisaron el freno colectivamente, exigiendo una desaceleración en el desarrollo debido a "las crecientes preocupaciones de seguridad" [1]. El mercado, siempre un instrumento contundente, respondió tosiendo un pulmón: las acciones de chips y los principales actores de la IA se desplomaron [2]. Como era de esperar, Beijing se burló de las advertencias, mientras que los gigantes de los chips de Seúl se opusieron a los pagos por adelantado para futuros avances en IA [2].
Este no es sólo un debate filosófico sobre la torre de marfil. Se trata de un cambio sísmico, una admisión pública de imprudencia por parte de la élite de la industria. Y, francamente, es demasiado conveniente.
La pausa de la IA: ¿altruismo o juego de poder?
Seamos claros: cuando las personas que construyeron el cohete de repente se dan cuenta de que olvidaron los paracaídas después del lanzamiento, no es un momento de profundo despertar ético. Es una lucha tardía e interesada. Estos no son idealistas con los ojos muy abiertos; estos son los titanes que han estado pisando el acelerador a fondo, persiguiendo un crecimiento exponencial y el dominio del mercado. Ahora, con el espectro de "consecuencias imprevistas" acechando –y tal vez, más cínicamente, la comprensión de que el ritmo actual es insostenible o de que necesitan consolidar su liderazgo–, están pidiendo un respiro colectivo.
La reacción del mercado es reveladora. Una caída en las acciones de chips no se debe sólo al miedo; se trata de las implicaciones financieras inmediatas de una posible desaceleración. ¿La reacción de Beijing? Una señal clara de que la ventaja estratégica nacional supera las preocupaciones abstractas de seguridad. ¿Y los fabricantes de chips de Seúl se niegan a realizar pagos por adelantado? Ése es el sonido del capital que cuestiona la estabilidad y rentabilidad a largo plazo de un futuro repentinamente incierto.
Para nosotros, los directores de tecnología y los líderes de ingeniería, esto se traduce directamente en un panorama caótico. Espere que las intervenciones regulatorias se aceleren, lo que obligará a volver a priorizar los proyectos de IA. El espíritu de "moverse rápido y romper cosas" para la IA está oficialmente muerto, reemplazado por una búsqueda frenética de marcos de trabajo de "desarrollo ético de IA" que deberían haberse incorporado desde el primer día. La inversión se volverá más cautelosa, las estrategias girarán y, sí, los mercados laborales sentirán el frío a medida que la fiebre del oro dé paso a un enfoque más mesurado y, con suerte, más responsable. Pero no confundamos esto con puro altruismo. Esta "pausa" tiene que ver tanto con el control y la recalibración del mercado como con la seguridad genuina.
Mientras los titanes debaten, la base se desmorona
Ahora, mientras la élite de la IA está atravesando su crisis existencial, debatiendo la ética de la superinteligencia futura, hablemos de la crisis de seguridad muy real, muy presente y absolutamente catastrófica que se está desarrollando ahora mismo.
Esta semana, CISA agregó múltiples CVE nuevos a su catálogo de vulnerabilidades explotadas conocidas [3]. Estamos hablando de un RCE raíz confirmado en Cisco Secure Email Gateway (CVE-2023-20269) [4], un recorrido de ruta CVSS 10.0 en GitLab (CVE-2023-2825) [3] y un Chrome de día cero recientemente parcheado (CVE-2023-4863) [3] que exigió atención inmediata.
Pero el verdadero golpe en el estómago, el que debería hacer que todo profesional de la seguridad grite al vacío, es la persistente amenaza de fallas fundamentales. Considere CVE-2021-1647, una vulnerabilidad de escalada de privilegios local en el motor de protección contra malware de Microsoft Defender [5]. Esto no fue un defecto oscuro; tuvo una prueba de concepto pública y fue explotado activamente en la naturaleza, destacando cómo los componentes críticos de nuestra defensa digital pueden verse comprometidos y permanecer vulnerables por un período.
Dejemos que esto se asimile. Mientras debatimos la ética de la sensibilidad de la IA, se ha demostrado que el mismo software diseñado para proteger nuestros puntos finales, la capa fundamental de nuestra defensa digital, alberga fallas conocidas públicamente y explotadas activamente que permiten a un atacante elevar los privilegios. Es como discutir sobre las implicaciones filosóficas del warp drive mientras los frenos de tu auto fallan y el motor está en llamas.
El ajuste de cuentas: dos caras de la misma moneda
Estas no son historias separadas. Son dos caras de una misma moneda profundamente defectuosa: una industria tecnológica que constantemente ha priorizado la velocidad, la novedad y la innovación percibida por encima de la seguridad, la estabilidad y la responsabilidad fundamentales.
El repentino llamado de los líderes de la IA a una desaceleración es un intento reactivo y egoísta de corregir el rumbo después de que ya han desatado sistemas poderosos y poco comprendidos en la naturaleza. Es una admisión de que el mantra de "moverse rápido y romper cosas", cuando se aplica a una tecnología que potencialmente altera el mundo, no sólo es irresponsable, sino peligroso.
El ataque del día cero, en particular la vulnerabilidad crítica de Defender, es la consecuencia directa y dolorosa de esta misma mentalidad aplicada a la TI fundamental. Es el resultado de una cultura que a menudo trata la seguridad como una ocurrencia tardía, una casilla de verificación de cumplimiento o un centro de costos, en lugar de un componente integral y no negociable de cada producto y sistema. Estamos tan ocupados persiguiendo el próximo objeto brillante (el próximo LLM, el próximo agente de IA) que hemos dejado que el suelo bajo nuestros pies se pudra.
Para los directores de tecnología y los líderes de ingeniería, el mensaje es claro e inmediato. Deja de perseguir todas las tendencias de IA que aparecen en tu feed. Duplicar los fundamentos. Priorice la aplicación de parches, especialmente para vulnerabilidades críticas explotadas activamente como las de Cisco, GitLab y la amenaza persistente ejemplificada por los LPE anteriores de Defender. Implementar mitigaciones sólidas. Exija responsabilidad a sus proveedores por su postura de seguridad, no solo por su hoja de ruta de funciones.
La caída del mercado y los problemas fundamentales de seguridad no abordados no son sólo noticias. Son un ajuste de cuentas. Un mundo tecnológico que es demasiado rápido, demasiado imprudente y, finalmente, demasiado expuesto. Es hora de crecer, asegurar nuestros cimientos y luego, sólo entonces, considerar con cautela la próxima frontera.
Fuentes
[1] Future of Life Institute - Pausar experimentos gigantes de IA: una carta abierta - https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — Expertos en IA piden una pausa en el desarrollo de sistemas avanzados de IA — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Catálogo de vulnerabilidades explotadas conocidas — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Aviso de seguridad de Cisco: Vulnerabilidades de Cisco Secure Email and Web Manager, Cisco Email Security Appliance y Cisco Web Security Appliance: https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Centro de respuesta de seguridad de Microsoft: vulnerabilidad de escalada de privilegios locales de Microsoft Defender: https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647