La desaceleración de la IA es una distracción. Tu casa está en llamas.
Seamos francos: la industria tecnológica finalmente está teniendo su momento de "venir a Jesús" con la IA, pero se siente menos como un arrepentimiento genuino y más como un pivote estratégico. De repente, los propios arquitectos de esta vertiginosa carrera de IA (los investigadores destacados y los financieros que financiaron sus carreras impulsadas por la cafeína) están pidiendo una desaceleración [1]. Están hablando de "gobernanza interna", "marcos éticos" y un ritmo "más deliberado". Y el mercado, siempre un barómetro sensible, ya ha reaccionado, con preocupaciones sobre la sostenibilidad de las inversiones en IA, lo que provoca volatilidad en las existencias de chips [2].
Esta no es una regulación externa; es una "línea de falla" interna que surge desde dentro del propio ecosistema de IA. Y mientras la alta dirección debate las implicaciones filosóficas de sus futuras creaciones, el presente arde activamente.
La pausa conveniente
Considere el momento. Durante años, el mantra ha sido "muévete rápido y rompe cosas" o, más recientemente, "muévete rápido y construye AGI". Ahora, con modelos potentes ya desplegados, con el panorama competitivo en gran medida definido y con el espectro de una regulación real y significativa asomando, los llamados a la precaución suenan un poco vacíos. ¿Es esto un verdadero despertar a los profundos riesgos o una maniobra calculada para consolidar el poder, frenar a los competidores y gestionar la percepción pública antes de que salgan las horcas?
Es fácil predicar con cautela cuando ya se ha acaparado el mercado de la computación, el talento y los modelos fundamentales. El repentino enfoque de la industria en la "reevaluación de hojas de ruta de productos, evaluaciones de riesgos y planificación estratégica" suena noble, pero también parece una forma conveniente de realinear los recursos. Esto podría potencialmente frenar las alternativas de código abierto o los actores más pequeños que podrían desafiar a los gigantes establecidos controlando el acceso a recursos esenciales o influyendo en los marcos regulatorios. El "marco ético" de repente es primordial, no cuando los modelos se entrenaban con datos extraídos, sino ahora que son lo suficientemente poderosos como para remodelar verdaderamente la sociedad.
Las preocupaciones expresadas dentro de las comunidades académicas y científicas, advirtiendo que las "soluciones" de IA para problemas abiertos podrían amenazar la integridad de sus campos [3], son un claro indicador de la profundidad de esta preocupación interna. Pero no confundamos esto con altruismo. No se trata del impacto de la IA en los empleos o la infraestructura; se trata de control: quién lo ejerce y a qué ritmo. El debate gira menos en torno a "¿deberíamos construirlo?" y más sobre "¿quién decide qué tan rápido lo construimos y quién se beneficia?"
Mientras debaten sobre el futuro, tu presente se ve comprometido
Ahora, pasemos de las preocupaciones abstractas y prospectivas de la brecha interna de la IA a la crisis inmediata y tangible que se desarrolla en nuestras redes ahora mismo. Mientras los titanes de la IA reflexionan sobre el alma de sus máquinas, sus equipos operativos luchan por contener una catástrofe de ciberseguridad en toda regla.
No estamos hablando de amenazas teóricas o tendencias generales. Estamos hablando de vulnerabilidades de día cero explotadas activamente en software empresarial fundamental, que golpean la infraestructura crítica con la fuerza de un mazo.
- Ivanti Connect Secure y Policy Secure (CVE-2023-46805 y CVE-2024-21887): Esto no es solo un error; es una herida abierta. Estas vulnerabilidades en las soluciones VPN y de acceso a la red de Ivanti se han explotado activamente, lo que permite a los atacantes eludir la autenticación y ejecutar comandos remotos. CISA ha emitido múltiples advertencias, destacando el riesgo crítico para las organizaciones que dependen de estos sistemas para un acceso remoto seguro [4]. Su principal defensa de red, en lo único en lo que confía para detener a los malos en la puerta, se está explotando activamente para otorgar a los atacantes un acceso profundo a innumerables redes empresariales.
- UI web de Cisco IOS XE (CVE-2023-20198): Gravedad máxima. Explotado activamente. Esta vulnerabilidad permite a atacantes no autenticados crear cuentas privilegiadas y obtener control total sobre los dispositivos Cisco IOS XE afectados. Si un atacante es dueño del plano de administración de su infraestructura de red, es dueño de toda su red. Se acabó el juego [5].
CISA no emite "advertencias" por diversión; están gritando "fuego" en un teatro lleno de gente. Éstas no son sólo amenazas teóricas; se están utilizando activamente para comprometer las defensas centrales y los sistemas de gestión en empresas globales.
La verdadera línea de falla
La ironía es tan espesa que se podría cortar con un cuchillo sin filo. Por un lado, tenemos a la élite de la IA debatiendo las implicaciones éticas de un futuro que aún están construyendo, pidiendo una desaceleración después de años de aceleración desenfrenada. Por otro lado, tenemos la amenaza existencial inmediata de que nuestra tecnología fundamental actual se desmorone activamente bajo el peso de vulnerabilidades no abordadas ni parcheadas.
La verdadera "línea de falla" no está sólo dentro de la comunidad de IA; está entre la torre de marfil de la innovación y las trincheras de la realidad operativa. Se encuentra entre las discusiones abstractas y centradas en el futuro sobre la "autorregulación" de la IA y la necesidad inmediata y concreta de seguridad y estabilidad real en los sistemas de los que dependemos hoy.
Como directores de tecnología y líderes de ingeniería, no podemos darnos el lujo de distraernos con los debates filosóficos sobre la desaceleración de la IA. Si bien esas discusiones son importantes a largo plazo, son un lujo cuando su casa está en llamas. La "reevaluación de las hojas de ruta de los productos" debería comenzar apuntalando los cimientos que se están desmoronando de nuestra infraestructura existente. Las "evaluaciones de riesgos" deben priorizar las amenazas inmediatas y activamente explotadas que están comprometiendo la continuidad operativa y la integridad de los datos hoy.
Las prioridades de la industria están sesgadas. Estamos construyendo cosas más rápidas y brillantes sobre una base que se está pudriendo activamente. El llamado a una desaceleración de la IA puede ser una conversación necesaria, pero para aquellos de nosotros que estamos en el terreno, lidiando con los días cero de Ivanti y Cisco, se siente como debatir el color de las cortinas mientras el techo se hunde. Concéntrese en el presente. El futuro puede esperar hasta que no estemos sangrando activamente.
Fuentes
[1] Una carta abierta para detener los experimentos gigantes de IA: https://futureoflife.org/open-letter-pause-ai-development/ [2] Las acciones de IA se están disparando, pero algunos inversores se están poniendo nerviosos: https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] La revolución de la IA en la ciencia: promesas y peligros - https://www.nature.com/articles/d41586-023-03223-y [4] Actores de amenazas que explotan las vulnerabilidades de Ivanti Connect Secure y Ivanti Policy Secure: https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Actores de amenazas que explotan la vulnerabilidad de la interfaz de usuario web del software Cisco IOS XE: https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a