A desaceleración da IA é unha distracción. A túa casa está en chamas.
Sexamos francos: a industria tecnolóxica finalmente está a ter o seu momento de "chegar a Xesús" coa IA, pero non parece un verdadeiro arrepentimento e máis como un pivote estratéxico. De súpeto, os propios artífices desta carreira vertixinosa de intelixencia artificial -os destacados investigadores e os financeiros que financiaron os seus sprints alimentados con cafeína- piden unha desaceleración [1]. Falan de "gobernanza interna", de "marcos éticos" e dun ritmo "máis deliberado". E o mercado, sempre o barómetro sensible, xa reaccionou, con preocupacións pola sustentabilidade dos investimentos en IA que causan volatilidade nas accións de fichas [2].
Esta non é unha regulación externa; é unha "liña de falla" interna que emerxe do propio ecosistema da IA. E mentres o C-suite debate as implicacións filosóficas das súas futuras creacións, o presente arde activamente.
A pausa conveniente
Considere o momento. Durante anos, o mantra foi "mover rápido e romper cousas" ou, máis recentemente, "mover rápido e construír AGI". Agora, con modelos potentes xa implantados, co panorama competitivo moi definido e co espectro dunha regulación real e significativa que se aveciña, as chamadas á cautela sonan un pouco ocas. Trátase dun auténtico espertar dos riscos profundos, ou dunha manobra calculada para consolidar o poder, ralentizar os competidores e xestionar a percepción pública antes de que saian as horcas?
É doado predicar cautela cando xa te acorraches ao mercado en modelos informáticos, talentosos e fundamentais. O foco repentino da industria na "re-avaliación das follas de ruta dos produtos, as avaliacións de risco e a planificación estratéxica" soa nobre, pero tamén parece unha forma conveniente de re-aliñar os recursos. Isto podería retardar as alternativas de código aberto ou os xogadores máis pequenos que poidan desafiar aos xigantes establecidos controlando o acceso aos recursos esenciais ou influíndo nos marcos reguladores. O "marco ético" é de súpeto primordial, non cando os modelos estaban a ser adestrados en datos raspados, senón agora que son o suficientemente poderosos como para remodelar verdadeiramente a sociedade.
As preocupacións expresadas nas comunidades académicas e científicas, que advirten de que as "solucións" da intelixencia artificial para problemas abertos poden ameazar a integridade dos seus campos [3], son un claro indicador da profundidade desta preocupación interna. Pero non confundamos isto con altruísmo. Non se trata do impacto da IA nos empregos ou nas infraestruturas; trátase de control: quen o manexa e a que ritmo. O debate é menos sobre "debemos construílo?" e máis sobre "quen decide o rápido que o construímos e quen se beneficia?"
Mentres debaten sobre o futuro, o teu presente está comprometido
Agora, pasemos das preocupacións abstractas e de futuro da fenda interna da IA á crise tanxible e inmediata que se desenvolve nas nosas redes * agora mesmo *. Mentres os titáns da intelixencia artificial reflexionan sobre a alma das súas máquinas, os teus equipos operativos loitan para conter unha catástrofe de ciberseguridade en toda regla.
Non estamos a falar de ameazas teóricas nin de tendencias xerais. Estamos a falar de vulnerabilidades de día cero que se explotan activamente no software empresarial fundamental, que golpean a infraestrutura crítica coa forza dun martelo.
- Ivanti Connect Secure e Policy Secure (CVE-2023-46805 e CVE-2024-21887): Isto non é só un erro; é unha ferida aberta. Estas vulnerabilidades nas solucións de acceso á rede e VPN de Ivanti foron explotadas activamente, o que permite aos atacantes evitar a autenticación e executar comandos remotos. CISA emitiu varias advertencias, destacando o risco crítico para as organizacións que dependen destes sistemas para o acceso remoto seguro [4]. A túa defensa de rede principal, o único no que confías para deter aos malos na porta, está a ser explotada activamente para conceder aos atacantes acceso profundo a innumerables redes empresariais.
- Interfaz de usuario web de Cisco IOS XE (CVE-2023-20198): Gravidade máxima. Explotado activamente. Esta vulnerabilidade permite aos atacantes non autenticados crear contas privilexiadas e obter o control total sobre os dispositivos Cisco IOS XE afectados. Se un atacante é o propietario do plano de xestión da túa infraestrutura de rede, é o propietario de toda a túa rede. Remata o xogo [5].
CISA non está a emitir "advertencias" por diversión; están berrando "lume" nun teatro cheo de xente. Non son só ameazas teóricas; estanse a utilizar activamente para comprometer as defensas básicas e os sistemas de xestión en empresas globais.
A verdadeira liña de falla
A ironía é tan grosa que podería cortala cun coitelo sen filo. Por unha banda, temos á elite da IA debatendo sobre as implicacións éticas dun futuro que aínda están construíndo, pedindo unha desaceleración despois de anos de aceleración sen control. Por outra banda, temos a ameaza existencial inmediata da nosa tecnoloxía fundamental actual que se desmorona activamente baixo o peso de vulnerabilidades sen resolver e sen parches.
A verdadeira "liña de falla" non está só dentro da comunidade de AI; está entre a torre de marfil da innovación e as trincheiras da realidade operativa. Está entre as discusións abstractas e centradas no futuro sobre a "autorregulación" da IA e a necesidade inmediata e concreta de seguridade e estabilidade real nos sistemas nos que contamos hoxe.
Como directores técnicos e enxeñeiros, non podemos permitirnos o luxo de distraernos cos debates filosóficos da desaceleración da IA. Aínda que esas discusións son importantes a longo prazo, son un luxo cando a túa casa arde activamente. A "re-avaliación das follas de ruta dos produtos" debería comezar co apoio aos cimentos desmoronados da nosa infraestrutura existente. As "avaliacións de risco" deben priorizar as ameazas inmediatas e explotadas activamente que están a comprometer a continuidade operativa e a integridade dos datos hoxe.
As prioridades da industria están sesgadas. Estamos construíndo cousas máis rápidas e brillantes sobre unha base que está a podrecer activamente. A chamada a unha desaceleración da intelixencia artificial pode ser unha conversación necesaria, pero para aqueles de nós que estamos no terreo, tratando con Ivanti e Cisco día cero, parécenos debater sobre a cor das cortinas mentres o tellado se derrumba. Concéntrate no presente. O futuro pode esperar ata que non esteamos a sangrar activamente.
Fontes
[1] Unha carta aberta para pausar experimentos de IA xigantes — https://futureoflife.org/open-letter-pause-ai-development/ [2] As accións de IA están a disparar, pero algúns investidores están a poñerse nerviosos: https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] A revolución da IA na ciencia: promesas e perigos — https://www.nature.com/articles/d41586-023-03223-y [4] Actores de ameazas que explotan as vulnerabilidades de Ivanti Connect Secure e Ivanti Policy Secure: https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Agentes de ameaza que explotan a vulnerabilidade da interface de usuario web do software Cisco IOS XE — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a