As novas roupas de segurança de IA do imperador: enquanto olhamos para o Muse, a fundação desmorona
Sejamos diretos: a indústria de tecnologia tem uma nova obsessão chamada “segurança de IA”. Espera-se que todos nos concentremos na injeção imediata, no envenenamento de modelos e na exfiltração de dados de grandes modelos de linguagem. Entretanto, a infra-estrutura física e digital real que mantém as nossas empresas unidas está a ser activamente incendiada por uma barragem implacável de dias zero. Um incidente recente envolvendo uma importante plataforma de IA, ilustrativo dos desafios mais amplos na segurança da infraestrutura de IA, destaca esta perigosa dicotomia [1].
A Meta, uma empresa conhecida por seu espírito de “agir rápido e quebrar coisas”, tem enfrentado um escrutínio sobre falhas de segurança em suas plataformas de IA. Por exemplo, um programa de recompensa por bugs descobriu uma falha significativa expondo as máquinas virtuais dos usuários. Este não foi um vazamento sutil de dados ou um desvio de alerta inteligente, mas um erro fundamental no nível da infraestrutura que expôs as VMs dos usuários. Esta não é uma vulnerabilidade esotérica específica da IA; este é o isolamento básico da VM, um problema que pensávamos ter sido resolvido há uma década. Representa uma violação crítica da privacidade e da integridade dos dados, impactando diretamente os usuários e potencialmente clientes empresariais que aproveitam essa infraestrutura de IA.
Este tipo de falha, embora genuinamente impactante, parece menos um novo desafio de “segurança de IA” e mais uma falha clássica de infraestrutura usando um chapéu de IA. É um lembrete de que mesmo as plataformas de IA mais avançadas são construídas sobre camadas de computação, rede e virtualização convencionais. Se essas camadas fundamentais estão cheias de buracos, não importa quão sofisticado seja o seu modelo de IA; todo o sistema permanece vulnerável. O aspecto “IA” desta história é quase uma distração, uma orientação errada que desvia nosso olhar das madeiras podres sob o piso polido.
Barragem KEV da CISA: um indicador crítico
Enquanto estamos ocupados debatendo as implicações éticas dos chatbots sencientes e as nuances da segurança da IA, a CISA está incluindo um número sem precedentes de vulnerabilidades exploradas ativamente em seu catálogo de Vulnerabilidades Exploradas Conhecidas (KEV). Este não é um exercício teórico. Esta não é uma lista de “patch algum dia”. Esta é uma lista urgente do tipo “sua casa está pegando fogo agora”.
Nas últimas semanas, a CISA adicionou inúmeras entradas, elevando o total de vulnerabilidades exploradas ativamente para um número impressionante em um curto período [2]. Isto não é apenas “a segurança é ruim”; esta é uma crise sistémica e crescente que afeta o software empresarial muito crítico que gere o nosso mundo.
Considere as adições recentes ao catálogo KEV:
- CVE-2023-46214: Uma vulnerabilidade de execução remota de código do Splunk Enterprise (CVSS 9.8) com prazo de patch CISA, tornando os sistemas não corrigidos altamente vulneráveis.
- CVE-2023-29357: Uma vulnerabilidade de escalonamento de privilégios do Microsoft SharePoint Server que afeta a estrutura de inúmeras intranets corporativas.
- CVE-2023-42824: Uma vulnerabilidade do kernel Apple iOS/iPadOS, já explorada em ataques direcionados, demonstrando que mesmo ecossistemas controlados não são impenetráveis.
- CVE-2023-30799: Uma falha de execução remota de código do MikroTik RouterOS, afetando os roteadores que conectam tudo, muitas vezes deixada sem correção nos cantos mais profundos da rede.
Esta adição rápida de zero-days explorados ativamente pelos principais fornecedores – Microsoft, Apple, Splunk, MikroTik, Linux, JFrog – exige atenção imediata e frenética. Este não é um aviso geral; é uma sirene tocando diretamente em cada equipe de TI e segurança. A lista KEV da CISA não é apenas uma sugestão para agências federais; é um aviso crítico para todas as organizações. Ignore isso por sua conta e risco.
A Ilusão da “Segurança de IA” e o Custo da Distração
Aqui está a verdade incômoda: as falhas fundamentais nas plataformas de IA e a barreira CISA KEV são aspectos interligados do mesmo problema. Ambos gritam sobre uma falha fundamental na segurança do software, mas o olhar colectivo da nossa indústria está perigosamente desalinhado. Estamos tão cativados pela promessa e pelo perigo da “IA” que estamos deixando a infraestrutura digital fundamental apodrecer.
“Segurança de IA” tornou-se uma palavra da moda, uma nova fronteira para consultores e gerentes de produto. Mas o que é isso, realmente? Muitas vezes, trata-se apenas de segurança aplicada aos sistemas de IA. Sim, a IA introduz novos vetores de ataque e desafios únicos, mas uma parte significativa da “segurança da IA” é simplesmente engenharia robusta, práticas de codificação seguras e aplicação de patches diligentes – as mesmas coisas em que temos falhado durante décadas. O problema de isolamento de VM mencionado anteriormente é um exemplo perfeito: uma vulnerabilidade clássica amplificada pela complexidade de uma plataforma de IA.
Estamos construindo sistemas de IA incrivelmente complexos sobre bases cada vez mais frágeis e ativamente exploradas. É como projetar meticulosamente um carro autônomo com navegação avançada de IA, enquanto as rodas caem e o motor engasga. O foco na “segurança da IA” muitas vezes parece uma distração, desviando recursos e atenção do trabalho mundano, sem glamour, mas absolutamente crítico, de proteger a infraestrutura existente.
Estamos tão ocupados perseguindo a próxima grande novidade que estamos deixando as grandes coisas atuais queimarem? O grande volume e amplitude das ameaças KEV indicam um desafio sistémico e urgente para a infraestrutura digital fundamental, diferente das discussões anteriores de dia zero centradas na IA. Não se trata do futuro da IA; trata-se do estado atual da nossa existência digital.
E agora, CTOs?
Para líderes de engenharia e CTOs, a mensagem é clara e imediata:
- Priorize a lista KEV: Abandone tudo. Corrija essas vulnerabilidades. Obrigue isso. Aplique-o. Isto não é opcional.
- Não se deixe levar pela propaganda de “segurança de IA” em detrimento dos fundamentos: Sim, entenda os riscos exclusivos da IA, mas lembre-se de que a engenharia robusta, os ciclos de vida de desenvolvimento seguros e a aplicação diligente de patches ainda são sua melhor defesa. Um modelo sofisticado de IA não salvará você se um invasor possuir sua VM subjacente ou seu servidor SharePoint.
- Invista em segurança básica: Isso significa mais do que apenas comprar outra ferramenta de segurança. Significa investir em pessoas, processos e numa cultura que valorize a segurança como uma disciplina central da engenharia e não como uma reflexão tardia. Os programas de recompensa por bugs são excelentes, mas devem ser uma rede de segurança, não sua estratégia de segurança primária.
O incidente envolvendo a infraestrutura da plataforma de IA é um sinal de alerta, mas a lista CISA KEV é o alarme urgente. Precisamos parar de admirar as mais recentes iniciativas de segurança de IA e começar a corrigir as falhas nas nossas defesas reais. O futuro da IA é emocionante, mas o estado atual da nossa segurança é assustador.
Fontes
[1] A segurança da IA é uma bagunça e está prestes a piorar — https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Catálogo de vulnerabilidades exploradas conhecidas - https://www.cisa.gov/known-exploited-vulnerabilities-catalog