A desaceleração da IA é uma distração. Sua casa está pegando fogo.
Sejamos francos: a indústria tecnológica está finalmente a ter o seu momento de “chegar a Jesus” com a IA, mas parece menos um arrependimento genuíno e mais um pivô estratégico. De repente, os próprios arquitectos desta corrida vertiginosa à IA – os investigadores proeminentes e os financiadores que financiaram os seus sprints movidos a cafeína – estão a apelar a uma desaceleração [1]. Estão a falar de “governação interna”, de “quadros éticos” e de um ritmo “mais deliberado”. E o mercado, sempre um barómetro sensível, já reagiu, com preocupações sobre a sustentabilidade dos investimentos em IA causando volatilidade nos stocks de chips [2].
Esta não é uma regulamentação externa; é uma “linha de falha” interna que emerge do próprio ecossistema de IA. E enquanto os executivos debatem as implicações filosóficas das suas futuras criações, o presente está a arder ativamente.
A pausa conveniente
Considere o momento. Durante anos, o mantra foi “mova-se rápido e quebre as coisas” ou, mais recentemente, “mova-se rápido e construa AGI”. Agora, com modelos poderosos já implantados, com o cenário competitivo amplamente definido e com o espectro de uma regulamentação real e significativa iminente, os apelos à cautela soam um pouco vazios. Será isto um verdadeiro despertar para os riscos profundos ou uma manobra calculada para consolidar o poder, abrandar os concorrentes e gerir a percepção pública antes que os forcados apareçam?
É fácil pregar cautela quando você já domina o mercado de computação, talento e modelos fundamentais. O súbito foco da indústria na “reavaliação de roteiros de produtos, avaliações de risco e planeamento estratégico” parece nobre, mas também parece uma forma conveniente de realinhar recursos. Isto poderia potencialmente abrandar as alternativas de código aberto ou os intervenientes mais pequenos que poderiam desafiar os gigantes estabelecidos, controlando o acesso a recursos essenciais ou influenciando os quadros regulamentares. A “estrutura ética” tornou-se repentinamente primordial, não quando os modelos estavam sendo treinados com base em dados extraídos, mas agora que são poderosos o suficiente para realmente remodelar a sociedade.
As preocupações expressas nas comunidades académicas e científicas, alertando que as "soluções" de IA para problemas abertos podem ameaçar a integridade dos seus campos [3], são um indicador claro da profundidade desta preocupação interna. Mas não vamos confundir isso com altruísmo. Não se trata do impacto da IA nos empregos ou na infraestrutura; trata-se de controle – quem o exerce e em que ritmo. O debate é menos sobre "devemos construí-lo?" e mais sobre "quem decide com que rapidez o construímos e quem lucra?"
Enquanto eles debatem o futuro, seu presente fica comprometido
Agora, vamos passar das preocupações abstratas e voltadas para o futuro da ruptura interna da IA para a crise imediata e tangível que se desenrola nas nossas redes agora mesmo. Enquanto os titãs da IA ponderam sobre a alma de suas máquinas, suas equipes operacionais lutam para conter uma catástrofe total de segurança cibernética.
Não estamos falando de ameaças teóricas ou de tendências gerais. Estamos falando de vulnerabilidades de dia zero exploradas ativamente em software empresarial fundamental, atingindo infraestruturas críticas com a força de uma marreta.
- Ivanti Connect Secure e Policy Secure (CVE-2023-46805 e CVE-2024-21887): Isso não é apenas um bug; é uma ferida aberta. Essas vulnerabilidades nas soluções VPN e de acesso à rede da Ivanti foram exploradas ativamente, permitindo que invasores contornassem a autenticação e executassem comandos remotos. A CISA emitiu vários avisos, destacando o risco crítico para as organizações que dependem desses sistemas para acesso remoto seguro [4]. Sua principal defesa de rede, aquela em que você confia para deter os bandidos no portão, está sendo ativamente explorada para conceder aos invasores acesso profundo a inúmeras redes corporativas.
- IU da Web do Cisco IOS XE (CVE-2023-20198): Gravidade máxima. Explorado ativamente. Esta vulnerabilidade permite que invasores não autenticados criem contas privilegiadas e obtenham controle total sobre os dispositivos Cisco IOS XE afetados. Se um invasor for proprietário do plano de gerenciamento da sua infraestrutura de rede, ele será proprietário de toda a sua rede. Fim do jogo [5].
A CISA não está emitindo “avisos” por diversão; eles estão gritando “fogo” em um teatro lotado. Estas não são apenas ameaças teóricas; eles estão sendo usados ativamente para comprometer as principais defesas e sistemas de gerenciamento em empresas globais.
A verdadeira falha
A ironia é tão densa que você poderia cortá-la com uma faca cega. Por um lado, temos a elite da IA a debater as implicações éticas de um futuro que ainda estão a construir, apelando a um abrandamento após anos de aceleração desenfreada. Por outro lado, temos a ameaça existencial imediata da nossa tecnologia fundamental atual desmoronando-se ativamente sob o peso de vulnerabilidades não resolvidas e não corrigidas.
A verdadeira “falha” não está apenas na comunidade de IA; está entre a torre de marfim da inovação e as trincheiras da realidade operacional. Está entre as discussões abstratas e focadas no futuro sobre a “autorregulação” da IA e a necessidade imediata e concreta de segurança e estabilidade reais nos sistemas em que confiamos hoje.
Como CTOs e líderes de engenharia, não podemos nos dar ao luxo de nos distrairmos com os debates filosóficos sobre a desaceleração da IA. Embora essas discussões sejam importantes a longo prazo, elas são um luxo quando sua casa está pegando fogo. A “reavaliação dos roteiros de produtos” deve começar com o reforço das fundações em ruínas da nossa infra-estrutura existente. As “avaliações de risco” precisam priorizar as ameaças imediatas e ativamente exploradas que comprometem a continuidade operacional e a integridade dos dados hoje.
As prioridades da indústria estão distorcidas. Estamos construindo coisas mais rápidas e brilhantes sobre uma base que está apodrecendo ativamente. A chamada para uma desaceleração da IA pode ser uma conversa necessária, mas para aqueles de nós que estão no terreno, lidando com os dias zero da Ivanti e da Cisco, é como debater a cor das cortinas enquanto o telhado desaba. O futuro pode esperar até que não estejamos sangrando ativamente.
Fontes
[1] Uma carta aberta para pausar experimentos gigantes de IA - https://futureoflife.org/open-letter-pause-ai-development/ [2] As ações de IA estão subindo, mas alguns investidores estão ficando nervosos - https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] A revolução da IA na ciência: promessas e perigos — https://www.nature.com/articles/d41586-023-03223-y [4] Atores de ameaças que exploram vulnerabilidades do Ivanti Connect Secure e do Ivanti Policy Secure — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Atores de ameaças que exploram a vulnerabilidade da interface da Web do software Cisco IOS XE - https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a