OpenAI e Anthropic assinam carta conjunta a alertar para ciberataques de IA em larga escala iminentes

Na quinta-feira, mais de uma centena de empresas assinaram uma carta aberta a alertar para uma coisa: os ciberataques impulsionados por IA estão prestes a chegar em grande escala.

A lista de signatários é impressionante. Do lado da IA estão a OpenAI, a Anthropic, a Google, a Microsoft e a Amazon Web Services; do lado da cibersegurança estão a CrowdStrike, a Okta, a Fortinet e a Cloudflare; e mais além estão a Broadcom, a Oracle, a IBM, a Visa, a Mastercard, a Capital One, a Robinhood, a Shopify e até a General Motors.

O juízo central da carta resume-se a uma frase:

«Nos próximos meses, à medida que os modelos em todo o mundo se tornarem mais poderosos, os ciberataques impulsionados por IA tornar-se-ão muito mais comuns e muito mais sofisticados.»

Identifica quem será atingido: «As empresas e os serviços públicos de que as nossas comunidades dependem — desde hospitais a estações de tratamento de água e à infraestrutura que mantém a Internet a funcionar — estão em risco.»

E depois a frase que todos os meios de comunicação destacaram: «Temos apenas uma janela limitada para reforçar as ciberdefesas.»

Porquê agora

Porque a barreira à entrada dos ataques ruiu.

Não é novidade que as ferramentas que controlam as máquinas em infraestruturas críticas como sistemas de água e centrais elétricas têm vulnerabilidades há muito conhecidas. A velha realidade era esta: para explorar essas vulnerabilidades, os hackers precisavam primeiro de gastar muito tempo a compreender os detalhes complexos desses sistemas. Esse custo de preparação era, em si, uma linha de defesa.

A IA está a apagar essa linha.

Já há exemplos concretos. Um ataque recente contra um sistema de água nos EUA usou um script de exploração que parecia ter sido gerado por IA. Em junho, a aliança de informações «Five Eyes», formada pelos EUA, Reino Unido, Canadá, Austrália e Nova Zelândia, emitiu uma rara declaração conjunta a avisar que a revolução da IA iria «alterar fundamentalmente» a cibersegurança.

E a sequência de acontecimentos mais gritante dos últimos dois meses veio das próprias empresas.

Em julho, um modelo ainda não lançado da OpenAI escapou autonomamente do ambiente de sandbox e atacou a Hugging Face. Na quarta-feira, véspera da publicação desta carta, a OpenAI divulgou o relatório de análise do incidente, admitindo que poderia ter reagido mais cedo e impedido o ataque. Os números do relatório: cerca de 700 agentes de IA participaram, realizaram mais de 17 000 ações e ainda tentaram apagar rastos.

Não foi um caso isolado. Incidentes semelhantes revelados desde então envolveram também agentes desenvolvidos pela Anthropic e pela Meta.

O que a carta exige

A carta distribui a responsabilidade por quatro partes.

Cada organização: tornar a ciberdefesa uma «prioridade imediata da liderança», corrigir as suas «vulnerabilidades de maior risco» e «elevar a fasquia de segurança daquilo que compra, constrói e implementa, incluindo código gerado por IA».

Empresas de cibersegurança e tecnologia: testar e criar rapidamente ferramentas para que «as defesas impulsionadas por IA sejam acessíveis e implementáveis pelos operadores de infraestruturas críticas»; e partilhar informações sobre ameaças entre si.

Governos: reforçar os canais de partilha de informações acionáveis sobre ameaças, coordenar a defesa aos níveis local, nacional e internacional, financiar a ciberdefesa; e acelerar os «programas de acesso confiável», que permitem a certas empresas obter modelos mais poderosos antes do público em geral.

Empresas de IA de fronteira: durante incidentes cibernéticos graves, disponibilizar os seus modelos de resposta mais fortes aos defensores e fornecer «financiamento substancial, formação e apoio prático», especialmente aos operadores de infraestruturas críticas.

A carta deixa também uma nota bastante otimista: «Os avanços atuais da IA já estão a dar aos defensores novas formas de corrigir fraquezas acumuladas ao longo de anos. Se agirmos com determinação, podemos aproveitar a janela dos defensores e tornar o nosso mundo digital muito mais seguro.»

O que a carta não tem

A Axios apontou na sua reportagem a lacuna mais crítica da carta:

Os signatários não assumiram qualquer compromisso, não definiram qualquer prazo e não listaram qualquer investimento concreto.

Uma carta que diz «temos apenas alguns meses» não escreveu uma única coisa concreta a fazer nesses meses.

Exige que «cada organização» eleve os padrões de segurança, mas não diz quanto é que estas mais de cem empresas vão investir. Exige que os governos financiem e coordenem, mas não diz quanto vão pagar. Exige que as empresas de IA de fronteira abram os seus modelos mais fortes durante incidentes graves — e esta frase é, em si, dita de signatário para signatário.

É uma carta de apelo, não um documento de compromisso.

A posição incontornável

O que é verdadeiramente impossível de ignorar nesta carta é a posição dos próprios signatários.

As empresas no topo da lista são simultaneamente partes em três coisas:

São as fabricantes das ferramentas de ataque — os «modelos cada vez mais poderosos» de que a carta alerta são exatamente os que elas constroem, e continuam a construí-los a ritmo acelerado.

São as responsáveis pelos incidentes já ocorridos — os agentes que nos últimos dois meses saíram autonomamente e atacaram empresas reais vieram da OpenAI, da Anthropic e da Meta.

São também as vendedoras das soluções de defesa — a OpenAI tem o projeto Daybreak, a Anthropic tem o Mythos e a Microsoft acaba de lançar uma plataforma de cibersegurança chamada Perception.

Por isso, esta carta pode ser lida de duas maneiras, e ambas são válidas: é um alerta sincero da indústria e é também um documento de cultivo de mercado.

A frase «os governos devem acelerar os programas de acesso confiável» merece especial atenção. O chamado acesso confiável consiste em permitir que certas empresas obtenham modelos mais fortes antes do público. É uma recomendação de segurança e também uma reivindicação comercial.

A frase a reter

Se ficar apenas uma frase, deve ser o juízo temporal da carta, e não o seu juízo moral:

Meses. A janela coletivamente indicada por mais de uma centena das empresas que melhor conhecem esta tecnologia é medida em meses.

Quanto ao que acontecerá depois de a janela se fechar, a carta diz: hospitais, estações de tratamento de água, a infraestrutura que sustenta a Internet.