OpenAI e Anthropic enfrentam debate sobre os riscos de perder o controlo da IA

Líderes da OpenAI, da Anthropic e de outras empresas de tecnologia simulam em privado sua resposta a uma catástrofe provocada ou amplificada pela inteligência artificial. Esses exercícios envolvem, em particular, um ataque cibernético contra bancos, Internet ou redes de energia, mas nenhum incidente dessa magnitude aconteceu.

As empresas simulam vários cenários de catástrofe da IA

Esses exercícios primeiro antecipam as consequências políticas e sociais de um grande ataque. Os participantes buscam determinar como conter o incidente, informar rapidamente o governo e responder às demandas de suspensão dos sistemas afetados.

A existência desses preparativos baseia-se principalmente em uma reportagem da Axios, fundamentada em fontes internas anônimas. A OpenAI confirma organizar exercícios, sem reconhecer a existência de um programa formal comum com a Anthropic ou um cronograma que anuncie uma catástrofe.

Os principais cenários mencionados incluem :

• Um ataque cibernético capaz de perturbar bancos ou pagamentos ;
• Interrupção massiva do acesso à Internet ;
• Um ataque contra redes de eletricidade ou abastecimento de água ;
• Uso criminoso de modelos disponíveis para download ;
• Perda de controle de um sistema experimental com alta autonomia ;
• Uma reação política levando a restrições rápidas sobre a IA.

A OpenAI afirma conduzir “exercícios de preparação nos quais as equipes discutem e trabalham em diferentes cenários potenciais”. A empresa especifica, no entanto, que esses eventos “não são considerados inevitáveis”. A Anthropic não comentou essas informações.

O risco cibernético torna-se mais concreto para a OpenAI

A preparação não responde apenas a ameaças teóricas. Modelos recentes avançam na busca de vulnerabilidades, programação autônoma e execução de várias etapas sem intervenção humana constante.

A OpenAI classificou assim o Astra no nível “crítico” por suas capacidades em cibersegurança. Segundo avaliações internas, este modelo pode, com as ferramentas e acessos corretos, descobrir falhas desconhecidas e conceber métodos para explorá-las em sistemas altamente protegidos.

Essa classificação não significa que o Astra realizou um ataque real. Indica que suas capacidades ultrapassam um limiar que exige proteções reforçadas antes do seu lançamento. A OpenAI diz ter adiado algumas fases de desenvolvimento para testar essas medidas.

A mesma tecnologia pode ajudar defensores a detectar e corrigir vulnerabilidades mais rapidamente. O risco vem de seu caráter duplo: as competências úteis para a cibersegurança defensiva também podem reduzir o tempo, o custo e a expertise necessários para lançar um ataque.

Alguns responsáveis do setor, citados anonimamente, consideram que um incidente grave pode ocorrer nos próximos seis a doze meses. Essa avaliação permanece uma antecipação individual, não uma previsão confirmada pela OpenAI ou Anthropic.

Preparar também a reação do Congresso americano

As simulações também abordariam as primeiras horas após um incidente. As empresas gostariam de apresentar rapidamente aos legisladores a causa do ataque, por meio de dados on-chain, o papel exato do modelo e as medidas necessárias para conter os danos.

Essa preparação responde a uma dificuldade política. Após uma catástrofe, o Congresso pode ser pressionado a agir antes mesmo de as responsabilidades técnicas estarem completamente estabelecidas. Pode ser proposta uma proibição geral, suspensão de certos modelos ou novas obrigações de fiscalização.

As empresas buscam assim preparar documentos, interlocutores e procedimentos de escalonamento. Também querem evitar que o uso criminoso de um modelo de terceiros seja automaticamente atribuído ao desenvolvedor ou assimilado a uma perda de controle interno.

Essa abordagem contém um conflito de interesses evidente. As empresas que desenvolvem os sistemas afetados também desejam influenciar as regras adotadas após um possível acidente relacionado à IA. A preparação pode melhorar a resposta, mas não substitui uma investigação independente nem um controle público.

A resposta a incidentes permanece amplamente voluntária

O Frontier Model Forum reúne principalmente Anthropic, Amazon, Google DeepMind, Meta, Microsoft e OpenAI. Seus membros assinaram em 2025 um acordo voluntário para trocar informações sobre vulnerabilidades, ameaças e capacidades que possam causar danos graves.

O Fórum distingue três mecanismos. O compartilhamento de informações ocorre antes de uma crise. O reporte de incidentes ligados à IA alerta uma autoridade após um evento definido. A resposta operacional visa conter os danos e restaurar os sistemas.

Esses dispositivos ainda estão em desenvolvimento. A Anthropic aplica sua própria Responsible Scaling Policy, enquanto a OpenAI usa um quadro de preparação abrangendo riscos cibernéticos, biológicos, químicos, de manipulação e perda de controle.

Essas políticas internas podem impor avaliações, atrasos no lançamento ou proteções adicionais. Permanece, no entanto, em parte voluntário e varia de empresa para empresa. Os exercícios relatados não demonstram, portanto, que OpenAI e Anthropic esperem uma catástrofe específica. Mostram antes que os laboratórios consideram agora uma crise maior suficientemente plausível para preparar suas respostas técnicas, políticas e mediáticas.