Anthropic defende coordenação internacional para IA avançada

O que acontece quando um ator principal pede para desacelerar uma corrida que ele próprio ajuda a acelerar? Anthropic, a empresa por trás do chatbot Claude, acredita que a inteligência artificial pode em breve ultrapassar um patamar inédito: o de uma tecnologia capaz de participar do projeto de seus próprios sucessores. Diante dessa perspectiva, a empresa pede para considerar uma pausa coordenada no desenvolvimento dos sistemas mais avançados, reabrindo o debate sobre a capacidade dos Estados e das empresas de manterem o controle da IA.

Anthropic preocupa-se com o surgimento de uma IA capaz de melhorar seus sucessores

Essa reflexão baseia-se em evoluções já observadas internamente. Anthropic afirma que Claude agora desempenha um papel importante em seu próprio desenvolvimento, enquanto a empresa acaba de abrir seu chatbot para 150 organizações. Segundo a empresa, cerca de 80 % do novo código usado para aprimorar o modelo hoje é gerado pelo próprio Claude.

Os pesquisadores esclarecem que os sistemas atuais ainda não são capazes de desenvolver sozinhos uma nova geração de IA. No entanto, destacam vários avanços que alimentam suas preocupações :

• Claude já gera grande parte do código usado para melhorar suas futuras versões ;
• Os agentes de IA agora são capazes de escrever e executar código de forma autônoma ;
• Alguns sistemas podem delegar tarefas para outros agentes especializados ;
• A velocidade dos avanços poderia depender principalmente do poder computacional disponível caso a autoaperfeiçoamento recursivo se tornasse realidade.

Essas capacidades ainda não são uma prova de que uma inteligência artificial possa conceber sozinha seu sucessor. No entanto, ilustram a trajetória tecnológica que leva a Anthropic a antecipar esse cenário e a refletir agora sobre os mecanismos de controle que podem ser necessários.

O chamado para uma coordenação mundial reabre o debate sobre a governança da IA

Além da dimensão técnica, a Anthropic questiona os mecanismos que permitiriam reagir caso uma ruptura tecnológica assim ocorra. A empresa, por meio de dados on-chain, menciona a possível necessidade de uma pausa temporária e coordenada no desenvolvimento dos sistemas mais avançados, para dar tempo às autoridades e pesquisadores avaliarem os riscos. Diz que essa medida só funcionaria em um âmbito internacional. Sem coordenação, os atores que continuassem seus trabalhos poderiam rapidamente recuperar o atraso e neutralizar o efeito do desaceleração voluntária observada em outros lugares.

Essa posição já provoca reações divergentes. Alimenta um debate entre aqueles que veem esse alerta como uma antecipação prudente de um risco real e aqueles que a interpretam como uma forma de comunicação para conscientizar o público sobre os desafios da inteligência artificial avançada. A questão agora ultrapassa o círculo dos pesquisadores, alcançando também governos, reguladores e grandes empresas envolvidas nessa competição tecnológica.

As discussões sobre inteligência artificial não tratam mais apenas de seu desempenho, mas também das medidas que possam limitar sua evolução. Ao pedir uma reflexão desde já sobre um mecanismo mundial de desaceleração, Anthropic revela um desafio inédito. Resta saber se os Estados e empresas serão capazes de concordar com regras comuns antes que os avanços da IA tornem o debate ainda mais urgente. Por enquanto, a União Europeia mantém o cronograma de sua regulação sem ceder às pressões.