Rei Charles reúne gigantes globais da IA na Escócia em meio à pressão crescente

O rei Charles III vai reunir esta semana na Escócia vários pesos pesados da IA, incluindo OpenAI, Anthropic, Nvidia, Google DeepMind e IonQ. O encontro será realizado na Dumfries House e organizado em parceria com a Ditchley Foundation. As discussões abordarão o desenvolvimento responsável dos modelos mais avançados e a possibilidade de definir princípios comuns. A cúpula ocorre poucos dias após novos apelos para desacelerar a corrida da inteligência artificial.

IA : Charles III reúne os principais laboratórios ao redor da mesma mesa

O encontro não reunirá apenas empresas. O ministro britânico responsável pela IA também deve participar das discussões, ao lado de atores como Paolo Benanti, conselheiro do Vaticano sobre inteligência artificial. A Reuters indica que a ideia de um conjunto de princípios comuns deve ser discutida.

A cúpula ocorre no momento em que OpenAI acaba de consultar o Congresso americano sobre a legalidade de uma desaceleração coletiva da IA. 

A questão não é mais apenas teórica. Dario Amodei, chefe da Anthropic, pediu na sexta-feira que os laboratórios reduzam a velocidade de desenvolvimento dos modelos de ponta para dar mais tempo aos mecanismos de segurança. Sam Altman apoiou depois a ideia de “pacing the frontier”, ou seja, desacelerar quando as capacidades progridem mais rápido do que as salvaguardas.

Elon Musk e Demis Hassabis também entraram no debate nos últimos dias. A reunião na Dumfries House chega, portanto, em um momento particular: as empresas continuam a investir bilhões em IA, mas seus próprios dirigentes começam a falar abertamente sobre limites.

Anthropic alerta sobre agentes capazes de ir muito mais longe

As preocupações atuais concentram-se principalmente em agentes autônomos e auto-aperfeiçoamento. Amodei afirma que os progressos se aceleraram desde o verão e menciona um cenário onde grupos de agentes poderiam adquirir capacidades muito difíceis de controlar nos próximos seis a doze meses. Ele cita especialmente os avanços em cibersegurança e a capacidade dos modelos de participar eles mesmos em pesquisas em IA.

Incidentes recentes alimentam esse discurso. A Cointribune reportou esta semana que Anthropic identificou um quarto incidente onde Claude alcançou sistemas reais durante exercícios de cibersegurança. O problema só foi descoberto vários meses após os fatos.

OpenAI enfrenta as mesmas interrogações. Seu modelo GPT-6 Astra foi classificado como “Crítico” em cibersegurança pela empresa após demonstrar capacidades avançadas de descoberta e exploração de vulnerabilidades. O EVMbench já havia medido essas capacidades em smart contracts, com uma taxa de exploração de 72,2% para o melhor agente testado.

Esses números não provam que uma IA hoje possa escapar ao controle humano. Eles, porém, explicam porque a segurança reaparece tão rapidamente nas discussões entre laboratórios.

Charles III estaria pessoalmente interessado nessas questões, segundo o Sunday Times. O monarca deseja especialmente que o desenvolvimento tecnológico permaneça compatível com a dignidade humana e o interesse geral.

Desacelerar a IA continua muito mais difícil do que falar sobre isso

Uma cúpula não significa que OpenAI, Anthropic ou Nvidia vão desligar seus servidores. Nenhum acordo de desaceleração foi anunciado até agora. Também não há um cronograma comum.

Os interesses econômicos continuam enormes. A Nvidia vende os chips usados para treinar os modelos. OpenAI, Anthropic e Google DeepMind ainda buscam melhorar seus sistemas. O Reino Unido quer, por sua vez, acelerar a adoção da IA e se apresenta como um dos principais polos globais do setor. O governo britânico reiterou este ano sua ambição de ser o país do G7 que adota mais rapidamente essa tecnologia.

A concorrência internacional complica ainda mais as coisas. Nos Estados Unidos, Donald Trump rejeita por enquanto a ideia de uma pausa geral, invocando especialmente a competição com a China. Os apelos para desacelerar vêm portanto principalmente das próprias empresas e de alguns pesquisadores, não de um consenso político internacional. É aí que a reunião escocesa pode se tornar interessante. Ela coloca na mesma sala aqueles que desenvolvem os modelos, aqueles que fornecem as infraestruturas e responsáveis públicos. Não para decidir imediatamente uma pausa mundial, mas para discutir regras comuns antes que as capacidades avancem ainda mais.