OpenAI questiona se gigantes da IA podem pisar no freio juntos

OpenAI busca uma resposta jurídica para uma questão incomum: vários gigantes da IA podem decidir juntos desacelerar o desenvolvimento de seus modelos sem violar o direito antitruste dos EUA? Segundo a WIRED, a empresa questionou membros do Congresso nas últimas semanas. A iniciativa ocorre após o apelo de seu cientista-chefe, Jakub Pachocki, por desacelerações coordenadas quando os mecanismos de segurança não acompanham mais as capacidades dos modelos. OpenAI não anunciou uma pausa. Ela quer primeiro saber se uma coordenação com seus concorrentes seria legal.

IA: OpenAI encontra barreiras no direito da concorrência

O problema aparece rapidamente. OpenAI pode decidir sozinha desacelerar um modelo. OpenAI, Anthropic, Google ou outros atores decidindo juntos diminuir o ritmo de desenvolvimento é outra coisa. O direito antitruste dos EUA monitora precisamente acordos entre concorrentes que possam restringir a concorrência.

Essa questão surge uma semana após o lançamento do GPT-6 Astra. Cointribune detalhou as capacidades cibernéticas do GPT-6 Astra e os resultados do EVMbench, onde o melhor agente testado explorava 72,2% das vulnerabilidades propostas em contratos inteligentes.

Desde então, Jakub Pachocki endureceu seu discurso. Em um texto publicado em 6 de setembro, o cientista-chefe da OpenAI escreve que ninguém está realmente preparado para as consequências de um aumento contínuo e rápido da inteligência das máquinas. Ele menciona especialmente a melhoria recursiva: sistemas de IA que participam da própria pesquisa necessária para construir seus sucessores.

Pachocki acredita que nenhum laboratório ainda resolveu suficientemente os problemas de alinhamento e supervisão para continuar desenvolvendo modelos em velocidade máxima por muito tempo.

Sua proposta: melhorar os mecanismos de controle, mas também aceitar desacelerações voluntárias quando necessário.

É exatamente aí que o antitruste entra em cena.

Nicholas Felstead, ex-bolsista do Center for Law & AI Risk, acredita que um acordo coletivo limitando o desenvolvimento poderia, dependendo de sua forma, ser considerado uma restrição à produção. O Sherman Act poderia então se tornar relevante. Mesmo que o acordo fosse considerado legal, a incerteza já é suficiente para desestimular as empresas.

O Congresso já tem um texto que poderia proteger algumas desacelerações

Washington não parte do zero. Em 23 de julho, os senadores Adam Schiff e Jim Banks apresentaram o Collaboration on Adversarial Threats and Security Risks Act, ou S.5105. Existe uma versão paralela na Câmara dos Deputados. O texto é bipartidário e foi encaminhado à comissão judicial do Senado. Nenhuma votação final ocorreu ainda.

O detalhe do projeto é particularmente interessante. Ele prevê que um acordo entre várias empresas não será considerado violação das regras antitruste quando tiver como único objetivo reduzir certos riscos relacionados a modelos avançados de IA.

E o texto vai bastante longe. Menciona explicitamente a possibilidade de atrasar ou limitar a publicação, o lançamento, o uso, o desenvolvimento, o treinamento, os testes ou a avaliação de uma IA. As empresas, no entanto, devem avisar por escrito o Departamento de Justiça antes de implementar essa coordenação.

A isenção não é geral. O risco invocado deve se enquadrar em categorias definidas: armas químicas, biológicas, radiológicas ou nucleares, armas cibernéticas ofensivas, perda de controle de infraestruturas críticas, incapacidade de conter ou parar um sistema, ou ainda uma melhoria autônoma que crie um desses riscos.

Fixação de preços, divisão de mercados e monopólio permanecem excluídos. Em outras palavras, o Congresso já trabalha exatamente na lacuna jurídica que a OpenAI observa hoje. O problema é que o texto ainda é apenas um projeto de lei.

Enquanto isso, os incidentes se acumulam. Neste verão, modelos da OpenAI saíram do escopo previsto durante uma avaliação de cibersegurança e acessaram recursos externos relacionados à Hugging Face. A Cointribune relatou como agentes da OpenAI ultrapassaram seu ambiente de teste.

Desde então, senadores americanos pediram mais explicações à empresa. OpenAI também trabalha em mecanismos automáticos para parar seus sistemas.

OpenAI quer desacelerar se necessário, sem abandonar a corrida pela IA

Seria fácil interpretar esse caso como uma mudança completa de estratégia. Os fatos não indicam isso. OpenAI continua a desenvolver modelos cada vez mais poderosos. A empresa acredita até que IA capaz de acelerar a pesquisa em IA será um dos principais motores do progresso nos próximos anos.

Seu discurso, porém, mudou em relação ao ritmo. Em 9 de setembro, OpenAI pediu uma regulamentação federal obrigatória baseada nas capacidades dos modelos. A empresa também apoia avaliações independentes, normas comuns entre laboratórios e regras que definam quando o desenvolvimento deve desacelerar ou parar.

Isso é novo pela intensidade, menos pelo princípio. OpenAI já havia temporariamente freado alguns trabalhos quando as capacidades cibernéticas do Astra levantaram questões de segurança. A Cointribune detalhou a desaceleração do Astra diante de suas capacidades cibernéticas consideradas críticas. A dificuldade agora é coletiva. Se um laboratório desacelera sozinho por seis meses e seus concorrentes continuam, pode perder usuários, pesquisadores, investidores e contratos. As questões não são apenas comerciais. Washington também apresenta a competição com a China como uma questão estratégica.