IA : Anthropic remove o rastreador oculto do Claude Code após uma controvérsia

Anthropic removeu um sistema de rastreamento oculto do Claude Code após a descoberta, em junho, de marcadores que identificavam alguns usuários chineses. A empresa alega o combate ao abuso de contas e a destilação de modelos. A transparência das ferramentas de IA ainda é compatível com essa forma de vigilância?

O que revela a descoberta do rastreador oculto?

O pesquisador Thereallo revelou, em junho, um código escondido nos prompts do sistema do Claude Code. Esse mecanismo sinalizava usuários suspeitos de contornar as restrições da Anthropic ou de extrair as capacidades do modelo.

O sistema se baseava em marcadores Unicode e listas codificadas de domínios. Um nome de host contendo “deepseek” ou “zhipu” constituía, por exemplo, um sinal usado pela ferramenta.

Thereallo não considerou a funcionalidade maliciosa em si. Entretanto, ele criticou a total ausência de documentação ou notas de versão sobre esse ponto, para uma ferramenta de desenvolvimento que depende da confiança dos usuários.

Por que a Anthropic monitorava alguns usuários?

O engenheiro Thariq Shihipar confirmou, no X, que a experiência começou em março. O objetivo era evitar abusos de contas por revendedores não autorizados e limitar a destilação, uma prática que consiste em treinar um modelo concorrente a partir das respostas do Claude.

Anthropic também acusou, em fevereiro, os desenvolvedores chineses DeepSeek, Moonshot AI e MiniMax de terem extraído milhões de respostas via contas fraudulentas. Dario Amodei mencionou então, em junho, cerca de 25.000 contas ligadas à Alibaba e 28,8 milhões de transações suspeitas.

Essa controvérsia acontece num clima já tenso: Alibaba proibiu o uso do Claude Code por suas equipes, considerando a ferramenta de alto risco após essa descoberta. Um episódio a mais na rivalidade tecnológica crescente entre os Estados Unidos e a China.

Portanto, a Anthropic não agiu no vazio. Contudo, o método escolhido, uma vigilância não divulgada, enfraqueceu a confiança dos desenvolvedores na ferramenta.

A correção deve restaurar o funcionamento padrão do Claude Code, sem marcador oculto. A questão da transparência dos sistemas de detecção anti-abuso, por sua vez, permanece completamente em aberto para todo o setor de IA generativa.