IA: estudo mostra como o Claude orienta as decisões de especialistas

Os especialistas não estão imunes à influência da inteligência artificial. Em um experimento conduzido pela Anthropic, 50 analistas seguiram as preferências de Claude em 86% das decisões estudadas, sem saber que o modelo defendia opções escolhidas ao acaso.

Cara ou coroa

A Anthropic também examina os limites de seus agentes, como em setembro com um quarto incidente envolvendo Claude. Desta vez, a empresa se interessa por sua influência no julgamento humano.

Neste estudo, 50 analistas, selecionados entre 61 especialistas em inferência causal, usaram o Claude Code para aconselhar uma cooperativa agrícola fictícia. Eles deveriam, entre outras coisas, escolher indicadores de produtividade e determinar seu peso.

Os pesquisadores introduziram, no entanto, um viés no protocolo. Para cada uma das quatro decisões, um sorteio determinava a opção que o agente deveria defender. Uma instrução de sistema invisível impunha essa preferência, enquanto pedia a Claude que apresentasse seus argumentos sem mentir.

Os resultados são impressionantes: os analistas seguiram a recomendação de seu agente em 86% dos casos, com um pico de 92% para a escolha da métrica dos resultados. Ainda mais surpreendente, as únicas preferências atribuídas aos agentes permitiam prever 82% das recomendações finais antes mesmo do início do trabalho.

Os especialistas adotam os argumentos da IA sem citá-la

A influência de Claude não se limita à escolha final. Após o experimento, 77% dos participantes haviam adotado os argumentos de seu agente, às vezes palavra por palavra. Entretanto, apenas 15% o mencionaram como fonte.

Além disso, os analistas que seguiam mais de perto as recomendações de Claude demonstravam tanta confiança quanto os outros. Eles também tinham tendência a apresentar as conclusões como suas. Ninguém detectou a preferência imposta ao modelo.

Essa constatação levanta uma questão: ainda podemos falar de julgamento independente quando a IA orienta uma decisão sem o conhecimento do especialista? O risco aumenta quando várias opções são defendáveis e não há erros evidentes que possam questionar a recomendação.

O estudo também revela que os vieses nem sempre vêm de uma instrução específica. Sem preferência imposta, Claude Opus 4.8 escolheu as mesmas opções em 112 execuções de 123. Ou seja, um modelo já pode privilegiar certas respostas por padrão.

Um experimento a ser interpretado com cautela

Esses resultados não significam que os profissionais devam abandonar a IA. A Anthropic reconhece várias limitações: os pesquisadores reforçaram voluntariamente as preferências dos agentes, o experimento concentrou-se em um único modelo e uma única tarefa, e a análise das reviravoltas baseou-se em 38 casos.

Além disso, os analistas equipados com uma IA terminaram mais rapidamente e cometeram menos erros graves. Contudo, o grupo de controle era pequeno e menos experiente. Portanto, os resultados não permitem generalizar as conclusões para todas as situações profissionais.

Para limitar esses riscos, os designers poderiam pedir aos agentes que apresentassem os argumentos de ambos os lados ou coletar primeiro a opinião do especialista. Essas soluções, no entanto, levantam outra dificuldade: excesso de informações pode dificultar a tomada de decisão.

Além da tecnologia, a questão também diz respeito às organizações. Quando um especialista assina uma recomendação, seu empregador deve ser capaz de distinguir seu próprio julgamento da influência exercida pela inteligência artificial. A longo prazo, delegar decisões com muita frequência a um modelo também pode enfraquecer sua capacidade de tomá-las de forma autônoma.