IA: un estudio muestra cómo Claude orienta las decisiones de los expertos 

Los expertos no están a salvo de la influencia de la inteligencia artificial. En un experimento realizado por Anthropic, 50 analistas siguieron las preferencias de Claude en el 86 % de las decisiones estudiadas, sin saber que el modelo defendía opciones elegidas al azar.

Cara o cruz

Anthropic también examina los límites de sus agentes, como en septiembre con un cuarto incidente que involucró a Claude. Esta vez, la empresa se interesa en su influencia sobre el juicio humano.

En este estudio, 50 analistas, seleccionados entre 61 especialistas en inferencia causal, usaron Claude Code para asesorar a una cooperativa agrícola ficticia. Debían elegir indicadores de productividad y determinar su ponderación.

Sin embargo, los investigadores introdujeron un sesgo en el protocolo. Para cada una de las cuatro decisiones, un sorteo determinaba la opción que el agente debía defender. Una instrucción de sistema invisible imponía esta preferencia, mientras se le pedía a Claude que presentara sus argumentos sin mentir.

Los resultados son sorprendentes: los analistas siguieron la recomendación de su agente en el 86 % de los casos, con un pico del 92 % para la elección de la medida de resultados. Más sorprendente aún, las únicas preferencias asignadas a los agentes permitían predecir el 82 % de las recomendaciones finales antes incluso de empezar el trabajo.

Los expertos retoman los argumentos de la IA sin citarla

La influencia de Claude no se limita a la elección final. Tras el experimento, el 77 % de los participantes había retomado los argumentos de su agente, a veces palabra por palabra. Sin embargo, solo el 15 % lo mencionó como fuente.

Además, los analistas que seguían más estrechamente las recomendaciones de Claude se mostraban igual de confiados que los demás. También tendían a presentar las conclusiones como propias. Ninguno detectó la preferencia impuesta al modelo.

Esta constatación plantea una pregunta: ¿se puede seguir hablando de juicio independiente cuando la IA orienta una decisión sin que el experto sea consciente? El riesgo aumenta cuando varias opciones son defendibles y no hay error evidente que permita cuestionar la recomendación.

El estudio también revela que los sesgos no siempre provienen de una consigna particular. Sin preferencia impuesta, Claude Opus 4.8 eligió las mismas opciones en 112 ejecuciones sobre 123. En otras palabras, un modelo ya puede favorecer ciertas respuestas por defecto.

Un experimento para interpretar con precaución

Estos resultados no significan que los profesionales deban abandonar la IA. Anthropic reconoce varias limitaciones: los investigadores reforzaron voluntariamente las preferencias de los agentes, el experimento se centró en un solo modelo y una sola tarea, y el análisis de los cambios se basó en 38 casos.

Además, los analistas equipados con una IA terminaron más rápido y cometieron menos errores graves. Sin embargo, el grupo de control era pequeño y menos experimentado. Por tanto, los resultados no permiten generalizar las conclusiones a todas las situaciones profesionales.

Para limitar estos riesgos, los diseñadores podrían pedir a los agentes que presenten los argumentos de ambos bandos o recabar primero la opinión del experto. Estas soluciones plantean sin embargo otra dificultad: demasiada información puede complicar la toma de decisiones.

Más allá de la tecnología, el desafío también afecta a las organizaciones. Cuando un experto firma una recomendación, su empleador debe poder distinguir su propio juicio de la influencia ejercida por la inteligencia artificial. A largo plazo, delegar demasiado a menudo sus decisiones a un modelo también podría debilitar su capacidad para tomarlas de forma autónoma.