IA : Anthropic elimina el rastreador oculto de Claude Code tras una controversia
Anthropic eliminó un sistema de rastreo oculto de Claude Code tras el descubrimiento, en junio, de marcadores que identificaban a ciertos usuarios chinos. La empresa invoca la lucha contra los abusos de cuentas y la destilación de modelos. ¿Sigue siendo compatible la transparencia de las herramientas de IA con esta forma de vigilancia?
En resumen:
- El desarrollador «Thereallo» detectó en junio marcadores Unicode ocultos en las indicaciones del sistema de Claude Code.
- Estas señales permitían detectar husos horarios, servidores proxy y vínculos con laboratorios chinos como DeepSeek o Zhipu.
- Anthropic ha anunciado una corrección completa que se incluirá en la próxima versión de la herramienta.
¿Qué revela el descubrimiento del rastreador oculto?
El investigador Thereallo sacó a la luz, en junio, un código escondido en los prompts del sistema de Claude Code. Este mecanismo señalaba a usuarios sospechosos de evadir las restricciones de Anthropic o de extraer las capacidades del modelo.
El sistema se basaba en marcadores Unicode y listas codificadas de dominios. Un nombre de host que contenía «deepseek» o «zhipu» constituía, por ejemplo, una señal explotada por la herramienta.
Thereallo no consideró que la funcionalidad fuera maliciosa en sí misma. Sin embargo, criticó la ausencia total de documentación o notas de versión sobre este punto, para una herramienta de desarrollo que se basa en la confianza de los usuarios.
¿Por qué Anthropic vigilaba a ciertos usuarios?
El ingeniero Thariq Shihipar confirmó en X que el experimento comenzó en marzo. El objetivo era impedir abusos de cuentas por revendedores no autorizados y limitar la destilación, esta práctica que consiste en entrenar un modelo competidor a partir de las respuestas de Claude.
Anthropic además acusó en febrero a los desarrolladores chinos DeepSeek, Moonshot AI y MiniMax de haber extraído millones de respuestas mediante cuentas fraudulentas. Dario Amodei posteriormente mencionó, en junio, cerca de 25 000 cuentas vinculadas a Alibaba y 28,8 millones de transacciones sospechosas.
Esta controversia se inscribe en un clima ya tenso: Alibaba prohibió el uso de Claude Code a sus empleados, considerando la herramienta de alto riesgo tras este hallazgo. Un episodio más en la creciente rivalidad tecnológica entre Estados Unidos y China.
Por tanto, Anthropic no actuó en el vacío. Sin embargo, el método elegido, una vigilancia no divulgada, debilitó la confianza de los desarrolladores en la herramienta.
La corrección debe restablecer un funcionamiento estándar de Claude Code, sin marcador oculto. La cuestión de la transparencia de los sistemas de detección antiabuso sigue plenamente abierta para todo el sector de IA generativa.
¡Maximiza tu experiencia en Cointribune con nuestro programa "Read to Earn"! Por cada artículo que leas, gana puntos y accede a recompensas exclusivas. Regístrate ahora y comienza a acumular beneficios.
Apasionado por Bitcoin, me encanta explorar los intrincados detalles de la blockchain y las criptomonedas y comparto mis descubrimientos con la comunidad. Mi sueño es vivir en un mundo donde la privacidad y la libertad financiera estén garantizadas para todos, y creo firmemente que Bitcoin es la herramienta que puede hacer esto posible.
Las ideas y opiniones expresadas en este artículo pertenecen al autor y no deben tomarse como consejo de inversión. Haz tu propia investigación antes de tomar cualquier decisión de inversión.