Anthropic plantea una pausa global ante el avance de la inteligencia artificial

¿Qué ocurre cuando un actor principal pide desacelerar una carrera que él mismo ayuda a acelerar? Anthropic, la empresa detrás del chatbot Claude, considera que la inteligencia artificial pronto podría cruzar un umbral sin precedentes: el de una tecnología capaz de participar en el diseño de sus propios sucesores. Ante esta perspectiva, la compañía llama a considerar una pausa coordinada en el desarrollo de los sistemas más avanzados, reavivando el debate sobre la capacidad de los Estados y las empresas para mantener el control de la IA.

Anthropic se preocupa por la aparición de una IA capaz de mejorar a sus sucesores

Esta reflexión se basa en evoluciones ya observadas internamente. Anthropic afirma que Claude ahora juega un papel crucial en su propio desarrollo, mientras que la empresa acaba de abrir su chatbot a 150 organizaciones. Según la compañía, aproximadamente el 80 % del nuevo código utilizado para mejorar el modelo es generado hoy en día por el propio Claude.

Los investigadores precisan que los sistemas actuales aún no son capaces de desarrollar solos una nueva generación de IA. No obstante, destacan varios avances que alimentan sus preocupaciones :

• Claude ya genera gran parte del código que sirve para mejorar sus futuras versiones ;
• Los agentes de IA ahora son capaces de escribir y ejecutar código de manera autónoma ;
• Algunos sistemas pueden delegar tareas a otros agentes especializados ;
• La velocidad de los avances podría depender en gran medida de la potencia de cálculo disponible si la auto-mejora recursiva se convirtiera en una realidad.

Estas capacidades aún no constituyen una prueba de que una inteligencia artificial pueda diseñar sola a su sucesor. Sin embargo, ilustran la trayectoria tecnológica que lleva a Anthropic a anticipar este escenario y a reflexionar desde ahora sobre los mecanismos de control que podrían ser necesarios.

La llamada a una coordinación mundial reaviva el debate sobre la gobernanza de la IA

Más allá de la dimensión técnica, Anthropic se cuestiona sobre los mecanismos que permitirían reaccionar si se produjera una ruptura tecnológica así. La empresa, gracias a los datos on-chain, menciona la posible necesidad de una pausa temporal y coordinada en el desarrollo de los sistemas más avanzados para dejar a las autoridades y a los investigadores tiempo para evaluar los riesgos. Considera que tal medida solo podría funcionar dentro de un marco internacional. Sin coordinación, los actores que continúen con sus trabajos podrían rápidamente superar su retraso y neutralizar el efecto de una desaceleración voluntaria observada en otros lugares.

Esta toma de posición ya provoca reacciones encontradas. Alimenta un debate entre quienes consideran esta alerta como una anticipación prudente de un riesgo real y quienes la ven como una forma de comunicación destinada a sensibilizar a la opinión pública sobre los desafíos de la inteligencia artificial avanzada. La cuestión ya no se limita solo al círculo de los investigadores, sino que también involucra a gobiernos, reguladores y grandes empresas comprometidas en esta competencia tecnológica.

Las discusiones sobre inteligencia artificial ya no versan únicamente sobre su desempeño, sino también sobre las medidas que puedan enmarcar su evolución. Al llamar a reflexionar desde hoy sobre un mecanismo mundial de desaceleración, Anthropic revela un desafío sin precedentes. Queda por saber si los Estados y las empresas serán capaces de acordar reglas comunes antes de que los avances de la IA hagan que este debate sea aún más urgente. Por ahora, la Unión Europea mantiene el calendario de su regulación sin ceder a las presiones.