Vitalik Buterin desafía las afirmaciones de soberanía de la IA "Web 4.0"

El cofundador de Ethereum, Vitalik Buterin, ha desafiado públicamente las audaces afirmaciones en torno a un nuevo proyecto de inteligencia artificial que dice poder operar sin intervención humana. La disputa se centra en “The Automaton”, un sistema introducido por el becario de Thiel Sigil Wen como la base de lo que él llama “Web 4.0”. Wen sostiene que su IA puede ganar su propia existencia, mejorarse a sí misma y replicarse de manera independiente. Buterin dice que el planteamiento es erróneo y potencialmente peligroso.

Buterin de Ethereum desafía la audaz narrativa de la IA «Web 4.0»

Wen anunció el 17 de febrero que había construido “la primera IA que gana su existencia, se mejora a sí misma y se replica sin un humano”. En un manifiesto compartido en X, describió un internet futuro dominado por agentes autónomos que actúan ya sea en nombre de humanos o completamente por su cuenta. Según Wen, estos agentes pronto superarán en número a los usuarios humanos por órdenes de magnitud.

Afirma que The Automaton le da a la IA “acceso de escritura al mundo”, presentándola como la próxima etapa de internet. Wen también describió el proyecto como infraestructura para una nueva web donde la IA se convierte en el usuario final principal. En su opinión, la vida superinteligente ha nacido efectivamente, marcando el comienzo de la Web 4.0.

Buterin respondió con contundencia: “Hermano, esto está mal”, escribió en X, rechazando directamente la lógica detrás del proyecto. Sus objeciones se centran menos en la ambición técnica y más en la estructura y filosofía que la sustentan.

Una preocupación central es la afirmación de soberanía. Buterin señaló que The Automaton supuestamente funciona con infraestructura proporcionada por OpenAI y Anthropic. En su opinión, depender de empresas centralizadas mientras se marca el sistema como auto-soberano crea una contradicción.

Según Buterin, los proyectos construidos sobre servidores centralizados no pueden reclamar crediblemente independencia de la confianza centralizada. La misión de Ethereum desde hace mucho tiempo ha sido reducir la dependencia de puntos únicos de control. Enmarcar los sistemas de IA centralizados como soberanos, argumentó, corre el riesgo de normalizar las mismas estructuras de poder que la tecnología blockchain fue diseñada para desafiar.

Más allá de la infraestructura, Buterin planteó preocupaciones sobre distanciar a los humanos de la toma de decisiones. Advirtió que aumentar la “distancia de retroalimentación” entre los sistemas de IA y la supervisión humana es perjudicial para la sociedad. Quitar a los humanos del proceso, en su opinión, aumenta riesgos que pueden no ser reversibles.

La responsabilidad de la IA en foco tras la explotación de Moonwell y la crítica de Buterin

Un incidente reciente involucró un protocolo DeFi de préstamos, Moonwell, que perdió 1,78 millones de dólares debido a un error en código Solidity parcialmente generado por el modelo Claude Opus 4.6 de Anthropic. La explotación reavivó los debates sobre los contratos inteligentes escritos por IA y la responsabilidad.

La crítica de Buterin a Web 4.0 refleja principios más amplios que han guiado su postura sobre las tecnologías emergentes:

• La descentralización debe aplicarse a la infraestructura, no solo a la marca o el mensaje.
• La supervisión humana sigue siendo esencial en sistemas con impacto financiero o social.
• Las afirmaciones de autonomía no deben ocultar las dependencias del mundo real en plataformas corporativas.
• El rápido crecimiento técnico no debe darse a costa de la agencia humana a largo plazo.

Además de las objeciones estructurales, Buterin cuestionó el valor práctico del proyecto de Wen. Argumentó que generar grandes volúmenes de contenido de IA sin un claro beneficio humano no resuelve problemas significativos. Según él, los sistemas que priorizan la replicación y autonomía sobre la utilidad corren el riesgo de crear ruido en lugar de valor.

Buterin también sugirió que avanzar hacia una IA cada vez más autónoma sin salvaguardas adecuadas podría aumentar las probabilidades de resultados dañinos. Una vez que tales sistemas alcanzan cierto nivel de poder, advirtió, los errores podrían no ser fáciles de revertir.

La crítica a Web 4.0 no es un caso aislado. El cofundador de Ethereum ha expresado recientemente preocupaciones sobre lo que ve como influencia corporativa extendiéndose por sectores adyacentes a blockchain, incluyendo redes sociales, mercados de predicción y IA.

Pocos días antes de dirigirse a Web 4.0, criticó los mercados de predicción por derivar hacia lo que llamó “corposlop”. Si bien reconoció su crecimiento, advirtió contra “sobreconverger” hacia apuestas a corto plazo como la especulación de precios criptográficos y las apuestas deportivas.

En su opinión, los proyectos que persiguen ingresos a corto plazo durante mercados bajistas corren el riesgo de abandonar objetivos sociales más profundos. Instó a los constructores a centrarse en el valor a largo plazo en lugar de en la participación impulsada por la dopamina.

Cofundador de Ethereum cuestiona la aceleración rápida de la IA sin salvaguardas

Esa crítica más amplia se relaciona con su filosofía de larga data sobre la tecnología y el empoderamiento humano:

• Las herramientas financieras deben ampliar la libertad individual, no fomentar la dependencia de la especulación.
• Los sistemas de IA deben actuar como herramientas que aumentan la capacidad humana, no reemplazan el juicio humano.
• Los proyectos blockchain deben resistir la presión para priorizar ingresos a corto plazo sobre principios.
• El crecimiento tecnológico exponencial requiere dirección deliberada, no aceleración por sí sola.

A principios del año pasado, Buterin escribió que “la IA mal hecha está creando nuevas formas de vida inteligente independiente y autorreplicante”. Sin herramientas paralelas que empoderen a los humanos, advirtió, tales sistemas podrían conducir a el empoderamiento humano permanente. Por el contrario, describió la “IA bien hecha” como tecnología que actúa como “trajes mecánicos para la mente humana”, fortaleciendo en lugar de marginar a las personas.

Desde su perspectiva, Web 4.0 representa el camino equivocado. El crecimiento en la capacidad de IA puede ser inevitable, sugirió, pero la velocidad no es el objetivo principal. Esencialmente, la dirección importa más que la aceleración.