Vitalik Buterin conteste les ambitions de souveraineté de l’IA « Web 4.0 »

Le cofondateur d’Ethereum, Vitalik Buterin, a publiquement remis en question les affirmations ambitieuses entourant un nouveau projet d’intelligence artificielle présenté comme capable de fonctionner sans intervention humaine. Le débat porte sur « The Automaton », un système développé par le Thiel Fellow Sigil Wen, qu’il présente comme le fondement de ce qu’il appelle le « Web 4.0 ». Selon Wen, son IA peut gagner sa propre existence, s’améliorer et se répliquer de manière autonome. Buterin estime au contraire que cette vision est erronée et potentiellement dangereuse.

Buterin remet en cause le récit du Web 4.0

Le 17 février, Sigil Wen a affirmé avoir créé « la première IA qui gagne son existence, s’améliore et se réplique sans intervention humaine ». Dans un manifeste publié sur X, il décrit un futur internet dominé par des agents autonomes, agissant soit pour le compte d’humains, soit de manière totalement indépendante. Selon lui, ces agents pourraient rapidement dépasser en nombre les utilisateurs humains de plusieurs ordres de grandeur.

Wen affirme également que The Automaton donne à l’IA « un accès en écriture au monde », qu’il présente comme la prochaine étape d’internet. À ses yeux, il s’agit d’une infrastructure permettant à l’IA de devenir l’utilisateur final principal du web. Il va jusqu’à évoquer l’émergence d’une forme de vie superintelligente, marquant le début du Web 4.0.

Buterin a répondu sans détour : « Frérot, c’est faux », a-t-il écrit sur X, rejetant directement la logique du projet. Ses critiques portent moins sur l’ambition technique que sur la structure et la philosophie sous-jacentes.

Une de ses principales préoccupations concerne la revendication de souveraineté. Buterin souligne que The Automaton fonctionnerait en réalité sur des infrastructures fournies par OpenAI et Anthropic. Selon lui, s’appuyer sur des entreprises centralisées tout en revendiquant une autonomie totale constitue une contradiction.

Pour Buterin, les projets reposant sur des serveurs centralisés ne peuvent pas prétendre de manière crédible à une indépendance vis-à-vis d’une autorité centrale. La mission d’Ethereum a toujours été de réduire la dépendance aux points de contrôle uniques. Présenter des systèmes d’IA centralisés comme souverains revient, selon lui, à normaliser les structures de pouvoir que la blockchain cherche précisément à remettre en cause.

Au-delà de l’infrastructure, Buterin alerte sur l’éloignement des humains dans les processus de décision. Il met en garde contre l’augmentation de la « distance de rétroaction » entre les systèmes d’IA et la supervision humaine, qu’il juge dangereuse pour la société. Supprimer les humains du processus pourrait, selon lui, entraîner des risques difficilement réversibles.

La responsabilité de l’IA relancée après l’incident Moonwell

Un incident récent a impliqué le protocole de prêt DeFi Moonwell, qui a perdu 1,78 million de dollars en raison d’une erreur dans un code Solidity partiellement généré par le modèle Claude Opus 4.6 d’Anthropic. Cet événement a relancé le débat sur l’utilisation de l’IA pour écrire des contrats intelligents et sur la question de la responsabilité.

La critique de Buterin sur le Web 4.0 s’inscrit dans une vision plus large des technologies émergentes :

• La décentralisation doit concerner l’infrastructure, et non seulement le discours.
• La supervision humaine reste essentielle pour les systèmes ayant un impact financier ou social.
• Les revendications d’autonomie ne doivent pas masquer des dépendances réelles à des plateformes centralisées.
• La croissance technique ne doit pas se faire au détriment de l’autonomie humaine à long terme.

Buterin s’interroge également sur la valeur concrète du projet de Wen. Selon lui, produire de grandes quantités de contenu généré par IA sans bénéfice clair pour les humains ne résout pas de problèmes significatifs. Les systèmes qui privilégient la réplication et l’autonomie au détriment de l’utilité risquent davantage de générer du bruit que de la valeur.

Il met aussi en garde contre une accélération de l’IA sans garde-fous suffisants. Une fois que ces systèmes atteignent un certain niveau de puissance, les erreurs peuvent devenir difficiles, voire impossibles, à corriger.

Cette critique s’inscrit dans une réflexion plus large. Le cofondateur d’Ethereum a récemment exprimé ses inquiétudes face à l’influence croissante des entreprises dans des secteurs proches de la blockchain, comme les médias sociaux, les marchés prédictifs et l’IA.

Quelques jours auparavant, il avait déjà critiqué les marchés prédictifs, évoquant une dérive vers ce qu’il appelle le « corposlop ». Tout en reconnaissant leur croissance, il met en garde contre une sur-concentration sur des paris à court terme, comme la spéculation sur les cryptomonnaies ou les paris sportifs.

Selon lui, les projets qui cherchent des revenus rapides en période de marché baissier risquent d’abandonner des objectifs plus fondamentaux. Il appelle ainsi les développeurs à privilégier la valeur à long terme plutôt que des mécanismes d’engagement purement addictifs.

Buterin appelle à encadrer le développement de l’IA

Cette position s’inscrit dans une vision cohérente de la technologie et de l’autonomisation humaine :

• Les outils financiers doivent renforcer la liberté individuelle, et non encourager la spéculation excessive.
• Les systèmes d’IA doivent augmenter les capacités humaines, pas remplacer le jugement humain.
• Les projets blockchain doivent résister à la pression du court terme au détriment des principes.
• La croissance technologique exponentielle doit être guidée, et non laissée à une simple logique d’accélération.

Début de l’année dernière, Buterin écrivait que « l’IA mal conçue crée de nouvelles formes de vie intelligente auto-répliquante et indépendante ». Sans outils permettant de renforcer les capacités humaines, de tels systèmes pourraient, selon lui, conduire à un désengagement durable des individus. À l’inverse, il décrit « l’IA bien conçue » comme une technologie agissant comme des « exosquelettes pour l’esprit humain », venant renforcer les capacités plutôt que remplacer les individus.

De son point de vue, le Web 4.0 suit une mauvaise direction. Si la progression des capacités de l’IA semble inévitable, la vitesse ne doit pas être l’objectif principal. L’enjeu réside avant tout dans la direction donnée à cette évolution.