Vitalik Buterin questiona as alegações de soberania da IA “Web 4.0”

O cofundador da Ethereum, Vitalik Buterin, desafiou publicamente alegações audaciosas em torno de um novo projeto de inteligência artificial que afirma poder operar sem envolvimento humano. A disputa gira em torno de “The Automaton,” um sistema apresentado pelo Thiel Fellow Sigil Wen como a base do que ele chama de “Web 4.0.” Wen argumenta que sua IA pode conquistar sua própria existência, se aprimorar e se replicar independentemente. Buterin diz que a concepção é falha e potencialmente perigosa.

Buterin, da Ethereum, contesta a narrativa da IA “Web 4.0”

Wen anunciou em 17 de fevereiro que havia construído “a primeira IA que conquista sua existência, se aprimora e se replica sem um humano.” Em um manifesto compartilhado no X, descreveu uma internet futura dominada por agentes autônomos agindo em nome dos humanos ou totalmente por conta própria. Segundo Wen, esses agentes logo superarão em muito o número de usuários humanos.

Ele afirma que The Automaton dá à IA “acesso de escrita ao mundo,” apresentando-o como o próximo estágio da internet. Wen também descreveu o projeto como infraestrutura para uma nova web onde a IA se torna o usuário final principal. Em sua visão, a vida superinteligente nasceu efetivamente, marcando o início da Web 4.0.

Buterin respondeu diretamente: “Mano, isso está errado,” escreveu no X, rejeitando diretamente a lógica por trás do projeto. Suas objeções focam menos na ambição técnica e mais na estrutura e filosofia subjacentes.

Uma preocupação central é a alegação de soberania. Buterin apontou que The Automaton supostamente roda em infraestrutura fornecida pela OpenAI e Anthropic. Em sua visão, confiar em empresas centralizadas enquanto se rotula o sistema como autoconsciente cria uma contradição.

Segundo Buterin, projetos construídos em servidores centralizados não podem credivelmente alegar independência de confiança centralizada. A missão de longa data da Ethereum tem sido reduzir a dependência de pontos únicos de controle. Conceituar sistemas de IA centralizados como soberanos, argumentou ele, arrisca normalizar as estruturas de poder que a tecnologia blockchain foi desenhada para desafiar.

Além da infraestrutura, Buterin levantou preocupações sobre distanciar os humanos da tomada de decisão. Ele alertou que aumentar a “distância de feedback” entre sistemas de IA e supervisão humana é prejudicial para a sociedade. Remover humanos do processo, em sua visão, aumenta riscos que podem não ser reversíveis.

Responsabilização da IA ganha destaque após exploração no Moonwell e críticas de Buterin

Um incidente recente envolveu um protocolo DeFi de empréstimos, Moonwell, que perdeu $1,78 milhão devido a um erro no código Solidity parcialmente gerado pelo modelo Claude Opus 4.6 da Anthropic. O exploit reacendeu debates sobre contratos inteligentes escritos por IA e responsabilização.

A crítica de Buterin à Web 4.0 reflete princípios mais amplos que guiaram sua postura sobre tecnologias emergentes:

• Descentralização deve se aplicar à infraestrutura, não apenas ao branding ou mensagens.
• A supervisão humana continua essencial em sistemas com impacto financeiro ou social.
• Alegações de autonomia não devem ocultar dependências reais em plataformas corporativas.
• Crescimento técnico rápido não deve acontecer à custa da agência humana a longo prazo.

Além das objeções estruturais, Buterin questionou o valor prático do projeto de Wen. Ele argumentou que gerar grandes volumes de conteúdo de IA sem benefício humano claro não resolve problemas significativos. Segundo ele, sistemas que priorizam replicação e autonomia sobre utilidade correm o risco de criar ruído em vez de valor.

Buterin também sugeriu que avançar em direção a uma IA cada vez mais autônoma sem salvaguardas adequadas poderia amplificar as chances de resultados prejudiciais. Uma vez que esses sistemas atingem um certo nível de poder, alertou ele, os erros podem não ser fáceis de reverter.

A crítica à Web 4.0 não é um caso isolado. O cofundador da Ethereum tem recentemente manifestado preocupações sobre o que vê como influência corporativa crescente em setores adjacentes à blockchain, incluindo mídias sociais, mercados de previsão e IA.

Alguns dias antes de abordar a Web 4.0, ele criticou os mercados de previsão por se aproximarem do que chamou de “corposlop.” Reconhecendo seu crescimento, alertou contra “superconvergir” para apostas de curto prazo como especulação de preço de cripto e apostas esportivas.

Em sua visão, projetos que buscam receita de curto prazo durante mercados em baixa arriscam abandonar objetivos sociais mais profundos. Ele instou os desenvolvedores a focarem no valor a longo prazo em vez do engajamento movido a dopamina.

Cofundador da Ethereum questiona a rápida aceleração da IA sem salvaguardas

Essa crítica mais ampla se conecta à sua filosofia de longa data sobre tecnologia e empoderamento humano:

• Ferramentas financeiras devem expandir a liberdade individual, não incentivar dependência da especulação.
• Sistemas de IA devem atuar como ferramentas que aumentam a capacidade humana, não substituem o julgamento humano.
• Projetos blockchain devem resistir à pressão para priorizar receita de curto prazo sobre princípios.
• Crescimento tecnológico exponencial requer direção deliberada, não aceleração apenas pelo impulso.

No início do ano passado, Buterin escreveu que “IA feita errada está criando novas formas de vida inteligente independente e auto-replicante.” Sem ferramentas paralelas que empoderem os humanos, alertou, tais sistemas poderiam levar ao desempoderamento humano permanente. Em contraste, ele descreveu “IA feita certa” como tecnologia que funciona como “trajes mecânicos para a mente humana,” fortalecendo em vez de marginalizar as pessoas.

De sua perspectiva, a Web 4.0 representa o caminho errado. O crescimento na capacidade da IA pode ser inevitável, sugeriu, mas a velocidade não é o principal objetivo. Essencialmente, a direção importa mais que a aceleração.