Vitalik Buterin aponta uma habilidade em que o humano supera a IA

Vitalik Buterin aponta um limite da inteligência artificial (IA): apesar de seus vastos conhecimentos, ela tem dificuldade em avaliar a profundidade de um texto, especialmente quando o descobre pela primeira vez. Para o cofundador da Ethereum, essa diferença entre saber e sabedoria merece atenção especial.

A IA conhece as referências, mas compreende as ideias?

Vitalik Buterin expressa regularmente suas reservas sobre os agentes de IA, como em outubro com seu “modo paranoico”. Em 29 de outubro às 4h11 UTC, ele publicou uma nova reflexão em resposta à escritora Ruxandra Teslo.

A discussão seguiu um artigo do Wall Street Journal sobre Humanities 10, um curso de primeiro ano em Harvard que proíbe os estudantes de usarem telefones e computadores por um ano.

Em sua mensagem no X, Vitalik explica que a IA pode mobilizar conhecimentos sobre quase qualquer assunto, sem necessariamente demonstrar um julgamento profundo. Ela tende a se prender aos aspectos mais superficiais de um texto, sem captar completamente o alcance de sua argumentação.

Essa observação surge em um debate sobre a qualidade das interações com chatbots. Alguns os consideram melhores interlocutores do que a maioria dos humanos para discutir os grandes clássicos. Por outro lado, uma escritora acredita que seus comentários sobre seus ensaios muitas vezes se resumem a respostas vazias.

A primeira leitura

Para Vitalik Buterin, esse limite aparece especialmente quando o modelo descobre um texto pela primeira vez. De fato, uma obra famosa conta com décadas de críticas, análises e comentários que a IA pode encontrar em seus dados de treinamento. Já um ensaio recente não tem esse histórico.

O modelo deve, portanto, se apoiar mais no próprio texto, sem poder mobilizar tantas análises preexistentes. Essa diferença é importante especialmente no universo cripto, onde equipes usam agentes de IA para examinar whitepapers, auditorias ou propostas de governança.

No entanto, alguns desenvolvedores já alertam sobre falhas que a IA poderia explorar sem compreender plenamente as implicações. Nessas condições, os resumos gerados por um modelo não devem substituir uma verificação humana, especialmente quando os riscos técnicos ou financeiros são altos.

A sabedoria, uma qualidade difícil de medir

Vitalik Buterin levanta um problema mais sutil: o conhecimento de um modelo pode ser verificado com certa facilidade, ao contrário de sua sabedoria. Podemos checar uma data, uma referência ou um número. Já avaliar a pertinência de um raciocínio exige mais do que uma simples verificação factual.

Um episódio de julho ilustra essa distinção. Um concurso organizado para identificar o autor de um documento anônimo sobre Ethereum premiou, em 6 de julho, a equipe de Franklyn Wang, da Co-Invest. Após examinar 27 textos, ela obteve um resultado associado a uma probabilidade de cerca de 20%.

Essa experiência lembra que a inteligência artificial pode reconhecer características estilísticas sem necessariamente compreender as ideias por trás de um texto. A mesma cautela é necessária quando ela analisa código ou documentos técnicos: identificar padrões nem sempre significa entender as intenções de seu autor.