OpenAI quer criar uma rede social sem contas falsas graças ao World ID

A OpenAI consideraria criar uma rede social onde o cadastro passaria por uma prova de humanidade, via World ID e seus “Orbes” de escaneamento ocular. A ideia, relatada por vários meios de comunicação, é simples no papel: cortar o caminho dos bots e exércitos de contas falsas, que se tornaram um ruído permanente em X, Instagram ou TikTok.

Uma rede social “somente humanos”, a ideia que volta como um bumerangue

O contexto importa. Sam Altman se encontra no centro de dois projetos que tratam do mesmo problema. A OpenAI cria a IA mais usada pelo grande público. World, liderado pela Tools for Humanity, promove uma identidade digital que deveria provar que “você é realmente você”, sem necessariamente exibir seu nome. As fontes até mencionam uma possível combinação com o Face ID da Apple, como complemento biométrico.

Esse projeto parece uma resposta direta a uma realidade constrangedora. As plataformas sociais precisam de engajamento. Porém, o engajamento é manipulado. Bots aumentam as visualizações, manipulam tendências, alimentam debates fantasmas. Uma rede “humanos verificados” torna-se então um argumento de marketing tanto quanto uma escolha técnica.

Não é a primeira vez que a OpenAI flerta com a ideia de uma plataforma social. The Verge já relatou a existência de um protótipo interno, descrito como um fluxo social do tipo X, com elementos do ChatGPT. A Reuters retomou esses detalhes especificando que o formato final ainda é incerto, entre aplicativo dedicado e integração na IA ChatGPT.

A lógica estratégica é clara. Uma rede social é uma torneira de conteúdos frescos, em tempo real. É também um terreno ideal para experimentação de ferramentas de criação, moderação e recomendação. O cerne da questão é a qualidade do sinal. E os bots o poluem.

World ID e os Orbes, promessa de limpeza… e fonte de tensões

O World baseia-se num dispositivo físico, o Orb, para verificar a humanidade de um usuário através da íris. Uma vez verificado, o usuário recebe um World ID. O projeto é desenvolvido pela Tools for Humanity, uma estrutura cofundada por Sam Altman, e já foi implantado em larga escala em vários países.

Na parte “privacidade”, a Tools for Humanity reforça uma mensagem: o Orb utilizaria os dados numa memória temporária criptografada no momento da verificação, depois os apagaria, com uma cópia criptografada armazenada no aparelho do usuário. Dito assim, soa limpo. Mas esse tipo de promessa depende de detalhes de implementação, auditorias e confiança na governança.

É aí que o atrito aparece. Escaneamentos oculares provocam uma reação visceral em muitas pessoas. Alguns veem um progresso pragmático. Outros, uma ladeira escorregadia para uma identidade imposta pela biometria. O World já foi criticado por esses assuntos, e enfrentou questões regulatórias e midiáticas recorrentes.

A verdadeira aposta da OpenAI, além da caça aos bots

Uma rede social “verificada humana” não resolve tudo. Um humano pode trollar, assediar, spammer ou manipular. A verificação reduz uma categoria de incômodos, principalmente aqueles baseados em IA ou automação massiva. Ela não garante um debate saudável. Ela desloca a batalha para a moderação e os incentivos do produto.

A aposta da OpenAI, se confirmada, é também uma aposta na experiência do usuário. Escanear a íris para postar uma mensagem é uma barreira forte. Mesmo que o objetivo seja nobre, a maioria das pessoas detesta atritos. O projeto portanto terá que oferecer um benefício imediato e tangível: menos spam, mais conversas úteis e uma sensação de “mundo real” online.

Resta uma questão política, em sentido amplo. Quando a empresa que populariza a IA também propõe o sistema que distingue humanos e máquinas, ela ocupa dois extremos do mesmo tubo. Alguns verão coerência nisso. Outros, conflito de interesses ou concentração de poder. Esse debate não será teórico: fará parte do lançamento, caso ocorra. Vitalik Buterin também tem outros planos para salvar o anonimato online.