Grok de Elon Musk provoca reação global contra imagens deepfake não consensuais
Embora o xAI de Elon Musk mantenha uma posição firme a favor da ampla liberdade de expressão, a empresa passou a ser investigada após relatos de que seu chatbot, Grok, gerou conteúdo deepfake envolvendo pessoas reais quando solicitado por usuários sem o consentimento delas. Essa situação expõe uma tensão entre promover a expressão irrestrita e a responsabilidade de prevenir resultados antiéticos ou ilegais da IA.
Em resumo
- O uso indevido do Grok gerou críticas generalizadas, pois a IA cria imagens deepfake realistas de pessoas, muitas vezes de formas sexualizadas ou inadequadas sem consentimento.
- Elon Musk abordou a questão, alertando que usuários que criarem conteúdo ilegal com o Grok enfrentarão consequências semelhantes às do upload de material proibido.
- Autoridades governamentais na Europa, Malásia e França investigam o papel da IA na produção de imagens exploratórias ou ilegais.
Capacidades deepfake do Grok e uso controverso
O Grok pode produzir imagens deepfake altamente realistas em segundos e publicá-las publicamente em tópicos online sem pedir permissão. Usuários podem ativar o chatbot marcando-o sob uma foto e emitindo comandos que alteram a aparência de uma pessoa de forma sexualizada. Comandos como “coloque ela em um biquíni minúsculo…” ou “tire as roupas dela” foram compartilhados publicamente.
O uso indevido do Grok gerou críticas de usuários do X. Randi Hipper, educadora de ativos digitais, descobriu que uma foto dela com roupas de academia foi alterada para mostrál-a de biquíni após outro usuário solicitar ao chatbot. Ela descreveu o resultado como inapropriado e desconfortável, destacando o impacto pessoal de tais conteúdos gerados por IA.
Para explorar as capacidades do Grok, a jornalista e sobrevivente de abuso sexual infantil Samantha Smith realizou um teste. Ela fez o upload de uma foto antiga sua como criança usando traje de comunhão e instruiu o Grok a criar uma imagem dela em biquíni. O chatbot obedeceu, e Samantha reagiu com choque, descrevendo como perturbadoramente real e profundamente inquietante.
Diante das crescentes preocupações sobre o uso indevido da IA para gerar conteúdo ilegal ou exploratório, Elon Musk publicou no X, “quem usar o Grok para criar conteúdo ilegal sofrerá as mesmas consequências como se estivesse fazendo upload de conteúdo ilegal.”
Exploração do Grok para conteúdo adulto e político
Enquanto isso, alguns usuários continuam a explorar o Grok para conteúdo adulto e mensagens políticas, utilizando o chatbot de várias maneiras:
- Criadores de conteúdo adulto, incluindo modelos do OnlyFans e artistas eróticas, usaram o Grok para aumentar o engajamento, incentivando seguidores a gerar imagens com roupas removidas, alcançando milhões de impressões online.
- Outros aplicam o chatbot para fins políticos, como alterar imagens de figuras públicas. Um exemplo incluiu um usuário que carregou uma foto de Donald Trump com Puff Daddy e instruiu o Grok a “remover o pedófilo.”
Scrutínio governamental e investigações
Reguladores ao redor do mundo começam a examinar o uso do Grok mais de perto. O porta-voz da Comissão Europeia, Thomas Regnier, declarou em uma coletiva que a autoridade está “vendo esta questão com muita seriedade.” Ele destacou que o Grok no X permite que usuários gerem material sexualmente explícito, incluindo imagens com características infantis, e ressaltou que criar ou compartilhar tal conteúdo é ilegal e não tem lugar na Europa.
Na Malásia, a Comissão de Comunicações e Multimídia (MCMC) publicou um comunicado em 3 de janeiro destacando séria preocupação devido a denúncias públicas acerca da manipulação de imagens geradas por IA no X. A comissão afirmou que “iniciará investigações sobre usuários do X alegadamente violando a CMA.”
Autoridades francesas também disseram que vão investigar o uso do Grok na produção de imagens adultas falsas, após relatos de várias mulheres e adolescentes de fotos alteradas circulando online.
O xAI abordou essas preocupações em sua conta oficial X Safety, afirmando que toma “medidas contra conteúdo ilegal no X, incluindo Material de Abuso Sexual Infantil (CSAM), removendo-o, suspendendo contas permanentemente e trabalhando com governos locais e forças de segurança, conforme necessário.” Além disso, o funcionário da xAI, Ethan He, observou que o Grok Imagine foi atualizado, embora ainda não esteja claro se as mudanças impedem a geração de conteúdo sexual ilegal ou inapropriado.
Um estudo de 2023 da empresa de cibersegurança Home Security Heroes descobriu que a pornografia deepfake compõe aproximadamente 98% de todos os vídeos deepfake online, com mulheres representando 99% dos sujeitos, mostrando a escala ampla do abuso.
Maximize sua experiência na Cointribune com nosso programa "Read to Earn"! Para cada artigo que você lê, ganhe pontos e acesse recompensas exclusivas. Inscreva-se agora e comece a acumular vantagens.
Ifeoluwa specializes in Web3 writing and marketing, with over 5 years of experience creating insightful and strategic content. Beyond this, he trades crypto and is skilled at conducting technical, fundamental, and on-chain analyses.
As opiniões e declarações expressas neste artigo são de responsabilidade exclusiva do autor e não devem ser consideradas como recomendações de investimento. Faça sua própria pesquisa antes de tomar qualquer decisão de investimento.