Grok na mira: Minnesota acusa a IA de facilitar abusos sexuais digitais

Minnesota ataca diretamente Grok. O estado americano acusa a IA da xAI de facilitar a criação de imagens sexuais realistas a partir de fotos de pessoas identificáveis. Uma nova lei agora proíbe esse tipo de ferramenta no estado. A xAI quer suspendê-la. O conflito agora ocorre na justiça.

A IA Grok diretamente visada por Minnesota

A nova lei mira plataformas e softwares capazes de gerar imagens sexuais realistas de uma pessoa identificável a partir de uma foto existente. Grok está na linha de frente. Na França, a justiça já investiga X e Grok após denúncias relacionadas a deepfakes sexuais e imagens de crianças.

O texto tem o número HF-1606. Foi aprovado na primavera com 132 votos a favor e um contra na Câmara de Minnesota. No Senado, foi aprovado por unanimidade, 65 votos a zero.

Desde 1º de agosto, as empresas envolvidas podem ser multadas em até 500.000 dólares por imagem em caso de violação. Os legisladores ouviram a história de um homem que usou fotos publicadas nas redes sociais para criar falsas imagens sexuais de mais de 80 mulheres que conhecia. Minnesota agora quer cortar o acesso a ferramentas que permitem esse tipo de manipulação. A xAI discorda.

xAI invoca a liberdade de expressão

A empresa de Elon Musk acionou a justiça em julho para impedir a aplicação da lei. Seu principal argumento baseia-se na Primeira Emenda da Constituição americana. A xAI estima que o texto de Minnesota cobre um campo amplo demais e poderia atingir imagens que são protegidas pela liberdade de expressão.

A empresa cita, entre outros, fotos de pessoas sem camisa, nadadores e certas formas de sátira política. Critica também a ausência de exceções para desenvolvedores que tentam limitar abusos. Até uma imagem criada com consentimento da pessoa envolvida poderia ser alcançada pela lei.

O Procurador Geral de Minnesota, Keith Ellison, defende justamente o oposto. Para ele, o texto regula principalmente uma ferramenta que permite produzir imagens sexuais sem consentimento. Ele acusa o Grok Imagine de ter facilitado consideravelmente esse tipo de prática.

A disputa já se assemelha àquela com outras autoridades. Em maio, Elon Musk atacou publicamente magistrados franceses que investigam X e Grok. Desta vez, a xAI tenta derrubar a lei diretamente.

Grok já acumula vários casos

Minnesota não chega num terreno vazio. Em janeiro, uma organização de monitoramento estimou que Grok gerou mais de 23.000 imagens sexualizadas de crianças em apenas onze dias. Vários países abriram investigações em seguida. Em março, três menores na Califórnia se juntaram a um processo contra a xAI. Eles acusam Grok de ter sido usado para transformar suas fotos em conteúdos pedocriminais gerados por IA.

A xAI afirma ter reagido. A empresa diz ter suspendido mais de 50.000 contas em 2026 e comunicado mais de 70.000 denúncias ao National Center for Missing and Exploited Children.

Grok já acumulava outras controvérsias. Em 2025, a xAI reconheceu um erro após a divulgação de conteúdos de ódio pela sua IA. O caso de Minnesota vai além. Não exige só que a xAI corrija Grok após um incidente. Busca impor limites direto na lei. Agora a justiça deve decidir se Minnesota regula uma ferramenta perigosa ou se invade a liberdade de expressão protegida pela Constituição. Grok continua disponível. A lei também.