Adolescentes processam empresa de Elon Musk por gerar deepfakes pornográficos com IA Grok
Três adolescentes entraram nesta segunda-feira, 17 de março, com uma ação coletiva nos Estados Unidos contra a xAI, empresa de inteligência artificial de Elon Musk. Elas acusam o chatbot Grok, ferramenta gratuita da rede social X, de gerar imagens pornográficas falsas a partir de fotos reais obtidas de suas redes sociais. As advogadas das jovens anunciaram o processo, que está diretamente relacionado à proliferação de deepfakes de mulheres e crianças nuas no fim do ano passado.
Onda de indignação mundial e investigações internacionais
A publicação dessas imagens íntimas falsas em plataformas como X, Discord e Telegram provocou uma onda de indignação mundial e levou a investigações em vários países, incluindo o estado americano da Califórnia. Segundo a ação judicial, movida em um tribunal federal de San José, as montagens migraram posteriormente para a dark web, onde foram usadas como moeda de troca para outros conteúdos de pornografia infantil.
O processo cita o caso específico de uma pessoa, já detida, que utilizou o chatbot Grok para transformar fotos comuns das jovens em imagens hiper-realistas sexualizadas. "Sentimento horrível. Me sinto suja", relatou uma brasileira vítima de foto editada de biquíni pelo Grok, conforme divulgado anteriormente.
Impacto devastador nas vítimas e famílias
As consequências emocionais para as adolescentes são profundas e alarmantes. "Ver a minha filha ter um ataque de pânico ao perceber que essas imagens haviam sido criadas e espalhadas sem nenhuma esperança de apagá-las foi horrível", descreveu em comunicado a mãe de uma das jovens, residente no estado do Tennessee.
Uma das autoras da ação sofre com pesadelos recorrentes, enquanto outra precisa de medicamentos para dormir e teme comparecer à própria cerimônia de formatura. Esses relatos ilustram o trauma psicológico severo causado pela disseminação não consentida de conteúdo íntimo fabricado por inteligência artificial.
Acusações contra a xAI e números chocantes
As advogadas das adolescentes denunciam que a xAI "projetou deliberadamente o Grok para produzir conteúdo sexualmente explícito com fins lucrativos", sem implementar as proteções básicas contra pornografia infantil que são comuns entre outros grandes desenvolvedores de IA.
Um estudo do Center for Countering Digital Hate revela dados assustadores: o Grok gerou aproximadamente 3 milhões de imagens sexualizadas em apenas 11 dias no final de 2025, sendo que 23.000 dessas representavam menores de idade. Esses números destacam a escala industrial do problema e a urgência de regulação.
Resposta da empresa e restrições implementadas
Em resposta ao escândalo público e à pressão legal, a xAI tomou medidas corretivas em janeiro. A empresa restringiu a geração de imagens pelo Grok exclusivamente aos assinantes pagantes, numa tentativa de limitar o acesso e o uso indevido da ferramenta. No entanto, essa mudança ocorreu apenas após os danos já terem sido causados às vítimas.
Este caso emblemático coloca em evidência os riscos éticos e legais associados ao desenvolvimento acelerado de inteligência artificial sem salvaguardas adequadas. A ação judicial pode estabelecer precedentes importantes para responsabilizar empresas de tecnologia pelos danos causados por suas ferramentas, especialmente quando envolvem violações de privacidade e exploração de menores.
