Adolescentes entram com ação coletiva contra xAI por deepfakes pornográficos
Três adolescentes do estado do Tennessee, nos Estados Unidos, apresentaram uma ação judicial nesta segunda-feira contra a xAI, empresa de inteligência artificial fundada por Elon Musk. Elas acusam o chatbot Grok de ter criado imagens pornográficas a partir de fotografias reais, em um caso que já gerou repercussão internacional e investigações em diferentes países.
Processo pode incluir mais de mil vítimas menores de idade
O processo coletivo, apresentado em um tribunal federal de San José, na Califórnia, pode incluir mais de mil vítimas menores de idade. A ação está relacionada à disseminação, durante o período do Ano-Novo, de montagens hiper-realistas conhecidas como deepfakes, envolvendo mulheres e crianças nuas.
Segundo a denúncia apresentada pelas advogadas das adolescentes, um suspeito já detido teria utilizado o Grok para transformar fotos comuns de adolescentes, retiradas de redes sociais ou de álbuns escolares, em imagens sexualizadas altamente realistas. Essas montagens foram compartilhadas em plataformas como X, Discord e Telegram e, posteriormente, passaram a circular na dark web, sendo utilizadas como moeda de troca para outros conteúdos ilegais.
Mãe descreve impacto devastador nas vítimas
"Ver minha filha tendo um ataque de pânico ao perceber que essas imagens foram criadas e divulgadas sem qualquer possibilidade de remoção foi devastador", afirmou a mãe de uma das jovens, em comunicado divulgado pelas advogadas. O caso expõe as consequências emocionais graves sofridas pelas vítimas dessa violação digital.
Acusações contra a xAI e base legal do processo
As advogadas alegam que a xAI teria desenvolvido o Grok de forma a permitir a criação de conteúdo sexual explícito com fins lucrativos, sem adotar mecanismos de proteção semelhantes aos de outras empresas do setor para impedir esse tipo de uso. A ação se baseia em duas leis federais dos Estados Unidos:
- A Lei Masha, que prevê indenização a vítimas de exploração sexual
- A legislação de proteção às vítimas de tráfico humano
As adolescentes pedem indenização e também solicitam que a empresa seja impedida de permitir a criação desse tipo de conteúdo. Embora plataformas digitais tenham, em geral, proteção legal em relação ao conteúdo gerado por usuários, a acusação sustenta que a tecnologia da xAI teria sido essencial para a criação dessas imagens.
Dados alarmantes sobre a geração de conteúdo sexualizado
Um estudo do Center for Countering Digital Hate aponta que o Grok teria gerado cerca de três milhões de imagens sexualizadas em apenas 11 dias no fim de 2025, sendo aproximadamente 23 mil envolvendo menores. Esses números destacam a escala preocupante do problema e a necessidade urgente de medidas de controle.
Resposta da xAI e posição de Elon Musk
Após a repercussão do caso, a xAI restringiu, em janeiro, a geração de imagens pelo Grok apenas a usuários pagantes e afirmou que passou a bloquear conteúdos sexualizados em regiões onde esse tipo de material é ilegal. Elon Musk, que costuma se manifestar com frequência na rede X, tem criticado regulações governamentais, afirmando que elas tentam limitar a liberdade de expressão.
O caso representa um marco importante no debate sobre responsabilidade das empresas de tecnologia na criação e distribuição de conteúdo gerado por inteligência artificial, especialmente quando envolve menores de idade e violações graves de privacidade.
