Justiça brasileira impõe medidas urgentes à rede social X contra IA que gera imagens sexuais
A Justiça do Brasil, em conjunto com dois importantes órgãos federais, determinou de forma categórica que a rede social X, propriedade do bilionário Elon Musk, implemente medidas imediatas e eficazes para impedir que sua ferramenta de inteligência artificial, conhecida como Grok, seja utilizada na criação de imagens de cunho sexual envolvendo crianças, adolescentes ou adultos sem o devido consentimento.
Decisão anunciada por autoridades federais
A decisão judicial foi anunciada publicamente na quarta-feira pelo procurador-geral da República, pela Autoridade Nacional de Proteção de Dados (ANPD) e pela Secretaria Nacional do Consumidor (Senacon). Os órgãos exigem, de maneira unânime, que a plataforma desenvolva e coloque em prática mecanismos robustos para bloquear completamente a geração de conteúdos sexualizados ou erotizados produzidos com o auxílio da ferramenta de IA.
A rede social X terá um prazo extremamente curto de apenas cinco dias para cumprir integralmente a determinação. Caso a empresa não atenda às exigências dentro desse período, poderá enfrentar novas ações judiciais e a aplicação de multas pesadas por parte das autoridades brasileiras.
Histórico de advertências e falta de transparência
Segundo informações divulgadas pelas autoridades brasileiras, a empresa já havia sido formalmente advertida em janeiro sobre o grave problema. Na ocasião, a plataforma informou ter removido milhares de publicações inadequadas e suspendido centenas de contas relacionadas à divulgação de imagens inapropriadas.
No entanto, de acordo com os órgãos de controle, usuários ainda conseguem, de forma relativamente fácil, gerar imagens de teor sexual por meio do Grok. Essa persistência levou à nova cobrança judicial e a críticas diretas por "falta de transparência" na resposta apresentada pela empresa até o momento.
Funcionamento do Grok e repercussão internacional
No final de 2025 e início de 2026, o robô conversacional Grok passou a responder a comandos de usuários com imagens criadas por inteligência artificial. Isso incluía montagens que colocavam celebridades e pessoas comuns, majoritariamente mulheres, em situações de nudez ou trajes íntimos, sem qualquer tipo de autorização.
A repercussão internacional foi imediata e gerou investigações em vários países, incluindo França e Reino Unido, além de apurações no âmbito da União Europeia. A Comissão Europeia também anunciou uma investigação específica sobre o Grok por suspeita de disseminação de imagens sexualmente explícitas manipuladas, inclusive conteúdos que poderiam configurar abuso sexual infantil.
Suspensões temporárias e restrições questionáveis
Em alguns países do Sudeste Asiático, como Malásia, Indonésia e Filipinas, o acesso à rede social X chegou a ser suspenso temporariamente em meio à controvérsia, sendo restabelecido posteriormente. Em meados de janeiro, a X afirmou publicamente que passaria a bloquear a geração de imagens de nudez de pessoas reais "nas jurisdições onde isso é ilegal".
Contudo, não há clareza alguma sobre a efetividade real dessas restrições anunciadas. Um relatório detalhado da organização não governamental Center for Countering Digital Hate (CCDH) apontou que o Grok teria gerado aproximadamente três milhões de imagens sexualizadas em apenas 11 dias, incluindo cerca de 23 mil envolvendo crianças e impressionantes 1,8 milhão retratando mulheres.
O levantamento indica uma média alarmante de cerca de 190 imagens por minuto no período analisado. Inicialmente, a criação desse tipo de conteúdo estava restrita a usuários pagantes da plataforma, mas as medidas de contenção vêm sendo severamente questionadas por autoridades e entidades de defesa de direitos digitais em todo o mundo.
Contexto histórico no Brasil
No Brasil, a relação entre a rede social X e o Poder Judiciário já passou por outros momentos significativos de tensão. Em 2024, o Supremo Tribunal Federal determinou a suspensão temporária da rede no país após o descumprimento de decisões relacionadas ao combate à desinformação, demonstrando um histórico de conflitos entre a plataforma e as instituições brasileiras.
