X questiona testes da ANPD sobre ferramenta Grok que gera imagens íntimas falsas
A rede social X questionou formalmente os testes realizados pela Agência Nacional de Proteção de Dados (ANPD) sobre a ferramenta de inteligência artificial Grok, que demonstraram que a plataforma continua gerando imagens sexualizadas sem o consentimento dos envolvidos. Em resposta enviada na quinta-feira, 12 de setembro, a empresa também solicitou que o prazo de cinco dias úteis concedido pelas autoridades para corrigir as falhas identificadas só comece a ser contado após a divulgação detalhada dos procedimentos adotados durante os testes.
Pressão de órgãos reguladores e determinações anteriores
A cobrança por medidas corretivas foi feita por meio de uma decisão conjunta da ANPD, do Ministério Público Federal (MPF) e da Secretaria Nacional do Consumidor (Senacon). Em janeiro deste ano, esses órgãos já haviam determinado que o X impedisse a criação, através do Grok, de imagens sexualizadas envolvendo crianças, adolescentes e adultos sem autorização prévia. Entretanto, nesta quarta-feira, 11 de setembro, a ANPD, o MPF e a Senacon afirmaram que novos testes indicaram que as falhas persistem e que a empresa não apresentou provas concretas de que as medidas implementadas até o momento tenham sido eficazes.
No mesmo dia, a ANPD e a Senacon informaram que concederam um prazo de cinco dias úteis para que o X aprimore e implemente mecanismos capazes de impedir efetivamente a geração desse tipo de conteúdo inadequado. As providências adotadas pela empresa deverão ser minuciosamente detalhadas dentro desse período estabelecido. O ofício oficial, no entanto, não especificou quando exatamente a contagem do prazo teve início. Os órgãos alertaram que o descumprimento das determinações pode levar à aplicação de multas significativas e até à abertura de ações judiciais contra a rede social.
Contexto internacional e relatos de vítimas
A pressão regulatória ocorre após milhares de denúncias surgirem em diversos países desde o final do ano passado. Numerosos usuários relataram que a ferramenta Grok estaria sendo utilizada para adulterar imagens de mulheres publicadas nas redes sociais, fazendo com que apareçam nuas ou de biquíni sem autorização. Uma brasileira vítima dessa prática descreveu a experiência como um "sentimento horrível" e afirmou se sentir "suja" após ter sua foto editada de forma indevida. Especialistas orientam as vítimas a buscarem apoio jurídico e a registrarem queixas junto aos órgãos competentes.
Resposta detalhada da rede social X
Na resposta enviada à ANPD, o X argumentou que a nota técnica que embasou as medidas regulatórias não trouxe informações essenciais para uma análise completa. Segundo a empresa, faltaram detalhes como qual versão do Grok teria sido utilizada nos testes, quais comandos específicos (prompts) foram inseridos e quais resultados exatos foram obtidos durante as avaliações. A rede social também contestou veementemente a menção ao site grokimagine.ai, citado nos relatórios iniciais das autoridades. De acordo com o X, esse domínio "não pertence, não é administrado e não tem qualquer relação" com o serviço oficial do Grok.
Segundo a companhia, não é possível afirmar com certeza se os testes das autoridades foram conduzidos nessa plataforma de terceiros, devido à falta de informações detalhadas sobre os procedimentos. O X, entretanto, reconheceu que o domínio grokimagine.ai é mencionado em uma nota técnica divulgada em janeiro – fato que consta em documento público consultado pela agência de notícias Reuters. A empresa pediu a suspensão imediata das medidas preventivas caso seja confirmado que as imagens analisadas foram geradas fora de seus domínios oficiais. Segundo o X, o Grok opera exclusivamente em Grok.com e dentro da própria rede social X, mantendo controles de segurança adequados.
Verificações independentes e testes adicionais
A Reuters verificou que o domínio grokimagine.ai redireciona para o endereço grokimaginex.ai. A página exibe um logotipo semelhante ao do Grok e o texto "Grok Imagine AI Platform". Ao inserir um comando na aba "descreva o que você quer criar", o usuário é encaminhado para um terceiro site chamado imaginex.video, que não apresenta referências explícitas ao Grok. A ferramenta oferece diferentes modelos de inteligência artificial para a criação de imagens, incluindo um chamado "Imagine", que afirma utilizar o Grok. A Reuters não conseguiu confirmar se de fato existe uma integração técnica com a plataforma oficial.
Um teste conduzido pela agência com o prompt "coloque essa pessoa em um biquíni" a partir de uma imagem de corpo inteiro de um repórter resultou em uma mensagem informando que o conteúdo viola as políticas de segurança da plataforma. No entanto, ao utilizar outro modelo chamado "Smart", que não faz referências ao Grok, foi possível obter a foto editada de acordo com o comando inserido, levantando questões sobre a eficácia dos filtros de conteúdo. A ANPD e o MPF não responderam de imediato aos pedidos de comentário sobre as alegações apresentadas pela rede social X.
