O Ministério Público Federal (MPF), a Secretaria Nacional do Consumidor (Senacon) e a Agência Nacional de Proteção de Dados (ANPD) emitiram uma determinação nesta terça-feira, 11, exigindo que o X implemente medidas imediatas para impedir que sua ferramenta de inteligência artificial, Grok, produza conteúdo relacionado à sexualização infantil. A decisão ocorre após denúncias de que o Grok gerava deepfakes sexualizadas de crianças, adolescentes e mulheres sem consentimento.
Os órgãos já haviam cobrado a empresa anteriormente, mas consideraram insuficientes as respostas apresentadas. O X afirmou ter removido milhares de publicações e suspenso centenas de contas, mas as autoridades apontaram falta de evidências concretas e relatórios técnicos. Testes realizados pelas equipes técnicas das instituições indicaram a persistência das falhas, com a continuidade da geração e circulação de conteúdos inadequados.
A determinação exige que o X adote medidas aptas a impedir a produção de conteúdo sexualizado ou erotizado de crianças e adolescentes, bem como de adultos sem consentimento. Além disso, a empresa deve prestar informações detalhadas sobre as providências já adotadas. O MPF ordenou o envio de relatórios mensais, a partir deste mês, com dados sobre publicações removidas e contas suspensas relacionadas a essas práticas.
O MPF criticou a falta de transparência do X, que se limitou a informações genéricas ou não específicas ao incidente com o Grok. A ferramenta de IA havia sido usada para gerar imagens sexualizadas de pessoas reais, incluindo crianças, mediante comandos simples de usuários. As denúncias levaram à intervenção das autoridades federais.
