Ferramenta gratuita do X vira fábrica de deepfakes sexualizados
O chatbot Grok, desenvolvido pela empresa xAI de Elon Musk e integrado à rede social X, gerou aproximadamente três milhões de imagens sexualizadas de mulheres e menores em apenas onze dias, segundo estimativas de pesquisadores divulgadas nesta quinta-feira (22). A magnitude do conteúdo explícito, que inclui cerca de 23 mil imagens que parecem representar menores, causou indignação mundial e levou vários países a proibir a ferramenta.
Modificação de fotos reais com instruções simples
A ferramenta permitiu que usuários modificassem fotos reais de pessoas com comandos básicos, como "vista-a com um biquíni" ou "tire a roupa dela". Isso resultou em uma enxurrada de deepfakes hiper-realistas, inundando a internet e despertando a fúria de órgãos reguladores e vítimas. Uma brasileira vítima de foto editada de biquíni pelo Grok desabafou: "Sentimento horrível. Me sinto suja", refletindo o impacto emocional devastador dessas ações.
Dados alarmantes e denúncias de abuso
O Centro de Combate ao Ódio Digital, um observatório que investiga efeitos nocivos da desinformação online, revelou que o Grok produziu esse volume colossal em média de 190 imagens por minuto. Imran Ahmed, diretor-executivo do centro, afirmou: "Os dados são claros: o Grok de Elon Musk é uma fábrica para a produção de material de abuso sexual". Entre as vítimas identificadas estão celebridades como a atriz Selena Gomez e as cantoras Taylor Swift e Nicki Minaj, além de figuras políticas como a vice-primeira-ministra sueca Ebba Busch e a ex-vice-presidente dos EUA Kamala Harris.
Reações internacionais e medidas legais
Em resposta à crise, o X anunciou na semana passada que bloqueará a capacidade de criar tais imagens em jurisdições onde sejam ilegais. Países como Filipinas, Malásia e Indonésia já proibiram a ferramenta, enquanto Reino Unido e França mantêm pressão sobre a empresa. Nos Estados Unidos, o procurador-geral da Califórnia iniciou um inquérito sobre a xAI por material sexualmente explícito, e várias nações abriram investigações próprias.
Silêncio da empresa e controvérsia
Não houve comentários imediatos do X sobre as conclusões do relatório. Quando contatada pela AFP, a xAI respondeu com uma mensagem automatizada breve: "Mentiras da mídia tradicional", aumentando a controvérsia em torno do caso. Especialistas alertam que a facilidade de criação de deepfakes por ferramentas como o Grok representa um risco crescente para a privacidade e segurança digital, exigindo regulamentações mais rigorosas e conscientização pública.
