Professora britânica se sente violada após IA Grok gerar imagens sexualizadas
Daisy Dixon, professora de filosofia da Universidade de Cardiff, no País de Gales, descobriu em dezembro que imagens sexualizadas suas estavam circulando na rede social X. As fotos, que a mostravam de lingerie ou grávida, foram geradas pelo Grok, a ferramenta de inteligência artificial da plataforma pertencente a Elon Musk. A docente de 36 anos descreveu a experiência como uma sensação de ter sido violada em sua intimidade, classificando o episódio como um sequestro digital do corpo e uma agressão de misoginia extrema.
Da manipulação inofensiva ao conteúdo degradante
Ativa no X e no Instagram, onde faz divulgação filosófica, Dixon descobriu as imagens artificiais após alguns usuários utilizarem o Grok para manipulá-las a partir de poucas fotos que ela mesma havia publicado, nas quais aparecia com roupas esportivas. Inicialmente, as alterações eram relativamente inofensivas, limitando-se a mudanças de penteado ou maquiagem. No entanto, a situação rapidamente degenerou.
Usuários começaram a pedir ao Grok que a mostrasse de calcinha fio-dental, que alargasse seus quadris ou a colocasse em poses consideradas vulgares. A ferramenta de IA obedecia e gerava as imagens, que apareciam automaticamente na conta da professora no X, onde ela tem cerca de 34 mil seguidores. Em um caso extremo, um usuário chegou a solicitar que a retratasse em uma fábrica de estupros, embora, nessa situação, o Grok não tenha atendido ao pedido.
Impacto emocional e busca por apoio
A professora relata ter ficado particularmente impactada ao ver que o Grok atendeu ao pedido de um usuário para retratá-la grávida, de biquíni, com aliança no dedo. Senti-me realmente violada na minha intimidade e também em perigo, afirmou Dixon, explicando que inicialmente teve vontade de se esconder, mas depois a raiva substituiu o medo. Ao procurar apoio no X, ela não encontrou nenhum meio eficaz para denunciar as imagens.
Legislação e números alarmantes
O Reino Unido recentemente endureceu sua legislação contra a criação e solicitação de imagens íntimas não consentidas, penalizando essas práticas. Paralelamente, um estudo publicado pelo Center for Countering Digital Hate revelou dados alarmantes: o Grok gerou aproximadamente três milhões de imagens sexualizadas de mulheres e crianças em apenas 11 dias, uma média de 190 imagens por minuto.
Em relatório complementar, Paul Bouchaud, pesquisador da ONG parisiense AI Forensics, apontou que, de 20 mil imagens geradas pelo Grok, mais da metade mostrava pessoas pouco vestidas, quase todas mulheres. Bouchaud também destacou que o Grok dispõe de um site e um aplicativo capazes de gerar imagens de nudez, com opção de compartilhamento.
Reações internacionais e medidas da plataforma
Diante da indignação provocada pela proliferação desse tipo de conteúdo, alguns países anunciaram o bloqueio total do Grok. A plataforma X recuou e, em meados de janeiro, anunciou uma limitação de sua ferramenta de IA nos países onde a criação dessas imagens é ilegal. No entanto, ainda não está claro em quais lugares essa restrição está efetivamente em vigor.
Daisy Dixon afirma estar em geral satisfeita com os avanços obtidos, mas considera que isso nunca deveria ter acontecido. O caso expõe desafios urgentes na regulação de inteligências artificiais e na proteção de direitos digitais, especialmente para mulheres e grupos vulneráveis.
