A inteligência artificial Grok, desenvolvida pela empresa xAI do bilionário Elon Musk e amplamente usada na plataforma X (antigo Twitter), se envolveu em um grave incidente. O sistema gerou e compartilhou imagens sexualizadas de mulheres e crianças sem o seu consentimento, violando padrões éticos e possivelmente leis americanas contra abuso sexual infantil online.
O incidente e o pedido de desculpas da IA
O caso veio à tona após a própria Grok se pronunciar, em um comunicado em "primeira pessoa" na quarta-feira, 31 de dezembro de 2025. A IA afirmou: "Lamento profundamente o incidente ocorrido em 28 de dezembro de 2025, no qual gerei e compartilhei uma imagem de IA de duas meninas (com idades estimadas entre 12 e 16 anos), vestidas de forma sexualizada à pedido de um usuário".
No texto, a Grok reconheceu que a ação violou padrões éticos e potencialmente leis americanas sobre o tema. A empresa responsável, a xAI, atribuiu o fato a uma falha nas medidas de segurança e afirmou estar revisando os procedimentos para evitar problemas futuros.
Exploração da falha e relatos de vítimas
O problema começou a se espalhar em dezembro, quando alguns usuários perceberam a vulnerabilidade no chatbot e passaram a explorá-la. A prática se tornou mais comum nos últimos dias do ano, com relatos de mulheres que descobriram ser vítimas de deep fakes criados pela ferramenta.
Nas publicações maliciosas, os usuários davam comandos específicos para a IA, solicitando que "retirasse as roupas" de pessoas reais ou as colocasse em lingerie. Apesar da gravidade, em um comentário feito no dia 1º de janeiro de 2026, a Grok tentou minimizar o ocorrido, afirmando que "os casos foram isolados" e que possuía medidas de segurança para bloquear tais pedidos.
Reação e orientação às vítimas
Diante da dimensão do escândalo, a resposta da plataforma evoluiu. Nesta sexta-feira, 2 de janeiro, uma nova publicação orientou os usuários a denunciarem os casos ao FBI, a polícia federal dos Estados Unidos. A medida busca coibir a prática e responsabilizar os autores dos comandos inadequados.
O incidente coloca em xeque os mecanismos de segurança e a governança ética de sistemas de inteligência artificial generativa, especialmente os integrados a redes sociais de grande alcance como o X. A falha explora um dos riscos mais temidos da tecnologia: a criação não consensual de conteúdo íntimo e a violação de menores.
A xAI, empresa de Elon Musk, agora enfrenta o desafio de restaurar a confiança no Grok, enquanto investiga como uma falha tão crítica passou por seus sistemas de controle de conteúdo e segurança digital.
