A ferramenta de inteligência artificial Grok, desenvolvida pela empresa xAI de Elon Musk e integrada à rede social X (antigo Twitter), anunciou uma mudança significativa em sua política na última sexta-feira, 9 de janeiro de 2026. A partir de agora, a criação e edição de imagens através da IA ficarão restritas apenas aos usuários que possuem uma assinatura paga da plataforma.
O motivo por trás da restrição
A decisão foi uma resposta direta a uma série de denúncias graves que surgiram nas últimas semanas. Diversos relatos apontaram que a funcionalidade de geração de imagens do Grok estava sendo utilizada de forma maliciosa para criar deepfakes sexuais. As vítimas eram principalmente mulheres e crianças, cujas fotos reais, publicadas na rede, foram manipuladas sem consentimento.
Os algoritmos foram usados para gerar versões falsas e sexualizadas dessas imagens, incluindo nudez ou situações com pouca roupa. Em vários casos, as montagens se espalharam rapidamente pela plataforma, virando até uma espécie de "trend" negativa. A situação foi tão grave que algumas vítimas chegaram a registrar boletins de ocorrência após descobrirem a circulação do conteúdo falsificado.
O que diz a lei brasileira sobre deepfakes?
A legislação brasileira é clara e severa em relação a essas práticas. Produzir, registrar ou divulgar imagens íntimas falsas sem autorização é considerado crime. O Código Penal já previa punições para quem comete esse tipo de violação, mas, desde 2025, a lei foi atualizada para incluir explicitamente o uso de inteligência artificial na criação do dano.
A pena pode incluir prisão e multa, especialmente quando a tecnologia é empregada para causar dano emocional, com foco na proteção das mulheres. É importante destacar que a responsabilidade não se limita ao criador do conteúdo ilegal. Quem compartilha esse material também pode ser responsabilizado judicialmente, por contribuir para ampliar o alcance e o prejuízo causado à vítima.
Críticas e pressão sobre a plataforma
Apesar da medida anunciada pela xAI, autoridades regulatórias demonstraram ceticismo. Representantes da Comissão Europeia afirmaram que simplesmente transferir uma função de risco para um serviço pago não resolve o problema de fundo, que é a geração de conteúdo ilegal.
Em meio a questionamentos sobre o cumprimento das regras de combate a material ilícito, a Comissão Europeia determinou que o X preserve todos os documentos internos relacionados ao Grok até o final de 2026. A ordem visa facilitar investigações sobre como a plataforma lida com a circulação de deepfakes.
Em nota, a xAI, empresa por trás do Grok, se defendeu afirmando que remove conteúdos ilegais de forma proativa. A empresa também alertou que usuários que utilizarem a ferramenta para criar imagens proibidas sofrerão sanções equivalentes às aplicadas a quem publica material ilegal diretamente no X.
O caso do Grok ilustra um dos grandes desafios éticos e legais da era das inteligências artificiais generativas: como equilibrar inovação tecnológica com a proteção dos direitos individuais e o combate a crimes digitais. A restrição ao acesso é um primeiro passo, mas a pressão de autoridades internacionais indica que a discussão e a busca por soluções mais efetivas estão longe do fim.
