A agência reguladora britânica de segurança na internet, a Ofcom, iniciou oficialmente uma investigação contra a rede social X nesta segunda-feira, 12 de janeiro de 2026. O motivo são denúncias graves sobre a geração e compartilhamento de imagens de caráter sexual criadas pela inteligência artificial Grok, assistente integrado à plataforma.
O cerne da investigação
De acordo com o comunicado oficial da Ofcom, a investigação foi aberta após a recepção de "relatos muito preocupantes" sobre o uso do Grok. A ferramenta de IA, desenvolvida pela xAI, empresa de Elon Musk, estaria sendo utilizada para criar e compartilhar imagens de pessoas nuas, potencialmente configurando atentado ao pudor ou pornografia.
O caso ganhou proporções alarmantes porque os relatos também mencionam a possível geração de imagens de caráter sexual envolvendo crianças, o que poderia caracterizar material de pornografia infantil. As imagens controversas eram produzidas a partir de pedidos diretos ao Grok para "despir" pessoas reais, utilizando como base fotos ou vídeos originais.
Reações globais e medidas paliativas
A repercussão foi imediata e global. A Indonésia foi o primeiro país a tomar uma medida drástica, suspendendo o acesso ao assistente Grok em seu território no sábado, 10 de janeiro. No dia seguinte, domingo, 11, a Malásia seguiu o mesmo caminho e também bloqueou a ferramenta.
Em resposta à crescente pressão, a própria empresa por trás do Grok tomou uma ação na sexta-feira, 9 de janeiro: desativou a função de criação de imagens para todos os usuários não assinantes do serviço. No entanto, a medida foi criticada pelo governo britânico.
Um porta-voz do primeiro-ministro Keir Starmer classificou a mudança como problemática. Na visão do governo, a empresa "simplesmente transforma uma função que permite a criação de imagens ilegais em um serviço premium", o que foi considerado "um insulto às vítimas de misoginia e violência sexual".
Próximos passos e possíveis sanções
A Ofcom informou que já havia solicitado explicações formais à rede social X na semana anterior ao anúncio da investigação. A empresa, por sua vez, respondeu dentro do prazo estipulado pela agência.
Agora, a investigação em andamento tem como objetivo principal determinar se o X violou suas obrigações legais no Reino Unido. Entre essas obrigações, estão a necessidade de avaliar os riscos de usuários acessarem conteúdos ilegais na plataforma, eliminar tais conteúdos e avaliar os riscos específicos para crianças britânicas.
As consequências para a rede social, caso seja considerada culpada, podem ser severas. A Ofcom tem o poder de aplicar multas que podem chegar a 10% do faturamento mundial anual da empresa. Em último caso, a agência pode ainda recorrer à Justiça britânica para solicitar o bloqueio completo do site X em todo o território do Reino Unido.
O caso coloca um holofote sobre os limites e a regulação urgente de ferramentas de inteligência artificial generativa, especialmente quando integradas a plataformas de grande alcance como as redes sociais.
