A Meta anunciou nesta terça-feira novos recursos de segurança para limitar conteúdos potencialmente prejudiciais exibidos a adolescentes no Instagram, Facebook e Messenger. Essa é a primeira grande mudança de política desde que a empresa foi considerada responsável, em março, por prejudicar uma jovem com o design de suas plataformas.
Limitação de conteúdo sensível
Os novos recursos vão limitar a frequência com que adolescentes veem publicações sobre temas como nutrição, musculação e ansiedade em seus feeds, disse a Meta, ampliando um esforço mais amplo de segurança para esse público anunciado em outubro. Esse tipo de conteúdo "pode ser útil, mas precisa ser equilibrado com outros tipos de conteúdo, e não exibido repetidas vezes", afirmou a Meta em comunicado. "Por isso estamos testando maneiras de impedir que adolescentes vejam muitos posts desse tipo de uma vez só."
Expansão do sistema de classificação
Em outubro, a Meta lançou um sistema de classificação de conteúdo no Instagram inspirado nas faixas etárias usadas em filmes; agora esse sistema está sendo expandido para adolescentes no Facebook e no Messenger. Centenas de milhões de adolescentes usam os apps da Meta, que também incluem o WhatsApp, todos os dias. As mudanças fazem parte do programa Teen Accounts, criado em 2024, que passou a tornar automaticamente privados os perfis de usuários adolescentes e deu mais controle aos pais sobre as contas dos filhos.
Contexto de pressão legal
A Meta enfrenta questionamentos sobre segurança infantil há mais de uma década, mas está sob crescente pressão por causa de milhares de processos movidos por pais, procuradores-gerais estaduais e distritos escolares — dois dos quais perdeu recentemente. Em março, um júri em Los Angeles considerou a Meta e o YouTube responsáveis por prejudicar uma jovem com recursos como rolagem infinita e filtros de beleza. No mesmo mês, um júri no Novo México determinou que a Meta pagasse US$ 375 milhões por violar leis estaduais de proteção ao consumidor, incluindo facilitar exploração sexual, em um processo movido pelo procurador-geral do estado.
Parcerias e moderação
A Meta disse nesta terça-feira que trabalhou com a Alice, uma organização dedicada a confiança e segurança online, para medir a eficácia de suas políticas. A empresa afirmou ainda que pediu a pais que avaliassem milhões de conteúdos para ajudar a calibrar seu sistema de moderação. Em outubro, a Meta também havia anunciado políticas de segurança relacionadas a chatbots de inteligência artificial, em meio à crescente preocupação de que a tecnologia estivesse prejudicando usuários jovens. Em janeiro, a empresa bloqueou a possibilidade de adolescentes enviarem mensagens para personagens de IA do Instagram, que são chatbots com diferentes personalidades.
Restrições em chatbots
Agora, conversas entre adolescentes e o chatbot Meta AI passam a ter os mesmos tipos de restrição de conteúdo do sistema de classificação "estilo cinema" da companhia. As mudanças refletem um esforço contínuo da Meta para responder às críticas e melhorar a segurança dos jovens usuários em suas plataformas.
