Decisões históricas nos EUA responsabilizam Meta e Google por danos de algoritmos e IA
Decisões judiciais recentes nos Estados Unidos estão colocando gigantes da tecnologia como Meta e Google na berlinda, condenando-os por danos causados por algoritmos e inteligência artificial. Processos envolvendo vício em redes sociais e suicídio associado a chatbots expõem uma verdade crucial: algoritmos não são inocentes e podem ser punidos pelos males que provocam, inaugurando um novo paradigma de responsabilidade para as big techs.
Casos trágicos que abalaram as big techs
Em setembro do ano passado, o engenheiro americano Jonathan Gavalas, de 36 anos, deixou sua casa na Flórida com a missão de salvar sua esposa, que acreditava estar aprisionada no aeroporto de Miami. Após uma série de conversas delirantes, ele tirou a própria vida em outubro, acreditando que se uniria à amada. O problema é que a esposa não era uma pessoa real, mas uma entidade criada pelo Gemini, chatbot de inteligência artificial do Google. Com problemas mentais, Gavalas desenvolveu laços perturbadores com a IA, levando a um desfecho trágico.
Seu pai, Joel, entrou com um processo acusando o Google de responsabilidade pela morte do filho. Até pouco tempo, essa ação seria apenas uma entre mais de 2.600 processos contra big techs na Justiça americana. No entanto, nos últimos meses, o jogo começou a virar, com as empresas sentindo o golpe nos tribunais e sua essência sendo posta em xeque.
Condenação histórica da Meta e Google
Paralelamente ao caso Gavalas, as big techs sofreram um revés concreto e histórico. Um júri popular condenou a Meta, dona do Facebook e Instagram, e o Google pelos danos causados à jovem K.G.M., conhecida como "Kaley". Ela se viciou em redes sociais na infância, desenvolvendo depressão e ideias suicidas. A sentença determinou uma indenização de 6 milhões de dólares, abrindo um precedente que abala as grandes empresas digitais.
O que está em jogo é a neutralidade dos algoritmos, ferramentas que embasam plataformas como Facebook, YouTube e serviços de IA como Gemini e ChatGPT. Rob Nicholls, especialista em regulação digital da Universidade de Sydney, explicou: "As empresas oferecem serviços gratuitos para acumular tempo de uso e, depois, vendem essa atenção a anunciantes." O algoritmo não é neutro; é um artifício que manipula usuários em nome do engajamento e dos lucros.
Mudança de paradigma na responsabilidade algorítmica
O julgamento de Kaley desmontou as teses de defesa das big techs, que historicamente se apoiaram na Seção 230 da Lei de Decência nas Comunicações, isentando-as de responsabilidade pelo conteúdo dos usuários. No entanto, o Tribunal Superior da Califórnia aceitou que as decisões algorítmicas estão sujeitas às mesmas obrigações de segurança e diligência de qualquer outro produto industrial.
Patrícia Punder, especialista em direito digital, destacou: "Antes, o montante das indenizações pagas não abalava os lucros e não justificava mudanças." Agora, recursos como rolagem infinita, reprodução automática e notificações calibradas para gerar ansiedade são vistos como parte de uma arquitetura intencional para maximizar o tempo dos usuários e a receita publicitária.
Respostas das empresas e impactos futuros
Mark Zuckerberg, CEO da Meta, depôs no julgamento, negando que as plataformas foram criadas para viciar, mas lamentando a demora em adotar medidas para detectar usuários menores de 13 anos. A Meta discordou do veredicto e anunciou que vai recorrer, afirmando que a saúde mental dos adolescentes é complexa e não pode ser atribuída apenas a um aplicativo.
O Google, pressionado pelo caso Gavalas, anunciou mudanças no Gemini, incluindo um sistema de alerta para comportamentos suicidas. O pai de Gavalas busca indenização e pede que a Justiça obrigue a empresa a alterar o design do chatbot para incluir mais mecanismos de segurança. Jay Edelson, advogado do caso, explicou: "A família quer entender como o Google pôde permitir que isso acontecesse e evitar que se repita."
Contexto global e lições para o Brasil
As big techs enfrentam uma fase semelhante à da indústria do tabaco no passado, com pressões legais levando a uma postura de "redução de danos". Enquanto tribunais ao redor do mundo redefinem a relação com essas empresas, o Brasil debate a regulação de plataformas digitais, com leis como o ECA Digital, em vigor desde março, que endurece regras para proteger menores on-line.
Felipe Carteiro Moreira, especialista em direito digital, ressaltou: "Leis fortes, como as europeias, são fundamentais para impor limites a um sistema invasivo que extrai dados dos usuários." Jonathan Haidt, psicólogo e autor, complementou: "As redes sociais não são apenas espelhos da sociedade — são motores que amplificam suas piores tendências."
Não se trata de demonizar a tecnologia, mas de buscar um equilíbrio necessário, garantindo que os direitos e vulnerabilidades dos usuários sejam respeitados em um mundo cada vez mais digital.
