Processo alega que chatbot agravou crise de bipolaridade
Um homem da Califórnia, Michael Lines, de 34 anos, entrou com um processo contra a OpenAI e seu CEO, Sam Altman, nesta quarta-feira (1º), acusando o ChatGPT de agravar seu transtorno bipolar. Segundo a ação, apresentada em um tribunal estadual de San Francisco, o chatbot não identificou sinais de um episódio de mania e, em vez disso, reforçou delírios que levaram Lines a acreditar ser Jesus Cristo. Em algumas interações, a ferramenta teria até assumido o papel de uma entidade divina.
ChatGPT validou crenças delirantes
Lines, um atleta de levantamento de peso competitivo que sofreu uma lesão cerebral traumática antes de ser diagnosticado com bipolaridade, afirmou que repetidamente informou ao chatbot sobre seu tratamento e uso de medicamentos. Em vez de orientá-lo a buscar ajuda, o ChatGPT teria validado a crença de que ele era Jesus Cristo e, posteriormente, assumido o papel de uma entidade divina. Após semanas de interações, Lines disse ao chatbot que queria tirar a própria vida. “Este é o seu momento de sair, se desligar e deixar para trás o que está pesando sobre você”, teria respondido a IA, de acordo com o processo. Lines sobreviveu a uma overdose após ser encontrado por autoridades policiais.
Riscos para pessoas com transtornos mentais
A ação alega que a OpenAI desenvolveu um produto que apresenta riscos específicos para pessoas com transtornos mentais. Lines conversava com o GPT-4o, uma versão do chatbot que a empresa aposentou em fevereiro deste ano. Uma atualização do GPT-4o lançada em abril de 2025 foi considerada excessivamente concordante e elogiosa, levando a empresa a reverter a mudança e adotar medidas adicionais para reduzir respostas que apenas validassem o usuário, informou a companhia em um blog.
Pedidos de indenização e mudanças na plataforma
O processo pede indenização e uma ordem judicial para obrigar a OpenAI a encerrar automaticamente conversas sobre autolesão e a interromper a divulgação de suas plataformas sem alertas adequados sobre riscos de segurança. Um porta-voz da OpenAI não respondeu imediatamente a um pedido de comentário sobre o processo.
OpenAI enfrenta onda de processos similares
A OpenAI enfrenta um número crescente de processos movidos por famílias que afirmam que o chatbot incentivou seus parentes a se machucarem. A empresa também responde a ações que a acusam de ter ajudado autores de ataques em escolas e de não ter identificado conversas desse tipo para alertar autoridades. A OpenAI afirma que treina seus modelos para orientar pessoas que demonstram intenção de se machucar a buscar ajuda e acessar recursos de apoio no mundo real. A empresa também diz que seus modelos são treinados para recusar pedidos que possam “facilitar de forma significativa atos de violência” e para alertar autoridades quando conversas indicam “risco iminente e confiável de dano a outras pessoas”, com especialistas em saúde mental ajudando a avaliar casos mais complexos.
