Um pastor da Flórida entrou com uma ação judicial contra a OpenAI, alegando que o chatbot ChatGPT forneceu recomendações médicas perigosas que quase o levaram à morte. Segundo o processo, o pastor consultou o ChatGPT sobre sintomas que estava sentindo, e o chatbot garantiu que não eram graves, desencorajando-o a procurar atendimento médico. Posteriormente, ele foi diagnosticado com uma embolia pulmonar, uma condição potencialmente fatal.
Detalhes da ação judicial
A ação foi protocolada no Tribunal Superior da Califórnia e acusa a OpenAI de negligência e exercício ilegal da medicina. O pastor alega que confiou nas informações fornecidas pelo ChatGPT, que minimizou os riscos de seus sintomas. Como resultado, ele atrasou a busca por tratamento médico, o que agravou sua condição. O caso levanta questões sobre a responsabilidade das empresas de tecnologia quando seus produtos oferecem conselhos de saúde.
Defesa da OpenAI
A OpenAI, por sua vez, argumenta que os termos de uso do ChatGPT deixam claro que a ferramenta não foi projetada para fornecer diagnósticos médicos. A empresa afirma que o chatbot é um assistente de IA geral e que os usuários devem consultar profissionais de saúde qualificados para questões médicas. A defesa também destaca que o ChatGPT exibe avisos de que não substitui aconselhamento médico profissional.
Impacto e precedentes
Este caso pode estabelecer um precedente importante para a responsabilidade legal de chatbots de IA em questões de saúde. Especialistas apontam que, embora as empresas incluam isenções de responsabilidade, a confiança do público em ferramentas de IA pode levar a consequências graves. A ação busca indenização por danos físicos e emocionais, além de custos médicos. O julgamento ainda não tem data marcada.
