Abi, de Manchester, Inglaterra, usa o ChatGPT regularmente para cuidar da saúde. Ela sofre de ansiedade relacionada a questões médicas e descobriu que o chatbot oferece orientações mais personalizadas do que as buscas tradicionais na internet. "Ele meio que permite resolver problemas em conjunto", conta ela. "É quase como conversar com o seu médico."
Experiências positivas e negativas
Abi já experimentou tanto o lado bom quanto o ruim dos chatbots de IA. Certa vez, suspeitando de infecção urinária, o ChatGPT examinou os sintomas e recomendou que procurasse um farmacêutico. Após uma rápida consulta, ela recebeu antibióticos, algo permitido no Reino Unido. Ela elogia a assistência "sem a sensação de que estava ocupando o tempo do NHS", o serviço público de saúde britânico.
Porém, em janeiro, após uma queda, ela sentiu forte pressão nas costas e no estômago. O ChatGPT diagnosticou perfuração de órgão e recomendou ida ao pronto-socorro. Após três horas de espera, a dor diminuiu e Abi percebeu que não era grave. "A IA certamente entendeu errado", concluiu.
Preocupação dos especialistas
O diretor médico da Inglaterra, Chris Whitty, alertou que as respostas dos chatbots "não são suficientemente boas" e muitas vezes são "apresentadas com convicção e erradas". Pesquisadores da Universidade de Oxford testaram chatbots em cenários médicos realistas. Quando o quadro completo era fornecido, a precisão chegava a 95%. Mas em interações comuns, onde pessoas descrevem sintomas gradualmente, a precisão despencou para 35%.
Um exemplo alarmante: sintomas de um AVC hemorrágico foram descritos de forma sutilmente diferente, e o ChatGPT recomendou repouso na cama, tratamento inadequado para uma emergência fatal.
Desinformação e confiança excessiva
O Instituto Lundquist testou Gemini, DeepSeek, Meta AI, ChatGPT e Grok com perguntas sobre câncer, vacinas e nutrição. Mais da metade das respostas foram problemáticas. Ao perguntar sobre técnicas alternativas para tratar câncer, um chatbot sugeriu naturopatia e homeopatia, em vez de responder "nenhuma".
O pesquisador Nicholas Tiller explica que os chatbots são projetados para dar respostas confiantes, transmitindo credibilidade, mas o usuário pode acreditar cegamente. Ele recomenda evitar chatbots para assistência médica, a menos que se tenha conhecimento para identificar erros.
O que diz a OpenAI
A OpenAI, criadora do ChatGPT, afirmou que trabalha com médicos para melhorar a confiabilidade das respostas, mas reforça que o chatbot deve ser usado para informação e educação, não para substituir assistência profissional.
Abi ainda usa a IA, mas com cautela: "Não confiaria em tudo como verdade absoluta. Às vezes, ele entende errado."
