ChatGPT Health: Ferramenta de IA para saúde divide opiniões de especialistas
A OpenAI, empresa responsável por tecnologias de inteligência artificial, introduziu no início de janeiro o ChatGPT Health, uma nova ferramenta que permite aos usuários esclarecerem dúvidas específicas sobre saúde. No entanto, entre médicos e especialistas em IA consultados, não há um consenso claro sobre os potenciais impactos do uso deste recurso.
Divergências sobre a eficácia e riscos
Alguns profissionais consideram a novidade promissora, enquanto outros expressam preocupações significativas. Eles argumentam que as respostas do chatbot podem ser imprecisas, o que acende um alerta sobre a qualidade das informações fornecidas e a responsabilização em casos de falhas.
Segundo a OpenAI, o ChatGPT Health tem um caráter puramente informativo e educacional. A empresa enfatiza que a ferramenta não é destinada para diagnóstico ou tratamento médico, nem deve substituir o atendimento profissional de saúde. Em uma nota oficial, a empresa explica: "A ferramenta pode ajudar a pessoa a organizar dúvidas, interpretar informações e se sentir mais preparada para conversas com profissionais de saúde."
Posicionamento do Conselho Federal de Medicina
O CFM (Conselho Federal de Medicina) também emitiu uma declaração, afirmando que o ChatGPT Health pode ser útil como um instrumento adicional para orientar pacientes. No entanto, o conselho ressalta que ele "jamais deve substituir o exame clínico, o julgamento médico ou a responsabilidade profissional".
Alertas de especialistas em saúde
O médico André Costa, especialista em clínica médica e diretor de operações da Rede Mater Dei de Saúde, alerta para os riscos de as pessoas substituírem uma consulta profissional por uma análise feita por IA. "Hoje, 90% do diagnóstico clínico aparece durante a anamnese. Na consulta, usamos diversas técnicas para confirmar ou afastar a suspeita de um diagnóstico", explica.
Lara Salvador, diretora de inovação e experiência na mesma rede, complementa que o uso da ferramenta pode levar a interpretações incorretas de sintomas e exames. Ela também cita os riscos de confiar excessivamente em respostas automatizadas: "A IA não tem acesso ao contexto clínico completo, não faz exame físico nem acompanha a evolução do quadro, elementos essenciais para tomadas de decisões".
Questões de responsabilidade e alucinações da IA
Gustavo Zaniboni, fundador da empresa de consultoria em inteligência artificial Redcore, levanta questões importantes sobre responsabilização em caso de erros. "Se um médico erra e o paciente morre, ele sofrerá um tipo de punição. Agora, se a IA erra e o paciente vai a óbito, de quem é a responsabilidade? Ela continua em operação? E se o erro for uma característica, como é o caso das alucinações nos algoritmos de IA generativa?"
As alucinações ocorrem quando a inteligência artificial "inventa" ou distorce fatos para criar respostas que soam lógicas e fluidas, um fenômeno conhecido em modelos generativos.
Treinamento e desenvolvimento da ferramenta
Em nota, a OpenAI afirma que treinou o ChatGPT Health com mais de 260 médicos de 60 países, incluindo profissionais brasileiros. Esses especialistas forneceram feedback sobre os resultados do modelo mais de 600 mil vezes em 30 áreas de foco. A empresa destaca que a ferramenta foi desenvolvida em "estreita colaboração com médicos", diferentemente da versão aberta, que utiliza dados das próprias conversas para treinar a plataforma.
Preocupações com qualidade de dados e contexto
Para Emir Vilalba, responsável pelo setor de saúde da Semantix, empresa de tecnologia focada em IA, é crucial estar atento à qualidade das informações obtidas. "Não temos como garantir a procedência e coerência desses dados. Por isso é necessário cautela, sem tratar [as respostas] como um diagnóstico final", afirma.
Nuria López, professora de direito digital da Universidade Presbiteriana Mackenzie e cofundadora da Technoethics, ressalta que qualquer ferramenta pode cometer erros e imprecisões, pois não possui o contexto completo do paciente ou a experiência profissional de um humano. "Acho importante que as pessoas percebam que a ferramenta é isso, apenas uma ferramenta", diz.
Disponibilidade e questões de privacidade de dados
A OpenAI informa que o ChatGPT Health está sendo disponibilizado inicialmente para um pequeno grupo de usuários, com expansão gradual do acesso, sem prioridade para um grupo específico. Quanto à integração com prontuários eletrônicos, esse recurso está disponível apenas nos Estados Unidos, sem prazos definidos para chegar ao Brasil.
No Brasil, a nova ferramenta exige consentimento explícito do usuário para tratamento das informações de saúde, em conformidade com a LGPD (Lei Geral de Proteção de Dados). Ainda assim, informações de cidadãos brasileiros sob a guarda de empresas estrangeiras levantam discussões sobre soberania e segurança dos dados.
Isso ocorre devido à existência da lei americana Cloud Act, que permite que autoridades dos Estados Unidos solicitem dados armazenados por empresas de tecnologia, mesmo que estejam fora do país. No Brasil, há um esforço por parte do governo do presidente Luiz Inácio Lula da Silva (PT) para garantir que as informações dos brasileiros fiquem sob jurisdição nacional.
A gestão já destinou R$ 1,2 bilhão a contratos com gigantes da tecnologia americanos e chineses para construir a chamada nuvem soberana, prevista no PBIA (Plano Brasileiro de Inteligência Artificial).
Vantagens potenciais da ferramenta
Quanto às vantagens, os especialistas afirmam que o ChatGPT Health pode ajudar aqueles que não têm acesso fácil a médicos. Para López, a ferramenta deve ser capaz de oferecer resultados mais seguros do que pesquisas aleatórias na internet ou outras ferramentas gratuitas, que podem entregar informações esparsas, erradas e sem fatores de proteção dos dados.
"A nova ferramenta, por ter um treinamento mais especializado, tem condições de fornecer uma boa informação e empoderar o paciente", afirma. "Pessoas que não têm suporte médico adequado podem ter alguma informação importante que ajude em ação de primeiros socorros ou problemas simples", complementa Zaniboni.
Impacto e futuro da IA na saúde
De acordo com a OpenAI, mais de 230 milhões de pessoas no mundo todo fazem perguntas sobre saúde e bem-estar no ChatGPT toda semana. Para Zaniboni, essas inovações representam um "caminho sem volta". "Vai ser como a eletricidade, vai estar em tudo", conclui, destacando a tendência crescente de integração da IA em diversos setores, incluindo a saúde.
