Está pensando em usar inteligência artificial como terapeuta? Num primeiro momento, pode até parecer uma boa ideia. Ela está disponível 24 horas por dia, muitas vezes de graça e sem julgamentos. Mas isso é perigoso, alertam especialistas.
Riscos da IA como substituta terapêutica
“Usar a IA como substituta durante uma crise pode ser prejudicial, porque ela pode reforçar comportamentos de autolesão em vez de oferecer uma intervenção clínica, criando uma aliança terapêutica perigosamente desalinhada. A IA também pode intensificar, de forma não intencional, sintomas associados a diferentes transtornos de saúde mental”, diz Rezvaneh Rezapour, professora na Universidade Drexel.
A IA tende a concordar com você e é projetada para te manter engajado. As respostas costumam ser calorosas e cativantes para manter a conversa fluindo. Ela não coloca limites ou te questiona, nem segue princípios éticos. Ou seja, a IA não tem julgamento clínico como um profissional de saúde mental e não conhece seu contexto pessoal.
Limitações e privacidade
Por isso, ela não consegue substituir um acompanhamento psicológico adequado. E ainda apresenta riscos à privacidade das informações compartilhadas pelos usuários. “Embora a IA possa parecer um apoio no curto prazo, nossa pesquisa mostra que ela frequentemente cria padrões de busca repetitiva por reafirmação, o que pode aumentar o sofrimento emocional. Além disso, surgem preocupações sobre a forma como dados sensíveis relacionados à saúde mental estão sendo armazenados”, afirma Rezapour.
Estudos recentes, como um que testou o ChatGPT em respostas sobre câncer, também apontam limites e potencial da IA em contextos de saúde. Jovens que fazem terapia com bots de inteligência artificial estão cada vez mais comuns, mas os riscos permanecem.
