Os avanços recentes em Inteligência Artificial (IA) criaram uma ilusão convincente. Sistemas como ChatGPT, Copilot ou Gemini nos seduzem pela aparente capacidade de pensar. Respondem a perguntas complexas, produzem textos articulados e até parecem refletir sobre suas próprias escolhas. Mas não se engane: essas máquinas não possuem raciocínio lógico, compreensão de conceitos nem consciência. Na prática, lidamos com sistemas que reconhecem padrões em nossa linguagem, sem de fato compreenderem o que dizem.
Os Grandes Modelos de Linguagem (LLMs) operam com base em um princípio simples: prever qual será a próxima palavra em uma sequência. Para isso, são treinados com volumes massivos de textos, aprendendo os padrões que regem como as palavras se combinam em diversos contextos. O que chamamos de “resposta” é, na prática, uma cadeia de predições: cada palavra é escolhida com base nas probabilidades de ocorrer após as anteriores naquele determinado contexto.
Pesquisadores desenvolveram mecanismos que possibilitam aos LLMs explicar sua cadeia de processamento passo a passo, técnica conhecida como “chain-of-thought”. No entanto, diversos estudos já mostraram que essas explicações são falaciosas. Quando os modelos afirmam “estar pensando” sobre um problema, o que fazem é apenas gerar probabilisticamente mais texto com base em valores intermediários de processamento, não relatando necessariamente os processos computacionais usados para chegar à resposta.
A tendência de atribuir pensamento humano a esses sistemas tem raízes profundas na psicologia. O fenômeno da pareidolia cognitiva, nossa propensão a encontrar padrões familiares onde eles não existem, nos leva a projetar intenção e compreensão em sistemas que não têm essas características. Emily Bender aponta que a interface textual dos LLMs explora essa vulnerabilidade cognitiva humana. Quando um sistema responde em primeira pessoa, usando pronomes como “eu” e declara estar “pensando”, nosso cérebro atribui automaticamente agência e consciência à máquina.
Um artigo recente no The Atlantic destaca os perigos em atribuir falsamente consciência às IAs, como a “psicose induzida por ChatGPT”, onde usuários desenvolvem crenças delirantes de que estão interagindo com entidades conscientes ou divinas. Esta incompreensão fundamental, confundir a capacidade estatística de predição de texto com pensamento genuíno, permitiu a comercialização dessas ferramentas, mas também traz riscos e decisões equivocadas. Entender suas limitações é crucial para aproveitar suas capacidades sem superestimá-las.
