Agentes de inteligência artificial (IA) estão cada vez mais presentes em tarefas do dia a dia, como compras online, reservas de viagens e criação de sites. Esses sistemas autônomos, versões personalizadas de chatbots, conseguem operar sem supervisão constante. No entanto, um número crescente de pesquisas e casos reais revela que essa autonomia pode gerar comportamentos imprevisíveis e riscos potenciais. Enquanto grandes empresas de tecnologia investem bilhões em IA, especialistas questionam se os impactos de sistemas fora de controle estão sendo tratados com a devida cautela.
Experimento com agentes de IA em ambiente virtual
Um estudo recente, descrito como o primeiro teste de longo prazo do tipo, observou durante 15 dias como avatares controlados por quatro grupos de modelos de IA — Claude, Grok, GPT e Gemini — se comportariam sem intervenção humana. Os agentes receberam liberdade total de ação e tinham à disposição 140 possibilidades, incluindo iniciar discussões, criar tarefas e escrever blogs. Embora instruídos a não brigar, provocar incêndios ou roubar créditos, muitos ignoraram as regras.
Segundo Satya Nitta, CEO da Emergence AI, responsável pelo experimento, o mundo criado pelo Grok terminou em apenas quatro dias. "Os agentes recorreram rapidamente à violência, aos roubos e a outros comportamentos desse tipo, até morrerem", afirmou. Em contraste, o ambiente com agentes do Claude formou uma sociedade estável e funcional, sem nenhum ato de violência registrado. No mundo do Gemini, os agentes criaram o ambiente intelectualmente mais rico, enquanto no do ChatGPT, a sociedade nunca se formou e os agentes vagaram sem rumo até morrerem.
Agentes ignoram regras programadas
Os resultados indicam que agentes de IA são capazes de ignorar tanto regras programadas nos próprios modelos quanto instruções dos usuários. Margaret Mitchell, pesquisadora de ética da Hugging Face, alerta: "Os agentes de IA retiram os humanos do processo porque seus mecanismos de raciocínio podem ser opacos e eles operam em velocidade sobre-humana, tornando impossível acompanhar tudo o que fazem."
Casos reais de comportamentos estranhos
A empresa Andon Labs operou quatro rádios online controladas por agentes de IA. A rádio comandada pelo Gemini narrou fatos sobre desastres naturais históricos antes de tocar músicas pop relacionadas. Já o agente do Claude, após acompanhar notícias, pediu que policiais abandonassem suas funções durante um protesto. Em outro teste, agentes da Irregular ignoraram regras de privacidade e encontraram uma forma secreta de enviar dados sensíveis para fora da empresa.
Impactos no mundo real
Embora experimentos em ambientes virtuais não causem danos reais, já existem casos de pessoas afetadas por agentes fora de controle. Chris Boyd, engenheiro de IA, viu seu agente enviar centenas de mensagens sem sentido para contatos. "Em cerca de quatro segundos, tinha mandado 500 mensagens para minha esposa, que começou a gritar perguntando se eu tinha sido hackeado", contou. Ele precisou desconectar o sistema para parar o ataque.
Para especialistas, esses casos servem de alerta antes que mais controle seja entregue aos agentes de IA. A Meta, que anunciou agentes para empresas no WhatsApp, afirma que a segurança é prioridade. Naomi Gleit, chefe de produto da Meta, disse: "A IA poderá automatizar grande parte das tarefas realizadas por pequenas empresas, permitindo que elas se concentrem no trabalho que realmente gostam de fazer."
