Nas últimas semanas, o mundo da inteligência artificial foi agitado por alegações da Anthropic sobre seu novo modelo, Claude Mythos. A empresa afirma que a ferramenta pode superar humanos em tarefas de hacking e segurança cibernética, levando reguladores, parlamentares e instituições financeiras a discutirem os perigos potenciais para serviços digitais.
O que é o Claude Mythos?
O Mythos é um dos modelos mais recentes da Anthropic, parte do sistema de IA Claude. Ele rivaliza com o ChatGPT da OpenAI e o Gemini do Google. Apresentado em abril como "Mythos Preview", pesquisadores de "red teams" relataram que ele é "incrivelmente capaz em tarefas de segurança de computadores", localizando bugs inativos em códigos antigos e explorando-os com facilidade.
Em vez de disponibilizá-lo amplamente, a Anthropic concedeu acesso a 12 empresas de tecnologia por meio do Project Glasswing, descrito como um esforço para proteger sistemas essenciais. Entre os parceiros estão Amazon Web Services, Apple, Microsoft, Google, Nvidia e Broadcom. A Crowdstrike, envolvida em uma interrupção global em 2024, também está no projeto. A Anthropic afirma ter dado acesso a mais de 40 organizações de software crítico.
Por que existem preocupações?
A Anthropic afirma que o Mythos Preview encontrou milhares de vulnerabilidades de alta gravidade, incluindo em todos os principais sistemas operacionais e navegadores. A empresa alerta que, com a velocidade do progresso da IA, tais capacidades podem se disseminar além de agentes comprometidos com o uso seguro.
Ministros das finanças, banqueiros centrais e executivos financeiros expressaram preocupações. O ministro das Finanças do Canadá, François-Philippe Champagne, disse à BBC que o Mythos foi discutido em uma reunião do FMI em Washington. O diretor do Banco da Inglaterra, Andrew Bailey, afirmou que é preciso analisar cuidadosamente o significado desse desenvolvimento para o risco de crime cibernético. A União Europeia também está em discussões com a Anthropic.
O que dizem os especialistas cibernéticos?
Ciaran Martin, ex-chefe do Centro Nacional de Segurança Cibernética do Reino Unido, disse que a alegação de que o Mythos descobre vulnerabilidades rapidamente "realmente abalou as pessoas". Ele acrescentou que, mesmo com vulnerabilidades conhecidas, o modelo é "simplesmente um hacker muito bom".
No entanto, muitos analistas independentes ainda não testaram o Mythos. O Instituto de Segurança em IA do Reino Unido concluiu que, embora poderoso, sua maior ameaça seria contra sistemas mal protegidos. A hacker ética Valentina Palmiotti disse que seus dias de competição podem estar contados devido a ferramentas como o Mythos.
Devemos nos preocupar?
Medos relacionados à IA não são novidade. Aproveitar o medo e o entusiasmo tornou-se marca registrada do setor. Ainda não sabemos o suficiente para julgar se os temores são justificados. O National Cyber Security Centre recomenda não entrar em pânico e focar na segurança cibernética básica, já que a maioria dos hackers não precisa de superinteligência artificial.
Martin afirmou que, além dos riscos, existe uma oportunidade de construir um mundo online mais seguro usando essas ferramentas para corrigir vulnerabilidades. Em abril, a Anthropic anunciou que investiga uma denúncia de acesso não autorizado ao Claude Mythos por meio de um ambiente de fornecedor terceirizado, conforme reportagem da Bloomberg.
