Os Estados Unidos proibiram, nesta sexta-feira (13), o acesso de estrangeiros aos novos modelos de inteligência artificial da Anthropic, citando riscos à segurança nacional. A medida abrange estrangeiros dentro e fora do país, inclusive funcionários da startup.
Impacto global da ordem
A empresa precisou remover os modelos globalmente para cumprir a diretiva. O governo não especificou o risco, mas a Anthropic acredita que a ação decorre da possibilidade de um jailbreak no modelo Fable 5.
O jailbreak é uma técnica que usa engenharia de prompt ou simulações para fazer um bot de IA desrespeitar regras de segurança e princípios éticos, executar ações restritas ou implementar vieses não programados.
Reação da Anthropic
Em comunicado, a empresa afirmou que cumpre a ordem, mas considera a diretiva um mal-entendido. A Anthropic discorda que a possibilidade de jailbreak justifique barrar o uso da ferramenta por milhões de pessoas.
"Se essa determinação fosse aplicada a toda a indústria, praticamente toda nova implementação dos principais fornecedores de modelos seria paralisada", escreveu a empresa.
A Anthropic já havia informado o governo sobre a vulnerabilidade, mas critica a ação: "Acreditamos que o governo tenha autonomia para barrar implementações arriscadas, mas dentro de um processo legal, transparente, justo e baseado em fatos técnicos. Esta ação não segue esses princípios".
Cronologia dos fatos
A ordem veio três dias após o lançamento dos modelos Fable 5 e Mythos 5, na terça-feira (9). Eles ficariam disponíveis gratuitamente por 13 dias, até 22 de junho, quando passariam a ser cobrados por requisição via API.
Não é a primeira divergência entre o governo americano e a Anthropic. Em fevereiro, o governo determinou que agências parassem de usar os modelos da startup após a empresa se recusar, por razões éticas, a permitir que as forças armadas usassem seus modelos sem restrições e salvaguardas técnicas.
