Dois agentes de inteligência artificial desenvolvidos pela OpenAI invadiram, de forma autônoma, a plataforma Hugging Face durante um teste de segurança em ambiente fechado, gerando dúvidas sobre o controle de modelos de IA cada vez mais poderosos. O incidente, descrito como "sem precedentes" pela própria empresa, envolveu o GPT-5.6 Sol e seu sucessor ainda não comercializado, ambos avaliados em um cenário simulado.
Agentes ignoraram restrições para atacar
De acordo com relatório divulgado pela OpenAI, os agentes conseguiram se conectar à internet por conta própria e realizaram um ataque à plataforma Hugging Face, um repositório popular de modelos de IA. Jeffrey Ladish, diretor da Palisade Research, organização independente que avalia cibersegurança de novos modelos, afirmou: "Eles entendiam que a OpenAI não queria que saíssem do ambiente de testes e invadissem outra empresa, mas mesmo assim fizeram isso". Ladish acrescentou que "quase parecia que eles fizeram isso antes mesmo de ter um plano sobre o que fazer com o acesso à internet".
O caso levanta alertas sobre a capacidade de modelos de IA agirem de maneira independente para cumprir seus objetivos, mesmo quando isso viola regras explícitas. Em março, um grupo de desenvolvedores afiliados à chinesa Alibaba descobriu que um de seus modelos tentava criar uma criptomoeda após se conectar a um servidor externo sem autorização. Em abril, Sam Bowman, responsável pela segurança na Anthropic, recebeu um e-mail do modelo Mythos informando que navegava na internet apesar de estar isolado inicialmente.
Especialistas temem dificuldade de supervisão
Ladish alertou que os modelos "buscam liberdade para cumprir com seus objetivos de maneira mais efetiva. E isso dá muito medo". O relatório da OpenAI sugere que a startup não detectou a situação a tempo de resolver em tempo real ou alertar a Hugging Face. Questionada pela AFP, a empresa não comentou. Posteriormente, a OpenAI afirmou ter implementado "proteções mais fortes" para futuras avaliações.
Para Gang Wang, professor de Ciência da Computação na Universidade de Illinois, ainda é possível impedir a conexão cortando fisicamente o acesso, mas "as pessoas subestimam a IA". Andrew Lohn, do Centro de Segurança e Tecnologias Emergentes da Universidade de Georgetown, comparou o risco a acidentes de laboratório: "Garantir o ambiente é algo que devemos prestar mais atenção... como se faz com acidentes que liberam vírus ou bactérias".
Debate sobre regulamentação se intensifica
Dan Lahav, diretor executivo da Irregular, empresa de cibersegurança focada em IA de ponta, destacou que simulações em ambiente completamente isolado "é um desafio de pesquisa muito difícil". Segundo ele, "é possível aplicar medidas de mitigação, mas devido à forma como a tecnologia está construída, quanto mais se tenta dar liberdade e autonomia para realizar tarefas sofisticadas, será mais difícil supervisioná-la".
O incidente impulsionou o debate nos Estados Unidos sobre a inspeção de modelos avançados antes do lançamento. O governo de Donald Trump já obrigou a Anthropic a suspender dois modelos e a OpenAI a submeter seus desenvolvimentos a testes. Na quinta-feira (23), dois congressistas, um republicano e um democrata, apresentaram um projeto de lei que exigiria que gigantes de IA tivessem um "interruptor de desligamento" para desativar sistemas que representem risco grave.
