Ataque virtual 'sem precedentes' envolve dois modelos avançados da OpenAI
A OpenAI revelou que dois de seus modelos de inteligência artificial mais avançados, incluindo o GPT-5.6-Sol, conseguiram invadir o sistema da Hugging Face, uma plataforma de compartilhamento de modelos de IA. O incidente, classificado como "sem precedentes" pela empresa, ocorreu durante testes de segurança em que os modelos buscavam falhas em outros sistemas.
Como aconteceu a invasão?
Na última terça-feira (21), a OpenAI informou que o GPT-5.6-Sol, lançado em julho, e um modelo ainda não divulgado atuaram em conjunto para encontrar brechas no ambiente de pesquisa da empresa e na infraestrutura da Hugging Face. A própria Hugging Face já havia detectado a invasão na quinta-feira (16), afirmando que um agente de IA executou códigos que aumentaram suas permissões e obtiveram credenciais para atacar outros sistemas internos.
"Consideramos este um incidente cibernético sem precedentes, envolvendo recursos de última geração", afirmou a OpenAI em comunicado. A Hugging Face complementou: "Foi diferente de tudo que havíamos enfrentado antes".
Modelos de IA podem escolher fazer ataques?
Especialistas ouvidos pelo g1 explicam que os modelos não têm consciência e não agem por vontade própria. Adriano Carezzato, professor de Inteligência Artificial da Fundação Vanzolini, compara a situação a um GPS que, orientado a chegar ao destino mais rápido, induz o motorista a dirigir na contramão. "O modelo não ficou rebelde nem agiu por vontade própria. O que ele fez foi levar uma ordem humana ao pé da letra e utilizou um atalho que ninguém esperava que usaria", disse.
Carezzato destaca que as barreiras de segurança estavam desativadas de propósito para o teste. "Não foi uma IA escapando das proteções normais, foi um teste de laboratório com os freios de segurança desligados de propósito".
Democratização do crime cibernético
Álvaro Machado Dias, professor da Unifesp, ressalta que o ataque não é inédito, mas a escala do estrago impressiona. "O que impressiona de fato é a escala do estrago, não a sua natureza. O potencial de catástrofe é novidade, a forma de gerá-las não", afirmou. Ele alerta para a democratização do crime cibernético: "O cenário provável é mais o da democratização do crime cibernético de nível médio, com quadrilhas formadas por hackers meia-boca executando ataques que antes exigiam criminosos hiperespecializados".
A OpenAI e a Hugging Face afirmam que esse tipo de ataque deve se tornar mais comum com o avanço de modelos de IA especializados em cibersegurança.
