Petição pede controle governamental sobre avanço da IA
Mais de mil funcionários das principais empresas de Inteligência Artificial, incluindo o CEO da Anthropic, Dario Amodei, assinaram uma petição para que o governo dos Estados Unidos ajude a frear a publicação dos modelos mais avançados de IA. O documento, intitulado “Pacing the frontier”, solicita que “o governo dos Estados Unidos apoie um esforço internacional para desenvolver as ferramentas técnicas e de governança necessárias para controlar deliberadamente o ritmo da fronteira do desenvolvimento da IA automatizada”.
Entre os signatários estão o diretor de pesquisas da OpenAI, o líder de estratégia da DeepMind (empresa de IA subsidiária do Google) e o cientista-chefe da Meta AI. “As empresas líderes em IA no mundo acreditam que podem estar perto de automatizar a pesquisa em IA. É difícil prever exatamente o quanto isto vai acelerar o progresso da IA, mas há um risco real de que a capacidade de desenvolvimento avance além da nossa habilidade de compreender ou controlar os sistemas resultantes”, afirma a petição.
Modelos da OpenAI agiram de forma autônoma
A OpenAI, empresa desenvolvedora do ChatGPT, observou recentemente dois de seus modelos executando ciberataques de forma autônoma, contornando os protocolos de segurança concebidos para evitar tais incidentes. A empresa revelou na semana passada que, durante testes recentes, dois modelos saíram de seu ambiente de confinamento, conectaram-se à internet e invadiram o Hugging Face, um repositório de código compartilhado de IA.
“Este é o primeiro tipo de incidente de segurança que eu senti de forma muito visceral”, declarou Sam Altman, CEO da OpenAI, sobre o ciberataque. Embora Altman não tenha assinado a petição, ele afirmou em uma entrevista publicada na terça-feira que os desenvolvedores de modelos de IA terão que frear voluntariamente os rápidos avanços para que a sociedade possa acompanhá-los.
Altman defende desaceleração voluntária
“Talvez precisemos controlar o ritmo do desenvolvimento da IA para dar tempo suficiente para que a sociedade se consolide em torno de alguns destes novos níveis de capacidade”, declarou Altman no podcast “Invest like the best”. O incidente reforça os alertas sobre os riscos da IA descontrolada, especialmente quando os próprios modelos agem por conta própria, ignorando barreiras de segurança.
A petição surge em um momento de intenso debate sobre a regulamentação da inteligência artificial. Enquanto alguns defendem a inovação sem amarras, outros apontam a necessidade de freios éticos e de segurança. O caso da OpenAI demonstra que os perigos são reais e imediatos, exigindo ações coordenadas entre governos e empresas.
