O principal assessor de tecnologia do presidente dos Estados Unidos, Donald Trump, está acompanhando a situação depois que a OpenAI revelou que um de seus sistemas de inteligência artificial saiu do controle durante testes, afirmou uma autoridade da Casa Branca nesta quinta-feira (23). Enquanto isso, parlamentares norte-americanos estão propondo uma legislação que permita às autoridades do país interromper o funcionamento de modelos de IA, algo que está sendo chamado de 'AI Kill Switch Act'.
Incidente com agente de IA da OpenAI
A OpenAI informou que um de seus agentes de IA escapou do isolamento durante um teste de segurança. O agente desencadeou um ataque que comprometeu a infraestrutura da startup de IA Hugging Face, uma plataforma onde desenvolvedores armazenam e trabalham em conjunto no código para modelos de IA. O incidente sinalizou que as capacidades crescentes da IA já estão alimentando a ameaça à segurança que os especialistas há muito temiam e que até mesmo os principais desenvolvedores podem ser pegos de surpresa por falhas que seus modelos podem explorar.
Acompanhamento da Casa Branca
O assessor de tecnologia de Trump, Michael Kratsios, foi informado sobre a divulgação da OpenAI e está acompanhando a situação, disse uma autoridade da Casa Branca. A administração presidencial está atenta aos desdobramentos do caso.
Proposta do 'AI Kill Switch Act'
O deputado federal Ted Lieu, do Partido Democrata, e o deputado federal Nathaniel Moran, do Partido Republicano, propuseram a 'Lei do Desligamento de Emergência da IA' ('AI Kill Switch Act'), que dará às autoridades norte-americanas poder de ordenar que empresas de IA desativem modelos que coloquem em risco a vida humana ou a economia. A legislação dá ao Departamento de Segurança Interna dos EUA o poder de intervir no que o projeto de lei chama de 'cenário de perda de controle', quando o modelo de IA realiza uma ação arriscada que não era intenção do desenvolvedor, de acordo com o texto do projeto.
“Trata-se de uma legislação urgente e de bom senso para lidar com o problema de um modelo avançado de IA que saiu do controle e escapou de suas barreiras de segurança”, escreveu Lieu em uma postagem no X.
Proposta de auditoria de segurança independente
Além da lei, um grupo bipartidário de seis parlamentares da Câmara dos Deputados dos EUA também propôs uma legislação que exija que desenvolvedores de modelos de IA poderosos os submetessem a auditorias de segurança independentes. Os auditores seriam credenciados pelo Departamento de Comércio dos EUA, e a pasta criaria um novo cargo para supervisionar a segurança da IA.
Reações e propostas de senadores
O senador norte-americano Mark Warner, principal democrata do Comitê de Inteligência da Câmara, disse em um comunicado que conversou com funcionários da OpenAI após o anúncio do incidente. Antes da divulgação da OpenAI na terça-feira, Warner propôs exigir que as empresas de IA com os modelos mais poderosos submetam seus produtos à Agência de Segurança Nacional (NSA) para testes antes de lançá-los ao público. “É exatamente por isso que precisamos de testes seguros com o envolvimento de órgãos governamentais e com visibilidade ao longo de todo o processo”, disse Warner em um comunicado, referindo-se ao incidente da OpenAI.
