Anthropic propõe mecanismo global para pausar desenvolvimento da IA
A Anthropic, empresa responsável pelo modelo de inteligência artificial Claude, propôs a criação de um 'botão de pausa' global para interromper temporariamente o avanço da tecnologia. A iniciativa visa permitir um debate aprofundado sobre os impactos sociais, econômicos e éticos da IA antes que novos progressos sejam realizados.
Riscos e comparações com controle nuclear
Em um documento divulgado pela empresa, os cofundadores destacam que a IA pode substituir o trabalho humano em larga escala e até mesmo melhorar a si mesma, gerando riscos existenciais. A proposta é comparada a regimes de controle nuclear, que buscam garantir que avanços tecnológicos não ocorram de forma secreta ou descontrolada. Segundo a Anthropic, é essencial criar mecanismos de verificação e transparência entre as nações.
Discussões com políticos e pesquisadores
A empresa já iniciou conversas com políticos, pesquisadores e líderes do setor para estruturar uma coordenação global. A ideia é que, assim como acontece com armas nucleares, haja um acordo internacional que permita pausar o desenvolvimento quando os riscos superarem os benefícios. A Anthropic acredita que uma pausa temporária daria tempo para a sociedade se adaptar e criar regras claras.
Antecedentes e críticas
Em 2023, um pedido semelhante foi feito por mais de mil pesquisadores, incluindo Elon Musk, mas enfrentou críticas. Especialistas apontam que uma pausa poderia limitar a inovação e favorecer concorrentes internacionais, especialmente em países como a China. Apesar disso, a Anthropic defende que a medida é necessária para evitar consequências irreversíveis.
A empresa, avaliada em US$ 183 bilhões, reforça que a proposta não é contra o avanço tecnológico, mas sim a favor de um desenvolvimento responsável e seguro. O debate sobre o futuro da IA continua dividindo opiniões entre entusiastas e críticos.
