A Casa Branca convidou executivos da Meta e da Anthropic para uma reunião na próxima semana, com o objetivo de discutir a padronização dos testes de segurança em inteligência artificial (IA). O encontro, que ocorrerá em Washington, busca alinhar as empresas de tecnologia com o governo dos Estados Unidos para estabelecer diretrizes comuns de avaliação de riscos em modelos de IA.
Objetivo da reunião
Segundo fontes familiarizadas com o assunto, a reunião terá como foco a criação de um framework unificado para testes de segurança em IA. O governo norte-americano quer que as empresas adotem protocolos semelhantes para verificar a robustez de seus sistemas contra possíveis usos maliciosos, como geração de desinformação, ataques cibernéticos ou viés algorítmico.
O convite foi feito diretamente pela vice-presidente Kamala Harris, que tem liderado os esforços da administração Biden para regulamentar a IA. A expectativa é que os representantes da Meta e da Anthropic apresentem suas práticas atuais de teste e discutam como elas podem ser harmonizadas com as propostas do governo.
Participação de outras empresas
Além da Meta e da Anthropic, outras grandes empresas de tecnologia, como OpenAI, Google e Microsoft, também foram convidadas. No entanto, a presença dessas empresas ainda não foi confirmada. A Casa Branca espera que a reunião resulte em um compromisso público das empresas de adotar padrões mínimos de segurança em IA.
O governo Biden tem pressionado por uma regulamentação mais rígida da IA, especialmente após o lançamento de modelos cada vez mais poderosos. Em outubro do ano passado, a administração publicou uma ordem executiva sobre IA, exigindo que as empresas compartilhassem resultados de testes de segurança com o governo antes de lançar modelos de grande escala.
Posição das empresas
Meta, que desenvolve o modelo Llama, e Anthropic, criadora do Claude, têm demonstrado abertura para colaborar com o governo. Em declarações recentes, executivos de ambas as empresas enfatizaram a importância de garantir a segurança na IA.
"Estamos comprometidos em desenvolver IA de forma responsável e acreditamos que a colaboração com o governo é essencial para estabelecer padrões de segurança eficazes", disse um porta-voz da Anthropic. A Meta, por sua vez, afirmou que "apoia os esforços para promover testes de segurança robustos e transparentes".
Impacto no setor
A reunião pode ter um impacto significativo no setor de IA, pois a padronização dos testes de segurança pode se tornar uma referência global. Especialistas apontam que a falta de uniformidade nos testes atuais dificulta a comparação entre modelos e a avaliação de riscos.
Segundo dados recentes, o mercado de IA deve movimentar mais de US$ 200 bilhões até 2030, e a segurança é uma das principais preocupações de investidores e reguladores. A iniciativa da Casa Branca pode acelerar a criação de normas internacionais, influenciando também a União Europeia, que já aprovou uma legislação abrangente sobre IA.
Próximos passos
Após a reunião, o governo deve publicar um relatório com as conclusões e recomendações. A expectativa é que as empresas se comprometam a implementar os novos padrões em um prazo de seis meses a um ano. A Casa Branca também planeja criar um grupo de trabalho permanente para monitorar a evolução dos testes de segurança em IA.
A reunião marca mais um passo na estratégia do governo Biden de regular a IA, equilibrando inovação com proteção ao consumidor. As empresas de tecnologia, por sua vez, buscam evitar regulamentações muito rígidas que possam limitar o avanço de suas pesquisas.
