A empresa americana de inteligência artificial (IA) Anthropic obteve a pontuação mais alta em um ranking semestral de segurança, mas em nível global o setor não consegue combater ameaças "existenciais", segundo um relatório publicado nesta terça-feira (7) pelo Future of Life Institute, um think tank americano de segurança em IA.
Nove empresas avaliadas, nenhuma nota A
O Future of Life Institute avaliou nove das principais empresas de IA do mundo, classificando-as com base em dados públicos e informações fornecidas pelas próprias companhias. Nenhuma empresa recebeu um "A", a nota mais alta, em nenhuma categoria. A Anthropic obteve a melhor nota geral, um "C+".
As nove empresas estão fracassando no combate a ameaças "existenciais", como o desenvolvimento de modelos que alcancem um nível de inteligência semelhante ao humano, conhecidos como "inteligência artificial geral" ou AGI, acrescenta o relatório.
Categorias analisadas e resultados
Foram analisados os esforços em seis categorias: avaliação de riscos; danos atuais; estruturas de segurança; segurança existencial; governança e transparência; e compartilhamento de informações. Embora "existam tentativas construtivas", os esforços como um todo são "totalmente insuficientes", segundo o relatório.
O relatório destaca que várias empresas que antes proibiam o uso militar de sua tecnologia vêm "revertendo gradualmente o rumo", entre elas a Anthropic, que foi criticada por manter "compromissos militares questionáveis".
Uso militar e preocupações
O governo dos Estados Unidos utilizou a tecnologia da Anthropic em operações militares na Venezuela e no Irã durante o último ano, segundo diversos relatos da imprensa, embora a empresa tenha sido recentemente alvo de uma proibição do Pentágono por divergências sobre a segurança da IA.
Outros riscos incluem o possível uso indevido de um modelo para realizar um ciberataque ou executar tarefas potencialmente prejudiciais aos seres humanos.
