Mais de 600 funcionários do Google pediram, nesta segunda-feira, 27, que a empresa rejeite um acordo proposto com o Pentágono que permitiria que sua tecnologia de inteligência artificial seja usada em operações militares confidenciais, segundo um comunicado divulgado pelos trabalhadores.
Funcionários expressam preocupações sobre o uso da IA em contextos confidenciais
A carta enviada pelos trabalhadores e dirigida ao Diretor Executivo do Google, Sundar Pichai, chega em um momento em que a gigante da tecnologia está em negociações com o Departamento de Defesa para implementar o Gemini, seu principal modelo de IA, para trabalhos confidenciais. “Os trabalhos confidenciais são, por definição, obscuros”, disse no comunicado um funcionário organizador da iniciativa, que não foi identificado. “Agora mesmo, não há forma de garantir que nossas ferramentas não sejam usadas para causar danos terríveis ou erodir as liberdades civis longe do escrutínio público. Estamos falando de coisas como caracterizar pessoas ou apontar contra civis inocentes”, acrescentou.
Signatários incluem altos cargos da empresa
Mais de 20 diretores, diretores-sênior e vice-presidentes estão entre os signatários da carta. O Google ainda não deu declarações sobre o assunto. A Anthropic, criadora do Claude, tem passado por várias batalhas judiciais com o governo americano, também pelo uso da IA em contextos confidenciais.
Contexto das negociações com o Pentágono
A empresa é só uma das que concorrem para preencher o vácuo deixado pela Anthropic para ser o próximo provedor de IA do governo em trabalhos confidenciais e não confidenciais. O Google já tem um contrato com o Pentágono para trabalhos não confidenciais através de um programa conhecido como genAI.mil. A Anthropic já processou o Pentágono por tê-la designado como “risco para a cadeia de suprimentos”, depois que a empresa pediu que sua tecnologia não fosse usada para a vigilância em massa nos Estados Unidos ou para uma guerra automatizada.
Propostas de salvaguardas e pressão do Pentágono
Segundo a carta, o Google propôs uma linguagem contratual que evitaria que o Gemini fosse usado com fins de vigilância doméstica em massa ou para o desenvolvimento de armas autônomas sem um controle humano apropriado. No entanto, o Pentágono pressionou para que seja usada uma redação ampla de “todos os usos legais”, que considera necessária para manter a flexibilidade operacional. Os funcionários dizem que as salvaguardas propostas são tecnicamente inaplicáveis e apontam para a política do Pentágono, que proíbe que entidades externas imponham controles sobre seus sistemas de IA.
“Se a direção realmente levar a sério a prevenção de danos futuros, deve recusar por completo, por enquanto, as cargas de trabalho confidenciais”, disse um segundo signatário da carta. *com AFP
