O CEO da Anthropic, Dario Amodei, enviou uma carta nesta segunda-feira, 27, defendendo que os Estados Unidos não devem permitir a venda de chips poderosos ou equipamentos para fabricação deles à China. A medida visa evitar o risco de governos autoritários construírem modelos de Inteligência Artificial (IA) mais poderosos do que os fabricados pelos americanos.
Chips como ferramenta de controle
Segundo Amodei, a venda desses chips pode permitir não apenas ao Partido Comunista Chinês (PCC), mas também a outros governos, usá-los para alcançar superioridade militar permanente ou perpetrar uma repressão extremamente severa contra seus próprios cidadãos. "A China tem capacidade de produção doméstica limitada e, portanto, devido às leis de escalonamento, não pode construir modelos mais poderosos que os dos EUA sem chips americanos", escreveu o executivo.
Eficiência da restrição
Na visão de Amodei, a restrição à venda de chips poderosos à China é a maneira mais eficiente e direta de bloquear a ameaça de "regimes autoritários roubarem e usarem IA para fortalecer suas capacidades militares, de inteligência e de vigilância". A posição surge em meio a um acirrado debate sobre o tema.
Riscos de modelos abertos e destilação
Amodei também manifestou preocupação secundária quanto ao risco de modelos de IA poderosos serem usados indevidamente para ataques cibernéticos ou biológicos. "Modelos de códigos abertos – independentemente de serem originários da China ou de qualquer outro lugar – representam um risco potencialmente maior do que modelos fechados, pois é muito difícil aplicar salvaguardas ou monitorá-los", afirmou.
Além disso, o CEO defendeu a repressão das operações de destilação em escala industrial. A destilação é o processo de utilizar respostas de um chatbot ou conteúdo produzido por um modelo avançado de IA para treinar outro modelo. "A destilação é um processo computacionalmente muito mais eficiente do que treinar modelos do zero. Ela permite que a China construa modelos muito melhores do que o número de chips que possui normalmente permitiria, e assim, contornar parcialmente as proibições de chips", explicou Amodei na carta.
