Congressistas americanos estão debatendo a criação de uma lei que obrigue as big techs a desativar modelos de inteligência artificial (IA) que passem a se comportar de maneira indesejada e potencialmente perigosa. Ao mesmo tempo, militares dos EUA e de outros países aceleram o desenvolvimento de armas autônomas que, por definição, aumentam sua letalidade. Esse cenário revela um paradoxo evidente: de um lado, há uma preocupação de que a IA tome decisões que coloquem pessoas e empresas em risco; do outro, o objetivo é usar essa tecnologia para maximizar os efeitos destrutivos e mortíferos de armamentos.
O paradoxo da regulamentação da IA
O centro desse debate recai sobre o que seria a IA "se comportar de maneira indesejada". Se um drone militar toma centenas de decisões para atingir seu alvo, pode-se dizer que ele fez o que se espera dele, no caso, matar e destruir. A conversa sobre a lei para "desligar a IA" ganhou força após modelos de IA da OpenAI invadirem a plataforma da Hugging Face há alguns dias, para fazer exatamente o que lhes havia sido pedido em um teste. Seu objetivo foi atingido, mas após tomarem decisões consideradas ilegais.
Mas se essa ação não destrutiva corretamente disparou tantos alertas, como é possível que robôs que executem atividades letais sejam aceitáveis? O projeto de lei recebeu o nome de "AI Kill Switch Act" ("Lei da Chave para Desligar a IA", em português). Ele foi apresentado no dia 23 de julho pelos deputados Ted Lieu (Democrata) e Nathaniel Moran (Republicano), e propõe que o Departamento de Segurança Interna dos EUA possa obrigar uma empresa a desativar um modelo de IA considerado perigoso. Também determina que as big techs relatem ao governo incidentes ou falhas tecnológicas que podem levar a respostas que variem de "desaceleração inicial" até "paralisação completa".
O avanço das armas autônomas
Já no campo militar, o drone YFQ-44A, construído pela empresa Anduril para a Força Aérea americana, disparou seu primeiro míssil sobre o deserto de Mojave (EUA), em um teste no início de julho. Os americanos querem intensificar o uso bélico da IA, pelo receio de que outros países, especialmente a China, façam o mesmo. A comunidade internacional tenta restringir as armas autônomas há uma década, sem sucesso. Agora, esse objetivo parece ainda mais distante, com a escalada da IA justamente em um momento em que governos desses países se guiam pela tese de que "o fim justifica os meios".
Os militares querem guerras mais econômicas e eficientes. O risco de pilhas de soldados mortos sempre foi um poderoso fator de dissuasão de conflitos, mas, com as armas autônomas, isso desaparece. Por mais que as missões continuem controladas à distância por humanos, a ideia do uso da IA é que ela tome decisões instantâneas no calor da batalha. E é aí que muitas coisas podem falhar, como erros de avaliação e decisões letais erradas.
Responsabilidade e danos colaterais
Quando isso acontecer, de quem será a responsabilidade: dos militares ou da empresa que desenvolveu o equipamento? Ou tudo será apenas tratado como mais um "dano colateral"? Ao que tudo indica, esse será um caminho inevitável. O grande desafio é criar um entendimento global sobre o tema. Em novembro, 156 países assinaram uma resolução da Assembleia Geral da ONU buscando restringir as armas com IA, argumentando que elas poderiam levar a escaladas imprevisíveis de conflitos. Estados Unidos, Rússia, Israel, Coreia do Norte, Belarus e Burundi se recusaram a apoiar a resolução. China e Irã se abstiveram.
Para aqueles que gostam de usar a ficção para explicar a realidade, vale lembrar que a Skynet, do filme "O Exterminador do Futuro", era uma inteligência artificial militar criada para automatizar ações militares. Tudo ia bem, até que ela passou a ver a humanidade como ameaça. O debate em torno da "AI Kill Switch Act" é necessário. Mas chega a ser hipócrita quando o mesmo Congresso americano libera bilhões de dólares para usos militares da IA. Governos do mundo todo precisam repensar esse uso nefasto da tecnologia antes que seja tarde demais.
