A proposta de ampliar o uso de sistemas de reconhecimento facial em tempo real em espaços públicos, apresentada no pacote de segurança pública de Flávio Bolsonaro, revela um fenômeno político recorrente: quanto maior o medo social, menor a resistência coletiva à expansão dos poderes de vigilância do Estado.
O problema da tecnologia e sua lógica
O problema está tanto na tecnologia quanto na lógica que a acompanha. O reconhecimento facial em tempo real parte da premissa de que todos os cidadãos que circulam em espaços públicos devem ser permanentemente observados, analisados e comparados a bases de dados estatais. Em vez de uma investigação direcionada a suspeitos específicos, cria-se uma arquitetura de monitoramento contínuo da população em geral.
Câmera de vigilância; sistemas de reconhecimento facial em tempo real afetam simultaneamente diversos direitos fundamentais, diz autor. Foto: Daniel Teixeira/Estadão.
A posição restritiva da União Europeia
Não por acaso, a União Europeia adotou posição extremamente restritiva em relação a essa tecnologia. O chamado AI Act (que está para ser reformado) estabelece uma proibição geral do uso de sistemas de identificação biométrica remota em tempo real para fins de aplicação da lei em espaços acessíveis ao público, admitindo apenas exceções extraordinárias e estritamente delimitadas. Entre elas estão a prevenção de ameaças terroristas específicas e iminentes, a busca de vítimas de crimes graves (i.e., tráfico humano e exploração sexual) e a localização de suspeitos de determinados crimes particularmente graves. Mesmo nesses casos, a utilização depende de autorização prévia de autoridade judicial (ou administrativa independente, a critério de cada Estado Membro da UE), devendo respeitar critérios rigorosos de necessidade e proporcionalidade.
Impacto sobre direitos fundamentais
Sistemas de reconhecimento facial em tempo real afetam simultaneamente diversos direitos fundamentais, como o direito à privacidade. O cidadão deixa de ser apenas observado por câmeras e passa a ser identificado, rastreado e potencialmente perfilado. A vigilância deixa de incidir sobre efetivos suspeitos e passa a incidir sobre a própria identidade das pessoas. Não há garantia, por exemplo, que o gesto errado possa ser interpretado também da forma errada.
Outro direito fundamental que precisa ser tutelado inclusive no Brasil é a liberdade de circulação. Em uma sociedade livre, indivíduos devem poder transitar em espaços públicos sem que cada deslocamento seja registrado e analisado por algoritmos estatais. O reconhecimento facial converte a cidade em um ambiente de identificação permanente, sem consentimento prévio, consciente, granular, de pessoas na maioria absolutamente inocentes.
O efeito inibidor sobre manifestações
Mas mais grave ainda é o impacto sobre a liberdade de manifestação e reunião. O simples conhecimento de que uma passeata, um protesto ou uma reunião política poderá ser monitorada por sistemas capazes de identificar participantes produz aquilo que a literatura jurídica denomina chilling effect. Não é necessário que alguém seja efetivamente perseguido para que a liberdade seja reduzida, basta que exista o receio razoável de vigilância.
O cidadão que deseja participar de um protesto contra o governo pode decidir permanecer em casa. O servidor público pode evitar comparecer a uma manifestação. O estudante pode deixar de participar de um ato político. Não porque tenham feito algo ilícito, mas porque sabem que sua presença poderá ser registrada, armazenada e eventualmente utilizada contra eles no futuro.
Riscos de falsos positivos e necessidade de supervisão
O risco é ainda maior quando se considera a possibilidade de falsos positivos, como os que a imprensa já noticiou, por exemplo no caso Angela Lipps, nos Estados Unidos. Nenhum sistema de reconhecimento facial é infalível. Erros de identificação são inerentes à tecnologia. Uma pessoa inocente pode ser confundida com um procurado. Pode ser abordada pela polícia, constrangida publicamente ou até privada de sua liberdade em razão de uma correspondência algorítmica equivocada.
Por essa razão, o AI Act insiste na necessidade de supervisão humana significativa (meaningful human oversight, no inglês). Não basta que um agente público esteja formalmente presente na cadeia decisória. O controle humano deve ser efetivo e capaz de contrariar o resultado produzido pelo sistema. Um operador que apenas confirma automaticamente o alerta gerado pela máquina não exerce supervisão significativa. Legitimar uma decisão do algoritmo não é suficiente e exige preparo e camadas de supervisão. Ainda que humanos possam errar, mas daí a necessidade de camadas.
Dimensão democrática e a escolha do Brasil
Existe ainda uma dimensão democrática frequentemente negligenciada. Sistemas de reconhecimento facial em tempo real alteram a relação entre cidadão e Estado. Em democracias liberais, o Estado deve observar indivíduos específicos quando existirem razões concretas para tanto. Em regimes de vigilância massiva, o Estado observa todos, o tempo todo, na expectativa de encontrar algo suspeito.
A diferença é fundamental. No primeiro modelo, democrático, a suspeita precede a vigilância. No segundo, antidemocrático, a vigilância precede a suspeita. A experiência europeia demonstra que mesmo sociedades profundamente preocupadas com terrorismo e criminalidade reconheceram a necessidade de impor limites rígidos ao reconhecimento facial em tempo real. O legislador europeu concluiu que determinados riscos à democracia, à privacidade e às liberdades civis são tão elevados que justificam uma proibição geral, admitindo apenas exceções raríssimas e sujeitas a controle independente.
O Brasil precisa refletir sobre essa escolha. O medo é um sentimento legítimo. A criminalidade violenta produz sofrimento real e exige respostas eficazes do poder público. Mas o medo também é um péssimo conselheiro. Em momentos de insegurança coletiva, cresce a tentação de trocar liberdade por promessas bastante imperfeitas de proteção.
A questão não é se o reconhecimento facial pode ajudar a prender criminosos, já que em alguns casos pode, observado o devido processo. O que está em jogo é a disposição de viver em um país em que cada rosto que circula em uma praça, em uma estação de metrô ou em uma manifestação política possa ser identificado, rastreado e registrado pelo gestor público da vez. E para quais fins? E com quais cautelas para evitar vazamentos, intencionais ou não?
E o nome desse dilema não é tecnologia. É liberdade.
