O Superior Tribunal de Justiça (STJ) determinou nesta quarta-feira, 20, a abertura de uma investigação para apurar o uso de inteligência artificial (IA) com o objetivo de burlar o sistema eletrônico de petições do tribunal. A decisão foi tomada pelo presidente do STJ, ministro Herman Benjamin, que determinou a instauração de um inquérito policial e um procedimento administrativo interno para apurar as tentativas de fraudes, supostamente cometidas por advogados e escritórios de advocacia.
Como a fraude era realizada
A medida foi adotada após técnicos do tribunal identificarem a entrada de petições contendo a técnica conhecida como prompt injection. Esse mecanismo é utilizado para enganar modelos de IA e favorecer uma das partes durante o andamento eletrônico de um processo. Os comandos ocultos são inseridos nas petições com o intuito de forçar o sistema de IA a ignorar filtros de seleção que, por exemplo, impedem a admissão de um documento que não atende aos requisitos básicos de admissibilidade.
Medidas de segurança do STJ
De acordo com o STJ, o sistema do tribunal já conta com travas de segurança contra o uso de prompts maliciosos. Essas barreiras impedem que as ordens ocultas sejam executadas pela plataforma que recebe as petições, garantindo a integridade do processo eletrônico. A investigação busca identificar os responsáveis e evitar que novas tentativas de fraude ocorram.
A abertura do inquérito reforça o compromisso do STJ com a segurança e a transparência dos meios eletrônicos utilizados no Judiciário, especialmente diante do avanço do uso de inteligência artificial em atividades jurídicas.
