A Suprema Corte da Geórgia puniu na terça-feira uma promotora do estado norte-americano, constatando que o uso indevido de ferramentas de inteligência artificial resultou na publicação de citações falsas e enganosas em uma decisão de um caso de assassinato. O tribunal superior do estado proibiu Deborah Leslie, promotora assistente do condado de Clayton, de comparecer perante os juízes por seis meses e ordenou que ela complete uma formação jurídica adicional sobre ética, redação de petições e uso adequado de IA.
Falhas com IA geram consequências
O tribunal constatou que "numerosas citações fictícias ou atribuídas erroneamente" apareceram em uma decisão de um tribunal inferior de 2025 que negou o pedido de um réu por assassinato para um novo julgamento. "Citar casos que não existem ou que não sustentam a tese para a qual são citados é uma violação das normas deste tribunal e está muito aquém da conduta que esperamos dos advogados da Geórgia", escreveu o juiz Benjamin Land.
Tribunais estaduais e federais de todo o país têm aplicado punições a advogados por usarem ferramentas de IA generativas para pesquisa e redação jurídica sem verificar os resultados. O caso da Geórgia está entre os raros exemplos envolvendo o uso de IA por um promotor e se destaca porque os erros dos advogados com IA foram repetidos em uma decisão judicial.
Desculpas e sanções
Leslie e a promotoria do condado de Clayton não responderam imediatamente aos pedidos de manifestação. Leslie pediu desculpas em um documento judicial anterior por não verificar de forma independente as citações geradas pela IA. A sanção foi imposta no recurso de Hannah Payne, condenada à prisão perpétua mais 13 anos pelo assassinato e cárcere privado de Kenneth Herring.
As citações falsas geradas por IA por Leslie apareceram em uma minuta de ordem judicial que ela preparou, na qual instava o juiz do caso a negar um pedido de novo julgamento. O juiz acatou grande parte da minuta, incluindo as citações fabricadas, ao negar o pedido de Payne, afirmou a Suprema Corte da Geórgia.
Orientações para juízes
Na terça-feira, juízes estaduais instaram os juízes de primeira instância a revisarem as minutas de ordem judicial "tendo em mente que softwares de inteligência artificial, com todos os seus riscos e benefícios potenciais, podem ter sido utilizados". Os juízes anularam a decisão anterior e devolveram o caso ao juiz do caso, determinando que uma nova ordem judicial seja emitida sem as citações fictícias.
"Hannah Payne tem argumentos sólidos para apelação. É lamentável que a má conduta do Estado esteja agora atrasando sua oportunidade de ter essas questões decididas", disse seu advogado, Andrew Fleischman, em um comunicado.
