O uso de inteligência artificial por advogados tem se transformado em um problemão em tribunais americanos. O motivo? É crescente o número de processos judiciais contendo citações falsas, geradas por alucinações das IAs usadas para compor os documentos.
O levantamento tem sido feito pelo advogado e cientista de dados Damien Charlotin, que criou um banco de dados com esses processos. Iniciado em junho de 2023, o trabalho já reuniu 120 casos judiciais com citações falsas, sendo 48 só de 2025.
Para você ter uma ideia da gravidade desse achado, as citações são referências a processos judiciais semelhantes, julgados anteriormente. Advogados as usam para argumentar em favor de seus clientes. São os chamados precedentes legais, algo como dizer “isso já aconteceu antes e o réu foi inocentado por tal motivo”.
Um problema para os tribunais
O primeiro caso registrado no banco de dados de Charlotin é um de processo de um passageiro contra a companhia aérea Avianca. O homem dizia ter se ferido com um carrinho de serviço usado por funcionários da empresa.
Após uma tentativa da Avianca de arquivar o caso, o advogado do passageiro apresentou uma “pesquisa jurídica” ao tribunal. O documento estava repleto de decisões judiciais anteriores sobre casos parecidos. Mas nem a equipe jurídica da Avianca, nem o próprio juiz conseguiram localizar nenhum dos processos citados.
O advogado acabou tendo que depor e explicou que, de fato, usou o ChatGPT no trabalho. Ele chegou a mostrar prints do diáglogo com a IA, mostrando que questionou sobre a veracidade dos processos. A inteligência artificial respondeu que sim, mesmo tendo inventado todos eles.
Já o caso mais recente envolve defesa da Anthropic, empresa responsável pelo desenvolvimento da IA Claude. Não apenas seus advogados usaram citações invetadas pela inteligência artificial da própria companhia, como uma testemunha — funcionária da empresa — também fez referências a dados falsos em seu depoimento.
Segundo a newsletter The Deep View, especializada em assuntos de inteligência artificial, até agora, os tribunais têm aplicado penas leves a esses advogados, como multas ou advertências.
