BRASIL — O Superior Tribunal de Justiça (STJ) determinou nesta quarta-feira (20/05) a abertura de um inquérito policial e de um procedimento administrativo interno para apurar o uso de prompts de inteligência artificial em petições eletrônicas.

Investigação foi determinada pelo presidente do STJ, Herman Benjamin.
Medidas visam apurar tentativas de fraude atribuídas a advogados e escritórios.
Técnicos do tribunal identificaram petições com técnica conhecida como prompt injection.
O sistema do tribunal possui travas que, segundo o STJ, impedem a execução das ordens inseridas por prompts.

Medidas adotadas pelo tribunal

Por ordem do presidente Herman Benjamin, o STJ instaurou um inquérito policial e um procedimento administrativo interno para investigar as supostas fraudes no sistema eletrônico de petições.

O objetivo é apurar tentativas de burlar critérios de admissibilidade por meio de comandos ocultos inseridos em documentos.

Como funcionava a manipulação

Técnicos do tribunal identificaram a entrada de petições com o chamado prompt injection — instruções ocultas que tentam enganar modelos de IA para alterar o tratamento automático dos arquivos.

Esses comandos buscavam forçar a plataforma a ignorar filtros que verificam requisitos básicos para admitir documentos no processo eletrônico.

Travas e segurança do sistema

Segundo o STJ, o sistema já conta com mecanismos de bloqueio contra o uso de prompts e que essas travas impedem que ordens inseridas sejam executadas pela plataforma que recebe as petições.

A apuração pretende verificar autoria, eventual responsabilização de advogados ou escritórios e possíveis falhas de segurança.

Para referência sobre o Judiciário, consulte o site do Supremo Tribunal Federal: https://www.stf.jus.br

Acompanhe mais sobre Justiça na editoria de Brasil.