STJ detecta tentativas de "prompt injection" em processos judiciais
Tribunal apura fraudes em documentos enviados à IA; sistema interno Logos já possui mecanismos de defesa contra comandos maliciosos
O Superior Tribunal de Justiça (STJ) confirmou a identificação de petições contendo técnicas de prompt injection (injeção de comando) em seu acervo processual. A prática, que consiste em inserir instruções ocultas em documentos para manipular o comportamento de modelos de Inteligência Artificial, tem sido monitorada de perto pela corte para evitar fraudes.
Continua depois da publicidade
O termo trata-se de uma manobra técnica onde o autor de um documento oculta comandos na estrutura do texto — muitas vezes invisíveis ou disfarçados — com a intenção de "sequestrar" a lógica da IA que processa aquele arquivo. O objetivo é fazer com que a inteligência artificial ignore diretrizes de segurança ou altere a interpretação dos fatos contidos no processo, favorecendo indevidamente uma das partes.
Embora o tema seja amplamente discutido na área de tecnologia, a preocupação no meio jurídico cresceu no início de maio, após denúncias de tentativas de fraude no Tribunal Regional do Trabalho da 8ª Região (TRT8).
A resposta do STJ
O ministro Herman Benjamin, presidente do STJ, assegurou que o sistema de IA da corte, o STJ Logos, foi construído com camadas de segurança robustas para neutralizar essas ameaças.
Continua depois da publicidade
"O STJ Logos já foi desenvolvido com comandos específicos que impedem estas artimanhas de atuar. Estamos mapeando todas as tentativas de prompt injection para permitir a aplicação de sanções processuais e a devida apuração de responsabilidade administrativa e criminal dos envolvidos" — declarou o ministro.