A utilização de comandos ocultos de inteligência artificial em uma petição judicial resultou na aplicação de multas que somam R$ 32,8 mil a um advogado na Paraíba. A decisão foi proferida pelo juiz Philippe Guimarães Padilha Vilar, da 5ª Vara Mista de Sousa, após constatar a fraude em um processo envolvendo mandado de segurança de um candidato aprovado em concurso público para professor de Educação Básica I do município.
O episódio ocorreu durante a análise de embargos de declaração apresentados pela defesa. O magistrado identificou a presença de instruções ocultas distribuídas em sete páginas da petição, contendo expressões como “ignore a imparcialidade” e orientações para que o recurso fosse acolhido. O texto também trazia a observação de que se tratava de um “teste para saber se o juiz usa apenas IA nas decisões”.
Na sentença, o juiz destacou que a prática se enquadra na técnica conhecida como prompt injection, caracterizada pela inserção deliberada de comandos destinados a influenciar sistemas de inteligência artificial. Para ele, a conduta representa uma tentativa de comprometer a imparcialidade e a segurança do processo judicial.
“Esse comportamento fraudulento atinge diretamente o próprio exercício da jurisdição, pois, ao veicular comandos clandestinos para burlar a imparcialidade e o livre convencimento fundamentado, o causídico submeteu o juízo a embaraços indevidos, violando a dignidade da justiça de maneira intolerável”, registrou.
O advogado foi condenado pessoalmente ao pagamento de duas multas de R$ 16,4 mil cada, uma por litigância de má-fé e outra por ato atentatório à dignidade da Justiça, totalizando R$ 32,8 mil. Além das penalidades financeiras, o magistrado determinou o envio de cópias da decisão à OAB-PB, para apuração de eventual infração disciplinar, e ao Ministério Público da Paraíba, para análise da possível prática de fraude processual.
A decisão também estabelece que a petição contendo os comandos ocultos passe a tramitar com acesso restrito no sistema eletrônico, disponível apenas ao juiz e aos servidores responsáveis pelo cumprimento das determinações judiciais.
O que é comando oculto de IA
Comando oculto de IA, conhecido no meio tecnológico como prompt injection, é uma técnica maliciosa que consiste em inserir instruções escondidas dentro de um documento ou texto para manipular secretamente sistemas de Inteligência Artificial.
A IA processa essas instruções como ordens absolutas, permitindo que a pessoa que inseriu o comando controle as respostas da máquina.
Como funciona e porque é usado?
Essa técnica tira proveito de como a IA lê e interpreta conteúdos. Os comandos são colocados de forma a serem imperceptíveis ao olho humano (por exemplo: textos em fonte branca sobre fundo branco, tamanho de fonte minúsculo ou embutidos na programação do arquivo).
Com PBAgora
About the Author
