Comandos ocultos em petição tentam influenciar IA do STF e levam Zanin a propor multa

Uma tentativa de direcionar sistemas de inteligência artificial por meio de comandos ocultos em uma peça processual chegou ao Supremo Tribunal Federal (STF). No recurso extraordinário com agravo (ARE) 1.608.713, de Minas Gerais, o ministro Cristiano Zanin votou pela rejeição do agravo regimental e pela aplicação de multa de dois salários mínimos, após a identificação da técnica conhecida como prompt injection, ou injeção de comandos.

O voto registra a detecção pelo Núcleo de Inteligência Artificial do STF e o encaminhamento do episódio à Ordem dos Advogados do Brasil (OAB) e ao Ministério Público Federal (MPF), para avaliação de eventual infração ético-disciplinar e possível crime. As comunicações não representam condenação nessas esferas.

A controvérsia de origem envolve nomeação em concurso público e destinação de vaga reservada. O relator manteve os obstáculos ao recurso, entre eles a falta de prequestionamento — o exame prévio da questão constitucional pelo tribunal de origem — e a impossibilidade de reexaminar fatos, provas e edital nessa via.

O risco surge quando instruções inseridas em um documento tentam alterar a maneira como uma ferramenta interpreta o material. Em vez de serem tratadas apenas como conteúdo dos autos, essas instruções procuram assumir a função de comandos para o sistema.

No ambiente judicial, a manipulação pode buscar a omissão de argumentos, a distorção de resumos ou o favorecimento de uma tese. São riscos descritos em orientação institucional sobre segurança de IA divulgada pelo Tribunal Regional Federal da 1ª Região (TRF1) em julho, a partir de nota técnica aprovada pelo Conselho Nacional de Justiça.

A questão envolve a integridade de todo o processamento: extração do texto, preparação dos arquivos, apresentação do conteúdo ao modelo e revisão das respostas. Documentos, imagens e metadados podem transportar instruções indevidas, o que exige atenção também às camadas que não aparecem na leitura convencional.

Zanin informou que seu gabinete não utiliza IA para analisar e fundamentar processos e que havia negado provimento ao recurso em 19 de agosto. O documento consultado não demonstra que a tentativa tenha produzido uma decisão favorável.

A multa consta do voto do relator. O julgamento virtual foi anunciado para o período de 25 de setembro a 2 de outubro. Não há, na documentação consultada para esta reportagem, confirmação de resultado colegiado definitivo.

O problema já havia sido identificado em outro tribunal superior. Em notícia oficial publicada em 3 de setembro, o Superior Tribunal de Justiça (STJ) informou que sua Segunda Turma fixou multa de 10% do valor da causa em recurso assinado por procurador municipal que continha comando oculto destinado a influenciar a IA da corte.

Nesse processo, a instrução estava em texto branco sobre fundo branco e com espaçamento entre caracteres. Intimado, o procurador negou intenção maliciosa e atribuiu a inserção a um erro ao utilizar atalhos do teclado. O relator, ministro Teodoro Silva Santos, considerou a explicação insuficiente e destacou a responsabilidade do profissional pela regularidade da peça que assina.

O colegiado determinou comunicações à OAB, ao MPF, à Polícia Federal e ao município. O histórico impede tratar o episódio do Supremo como a primeira ocorrência desse tipo em todo o Judiciário brasileiro.

Em maio, o Conselho da Justiça Federal já havia divulgado nota técnica do Centro de Inteligência da Justiça de Minas Gerais sobre comandos ocultos. O documento recomenda medidas de identificação e prevenção, além da avaliação das providências processuais e dos encaminhamentos cabíveis quando houver indícios de manipulação intencional.

Entre as medidas sugeridas estão filtros para textos ocultos e formatações suspeitas, proteção das instruções internas e mecanismos de auditoria. A orientação também ressalta que a tecnologia deve apoiar o trabalho judicial e permanecer submetida à revisão crítica de quem a utiliza.

Os episódios levam a uma questão concreta para os tribunais: como aproveitar ferramentas de análise sem permitir que o conteúdo apresentado por uma parte altere as regras de funcionamento do sistema. Para a advocacia, reforçam a necessidade de verificar integralmente os arquivos protocolados e de preservar a transparência da argumentação submetida ao contraditório.