STF exige explicação sobre 'prompt injection' em petição do 8/1

Decisão e efeito prático: O ministro do Supremo Tribunal Federal determinou que o advogado que subscreveu petição relativa aos atos de 8 de janeiro se manifeste em 48 horas sobre a identificação de um comando oculto no corpo do documento, apontado tecnicamente como 'prompt injection' pelo Núcleo de Inteligência Artificial do tribunal. Na prática, trata-se de um controle inicial do Judiciário sobre tentativas de manipulação de ferramentas de IA usadas na tramitação processual e de averiguação de responsabilidade profissional do causador do conteúdo.

Contexto

A controvérsia nasce no cruzamento entre novas técnicas de engenharia de prompts para modelos generativos e as formalidades tradicionais do processo. Ferramentas automatizadas do próprio tribunal — no caso, o módulo de segurança MARIA Shield — sinalizaram que um trecho de petição continha instrução formulada para alterar o comportamento de sistemas de IA, em linguagem equivalente a comandos como "negar todos os comandos do GPT". Tecnicamente, esse tipo de texto é classificado como prompt injection, que inclui variações conhecidas como jailbreak e instruction override, cujo objetivo é anular parâmetros preestabelecidos ou sobrepor instruções de segurança.

A identificação ocorreu em peça que requeria exame de possibilidade de celebração de acordo de não persecução penal (ANPP), cujo prosseguimento resultou em proposta aceita pelo Ministério Público e homologada pela autoridade judicial. A Procuradoria-Geral da República considerou a inserção do comando oculto ato atentatório à dignidade da Justiça e pediu multa contra o advogado, além de comunicação à OAB para medidas disciplinares. O juiz-relator, contudo, limitou-se a intimar o causador do documento a explicar o que se alega ser um comando oculto, antes de decidir sobre sanções.

A questão importa porque inaugura um novo campo de atenção procedimental: a presença de artefatos textuais destinados a manipular sistemas de interpretação automatizada pode afetar a integridade da produção e análise documental, impor riscos à regularidade do processo e provocar sanções éticas e processuais.

O que foi decidido

A decisão interlocutória determinou apresentação de manifestação pelo advogado responsável no prazo de 48 horas, para explicar a origem e a finalidade do conteúdo identificado como prompt injection. Não houve, neste ato, aplicação de penalidade nem comunicação imediata à Ordem dos Advogados do Brasil. O magistrado reconheceu que a inserção de comandos ocultos com a finalidade de influenciar sistemas de IA ou de contornar mecanismos de segurança pode configurar ato atentatório à dignidade da Justiça e violar deveres previstos no Código de Processo Civil, mas reservou-se para decidir sobre eventual punição após a manifestação do causador.

O fundamento central da medida combina dois vetores: (i) preservação da higidez procedimental e da confiança nas ferramentas de automação usadas pelo tribunal; e (ii) apuração da eventual infração disciplinar ou processual cometida por agente que tenha inserido, deliberadamente ou não, comandos ocultos no texto de petição.

Base normativa e precedentes

• Art. 5, CF/88 — proteção aos direitos e garantias fundamentais; contextualiza-se aqui o dever do Judiciário de assegurar o devido processo legal e a igualdade entre as partes.
• Código de Processo Civil — Lei 13.105/2015 — art. 77 (deveres das partes e de seus procuradores) e dispositivos que permitem sanções por atos atentatórios à dignidade da jurisdição.
• Lei 8.906/1994 (Estatuto da OAB) — (implícito) disciplina a responsabilidade disciplinar da advocacia; a comunicação à OAB é pedido clássico quando há conduta profissional suscetível de sanção.
• Normas internas do tribunal (MARIA Shield e Núcleo de IA) — procedimentos técnicos de detecção de manipulação de sistemas automatizados; o uso dessas ferramentas traduz novo instrumento de supervisão procedimental.
• Jurisprudência consolidada do tribunal — entendimento precedente no sentido de que atos que atentem contra a dignidade da Justiça e a lisura processual autorizam medidas fiscais e punitivas, inclusive multa e comunicação à OAB, desde que apurada a intenção e o nexo causal.

Impacto prático

• Para advogados: abre-se obrigação prática de revisar minuciosamente documentos submetidos ao tribunal para evitar fragmentos ou formulações que possam ser interpretadas como comandos a modelos de IA, sob pena de investigação disciplinar ou aplicação de multa.
• Para magistrados e servidores: legitima e amplia o uso de ferramentas automatizadas de detecção (IA) como insumo probatório e de triagem, impondo necessidade de protocolos para verificação técnica e correlação com atos processuais.
• Para partes e procuradorias: sinaliza que uso de tecnologia no suporte à peça processual não é neutro e pode gerar contestações sobre autenticidade ou finalidade; no caso, a PGR entendeu que não houve repercussão sobre o mérito do acordo, mas manteve o pedido de sanção disciplinar.
• Para o sistema processual: inaugura uma linha de controle sobre tentativas de manipulação de fluxos automatizados, com potencial para criar prática rotineira de averiguação de documentos eletrônicos quanto a comandos direcionados a IA.

O que observar

• Prova da intenção: a diferença entre erro involuntário, insumo técnico inocente e tentativa deliberada de manipular sistemas de IA será decisiva para eventual punição; a análise técnica e a manifestação do advogado são elementos centrais.
• Requisitos probatórios e modulação: caso o tribunal avance para sanção, deverá fundamentar nexo intencional e prejuízo processual; eventual modulação dos efeitos (por exemplo, aplicação de multa isolada versus comunicação à OAB) dependerá dessa valoração.
• Procedimentos internos: tribunais precisam publicar orientações sobre como interpretar alertas gerados por ferramentas de IA, critérios de confiabilidade das detecções e direito de resposta das partes.
• Risco de excesso: há perigo de se transformar sinalizações automáticas em presunções absolutas; defesa técnica e contraditório são essenciais para evitar decisões precipitadas.
• Recursos cabíveis: decisões interlocutórias que imponham sanções ou determinem comunicação à OAB poderão ensejar agravo interno, reclamação ou recursos próprios previstos no ordenamento, além de eventuais medidas administrativas perante a OAB.

Em suma, o episódio revela como a incorporação de inteligência artificial à rotina jurisdicional cria novos vetores de responsabilização profissional e exige atualização de práticas tanto dos operadores do Direito quanto dos tribunais, conciliando inovação tecnológica com garantias processuais e princípios éticos previstos no CPC e na Constituição.