STF identifica tentativa de prompt injection em processo de relatoria

O sistema de inteligência artificial do Supremo Tribunal Federal identificou, pela primeira vez, uma tentativa de manipulação de conteúdo processual por meio de prompt injection em um recurso de relatoria do ministro Cristiano Zanin; o relator aplicou sanção processual e enviou a matéria para julgamento na 1ª Turma, além de comunicar autoridades competentes para apuração disciplinar e penal. A medida opera como controle técnico-jurídico preventivo, sem efeito prático sobre a decisão já tomada no gabinete que não utiliza IA para fundamentação.

Contexto

A introdução de ferramentas de inteligência artificial em rotinas judiciais e administrativas tem suscitado debates sobre confiabilidade, segurança e integridade do conteúdo processual. A técnica conhecida como prompt injection consiste em inserir instruções ocultas ou camufladas no texto submetido a modelos generativos, com a finalidade de direcionar saídas e influenciar avaliações automatizadas. Em ambiente forense, esse vetor representa risco de contaminação de pareceres, ementas ou rascunhos quando sistemas automatizados ou assistivos são empregados para triagem, sumarização ou sugestão de fundamentos.

A controvérsia ganha relevo porque afeta princípios processuais basilares: a lealdade processual, a boa-fé objetiva entre as partes e a própria imparcialidade da decisão. Tribunais e secretarias de tecnologia vêm implementando mecanismos técnicos de detecção e políticas internas de uso de IA. A presença de precedentes e súmulas sobre impossibilidade de reexame de fatos e provas nas instâncias superiores também coloca no centro do debate a delimitação do alcance do controle judicial frente a inovações tecnológicas.

O que foi decidido

O Núcleo de Inteligência Artificial da Secretaria-Geral de Tecnologia e Inovação do STF sinalizou a existência de comandos ocultos em duas páginas de um Recurso Extraordinário com Agravo (ARE 1.608.713), apontando a técnica de prompt injection destinada a induzir a IA a formular argumento favorável à parte recorrente. O caso envolve servidor(a) exonerado(a) de cargo do Ministério Público de Minas Gerais, com alegação de burla ao sistema de cotas raciais por parte da substituta.

Embora o gabinete do relator não utilize ferramentas de IA para elaboração de decisões — de modo que a tentativa não alterou o resultado concreto — o ministro documentou a manobra como violação do dever de lealdade processual e aplicou multa equivalente a dois salários-mínimos, com fundamento no deveres das partes previstos no ordenamento processual. O relator também determinou a comunicação à Ordem dos Advogados do Brasil para apuração de infração ética-disciplinar e ao Ministério Público Federal para verificar eventual crime. O caso foi levado à 1ª Turma para julgamento no plenário virtual.

Base normativa e precedentes

• Art. 77, CPC (Lei 13.105/2015) — estabelece os deveres das partes e de seus procuradores, entre eles o dever de lealdade e boa-fé no processo, fundamento para a imposição de sanção por conduta desleal.
• Súmulas 279 e 454 (jurisprudência do STF) — referência à vedação de reexame de provas e fatos nas instâncias extraordinárias, insumo usado pelo relator ao manter decisão de origem e negar provimento.
• Estatuto da OAB e normas disciplinares — previsão de apuração de infrações ético-disciplinares por prática profissional incompatível com a dignidade da advocacia (comunicação determinada ao Conselho de Ética competente).
• Normas internas de governança de TI e segurança da informação do STF — estrutura para atuação do Núcleo de Inteligência Artificial e para identificação de manipulações em documentos eletrônicos.

Impacto prático

• Para advogados: a decisão demonstra o risco de responsabilização processual, disciplinar e até penal por uso de artifícios tecnológicos para influenciar decisão judicial; escritórios devem revisar práticas de edição e inserção de conteúdo antes do protocolo.
• Para magistrados e gabinetes: reforça a necessidade de políticas claras sobre uso de ferramentas de IA, adoção de controles técnicos para detecção de prompt injection e procedimentos de verificação de integridade de petições eletrônicas.
• Para tribunais e departamentos de tecnologia: sinaliza a importância de integração entre equipes jurídicas e de segurança cibernética para detectar vetores ocultos e criar normas de contenção e resposta.
• Para partes e cidadãos: assegura que tentativas de manipulação tecnológica serão tratadas com sanções e encaminhamentos, preservando confiança no processamento eletrônico de atos judiciais.

O que observar

• Padronização procedimental: é provável que o tribunal avance na formalização de protocolos internos sobre análise de documentos eletrônicos, com regras sobre triagem automática, logs e cadeia de custódia digital.
• Modulação e extensão das sanções: decisões futuras poderão definir parâmetros para aplicação de multas e especificar quando proceder à comunicação disciplinar ou penal, bem como a necessidade de demonstração do nexo causal entre a tentativa e eventual prejuízo processual.
• Recursos e debates sobre admissibilidade de provas digitais: incidentes dessa natureza poderão alimentar discussões sobre a validade de provas e a necessidade de perícia técnica quando se alegar manipulação automatizada.
• Risco de criminalização excessiva vs. proporcionalidade: a investigação penal e disciplinar deve evitar enquadramentos automáticos sem análise do dolo e da efetiva potencialidade de influência, preservando garantias profissionais.

Conclusivamente, o episódio funcione como marco inicial de jurisprudência e prática institucional sobre prompt injection no âmbito recursal, obrigando operadores do direito a conjugar proteção técnica com respostas jurídicas proporcionais para resguardar a integridade da decisão judicial e a lealdade processual.