Parecer do NATJus/TJMS revela risco de prompt injection em autos

Um resumo direto: Um parecer técnico produzido pelo NATJus do Tribunal de Justiça do Mato Grosso do Sul, juntado a autos de um processo de saúde, continha duas ocorrências de um comando oculto destinado a motores de inteligência artificial. A descoberta motivou petição da Defensoria Pública, comunicação ao juízo e pedido de investigação administrativa para apurar origem, finalidade e controle de qualidade, com risco concreto de interferência em análises automatizadas.

Contexto

A crescente adoção de ferramentas de inteligência artificial generativa para leitura, sumarização e redação de peças processuais tem trazido eficiência, mas também novos vetores de vulnerabilidade. O fenômeno conhecido como "prompt injection" — instruções inseridas em documentos com a finalidade de manipular a resposta de um modelo de IA — já era tema de debate acadêmico e tecnológico, mas sua presença em documentos oficiais judiciais representa um salto de gravidade: aqui, o insumo instrumental que subsidia decisões sobre o direito à saúde foi afetado.

No caso em apreço, o documento técnico analisava estudos científicos sobre pedidos de fornecimento de medicamentos formulados em ação ajuizada perante o Juizado Especial da Saúde de Campo Grande/MS. Embora o conteúdo pericial diga respeito a evidência farmacológica e à indicação terapêutica, o arquivo eletrônico contém comandos de texto, visualmente camuflados pela cor do fundo, que são invisíveis à leitura normal, mas recuperáveis por extração de texto do PDF. A presença de tais comandos levanta duas questões centrais: (i) integridade e confiabilidade do documento que subsidia decisões judiciais; (ii) a necessidade de controles na cadeia de produção e na submissão de documentos digitais ao processo eletrônico.

O que foi decidido

Não houve, até a informação divulgada, uma decisão jurisdicional sobre o mérito do incidente; a Defensoria Pública localizou as instruções durante varredura nos autos e peticionou ao juízo comunicando o fato, sem imputar responsabilidade individual aos membros do núcleo técnico. O pedido foi no sentido de dar ciência ao Estado, adotar providências e instaurar apuração administrativa no âmbito do Tribunal e do Conselho Nacional de Justiça, objetivando esclarecer a origem do comando e reforçar mecanismos de controle de qualidade de documentos produzidos por unidades técnicas.

Em termos práticos, o juízo foi informado e a Defensoria requereu medidas administrativas: notificação ao Estado, abertura de procedimento administrativo interno no tribunal e comunicação ao CNJ para sindicância e definição de protocolos que impeçam a repetição do evento em outros processos. Não se conhece, por ora, resultado conclusivo sobre se o comando decorreu de uso de IA generativa sem revisão humana, de edição inadvertida ou de inserção maliciosa.

Base normativa e precedentes

• Art. 196, CF/88 — assegura que a saúde é direito de todos e dever do Estado, justificando o rigor na produção dos subsídios técnicos que informam decisões sobre fornecimento de medicamentos.
• Lei nº 13.105/2015 (CPC) — disciplina, de modo genérico, a tramitação dos atos processuais eletrônicos e a necessidade de observância das formalidades essenciais à sua validade e autenticidade.
• Lei nº 13.709/2018 (LGPD) — regula o tratamento de dados pessoais; a utilização de ferramentas automatizadas sobre documentos que contenham dados sensíveis exige avaliação dos riscos e das bases legais para o tratamento.
• Lei nº 9.099/1995 — norma aplicável aos Juizados Especiais, contexto procedural onde tramita o feito; impõe celeridade e simplicidade, mas não exime do dever de assegurar integridade probatória.
• Jurisprudência: a jurisprudência consolidada dos tribunais tem adotado critérios rigorosos quanto à confiabilidade de provas e pareceres técnicos como elementos de convicção judicial.

Impacto prático

• Para operadores do direito: advogados e defensores que utilizam ferramentas de IA para síntese de autos devem adotar procedimentos de verificação manual do texto extraído de PDFs e ferramentas de OCR, especialmente quando arquivos podem conter texto oculto ou camuflado.
• Para tribunais e núcleos técnicos (como NATJus): necessidade imediata de revisar fluxos de trabalho — política de revisão humana, checklists de exportação de documentos e verificação de metadados e camadas de texto em PDFs antes de juntada aos autos.
• Para partes e interessados: risco de que sínteses automatizadas obedeçam comandos inseridos e alterem o escopo da análise; potencial impacto em decisões que envolvem direitos fundamentais, como o acesso a medicamentos.
• Para órgãos de controle (CNJ, corregedorias): fundamenta a adoção de normativos internos sobre uso de IA na produção de pareceres, além de protocolos de segurança digital e auditoria de documentos.

O que observar

• Procedimento investigatório: é crucial que a apuração administrativa identifique se houve uso de IA generativa sem revisão, falha humana na edição ou inserção maliciosa. A correlação entre metadados do PDF, histórico de versões e registros de edição será decisiva.
• Modulação de responsabilidade: evitar atribuições precipitadas de culpa a profissionais; a investigação deverá distinguir erro processual de conduta dolosa ou imperícia grave.
• Medidas preventivas: implementação de políticas de controle de qualidade para documentos eletrônicos (assinatura digital, verificação de camadas de texto em PDF, listas de verificação) e capacitação sobre riscos de prompt injection para técnicos, peritos e servidores judiciais.
• Recursos e impacto processual: caso a apuração indique comprometimento relevante do conteúdo técnico, haverá espaço para requerer diligências, esclarecimentos técnicos complementares ou até juntada de novo parecer. Eventual demonstração de influência de comando oculto em decisões já prolatadas poderá ensejar medidas corretivas no processo.
• Risco regulatório e de privacidade: uso de ferramentas de terceiros para tratamento de documentos com dados sensíveis exige observância à LGPD e contratos que limitem transferência e uso indevido de informações.

Conclusão: o incidente revela vulnerabilidade tecnológica com potenciais efeitos jurídicos concretos. Além da apuração pontual, impõe-se que tribunais e órgãos de assistência técnica atualizem procedimentos para garantia da integridade documental e da fiabilidade das análises que subsidiam decisões sobre direitos fundamentais.