Riscos do prompt injection: multa do TRT-5 e governança de IA

A decisão do Tribunal Regional do Trabalho da 5ª Região que aplicou multa a advogado por inserir instrução direcionada a ferramentas de inteligência artificial em petição traz à tona riscos concretos e ainda pouco regulados do uso de IA no processo judicial. A sanção, por entender que a conduta conflita com deveres processuais, expõe a necessidade de combinar controles técnicos, protocolos de supervisão humana e padrões éticos ao incorporar automação às rotinas forenses.

Contexto

A incorporação de sistemas de inteligência artificial em atividades judiciais e de escritório — triagem de processos, classificação de risco, sumarização de documentos, pesquisa jurisprudencial e apoio à redação — tem crescido por ganhos de eficiência. Paralelamente, surgiram práticas conhecidas como prompt injection: inserção deliberada de instruções dirigidas a modelos de IA dentro de arquivos submetidos ao sistema, com o objetivo de alterar a interpretação automatizada. Esses comandos podem estar visíveis ou encobertos em texto branco, metadados ou fragmentos pouco perceptíveis.

A controvérsia importa porque a automação, quanto mais autônoma, maior o potencial de impacto sobre decisões humanas e fluxos processuais. Ferramentas sem revisão adequada podem propagar vieses, executar ações com base em comandos ocultos ou produzir manifestações processuais com conteúdo influenciado por instruções indevidas. Há, portanto, uma tensão entre inovação tecnológica e preservação dos deveres fundamentais do processo, como a lealdade, a boa-fé e a integridade do andamento processual.

O que foi decidido

O tribunal regional considerou que a petição continha instruções dirigidas a sistemas automatizados — não ao magistrado — e entendeu que tal procedimento era incompatível com os deveres de lealdade e boa-fé processual. Com base nessa avaliação, aplicou multa ao representante da parte. A fundamentação central combina três vetores: (i) o reconhecimento da técnica de prompt injection como meio de influenciar ferramentas de IA que participam do fluxo processual; (ii) a conclusão de que a ocultação deliberada ou direcionamento de comandos a sistemas automatizados prejudica a confiança no procedimento; e (iii) a caracterização, em tese, de conduta suscetível de configurar litigância de má-fé ou ato atentatório à dignidade da justiça quando houver intenção de fraudar a análise.

O tribunal destacou ainda que o risco se intensifica conforme cresce a autonomia conferida à ferramenta dentro do workflow: quanto mais decisões, triagens ou classificações automáticas forem delegadas, maior deve ser o nível de controle, auditoria e supervisão humana.

Base normativa e precedentes

• Art. 5º, CF/88 — garantia de devido processo legal, contraditório e ampla defesa, que orientam limites à automação sem revisão humana.
• Art. 77, CPC (Lei 13.105/2015) — enumera os deveres das partes e de seus procuradores, incluindo lealdade processual e boa-fé.
• Art. 80, CPC (Lei 13.105/2015) — trata da litigância de má-fé, com hipóteses de conduta punível.
• LGPD (Lei 13.709/2018) — obrigação de segurança e tratamento adequado de dados pessoais, pertinente quando documentos automatizados contêm informações sensíveis ou metadados.
• Jurisprudência consolidada do tribunal — referências a decisões anteriores relativas à responsabilidade do advogado pela integridade de peças e à vedação de atos que atentem contra a dignidade da justiça (consolidação específica pode variar por corte).

Impacto prático

• Para advogados: aumenta o risco de responsabilização disciplinar ou processual ao utilizar IA sem controle. É imperativo adotar práticas de verificação de documentos antes do envio e registrar o uso de ferramentas automatizadas para demonstrar boa-fé.
• Para escritórios e departamentos jurídicos: necessidade de políticas internas de governança de IA — validação de entradas, detecção de textos ocultos e metadados suspeitos, protocolos de revisão humana e trilhas de auditoria.
• Para magistrados e unidades judiciais: reforço de procedimentos de recebimento e triagem quando sistemas automatizados participam do fluxo decisório; transparência sobre em que grau e em que etapa há apoio automatizado.
• Para fornecedores de tecnologia: demanda por soluções que incluam filtros anti-prompt-injection, logs de processamento e mecanismos de explicabilidade para comportamentos inesperados.
• Para processos em curso: decisões que envolvam uso de IA na análise podem ensejar impugnações, pedidos de esclarecimento quanto à metodologia automatizada e requerimentos para auditoria das ferramentas.

O que observar

• Tipificação e prova da intenção: nem todo erro técnico configura má-fé. A distinção entre falha acidental e ocultação deliberada será central em eventuais recursos ou procedimentos disciplinares. Provar intenção exigirá análise da forma de inserção, do contexto e do potencial de dano.
• Modulação dos efeitos: tribunais poderão modular a consequência de decisões que responsabilizam por prompt injection, preservando atos já praticados ou impondo correções sem nulidade automática.
• Recursos cabíveis: decisões sancionatórias podem ser impugnadas via apelação, agravo ou reclamação, a depender da via processual; questões éticas podem transitar para órgãos de classe.
• Lacuna regulatória: a resposta efetiva passa por padrões mínimos de governança e possivelmente por regulamentação setorial que alinhe responsabilidade, transparência e auditoria.
• Riscos de segurança e privacidade: além da manipulação de modelos, metadados e conteúdos ocultos podem implicar violações de dados pessoais, acionando obrigações sob a LGPD.

Conclusão: a sanção imposta pelo TRT-5 funciona como um alerta prático: o uso de IA no direito exige governança robusta, procedimentos de verificação humana e transparência quanto aos limites das ferramentas. A adoção tecnológica não é vedada; ao contrário, precisa ser acompanhada de controles que preservem princípios processuais e reduzam a exposição a responsabilizações por condutas que atentem contra a boa-fé e a integridade do processo.