OAB e Jusbrasil lançam detector gratuito de prompt injection em petições

O Jusbrasil, em parceria com o Colégio de Presidentes das Seccionais da OAB, disponibilizou a primeira plataforma pública e gratuita do país desenvolvida especificamente para identificar indícios de prompt injection em documentos jurídicos. A ferramenta opera como mecanismo preventivo, permitindo que advogados, magistrados e demais operadores do Direito verifiquem o conteúdo de petições antes do protocolo ou compartilhamento, detectando instruções ocultas capazes de interferir no funcionamento de sistemas de inteligência artificial utilizados pelo Judiciário.

Contexto

O lançamento da plataforma ocorre em momento de expansão acelerada das soluções de inteligência artificial nas rotinas forenses e de crescente preocupação quanto aos riscos de segurança desses sistemas. A técnica de prompt injection—consistente na inserção deliberada de comandos maliciosos em documentos posteriormente processados por modelos de IA—emergiu como vetor de ataque real ao ecossistema jurídico. O tema ganhou relevo após a descoberta de episódios concretos em que operadores do Direito inseriram instruções invisíveis em peças processuais para manipular ferramentas de análise automática. Em maio de 2024, duas advogadas foram condenadas ao pagamento de multa de R$ 84 mil pela 3ª Vara do Trabalho de Parauapebas (PA) após a identificação de texto oculto em petição destinado a influenciar o comportamento do sistema Galileu, ferramenta de inteligência artificial utilizada pela Justiça do Trabalho. Semelhantemente, a 1ª Vara Cível de Ibirité (MG) aplicou sanção por litigância de má-fé ao autor de ação que inseriu comando oculto em recurso judicial para instruir a IA a elaborar resumos parciais favoráveis à sua posição. Esses episódios revelaram vulnerabilidade concreta dos processos automatizados ao comprometimento deliberado da integridade dos documentos, justificando iniciativas de blindagem preventiva.

O que foi decidido

O Colégio de Presidentes das Seccionais da OAB e o Jusbrasil determinaram lançar detector público e gratuito de prompt injection disponível na internet. A ferramenta funciona como camada adicional de proteção através da submissão de documentos para análise em busca de elementos potencialmente maliciosos anteriormente ao protocolo. O detector foi desenvolvido sob parâmetros de segurança de dados e acessibilidade, garantindo que nenhum documento submetido seja utilizado para treinar modelos de inteligência artificial da plataforma, conforme afirmado pelos desenvolvedores. A iniciativa busca não apenas detectar possíveis ataques, mas ampliar a conscientização sobre riscos relacionados ao uso de inteligência artificial generativa no setor jurídico e contribuir para a adoção de boas práticas de segurança digital.

Base normativa e precedentes

• Lei 13.709/2018 (LGPD) — Disciplina o processamento de dados pessoais; a plataforma garante que dados de documentos submetidos não são utilizados para treinamento de modelos, observando princípios de segurança e minimização.
• Código de Processo Civil (Lei 13.105/2015) — Estabelece procedimentos para protocolo de peças processuais; a detecção de instruções ocultas reforça a integridade documental exigida pelo processo civil eletrônico.
• Lei 8.906/1994 (Estatuto da OAB) — Confere à Ordem o dever de defender a ética profissional e a segurança jurídica; o lançamento da ferramenta materializa esse compromisso institucional.
• Jurisprudência consolidada — Decisões recentes (Parauapebas-PA e Ibirité-MG) reconhecem prompt injection como forma de litigância de má-fé e violação da lealdade processual, justificando mecanismos preventivos.

Impacto prático

Para advogados: A ferramenta oferece mecanismo de compliance prévio ao protocolo, reduzindo risco de sanções por litigância de má-fé ou condenação em multas (como os R$ 84 mil aplicados no caso de Parauapebas). Antes de submeter documento crítico, o operador pode verificar se houve inserção involuntária ou maliciosa de texto oculto.

Para magistrados: Acesso a detector que permite identificar e sancionar tentativas deliberadas de manipulação de ferramentas de IA antes que comprometam a análise dos autos. A disponibilidade pública reforça transparência e previsibilidade na detecção desses ataques.

Para o Judiciário: Proteção dos sistemas de inteligência artificial integrados aos tribunais contra vetores de ataque via petições, preservando a confiabilidade das análises automatizadas e da integridade processual.

Para o ecossistema jurídico: Incremento da segurança jurídica mediante conscientização coletiva sobre riscos do uso irresponsável de IA generativa em atividades forenses.

O que observar

Risco normativo: Embora a ferramenta seja preventiva, sua existência não exime o advogado da responsabilidade por verificação manual de seus documentos. A OAB e o Jusbrasil afirmam que o detector é complementar, não substitutivo, da diligência profissional.

Modulação futura: Espera-se que decisões dos tribunais superiores definam com maior precisão os contornos da responsabilidade civil e disciplinar do profissional que submete documento com prompt injection, mesmo que involuntariamente. Decisões em STJ ou STF poderão estabelecer critério de dolo ou culpa nesse contexto.

Escalabilidade: O detector deve evoluir na capacidade de identificar técnicas sofisticadas de prompt injection, particularmente aquelas que exploram vulnerabilidades semânticas ou linguísticas ainda não catalogadas.

Integração com Judiciário: Possibilidade futura de integração automática do detector aos portais de processo eletrônico dos tribunais, criando validação obrigatória no momento do protocolo, ainda que isso exija regulamentação específica.