OAB aprova ferramenta gratuita contra prompt injection em documentos

O Colégio de Presidentes dos Conselhos Seccionais da OAB aprovou, em reunião realizada em Recife, uma proposta para criar ferramenta de detecção de vulnerabilidades conhecidas como prompt injection em documentos e peças processuais, buscando proteger advogadas e advogados contra riscos de manipulação de sistemas de inteligência artificial utilizados na prática jurídica.

Contexto

O uso crescente de inteligência artificial nos processos judiciais introduz novos vetores de risco ainda não completamente mapeados pela comunidade jurídica brasileira. Prompt injection é uma técnica de ataque cibernético na qual comandos ocultos ou instruções malformadas são inseridos em documentos com o objetivo de interferir no funcionamento adequado de modelos de linguagem e sistemas de IA, desviando-os de seu propósito original ou extirpando informações confidenciais. A vulnerabilidade pode estar presente de forma invisível em arquivos, textos ou metadados, representando potencial risco para advogados que utilizam ferramentas alimentadas por inteligência artificial na análise de documentação processual, redação de peças e pesquisa jurídica.

A discussão insere-se no debate maior sobre segurança, ética e conformidade no uso de tecnologia jurídica — temas que adquirem maior urgência com a disseminação de plataformas de IA generativa e assistentes jurídicos automatizados. O Sistema OAB reconheceu que grande parcela da advocacia ainda carece de conhecimento específico para identificar e neutralizar tais vulnerabilidades, justificando a demanda por ferramentas de diagnóstico acessíveis e orientação técnica.

O que foi decidido

A proposta apresentada pelo presidente da OAB-GO e coordenador do Colégio de Presidentes Seccionais prevê o desenvolvimento e disponibilização gratuita de solução de análise de documentos capaz de varrer petições, manifestações processuais e arquivos associados para identificar a presença de comandos ou instruções inseridas de forma ilegítima com potencial de comprometer o funcionamento de sistemas de inteligência artificial. A ferramenta operaria como camada adicional de segurança, permitindo que profissionais verifiquem seus arquivos antes de submetê-los a análise por plataformas de IA ou de compartilhá-los em ambientes colaborativos.

Durante o debate no Colégio, presidentes de seccionais da OAB enfatizaram a necessidade de incorporar critérios rigorosos de proteção de dados e de tratamento de informações sensíveis — preocupação que reflete obrigações impostas pela Lei Geral de Proteção de Dados (Lei 13.709/2018) — na estrutura técnica da plataforma. Essas demandas foram integradas à proposta, que segue em fase de desenvolvimento e avaliação técnica.

Paralelamente, a Escola Superior de Advocacia Nacional (ESA Nacional) anunciou ampliação de sua oferta de cursos e programas de especialização voltados a direito digital, inovação tecnológica e aplicações práticas de inteligência artificial no universo jurídico. A iniciativa responde ao reconhecimento de que acesso a ferramentas tecnológicas deve vir acompanhado de capacitação adequada para utilização segura, ética e estratégica.

Base normativa e precedentes

• Lei 13.709/2018 (LGPD) — Estabelece direitos e deveres relativos ao tratamento de dados pessoais. Qualquer ferramenta de análise de documentos processuais deve observar restrições quanto a armazenamento, processamento e retenção de informações sensíveis eventualmente submetidas à plataforma, especialmente dados pessoais de partes, testemunhas e terceiros presentes em peças processuais.

• Lei 12.965/2014 (Marco Civil da Internet) — Prevê princípios de segurança, privacidade e responsabilidade no uso de internet. Sistemas que analisam conteúdo jurídico devem estar alinhados com disposições sobre proteção e não-retenção indevida de dados.

• Resolução 65/2008 do CNJ — Regulamenta o funcionamento de sistemas de informação do Poder Judiciário. Plataformas que interagem com documentação processual devem observar padrões de segurança reconhecidos pelo Conselho Nacional de Justiça.

• Jurisprudência sobre segurança em sistemas jurídicos — A jurisprudência consolidada do Poder Judiciário, bem como decisões administrativas da OAB, reconhecem a responsabilidade profissional de advogados quanto à integridade, confidencialidade e segurança de documentação processual sob sua guarda.

Impacto prático

Para advogados e escritórios: A ferramenta oferecerá diagnóstico prévio de vulnerabilidades antes da submissão de documentos a plataformas de IA, reduzindo risco de manipulação de sistemas automatizados e de exposição inadvertida de dados confidenciais. Dado que muitos profissionais carecem de conhecimento técnico específico sobre prompt injection, a solução democratiza acesso a mecanismo de defesa previamente restrito a especialistas em cibersegurança.

Para a prática jurídica em geral: A iniciativa complementa esforços de regulação e segurança ao nível do Sistema de Justiça, alinhando-se com recomendações de órgãos internacionais sobre uso responsável de IA em contextos legais. Escritórios que adotem a ferramenta poderão estruturar processos internos de verificação de conformidade antes de engajar tecnologia jurídica.

Para a ESA Nacional: A expansão de cursos de direito digital e IA reposiciona a entidade como locus de capacitação continuada, respondendo a demanda por formação sobre aplicações práticas e riscos associados ao uso de inteligência artificial no exercício profissional.

O que observar

A proposta encontra-se em fase de desenvolvimento técnico e regulatório. Pontos críticos a acompanhar incluem:

• Conformidade com LGPD: Como a ferramenta será estruturada para não reter dados processados de documentos que contenham informação pessoal de terceiros — risco que presidentes de seccionais já sinalizaram.

• Integração com sistemas de informação do CNJ: Eventual necessidade de alinhamento com Resolução 65/2008 e protocolos de segurança estabelecidos pelo Poder Judiciário caso a ferramenta seja integrada a ambientes de transmissão de peças.

• Capacitação profissional: O sucesso da ferramenta dependerá de adesão. Campanhas de educação continuada pela OAB e seccionais serão essenciais para disseminação de conhecimento sobre vulnerabilidades de prompt injection e práticas seguras de uso de IA.

• Evolução de ameaças: A segurança de sistemas de IA é campo em transformação rápida. A ferramenta deverá sofrer atualização frequente para detectar novas técnicas de ataque e variações de vulnerabilidades.

• Responsabilidade civil: Eventual falha na detecção de vulnerabilidade pela plataforma poderia gerar questões sobre responsabilidade de advogados que confiam exclusivamente na ferramenta. Recomenda-se que documentação interna da OAB reafirme que a ferramenta é instrumento complementar, não substituto de diligência profissional.