CNJ aprova medidas contra manipulação de IA no Judiciário

O Conselho Nacional de Justiça aprovou diretrizes institucionais destinadas a fortalecer a segurança jurídica e a confiabilidade dos sistemas de inteligência artificial utilizados pelo Poder Judiciário. A iniciativa responde especificamente à necessidade de prevenção contra técnicas de manipulação de ferramentas de IA por meio de injeções de comandos ocultos em documentos processuais, prática designada tecnicamente como "prompt injection".

Contexto

O Judiciário brasileiro vem expandindo significativamente a adoção de sistemas de inteligência artificial como instrumentos de agilização processual, desde triagem de demandas até análise de jurisprudência. Contudo, essa transformação digital introduz vetores de risco até então inéditos no ambiente forense. O risco de manipulação de sistemas de IA por meio de comandos ocultos inseridos em peças processuais representa uma ameaça tangível à integridade dos fluxos decisórios e à confiabilidade das informações que sustentam o processo judicial. A ausência de protocolos robustos de segurança poderia comprometer não apenas a eficiência operacional, mas a própria segurança jurídica — fundamento essencial da administração da justiça. O reconhecimento dessa vulnerabilidade levou a Justiça Federal e o Tribunal Superior do Trabalho a demandarem orientações normativas ao Conselho Nacional de Justiça para orientar a postura defensiva dos tribunais.

O que foi decidido

O Conselho Nacional de Justiça aprovou nota técnica com recomendações vinculativas voltadas à prevenção e resposta a tentativas de manipulação de sistemas de inteligência artificial utilizados pela administração judiciária. A nota técnica foi relatada pelo conselheiro Rodrigo Badaró, que preside o Comitê Nacional de Inteligência Artificial do Judiciário (CNIAJ). O presidente do CNJ e do Supremo Tribunal Federal, ministro Edson Fachin, ressaltou durante a aprovação que a medida reflete a necessidade de orientar os tribunais sobre os desafios decorrentes da evolução tecnológica, sem negligenciar seus benefícios operacionais. A iniciativa demonstra que a adoção de tecnologia avançada no Judiciário exige correspondente evolução nos protocolos de segurança e integridade de dados.

Base normativa e precedentes

• Lei 13.105/2015 (Código de Processo Civil) — estabelece a administração do processo por meios eletrônicos, pressupondo a segurança das informações como elemento constitutivo da confiabilidade processual.
• Constituição Federal, art. 93, XIV — exige transparência nos procedimentos judiciários, pressuposto que depende da integridade técnica dos sistemas.
• Recomendação CNJ nº 108/2021 — regulamenta a utilização de Inteligência Artificial pelo Poder Judiciário, servindo como marco regulatório anterior que agora é expandido com medidas específicas de segurança adversarial.
• Lei Geral de Proteção de Dados (Lei 13.709/2018) — aplicável analogicamente quando dados pessoais ou sensíveis tramitam nos processos e em sistemas de IA.
• Jurisprudência consolidada — entendimento de que a segurança informática é requisito implícito da legalidade de atos judiciários praticados por meios eletrônicos.

Impacto prático

Para tribunais e gestores judiciários:

• Adoção obrigatória de requisitos de "ingestão segura" de documentos processuais, com preservação de metadados visuais e estruturais para fortalecer a proteção contra interferências indevidas;
• Implementação do Programa de Segurança Adversarial para Sistemas de Inteligência Artificial do Poder Judiciário Brasileiro (Proseg-IA), com monitoramento permanente de riscos associados ao uso de IA em fluxos processuais;
• Utilização obrigatória da Plataforma Sinapse como solução nacional para consolidação e manutenção do inventário de sistemas judiciais de inteligência artificial e mapeamento de exposição a riscos adversariais.

Para advogados e escritórios:

• Necessidade de conscientização sobre as limitações técnicas de sistemas de IA no Judiciário, evitando estratégias de litigância que tentem explorar vulnerabilidades;
• Oportunidade de familiarizar-se com novos padrões de segurança que afetarão a forma como documentos são processados eletronicamente;
• Acompanhamento atento de normas futuras decorrentes da implementação do Proseg-IA.

Para a advocacia em geral:

• Reforço da confiança nos processos judiciais eletrônicos, na medida em que medidas preventivas reduzem riscos de manipulação;
• Envolvimento potencial da classe na discussão de impactos de segurança em negociações futuras sobre padrões de acesso às plataformas processuais.

O que observar

As orientações aprovadas ainda carecem de regulamentação específica por parte dos tribunais individuais e de detalhes operacionais sobre implementação do Proseg-IA e da Plataforma Sinapse. A efetividade da medida dependerá do comprometimento orçamentário e técnico de cada tribunal com a adoção dos protocolos. Permanece em aberto como a segurança adversarial será testada e auditada de forma contínua. A OAB sinalizou envolvimento nas transformações digitais do Judiciário, o que pode desdobrar-se em recomendações complementares da classe sobre padrões de segurança que impactem o exercício profissional. Advogados devem acompanhar publicações subsequentes do CNJ e resoluções específicas dos tribunais, particularmente quanto aos novos requisitos de formatação e ingestão de documentos processuais, que podem implicar mudanças nas rotinas de prática forense digital.