CNJ aprova orientações para segurança de IA no Judiciário e cria Proseg-IA

O Conselho Nacional de Justiça aprovou, em sua 9ª Sessão Ordinária de 2026, um conjunto de orientações técnicas destinadas a preservar a segurança jurídica diante dos riscos emergentes relacionados ao uso de Inteligência Artificial nos tribunais brasileiros, particularmente quanto a ataques de prompt injection — técnicas de manipulação que inserem comandos escondidos em arquivos processuais para interferir no funcionamento de sistemas de IA.

Contexto

O avanço da adoção de tecnologias de IA no Poder Judiciário representa um salto significativo em eficiência operacional, processamento de dados em massa e auxílio à tomada de decisão. Contudo, essa integração expõe os tribunais a vulnerabilidades cibernéticas específicas e até então pouco exploradas no ambiente jurídico. O prompt injection é um tipo particular dessa vulnerabilidade: diferentemente de ataques tradicionais a infraestrutura de TI, ele funciona através da injeção de instruções maliciosas dentro de documentos legítimos (petições, memoriais, pareceres) que são posteriormente processados por modelos de linguagem ou sistemas de IA. Uma vez que esses comandos forem lidos pela máquina, podem desviar o fluxo de processamento, gerar respostas enviesadas ou comprometer a integridade de análises automatizadas. O contexto é preocupante porque tribunais brasileiros vêm expandindo o uso de ferramentas de IA em diferentes áreas — desde apoio ao juiz até automação de fluxos processuais — e essa expansão ocorre em paralelo à disseminação de técnicas de ataque no ambiente digital global. A ausência de um marco regulatório claro e de práticas consolidadas de defesa colocava em risco não apenas a segurança técnica dos sistemas, mas também a própria segurança jurídica das decisões proferidas com apoio de IA, elemento basilar da confiança no Judiciário.

O que foi decidido

O CNJ estabeleceu um conjunto de orientações técnicas voltadas a reduzir e neutralizar riscos de manipulação de sistemas de IA através de ataques adversariais, com destaque para a criação do Programa de Segurança Adversarial para Sistemas de Inteligência Artificial do Poder Judiciário Brasileiro (Proseg-IA). Este programa funciona como uma estrutura permanente e contínua para monitoramento, prevenção e resposta a tentativas de exploração de vulnerabilidades em plataformas de IA utilizadas nos processos judiciais. Além disso, o CNJ recomendou a incorporação de requisitos de "ingestão segura" de documentos processuais, mecanismo que implica em tratamento especial de arquivos antes de sua alimentação em sistemas de IA, preservando tanto metadados visuais quanto estruturais e reduzindo a superfície de ataque. A Plataforma Sinapse foi designada como solução nacional para centralizar e manter inventário nacional de sistemas judiciais de IA e de suas exposições a riscos adversariais, funcionando como um repositório de inteligência sobre vulnerabilidades identificadas e respostas implementadas.

Base normativa e precedentes

• Lei 13.709/2018 (LGPD) — embora primariamente focada em proteção de dados pessoais, estabelece princípios de segurança e integridade de dados que irradiam para ambientes tecnológicos judiciais;
• Lei 14.611/2023 (Lei de Segurança da Informação) — aplicável a órgãos públicos, exige medidas de proteção contra ataques cibernéticos e manipulação de sistemas informatizados;
• Resoluções anteriores do CNJ sobre IA — incluindo diretrizes sobre uso responsável de algoritmos e transparência em decisões automatizadas, formam o arcabouço em que se insere o Proseg-IA;
• Jurisprudência consolidada do STF — ao reconhecer o direito fundamental ao processo justo (art. 5º, LIV da CF/88), inclui a garantia de que o procedimento não seja interferido por fatores técnicos fraudulentos ou manipulados;
• Recomendações internacionais de segurança de IA — NIST AI Risk Management Framework e diretrizes da UNESCO sobre IA e justiça, que orientam práticas globais de mitigação de riscos em sistemas de IA sensíveis.

Impacto prático

As orientações do CNJ impactam diretamente múltiplos atores do ecossistema jurídico:

• Tribunais e respectivos TIs: deverão revisar e implementar protocolos de ingestão segura de documentos, segregar ambientes de processamento e incorporar auditorias regulares de segurança em sistemas de IA existentes ou em desenvolvimento;
• Profissionais do direito: devem tomar conhecimento de que documentos processuais submetidos eletronicamente podem ser submetidos a análise de segurança, e que práticas como inserção de comandos estruturados em texto livre serão monitoradas;
• Partes litigantes: o direito ao acesso à justiça e ao processo justo é reforçado pela garantia de que os sistemas que auxiliam na análise de seus processos estão protegidos contra manipulação;
• Órgãos de classe e associações jurídicas: precisam alinhar orientações e treinamentos de seus membros com as novas práticas, evitando que advogados, involuntariamente, utilizem técnicas de prompt injection em documentos processados por IA;
• Pesquisadores e desenvolvedoras de IA: as orientações estabelecem um campo bem definido para testes adversariais autorizados e responsáveis dentro do Proseg-IA, criando um espaço de segurança para pesquisa.

O que observar

Ainda que as orientações representem avanço significativo, há pontos em aberto:

• Efetividade da implementação: as medidas dependem fortemente de adoção voluntária pelos tribunais. O CNJ não dispõe de autoridade hierárquica sobre Tribunais Estaduais, STJs e Justiças Especializadas, de modo que a conformidade será graduada;
• Governança do Proseg-IA: a forma como o programa será gerido, quem poderá reportar vulnerabilidades, qual será o escopo de testes adversariais autorizados, e como serão divulgadas descobertas sensíveis — tudo isso exige regulamentação subsequente;
• Responsabilidade civil e processual: caso uma manipulação de IA de fato ocorra e afete uma decisão, quem responde? O tribunal? A desenvolvedora? O Estado? Questões de responsabilidade ainda carecem de jurisprudência consolidada;
• Regulamentação normativa: as orientações atuais funcionam como ato administrativo do CNJ, mas a consagração dessas práticas em lei ou em Resolução com força vinculante poderia fortalecer a segurança jurídica;
• Alinhamento com LGPD e legislação penal: a interface entre proteção de dados (LGPD) e medidas de segurança cibernética (Lei 14.611/2023) em contexto judicial precisa de esclarecimento quanto a responsabilidades e sanções.

As próximas fases envolvem monitoramento contínuo da Plataforma Sinapse, eventuais atualizações das orientações conforme novas técnicas de ataque surjam, e possível judicialização de questões sobre responsabilidade por falhas de segurança.