CNJ na OEA: juiz como gatekeeper das provas geradas por IA

O texto decisório em síntese O CNJ, por meio de artigo assinado por juízes auxiliares, levou ao debate da OEA os critérios para avaliação de provas produzidas ou alteradas por inteligência artificial (IA). A proposta central é reafirmar o papel do magistrado como 'gatekeeper' — isto é, responsável por checar autenticidade, confiabilidade e condições de produção dessas provas — com efeito prático de estimular auditorias do processo gerativo e exigência de transparência técnica nas peças probatórias trazidas aos autos.

Contexto

A incorporação de sistemas de inteligência artificial ao ciclo probatório — geração de imagens, áudios, textos e análises preditivas — vem suscitando dúvidas sobre como o Direito processual e material deve reagir. A facilidade técnica para produzir deepfakes, manipular metadados e automatizar inferências estatísticas põe em questão pressupostos clássicos da prova: autenticidade, cadeia de custódia e a possibilidade de reprodutibilidade do método. No plano nacional, a agenda combina parâmetros constitucionais de devido processo e contraditório com normas de proteção de dados e regras do processo civil sobre produção e valoração da prova. Internacionalmente, organismos como a OEA têm buscado construir padrões mínimos para as Américas, diante da assimetria tecnológica entre países.

A controvérsia é relevante porque afeta múltiplos ramos: direito penal (risco de condenações baseadas em evidências automatizadas), direito civil (reparação por uso indevido de imagens sintéticas) e tutela administrativa e regulatória (diretrizes para uso de IA em decisões públicas). O debate também cruza com a governança técnica: necessidade de auditorias, logs, acesso a modelos e treinamento de peritos para que o juiz possa avaliar elementos técnicos.

O que foi decidido

O artigo divulgado pelo CNJ não é uma norma vinculante, mas representa uma proposição técnica-politicamente qualificada: recomenda que o juiz exerça função de filtro rigoroso sobre provas produzidas por IA. Em termos práticos, os autores defendem que a avaliação não deve limitar-se ao resultado (por exemplo, imagem ou relatório final), mas abarcar o conjunto do processo gerador — algoritmos, datasets de treinamento, parâmetros e controles de qualidade.

Os pontos centrais da proposição são:

• exigência de transparência sobre o processo de produção da prova (logs, metadados, modelos e sua versão);
• auditoria e perícia técnica capaz de atestar a integridade do fluxo de dados e a não manipulação artificial posterior;
• aplicação do contraditório e ampla defesa em face de evidências automatizadas, incluindo acesso a especialistas e tempo razoável para impugnação;
• critérios de admissibilidade pautados na confiabilidade técnica do sistema, na rastreabilidade da cadeia de produção e na relevância probatória.

A contribuição também promoveu intercâmbio internacional na sessão da OEA, ampliando a agenda da Escola Nacional do Judiciário em pesquisa sobre IA, evidências e inovação.

Base normativa e precedentes

• Art. 5º, CF/88 — garantia dos direitos e garantias processuais, em especial os incisos LIV e LV (devido processo e ampla defesa), relevantes para a valoração de prova automatizada.
• Lei 13.105/2015 (CPC) — disposições gerais sobre produção de prova, perícia e poder-dever do juiz de apreciar e ordenar provas, aplicáveis à prova assistida por tecnologia.
• Lei 13.709/2018 (LGPD) — regras sobre tratamento de dados pessoais que impactam coleta, uso e compartilhamento de bases de treino e metadados utilizados por sistemas de IA.
• Código Penal e normas processuais penais (CPP, Decreto-Lei 3.689/1941) — implicações quando provas produzidas por IA ingressam em investigações criminais, especialmente quanto à legalidade da diligência e preservação da cadeia de custódia.
• Jurisprudência consolidada do tribunal — no sentido de que o magistrado tem o dever de diligência e de controlar a admissão de provas quando há risco de violação de direitos fundamentais.

Impacto prático

• Para magistrados: eleva a necessidade de formação técnica continuada e acesso a perícia qualificada. Juízes passarão a demandar documentação técnica (logs, versões de modelos) antes de admitir provas automatizadas.
• Para advogados: aumenta o foco em requerer produção de informações técnicas, diligências periciais e transparência algorítmica; altera estratégias de impugnação e provas contrárias.
• Para partes e empresas de tecnologia: pressiona por contratos e cadeias de responsabilidade mais claras, com cláusulas sobre retenção de registros, auditorias independentes e descrição de vieses.
• Para titulares de dados: reforça aplicação da LGPD quando dados pessoais estiverem envolvidos em modelos que geraram prova, com potencial necessidade de bases legais e minimização.
• Para processos em curso: decisões futuras poderão exigir complementação probatória antes de atribuir valor probatório a conteúdos gerados por IA, aumentando pedidos de perícia e eventuais incidentes processuais.

O que observar

• Técnica versus norma: o artigo propõe práticas técnicas que precisarão ser traduzidas em rotinas processuais ou normativas; há espaço para resolução normativa do próprio CNJ sobre diretrizes de uso de IA em processos judiciais.
• Modulação e padronização: eventual adoção de critérios deve considerar heterogeneidade tecnológica entre tribunais e custos de perícia; poderá surgir demanda por centralização de serviços de auditoria técnico-forense.
• Recursos e precedentes: a adoção dos critérios pelo Judiciário dará ensejo a recursos e construção de jurisprudência, com possibilidade de uniformização em súmulas ou provimentos do CNJ.
• Conflitos com segredo industrial e proteção de modelos: exigência de transparência técnica tende a colidir com segredos empresariais; mecanismos de acesso restrito (salas cofre, perícia judicial sigilosa) serão instrumentos essenciais.
• Risco de judicialização excessiva: aumento de incidentes de prova e perícias especializadas pode alongar procedimentos e onerar o custo processual; é necessário equilibrar rigor probatório e economia processual.

Conclusão: o posicionamento técnico do CNJ, ao levar a discussão para a OEA, sinaliza uma agenda normativa e formativa que privilegia a exigência de auditabilidade e de diligência judicial diante de provas produzidas por IA. Para operadores do direito, a recomendação coloca na pauta habilidades técnicas, estratégias de prova e compatibilização entre transparência algorítmica, proteção de dados e garantias processuais.