OAB/RJ e o uso ético da IA no Judiciário: desafios e limites

O que foi decidido: A seccional fluminense da OAB firmou posição pública em evento de inovação defendendo o emprego da inteligência artificial no sistema de Justiça desde que operada com supervisão humana, mecanismos de auditoria e medidas técnicas de segurança; também ressaltou atuação disciplinar contra fraudes eletrônicas e pediu aperfeiçoamento dos sistemas como o e-Proc.

Contexto

A incorporação de ferramentas digitais e de inteligência artificial em tribunais e escritórios vem acelerando nos últimos anos. Ao mesmo tempo em que sistemas automatizados prometem ganhos de eficiência processual e operacional, surgem riscos novos: vulnerabilidades técnicas (como prompt injections), fraudes praticadas por agentes que manipulam modelos e desafios de proteção de dados pessoais. No Brasil, essa transformação assenta-se sobre uma moldura normativa plural — do marco da informatização do processo (Lei 11.419/2006) ao Marco Civil da Internet (Lei 12.965/2014) e à Lei Geral de Proteção de Dados, LGPD (Lei 13.709/2018) — sem contar regras disciplinares da advocacia (Estatuto da OAB, Lei 8.906/1994, e o Código de Ética). A controvérsia importa porque o modo como tribunais adotam IA afetará garantias fundamentais, a integridade processual e a responsabilização por decisões automatizadas.

O que foi decidido

Em debates realizados durante conferência de inovação, a presidência da OAB/RJ explicitou uma posição normativa e prática: apoiar o uso de inteligência artificial como ferramenta de aumento de eficiência no Judiciário, condicionando-o a salvaguardas que preservem a revisão e o controle humanos. A argumentação central foi dupla: (i) reconhecer que automação e modelos de IA podem agilizar rotinas e dar maior capilaridade ao acesso à Justiça; (ii) exigir que tais tecnologias sejam implementadas com controles técnicos (auditoria, logs, testes contra injeção de comandos) e com mecanismos disciplinares ativos para reprimir fraudes, inclusive aquelas que se valem de prompts para induzir sistemas ao erro.

No plano operacional, a OAB/RJ destacou problemas práticos enfrentados com o e-Proc — o sistema eletrônico de tramitação — e alertou para a necessidade de atualização constante das defesas contra sujeição indevida de sistemas a comandos maliciosos (prompt injections). Em paralelo, a seccional apresentou sua experiência interna de digitalização integral de procedimentos como exemplo de governança para a transição ao ambiente eletrônico.

Base normativa e precedentes

• Lei 11.419/2006 — disciplina a informatização do processo judicial, fundamento direto para debates sobre e-Proc e demais plataformas eletrônicas.
• Lei 13.709/2018 (LGPD) — impõe regras sobre tratamento de dados pessoais, relevando-se na adoção de IA por tribunais e escritórios, inclusive quanto a bases de treinamento e limitação de finalidade.
• Lei 12.965/2014 (Marco Civil da Internet) — estabelece princípios e garantias para o uso da internet no país, com impacto sobre responsabilidade e custódia de registros em plataformas judiciais.
• Lei 8.906/1994 (Estatuto da OAB) — legitima mecanismos disciplinares da advocacia perante condutas que envolvam fraude processual digital.
• Código de Ética e Disciplina da OAB — parâmetro para apuração de práticas vedadas, como falsificação ou manipulação de prova/atos processuais por meios digitais.
• Jurisprudência consolidada dos tribunais superiores — tende a reforçar a necessidade de motivação, transparência e possibilidade de revisão humana diante de atos decisórios que envolvam processamento automatizado.

Impacto prático

• Para advogados: reforço da necessidade de conformidade digital; risco disciplinar acrescido em hipóteses de manipulação de sistemas (uso indevido de prompts, falsificação eletrônica); demanda por competência técnica mínima para operar plataformas e avaliar relatórios produzidos por IA.
• Para tribunais e gestores de TI: obrigação de investir em segurança arquitetural (logs imutáveis, detecção de anomalias, mitigação de prompt injection), políticas de governança de modelos e planos de contingência quando houver erro sistêmico.
• Para partes e jurisdicionados: potencial de tramitação mais célere, porém com necessidade de garantias de revisão humana, transparência sobre critérios usados por algoritmos e proteção de dados pessoais conforme LGPD.
• Para o contencioso em curso: fundamentos técnicos apontados podem alimentar pedidos de diligências probatórias, perícias técnicas e incidentes de falsidade quando houver suspeita de fraudes digitais.

O que observar

• Regulação setorial: esperar propostas normativas que detalhem requisitos mínimos de segurança, auditoria e transparência para uso de IA no Poder Judiciário; eventuais atos administrativos dos tribunais superiores podem modular aplicação prática.
• Fiscalização disciplinar: a atuação preventiva e punitiva da OAB e de seus tribunais de ética tenderá a crescer; advogados devem revisar rotinas e políticas internas para evitar responsabilização.
• Procedimentos processuais: advogados e magistrados precisarão pactuar rotinas de revisão humana explícita para decisões assistidas por IA, sob pena de questionamento quanto à violação de direitos fundamentais e do devido processo legal (CF/88, art. 5º).
• Risco de prompt injection e fraudes: é imperativo que projetos de adoção tecnológica contem com testes de segurança específicos e contratação de auditorias independentes; na ausência de salvaguardas, aumenta a probabilidade de incidentes que afetem a validade dos atos processuais.
• Capacitação técnica: maior demanda por perícias em ciência de dados, logs forenses e especialistas em segurança da informação nos litígios.

Em síntese, a posição da OAB/RJ reforça a via intermediária entre inovação e salvaguarda de garantias: reconhecer os ganhos de eficiência da IA, sem abdicar da revisão humana, da proteção de dados e da atuação disciplinar frente às novas formas de fraude digital. Para operadores do direito, a recomendação prática é adaptar rotinas, investir em governança de tecnologia e antecipar medidas para demonstrar conformidade quando a inteligência artificial passar a produzir ou influenciar atos processuais.