IA agêntica no Direito: governança, riscos e deveres de revisão

A incorporação de inteligências artificiais generativas autônomas (IA agêntica) no funcionamento do Poder Judiciário brasileiro deixou de ser ficção regulatória e transformou-se em realidade operacional que demanda resposta jurídica urgente. O desafio contemporâneo não reside apenas em proibir ou autorizar indiscriminadamente, mas em estabelecer estruturas de governança que permitam o uso responsável dessas tecnologias sem abdicar do controle humano ou da prestação de contas institucional.

Contexto

O Poder Judiciário brasileiro, como diversos órgãos públicos, experimenta integração crescente de sistemas de inteligência artificial em fluxos processuais, triagem de demandas, elaboração de minutas de decisão e até sugestão de fundamentação jurídica. Diferentemente de ferramentas determinísticas tradicionais, a IA generativa agêntica possui capacidade de autonomia parcial—toma decisões dentro de parâmetros definidos sem intervenção humana contínua—o que amplifica incertezas sobre responsabilidade jurídica, deveres de revisão e conformidade com garantias processuais fundamentais.

A divergência central reside na transformação do ônus regulatório: passa-se do paradigma clássico de "revisão obrigatória de output" (juiz sempre revê e valida) para um modelo de "orientação contínua do sistema" (programação ética prévia, monitoramento de desvios, transparência algorítmica). Essa transição implica repensamento radical dos deveres fiduciários de magistrados, da responsabilidade civil das instituições que adotam a tecnologia e da conformidade com direitos processuais das partes.

O que foi decidido

O debate jurídico aponta para a insuficiência de um modelo puramente reativo. Não basta exigir que o juiz revise manualmente cada sugestão de IA agêntica—essa exigência torna-se impraticável em volume massivo de causas (milhões de processos) e reintroduz o viés humano que a tecnologia supostamente mitigaria. Paralelamente, delegar automaticamente a IA sem supervisão viola o direito ao devido processo legal e a garantia de julgamento por ser humano responsável.

A posição emergente entre juristas e especialistas em direito digital aponta para um terceiro caminho: a IA agêntica deve operar sob regime de governança pré-operacional rigorosa. Antes de o sistema processar causas, exige-se: (1) auditoria técnica e jurídica da arquitetura do algoritmo; (2) testes extensivos em bases de dados representativas da população de casos; (3) documentação minuciosa das limitações, vieses conhecidos e cenários onde a IA pode falhar; (4) definição clara do nível de autonomia permitido (sugestão, triagem, decisão vinculante) conforme complexidade do caso; (5) direito das partes à explicabilidade do raciocínio computacional que as afetou.

Esse modelo desloca a responsabilidade: não é mais apenas o julgador individual que responde por decisão de máquina, mas a instituição judiciária que responde pela seleção, treinamento, auditoria e supervisão contínua do sistema.

Base normativa e precedentes

• Lei 13.105/2015 (CPC) — Art. 5º — Garantia de acesso à justiça e devido processo legal; qualquer tecnologia que interfira no fluxo processual deve respeitar direitos fundamentais das partes.
• Lei 13.709/2018 (LGPD) — Arts. 2º, 5º e 6º — Princípios de transparência, finalidade e responsabilidade aplicam-se a sistemas de IA que processem dados pessoais e sensíveis em contextos judiciais.
• Constituição Federal/88 — Art. 5º, XXXV — Direito à prestação jurisdicional; exigência implícita de decisões controladas e previsíveis, não delegadas a "caixa preta" algorítmica.
• Lei 14.129/2021 (Lei do Governo Digital) — Obrigação estatal de utilizar tecnologias com transparência e segurança em serviços públicos, incluindo judiciário.
• Jurisprudência consolidada do STF — Decisões sobre nulidade processual por violação do contraditório (quando sistema IA exclui informação relevante ao caso sem oportunidade de manifestação das partes).
• Resolução 65/2008 do CNJ — Início da institucionalização de sistemas de informação no judiciário; modernizações subsequentes devem incorporar salvaguardas de IA agêntica.

Impacto prático

Para magistrados:

• Permanece responsabilidade civil e penal pelas decisões, mesmo quando apoiadas por sugestão de IA; magistrado não pode se escudar em "erro do sistema".
• Surgem novos deveres: auditar periodicamente respostas da IA, documentar divergências e razões para aceitação/rejeição, comunicar anomalias ao tribunal.
• Risco de aumento de contestações de decisões com fundação em alegação de "viés algorítmico não detectado".

Para as partes processuais:

• Direito emergente a saber quais etapas processuais envolvem IA e em que nível de autonomia opera.
• Possibilidade de requerer revisão humana integral caso desconfiem de análise enviesada de IA.
• Impacto em prazos: se IA acelera triagem, mas exige validação posterior, economia de tempo pode não se materializar.

Para instituições judiciárias:

• Obrigação de investir em infraestrutura de auditoria, governança e treinamento contínuo—custos significativos.
• Responsabilidade solidária por dano causado por falha de IA (negligência em governança, falta de atualização, viés treinado).
• Competência concorrente da ANPD (Autoridade Nacional de Proteção de Dados) para fiscalizar conformidade com LGPD.

Para advogados:

• Necessidade de atualização profissional: entender arquitetura básica de IA para questionar adequadamente sugestões utilizadas contra cliente.
• Oportunidade litigiosa: peças argumentando viés de IA, erro de treinamento, negligência institucional em auditoria.
• Potencial aumento em ações por responsabilidade civil do Estado.

O que observar

Vários cenários permanecem em aberto. Primeiro, falta regulamentação específica do CNJ vinculante sobre padrões mínimos de governança de IA agêntica no judiciário brasileiro—resoluções existentes abordam informatização genérica, não IA autônoma. Espera-se movimento regulatório do CNJ ou edição de norma legal expressamente destinada ao tema.

Segundo, a LGPD já oferece fundamento para exigência de transparência e auditoria, mas caso julgado pelo STJ ou STF poderia cristalizar deveres específicos de magistrados frente a sistemas de IA, estabelecendo padrão nacional.

Terceiro, a responsabilidade por erro de IA permanece cinzenta: será da instituição, do desenvolvedor, do tribunal contratante ou solidária? Discussão envolvendo direito civil (culpa, dano), administrativo (responsabilidade do Estado) e consumerista (se terceiros forem prejudicados).

Quarto, questão de sobrevivência: em volume massivo, é matematicamente impossível juiz revisar cada recomendação de IA. Solução pode envolver reconfiguração de processos (IA decide segundo critério objetivo menor, juiz revê apenas exceções) ou, contraditoriamente, aumento de delegação com menor responsabilidade individual—ambos os caminhos oferecem riscos constitucionais.

Quinto, o mercado de startups jurídico-tecnológicas depende de clareza regulatória. Empresas desenvolvendo IA para law firms, tribunais e órgãos públicos aguardam sinalização sobre padrões mínimos de governança; falta de clareza desestimula investimento e inovação responsável.

Ainda não há consenso doutrinário ou jurisprudencial cristalizado. O desafio agora é evitar dois extremos igualmente nocivos: nem implementação negligente de IA sem controles (risco de violação de direitos fundamentais), nem proibição categórica que congela inovação no judiciário.