Decisões sobre direitos devem ter autoria humana, defende especialista

Um advogado especialista em proteção de dados sustentou que, mesmo quando sistemas de inteligência artificial superam tecnicamente humanos, decisões que afetam direitos fundamentais e subjetivos devem conservar autoria humana e responsabilização clara, com impactos diretos sobre como tribunais adotam automação.

Contexto

A incorporação de ferramentas de inteligência artificial no Poder Judiciário brasileiro avança em etapas: primeiro em tarefas de suporte, como triagem e produção de peças iniciais, depois em fluxos mais automatizados que podem culminar em decisões instrumentais. O debate público e técnico costuma focar na capacidade preditiva e de processamento das máquinas, mas há uma corrente crítica que desloca a questão para a legitimidade jurídica da delegação decisória. Essa linha remete às discussões clássicas sobre limites da automação — notadamente à obra "Computer Power and Human Reason" de Joseph Weizenbaum — e encontra eco nas diretrizes e provimentos internos do Judiciário que impõem avaliação de riscos e supervisão humana. Do ponto de vista constitucional, princípios como devido processo legal, motivação das decisões e possibilidade de responsabilização reforçam a sensibilidade do tema.

O que foi decidido

Não se trata de uma decisão judicial, mas de uma tese técnica defendida por um membro da comunidade jurídica: a automatização não pode eliminar o elemento humano em decisões que envolvam ponderação de valores, justificativa pública e assunção de responsabilidade. O argumento centra-se em duas linhas de razão. Primeira: a imperfeição técnica das IAs — que produzem erros e vieses — impõe contingência à substituição integral do julgador. Segunda e mais fundante: a legitimidade democrática e jurídica da decisão não decorre apenas de sua eficácia ou correção material, mas também de quem decide e de quem responde por essa decisão. Assim, mero ato formal de assinatura humana ao fim de um processo automatizado não supre a exigência de julgamento efetivo; o agente precisa ter condições reais de analisar fundamentos, interpretar valores conflitantes e assumir a resposta por eventual injustiça.

Base normativa e precedentes

• Art. 5º, CF/88 — proteção a direitos e garantias fundamentais que condicionam a validade de decisões que afetem direitos individuais e coletivos.
• Art. 93, CF/88 — princípio da motivação das decisões judiciais, que demanda fundamentação suficiente para controle e legitimidade.
• LGPD (Lei 13.709/2018) — disposições sobre decisões automatizadas e tratamento de dados que exigem transparência e possibilidade de revisão humana quando houver efeitos sobre direitos dos titulares.
• Normas e atos do Conselho Nacional de Justiça (CNJ) — previsões administrativas que orientam avaliação de risco e supervisão humana no emprego de tecnologia no Judiciário (diretrizes internas e resoluções sobre uso de sistemas).
• Jurisprudência consolidada do tribunal — quando ausente uniformidade legal, a prática forense e decisões colegiadas vêm assentando requisitos mínimos de controle humano e explicitação de critérios em sistemas automatizados.

Impacto prático

• Para magistrados: reforça a necessidade de produzir fundamentação própria e de demonstrar efetiva análise humana quando utilizarem auxílios automatizados; não basta formalmente subscrever decisão gerada por sistema.
• Para advogados: amplia foco probatório sobre como foi empregado o sistema de IA (logs, parâmetros, treinamento e supervisão), possibilitando alegar nulidade ou pedido de reexame quando a participação humana for meramente decorativa.
• Para tribunais e administrações judiciárias: impõe desenho institucional mais robusto de governança de IA — avaliação de riscos, critérios de transparência, treinamento de revisores humanos e mecanismos de responsabilidade e prestação de contas.
• Para titulares e partes: potencial de maior proteção contra decisões automatizadas injustas, mas também possibilidade de aumento de custos e prazos se procedimentos de supervisão e revisão forem exigidos.

O que observar

• Exigência de padrão mínimo de avaliação humana: é preciso precisar o que constitui "julgamento efetivo" — apenas leitura do texto gerado ou exame crítico dos pressupostos, dados e modelos subjacentes? Essa definição terá impacto direto em trechos processuais e em custos operacionais.
• Provas técnicas: partes passarão a pleitear acesso a artefatos técnicos (logs, datasets de treinamento, métricas de desempenho e auditorias) para demonstrar erro ou viés, o que suscita tensões com segredo industrial e proteção de dados pessoais.
• Regulação e padronização: a intervenção do CNJ e demais órgãos reguladores será decisiva para uniformizar critérios; a ausência de norma específica aumenta o papel das cortes na fixação de padrões por via jurisprudencial.
• Recursos e modulação: decisões que venham a vedar delegação terão efeitos práticos imediatos sobre processos em curso; poderá surgir demanda por modulação temporal ou por regime de transição que equilibre eficiência e salvaguardas.
• Risco de judicialização técnica: a ampliação do contencioso técnico pode deslocar conflitos para perícias e ações que discutam parâmetros de IA, exigindo capacitação técnica de magistrados e peritos.

Em síntese, a tese defendida desloca o foco do que a IA pode fazer para o que ela deve fazer no campo decisório, enfatizando que legitimidade, motivação e responsabilização exigem presença humana qualificada e não apenas formal na cadeia decisória automatizada.