IA deve auxiliar, nunca substituir decisão judicial: limites constitucionais

Declarações recentes atribuídas ao ex-presidente do Supremo Tribunal Federal sobre a necessidade de confiança elevada em sistemas de inteligência artificial para a atividade jurisdicional abrem debate crítico sobre os limites constitucionais e processuais do uso de tecnologia algorítmica nas cortes brasileiras. A questão central é se máquinas podem assumir papel decisório ou apenas auxiliar magistrados — uma distinção que toca princípios fundamentais da estrutura do Poder Judiciário.

Contexto

O crescimento exponencial da demanda por serviços judiciais e a busca por maior eficiência operacional impulsionam a adoção de ferramentas tecnológicas nos tribunais. Sistemas de inteligência artificial oferecem potencial real para melhorar processos: identificação automática de precedentes, análise de grandes volumes documentais, otimização de gestão processual e detecção de padrões jurisprudenciais. Essas aplicações complementam a atividade do magistrado ao reduzir tempo de pesquisa e standardizar análises preliminares.

No entanto, a proposição de que magistrados devam atribuir grau elevado de confiança às conclusões algorítmicas — transferindo para o juiz o ônus de refutar decisões de IA — inverte a relação adequada entre ferramenta e usuário. Representa deslocamento problemático da responsabilidade decisória.

O Conselho Nacional de Justiça (CNJ) já posicionou-se sobre o tema, estabelecendo que a inteligência artificial deve funcionar como auxílio, não como substituto, com a pessoa humana no centro da atividade jurisdicional. Essa orientação reflete três princípios constitucionais e processuais que não admitem relativização.

O que foi decidido

A análise jurídica aqui desenvolvida sustenta que sistemas de inteligência artificial não devem ser encarregados de decisões finais em matérias sensíveis, particularmente na função jurisdicional. A tese central é que a IA deve permanecer como instrumento de apoio — auxílio na pesquisa, análise de informações e gestão — mas nunca como tomadora de decisão vinculante.

Asstência técnica (pesquisa de precedentes, análise de volumes documentais) diferencia-se fundamentalmente de deliberação judicial (análise probatória, contextualização política-social-econômica, construção de fundamentação legal). A primeira é compatível com automação; a segunda exige atributos exclusivamente humanos: conhecimento jurídico sedimentado, experiência profissional, discernimento moral e intuição que emergem da prática institucionalizada.

O ato de julgar — momento derradeiro em que conflito é resolvido mediante aplicação da norma ao caso concreto — permanece prerrogativa exclusivamente humana. Não porque máquinas não processem informações (processam), mas porque decidir encerra responsabilidade pessoal e democrática que não pode ser delegada a sistemas sem subjetividade, sem poder de voto, sem sujeição às mesmas responsabilidades que vinculam magistrados.

Base normativa e precedentes

• Art. 93, IX, CF/88 — Exige que todas as decisões dos órgãos do Poder Judiciário sejam motivadas, impondo ao magistrado responsabilidade direta pela fundamentação. Essa motivação decorre de cognição pessoal e não pode ser terceirizada a sistema algorítmico.

• Princípio da Investidura (direito judiciário constitucional) — Somente juízes investidos, aprovados em concursos ou nomeados por processo legal, podem proferir decisões vinculantes e coercitivas. Sistemas de IA não possuem personalidade jurídica investida, logo não podem exercer função jurisdicional, independentemente de desempenho técnico.

• Princípio da Indelegabilidade da Decisão Judicial — A decisão judicial é intransferível; pertence ao magistrado que a profere, decorre de sua cognição reflexiva e é produto direto do cidadão investido de legitimidade democrática para decidir. Não pode ser deslocada para entidade impessoal.

• Orientação do CNJ — O Conselho Nacional de Justiça posicionou-se afirmando que a centralidade da pessoa humana é pressuposto fundamental do uso de IA no Judiciário, vedando que pensamento sintético tenha a palavra final sem revisão humana.

• Jurisprudência consolidada — Cortes constitucionais em democracias ocidentais (Alemanha, Itália, Portugal) têm evitado atribuir funções decisórias finais a sistemas algorítmicos, mesmo em contextos de alta automação administrativa, reservando-as à deliberação humana.

Impacto prático

A demarcação entre apoio técnico e substituição decisória impacta múltiplos atores:

• Magistrados: Permanecem titulares exclusivos da decisão. Não podem fundamentar sentença delegando análise jurídica a IA sem revisão pessoal. Responsabilidade por eventual erro persiste integral — a confiança em sistema não atenua dever de verificação.

• Tribunais: Implementação de ferramentas de IA deve ocorrer em camadas não-decisórias: secretaria, protocolo, busca de jurisprudência, organização de autos, triagem inicial. Uso em deliberação (análise de prova, conclusão jurídica) exige supervisão magistral constante.

• Partes processuais e advogados: O direito ao julgador humano permanece intacto. Não podem ser prejudicadas por decisões exclusivamente algoritmicas. Recurso contra decisão baseada exclusivamente em IA possui fundamento constitucional (violação do direito de acesso à justiça e do princípio da investidura).

• Legitimidade institucional: Decisões judiciais extraem legitimidade de processo deliberativo humano, não de precisão matemática. Cidadãos e jurisdicionados aceitam limitações de juiz porque reconhecem autoridade humana; aceitação diminui se decisão emerge de "caixa preta" algorítmica.

O que observar

Vários pontos permanecem abertos e demandam atenção:

• Ônus da prova invertido: A proposta de transferir para o magistrado o ônus de contestar conclusões de IA ("magistrados devem demonstrar erros") é perigosa. Inverte a relação apropriada: IA é ferramenta, logo seu funcionamento deve ser provado correto, não o contrário.

• Regulamentação em desenvolvimento: Legislação específica sobre IA no Judiciário está em discussão. É crítico que future lei (eventual regulamento normativo do CNJ) reafirme a indelegabilidade e a centralidade humana, evitando tentação de eficiência a custo de legitimidade institucional.

• Risco de normalização gradual: Sem limites claros, adoção incremental de IA pode criar expectativa social de que máquina decide, erodindo principe da investidura lentamente. Cada caso de IA usada em análise jurídica de caso concreto sem revisão magistral cria precedente informal perigoso.

• Auditoria e transparência: Sistemas de IA no Judiciário devem estar sujeitos a auditoria regular, com transparência sobre algoritmos, dados de treinamento e vieses detectáveis. Isso reduz risco de perpetuação de discriminação ou erro sistemático mascarado por "confiança técnica".

• Formação de magistrados: Juízes precisam de treinamento em leitura crítica de resultados algorítmicos, compreensão de limitações de IA e resistência à "automação do pensamento". Conhecimento técnico de magistrado é defesa contra captura por ferramenta.

A conclusão é pragmática: inteligência artificial é aliada valiosa do Judiciário desde que reste clara em seu lugar — apoio, nunca soberania decisória.