IA nas decisões judiciais: riscos de obsolescência do julgador e fraudes processuais

A crescente integração de sistemas de inteligência artificial na prática forense brasileira levanta questões fundamentais sobre a capacidade de máquinas substituírem juízes no desempenho da função jurisdicional, bem como introduz vulnerabilidades inéditas no processo judicial — particularmente através de técnicas de prompt injection que podem viciar decisões antes mesmo de sua formação.

Contexto

O Brasil tem investido significativamente em informatização do Judiciário nos últimos anos. Plataformas de decisão apoiada por IA, sistemas de análise preditiva de jurisprudência e algoritmos de triagem de processos tornaram-se ferramentas rotineiras em tribunais de todo o país. Essa expansão ocorre num contexto de demanda processual exponencial — com milhões de casos aguardando julgamento — e sob pressão por celeridade e padronização das decisões.

O fenômeno não é exclusivamente nacional. Cortes em outros países têm experimentado sistemas similares. Contudo, a transposição acrítica de tecnologia para contextos onde a fundamentação das decisões é constitucionalmente exigida (artigo 93, inciso IX, da Constituição Federal) apresenta riscos específicos ao Estado Democrático de Direito.

A questão central é duplicada: de um lado, o risco de que juízes se tornem meramente homologadores de recomendações algorítmicas (obsolescência funcional do julgador); de outro, a vulnerabilidade desses sistemas a técnicas de manipulação como prompt injection, que podem introduzir vieses ou recomendações fraudulentas nas decisões antes de sua publicação.

O que foi discutido

A análise aborda três eixos principais:

Primeiro: a erosão da independência decisória. Quando um algoritmo recomenda uma tese, um posicionamento ou até mesmo redações de fundamentação, o juiz formalmente responsável pode convertê-la em mera carimbadora de output. Não há transferência legal de soberania, mas há transferência prática de poder interpretativo para o programador e o cientista de dados que desenharam o modelo. Isso contradiz o núcleo duro da imparcialidade judicial — a capacidade de decidir conforme sua consciência jurídica.

Segundo: a fragilidade quanto a manipulações. Técnicas de prompt injection — similar ao fenômeno estudado em segurança cibernética — permitem que um operador interno ou externo ao tribunal injete instruções maliciosas em prompts, alterando o comportamento do modelo de IA sem que isso deixe rastro evidente. Um advogado, um servidor corrupto ou um terceiro poderia, em tese, modificar a recomendação de um parecer jurídico gerado por IA antes de ser visualizado pelo juiz, ou induzir o sistema a gerar fundamentações enviesadas para certos tipos de caso.

Terceiro: a linha de produção de decisões. Quando pressão por produtividade encontra automação, o risco é que o sistema se otimize não para justiça, mas para quantidade. Um tribunal pode começar a medir sucesso pelo número de decisões por dia, incentivando a adoção de atalhos algorítmicos em detrimento de análise particularizada. Isso é especialmente grave em direitos fundamentais e questões constitucionais, onde precedentes e standardização podem ser inadequados.

Base normativa e precedentes

• Art. 93, inciso IX, CF/88 — exige que toda decisão judicial seja fundamentada, sob pena de nulidade. Essa fundamentação deve ser racional, decorrente do raciocínio do juiz e não mera repetição mecanicista.
• Arts. 489 e seguintes, CPC/2015 — definem requisitos formais e substanciais da sentença. Inclui-se aí o dever de o juiz enfrentar os argumentos apresentados pelas partes, não apenas seguir roteiros pré-estabelecidos.
• Lei 13.709/2018 (LGPD) — incide quando dados pessoais ou processuais são processados por algoritmos. O responsável (tribunal) deve garantir transparência, auditabilidade e possibilidade de contestação (direito ao contraditório sobre a decisão automatizada).
• Lei 14.129/2021 — estabelece diretrizes para governo digital, incluindo deveres de transparência e auditoria de sistemas automatizados.
• A jurisprudência consolidada do Supremo Tribunal Federal protege direitos fundamentais como due process, direito à defesa técnica qualificada e ao julgador imparcial. Decisões mecanicistas questionariam esse núcleo.

Impacto prático

Para magistrados: o risco é que sistemas de IA se tornem armadilhas produtivas — aparentam acelerar o trabalho, mas delegam poder interpretativo e transferem responsabilidade difusa. Quando uma decisão viciada sai, é o juiz que responde, não o algoritmo.

Para advogados: a litigância em era de IA exige novos cuidados. É preciso:

• Auditar a presença de sistemas de IA nas plataformas processuais que consultam;
• Desafiar fundamentações que pareçam cópias de templates algorítmicos, com argumento de falta de particularização;
• Questionar, em incidentes de nulidade ou recursos, se houve violação do dever de fundamentação por terceirização a máquinas;
• Monitorar possíveis prompt injections em documentos gerados por IA antes de submissão (inclusive quando usam IA para redigir peças).

Para tribunais e Conselho Nacional de Justiça (CNJ): há demanda imediata por:

• Regulamentação clara sobre quando e como IA pode ser usada (decisória vs. auxiliar);
• Auditoria independente de algoritmos em uso;
• Obrigação de disclosure — a decisão deve informar se foi apoiada por recomendação algorítmica;
• Protocolos de segurança contra prompt injection e manipulação;
• Treinamento de magistrados em literacia digital e riscos de viés algorítmico.

Para cidadão/litigante: a preocupação é mais sutil mas profunda: se as decisões que afetam direitos fundamentais podem ser virtualmente produzidas em lotes, com baixa margem de particularização, a tutela jurisdicional efetiva se desgrada. O direito a um julgador humano, ponderado e imparcial é um direito fundamental, não um luxo.

O que observar

Este ainda é um debate em formação no Brasil. Não há jurisprudência firme do STF sobre o tema. Contudo, sinais recentes sugerem que:

1. Regulação normativa está chegando. O CNJ prepara resoluções sobre uso responsável de IA no Judiciário. Advogados devem acompanhar essas normativas como ferramentas de defesa.

2. Vulnerabilidades reais existem. Prompt injection não é ficção — é risco já documentado em ambientes corporativos. Tribunais que usam IA sem controles cibernéticos adequados expõem-se a sabotagem.

3. A Constituição é ainda o escudo. Fundamentação, imparcialidade e acesso à justiça são direitos fundamentais. Qualquer decisão que viole esses direitos em nome da automação é potencialmente inconstitucional e passível de controle.

4. Precedentes internacionais chegam. Cortes europeias, especialmente em Portugal e França, já lidam com essas questões e têm proferido decisões limitando automação excessiva. O STF pode se orientar por essas referências.

5. A defesa técnica evolui. Advogados que dominarem crítica técnica de algoritmos, literacia em IA e argumentos constitucionais contra automação ganharão espaço estratégico em litígios complexos.