IA e jurisprudência inventada: riscos jurídicos e responsabilidades

Lead de resposta direta

A difusão de decisões judiciais inexistentes geradas por inteligência artificial foi tema de destaque e coloca em choque a confiabilidade das ferramentas jurídicas, a responsabilidade profissional e o controle probatório em processos; a discussão extrapola a mera curiosidade e exige respostas normativas e práticas imediatas por magistrados, advogados e provedores de tecnologia.

Contexto

Nos últimos anos houve aceleração do uso de ferramentas de inteligência artificial (IA) no trabalho jurídico: automação de pesquisas jurisprudenciais, resumos de acórdãos e apoio na elaboração de peças. Paralelamente, proliferam modelos que produzem texto de forma autônoma, alguns sem mecanismos robustos de verificação de fontes. A combinação de base de treinamento heterogênea e prompts mal calibrados pode resultar na geração de decisões, citações e ementas que parecem plausíveis, mas não existem — o chamado fenômeno da "alucinação" em IA.

Essa questão cruza temas variados: a segurança da informação e privacidade no tratamento de dados pessoais; a responsabilidade civil e disciplinar por uso indevido de conteúdo falso em petição; a integridade do acervo jurisprudencial consultado por juízes e partes; e o próprio papel dos provedores de tecnologia frente à divulgação de conteúdos enganosos. A controvérsia importa porque decisões forjadas podem contaminar teses processuais, influenciar produções doutrinárias e redesenhar estratégias de litígio com base em premissas equivocadas.

O que foi decidido

Embora a matéria reportada seja um compêndio de temas que circularam em veículos jurídicos, o núcleo problemático é claro: há incidência comprovada de geração automática de jurisprudência inexistente por IA, fato que demanda um arcabouço de responsabilização e medidas mitigadoras. A análise jurídica deve partir de duas linhas simultâneas: a reação imediata no plano processual e disciplinar — para neutralizar prejuízos concretos — e a necessidade de regulação técnica e contratual dos sistemas de IA usados em atividades jurídicas.

No plano processual, argumentos baseados em precedentes que não existem podem ser atacados por impugnação, prova pericial e pedido de diligência probatória; o magistrado tem o dever de zelar pela veracidade das referências que fundamentam decisões, sob pena de erro jurisdicional. No plano disciplinar, o uso negligente de ferramentas que produzem conteúdo falso pode ensejar apuração perante a Ordem dos Advogados e responsabilização por danos causados a terceiros.

Base normativa e precedentes

• Art. 5º, CF/88 — garante direitos fundamentais que tangenciam o tema, como a proteção da honra e da imagem, e o devido processo legal.
• Lei 13.709/2018 — LGPD — disciplina o tratamento de dados pessoais por agentes de tratamento, inclusive por provedores de IA; responsabilidade e necessidade de bases legais/consentimento quando há processamento de dados sensíveis.
• Código Civil (Lei 10.406/2002) — regras sobre responsabilidade civil, obrigação de indenizar por atos ilícitos e dano moral/material decorrente de informação falsa.
• Código de Processo Civil (Lei 13.105/2015) — dever de lealdade processual das partes (artigos sobre cooperação, ônus da prova, impugnação de documentos) e poderes do juiz para ordenar diligências e determinar a produção de provas.
• Código Penal (Decreto-Lei 2.848/1940) — normas que podem ser acionadas em casos extremos, como crimes contra a honra ou falsidade, dependendo da conduta e do agente.
• Estatuto da OAB (Lei 8.906/1994) — disciplina deveres profissionais e responsabilização disciplinar de advogados que atuem com negligência ou desídia no uso de fontes e ferramentas.
• Jurisprudência consolidada dos tribunais — orientações sobre boa-fé processual, ônus de provar e não utilização de provas manifestamente inverídicas (temas já tratados pela jurisprudência de cúpula).

Impacto prático

• Para advogados: necessidade urgente de verificar a autenticidade de decisões citadas nas peças; adotar práticas de due diligence sobre fontes de IA; explicitar em petições a origem das pesquisas e, quando usar IA, anexar prints ou metadados que permitam auditoria.
• Para magistrados: atenção redobrada às citações jurisprudenciais apresentadas ex officio e estímulo a verificações eletrônicas das ementas antes de incorporá-las em fundamentações; possibilidade de determinar perícia técnica quando houver dúvida sobre a origem de um precedente.
• Para provedores de tecnologia: obrigação de transparência sobre limites dos modelos, ausência de garantia de veracidade e implementação de filtros de verificação; risco contratual e de responsabilidade por omissão na entrega de resultados enganadores.
• Para partes e terceiros: risco de decisões equivocadas que importem prejuízo patrimonial ou moral, com consequente necessidade de medidas reparatórias e tutela jurisdicional para corrigir efeitos.

O que observar

• Provas e diligências: sempre que a invocação de precedentes for determinante para o desfecho, as partes devem comprovar a existência e a autenticidade do acórdão citado; o juiz pode determinar pesquisa nos repositórios oficiais.
• Responsabilidade contratual e extracontratual: analisar cláusulas contratuais com fornecedores de IA sobre garantias, limitação de responsabilidade e direito de auditoria; atenção à possibilidade de responsabilização civil por danos decorrentes de informação falsa.
• Disciplinar e ético: a OAB e conselhos profissionais podem exigir boas práticas no uso de IA, sob pena de sanção disciplinar por publicidade enganosa ou conduta incompatível com a advocacia.
• Marco regulatório: há lacunas normativas específicas sobre IA no direito brasileiro; acompanhar propostas legislativas e regulamentares é essencial, bem como decisões judiciais que forjem princípios aplicáveis.
• Riscos de litigância e modulação: em casos de prejuízo efetivo, os tribunais podem modular efeitos de decisões relacionadas à utilização de provas geradas por IA; recursos e controles excepcionais serão terreno fértil para a formação de precedentes.

Conclusivamente, a ocorrência de "jurisprudência inventada" por ferramentas automatizadas não é apenas um incidente tecnológico: é um desafio jurídico que exige medidas técnicas, contratuais, processuais e disciplinares coordenadas. Advogados, magistrados e provedores precisam adotar procedimentos de verificação e transparência para preservar a confiança no sistema jurídico e mitigar riscos de responsabilização e contaminação probatória.