Jurisprudência e riscos: uso de IA generativa e sanções judiciais

Decisão e efeito prático imediato: Ferramentas de geração de texto afirmaram publicamente que não existe “inteligência artificial” enquanto, em paralelo, uma magistrada americana aplicou penalidades a partes de um processo por uso indevido dessas ferramentas. O episódio confirma que a adoção de tecnologias generativas passou de curiosidade técnica a risco processual concreto, com impacto imediato sobre a produção de provas e a conformidade com regras de proteção de dados.

Contexto

A difusão de modelos generativos de linguagem e imagem criou uma nova camada de complexidade para o direito probatório, responsabilidade civil e proteção de dados. Em meses recentes multiplicaram-se situações em que algoritmos produziram textos, pareceres ou peças processuais sem indicação clara de autoria humana, assim como alegações públicas de fornecedores sobre o que suas ferramentas “são” ou “não são”. Paralelamente, tribunais em diferentes sistemas jurídicos passaram a examinar o uso dessas ferramentas à luz do dever de lealdade processual, da vedação a atos que prejudiquem a probidade da prova e das regras sanitárias de privacidade. No Brasil, o debate se conecta a normas como a Lei Geral de Proteção de Dados (Lei 13.709/2018), ao regime probatório do Código de Processo Civil (Lei 13.105/2015) e aos institutos da responsabilidade civil (Código Civil, Lei 10.406/2002).

A controvérsia importa porque afeta três vetores essenciais: (i) a credibilidade das provas produzidas por meios automatizados; (ii) a disciplina das representações comerciais feitas por fornecedores de tecnologia; e (iii) as consequências processuais e extraprocessuais — incluindo possibilidade de sanções, nulidade probatória e demanda por reparação civil ou administrativa.

O que foi decidido

A notícia registrou duas manifestações convergentes: por um lado, plataformas de IA passaram a minimizar ou negar a caracterização de seus produtos como ‘inteligência artificial’; por outro, a atuação judicial demonstrou intolerância a comportamentos que contaminem o regular andamento probatório. No caso citado, a magistrada aplicou penalidades a partes que utilizaram ferramentas automatizadas de forma incompatível com deveres processuais, o que sinaliza que o mero uso da tecnologia não está protegido quando se traduz em obstrução, falsificação ou apresentação de informação enganosa nos autos.

Os fundamentos centrais que emergem da decisão são: (i) o princípio da lealdade processual e o dever de cooperação exigem transparência quanto à origem e ao papel de conteúdos gerados por IA; (ii) a manipulação, ocultação ou apresentação indevida desses conteúdos pode configurar ilícito processual e ensejar sanções; (iii) afirmações comerciais das próprias empresas sobre a natureza da tecnologia não afastam o escrutínio judicial em relação à veracidade e à conformidade das provas.

Base normativa e precedentes

• Art. 5º, CF/88 — garantia da inviolabilidade da imagem, honra e demais direitos da personalidade que podem ser afetados por usos indevidos de conteúdos gerados automaticamente.
• Lei 13.709/2018 (LGPD) — disciplina tratamento de dados pessoais, com relevância para bases de treinamento, anonimização e responsabilidade por vazamentos ou usos indevidos.
• Lei 13.105/2015 (CPC) — deveres das partes e sanções processuais (dever de cooperação, deveres de honestidade e boa-fé processual) aplicáveis à apresentação e contestação de provas digitais.
• Lei 10.406/2002 (Código Civil) — art. 927 e seguintes sobre responsabilidade civil por atos que causem dano; aplicável para demandas de reparação decorrentes do uso negligente ou malicioso de IA.
• Jurisprudência consolidada dos tribunais — entendimento crescente a respeito da necessidade de transparência na cadeia de custódia de evidências digitais e de aplicação de medidas cautelares quando há risco de destruição ou alteração de provas.

Impacto prático

• Para advogados: é imprescindível declarar, nos autos, o uso de ferramentas automáticas para elaboração de peças, indicar parâmetros e preservar logs, sob pena de impugnação e sanção. Deve-se integrar cláusulas em procurações e relatórios periciais que expliquem a participação da IA.
• Para empresas de tecnologia: prudente revisar comunicação comercial para evitar afirmações que possam ser interpretadas como tentativa de eximir responsabilidade; políticas de governança, auditoria e registro de versões aumentam defensabilidade.
• Para magistrados e tribunais: o episódio reforça a necessidade de normas processuais e orientações técnicas sobre prova gerada por IA, inclusive quanto à produção de perícias e à cadeia de custódia de dados.
• Para titulares de dados e consumidores: maior risco de exposição e tratamento indevido; direitos previstos na LGPD (acesso, portabilidade, eliminação, oposição) tornam-se operacionalmente relevantes.
• Para processos em curso: possibilidade de novos incidentes probatórios, pedidos de perícia técnica, e atos sancionatórios. A adoção de práticas defensivas (preservação de logs, contratos com cláusulas de compliance) reduz risco de multa e nulidade.

O que observar

• Transparência técnica: exigirá do mercado documentação sobre bases de treinamento, algoritmos e processos de geração quando pertinentes à prova ou ao direito dos litigantes.
• Regulamentação e normas setoriais: é provável que aumente a demanda por regulamentação específica sobre uso de IA em procedimentos judiciais e administrativos; acompanhar iniciativas legislativas e orientações de autoridades de proteção de dados é essencial.
• Modulação de efeitos: no campo brasileiro, decisões estrangeiras podem influenciar, mas terão eficácia limitada; eventuais medidas de mitigação (como recomendação de boas práticas ou enunciados) são instrumentos mais prováveis do que mudanças súbitas de direito material.
• Recursos e medidas processuais: planejarem-se recursos contra decisões sancionatórias e procedimentos de produção de prova técnica, incluindo pedidos de perícia independente e requerimento de preservação de dados.

Em síntese, o episódio noticiado demonstra que a retórica tecnológica não imuniza usos processuais contestáveis: operadores do direito devem antecipar medidas de compliance probatório e de proteção de dados para reduzir riscos de responsabilização e preservar a efetividade das decisões judiciais.