TJSP determina remoção de respostas do Grok por calúnia digital

O juízo da 5ª Vara Cível de São Carlos/SP determinou a retirada de respostas públicas produzidas pelo sistema Grok hospedado na plataforma X, por atribuírem falsamente ao autor decisões judiciais e uma multa por litigância de má-fé em processos nos quais ele não participou. A liminar proibiu a manutenção de duas respostas indicadas nos autos, com prazo de 48 horas para remoção e multa diária de R$ 1.000, limitada inicialmente a R$ 30.000. A decisão foi fundamentada na necessidade de proteção da honra e na aplicação do entendimento do STF sobre responsabilidade de plataformas por conteúdos de terceiros (Tema 987).

Contexto

A controvérsia insere‑se no nó contemporâneo em que ferramentas de inteligência artificial (IA) atuam como geradoras diretas de conteúdo público e, ao mesmo tempo, são disponibilizadas por plataformas que controlam o acesso e a indexação dessas respostas. Até recentemente, a jurisprudência e o texto do Marco Civil da Internet (Lei 12.965/2014) privilegiavam a exigência de ordem judicial para retirada de conteúdos ofensivos, em especial quando se tratava de provedores de aplicação na cadeia de intermediários. Contudo, o debate evoluiu com a constatação de que modelos generativos podem produzir afirmações factuais completamente infundadas — os chamados "hallucinations" — que atingem bens jurídicos como honra, imagem e reputação.

O Tema 987 do STF, que baliza o tratamento da responsabilidade das plataformas por conteúdos de terceiros, tem servido como referência para equilibrar a necessidade de tutela da honra com garantias à liberdade de expressão e ao devido processo. A presente decisão localiza‑se justamente nesse ponto de intersecção: a ferramenta de IA apresentou fatos que o autor demonstra não existir, e a plataforma detém controle sobre a publicação e a persistência do material no ambiente indexável.

O que foi decidido

A tutela de urgência concedida determinou a retirada, no prazo de 48 horas, de duas respostas geradas pelo Grok que atribuíram ao autor: (i) a perda de um processo em razão de “estratégia fraca”; (ii) a autoria de 43 decisões judiciais inexistentes e imposição de multa por litigância de má‑fé em ação da qual ele não participou. O juiz entendeu haver indícios robustos de falsidade na narrativa produzida pela IA, apresentados mediante captura técnica certificada das publicações e incoerências internas que contradizem a realidade apontada pelo autor.

No fundamento, o magistrado alinhou sua análise ao entendimento do STF no Tema 987, considerando que, embora a regra geral do Marco Civil favoreça a necessidade de ordem judicial para remoção de conteúdo, a dinâmica de divulgação por mecanismos artificiais e a capacidade da plataforma de controlar a disponibilização do resultado justificam intervenção urgente. A decisão também se apoiou na hipótese de dano continuado: a permanência do conteúdo em ambiente indexável amplia e perpetua a lesão à honra, tornando a reparação posterior inadequada para contenção do risco.

Base normativa e precedentes

• Art. 5º, CF/88 — proteção à honra, imagem e vida privada, direitos fundamentais que podem justificar medidas restritivas de divulgação quando violados.
• Lei 12.965/2014 (Marco Civil da Internet), art. 19 — estabelece que provedores de aplicação só responderão por conteúdo de terceiros após ordem judicial, salvo hipóteses específicas descritas em lei; serve como baliza para pedidos de retirada judicial.
• Código Civil (Lei 10.406/2002), arts. 186 e 927 — base para a responsabilização civil por ato ilícito e obrigação de reparar dano material e moral decorrente de ofensa à honra.
• Tema 987 (STF) — entendimento consolidado sobre a responsabilidade de plataformas por conteúdos publicados por terceiros, usado pelo juiz como orientação para ponderar a necessidade de remoção diante de conteúdo gerado por IA.
• Jurisprudência consolidada do tribunal — orientação para proteção de direitos da personalidade frente à difusão online, especialmente quando há prova técnica da autoria e do conteúdo ofensivo.

Impacto prático

• Advogados e partes: a decisão é relevante para profissionais que tenham sua honra atingida por respostas de modelos de IA; demonstra viabilidade de tutela de urgência para remoção de conteúdo e imposição de multa por descumprimento.
• Plataformas e provedores de aplicação: reforça a necessidade de políticas de governança e mecanismos eficazes de moderação e retratação quando modelos generativos divulgam fatos falsos sobre terceiros; pode aumentar a exposição das plataformas à obrigação de diligência e remoção imediata em casos análogos.
• Jurisprudência e contencioso: o uso do Tema 987 como eixo indica que tribunais locais poderão modular a aplicação do Marco Civil frente a IA generativa, recusando automaticamente a posição de impunidade em face de alegações de "hallucination" quando houver prova técnica das publicações.
• Risco de replicação: decisões que determinam remoção podem ter efeito imediato na indexação e compartilhamento; porém, sem medidas de modulação ou padrão nacional, há risco de multiplicidade de ordens conflitantes e impacto sobre liberdade de expressão.

O que observar

• Prova técnica: capturas certificadas e laudos que demonstrem autoria e conteúdo gerado por IA são decisivos para obter tutela de urgência; advogados devem priorizar evidência técnica robusta em casos semelhantes.
• Ponderação entre interesses: a decisão opera no equilíbrio entre proteção da honra (art. 5º, CF/88) e garantias de expressão; futura apreciação em grau recursal pode discutir aplicação e extensão do Tema 987 aos modelos de IA.
• Modulação de efeitos: é possível que instâncias superiores admitam modulação dos efeitos de ordens desse tipo para evitar impacto inéditos em liberdade de informação e operações de plataformas; acompanhar recursos e súmulas será essencial.
• Compliance das plataformas: provedores devem revisar termos de uso, fluxos de remoção e mecanismos de geração de conteúdo para mitigar riscos; política de transparência sobre fontes e limitações de IA pode reduzir litígios.

Em síntese, a decisão do juízo de primeira instância em São Carlos confirma a tendência de responsabilização mais proativa de plataformas quando modelos de IA propalam informações factuais inverídicas que atingem direitos da personalidade, integrando o arcabouço do Marco Civil e o entendimento do STF no Tema 987 à regulação prática da inteligência artificial no ambiente digital.