TJ/MS condena rede social a indenizar por nudez falsa criada com IA

O Tribunal de Justiça de Mato do Sul condenou uma rede social ao pagamento de indenização por danos morais no valor de R$ 5 mil por manter disponível conteúdo contendo imagens de nudez sintética geradas por inteligência artificial utilizando fotografia verdadeira de uma mulher, após sua notificação para remoção. A decisão reafirma que a proteção legal contra divulgação não consentida de conteúdo íntimo estende-se ao material fabricado digitalmente, consolidando jurisprudência importante em matéria de direitos de personalidade no ambiente digital.

Contexto

O episódio reflete uma problemática crescente no ecossistema de plataformas digitais: o uso malicioso de tecnologias generativas para criar representações falsas de nudez e conteúdo sexual envolvendo pessoas reais sem consentimento. Diferentemente de casos tradicionais de divulgação de material íntimo genuíno, aqui não existe arquivo original — apenas a apropriação da imagem como insumo para síntese artificial. O marco regulatório brasileiro que incide sobre a matéria é o Marco Civil da Internet (Lei 12.965/2014), que estabelece regime próprio de responsabilidade para provedores quando notificados sobre conteúdo que viola a intimidade mediante divulgação não autorizada.

A controvérsia subjacente envolve duas tensões jurídicas: primeira, se o material sintetizado por IA mantém a mesma proteção que o conteúdo orgânico; segunda, se a notificação extrajudicial (sem ordem judicial) obriga o provedor a remover tal conteúdo mesmo que gerado por terceiro. O tribunal resoluto essas questões em favor da vítima, expandindo conceitualmente a proteção legal para além da nudez literal.

O que foi decidido

A Segunda Câmara Cível do TJ/MS, por voto do relator desembargador Nélio Stábile, manteve a condenação da plataforma ao pagamento de R$ 5 mil por danos morais. A decisão reconheceu que, embora a primeira instância tivesse determinado a remoção do conteúdo, a empresa não mereceria respaldo integral por ter demorado em cumprir — a notificação ocorreu em 21 de janeiro de 2025, mas o acolhimento do pleito deu-se apenas em segunda instância, permitindo a propagação massiva (milhares de visualizações e interações).

O tribunal firmou entendimento de que a fabricação de imagem de nudez falsa a partir de fotografia verdadeira, ainda que por síntese de inteligência artificial, não afasta a proteção legal prevista no Marco Civil. O desembargador argumentou que a gravidade da conduta é particularmente intensificada quando a imagem autentica é instrumentalizada para producir conteúdo falso apresentado como genuíno — o que agrava o potencial enganoso e lesivo. A exposição da vítima a linguagem sexualmente degradante integrou a ponderação do dano, caracterizado como inequívoco e atingindo direitos fundamentais da personalidade sem necessidade de prova adicional de prejuízo concreto.

Base normativa e precedentes

• Art. 21, Lei 12.965/2014 (Marco Civil da Internet) — Estabelece regime de responsabilidade subsidiária do provedor de aplicação: quando notificado pelo participante, deve tornar indisponível, de forma diligente, conteúdo gerado por terceiro que viole intimidade mediante divulgação não autorizada de imagens, vídeos ou materiais contendo nudez ou atos sexuais de caráter privado. Dispensa ordem judicial prévia justamente pela urgência e gravidade da exposição sexual não consentida.

• Arts. 5.º, X e 1.º, Lei 10.406/2002 (Código Civil) — Proteção dos direitos de personalidade (imagem, intimidade, vida privada) como direitos fundamentais. A utilização não consentida da imagem constitui violação direta desses direitos.

• Art. 186, Lei 10.406/2002 (Código Civil) — Ilicitude da ação ou omissão voluntária que lesiona direito e causa dano. A omissão da plataforma em remover conteúdo após notificação configura conduta ilícita.

• Súmula 37, STJ — "Sepultado o morto, a ação de danos morais a ele relativa não se transmite aos herdeiros". Embora não seja aplicável neste caso, ilustra a jurisprudência consolidada sobre danos morais. Aqui, o dano é presumido (não exigindo comprovação de prejuízo econômico) em razão da violação de direitos da personalidade.

• Jurisprudência consolidada STJ — Dano moral independe de prejuízo patrimonial; constitui lesão a direitos extrapatrimoniais protegidos pela Constituição e pelo Código Civil. A exposição sexual não consentida é categoria paradigmática de dano presumido.

Impacto prático

Para vítimas de deepfake e síntese de nudez: A decisão amplia o escopo de proteção, abarcando não apenas material genuíno, mas também conteúdo sintético derivado de imagem real. Consolida o direito de exigir remoção via notificação (sem necessidade de processar a rede social antes), bem como reparação pecuniária por danos morais, ainda que não haja prejuízo econômico comprovado. O precedente fortalece posições em ações similares em outras unidades federativas.

Para plataformas digitais: Obrigação reafirmada de monitoramento ativo e remoção diligente de conteúdo intimista (genuíno ou sintético) após notificação pelo participante prejudicado. Não basta determinação judicial — a própria Lei 12.965/2014 autoriza e impõe remoção voluntária. Demora injustificada em cumprir notificação pode gerar condenação a indenizar. Recomenda-se: (i) protocolos internos robustos de análise em 24-48 horas; (ii) equipes treinadas em identificação de nudez sintética; (iii) possível integração de ferramentas de detecção de deepfake; (iv) documentação precisa de comunicações e datas de remoção.

Para advogados: Caso oferece fundamento jurisprudencial sólido para argumentações em ações análogas. O Marco Civil oferece via alternativa ao CDC ou ao Código Civil tradicional, com potencial para condenar plataforma sem prévio contraditório (responsabilidade ex parte, após notificação). Recomenda-se mapear se tribunal local já reconhece precedentes similares.

Para formuladores de políticas: Reforça lacuna regulatória: a LGPD (Lei 13.709/2018) aborda proteção de dados, não especificamente conteúdo íntimo sintético. O Marco Civil é o instrumento vigente, mas específico para nudez/sexo. Eventualmente, normatização complementar sobre deepfake (hoje em discussão no Congresso) poderá estabelecer prazos máximos de remoção, indenização mínima ou obrigações de identificação de conteúdo sintético.

O que observar

Pontos abertos: A decisão não especifica qual foi o tempo decorrido entre a notificação (21 de janeiro de 2025) e a efetiva remoção. Isso deixa em aberto o que seria considerado "demora injustificada" — se 1 dia, 7 dias ou 30 dias? Tribunais futuro terão oportunidade de precisar esse prazo.

Modulação e recursos: Não há indicativo de que a decisão admita modulação de efeitos (aplicação apenas a casos futuros). O tribunal não divulgou número do processo, reduzindo visibilidade para eventual recurso especial ao STJ. Caso a empresa recorra, o STJ poderá ser chamado a consolidar se inteligência artificial afasta ou não proteção do Marco Civil — questão ainda não pacificada em nível nacional.

Regulatory outlook: Projeto de Lei em trâmite no Congresso aborda deepfake e conteúdo sintético. Eventual aprovação pode ampliar proteções (prazos máximos, indenizações mínimas, obrigações de marcação de conteúdo gerado por IA). Plataformas devem acompanhar.

Risco profissional: Provedores que negligenciam notificações ou implementam políticas vagas de "análise" enfrentam exposição crescente a condenações. A jurisprudência está cristalizando a obrigação de diligência, não apenas de boa intenção. Equipes legais devem revisar cláusulas de termos de uso para confirmar que autorizam remoção rápida sem morosidade burocrática.

Precedentes conexos: Embora o tribunal não tenha citado, há crescente jurisprudência em STJs de outros estados sobre conteúdo íntimo não consentido, incluindo material gerado por IA — sinaliza tendência de consolidação nacional em favor da vítima.