Atualizar leis contra pornografia infantil gerada por IA é urgente

O CNJ publicou análise que conclama atualização legislativa para enfrentar a produção de pornografia infantil gerada por inteligência artificial (AI-generated CSAM). O diagnóstico sustenta que, embora a legislação existente puna a manipulação de imagens de vítimas reais, há lacuna para conteúdos totalmente sintéticos que não envolvem crianças reais, mas produzem dano social e risco de impulsionar abusos.

Contexto

A expansão das tecnologias de geração de imagens e vídeos por modelos de inteligência artificial criou a possibilidade de produzir representações hiper-realistas de menores em cena sexual sem que qualquer vítima real seja filmada ou fotografada. Tradicionalmente, a tutela penal e civil relacionada à exploração sexual infantil está ancorada na existência de vítima identificável, como se vê no Estatuto da Criança e do Adolescente (ECA) e em normas correlatas. A Lei nº 11.829/2008, que alterou dispositivos para abranger manipulação de imagens, ampliou a proteção quando há uso de imagens reais adulteradas. No entanto, o surgimento de conteúdo sintético questiona essa lógica: se não há vítima material, há tipicidade, dano e responsabilidade?

O debate não é apenas acadêmico. Dados de organismos especializados, citados no estudo, mostram aceleração no volume de material sintético identificado em plataformas, o que levou países a revisar normas e práticas de combate. Além do aspecto criminal, discute-se responsabilidade civil e administrativa das empresas provedoras de serviços e a articulação internacional necessária para investigação e prevenção.

O que foi decidido

O artigo publicado na e-Revista do CNJ não é uma decisão judicial, mas constitui um posicionamento técnico-jurídico que recomenda mudanças normativas e regulatórias. Os autores concluem que a atual arquitetura legal brasileira é insuficiente para abarcar a produção e a difusão de pornografia infantil totalmente criada por IA. A tese central é dupla: (i) a criação de figura normativa penal específica ou a extensão expressa das incriminações existentes para abranger conteúdos sintéticos; e (ii) o fortalecimento de deveres de diligência e governança para plataformas, com instrumentos tecnológicos e mecanismos de fiscalização.

Nos fundamentos, destaca-se que o conteúdo sintético produz efeitos concretos: normalização da pedofilia em comunidades virtuais, estímulo a mercados ilícitos e potencial incentivo a práticas abusivas no mundo real. Ainda que não exista vítima material, persiste o ataque simbólico e institucional à dignidade da infância, justificando intervenção punitiva e preventiva. Por fim, os autores reclamam integração entre atualização legislativa, cooperação internacional e evolução tecnológica para detectar e remover esse material.

Base normativa e precedentes

• Art. 227, CF/88 — dever do Estado e da família de assegurar proteção integral à criança e ao adolescente.
• ECA (Lei nº 8.069/1990) — proteção integral da criança e do adolescente contra exploração sexual; base normativa para políticas de proteção.
• Lei nº 11.829/2008 — criminaliza adulteração, montagem ou modificação de imagens de crianças e adolescentes em cenas de sexo explícito; limita-se, porém, a imagens que derivam de material real.
• Código Penal (Decreto-Lei nº 2.848/1940) — normas sobre crimes sexuais e produção/posse/divulgação de material pornográfico envolvendo menores, aplicáveis quando houver vítima real ou correspondência normativa.
• LGPD (Lei nº 13.709/2018) — proteção de dados pessoais e imagem; relevância para tratamento automatizado e responsabilização por processamento indevido.
• Jurisprudência consolidada do STF — possibilidade de responsabilização civil de plataformas por omissão na retirada de conteúdos manifestamente ilícitos; precedente citado como fundamento para exigir diligência das empresas.

Impacto prático

• Para legisladores: pressão por projeto que explicite a punibilidade da criação, posse e divulgação de pornografia infantil sintética, seja por meio de nova incriminação ou pela interpretação ampliativa da Lei nº 11.829/2008 e do Código Penal.
• Para advogados criminais: novos contornos da tipicidade exigirão reavaliação de teses defensivas e possibilidades de arguição de princípios constitucionais (personalidade da pena, taxatividade, nulidade por ausência de norma penal em sentido estrito).
• Para provedores de plataformas: necessidade de implementar governança algorítmica, ferramentas de detecção (hashing, watermarking) e políticas de moderação pró-ativas para mitigar riscos de responsabilização civil e regulatória.
• Para autoridades de persecução e Judiciário: exigência de capacitação técnica para identificar material sintético e elaborar provas digitais robustas; cooperação internacional se torna imprescindível para rastrear origens e trafegantes.
• Para vítimas e tutela social: reconhecimento de que o dano causado por material sintético tem dimensão simbólica e preventiva, legitimando medidas de proteção e políticas públicas de prevenção.

O que observar

• Ponto aberto: natureza da tipicidade — penalizar conteúdo sem vítima real pode esbarrar no princípio da reserva legal e na exigência de definição legal clara (Art. 5º, XXXIX, CF/88 e princípio da legalidade penal). A redação normativa terá de ser precisa para evitar incerteza jurídica.
• Modulação e aplicabilidade: eventual nova norma deverá prever regras de transição e modulação de efeitos, especialmente quanto a condutas anteriores à lei e à cooperação com plataformas estrangeiras.
• Recursos e vias: ações constitucionais, medidas cautelares e inquéritos civis podem ser instrumentalizados para forçar adoção de medidas por provedores antes mesmo de alteração legislativa.
• Risco de sobreadaptação tecnológica: exigências técnicas (hashing, watermarking) têm limites operacionais e de eficácia diante de modelos generativos em rápida evolução; a resposta regulatória deve equilibrar eficácia com viabilidade técnica.
• Cooperação internacional: por natureza transnacional, resposta isolada do Brasil será insuficiente; compatibilização de normas, tratados e procedimentos de investigação é essencial.

Em suma, o estudo do CNJ lança um alerta: o avanço das IAs torna premente revisar nosso ordenamento para garantir que a proteção integral da infância não se torne letra morta diante de imagens e vídeos produzidos sem vítimas reais. A alternativa é consolidar uma abordagem normativa e técnica que una criminalização adequada, deveres de diligência das plataformas e instrumentos de cooperação internacional.