Vídeos de IA que erotizam a escravidão: riscos jurídicos e regulação

Lead de resposta direta

Reportagem recente identificou a circulação de vídeos produzidos por inteligência artificial que sexualizam e romantizam a escravidão enquanto geram receita por meio de anúncios; o fenômeno traz implicações penais, de responsabilidade das plataformas, de proteção de dados e de regulação da publicidade online, exigindo resposta coordenada dos operadores do direito e dos reguladores.

Contexto

A combinação entre ferramentas de síntese audiovisual por IA, modelos de geração de imagens em alta qualidade e plataformas de monetização por publicidade criou um canal econômico para difusão de conteúdos problemáticos. A controvérsia toca em várias frentes: liberdade de expressão versus vedação de condutas que incentivam ou naturalizam crimes e violências; dever de remoção e responsabilidade das intermediárias; e limites da regulação de publicidade e de proteção de dados quando o conteúdo é sintético. Jurisprudência e normas brasileiras evoluíram para tratar de conteúdos ilícitos na internet (Marco Civil da Internet; decisões de tribunais quanto à retirada de conteúdos), mas a tecnologia de geração sintética acrescenta dificuldades práticas e conceituais, sobretudo quando o material não reproduz imagens reais, mas cria cenas falsas que reproduzem violência racial e sexual. A discussão importa para advogados que litigarão casos de remoção, para empresas de tecnologia que hospedam ou monetizam esse conteúdo e para órgãos reguladores responsáveis por fiscalizar publicidade e prevenir crimes com veiculação online.

O que foi decidido

A reportagem não é uma decisão judicial; contudo, ela aponta fatos com repercussões jurídicas claras. Em linhas gerais, a produção e a veiculação de vídeos que erotizam ou romantizam a escravidão podem configurar riscos penais (por exemplo, apologia de crime ou condutas relacionadas à incitação), gerar responsabilidade civil por dano moral coletivo ou individual e ativar deveres das plataformas previstos no Marco Civil da Internet e na legislação consumerista quando houver oferta de publicidade. Ademais, mesmo sendo conteúdo sintético, há consequências regulatórias relativas à publicidade, à moderação de plataformas e à eventual utilização de dados pessoais para treinar modelos — questão que insere a LGPD na análise. A peça jornalística, portanto, funciona como alerta sobre a necessidade de medidas de compliance, mecanismos de remoção e, potencialmente, atuação fiscalizatória por parte de autoridades administrativas.

Base normativa e precedentes

• Art. 5o, CF/88 — proteção à dignidade da pessoa humana e vedação a formas de discriminação; princípio orientador para interpretação de liberdades de expressão.
• Decreto-Lei 2.848/1940 (Código Penal), art. 287 — tipifica a apologia de crime; aplicabilidade discutível quando o conteúdo glorifica práticas criminosas ou violentas.
• Lei 7.716/1989 — define crimes resultantes de preconceito de raça ou cor; veiculação de material que promova ou naturalize violência racial pode atingir normas penais antirracismo.
• Lei 12.965/2014 (Marco Civil da Internet) — atribui deveres de guarda e de resposta a pedidos de remoção; disciplina responsabilidade das intermediárias e critérios para retirada de conteúdo ilícito.
• Lei 13.709/2018 (LGPD) — regula o tratamento de dados pessoais; relevante se modelos de IA foram treinados com dados pessoais ou se o conteúdo reproduz imagem/voz de pessoa identificável.
• Código de Defesa do Consumidor (Lei 8.078/1990), art. 37 — proíbe publicidade abusiva e enganosa; anúncios que se associam a conteúdo que viola bens jurídicos podem atrair sanções administrativas e ações civis públicas.
• Jurisprudência consolidada do tribunal — entendimento crescente sobre dever de plataformas de colaborar com remoção de conteúdo ilícito e sobre limites da imunidade civil quando há omissão deliberada.

Impacto prático

• Para advogados: necessidade de construir pedidos de tutela provisória de urgência para remoção imediata de vídeos, argumentando risco à ordem pública, à dignidade e ao direito fundamental à igualdade; preparo de ações civis públicas em nome coletivos quando houver repercussão social.
• Para plataformas e anunciantes: obrigação de revisar políticas de moderação e de anúncios; implementação de fluxos de denúncia e retirada; exposição a responsabilidade administrativa por veiculação de publicidade associada a conteúdo ilícito e a risco de boicote reputacional.
• Para reguladores e Ministério Público: tema apto a investigações sobre apologia, racismo e exploração publicitária; possível atuação fiscalizadora sobre monetização de conteúdo que promova crimes.
• Para desenvolvedores e fornecedores de IA: reforço de compliance tecnológico — documentação de origem de dados de treinamento, mecanismos de segurança e filtros para impedir geração de cenas que sexualizem violência ou explorem estigmas raciais.

O que observar

• Lacunas normativas: a legislação atual não trata expressamente de conteúdos gerados artificialmente que reproduzem violência simbólica sem indivíduo real; há espaço para regulamentação técnica (padrões de moderação, classificação de risco) e para atos normativos que imponham transparência sobre modelos e dados de treinamento.
• Provas e atribuição de responsabilidade: litígios exigirão perícia técnica para demonstrar origem automatizada do vídeo, cadeia de publicação e volume de monetização; essas provas serão decisivas para modular indenizações e eventual bloqueio de receitas publicitárias.
• Recursos processuais e modulação: decisões de remoção poderão ser alvo de recursos em sede de tutela provisória; tribunais superiores podem ser instados a uniformizar critérios entre liberdade de expressão e proteção de bens jurídicos fundamentais.
• Interseção com LGPD: quando houver uso de imagem ou voz de pessoa identificável, a titularidade dos dados e o tratamento realizado pelo algoritmo podem gerar pedidos de cessação e indenização por violação de dados pessoais.
• Recomendações práticas: advogados devem articular pedidos combinando medidas cíveis, administrativas e criminais; plataformas precisam atualizar termos de uso, investir em detecção e em políticas de anúncios e documentar respostas a denúncias para mitigar responsabilidade.

A matéria revela uma tensão emergente entre inovações tecnológicas e guardiões jurídicos da dignidade humana; a resposta eficaz demandará atuação coordenada do Judiciário, do Ministério Público, de agências reguladoras e do setor privado para conter externalidades nocivas e preencher lacunas regulatórias.