AGU obtém remoção de canais com médicos falsos gerados por IA

A pedido da AGU, o Google removeu 46 canais e 11 vídeos contendo "médicos" fictícios produzidos por inteligência artificial, com efeito imediato de retirada do conteúdo pelas plataformas.

Contexto

A circulação de conteúdos audiovisuais gerados por inteligência artificial que simulam profissionais de saúde intensificou debates sobre desinformação, risco à saúde pública e a responsabilidade das plataformas digitais. A tecnologia deepfake e os sintetizadores de voz permitem criar imagens e falas com alto grau de verossimilhança, o que aumenta a probabilidade de engano do público em relação a tratamentos, diagnósticos ou orientações médicas. No Brasil, esse fenômeno conflita com normas de proteção de dados, defesa do consumidor e regulação do ambiente digital, além de suscitar tensão entre a liberdade de expressão prevista no art. 5º da Constituição Federal e a necessidade de proteção da saúde coletiva.

Controvérsias anteriores envolveram decisões administrativas e judiciais que determinaram remoções de conteúdo por fundamento em risco à segurança pública, porém ainda há debate sobre os critérios que legitimam intervenções, a necessidade de motivação de medidas e os limites à modulação de efeitos. A ação administrativa descrita demonstra uma atuação proativa da Advocacia-Geral da União na interlocução com provedores de aplicações e serviços para mitigar danos decorrentes de conteúdo produzido por IA.

O que foi decidido

A medida resultou na retirada imediata de 46 canais e 11 vídeos identificados como contendo médicos falsos gerados por inteligência artificial. A decisão operacional da plataforma de remover esse conjunto de materiais seguiu uma solicitação formal da AGU, que apontou o potencial de confusão e risco à saúde pública. Em termos práticos, houve a aplicação do poder de o provedor de conteúdo de moderar, suspender e excluir materiais que violem normas ou que coloquem em risco bens jurídicos relevantes — neste caso, integridade da informação médica e proteção da população contra orientações falsas.

A ação evidencia que as plataformas, quando devidamente notificadas por autoridade pública e diante de conteúdo que configura risco concreto, podem e devem adotar medidas de mitigação rápidas. Ainda que a resposta operacional tenha sido a remoção, o episódio reforça a necessidade de protocolos mais robustos para identificação de deepfakes e fluxos de comunicação entre órgãos públicos e provedores.

Base normativa e precedentes

• Art. 5º, CF/88 — dispõe sobre a liberdade de expressão e seus limites, que podem ser relativizados para proteger outros bens jurídicos, como a saúde pública.
• Marco Civil da Internet (Lei 12.965/2014) — estabelece princípios, garantias, direitos e deveres para o uso da internet no Brasil, incluindo os deveres de provedores quanto à cooperação com autoridades e retirada de conteúdos ilícitos mediante ordem judicial ou em situações previstas no regime de responsabilidade.
• LGPD (Lei 13.709/2018) — regula o tratamento de dados pessoais, incluindo dados sensíveis; deepfakes podem envolver tratamento de dados biométricos e imagem, com implicações no consentimento e no direito à proteção da honra e imagem.
• CDC (Lei 8.078/1990) — quando houver dano ao consumidor por informação falsa sobre produtos ou serviços de saúde, aplicam-se os princípios de responsabilidade objetiva e informação adequada.
• Código Civil (Lei 10.406/2002) — responsabilidade civil por atos ilícitos que causem dano a terceiros, com obrigação de reparação.
• Jurisprudência consolidada do tribunal — referência à orientação jurisprudencial que, em termos gerais, tem admitido a retirada de conteúdo quando demonstrado risco concreto a bens jurídicos tutelados.

Impacto prático

• Para advogados: aumenta a demanda por atuação preventiva em compliance digital, notificações extrajudiciais e pedidos administrativos junto a provedores, além de estratégias para tutela de direitos da personalidade (imagem, honra) e prevenção de danos à saúde.
• Para plataformas (Google e congêneres): reforça a necessidade de políticas de detecção de deepfakes, medidas de transparência e fluxo claro de atendimento a solicitações de autoridades públicas; operadores devem aprimorar registros de moderação para eventual controle judicial.
• Para profissionais da saúde e instituições: necessidade de vigilância sobre uso indevido de imagem e identidade profissional; recomenda-se adoção de protocolos de certificação e monitoramento de conteúdos que representem orientações médicas.
• Para o público e órgãos reguladores: o episódio serve como alerta para ampliar campanhas de alfabetização midiática e criar mecanismos de verificação de autoria de conteúdos que tratem de saúde.
• Para litígios em curso: a retirada administrativa não impede discussões judiciais futuras sobre modulação de efeitos, obrigação de busca e bloqueio em larga escala, ou pedidos de indenização por danos morais e materiais.

O que observar

• Proporcionalidade e motivação: medidas de remoção devem ser proporcionais ao risco e observar motivação clara, para evitar censura indevida e para resistir a eventual controle judicial com base na liberdade de expressão.
• Fluxos de cooperação: é necessário avaliar se houve comunicação formal e fundamentada da AGU e se os provedores seguiram seus próprios termos de uso e a legislação — relevância para contestação processual.
• Identificação técnica: exigência de desenvolvimento e aplicação de critérios técnicos robustos para identificar deepfakes e distinguir sátira/artefato legítimo de conteúdo enganoso com potencial de dano.
• Responsabilidade e prevenção: possibilidade de expansão de obrigações de diligência para provedores quanto à moderação proativa em temas sensíveis, o que pode levar a debates regulatórios sobre dever de cuidado e impactos concorrenciais.
• Recursos e modulação: eventuais contestações poderão pleitear reimplantações, indenizações, ou medidas de transparência e prestação de contas; acompanhar decisões judiciais que eventualmente delimitem esse tipo de intervenção administrativa.

Em suma, a intervenção que resultou na remoção de dezenas de canais e vídeos produzidos por IA que simulavam médicos reforça a tendência de responsabilização ativa das plataformas em face de conteúdos que coloquem em risco bens jurídicos essenciais. O episódio aponta para a necessária conjugação entre instrumentos técnicos, regulação setorial e ação coordenada entre autoridades e provedores para enfrentar os riscos da desinformação automatizada no campo da saúde.