TJSP determina reativação de conta suspensa por moderação automática

Decisão direta: O juiz da 45ª Vara Cível de São Paulo determinou que a Google reative imediatamente a conta de um promotor de justiça de Minas Gerais que foi suspensa de forma automática por suposta violação das diretrizes contra exploração sexual infantil; fixou multa diária de R$ 1.000, limitada inicialmente a R$ 30.000, até que a empresa esclareça as circunstâncias da suspensão (Processo 4179117-63.2026.8.26.0100).

Contexto

A controvérsia insere-se no debate mais amplo sobre os limites da moderação automática de conteúdo por grandes plataformas e a proteção de direitos fundamentais e funcionais de agentes públicos que utilizam esses serviços para atividades institucionais. A massificação do uso de ferramentas que processam texto e imagens por meio de modelos de linguagem e visão computacional elevou a incidência de atos automatizados de restrição de acesso — suspensões, remoções e bloqueios — sem intervenção humana imediata. A questão assume relevância imediata quando o usuário é titular de prerrogativas públicas (promotor de justiça no exercício de atividade criminal), pois intersecta regras de responsabilização das plataformas, garantias do devido processo e a possibilidade de prejuízo à atuação estatal.

Divergências anteriores nos tribunais versam sobre a extensão do dever de verificação prévia das plataformas, a necessidade de meio idôneo de revisão humana e a proteção de direitos fundamentais nas hipóteses de moderação automática. Além disso, há tensão entre a autonomia privada das empresas de plataforma e os deveres decorrentes do Marco Civil da Internet (Lei 12.965/2014) e da Constituição Federal quanto à liberdade de expressão e às garantias processuais.

O que foi decidido

O juiz concedeu tutela de urgência determinando o restabelecimento da conta do promotor até que a Google esclareça por que a suspensão ocorreu. A fundamentação pivota em dois pontos: (i) plausibilidade das alegações do autor de que o processamento que gerou a suspensão decorreu do tratamento de autos e documentos relacionados a investigação criminal sob sua atribuição, e (ii) o caráter automático da decisão da plataforma, sem garantia imediata de revisão humana que demonstrasse a inexistência de erro.

Em síntese, a tutela foi deferida pela verossimilhança das alegações e pelo risco de dano irreparável ou de difícil reparação ao exercício das funções ministeriais. A sanção cominatória (astreinte) foi estabelecida para pressionar o cumprimento tempestivo da ordem e limitar efeitos deletérios à atividade do promotor.

Base normativa e precedentes

• Art. 5º, CF/88 — proteção à liberdade de expressão e às garantias do devido processo; fundamento constitucional para controle sobre práticas que possam restringir indevidamente o acesso a meios de expressão.
• Lei 12.965/2014 (Marco Civil da Internet) — estabelece princípios, garantias, direitos e deveres para o uso da Internet no Brasil, incluindo a responsabilização e os procedimentos aplicáveis a provedores de aplicação.
• Lei 13.709/2018 (LGPD) — disciplina o tratamento de dados pessoais, incluindo previsões sobre decisões automatizadas e a necessidade de transparência no processamento que afete direitos.
• Art. 300, CPC (Lei 13.105/2015) — tutela provisória de urgência: possibilidade de deferimento quando demonstrados a probabilidade do direito e o perigo de dano ou risco ao resultado útil do processo.
• Jurisprudência consolidada do tribunal — tendência a exigir mecanismos de revisão efetiva quando decisões automáticas de plataformas possam violar direitos fundamentais ou comprometer funções públicas.

Impacto prático

• Para operadores do direito: a sentença reforça a estratégia de busca por tutela de urgência quando a suspensão automática afeta o exercício profissional e funções públicas; destaca-se a efetividade prática da prova da verossimilhança e do perigo na inicial.
• Para promotores, magistrados e outros agentes públicos: aumenta a possibilidade de reverter medidas de plataformas quando estas decorrem de processamento de documentos oficiais, evitando prejuízo funcional.
• Para plataformas digitais: sinaliza exigência crescente por mecanismos claros de revisão humana e transparência nas decisões automatizadas, sob risco de ordem judicial rápida e astreintes.
• Para litígios em curso: decisões dessa natureza podem ensejar pedidos de produção de prova técnica (logs, critérios algorítmicos, histórico de processamento) e requerimentos para implantação de canais de revisão específicos para agentes públicos.

O que observar

• Prova técnica: o desfecho prático dependerá em grande medida da capacidade probatória do autor em demonstrar que o conteúdo processado tinha natureza institucional e que não se tratou de conduta imputável ao usuário; pedidos de exibição de logs e auditoria algorítmica tendem a ser centrais.
• Revisão humana e compliance: empresas deverão robustecer fluxos de revisão humana e documentação de decisões automáticas para mitigar risco de ordens judiciais e multas; isso envolve política de compliance, registros de treinamento de modelos e canais específicos para autoridades públicas.
• Limites processuais: cabe recurso contra a decisão interlocutória nos termos do CPC; além disso, eventual modulação dos efeitos por instâncias superiores poderá amenizar repercussões econômicas ou administrativas.
• Proteção de dados: eventual confronto entre a exigência de transparência (e produção de logs) e sigilo de investigação criminal demandará ponderação entre LGPD, segredo de justiça e prerrogativas institucionais do Ministério Público.

Em suma, a medida judicial demonstra a crescente intervenção do Judiciário para conter efeitos deletérios de decisões algorítmicas automatizadas, sobretudo quando atingem agentes públicos no exercício de funções críticas. A decisão reforça a necessidade de equilíbrio entre a eficácia dos sistemas de moderação das plataformas e as garantias processuais e constitucionais dos usuários afetados.