STJ: IA exige transparência e controle humano para manter credibilidade

O vice-presidente do Superior Tribunal de Justiça sustenta que a credibilidade dos sistemas de inteligência artificial depende fundamentalmente de transparência tecnológica robusta e de supervisão humana permanente durante todo o ciclo operacional. Sem esses elementos, as ferramentas de IA perderão aceitação social e não lograrão êxito como instrumentos de inovação jurídica e administrativa.

Contexto

A corrida global pelo desenvolvimento de tecnologias de IA intensificou-se nos últimos anos, com nações e corporações privadas investindo recursos massivos para alcançar liderança no segmento. Essa aceleração tecnológica coloca em pauta questões centrais sobre regulação estatal, proteção da soberania digital e preservação dos direitos fundamentais dos cidadãos. O Brasil, inserido nesse contexto competitivo internacional, encontra-se em fase avançada de elaboração de marco legal específico para disciplinar o desenvolvimento, implementação e auditoria de sistemas de inteligência artificial no território nacional. A discussão ganha relevo porque a tecnologia de IA, quando operada sem transparência adequada ou sem controle humano efetivo, pode gerar decisões automatizadas prejudiciais, discriminação algorítmica e erosão da confiança pública nas instituições que dela se valem.

O que foi decidido

Ainda que se trate de posicionamento técnico-jurídico de autoridade judiciária e não de decisão vinculante, o pronunciamento do ministro Luis Felipe Salomão durante o XIV Fórum de Lisboa estabelece orientação clara sobre as prioridades que devem nortear a regulação brasileira de inteligência artificial. O magistrado enfatiza que o Estado brasileiro necessita agir com cautela deliberada para evitar a criação de sistemas tecnológicos opacos que operem sem supervisão adequada. A argumentação central repousa na premissa de que a falta de transparência e de verificação humana constante compromete a credibilidade dos sistemas de IA, reduzindo sua utilidade prática e sua aceitação social. Salomão reafirma que a tecnologia de IA não sobreviverá no mercado e nas instituições públicas se não gozar de confiança pública fundamentada em garantias de funcionamento transparente e auditável.

Base normativa e precedentes

• Lei 13.709/2018 (LGPD) — Estabelece obrigações de transparência, consentimento e rastreabilidade no processamento de dados pessoais, fornecendo fundamento legal para exigências análogas em sistemas de IA que processem dados.
• Lei 14.611/2023 e anteprojetos posteriores — Marcos regulatórios em discussão no Brasil que buscam disciplinar desenvolvimento, testes e implementação de sistemas de IA, incluindo requisitos de auditoria e rastreabilidade.
• Princípios de governança digital internacional — Recomendações da OCDE, Comissão Europeia e fóruns multilaterais que ressaltam a necessidade de transparência algorítmica, explicabilidade de decisões automatizadas e supervisão humana em setores críticos (justiça, saúde, segurança).
• Jurisprudência do STJ em proteção de dados e direitos fundamentais — Precedentes que reconhecem o direito à explicação de decisões automatizadas e à proteção contra discriminação algorítmica.

Impacto prático

• Advogados e profissionais do direito — Precisarão adequar suas estratégias de contestação de decisões judiciais automatizadas ou semi-automatizadas, exigindo transparência dos algoritmos utilizados e documentação de etapas de revisão humana.
• Instituições judiciárias — Sofrerão pressão para implementar sistemas de IA (para triagem processual, análise de precedentes, etc.) que atendam rigorosamente a requisitos de rastreabilidade e supervisão contínua, elevando custos de conformidade.
• Empresas de tecnologia — Terão de incorporar desde o design inicial mecanismos de auditabilidade, documentação de treinamento de modelos e canais de contestação humana antes de comercializar soluções de IA para setor público ou serviços essenciais.
• Órgãos reguladores (ANPD, entidades setoriais) — Ganharão responsabilidade de fiscalizar conformidade com standards de transparência e controle humano, exigindo expertise técnica ampliada e capacidade de auditoria de caixa-preta algorítmica.

O que observar

A posição expressa pelo vice-presidente do STJ sinaliza tendência forte em direção a regulação restritiva e exigente no Brasil, alinhada com abordagens mais conservadoras do direito internacional (modelo europeu, particularmente). Resta acompanhar se o marco legal brasileiro consolidará obrigações explícitas de transparência algorítmica e supervisão humana obrigatória, ou se deixará essas exigências a critério setorial. Outra questão relevante: como tribunais brasileiros, incluindo o próprio STJ e STF, interpretarão e aplicarão essas normas em casos concretos de contestação de decisões com participação de IA. A regulação, se rígida demais, pode frear inovação benéfica no Poder Judiciário; se flexível demais, deixará espaço para sistemas opacos que prejudiquem direitos das partes. Profissionais do direito devem preparar-se para questionamento técnico de algoritmos em peças processuais e para debates sobre suficiência de controle humano em decisões automatizadas.