IA em investigações criminais: limites constitucionais e controle humano

A publicação no volume 10 da Revista do Conselho Nacional de Justiça (CNJ) conclui que o emprego de inteligência artificial (IA) em investigações contra a criminalidade organizada só é compatível com o Estado de Direito se houver controle humano qualificado e salvaguardas constitucionais efetivas. A tese central é que ferramentas como reconhecimento facial, mineração de dados e análise preditiva podem ser instrumentos auxiliares, mas jamais instrumentos decisórios que retirem da jurisdição humana decisões que afetem direitos fundamentais.

Contexto

A incorporação de técnicas de IA nas investigações criminais vem acelerando globalmente em razão da capacidade desses sistemas processarem volumes massivos de dados e identificarem padrões que escapam à análise humana. No Brasil, o debate jurídico conflui com preocupações relativas ao respeito aos direitos fundamentais, à proteção de dados pessoais e à segurança jurídica. Há tensão entre eficiência investigativa e garantias constitucionais: medidas automatizadas podem acelerar prisões e diligências, mas também criar riscos de erro, discriminação e cerceamento de defesa.

A literatura e decisões judiciais recentes têm destacado problemas típicos desses sistemas: opacidade algorítmica (dificuldade de explicar como o sistema chegou a determinado resultado) e vieses discriminatórios, especialmente em tecnologias de reconhecimento facial. Internacionalmente, instrumentos como o Regulamento Europeu de Inteligência Artificial e debates sobre a auditabilidade de algoritmos influenciam a construção normativa e jurisprudencial no Brasil. No plano doméstico, órgãos como o CNJ têm levantado a necessidade de parâmetros técnicos e jurídicos claros antes da adoção sistemática dessas tecnologias em persecução penal.

O que foi decidido

O artigo, de autoria de magistrado do Tribunal Regional Eleitoral de São Paulo, não funda uma decisão judicial, mas assume postura normativa e interpretativa relevante ao defender limites constitucionais para o uso de IA em investigações criminais. A conclusão principal é a seguinte: a IA pode funcionar como ferramenta de apoio — para triagem, indicação de padrões ou geração de hipóteses — desde que sua utilização esteja subordinada à reserva de jurisdição e ao controle humano qualificado. Em especial, medidas que importem em restrição de liberdade, imputação de responsabilidade ou restrição de direitos fundamentais não devem ser tomadas com base em atos automatizados sem intervenção humana efetiva e justificável.

Os fundamentos mobilizados no texto se apoiam em três vetores: (i) respeito às garantias processuais (devido processo legal, contraditório e ampla defesa), (ii) proteção de dados pessoais e princípios da proporcionalidade e necessidade, e (iii) exigência de transparência, auditabilidade e explicabilidade dos algoritmos utilizados por autoridades públicas. A publicação relaciona decisões e orientações do Supremo Tribunal Federal e do Superior Tribunal de Justiça, além de dados e práticas compiladas pelo próprio CNJ, como referência para sustentar a limitação proposta.

Base normativa e precedentes

• Art. 5º, CF/88 — garante direitos e liberdades fundamentais, incluindo o devido processo legal, contraditório e ampla defesa, que orientam limites ao uso de tecnologias decisórias.
• Art. 93, CF/88 — princípio da publicidade das decisões judiciais, que exige motivação e transparência estatal, princípio correlato à exigência de explicabilidade algorítmica.
• Decreto-Lei 3.689/1941 (CPP) — regras processuais penais que condicionam prova, diligências e ordens judiciais à atividade jurisdicional humana e aos direitos de defesa.
• Lei 13.709/2018 (LGPD) — disciplina o tratamento de dados pessoais, com atenção especial ao tratamento sensível e ao risco de discriminação por algoritmos.
• Regulamento Europeu de Inteligência Artificial — referência internacional citada no estudo para requisitos de conformidade, avaliação de risco e governança de sistemas de IA.
• Jurisprudência consolidada do STF e do STJ — orientações sobre proteção de direitos fundamentais frente a avanços tecnológicos e limites à atuação estatal automatizada.

Impacto prático

• Para operadores do direito (advogados, promotores, defensores): torna essencial questionar, em peças e sustentações, a origem e os critérios de sistemáticas de IA usados em investigações, postulando perícias, acesso a logs e auditorias para verificar validade e viés.
• Para magistrados: impõe cuidado na homologação de provas ou medidas derivadas de sistemas automatizados, exigindo motivação clara sobre a participação humana e critérios técnicos adotados.
• Para órgãos de investigação: sinaliza necessidade de políticas internas de governança de dados, avaliações de impacto, documentação de modelos e capacitação de agentes para assegurar controle humano efetivo.
• Para titulares de dados e sociedade: reforça a possibilidade de questionamento judicial de resultados algorítmicos, bem como pedidos de correção, exclusão ou limitação do tratamento quando houver risco de violação de direitos.

O que observar

• Transparência e auditabilidade: decisões futuras podem exigir que órgãos públicos disponibilizem, sob garantias legais, informações sobre as bases de dados, critérios algorítmicos e resultados de validação, sem, contudo, comprometer técnicas investigativas sensíveis.
• Padronização normativa: aguarda-se desenvolvimento de normas específicas ou diretrizes do CNJ, do Ministério Público e das polícias sobre avaliação de impacto, testes de vieses e procedimentos de validação.
• Conflito entre sigilo investigatório e direito à explicação: será ponto de litígio como compatibilizar exigência de explicabilidade com proteção de técnicas e fontes investigativas.
• Recursos e modulação: em futuros julgamentos, tribunais superiores poderão modular efeitos de decisões que limitem o uso de IA, definindo critérios para validade de provas geradas por sistemas automatizados.
• Risco de judicialização massiva: aumento de impugnações processuais e pedidos de perícia técnica, o que demandará infraestrutura forense computacional e corpo técnico qualificado.

Conclusão: o artigo do CNJ sistematiza um arcabouço prudente para o uso de IA em persecução penal, apontando que eficiência investigativa não autoriza supressão de garantias constitucionais. A adoção responsável depende de controles humanos claros, transparência e conformidade com normas como a Constituição e a LGPD, bem como de regulamentação técnica e judicialização que detalhem limites operacionais e probatórios.