AGU alerta concentração poder corporações digitais IA

A Advocacia-Geral da União levantou preocupações estruturais sobre a dependência de tecnologias controladas por corporações estrangeiras e a opacidade dos sistemas de inteligência artificial, afirmando que o controle humano permanece não-negociável nas decisões jurídicas e administrativas. O aviso ocorreu durante a abertura do 3º Fórum de Transformação Digital na Advocacia Pública, momento em que a instituição também instituiu sua Política de Proteção de Dados Pessoais.

Contexto

O avanço da transformação digital na administração pública e no setor jurídico gerou uma tensão estrutural: de um lado, a necessidade de modernizar processos, acelerar decisões e ampliar o acesso à Justiça; de outro, o risco de transferência de soberania decisória para algoritmos desenvolvidos por grandes corporações tecnológicas, frequentemente dominadas por empresas estrangeiras. A opacidade algoritmica refere-se à impossibilidade de compreensão clara de como sistemas de inteligência artificial chegam a suas conclusões — um problema especialmente grave quando esses sistemas influenciam ou substituem decisões humanas em matéria de direito público e proteção de dados.

A questão conecta-se a princípios da Lei Geral de Proteção de Dados (LGPD — Lei 13.709/2018), que exige transparência no tratamento de dados pessoais e proíbe decisões automatizadas que afetem direitos fundamentais sem supervisão humana significativa. Também resgata debates constitucionais sobre dignidade da pessoa humana (Art. 1º, III, CF/88) e direitos fundamentais, especialmente quando sistemas automatizados incorporam vieses discriminatórios não detectáveis.

O que foi decidido

A AGU estabeleceu como princípio orientador que as ferramentas digitais e seus algoritmos devem estar alinhados com a legislação brasileira, notadamente com o Estado de Direito, direitos fundamentais e dignidade humana. A instituição rejeitou explicitamente modelos de automação que prescindissem do discernimento dos operadores jurídicos e reafirmou que o processo decisório não será automatizado. Simultaneamente, a AGU formalizou sua Política de Proteção de Dados Pessoais por meio da Portaria Normativa 226/2026, sinalizando institucionalização de práticas de conformidade com diretrizes de proteção de dados.

O posicionamento não é meramente interno: representa um balizamento das expectativas sobre como o Estado brasileiro concebe a relação entre tecnologia e exercício de funções públicas essenciais, influenciando agendas regulatórias futuras.

Base normativa e precedentes

• Arts. 1º e 5º, CF/88 — Princípios fundamentais de dignidade humana e direitos fundamentais. Nenhum sistema automatizado pode contrariar esses pilares.
• Lei 13.709/2018 (LGPD) — Art. 20: proíbe decisões automatizadas que produzam efeitos legais ou prejudiquem direitos, salvo com consentimento explícito e direito à revisão humana. Art. 6º: transparência como princípio-chave do tratamento de dados.
• Lei 13.445/2016 (Marco Civil da Internet) — Art. 19: responsabilidade de plataformas digitais e necessidade de transparência em algoritmos de recomendação (especialmente após reformas).
• Jurisprudência consolidada do STF — Reconhece que direitos fundamentais não são negociáveis frente a demandas tecnológicas; decisões que afetam direitos devem conservar núcleo de apreciação humana.
• Princípio do controle humano significativo — Delineado em discussões internacionais sobre IA (OCDE, UE com Regulation on Artificial Intelligence). A decisão da AGU alinha-se a esse standard emergente.

Impacto prático

Para a administração pública e advocacia estatal:

• Implementação de auditorias internas de conformidade em sistemas de IA utilizados na advocacia pública, com foco em detecção de vieses.
• Exigência de documentação e transparência de algoritmos usados em triagem de demandas, análise de jurisprudência ou recomendações jurídicas.
• Vedação de delegar integralmente a máquina decisões sobre direitos fundamentais, benefícios previdenciários, improbidade ou execução penal.

Para operadores jurídicos em geral:

• Profissionais que usarem ferramentas de IA em pareceres, petições ou análises jurídicas permanecerão responsáveis pelo conteúdo, já que máquinas não substituem discernimento.
• Advogados devem verificar se softwares de pesquisa jurídica ou análise de dados estão em conformidade com LGPD e princípios de transparência.

Para órgãos de regulação:

• A posição da AGU antecipa pressão por regulamentação específica de IA no setor público, possivelmente via decreto ou instrução normativa.
• Sinaliza que o Brasil deve discutir soberania de dados: infraestruturas críticas não devem depender de corporações estrangeiras com opacidade algoritmica irredutível.

O que observar

1. Regulamentação futura de IA — O Brasil discute atualmente projeto de lei sobre Inteligência Artificial. A posição da AGU pode influenciar redação de cláusulas sobre uso de IA na administração pública, reforçando requisitos de auditoria e controle humano.

2. LGPD e decisões automatizadas — A Autoridade Nacional de Proteção de Dados (ANPD) ainda carece de orientações técnicas robustas sobre o que constitui "revisão humana significativa". Essa discussão tende a se aprofundar.

3. Compliance corporativo — Fornecedores de tecnologia para órgãos públicos enfrentarão crescente pressão por certificações de transparência algoritmica e submetimento a auditorias de viés.

4. Soberania tecnológica — A AGU toca em tema de soberania digital: dependência de plataformas estrangeiras e opacidade irredutível podem criar vulnerabilidades em decisões de justiça e administração.

5. Próximos passos — Espera-se que o Fórum de Transformação Digital e a política interna da AGU gerem diretrizes compartilhadas com outras advocacias estaduais e municipais, via Conpeg, ANPM e Renagei, institucionalizando essas cautelas em rede nacional.