AGU reforça controle humano sobre decisões assistidas por IA na Administração

A Advocacia-Geral da União defende que a autoridade humana permanece responsável por decisões apoiadas em Inteligência Artificial, com reflexos imediatos na governança interna, na elaboração de pareceres e na responsabilização administrativa.

Contexto

A difusão de modelos generativos e ferramentas de IA trouxe ganhos de produtividade e riscos concomitantes à Administração Pública e aos profissionais do direito. O debate não é apenas técnico: envolve distribuição de responsabilidades, requisitos de transparência e a necessidade de integrar critérios humanos ao ciclo decisório. Internacionalmente, documentos de referência — como a Recomendação da UNESCO sobre ética em IA e os princípios da OCDE — já orientam que a supervisão humana e a prestação de contas sejam centrais. No Brasil, a Lei Geral de Proteção de Dados (Lei 13.709/2018) impõe limites ao tratamento automatizado de dados pessoais, e a Constituição Federal de 1988 disciplina princípios da administração pública, numa articulação que torna o tema relevante para procuradores, gestores e magistrados.

A controvérsia prática que motiva a análise é a tendência de delegar etapas inteiras do raciocínio jurídico a soluções automatizadas — desde busca de precedentes até rascunhos de manifestações — sem que sejam explícitos os critérios que orientarão a aplicação do direito. Isso suscita dúvidas sobre quem responde por escolhas de fato e por eventuais omissões ou vieses incorporados ao fluxo de trabalho.

O que foi decidido

A AGU, em publicação institucional, posicionou-se a favor da manutenção do controle humano sobre decisões assistidas por IA, enfatizando que ferramentas algorítmicas servem como suporte e não como titular da decisão. O fundamento central é que cabe ao agente público definir critérios, avaliar consequências normativas e assumir responsabilidade por resultados jurídicos e administrativos. Na prática, a orientação implica que o uso de IA deve ser acompanhado de intervenção humana qualificada em pontos críticos do processo decisório, bem como de documentação que registre as escolhas feitas e os motivos que afastaram ou aceitaram recomendações automatizadas.

A mensagem institucional afasta a ideia de submissão automática a respostas geradas por modelos: recomenda-se diálogo crítico com a ferramenta — incrementar contexto, contestar hipóteses e ajustar parâmetros — de modo a transformar sugestões automáticas em insumos passíveis de controle e justificativa humanos. Para o profissional público, a conclusão é clara: a adoção de IA não altera a indelével atribuição de julgamento e de responsabilização.

Base normativa e precedentes

• Art. 37, CF/88 — princípio da legalidade, impessoalidade, moralidade, publicidade e eficiência; ressalta deveres da Administração e responsabilidades associadas à tomada de decisão.
• Art. 5, CF/88 — garantia de direitos fundamentais que podem ser afetados por decisões automatizadas, especialmente em matérias com impacto individual.
• Lei 13.709/2018 (LGPD) — disposições sobre tratamento automatizado de dados pessoais e requisitos de transparência; regras aplicáveis à tomada de decisão automatizada que envolva dados pessoais.
• Recomendação da UNESCO sobre a Ética da IA (2021) — princípio de supervisão humana e de não transferir responsabilidade decisória para sistemas automatizados.
• Princípios de Inteligência Artificial da OCDE (2024) — ênfase em responsabilidade, transparência e supervisão humana em sistemas de IA.
• Jurisprudência consolidada do tribunal — há crescente orientação jurisprudencial exigindo motivação humana e rastreabilidade de decisões administrativas e judiciais, aplicável analogicamente ao uso de IA.

Impacto prático

• Para procuradores e advogados públicos: exige-se registro claro sobre como a IA foi usada no trabalho preparatório; rascunhos gerados automaticamente devem ser avaliados criticamente, com explicitação dos critérios jurídicos adotados e da responsividade às limitações da ferramenta.
• Para gestores e órgãos: obriga a incorporar controles institucionais — políticas de uso, fluxos de validação, controle de versões e treinamentos permanentes — para evitar automatismos e garantir accountability administrativa.
• Para magistrados: reforça que pesquisas e apoio computacional não substituem motivação e fundamentação humana; decisões que se apoiem em algoritmos devem explicitar a influência que receberam desses insumos.
• Para titulares de dados e cidadãos: limitações ao tratamento automatizado vinculam-se à LGPD; decisões com efeitos individuais demandam maior transparência e possibilidade de revisão por humano.
• Em ações em curso: documentos produzidos com auxílio de IA devem ser analisados quanto à validade probatória e à conformidade com deveres de diligência profissional; possible necessidade de atualização de rotinas de compliance e de auditoria tecnológica.

O que observar

• Documentação e rastreabilidade: políticas internas devem prever logs de interação com sistemas de IA, justificativas para aceitação/rejeição de sugestões e guarda de versões, de modo a permitir auditoria posterior.
• Critérios de validação humana: definir pontos obrigatórios de intervenção humana, padrões mínimos de revisão e perfis profissionais responsáveis pela aprovação final.
• Responsabilização administrativa e disciplinar: eventuais falhas decorrentes de uso indevido de IA não exoneram o agente público de responsabilidade; previsões disciplinares e administrativas podem ser acionadas.
• Conformidade com LGPD e transparência: avaliar riscos de decisões automatizadas que envolvam dados pessoais e garantir meios de explicação e revisão, sobretudo quando há efeitos individuais.
• Evolução regulatória e normativas setoriais: acompanhar iniciativas normativas e possíveis regulamentações específicas que detalhem obrigações de governança algorítmica no setor público; atenção a orientações técnicas e boas práticas nacionais e internacionais.
• Capacitação e mudança institucional: treinamento em literacia algorítmica e desenvolvimento de cultura que valorize o questionamento crítico são medidas estratégicas para mitigar vieses e confiança acrítica em respostas geradas por IA.