AGU aponta diretrizes de governança ética de IA no setor público

A Advocacia-Geral da União publicou um posicionamento técnico sobre governança ética da inteligência artificial no setor público, ressaltando a necessidade de mecanismos de responsabilidade, transparência e conformidade para reduzir riscos de erro e prejuízos a direitos fundamentais. A mensagem tem efeito prático imediato ao orientar procuradores, gestores e equipes de transformação digital sobre prioridades para programas de implantação de IA.

Contexto

A incorporação de sistemas automáticos e algoritmos na prestação de serviços públicos vem ampliando questões jurídicas fundamentais: quem responde por decisões assistidas ou autônomas por máquinas; como preservar princípios da administração pública; como compatibilizar inovação com proteção de dados e acesso à informação; e qual regime de contratação e controle aplicar a soluções baseadas em aprendizado de máquina. No Brasil, a discussão converge sobre limites constitucionais (princípios administrativos do art. 37 da Constituição Federal), a proteção de dados pessoais (Lei 13.709/2018 — LGPD) e as obrigações de transparência (Lei 12.527/2011 — Lei de Acesso à Informação e Marco Civil da Internet, Lei 12.965/2014). A controvérsia é prática e jurídica: decisões automatizadas podem aumentar eficiência, porém também agravar desigualdades, dificultar fiscalização e gerar responsabilização difusa entre entes públicos, prestadores privados e operadores de tecnologia.

O que foi decidido

Ao invés de uma norma sancionadora, a AGU apresentou um conjunto de orientações técnicas e jurídicas que funcionam como guia para a implantação de IA nos órgãos federais. O enfoque privilegia medidas de governança proativas: identificação e avaliação de riscos, avaliação de impacto sobre direitos, adoção de critérios de explicabilidade e auditabilidade, e estabelecimento de responsabilidades contratuais e administrativas com fornecedores. A orientação reforça o dever de observância da LGPD quanto ao tratamento de dados pessoais, a necessidade de transparência ativa sobre sistemas automatizados e a exigência de mecanismos internos de controle e de correção de erros. Em termos práticos, a recomendação é que projetos de IA passem por fases formais de análise jurídica e técnica antes da implantação operacional, com registro documental das decisões e métricas de desempenho e viés.

Base normativa e precedentes

• Art. 37, CF/88 — impõe princípios da legalidade, impessoalidade, moralidade, publicidade e eficiência, fundamentais para qualquer uso de IA na administração pública.
• Lei 13.709/2018 (LGPD) — disciplina tratamento de dados pessoais, estabelece princípios (art. 6) e responsabilização por danos (art. 42), além de garantir direitos dos titulares que impactam programas de IA.
• Lei 12.527/2011 (LAI) — determina dever de transparência e acesso à informação, relevante para a divulgação de critérios e resultados de sistemas automatizados.
• Lei 12.965/2014 (Marco Civil da Internet) — prevê princípios como liberdade de expressão, proteção da privacidade e responsabilização de provedores, que intersectam com serviços digitais baseados em IA.
• Lei 14.133/2021 (Nova Lei de Licitações) — regras de contratação pública aplicáveis à aquisição e contratação de desenvolvimento de sistemas e serviços em nuvem; relevante para alocação de riscos e cláusulas de compliance tecnológica.
• Jurisprudência consolidada dos tribunais — orienta que responsabilidade administrativa e civil pode recair sobre a administração pública quando faltar diligência na contratação ou na supervisão de tecnologia.

Impacto prático

• Para procuradores e assessorias jurídicas: aumenta a demanda por pareceres prévios, cláusulas contratuais específicas (SLAs, responsabilidades por vieses, requisitos de auditoria) e mecanismos de tutela preventiva; recomenda-se articular com áreas de tecnologia para avaliação de impacto de direitos.
• Para gestores públicos: exige implementação de políticas de governança (registro de modelos, testes de viés, planos de monitoramento), inclusão de avaliações de impacto e rotinas de transparência ativa, sob pena de responsabilização administrativa e de danos compensatórios.
• Para fornecedores e integradores: obriga especificações contratuais mais rigorosas, exigência de evidências de conformidade com LGPD e métricas de desempenho e robustez; aumenta necessidade de compliance e documentação técnica replicável para auditoria.
• Para titulares de dados e sociedade: potencial ampliação do acesso a serviços melhorados, mas com riscos de discriminação automatizada e limitação de direitos se não houver mitigação de riscos e transparência.
• Para processos em curso: orientações da AGU podem influenciar teses em disputas sobre contratos tecnológicos, pedidos de acesso a informações sobre algoritmos e medidas acauteladoras em casos de erro sistêmico.

O que observar

• Qual será o próximo passo normativo: orientação ministerial, regulamentação específica ou medidas instrucionais internas terão maior ou menor força vinculante; acompanhar atos normativos complementares é essencial.
• Modulação de responsabilidades: considerar cláusulas contratuais-padrão que atribuam de forma clara obrigações de correção, atualização e auditoria de modelos; sem delegar inteiramente ao fornecedor o dever final de observância dos princípios constitucionais.
• Intersecção com a LGPD: projetos de IA devem incorporar avaliações de impacto à privacidade (DPIA), bases legais adequadas e garantias para exercício de direitos dos titulares (acesso, correção, eliminação quando aplicável).
• Fiscalização e provas técnicas: preparar estruturas de logging, versionamento e reprodutibilidade dos modelos para permitir auditoria técnica e contestação judicial e administrativa de decisões automatizadas.
• Riscos de accountability fragmentada: atenção à cadeia de fornecedores, subcontratação e componentes de código aberto que podem diluir responsabilidades.
• Recursos e capacitação: órgãos precisarão formar equipes multidisciplinares (jurídico, técnico, auditoria) e prever orçamento para monitoramento contínuo.

Essas observações indicarão como as orientações da AGU podem se traduzir em rotinas administrativas, requisitos contratuais e teses jurídicas aplicáveis a litígios futuros sobre algoritmos no serviço público.