STF: algoritmos em decisões devem preservar direitos humanos e dignidade

O presidente do Supremo Tribunal Federal (STF) e do Conselho Nacional de Justiça (CNJ), ao discursar na abertura da X Jornada do Direito Civil, sustentou que sistemas de inteligência artificial e algoritmos responsáveis por tomadas de decisão automatizadas devem estar subordinados aos princípios constitucionais de dignidade da pessoa humana, igualdade, liberdade, responsabilidade e proteção dos vulneráveis — não o inverso. A central das discussões foi a "vulnerabilidade algorítmica": o desamparo gerado quando indivíduos sofrem efeitos de decisões automatizadas cujos critérios permanecem desconhecidos, incompreensíveis ou inacessíveis ao cidadão comum.

Contexto

A evolução tecnológica contemporânea trouxe uma mudança estrutural nas formas de poder e organização social. Historicamente, cada grande transformação tecnológica (industrialização, informatização) criou novas categorias de pessoas fragilizadas e demandou resposta normativa do Estado. A atual revolução digital não é exceção: sistemas automatizados — alimentados por dados, operados por algoritmos e frequentemente opacos em sua lógica interna — passaram a exercer funções tipicamente institucionais.

Essas funções vão muito além de tarefas administrativas: abrangem desde a filtragem de informações que os cidadãos recebem nas redes sociais até decisões sobre concessão de crédito, acesso a serviços públicos, ofertas de emprego e até determinações judiciais. A opacidade desses sistemas e a dificuldade de compreender por que uma pessoa foi "recusada" ou excluída por um algoritmo criam uma lacuna entre o direito formal e a proteção real.

O Direito Civil contemporâneo, desde a Constituição de 1988, tem como vocação histórica conter assimetrias de poder e proteger os mais fragilizados. A Carta Magna colocou em seu núcleo os indivíduos em situações vulneráveis: crianças, idosos, pessoas com deficiência, consumidores e grupos historicamente discriminados. Essa tendência se aprofundou com a promulgação do Estatuto da Pessoa com Deficiência, do reconhecimento do direito à identidade de gênero e da proibição de discriminações por orientação sexual. A lacuna jurídica agora diz respeito ao controle de sistemas que decidem sobre acesso a direitos sem transparência suficiente.

O que foi decidido

O posicionamento apresentado é que a legitimidade dos algoritmos — quando exercem funções institucionais ou afetam direitos — deve ser aferida à luz dos mesmos valores que fundamentam toda ordem jurídica democrática. Não se trata de rejeitar a inovação tecnológica, mas de subordiná-la a princípios humanistas.

Foi enfatizado que a tecnologia é instrumento; a pessoa humana permanece sendo o fim. Inversamente, sistemas não podem funcionar como se os dados e a otimização de processos fossem valores em si mesmos, subsumindo o ser humano a fins puramente técnicos.

O ministro também reforçou que o Direito Civil não pode ser instrumentalizado para exclusão ou reprodução de vulnerabilidades, mas para sua redução. Isso implica que quando uma decisão automatizada afeta a vida de uma pessoa — seja negando-lhe acesso a um serviço, condicionando seu direito a um benefício ou afetando sua esfera patrimonial ou existencial — essa decisão deve estar sujeita a controles similares aos que se aplicariam a uma decisão administrativa ou judicial tomada por um agente humano.

Base normativa e precedentes

• Constituição Federal de 1988, Arts. 1º e 5º — Estabelecem a dignidade da pessoa humana como fundamento da República e a igualdade como princípio fundamental, vedando discriminações.

• Lei Geral de Proteção de Dados (LGPD, Lei 13.709/2018) — Regulamenta o tratamento de dados pessoais e inclui direitos como acesso, correção e explicabilidade. O ministro identificou a LGPD como um dos mais importantes marcos normativos do direito brasileiro contemporâneo, transcendendo a mera disciplina técnica do tratamento de dados para incorporar valores de dignidade e autonomia.

• Código Civil (Lei 10.406/2002) — Historicamente, dispõe sobre direitos de personalidade, responsabilidade civil e, mais recentemente, sobre relações de consumo e proteção de vulneráveis.

• Estatuto da Pessoa com Deficiência (Lei 13.146/2015) — Exemplo concreto de como o direito contemporâneo busca remover barreiras e assimetrias que afetam grupos vulneráveis.

• Lei de Identidade de Gênero e proteções contra discriminação por orientação sexual — Consolidam a evolução constitucional no sentido de resguardar direitos de grupos historicamente marginalizados.

A jurisprudência consolidada em torno desses temas aponta para uma interpretação expansiva dos direitos de personalidade, transparência e acesso à justiça, que naturalmente se estende ao campo algorítmico.

Impacto prático

Para magistrados: Decisões que envolvam sistemas automatizados (seja em contencioso administrativo, cível ou trabalhista) devem examinar a legalidade, proporcionalidade e conformidade com direitos humanos dos algoritmos empregados. Juízes não podem aceitar passivamente que um sistema seja a "caixa preta" — há espaço para diligências que explicitem a lógica decisória.

Para advogados: Ao defender clientes prejudicados por decisões automatizadas (negação de crédito, exclusão de plataformas de vendas, recusa de atendimento automatizado), há fundamento constitucional e legal (LGPD, Código Civil) para questionar a transparência, legitimidade e proporcionalidade desses sistemas. Casos de discriminação algorítmica ganham densidade jurídica.

Para órgãos reguladores e administração pública: Políticas públicas que dependam de sistemas automatizados devem incluir mecanismos de auditoria, revisão humana e direito de explicação para o cidadão. Licitações e contratações de IA devem incorporar cláusulas de conformidade com direitos humanos.

Para empresas de tecnologia e plataformas digitais: Não basta cumprir regras técnicas de proteção de dados; a legitimidade de algoritmos de decisão passa a ser questão jurídica central, sujeita a questionamento em juízo.

Para consumidores e cidadãos: O discurso do STF abre caminho para demandas por transparência e revisão de decisões automatizadas que os afetem, com fundamento em direitos de personalidade e dignidade.

O que observar

Aindia não existe legislação específica sobre auditoria e explicabilidade de algoritmos de decisão no Brasil, comparável aos standards da União Europeia (AI Act). A LGPD oferece uma base, mas direcionada primariamente a proteção de dados, não à legitimidade normativa de critérios de decisão.

A X Jornada do Direito Civil, em que essas reflexões foram apresentadas, ocorre simultaneamente ao processo de reforma do Código Civil no Senado Federal. Há potencial para que enunciados de direito civil incorporem principles sobre inteligência artificial, transparência algorítmica e proteção contra discriminação automatizada — inclusive através de novos artigos ou dispositivos.

O grande desafio aberto é operacionalizar esses princípios. Como exigir explicabilidade de um modelo de aprendizado profundo (deep learning)? Como equilibrar inovação com precaução? Quem audita? Com que periodicidade? Essas perguntas permancem em aberto e demandarão tanto jurisprudência consolidada quanto, possivelmente, regulamentação adicional.

Também é relevante notar que a posição do STF sinaliza uma interpretação da LGPD e dos direitos de personalidade que vai além da mera conformidade técnica com privacidade, expandindo-a para questões de autonomia, dignidade e não-discriminação. Isso pode impactar demandas futuras contra plataformas e órgãos públicos.