STF: algoritmos devem se subordinar aos valores humanos e à dignidade

A tecnologia algorítmica, ao integrar-se em estruturas de concessão de crédito, seleção profissional e acesso a bens e serviços, criou um problema estrutural que o direito precisa enfrentar: a "vulnerabilidade algorítmica", caracterizada pela exclusão e segmentação de pessoas mediante critérios opacos e de difícil contestação. Conforme afirmado durante a 10ª Jornada de Direito Civil, realizada no Conselho da Justiça Federal, o ordenamento jurídico democrático não deve combater a inovação, mas orientá-la para que permaneça subordinada aos valores humanos fundamentais.

Contexto

A sociedade digital trouxe transformações cuja profundidade jurídica ainda está sendo mapeada. Os algoritmos operam mediante códigos, bases de dados e modelos preditivos frequentemente inacessíveis aos afetados, criando uma assimetria de poder que transcende a mera questão técnica. Decisões sobre concessão de crédito, seleção de candidatos, circulação de informações, formação de reputação e acesso a serviços passaram a ser governadas por sistemas cujos mecanismos internos permanecem obscuros. A questão não é acadêmica: afeta diretamente direitos fundamentais consagrados na Constituição Federal de 1988, particularmente dignidade (art. 1º, III), igualdade (art. 5º, caput) e acesso à justiça (art. 5º, XXXV). A Lei Geral de Proteção de Dados (Lei 13.709/2018), marco regulatório importante, abordou proteção de dados pessoais como projeção da personalidade humana, mas o debate sobre responsabilização algorítmica, transparência e direito à revisão humana ainda permanece aberto no direito civil e processual.

O que foi decidido

O presidente da corte formulou orientação normativa sobre como o direito deve se relacionar com a inovação tecnológica: não através de interdição, mas de subordinação aos valores constitucionais. Sustentou que quando algoritmos desempenham "funções institucionais" — isto é, quando exercem papel similar ao mercado, à administração estatal ou às instituições sociais tradicionais —, sua legitimidade deve ser aferida à luz dos mesmos princípios que justificam toda ordem jurídica democrática: dignidade da pessoa humana, igualdade, liberdade, responsabilidade e proteção dos vulneráveis. A posição rejeita a falsa dicotomia entre progresso tecnológico e proteção jurídica; argumenta que o direito deve "orientar" a inovação para que a tecnologia permaneça subordinada aos valores humanos, nunca o contrário. Nesse sentido, enfatizou que nenhum algoritmo possui dignidade, nenhuma máquina possui consciência moral e nenhum sistema automatizado é titular de responsabilidade ética — a responsabilidade permanece, sempre, com os humanos que o criaram e implementaram.

Base normativa e precedentes

• Art. 1º, III, CF/88 — Dignidade da pessoa humana como fundamento da República
• Art. 5º, caput, CF/88 — Igualdade perante a lei
• Art. 5º, XXXV, CF/88 — Acesso à justiça e direito de ação
• Lei 13.709/2018 (LGPD) — Lei Geral de Proteção de Dados, que estabelece direitos e deveres relativos a dados pessoais e consagra o conceito de dados pessoais como projeção da personalidade humana
• Art. 5º, LIII, CF/88 — Ninguém será processado nem sentenciado senão pela autoridade competente (implicação: sistemas automatizados de decisão devem estar submetidos a controle humano)
• Jurisprudência em evolução — O STF ainda não formalizou tese sobre responsabilidade por algoritmos discriminatórios ou sobre o direito à revisão humana de decisões algorítmicas; a posição do presidente indica futuro aprofundamento do tema

Impacto prático

Para advogados: Abre-se amplo campo de controvérsia em ações de responsabilidade civil (art. 927, CC/2002) envolvendo danos decorrentes de decisões algorítmicas, particularmente quando houver recusa de crédito, exclusão de seleção profissional ou discriminação de consumidor. A fundamentação de que algoritmos podem "reproduzir preconceitos históricos" e "ampliar desigualdades preexistentes" fornece argumento para ações coletivas (Lei 7.347/1985 — Lei da Ação Civil Pública) voltadas à revisão de políticas de inteligência artificial. Será relevante investigar a "caixa-preta" algorítmica: como o modelo foi treinado, quais dados foram utilizados, se houve validação contra viés discriminatório.

Para empresas de tecnologia: A posição do presidente do STF sinaliza que o tribunal tende a exigir mecanismos de transparência, auditoria e direito à revisão humana em sistemas que afetem direitos fundamentais. Empresas que implementam algoritmos em contextos de crédito, emprego ou consumo devem documentar e justificar seus modelos.

Para consumidores e cidadãos: Reforça-se o direito de questionar e entender o fundamento de uma decisão automatizada que afete a pessoa. Decisões sobre crédito, emprego ou acesso a serviços não podem ser pura e simplesmente delegadas a máquinas sem direito à explicação e contestação humana.

Para o direito civil e processual: O cenário aponta para futura legislação ou jurisprudência sobre: responsabilidade por decisões automatizadas, proteção contra discriminações algorítmicas, direito de acesso à explicação (transparência), direito à revisão humana, governança de dados e patrimônio digital.

O que observar

Questões abertas: A posição exposta é, ainda, um pronunciamento doutrinário do presidente da corte, não uma decisão vinculante. Aguarda-se quando (e como) o STF consolidará essa orientação em teses submetidas a julgamento colegiado. Tópicos a acompanhar: (1) Como o tribunal definirá "responsabilidade" quando um algoritmo causa dano — será solidária com a empresa que o criou? Com a que o implementou? Com ambas? (2) Qual será o padrão de "transparência" exigido para um algoritmo ser considerado legítimo? (3) Em que casos é obrigatória a revisão por humano? (4) A LGPD é suficiente ou o direito civil/processual precisará de lei específica sobre algoritmos e IA?

Próximos passos: Espera-se que questões sobre responsabilidade civil por algoritmos discriminatórios, direito à explicação, auditoria e revisão humana cheguem ao STF em recursos extraordinários ou ações diretas de inconstitucionalidade. A Jornada de Direito Civil é espaço tradicional de formulação de enunciados que, sem force vinculante imediata, influenciam jurisprudência.

Para profissionais jurídicos: Início do mapeamento de campo novo: litígios envolvendo IA, algoritmos e dados. Recomenda-se aprofundar conhecimento em LGPD, responsabilidade civil (art. 927, CC), direito do consumidor (Lei 8.078/1990 — CDC), e acompanhar desenvolvimentos na jurisprudência do STJ sobre danos morais e materiais derivados de sistemas automatizados.