Regulação da IA em Saúde: Riscos e Imperativo Normativo no Brasil

A aplicação de inteligência artificial no setor de saúde apresenta riscos documentados por evidências científicas sólidas, mas o arcabouço regulatório brasileiro permanece insuficiente para mitigá-los adequadamente. Essa desconexão entre os perigos já mapeados e a inação estatal configura um cenário de exposição desnecessária da população brasileira a tecnologias com potencial de causar danos à saúde individual e coletiva.

Contexto

A integração acelerada de sistemas de inteligência artificial na medicina, diagnóstico e prescrição terapêutica ocorre sem que marcos regulatórios proporcionais ao risco tenham sido estabelecidos. No Brasil, essa situação é particularmente grave porque coincide com três fatores estruturantes: (i) a morosidade do processo legislativo específico sobre IA (PL 2338/2023), que segue tramitação lenta no Congresso Nacional; (ii) a consolidação ainda incompleta da Agência Nacional de Proteção de Dados (ANPD), que não dispõe de capacidade operacional plena para endereçar questões de IA em saúde; e (iii) a regulação tímida da Anvisa sobre softwares como dispositivos médicos, deixando lacunas normativas em tecnologias de alto risco.

A controvérsia não é meramente técnica ou corporativa. Trata-se de tensão fundamental entre inovação privada acelerada e proteção de direitos fundamentais à saúde (artigos 6º e 196 da Constituição Federal de 1988), especialmente considerando que muitas dessas plataformas operam com dados sensíveis de saúde protegidos pela Lei Geral de Proteção de Dados (Lei 13.709/2018, LGPD).

O que foi decidido

Não se trata aqui de uma decisão judicial ou administrativa específica, mas de um posicionamento técnico-jurídico de que a regulação estatal da IA aplicada à saúde não é opcional, mas imperativo. Os riscos identificados em literatura científica internacional exigem resposta regulatória proativa, baseada no princípio da precaução (adotado em matérias de saúde pública e ambiental).

Os riscos documentados incluem: (a) propostas diagnósticas e terapêuticas por IA que não superam consistentemente o desempenho humano; (b) opacidade algorítmica, tornando sistemas de IA impossíveis de auditar ou explicar adequadamente; (c) alucinação algorítmica (geração de informações fictícias); (d) vieses discriminatórios baseados em raça, gênero e etnia nos modelos treinados; (e) erros em diagnóstico e orientação terapêutica com potencial letal; (f) ausência de mecanismos de responsabilização clara por danos causados por IA; (g) falta de transparência sobre coleta, uso e compartilhamento de dados de saúde; e (h) inexistência de critérios estatais de avaliação de segurança, eficácia e qualidade de produtos digitais com IA antes de sua inserção no mercado.

Base normativa e precedentes

• Lei 13.709/2018 (LGPD) — Estabelece direitos de titular sobre dados pessoais, inclusive dados sensíveis de saúde (artigo 5º, II; artigo 11). Determina princípios como licitude, adequação, necessidade e transparência, cuja violação pode gerar danos por IA não controlada.

• Artigos 6º e 196, Constituição Federal de 1988 — Garantem saúde como direito fundamental e dever do Estado, exigindo que inovação tecnológica não comprometa esse direito.

• Decreto-Lei 9.787/1999 (Lei de Medicamentos) e regulações da Anvisa — Estabelecem que qualquer produto de risco deve passar por avaliação de segurança e eficácia antes da comercialização. Softwares como dispositivos médicos de risco elevado devem submeter-se à mesma lógica.

• PL 2338/2023 — Proposta legislativa em tramitação lenta no Congresso Nacional. Visa regulamentar desenvolvimento, uso e comercialização de sistemas de IA, mas ainda não estabelece regras específicas e mandatórias para IA em saúde.

• Jurisprudência consolidada do STF — Em matérias de direitos fundamentais e saúde (vide discussões sobre medicamentos de alto custo e tratamentos inovadores), o tribunal tem reconhecido que proteção prévia do Estado é preferível a reparação posterior por danos.

Impacto prático

Para diferentes grupos de stakeholders:

• Profissionais de saúde (médicos, enfermeiros, cirurgiões): A ausência de regulação clara cria responsabilidade jurídica incerta. Se um diagnóstico por IA resultar em erro terapêutico, quem responde? O desenvolvedor, o hospital, o médico que usou a ferramenta? A lacuna normativa expõe profissionais a litigation de difícil defesa.

• Pacientes e população: Risco direto de acesso a diagnósticos imprecisos, prescrições inadequadas e violação de privacidade de dados de saúde sensíveis. Populações vulneráveis (minorias raciais, mulheres, idosos) enfrentam risco amplificado devido a vieses algorítmicos documentados.

• Empresas desenvolvedoras e setor saúde: A falta de regulação permite comercialização rápida, mas cria instabilidade jurídica futura. Quando regulação vier (como ocorreu na Europa com a IA Act), empresas que não se anteciparam enfrentarão custos de conformidade retroativos.

• Sistema Único de Saúde (SUS): A incorporação de tecnologias de IA sem critérios de segurança e eficácia, e sem análise de custo-efetividade, pode desviar recursos públicos para ferramentas que não trazem benefício real ou que replicam desigualdades (indisponibilidade de dados equitativos para treinar modelos).

O que observar

Próximos passos legislativos: O PL 2338/2023 permanece em fase de debate. Caso seja aprovado sem cláusulas específicas sobre IA em saúde, será necessária regulamentação complementar via Anvisa e ANPD. Observar se haverá submódulos regulatórios setoriais.

Atuação da Anvisa: Aguardar possíveis revisões nas normas sobre softwares como dispositivos médicos (RDC 330/2020 e posteriores) para incorporar exigências mais rigorosas de teste de segurança, auditoria algorítmica e rastreabilidade de decisões de IA.

Consolidação da ANPD: A agência deve avançar em diretrizes específicas sobre IA e dados de saúde, alinhadas à LGPD. Dados sensíveis de saúde (artigo 11 da LGPD) demandam níveis de proteção superiores.

Modelos internacionais: A União Europeia aprovou a IA Act (Regulamento 2024/1689), que classifica sistemas de IA em saúde como de risco elevado, exigindo conformidade demonstrável antes do mercado. Brasil pode adotar modelo similar ou mais robusto.

Riscos para profissionais jurídicos: Advogados que atuam em responsabilidade civil, direito administrativo e LGPD devem antecipar litígios sobre danos causados por IA em saúde. Documentar erros algorítmicos será crítico. Paralelamente, em contencioso tributário e societário, pode haver disputas sobre desoneração fiscal de empresas de IA alegadamente inovadoras.

Modulação de efeitos e transição: Se regulação específica vier, será necessário período de adequação para empresas e instituições de saúde. Observar se normas terão efeito imediato ou incluirão período de conformidade gradual.