Doutorado em IA na PUC-SP: governança, riscos e implicações

Plínio Higasi iniciou doutorado no Programa TIDD da PUC-SP, focando governança, supervisão e regulação de sistemas de inteligência artificial de alto impacto; a pesquisa promete translacionar debates acadêmicos para modelos aplicáveis ao mercado e à advocacia em direito digital.

Contexto

A investigação acadêmica sobre inteligência artificial (IA) tem migrado do campo teórico para um diálogo intenso com a regulação e a prática jurídica. No Brasil, esse movimento ocorre concomitantemente à tramitação de projetos legislativos específicos sobre IA — entre eles o Projeto de Lei nº 2.338/2023 — e à evolução de instrumentos normativos de proteção de dados pessoais, como a Lei Geral de Proteção de Dados (Lei 13.709/2018). Internamente, escritórios de advocacia e departamentos jurídicos precisam conciliar a tecnicidade dos sistemas de IA com regimes de responsabilidade, gestão de riscos e compliance. A linha de pesquisa Inteligência Artificial e Gestão, do Programa de Pós-Graduação em Tecnologias da Inteligência e Design Digital (TIDD) da PUC-SP, insere-se nessa fronteira, ao investigar não só o funcionamento técnico dos modelos, mas também os arranjos de governança que restringem efeitos nocivos às pessoas.

Historicamente, a discussão sobre autonomia das máquinas e responsabilidade remonta a ficções e metáforas — como as Leis da Robótica de Isaac Asimov —, mas ganhou corpo jurídico à medida que sistemas automatizados passaram a influenciar decisões empresariais e públicas. A transição para sistemas autônomos de maior impacto eleva questões centrais: quem supervisiona, em que medida a supervisão humana é efetiva, como distribuir responsabilidade civil e administrativa, e quais mecanismos de governança operacional são viáveis em ambientes regulatórios ainda em formação.

O que foi decidido

Não se trata de uma decisão judicial, mas do ingresso de um pesquisador-praticante — sócio da área Digital de um escritório — num doutorado voltado para modelos de supervisão, governança e regulação de sistemas avançados de IA. A tese terá foco em agentes autônomos de alto impacto e na proteção das pessoas. A abordagem promete aprofundar o estudo de redes neurais e implicações ético-jurídicas previamente desenvolvidas pelo pesquisador no mestrado, desta vez com ênfase em soluções aplicáveis ao mundo organizacional e regulatório.

A pesquisa se propõe a: (i) analisar estruturas de governança que conciliem inovação e mitigação de riscos; (ii) estudar modelos de supervisão humana realistas frente a sistemas autônomos; e (iii) aproximar conceitos acadêmicos dos desafios práticos enfrentados por empresas, operadores do direito e escritórios que prestam serviços de conformidade e gestão de risco tecnológico. Para a prática profissional, isso significa a construção de critérios técnicos e jurídicos que subsidiem contratos, políticas de compliance, programas de governança e respostas regulatórias.

Base normativa e precedentes

• Lei 13.709/2018 (LGPD) — estabelece direitos dos titulares e obrigações de tratamento que impactam a cadeia de desenvolvimento e operação de sistemas de IA que processam dados pessoais.
• Projeto de Lei nº 2.338/2023 — proposta legislativa em tramitação que visa estabelecer regras específicas sobre o uso de IA no Brasil; sua evolução regulatória cria um ambiente de incerteza normativa e oportunidade para modelagem de conformidade.
• Lei 12.965/2014 (Marco Civil da Internet) — princípios, garantias, direitos e deveres para o uso da internet no Brasil que podem incidir sobre plataformas que operem agentes autônomos.
• Código Civil (Lei 10.406/2002) — institui regimes de responsabilidade civil aplicáveis a danos decorrentes de operação ou falha de sistemas automatizados.
• AI Act (European Union) — marco regulatório internacional em formação que serve como referência de padrões de risco, classificação e exigências de governança para sistemas de IA de alto impacto.
• Jurisprudência e orientações regulatórias — a pesquisa deverá dialogar com entendimentos consolidados sobre responsabilidade por sistemas automatizados e as diretrizes emergentes de autoridades reguladoras e agências setoriais.

Impacto prático

• Para advogados e escritórios: fornece elementos técnicos-jurídicos para estruturar cláusulas contratuais, políticas de governança, auditores de conformidade e estratégias de defesa em litígios envolvendo IA.
• Para empresas e operadores de tecnologia: oferece modelos de supervisão humana e gestão de risco que podem ser incorporados em processos de desenvolvimento e operação, facilitando adequação a futuras exigências do PL 2338/2023 e normas infralegais.
• Para reguladores e formuladores de políticas: contribui com estudos que podem subsidiar padrões mínimos de segurança, documentação e auditoria de sistemas de IA de alto risco.
• Para titulares de direitos e consumidores: fortalece a base técnica para reivindicar mecanismos de proteção, transparência e remediação quando expostos a decisões automatizadas prejudiciais.

O que observar

• Harmonização normativa: será crucial acompanhar a interação entre a LGPD, eventual lei específica de IA (PL 2338/2023) e normas administrativas para evitar lacunas e contradições.
• Supervisão humana efetiva: a pesquisa deve distinguir supervisão formal de supervisão substantiva, propondo métricas operacionais para aferir quando a intervenção humana é real e eficaz.
• Responsabilidade civil e seguro tecnológico: apontar como distribuir riscos entre desenvolvedores, operadores e usuários, inclusive com modelos contratuais e instrumentos de transferência de risco (seguro, cláusulas de indenização).
• Translacionalidade acadêmico-prática: identificar limites da aplicabilidade imediata das propostas teóricas no ambiente regulatório brasileiro e sugerir caminhos de implementação gradual.
• Recursos e difusão: a modulação de efeitos de normas futuras e a adoção de boas práticas dependerão de esforços coordenados entre academia, mercado e órgãos reguladores.

Em suma, a entrada de um pesquisador com atuação profissional em um doutorado voltado à governança da IA sinaliza um movimento relevante: a produção de conhecimento jurídico técnico capaz de informar decisões contratuais, práticas de compliance e narrativas regulatórias num momento em que a tecnologia pressiona os contornos tradicionais da responsabilidade e da proteção de direitos.