Por que é urgente desacelerar os avanços da inteligência artificial

Decisão (síntese): O debate sobre a necessidade de frear o desenvolvimento acelerado de sistemas de inteligência artificial avançada ganhou recentemente apoio de pesquisadores, líderes do setor e economistas renomados, com apelos por desaceleração coordenada, auditorias externas e mecanismos de controle. A repercussão prática imediata é política e regulatória: reforça a pressão por criação de salvaguardas técnicas e institucionais, além de acelerar discussões sobre padrões internacionais de segurança e certificação.

Contexto

A controvérsia envolve a velocidade com que modelos de inteligência artificial generativa e sistemas de aprendizado profundo vêm evoluindo, ao mesmo tempo em que surgem relatos sobre comportamentos perigosos — das chamadas "alucinações" a ataques autônomos e riscos de manipulação. Nos últimos anos, atores centrais do ecossistema (empresas de tecnologia, pesquisadores e autoridades) vêm alertando para a possibilidade de que sistemas cada vez mais poderosos ultrapassem nossa capacidade de previsão e controle.

O tema importa porque a tecnologia não é apenas econômica: é sistêmica. Ganhos de produtividade conviverão com riscos que alcançam segurança cibernética, integridade democrática, responsabilidade civil e — em cenários extremos — riscos existenciais. Há, portanto, uma colisão entre ritmo de inovação privada e necessidade de marcos públicos de governança.

O que foi decidido

Não se trata de uma decisão judicial, mas de uma confluência de posicionamentos influentes que alteram o cenário regulatório e de governança da IA. Pesquisadores e executivos de empresas chamaram publicamente por:

• uma desaceleração coordenada do desenvolvimento de modelos mais capazes;
• auditorias externas independentes para avaliação de segurança e investigação de incidentes;
• criação de "pontos de controle" técnicos e procedimentais que condicionem a progressão de um modelo à certificação de segurança;
• coordenação internacional, em especial entre polos tecnológicos relevantes, para alinhamento de limites e testes obrigatórios.

O efeito prático é triplo: aumenta a pressão sobre formuladores de políticas para editar regras e padrões; legitima iniciativas de autorregulação mais rígidas no setor; e orienta o debate público sobre como ponderar benefícios econômicos versus riscos sociais e existenciais.

Base normativa e precedentes

• Art. 5º, CF/88 — proteção de direitos fundamentais, incluindo privacidade, liberdade de expressão e segurança; esses direitos orientam limites do uso de IA.
• Lei 13.709/2018 — LGPD — disciplina tratamento de dados pessoais e impõe princípios e deveres (finalidade, necessidade, transparência, segurança), fundamentais para governança algorithmica e auditorias de modelos que processam dados pessoais.
• Lei 12.965/2014 — Marco Civil da Internet — princípio da neutralidade, guarda de registros e responsabilidades intermediárias, relevantes para incidentes de segurança e ataques cibernéticos envolvendo IA.
• Código Civil, Lei 10.406/2002 — art. 927 — responsabilidade por ato ilícito que causa dano; enquadramento civil para danos gerados por sistemas autônomos.
• Jurisprudência consolidada do tribunal — onde aplicável, tende a exigir adequação técnica e provas periciais em litígios envolvendo tecnologia; a necessidade de peritos qualificados para avaliar sistemas automatizados já é tendência nos tribunais.

Impacto prático

• Advogados: deverão incorporar avaliações técnicas de modelos em peças e perícias; contratos de desenvolvimento e licenciamento ganharão cláusulas de segurança, auditoria, limites de uso e indenização por danos causados por sistemas autônomos.
• Empresas de tecnologia: pressionadas a instituir governança interna mais rigorosa (risk management, compliance técnico), contratos de certificação e planos de contenção de incidentes.
• Poder público e reguladores: reforça o argumento para regulamentação setorial (normas de teste, certificação de modelos, exigência de auditorias independentes) e para estratégias de cooperação internacional.
• Consumidores e sociedade: maior expectativa por transparência sobre riscos, mecanismos de contestação e remediação; possibilidade de proibição de usos de alto risco (armas biológicas, automação descontrolada de infraestruturas críticas).
• Processos em curso: demandas que alegam danos causados por IA poderão requerer medidas cautelares técnicas (interdição de modelos, ordens de auditoria) e perícias especializadas; contratos em negociação terão de contemplar cláusulas de