Califórnia regula uso de IA por advogados e árbitros na SB 574

Decisão em síntese: A legislação estadual da Califórnia conhecida como SB 574 estabeleceu obrigações específicas para o emprego de sistemas de inteligência artificial gerativa por advogados e árbitros: proíbe a delegação da prática jurídica e do juízo arbitral à IA e impõe deveres de verificação, confidencialidade e transparência, incluindo obrigação de informar o uso da tecnologia ao tribunal e restrições ao compartilhamento de dados sensíveis.

Contexto

A difusão de ferramentas de IA generativa (modelos capazes de produzir texto, imagens, áudio ou vídeo a partir de dados de treinamento) tensionou normas éticas e processuais em várias jurisdições. Cresce a preocupação com quatro riscos centrais: (i) a automação indevida de atos privativos de advogado ou árbitro; (ii) a geração de informações incorretas ou “alucinações” factuais; (iii) o vazamento de dados confidenciais quando inseridos em plataformas de terceiros; e (iv) a opacidade sobre se e quanto conteúdo foi produzido por máquina. Contra esse pano, a norma californiana surge como resposta regulatória precoce, buscando preservar responsabilidades profissionais tradicionais e mitigar riscos ligados à integridade probatória, ao sigilo e à prestação competente de serviços jurídicos.

O que foi decidido

A SB 574 regula, de forma setorial, o uso de IA generativa na atividade jurídica e na arbitragem. Em termos substantivos, a lei: (i) veda a delegação da prática da advocacia e do processo decisório arbitral a ferramentas de IA; (ii) exige que advogados adotem medidas razoáveis para verificar a exatidão das respostas produzidas por esses sistemas, incluindo a conferência de citações jurisprudenciais e referências legais; (iii) determina correção de conteúdos incorretos ou fabricados quando detectados; (iv) proíbe a apresentação ao Judiciário de citações que não tenham sido pessoalmente verificadas pelo responsável; (v) restringe o upload de informações confidenciais e dados pessoais identificáveis a sistemas cujo acesso não esteja limitado ao profissional e às pessoas sob dever de confidencialidade; (vi) impõe dever de informar ao tribunal o uso de IA gerativa em documentos apresentados e recomenda considerar a informação ao público quando aplicável; e (vii) estende proibições análogas aos árbitros, impedindo a delegação de decisões e condicionando o emprego de conteúdo externo produzido por IA à prévia comunicação às partes, com possibilidade de manifestação.

Os mecanismos de enforcement previstos não criam uma sanção automática específica por erro de IA: violações ficam sujeitas ao regime disciplinar e processual já existente aplicável a documentos e condutas perante o Judiciário e ao disciplinamento da atividade profissional.

Base normativa e precedentes

• SB 574 (California State Legislature) — norma estadual que incorpora regras ao Business and Professions Code, disciplinando o uso de IA generativa por advogados e árbitros.
• Business and Professions Code (California) — capítulo e seções onde são estabelecidas obrigações profissionais; a SB 574 acrescenta dispositivos que reafirmam deveres de competência e diligência.
• Lei Geral de Proteção de Dados — LGPD (Lei 13.709/2018) — referência comparativa para o tratamento de dados pessoais e limitadores ao compartilhamento de informações sensíveis, relevante para operadores brasileiros que lidam com plataformas externas.
• Estatuto da OAB (Lei 8.906/1994) — obrigação de sigilo, diligência e preservação dos interesses do cliente, que encontra paralelo prático nas restrições ao upload de dados confidenciais.
• CPC (Lei 13.105/2015) — princípios processuais sobre boa-fé, veracidade e responsabilidade pelas peças apresentadas, análogos às exigências de verificação de citações.
• Jurisprudência e orientações profissionais internacionais — a prática regulatória tende a exigir transparência e avaliação humana sobre decisões automatizadas; a SB 574 é coerente com essa tendência.

Impacto prático

• Para advogados: torna obrigatório implementar rotinas de verificação e controle de qualidade ao utilizar IA generativa. Isso implica documentar checagens, evitar submissão de citações não verificadas e revisar materiais gerados por ferramentas automáticas antes de uso em peças processuais.
• Para escritórios e fornecedores de tecnologia: exige revisão de contratos com provedores de IA, garantias sobre controle de acesso, cláusulas de confidencialidade estritas e avaliação dos fluxos de dados para não violar as novas restrições ao upload de informações sensíveis.
• Para árbitros e instituições arbitrais: exige políticas internas que impeçam a delegação decisória a IA e regulamentos sobre a incorporação de conteúdos externos gerados por máquinas, bem como regras de comunicação prévia às partes.
• Para partes em litígio: cria instrumento de transparência processual (dever de informação ao tribunal), que pode ser usado para arguir nulidades ou pedir esclarecimentos sobre a origem de provas e peças.
• Em termos transfronteiriços: escritórios brasileiros que prestam serviço para clientes ou operam na Califórnia precisarão alinhar práticas com SB 574, especialmente quanto à proteção de dados e às declarações ao tribunal.

O que observar

• Fiscalização e sanções: a lei não prevê multa específica automática por erro de IA; contudo, a responsabilização cotidiana ficará a cargo dos regimes disciplinares profissionais e processuais. Advogados devem preparar defesas e evidências de diligência (logs de verificação, políticas internas).
• Prova e taxa de admissibilidade: o uso de IA pode ser objeto de impugnações quanto à autenticidade e confiabilidade da prova; tribunais podem exigir certificações sobre o processo de geração e verificação.
• Modulação e harmonização normativa: é possível que, na prática, surjam orientações adicionais de órgãos de classe, regras dos tribunais ou regulamentações administrativas que detalhem a forma de comunicar o uso de IA e os requisitos de segurança tecnológica.
• Risco de fragmentação regulatória: normas estaduais como a SB 574 podem gerar padrões diversos entre jurisdições, complicando a adoção de práticas uniformes por escritórios atuantes em vários Estados ou internacionalmente.
• Recomendações operacionais: implementar políticas internas que limitem uploads de dados sensíveis, manter registros de checagem, revisar acordos com provedores de IA e treinar profissionais para avaliar criticamente saídas automatizadas.

Em síntese, a SB 574 da Califórnia marca um passo regulatório relevante ao reafirmar que a responsabilidade profissional humana continua central na função jurídica e arbitral, impondo guardrails práticos sobre verificação, confidencialidade e transparência no uso de IA generativa. Para operadores do Direito, a lição imediata é estruturar controles internos robustos e documentar diligências para demonstrar cumprimento das novas obrigações.