Relações homem-máquina: riscos jurídicos e lacunas regulatórias

O mundo jurídico enfrenta um nó prático e normativo diante da crescente interação afetiva entre pessoas e inteligências artificiais. A questão não é apenas sentimental: envolve privacidade, tutela do consumidor, possíveis ilícitos civis e a necessidade de regulação técnica e ética. Esta análise visa mapear os principais vetores jurídicos relevantes e orientar a atuação de advogados e operadores do direito.

Contexto

A adoção de agentes conversacionais e assistentes virtuais com capacidade de gerar respostas empáticas tem escalado. Mesmo sem decisão judicial específica citada na fonte, o fenômeno já suscitou debates sobre direitos da personalidade, proteção de dados pessoais, vulnerabilidade do consumidor e responsabilidades dos desenvolvedores e provedores. Há divergência doutrinária e lacunas regulatórias quanto a quem responde por danos psicológicos, manipulação emocional ou uso indevido de informações sensíveis extraídas nas interações.

No plano normativo, o tema cruza dispositivos da Constituição Federal de 1988 (direitos fundamentais à intimidade e à dignidade), a Lei Geral de Proteção de Dados Pessoais (Lei 13.709/2018), o Marco Civil da Internet (Lei 12.965/2014), o Código de Defesa do Consumidor (Lei 8.078/1990) e dispositivos do Código Civil (Lei 10.406/2002) sobre responsabilidade civil. Em paralelo, há iniciativas normativas e propostas de regulação sobre inteligência artificial em vários países, e uma tendência de exigir maior transparência de algoritmos.

A controvérsia importa porque afeta a tutela dos direitos individuais em situações cotidianas e por envolver mercados digitais cuja autorregulação pode ser insuficiente para prevenir danos psicológicos, violação de privacidade e fraudes afetivas.

O que foi decidido

Não existe, na matéria fornecida, uma decisão judicial ou normativa específica. Esta seção sintetiza, portanto, a tese prática que deve orientar a atuação jurídica: deve-se tratar a interação afetiva com IA como fato gerador de riscos jurídicos com possibilidade real de responsabilização dos provedores, além de implicar deveres de informação, segurança e consentimento quando dados pessoais sensíveis ou comportamento manipulativo estiverem presentes.

Os fundamentos centrais para essa conclusão são: (i) a coleta, tratamento e perfilamento de dados comportamentais durante interações emocionais enquadram-se na LGPD quando identificáveis; (ii) práticas de design que exploram vulnerabilidade do usuário podem configurar prática abusiva nos termos do CDC; (iii) danos de ordem psíquica ou moral podem ensejar reparação civil com base no Código Civil; (iv) a transparência algorítmica e a portabilidade de dados encontram respaldo no Marco Civil e na LGPD, impondo obrigações aos provedores.

Base normativa e precedentes

• Art. 5º, CF/88 — proteção da intimidade, vida privada, honra e imagem; fundamento para ações por danos morais decorrentes de relações com IA.
• Lei 13.709/2018 (LGPD) — obriga tratamento lícito, limitado e transparente de dados pessoais, incluindo hipótese de dados sensíveis e perfilamento; prevê direitos do titular (artigos relativos a acesso, eliminação, portabilidade e informação).
• Lei 12.965/2014 (Marco Civil da Internet) — estabelece princípios de responsabilização de provedores, neutralidade e deveres de guarda/remoção mediante ordem judicial; relevante na delimitação de responsabilidades técnicas e de conteúdo.
• Lei 8.078/1990 (CDC) — veda práticas abusivas e impõe deveres de informação, segurança e adequação; aplica-se quando a IA é oferta ou serviço ao consumidor.
• Código Civil (Lei 10.406/2002) — arts. sobre responsabilidade civil e reparação de danos (responsabilidade extracontratual por ato ilícito).
• Jurisprudência consolidada do STJ e dos tribunais estaduais — entendimento sobre responsabilidade de provedores e aplicação do CDC em serviços digitais (aplicar conforme caso concreto).

Impacto prático

• Para advogados de consumidores: ampliar petições para invocar LGPD e CDC em ações que discutam manipulação emocional, exigindo perícia técnica sobre algoritmos e provas do papel do provedor.
• Para empresas de tecnologia e desenvolvedores: necessidade imediata de revisar políticas de privacidade, fluxos de consentimento, logs de interação, e implementar medidas de mitigação de risco (privacy by design, audit trails, mecanismos de opt-out e supervisão humana)
• Para operadores do direito e magistrados: demanda por formação técnica para avaliar provas periciais sobre IA, e por critérios para graduação de danos psíquicos causados por agentes automatizados.
• Para legisladores e reguladores: argumento técnico para avançar normas setoriais que definam padrões mínimos de transparência algorítmica, rotulagem de agentes não-humanos e proibições de práticas manipulativas direcionadas a grupos vulneráveis.

O que observar

• Padrão probatório: será necessária perícia especializada (engenharia de ML, ciência de dados) para demonstrar cadeia causal entre design algorítmico e dano emocional; advogados devem antecipar pedidos de exibição de código e logs.
• Consentimento e transparência: declarações genéricas em termos de uso dificilmente serão suficientes à luz da LGPD; procedimentos de consentimento granular e informativo são recomendáveis.
• Vulnerabilidade do usuário: o CDC protege consumidores em situação de vulnerabilidade; ações voltadas a adolescentes, idosos ou pessoas em situação de fragilidade emocional terão fundamentos jurídicos mais robustos.
• Modulação regulatória e responsabilização: futuro regulatório pode criar regimes de responsabilidade objetiva ou requisitos de seguros e registro para provedores de IA com função afetiva; acompanhar propostas legislativas é estratégico.
• Riscos éticos e disciplina disciplinar: além do contencioso, há espaço para medidas extrajudiciais (termos de conduta empresarial, certificações e auditorias independentes) que reduzam litígios.

Conclusão: a perplexidade social acerca de relações afetivas com máquinas traduz-se em desafios jurídicos concretos. A combinação de LGPD, Marco Civil, CDC e regras civis oferece ferramentas para tutela, mas a eficácia dependerá da capacidade de provar o nexo entre design algorítmico e dano, da qualidade das provas técnicas e de eventual intervenção normativa que delimite deveres específicos para IA. Advogados e empresas devem agir agora: mapear riscos, documentar tratamentos de dados e criar mecanismos de transparência e supervisão humana para mitigar litígios futuros.