Mais da metade usa IA como conselheira emocional: riscos e regulação

Mais da metade dos usuários de ferramentas de inteligência artificial no Brasil declara utilizá-las como fonte de aconselhamento ou suporte emocional, segundo levantamento do Cetic.br. A difusão desse uso impõe questões jurídicas concretas envolvendo proteção de dados sensíveis, responsabilidade civil do prestador de serviço e lacunas regulatórias sobre interações automatizadas voltadas à saúde mental.

Contexto

A incorporação de assistentes virtuais e chatbots à rotina de indivíduos já não se limita a buscas informacionais ou tarefas utilitárias: cresce o uso para questões íntimas, afetivas e de saúde emocional. Essa mudança de comportamento coincide com avanços em modelos de linguagem e com a disponibilização massiva de interfaces conversacionais em aplicações comerciais gratuitas ou de baixo custo.

Do ponto de vista normativo e de tutela, a matéria cruza diversos campos: proteção de dados pessoais (em especial dados sensíveis relacionados à saúde), direitos do consumidor, responsabilidade civil por danos decorrentes de orientação inadequada e eventuais exigências de supervisão profissional quando a tecnologia atua em área de saúde. A importância da controvérsia decorre do potencial de dano — desde exposição indevida de informações íntimas até agravamento de quadro clínico por aconselhamento impreciso — e da ausência de regras amplamente estabelecidas sobre a prestação automatizada de “apoio emocional”.

O que foi decidido

Não há uma decisão judicial a ser narrada na fonte original; trata-se de um dado empírico (54% dos usuários) que exige interpretação normativa. A tese central desta análise é que o uso frequente de IA como conselheira emocional ativa imediatamente regras da Lei Geral de Proteção de Dados (LGPD — Lei 13.709/2018) quanto aos dados sensíveis e impõe deveres de informação, bases legais claras para o tratamento e medidas de mitigação de riscos. Paralelamente, as empresas que oferecem essas ferramentas devem observar normas consumeristas quanto à adequação e segurança do serviço, sob pena de responsabilização objetiva.

Os fundamentos jurídicos relevantes são os seguintes: (i) conteúdos e registros de conversas que revelem informações sobre a saúde mental ou psicológica dos usuários configuram dados pessoais sensíveis, sujeitando o tratamento a guardas mais rigorosas; (ii) plataformas que promovem ou apresentam conteúdo com aparente caráter terapêutico têm obrigação de transparência sobre limites do serviço e de não induzir o usuário a erro; (iii) estratégias de compliance tecnológico (privacy by design, avaliação de impacto e canais de atendimento efetivos) reduzem riscos de responsabilização por danos.

Base normativa e precedentes

• Lei 13.709/2018 (LGPD) — Art. 11: conceituação de dados pessoais sensíveis, incluindo informações sobre saúde; também aplicam-se as disposições sobre direitos dos titulares e bases legais.
• Lei 12.965/2014 (Marco Civil da Internet) — Art. 7: princípios relativos ao uso da internet, tais como proteção à privacidade, à liberdade de expressão e ao desenvolvimento da inovação.
• Lei 8.078/1990 (Código de Defesa do Consumidor) — Art. 6 (direitos básicos) e Art. 14 (responsabilidade pelo fornecimento de serviços), que impõem deveres de informação, segurança e adequação.
• Constituição Federal, Art. 5 (incisos X e XII) — proteção da honra, imagem e intimidade e inviolabilidade da privacidade; Art. 196: direito à saúde enquanto dever do Estado, relevante quando o serviço tem impacto sobre cuidados psicológicos.
• Jurisprudência consolidada do tribunal — em matéria de responsabilidade por serviços digitais e proteção de dados, a jurisprudência tem vinculado as plataformas a elevados padrões de diligência; recomenda-se acompanhar decisões dos tribunais superiores sobre LGPD e consumer law.

Impacto prático

• Para provedores de IA: obrigatoriedade de mapear fluxos de dados que possam implicar tratamento de dados sensíveis; necessidade de definir e divulgar bases legais para esse tratamento (consentimento explícito quando aplicável), adotar medidas de segurança e implementar avaliações de impacto à proteção de dados.
• Para advogados e equipes de compliance: incremento de demandas para revisão de termos de uso, políticas de privacidade e institutos contratuais que limitem responsabilidade, além de necessidade de políticas claras de encaminhamento quando o usuário demonstra risco à integridade.
• Para profissionais de saúde e conselhos de classe: ponto de atenção quanto à delimitação do exercício profissional; a tecnologia não substitui diagnóstico e tratamento profissional, e recomendações terapêuticas automatizadas podem ensejar medidas disciplinares se houver atuação indevida.
• Para titulares/usuários: direito de acesso, correção, portabilidade e eliminação de dados previstos na LGPD; possibilidade de requerer informações sobre o uso de algoritmos e decisões automatizadas que afetem o usuário.
• Para ações em curso: potenciais demandas consumeristas por vício do serviço ou indenização por danos morais/psicológicos, além de reclamações administrativas junto à Autoridade Nacional de Proteção de Dados.

O que observar

• Bases legais e consentimento: quando as interações revelarem dados relacionados à saúde, o operador deverá fundamentar o tratamento em hipóteses previstas na LGPD ou obter consentimento específico e destacado.
• Transparência sobre limitações: termos de uso e avisos devem explicitar que a IA presta suporte informacional, não substitui avaliação clínica, e indicar canais de encaminhamento para atendimento profissional em situações de risco.
• Auditoria e explainability: as plataformas devem investir em auditorias regulares de modelos, documentando testes de segurança e vieses, para reduzir risco de decisões automatizadas prejudiciais.
• Fiscalização e responsabilização: espera-se aumento de fiscalização pela autoridade de proteção de dados e por órgãos de defesa do consumidor; empresas pequenas que não adotarem medidas mínimas correm maior risco de autuação e litígio.
• Riscos emergentes: compartilhamento com terceiros, retenção excessiva de dados e uso para fins de perfilamento publicitário são pontos sensíveis que exigem mitigação imediata.

Conclusão: o fato empírico de que mais da metade dos usuários usa IA como conselheira emocional transforma uma questão sociotécnica em problema regulatório concreto. A LGPD, o Código de Defesa do Consumidor e princípios constitucionais formam a espinha dorsal da resposta normativa, mas a efetividade dependererá de práticas corporativas robustas, fiscalização ativa e eventualmente de normatização setorial que esclareça padrões mínimos para serviços automatizados de suporte emocional.