Ensinar a interrogar IAs: desafios jurídicos e pedagógicos

A Folha publicou em 15/10/2026 um texto que coloca em evidência a urgência de formar estudantes para questionar e controlar interações com IAs generativas, o que traz efeitos práticos imediatos sobre políticas educacionais, proteção de dados e responsabilidades de plataformas.

Contexto

A introdução massiva de sistemas de linguagem e de recomendação nas rotinas de busca, redação assistida e consumo de vídeo transformou a interface entre usuário e informação. Em ambientes educacionais, ferramentas que sugerem respostas prontas, produzem textos ou curam conteúdos audiovisuais alteram a dinâmica do ensino-aprendizagem e colocam em xeque competências centrais como pensamento crítico, verificação de fontes e autoria intelectual. O debate sobre como integrar essas tecnologias ao currículo não é apenas pedagógico: atravessa regime de proteção de dados, direitos autorais, responsabilidade civil por conteúdo e deveres das plataformas. Há tensão entre incentivar competências digitais e mitigar riscos de dependência algorítmica, perda de privacidade e desinformação.

No plano normativo interno, a LGPD (Lei 13.709/2018) e o Marco Civil da Internet (Lei 12.965/2014) já oferecem balizas para tratamento de dados e responsabilidade das intermediárias; no entanto, a novidade técnica das IAs generativas amplifica lacunas regulatórias sobre transparência de modelos, explicabilidade e perfilhamento educacional. Internacionalmente, iniciativas de regulação de IA têm buscado exigir avaliações de impacto e mecanismos de governança que poderiam inspirar políticas públicas brasileiras para escolas e universidades.

O que foi decidido

A matéria jornalística não é decisão judicial, mas propõe uma orientação normativa e prática: as instituições educacionais e as plataformas devem promover práticas que fortaleçam a capacidade crítica dos alunos diante de respostas e recomendações automatizadas. Em termos práticos, isso implica adotar rotinas de ensino da chamada "interrogação de máquinas" — técnicas e critérios para avaliar, validar e confrontar saídas geradas por IAs — e incorporar salvaguardas que preservem autonomia e privacidade dos estudantes.

Fundamenta-se a proposta em três vetores principais: (i) transparência e literacia tecnológica como competências básicas do currículo; (ii) uso crítico e supervisionado de assistentes automáticos para evitar substituição das funções cognitivas essenciais; (iii) medidas institucionais para limitar coleta e uso de dados sensíveis de alunos por provedores de tecnologia educacional. A ênfase recai sobre a ideia de que a mera disponibilização de ferramentas não substitui a tarefa pedagógica de ensinar a questionar algoritmos.

Base normativa e precedentes

• Art. 5º, CF/88 — garantia de liberdade de expressão e informação, dimensão que precisa ser conciliada com proteção contra desinformação e manipulação algorítmica.
• Lei 13.709/2018 (LGPD) — regras sobre tratamento de dados pessoais, reforçando exigência de base legal, finalidade e direitos dos titulares (direito de acesso, correção e eliminação).
• Lei 12.965/2014 (Marco Civil da Internet) — princípios e responsabilidades de provedores de aplicações de internet, incluindo neutralidade e guarda de registros que afetam uso educacional.
• Código Civil (Lei 10.406/2002) — regimes de responsabilidade civil aplicáveis a danos decorrentes de conteúdos ou falhas tecnológicas que prejudiquem alunos ou instituições.
• Jurisprudência consolidada do tribunal — em temas análogos, cortes têm reconhecido a necessidade de proteger direitos fundamentais diante de tecnologias novas, abrindo espaço para a aplicação combinada da LGPD e do Marco Civil em casos de gestão de plataformas educacionais.

Impacto prático

• Para escolas e universidades: obrigação ética e prática de revisar contratos com fornecedores de tecnologia, incluir cláusulas sobre proteção de dados estudantis, transparência sobre modelos usados e limites de personalização algorítmica.
• Para desenvolvedores e plataformas: risco de responsabilidade administrativa e civil caso haja uso indevido de dados de menores ou exposição a conteúdos nocivos; necessidade de documentar avaliações de risco e mecanismos de explicabilidade.
• Para professores e formadores: mudança de papel docente de transmissor de conteúdo para mediador crítico, exigindo formação continuada em alfabetização digital e metodologias de verificação de informações geradas por IAs.
• Para estudantes e famílias: fortalecimento de direitos previstos na LGPD (acesso, portabilidade, exclusão) e necessidade de políticas escolares que protejam autonomia e evitem dependência de respostas automáticas.
• Para litigantes e escritórios: surgimento de litígios relacionados à violação de privacidade educacional, autoria e integridade de avaliações; demandas estratégicas poderão invocar LGPD e responsabilidade civil por falha de plataforma.

O que observar

• Regulação pendente e lacunas: o arcabouço atual oferece instrumentos, mas não regula especificamente transparência de modelos de IA e obrigações de explicabilidade; acompanhar projetos legislativos e orientações de agências reguladoras é essencial.
• Fiscalização e compliance: instituições educacionais devem implementar avaliações de impacto à proteção de dados (DPIA) em conformidade com a LGPD, documentando medidas técnicas e organizacionais.
• Recursos e modulação pedagógica: políticas públicas podem precisar modular uso de IAs em contextos avaliativos (ex.: proibições temporárias em exames) e financiar capacitação docente.
• Riscos jurídicos emergentes: potencial responsabilização por vieses, discriminação algorítmica ou por recomendações que comprometem a formação crítica; advogados devem preparar defesas e estratégias contratuais para mitigar exposição.
• Adoção de boas práticas: recomenda-se cláusulas contratuais de auditoria de modelos, mecanismos de consentimento informado adaptados a jovens e integração de metas de alfabetização digital nos projetos pedagógicos.

O que observar