O Conselho Nacional de Educação (CNE) aprovou novas diretrizes para regulamentar o uso de inteligência artificial (IA) nas escolas e universidades brasileiras. As regras estabelecem limites para a utilização da tecnologia em atividades pedagógicas, avaliações, tratamento de dados de estudantes e processos de gestão educacional. Leia em TVT News.
Entre as principais medidas está a proibição do uso de IA para corrigir, avaliar ou atribuir notas a redações e provas dissertativas em todas as etapas de ensino.
O texto também determina que crianças da educação infantil e dos anos iniciais do ensino fundamental, até o 5º ano, não tenham acesso direto e sem supervisão a ferramentas de IA.
As Diretrizes Orientadoras da Utilização da Inteligência Artificial na Educação Brasileira foram aprovadas pelo plenário do CNE nesta terça-feira (1º). O documento ainda precisa ser homologado pelo Ministério da Educação (MEC) e publicado no Diário Oficial da União (DOU) para entrar em vigor.
Depois da publicação, escolas, universidades e redes de ensino terão 12 meses para adequar políticas, contratos e procedimentos às novas regras. As proibições previstas no parecer, porém, terão aplicação imediata.
A regulamentação parte do princípio de que a tecnologia deve servir como instrumento de apoio ao trabalho educacional, sem substituir a atuação de professores ou transferir para sistemas automatizados decisões que afetam a trajetória dos estudantes.
IA não poderá dar nota a redações
Uma das principais mudanças está relacionada às avaliações. Sistemas de inteligência artificial não poderão ser utilizados para corrigir, avaliar, atribuir nota, conceito ou mérito a redações, respostas dissertativas e outras produções autorais que dependam de interpretação.
A restrição também vale para o uso da tecnologia como etapa preliminar da avaliação. Ou seja, o professor não poderá receber de um sistema automatizado uma sugestão de nota ou uma pré-correção para simplesmente utilizar como base da avaliação.
Nas provas objetivas, a utilização da IA poderá ocorrer como ferramenta de apoio. Nesse caso, entretanto, o resultado produzido pelo sistema deverá ser submetido a uma validação humana efetiva, qualificada, prévia e documentada.
As instituições também deverão manter registros sobre os procedimentos adotados, permitir a contestação dos resultados e acompanhar eventuais erros e vieses dos sistemas utilizados.
Decisões sobre estudantes continuam com profissionais
As diretrizes estabelecem que decisões relevantes para a vida acadêmica não podem ficar exclusivamente nas mãos de sistemas automatizados. Isso inclui medidas relacionadas à promoção, retenção, certificação, permanência, concessão de benefícios, desligamento, seleção e aplicação de sanções.
O CNE chama esse princípio de “regência humana”. Na prática, significa que professores e instituições continuam responsáveis por estabelecer os objetivos pedagógicos, selecionar as ferramentas utilizadas, acompanhar seu funcionamento e avaliar criticamente os resultados produzidos.
A supervisão não deve ser apenas formal ou uma conferência posterior do que a máquina decidiu. A responsabilidade pela decisão permanece com as pessoas envolvidas no processo educacional.
Detector de IA não pode ser prova para punir aluno
Outra regra estabelece limites para os chamados detectores de conteúdo produzido por inteligência artificial.
Essas ferramentas poderão auxiliar uma investigação sobre a autoria de um trabalho, mas o resultado apresentado por um detector não poderá, sozinho, fundamentar uma punição acadêmica ou disciplinar.
Assim, uma indicação automática de que determinado texto teria sido produzido por IA não será suficiente, por si só, para reprovar, suspender ou aplicar outra sanção a um estudante. A instituição deverá realizar uma apuração adequada antes de tomar qualquer decisão.
Crianças até o 5º ano terão proteção adicional
A regulamentação estabelece regras específicas para estudantes mais novos. Na educação infantil e nos anos iniciais do ensino fundamental, até o 5º ano, não será permitido o acesso direto, autônomo, individual ou sem supervisão a ferramentas de IA, especialmente sistemas generativos, conversacionais, preditivos ou adaptativos.
Isso não impede que professores utilizem a tecnologia em atividades com crianças. A ferramenta poderá fazer parte de uma proposta pedagógica planejada e conduzida por um profissional da educação. O que fica vedado é a interação livre e não supervisionada da criança com esses sistemas.
As escolas também deverão informar às famílias a finalidade pedagógica da utilização da tecnologia e evitar a coleta desnecessária de informações dos estudantes.
Ensino sobre inteligência artificial deverá entrar no currículo
A regulamentação não trata a IA apenas como uma ferramenta que precisa ser controlada. O CNE também determina que os estudantes sejam preparados para compreender e utilizar essas tecnologias de maneira crítica.
O ensino relacionado à inteligência artificial deverá ser incorporado de forma progressiva e transversal, em conjunto com conteúdos de educação digital, midiática e computacional.
Entre os conhecimentos previstos estão o funcionamento básico dos sistemas de IA, seus limites, possíveis erros e vieses, verificação de fontes, desinformação, conteúdos sintéticos, cidadania digital, ética e integridade acadêmica.
A proposta não exige necessariamente a criação de uma disciplina específica sobre inteligência artificial. A abordagem deverá considerar a idade e a etapa de ensino dos estudantes.
Escolas terão de avaliar riscos das ferramentas
As novas diretrizes criam uma classificação para diferentes usos da inteligência artificial na educação: baixo risco, risco moderado, alto risco e risco excessivo ou incompatível com as finalidades educacionais.
Ferramentas utilizadas para organizar materiais, auxiliar no planejamento, fazer revisão textual não avaliativa, traduzir ou adaptar conteúdos podem ser enquadradas como aplicações de baixo risco. Recursos de acessibilidade, como legendagem, leitura de tela e conversão de formatos, também podem ser utilizados dentro das regras de proteção de dados.
Já sistemas de tutoria automatizada, recomendações acadêmicas, acompanhamento de aprendizagem e ferramentas de interação contínua exigem maior atenção.
Aplicações que interferem em avaliações, decisões acadêmicas ou envolvem dados pessoais sensíveis são classificadas como de alto risco e deverão contar com salvaguardas reforçadas, avaliação de impacto e supervisão humana.
Entre as práticas consideradas de risco excessivo ou incompatíveis com a educação estão sistemas de pontuação social, reconhecimento ou inferência automatizada de emoções, exploração de vulnerabilidades, perfilização psicológica, biométrica ou comportamental para fins classificatórios e vigilância biométrica contínua.
Também fica vedado o uso de dados educacionais para publicidade direcionada, exploração comercial ou manipulação comportamental.
Proteção dos dados dos estudantes
As regras também ampliam a responsabilidade das instituições sobre os dados coletados por plataformas educacionais e ferramentas de IA. Informações como notas, frequência, atividades, interações em sistemas digitais e registros de aprendizagem deverão ser tratadas de acordo com as normas de proteção de dados.
A responsabilidade não desaparece quando uma escola ou universidade contrata uma empresa de tecnologia. As instituições deverão fiscalizar também os fornecedores e verificar as condições de tratamento das informações dos estudantes.
O uso de dados educacionais para treinamento de modelos de terceiros deverá contar com base legal, finalidade legítima e transparência. A exploração comercial e o uso para publicidade direcionada ou manipulação comportamental são considerados incompatíveis com as finalidades educacionais.
Universidades terão de criar políticas próprias
No ensino superior, as instituições deverão elaborar políticas específicas para o uso de inteligência artificial em ensino, pesquisa, extensão e gestão acadêmica.
Essas normas deverão abordar questões como autoria, integridade acadêmica, transparência, responsabilidade intelectual e proteção de direitos. As universidades também deverão definir em quais situações estudantes e pesquisadores precisam informar que utilizaram ferramentas de IA.
Na pesquisa científica, a utilização da tecnologia deverá ser declarada quando tiver participação relevante em atividades como elaboração de textos, análise de dados, revisão bibliográfica, programação ou outras etapas do processo investigativo.
Mesmo nesses casos, a IA não será considerada autora do trabalho. A responsabilidade pelo conteúdo e pelo resultado da pesquisa permanecerá com as pessoas pesquisadoras.
A regulamentação aprovada pelo CNE, portanto, estabelece uma tentativa de equilibrar a presença crescente da inteligência artificial no ambiente educacional com a proteção dos estudantes, a autonomia pedagógica e a responsabilidade humana.
A tecnologia poderá continuar sendo utilizada como apoio em diferentes atividades, mas decisões que envolvam avaliação, direitos e trajetória acadêmica deverão permanecer sob responsabilidade de profissionais e instituições de ensino.
