Normas aprovadas pelo Conselho Nacional de Educação (CNE) vetam uso de inteligência artificial para corrigir redações e criam classificação de risco 0.5x 1x 1.25x 1.5x 2x 00:00 00:00 Da escola à universidade, regras vetam IA para corrigir redações e criam classificação de risco. — Foto: Magnific Professores do ensino fundamental às universidades, das redes públicas e particulares do Brasil, serão proibidos de usar inteligência artificial (IA) para corrigir provas dissertativas ou redações de alunos. Da mesma forma, estudantes até o 5º ano não poderão usar esse recurso tecnológico sem orientação docente na escola, assim como pesquisadores serão obrigados a explicitar o uso dessas ferramentas em seus trabalhos acadêmicos. Essas são algumas das regras previstas na primeira regulamentação do país para o uso de IA na educação, aprovada ontem pelo Conselho Nacional de Educação (CNE). A aprovação no pleno do CNE, após dois anos de discussões, era a última etapa do processo no conselho. As normas agora precisam ser homologadas pelo Ministério da Educação (MEC), que acompanhou a construção do parecer. No conselho, a expectativa é que isso aconteça até 6 de outubro, na comemoração dos 30 anos do colegiado. O MEC, no entanto, afirmou que só se manifestará no momento da homologação. Quando isso ocorrer, as instituições terão 12 meses para se adequarem. As proibições, no entanto, já passarão a valer após a aprovação do texto pelo governo federal. Na avaliação do conselheiro Celso Niskier, relator do texto para a educação superior, a IA pode transformar a educação, desde que esteja a serviço das pessoas e das finalidades da educação. — O propósito do parecer não é escolher proibir ou liberar a inteligência artificial na educação. É criar as condições para que ela seja usada para ampliar a aprendizagem, a autonomia intelectual e a capacidade de professores e estudantes, preservando aquilo que é indelegável: a intenção pedagógica, o julgamento humano e a responsabilidade sobre as decisões educacionais — afirmou Niskier, que produziu o relatório em parceria com o conselheiro Israel Batista. Classificação de risco Um dos principais instrumentos criados foi a classificação de quatro níveis de risco, que vão de baixo a excessivo. Tudo o que está no patamar mais grave é proibido. Nessa lista de usos vetados da IA, está, por exemplo, utilizar as ferramentas para atribuir notas a questões dissertativas, redações ou “produções autorais que exijam juízo interpretativo”. Também fica proibido que alunos sejam punidos com base apenas em detectores automatizados de conteúdo gerado por IA. Atualmente, diversas escolas e universidades utilizam softwares que apontam se os textos dos estudantes teriam sido ou não produzidos pelo ChatGPT e outras ferramentas do tipo. A partir da nova regulamentação, as instituições não poderão adotar esses programas como único critério para sanções em casos suspeitos. Outras possibilidades da inteligência artificial, no entanto, estão liberadas. A utilização para adaptação de materiais pedagógicos, revisão de textos não avaliativos, tradução e recursos de acessibilidade — como legendagem, por exemplo — é classificada como de baixo risco e, portanto, autorizada. E mesmo algumas aplicações com potencial de risco moderado e alto estão liberadas, mas com recomendações. No primeiro grupo, estão o apoio à pesquisa e sistemas de tutoria automatizada (chats nos quais os alunos interagem com uma IA para tirar dúvidas), desde que isso seja utilizado como complemento ao professor, não como um substituto. Para esse uso de risco moderado, serão exigidas algumas salvaguardas, como adequação etária, rotulagem da interação automatizada, monitoramento periódico de erros, alucinações, vieses e impactos desproporcionais, além de revisão humana obrigatória dos resultados que tiverem influência pedagógica. No grau alto de risco estão, por exemplo, a correção de avaliações objetivas e inferências comportamentais que façam previsões de que um aluno pode parar de estudar ou que terá queda no desempenho. Esses sistemas podem ser usados desde que a escola tome “salvaguardas reforçadas” como “supervisão humana significativa, contínua, qualificada e documentada”, “monitoramento de vieses e impactos desproporcionais” e “demonstração de necessidade estrita e de inexistência de alternativa menos invasiva”. Ex-secretário de Educação Superior do MEC, Luiz Claudio Costa acredita que o texto foi um avanço estratégico importante para o país: — Há algumas regras prudentes para este momento, até porque é um processo que está se iniciando na educação. E qualquer regulamentação feita olhando para o futuro em breve tem que ser revista. Porque estamos vendo as modificações da inteligência artificial semana a semana. Mas foi um avanço, em uma linha que constrói pontes entre professor, estudante e escola. Validação humana As orientações partem do princípio de que a IA pode apoiar o ensino, a aprendizagem, a avaliação, a pesquisa e a gestão, mas não pode substituir integralmente a atuação do professor nem transferir para sistemas automatizados a responsabilidade pedagógica. Também determinam que decisões relevantes sobre a trajetória educacional permanecem submetidas à supervisão e à validação humanas. O texto determina ainda que o ensino sobre inteligência artificial seja transversal em todas as disciplinas e tratado desde a educação básica (ensinos fundamental e médio). Nesta etapa, os alunos precisam aprender sobre riscos e vieses da IA, desinformação, conteúdos sintéticos, verificação de fontes, cidadania digital, ética e honestidade acadêmica. Já no ensino superior, a orientação é que os cursos promovam uma conexão entre fundamentos teóricos, aplicações práticas e reflexão crítica. Há regras específicas para as formações em Pedagogia e licenciaturas, cursos responsáveis pela formação dos professores. Essas graduações devem ensinar sobre letramento digital docente, uso pedagógico de tecnologias emergentes, análise crítica de dados educacionais, avaliação com o auxílio de tecnologias digitais e aspectos éticos relacionados ao uso da IA nas escolas. Também há recomendações específicas para a pesquisa científica. A principal exigência é transparência: o uso dessas ferramentas deve ser declarado sempre que usado na elaboração de textos, na análise de dados, na revisão bibliográfica, na programação ou em outras etapas. “A utilização dessas tecnologias não transfere à inteligência artificial a autoria nem a responsabilidade pelos resultados produzidos, que permanecem integralmente atribuídas às pessoas pesquisadoras”, diz o parecer. Especialista em inteligência artificial na educação e diretora de Futuro na PUC do Paraná, Cristina Pastore, considerou as regras positivas. — É importante que saibamos nos relacionar com a IA de maneira a potencializar as capacidades humanas. E evidenciar o uso é importante para nos ajudar a refletir sobre suas capacidades e limitações — afirmou, sobre a obrigatoriedade de declarar o uso de IA em trabalhos científico. — Embora implique a necessidade de ajustes em muitas instituições, o documento nos ajudará a repensar os modelos de educação deste tempo.