生成式人工智能给教育带来哪些挑战

　　以ChatGPT为代表的生成式人工智能发展迅猛，为各行各业的创新和发展提供了新的工具和视角，教育行业也不例外。人们对于生成式人工智能的使用，生成式人工智能对教育、对学生影响的讨论也有着不同的态度。的确，科技是发展的利器，也可能成为风险的源头。生成式人工智能在教育应用中潜力巨大，但其嵌入教育全过程的教学实践也带来前所未有的伦理风险。

　　首先，生成式人工智能的新知识生产形式有可能带来教学主体地位的混淆。生成式人工智能凭借自主学习和知识迁移实现创造性的知识生产，其强大的知识储备能够直接呈现答案，消解传统教师由知识所赋予的权威和声望，造成教师的主体地位被质疑。学生运用生成式人工智能快捷途径获取知识，双向知识探索转变为单向知识灌输，不利于学生创造性思维、批判性思维的培养，一定程度上有悖于“培养全面发展的人”的教育理念。

　　其次，生成式人工智能的语言模型依赖将暴露技术本身的缺陷。生成式人工智能技术依托海量的数据、先进的算法、强大的算力优化教育内容的供给，促进教学方式的创新。然而这种智能技术自身缺陷也引发一定技术风险。一方面，生成式人工智能受训练数据集来源不确定的影响，可能会生成虚假或错误的内容，导致学生将错误信息当作正确答案，长期下去可能扰乱学生的知识体系；另一方面，基于人类反馈的强化学习技术的模型训练存在人的主观价值渗透进算法设计的可能，导致算法偏见的产生，进一步强化教育不公平问题。

　　再其次，生成式人工智能的强人机交互技术将可能消解传统师生的伦理关系。生成式人工智能可以赋能沉浸式教学环境的构建，增强学生的学习体验。然而这种赋能一旦过多地介入师生互动，将会使师生之间的直接沟通和情感交流大大减少，甚至产生能够代替教师的错觉，导致在教育过程中，生成式人工智能技术与人的关系更加紧密，而真实的人与人之间的关系难以建立，一定程度上影响师生关系，妨碍学生情感发展和健全人格的形成。

　　2022年中共中央办公厅、国务院办公厅印发《关于加强科技伦理治理的意见》，2023年7月国家网信办联合国家发展改革委、教育部、科技部等六部门出台《生成式人工智能服务管理暂行办法》，从国家层面加强科技伦理治理、促进人工智能健康发展和规范应用。对教育实践来说，这既是把好人工智能技术在教育应用中向善的核心点，更是主动应对人工智能技术伦理挑战的关键。

　　一是明确智能教育应用限度，提升人工智能素养。一方面，要坚守人工智能技术教育应用的伦理底线，让其始终处在适合的阈值内，最大限度释放生成式人工智能赋能教育的活力。明确教育始终以人的自由全面发展为根本目的，生成式人工智能技术的应用只是为了更好地服务教学实践，不能为了技术而技术。另一方面，随着教育场景中融入生成式人工智能技术，社会对教师和学生的角色也赋予更高的要求。对教师来说，由知识传授者转变为价值观的引导者。对此，良好的人工智能素养不仅能消解和防范自我主体变化，还能够更好地为学生提供更加优质的教学服务。对学生来说，提升人工智能素养关乎其适应未来智能社会的能力，是激发其高阶创造能力的重要基础。这在一定程度上能够防范单向知识灌输造成的思维惰化和个性消弭风险。

　　二是规制人工智能生成内容，实现智能技术旨归。在生成式人工智能教育应用的研发阶段，不仅要构建适用于教育领域的大模型训练数据池，从源头防止错误、虚假信息和不良内容出现，还要提升语言模型算法的稳定性，避免生成式人工智能造成的伦理伤害。在推进生成式人工智能教育伦理治理阶段，要加强对智能技术的监管，强化输出信息的准确性，建立生成式人工智能问责机制，建立健全法规制度体系来规范生成式人工智能赋能教育，确保其透明性、安全性，加强其鲁棒性，实现生成式人工智能技术向善赋能教育发展。

　　三是重设向善教育伦理规范，助推育人本质回归。生成式人工智能赋能教育全过程，使“人—人”交互转变为“人—机—人”交互，为了保持教育主体与生成式人工智能的和谐共生关系，必须重设向善教育伦理规范，把握好人机协同的伦理尺度，让教育者和教育对象之间更加信任、从容接纳智能技术，进而实现人智协同与共生。在这种良性发展轨道中，生成式人工智能将教师从重复性任务中解放出来，不断凸显教师的育人功能。而教师，也要不断发挥生成式人工智能所不能替代的德育引导作用和价值，诠释言传身教、保持师道尊严，回归育人本质。

　　技术发展永远在路上。从人类发展的历史长河来看，技术对人类的革命性影响一直都在。面对智能技术的变迁和影响，我们要认识到伦理道德对技术发展的规约、引领和价值塑造的能动作用，在教育实践中以“智能向善”为导向目标，积极识变、主动应变、科学求变，进一步规范技术应用过程，变革教育教学方式，完善人才培养体系，以期培养符合社会需求的时代新人。

　　（作者王国鹏系数字化学习技术集成与应用教育部工程研究中心专职研究员、浙江师范大学教育学院特聘教授，余菲系浙江师范大学马克思主义学院硕士研究生；本文系国家开放大学资助项目[课题号：Q23C0023-20220101]阶段研究成果）