风险与防范：中小学人工智能教育的伦理考量

摘要随着智能技术的发展，培育具有智能素养的公民成为教育关注的重点，人工智能教育也成为中小学课程教学的核心。中小学人工智能教育经历了起步期、发展期步入了转型期，相应的智能技术的使用也引发了新的伦理风险：技术至上消解了师生的教育主体地位、人机互动频繁遮蔽教育主体情感需求、算法推荐难以挖掘个性化育人的本质、人工智能教育过程缺乏风险防范与问责机制等伦理风险问题。据此，提出中小学人工智能教育伦理风险防范措施：第一，明晰工具价值，促进教育主体角色地位回归；第二，聚焦人文关怀，捕捉教育主体的情感诉求；第三，关注育人本质，创设人机协同型智能教育模式；第四，重塑技术规范，架构技术伦理风险管控体系。

关键词人工智能教育；中小学人工智能；伦理风险；风险防范；技术伦理

中图分类号 G646 文献标识码 A 文章编号 1005-4634（2023）04-0082-06

1 研究背景

人工智能教育是面向人工智能素养提升的教育，强调培养学生编程、协作、问题解决与创新等核心能力，着重关注计算、数据、批判性与设计等跨学科思维的形成[1]，这一教育充分利用现有高质量的AI科普资源、开源软件等，改变传统教学模式[2]。在中小学开展AI教育，不仅能科普AI知识，还能够锻炼学生的逻辑思维能力和问题解决能力[3]，培养学生的人工智能素养，使其具备适应未来智能型社会的基本能力[4]，实现人的生命价值[5]。综合来说，中小学人工智能教育的内容应主要包括3个方面：一是要用人工智能学习（例如，在课堂上使用人工智能驱动的工具），二是要学习人工智能（人工智能技术是什么？由什么组成？如何运转），三是要为人工智能做准备（例如，让学生不仅理解人工智能的技术原理，更需明白人工智能对人类生活的影响）。

人工智能及大数据技术对社会各行各业都产生了长远的、变革性的影响，同时人工智能正与个性化智能导学、教育大数据收集分析等技术携手不断地推动教育智能化变革。智能技术与人才培养成为国家核心竞争力的重要组成要素，而人工智能教育也成为国家政策的关注重点。对此，国家出台了相应的政策为我国中小学人工智能教育课程的开展与推进提供政策导向与保障，也为各校构建校本化人工智能教育课程指明了大致方向。2017年7月国务院印发《新一代人工智能发展规划》，明确提出“实施全民智能教育项目，在中小学阶段设置人工智能相关课程”[6]。2018年4月教育部印发《高等学校人工智能创新行动计划》，提出“构建人工智能多层次教育体系，在中小学阶段引入人工智能普及教育”[7]。教育部颁布的《义务教育小学科学标准》明确指出：科学素养是指了解必要的科学技术知识及其对社会和个人的影响。很显然，人工智能课程应属于“必要的科学技术知识”[8]。

随着国家政策的出台，关于人工智能教育的讨论也不断增加，主要包括以下几个方面：一是关于中小学人工智能开展的价值目标探讨[9]；二是关于中小学人工智能教育的学习内容探讨[10]；三是关于中小学人工智能教育开展过程中存在的伦理问题探讨。中小学人工智能教育的开展能够让儿童理解人工智能与人类智能的区别，了解人工智能仅仅是对人类智能的一种延展而非替代。然而，当前系统性探讨中小学人工智能教育开展过程中的伦理问题文章较少，人工智能教育实际开展过程中存在的伦理问题亟待解决。因此，如何在有效利用智能技术为教育带来红利的同时又避免技术破坏人类社会的道德准则，成为中小学人工智能教育发展必须重视和首要需解决的问题。

2 中小学人工智能教育伦理探寻的历史变革

教育是随着时代发展的事业，教育伦理亦然。进入21世纪以来，随着中小学人工智能教育的不断发展，人们既热衷于在教育中应用人工智能技术，又产生了相应的忧思，人工智能教育中存在的伦理问题成了教育领域关注的热点。对于具有时代性的人工智能教育伦理问题而言，对其历史变革进行梳理具有一定的必要性。

21 人工智能教育起步期：立足“机器人教育”表层伦理问题探讨

2003年颁布的普通高中新课程标准将“简易机器人制作”列入“通用技术课程”选修内容，由于教育机器人本身具有的高灵活性、强互动性，可以很大程度上助益教学创新，增强学生的动手与思维发展，机器人教育也成为人工智能教育开展的主要课程形式。在这一阶段，以“机器人教育”“机器人教学”为主题的文献逐渐增多，提到了智能导师系统类人的教学模式[11]，教育机器人对学生学习的正向影响[12]。学界对机器人教育过程中存在的伦理问题也展开了相应的讨论，如认为机器无法仅靠掌握学生学习信息（登录时间、上课的次数、提交电子作业的情况）来判断一名学生的学习情况[13]，机器学习虽为用户的“个性化学习”提供了实现的可能，但是数据收集标准不统一、处理规范不完善严重影响人工智能教育应用的有序发展[14]。在机器人教育开展的过程中，学者们关注到了机器人应用可能引发的伦理风险问题，但没有深入挖掘相应的风险解决策略。

22 人工智能教育发展期：聚焦“编程教育”内隐伦理风险形式

2017年7月，国务院发布《新一代人工智能发展规划》，促进中小学人工智能教育快速发展。规划明确提出：“在中小学阶段逐步推广编程教育。”[6]同年10月，教育部关于印发《中小学综合实践活动课程指导纲要》的通知指出，要通过信息技术的学习实践，提高学生利用信息技术进行分析和解决问题的能力以及数字化产品的设计与制作能力[15]。自此，中小学人工智能教育的重心从机器人教育转到编程教育。中小学阶段编程教育主要是让学生感受编程思想，但多数学校在开展编程教育的过程中，不考虑学生的实际情况，教授难度较高的编程知识或以竞赛促学习，违背了编程教育的初衷，或是带来了相应的算法风险[16]（数字鸿沟、定制性算法）。结合编程教育这一背景，多数学者从师资建设、课程体系构建、教学方式等角度分析潜在的伦理风险并提出了相应措施，推动了编程教育的发展。

23 人工智能教育转型期：关注“智能技术”多形态伦理风险

进入21世纪，中小学阶段的人工智能教育迎来了良好的发展环境与强劲的发展态势。2021年10月，中国教育学会中小学信息技术教育专业委员会发布《中小学人工智能课程开发标准（试行）》文件，阐述中小学人工智能课程的开发标准和教学内容[17]。联合国教科文组织也于2022年2月发布《中小学人工智能课程蓝图：亟需政府支持》文件，为国家层面构建人工智能课程体系提供框架指导[18]。在智能时代这一新的发展背景与国家政策的助力下，人工智能教育课程的构建也迈向了体系化，关于人工智能教育技术伦理风险的研究爆炸性增长。文献梳理发现，多指出技术应用于教育中所带来的关系风险[19]（如师生关系异化、技术僭越主体权利）、监管风险[20]（系统提供商权责不明）、情感风险[21]（忽视教育主体情感需求）等。这些伦理问题的探讨，也为中小学人工智能教育教学提供重新调整、反思、提升的契机，为人工智能教育提供新的发展机遇。

3 中小学人工智能教育发展中的伦理风险表征

目前，学者对中小学人工智能教育发展中伦理风险的关注视角存在一定差异。苏明等学者基于马克思主义技术批判人的异化与教育的异化，对人工智能教育提出了价值审视、公平性审视、人性审视、责任审视和终极目标审视，强调发挥人工智能教育的积极作用[22]。刘盾等学者从哲学与伦理的双重视角，分析人工智能对教育的冲击，指出人工智能应用于教育可能会导致人与教育的分离脱节、人文教育缺失以及对教师职业的威胁等伦理问题[23]。Perrotta等学者对机器学习与人的个性兼容性提出了质疑，通过分析“深度学习”和智能辅导机器对学生教育表现的预测结果，认为人工智能教育中算法对学习者的学习数据分析不当[24]。归纳来看，人工智能教育涉及到技术僭越、情感缺失、算法风险、过程管控等伦理风险问题，由此，本研究从主体地位、情感需求、算法局限、外在规范4个方面分析中小学人工智能教育应用中存在的伦理风险表征形式。

31 技术至上消解师生的教育主体地位

技术本身只是提供使用价值的工具，如若过于崇尚技术而形成技术至上的理念，将会消解师生在教育教学中的主体地位，带来一定的关系伦理风险。具体来说，其一，技术至上会破坏教师教学主权。当前，中小学人工智能教育的主题是教授智能知识与技术，人工智能教育课程开设的过程中必然要使用到智能技术，如学习机器人、机器助手等工具，技术的过度使用导致教师在教学设计、决策、诊断、评价等方面的部分职能已经被人工智能所代替。同时，教师采用智能助手为学生的作业评分，技术在教学中的过多参与在某种程度上已经消解教师的“主体权威”和“知识权威”，教师也极易沦为技术的附庸，从而导致自身的观察能力与教育机智有所下降。其二，技术理性造成教育主体地位缺失。尽管智能技术是基于人类智慧衍生的智能产品，但是技术内在的逻辑要求教育主体抛弃多样的情感感受，依照技术理性行事，提高教学效率，这本身就有违教育规律。同时，教育教学中的某些规则被技术规则替代，使教育主体交往的规则被破坏。技术则越来越显示出类似于教育主体的某些特征，渐渐发展成为客体身份的主体存在，导致教育主体地位缺失变成了一个普遍现象。

32 人机互动频繁遮蔽教育主体的情感需求

人是社会关系的总和，社会性是人的本质属性。在使用人工智能技术时要遵循人类社会的道德标准与行为准则，以防技术破坏人类社会独有的情感联结。中小学人工智能教育过程中各类技术设备的使用，虽革新了教学方式，但也极易导致教育主体的情感需求被忽视。具体来说，一是教育主体意识不到自身的情感需求。当学生过多地沉浸于虚拟空间与虚拟机器时，极易导致其遗忘真实世界。由于学习机器人能够捕捉学生的面部表情、情感波动，为学生提供及时的学习服务，使学生有一种在课堂上和教师互动的真实参与感。这种过多的人机互动，致使学生渐渐远离现实生活而与同伴产生疏离，导致其社会交往能力和群体意识逐渐下降，违背教育主体同伴交往的情感需求。二是技术的过度使用导致教育主体情感需求被忽视。中小学人工智能教育开展的形式是将人工智能领域最新的知识和模型搬入课堂，便于让学生通过实操理解智能技术背后的原理。另外，还有智能机器人、教学辅助等智能设备的使用，导致课堂极易忽视教师对学生“因材施教”的指导作用。教育本身就是灵魂撼动的职业，需要教育主体的情感交流参与，过多依靠人工智能技术的使用，极易忽视教育过程中学生情感与品格的塑造，不利于学生的全面发展。

33 算法推荐难以挖掘个性化育人的本质

教学中利用大数据分析和算法推荐，能够基于学生的学习能力或技能水平动态调整课程难度或种类，能适应每个学习者的速度和进度并实时调整内容；或在恰当的时机提供定制化的练习，实现大规模的个性化学习[25]。但是，人工智能教育育人的本质仍是促进学生的个性化发展，当过多依赖于人工智能的算法推荐，极易出现“信息茧房”效应，导致教学偏离个性化育人的轨道。一方面，算法技术通过采集学生的行为轨迹、学习风格等信息，推送学生感兴趣的内容，而那些被判定为“不感兴趣”“边缘化”的信息就由算法技术自主排除。长此以往，学生的信息获取渠道就被困于一个固定的范围内，学生擅长的学科知识将会得到快速扩充，知识获取的途径也越来越狭窄。智能化算法的推荐破坏了信息收集中的全面性，使人的思维被算法所局限，学生主动获取信息、搜集信息、分析信息的能力退化，致使人的个性化思维难以发展。另一方面，教育教学中过多地依赖于算法技术，不利于学生进行深度学习。学生使用互联网搜索引擎对相关信息进行点击、查看，智能算法的便捷性让学生享受到了信息爆炸的愉悦，同时也使学生过多地依赖于网络，对于自身发展的规划、选择不够明晰。太多的知识信息注定了学生的学习只能是浅尝辄止的，并没有达到深度学习，对于学生持续发展并无很大的助益。

34 人工智能教育过程缺乏风险规范与问责机制