祛魅与存真：人工智能赋能教育之技术迷思与破解之术

*基金项目：2023年贵州省教育科学规划课题“高职院校人工智能教育应用的伦理问题与对策研究”（2023B087）；安徽省教育信息技术研究课题“人工智能教育背景下的精准学习干预”（AH202307）。

[摘 要]随着人工智能技术的迅猛发展，以Chat GPT为代表的新型人工智能工具受到科研工作者的追捧。生成式人工智能可借助文本生成实现个性化学习，能大大提高使用者的学习效率，为人们的学习和研究打开新的大门。无论如何，人工智能毕竟是一种工具，工具对教育的影响再大，依然不能代替教育，由此产生的工具迷思亟待祛魅。它存在的一些潜在隐患有：武断地高估人工智能带来的教育变革、迷思性认知人工智能在教育中的作用、把人工智能看作为一本万能的“教育解药”秘籍。这些片面式问题导向或多或少冲击着教育教学改革发展方向，不利于教育改革发展。破解以上忧患，可以从以下着手预防：目标导向上，坚持以主体教育实践为导向；教学实施中，建立一个责任伦理体系，以促进人工智能教育的应用；评价反馈上，采取有效的人工智能教育应用系统监督措施。通过反思Chat GPT的隐私和数据安全问题，并认清其辅助性质与教师专业知识和指导的重要性，才能从根本上破除对它的依赖。

[关键词]人工智能技术；教育创新；技术迷思；祛魅

2022年11月30日，美国OpenAI公司发表新式网络说话机器人Chat GPT，这一大型语音模式随即形成波及全世界的“现象级”产业热潮。信息技术如火如荼地对各行各业产生不小的冲击，教育领域中的“AI影响”也不例外。尽管如此，对于高新技术推动的教育创变，学术界广泛提倡坚持以人为本教学的中心思想，把人放在教学的第一重点，挖掘人的潜力，唤起人的意义，启迪人的智力，增强人性的独特性，突破科技对人的改造。由此可见，培养人的主体性仍被视作智能时代的教育根本。

一、工具迷思与祛魅：人工智能技术反思与何以赋能教育

2022年11月30日， OPENAI宣布了 Chat GPT模式，12月15日，公布了 Chat GPT新的嵌入式模式。Chat GPT的语言培训截止到2021年，目前，仅有2021年的资料，分为两个阶段，第一个阶段是“聊天”，第二个阶段是“生成式培训模式”，依靠庞大的语料资源，可以与用户进行全面的交流。Chat GPT的开发目的很明确，那就是通过“类人化”的社交关系和情绪联系，就是要向人自身的最终发展方向进行长期深入的融合。人工智能是一柄双刃剑。另外，由于对它的发展产生了一种依赖性，以及它自身的设计与使用上的缺陷，这一点需要引起我们的重视。我们必须认识到 Chat GPT这一“工具”的性质，从而达到对它的最大限度地使用，从而达到“祛魅”的目的。

人工智能推动教育的本质是：让学生们获取更多的自由时间、更多的思考空间，以及更多的反思能力，从而使他们能够更好地适应和改变当下的环境。因此，培养学生的独立思考能力，成为主体教育的重要宗旨，也为各个历史阶段的主体教育提供了坚实的基础。尽管 Chat GPT 和其他生成型人工智能产品的普及，但它们也暴露出了一些潜在的挑战，比如，它们所带来的技术漏洞、算法漏洞和道德漏洞，这些都让我们无从逃脱对于教育的责任感。通过“互联网+”的深入探索，揭示了人与技术之间的相互作用，并且深入分析了使用生成型人工智能进行教学的潜在危害，最终为“ChatGPT 浪潮”的实施奠定了坚实的基础。

二、技术手段遮盖了何物：人工智能的教育迷思表征

当下，人工智能的研究已经成为教育界的热门话题。与当下最先进、最火爆，甚至可能最具有发展潜力的科技建立联系，不仅可以更好地实现“科技赋能教育”的目标，而且还能满足人们对未来的期待，顺应近代科技革新的潮流。那些充斥着乐观态度的言论若未经过充分的验证，就可能会给人们带来不切实际的期待，从而导致四种普遍存在的教育误解。

（一）目标宗旨：高估人工智能带来的教育变革，认为人工智能会直接颠覆教学模式

近代以来，随着信息科技的飞速进步，1967年的计算机教学也成功推动了教育的改革，让“最具革命性的工具”计算机成功地成为教育革命历史化产物。尽管教育革命的内容可能并没有比“为什么要学习”这种生活性话题丰富，但它们的影响力远远超出了我们的预期。因此，我们应该充分发挥自身的优势，以便让自己的学生能够从中思考“为什么要学习”。

由于20世纪80年代电视机的广泛使用，政协委员们开始考虑利用这种新的媒介来推广和传播知识，这也让中国的教育领域感到非常激动。如今，由于科学技术的发展，愈来愈多的学校和家庭可以随地使用，从而获得丰富多彩的学习体验。这种“乐观”的影响力虽然看似合乎逻辑，但事实上，由于电视的广泛流行，它的影响力已经远超过它本身。然而，尽管电视“乐观”的影响力深入浅出，它仍然被广大观众认可。尽管现代科技使得许多人可以轻松获取知识，但是，电视仍然是最常见的媒介，它比传统的课堂更具有刺激性和玩乐性。此外，由于缺乏老师对学生进行指导，即使是最懒惰的学生，也可以轻松完成自己喜欢看的课程。

电视的出现标志着一场全新的教育变革，而计算机的出观则让这种改革更加深入：一方面，中国的教育体系发生了巨大的转型，从而扩大了课程的范围、深度、广度，以及受众的范围；另一方面，相比之下，那些不掌握使用计算机和互联网的技能的学生却显著落伍。在那时，充分考虑到技术在娱乐、交友等领域的应用范围和熟成度远甚于教育界，对中小学生的兴趣也远高于教学使用，所以它是不是解决或者说怎样解决中小学生的“玩物丧志”的问题，这是个有待探索且充满争执的话题——问题的核心并非技术有无能够让中小学生感受更多乐趣，只是技术除去在教学上“讨好”中小学生以外，还能够给予他们什么样的教学感受，像美图秀秀这样“美化教学”的技术运用有需要受到赞扬和提倡吗？

除去这些历史发展的警示以外，人工智能引发的教育改革之所以产生迷思，还因为某些“先天性缺陷”。首先，人工智能本身亦存在难以克服的科技限制。第一，人工智能的计算水平远小于人体头脑的复杂性，即便将谷歌运算平台所包含的所有系统（约数百万台）用作人脑感知仿真，也达不到一个普通人脑的神经元的总量和联系度。第二，目前对人脑智力的基本机制了解依然处在初级期，人体经过头脑的信息预演能够解决的单一难题，而人工智能往往必须经过大规模的实际累积和逻辑推演才能做出推测。第三，由于数据保密是智能技术发展的直接阻碍，未来智能技术很恐怕不会在教育界真正地产生作用，而且即便在教学中起到了重要作用，也不一定受教育界的青睐。随着人工智能在教育领域的应用已经进入了一个新的阶段。然而，这种发展仍存在一定的局限性，因此，必须谨慎对待人工智能带来的教育变革。

（二）结果评价：误解人工智能在教育中的作用，认为人工智能可以直接作为教学结果的产物

近几十年来，人工智能一直在努力实现图灵当初的理想，它正在努力将人类的知识、规则和观念转变成一种高效的、有序的、可操作的、自动化的工具，甚至有望实现脱离“人”的独立运行和决策。尽管许多教育领域的人工智能技术被认为具有独特的教育功能，但实际上，编写和输入程序、使用和分析数据都取决于人类，因此，要想让人工智能真正发挥作用，就必须解决人类的需求，否则它们就会变成一部“人工摆设”。

梅瑞狄斯·布鲁萨德的《人工不智能：计算机如何误解世界》一书引发了一场深刻的反思，其中提出了一个令人惊讶的现象：在美国纽约、宾夕法尼亚和华盛顿等富裕城市，竟然有一些学生没有任何教科书，他们的学习方式完全是被计算机操控的。简单的技术问题在中国最贫穷、落后的地区几乎不可能发生，但在美国却发生了，这让人们惊讶。借助布鲁萨德书中的案例，本文尝试总结当今人工智能与人之间的关系：第一，算法都是基于人类思维的，人类的行为会导致算法的失误。第二，教育领域的重大决策，过去由人类来完成，而如今则不再由人类来掌控。第三，随着时代的变迁，人类的行为也在不断改变，而人类的思维和行动也在发生改变。因此，人工智能的发展受到了一定的限制，因为它们缺乏明确的目标，而且有些问题需要人类去解决。第四，当人们在教育方面遇到困难时，人工智能很难理解并帮助他们解决。第五，现代社会中，人们更倾向于与人类交往，而非人工智能。尽管人工智能在某些方面取得了一定的进步，但它们对人类的影响似乎只能是使人类更加依赖它们。因此，让人类在某些事情上表现出智能的程序，可能会导致他们表现得愚蠢与可笑。

（三）实施过程：把人工智能看作为一本万能的“教育解药”秘籍，认为一切皆可AI化

当今，“科技赋能教育”和“力量化、控制化、预测化的现代高科技”都成为许多人对于未知世界的渴望。中华民族一直把“科学”视为衡量一个事物的最佳指标，而“科技赋能教育”和“力量化、控制化、预测化的现代高科技”则是其中的重要组成部分，它们可以帮助我们应对各种挑战。随着科技的发展，教育、人工智能以及其他新兴技术的出现，各行各业的专家、企业家、技术专家都在积极探索，以期解决社会中的挑战、满足需要，并且提出新的解决方案。就像列维·斯特劳斯曾经指出的：迷思是为了应对社会生活中的棘手冲突而编出的故事。因此，这种“解药”被设计成一部能够解决各种教育挑战的人工智能系统。

尽管人们认为通过传统方式来处理教育问题是不切实际的，但丹尼尔丹内特指出，最大的危险并不在于机器会篡夺我们的权力，而是因为它们被赋予了超越我们理性思维范畴、超越我们认识范围和理论界限的权利。更何况，“教育解药”把人工智能描绘得太过万能，这已经超出了马克思韦伯所担忧的“工具理性”，也正在改变人们对人工智能的看法。可以预见的是，人工智能将进一步强调个人、进步、效率、有效性以及可量化、可计算的品质和意义，而传统中不能“可视化”，但却具有重要价值的教育内容将会被抛弃，从而使得人工智能的发展受到限制。尽管人工智能已经取得了巨大进步，但它仍然存在一系列问题，例如，缺乏同理心、缺乏创造性思维、缺乏对社会问题的认识以及对社会现实感觉缺乏敏感性。因此，我们必须警惕，以防止它们被误用，以便让“教育的牢笼”中所描述的“擅长”变得真实而具体。因此，我们必须采取措施，避免让“去人性化、情感隔离、肤浅的生活以及觉得一切都不应该”，以确保我们对未知世界保持警惕，并确保我们对未知世界保持警惕。随着时间的推移，这一切都变得越来越容易。浙江小学生被戴上的智能头环的消息，让人们对未来充满恐惧：随着新兴的智能科技的发展，“等着你犯错”和“问题少年”的内容已经失去了它们的吸引力，使学生们只能以有限的视角去看待它们，而这也构建起了一个新的教育体系。

三、教育主体性复归：借助人工智能凸显“以人为本”的根本宗旨

科学技术的变革愈演愈烈，让“工具理性”变得至关重要。生成式人工智能的教育应用，将在相当深度上导致核心思维的“产业化”、核心互动的“规训化”、技治主义的“宿命化”，使教学中的人、活动、系统的核心地位无法凸显。因此，针对教学数据信息、智能算法、虚拟化空间等众多风险，有效并合理发挥人工智能的教育应用价值，必须采取有效措施。

（一）秉持理性原则，坚持以主体教育实践为导向，努力提升学生的数字素养水平

在主体教育的视角下，主体不仅仅是个体、群体和类的统一，而是人与自然的和谐共处，以及人与客观事物的有机结合，它不仅可以提升人们的社会自由度，还能够培养他们的自主意识和个性，从而实现自我完善。要建立一种和谐的人机交互关系，我们必须坚持以教育主体为中心，充分发挥他们的主动性，在适当的行动范围内，利用生成式人工智能产品的对话能力，如理解情境、创造启发性内容，使它们成为教学和学习的辅助者，而不是主导者。具体措施有：为了促进教师的数字素质，我们应该组织各种形式的专业培训和在线研讨会，以及构建一个教师数字素质发展联盟，以增强他们的数字化知识和技术，并让他们更好地运用 ChatGPT 和其他生成型的人工智能产品来指导和完善课程的实施，以免被滥用和破坏。为了提升学生的数字素养，我们需要让他们更好地运用各种技术来帮助他们的学业和进步。同时，我们也要让他们明白什么是正确的应用这些技术的方法。但是，我们也要避免让他们过度沉迷于生成型的人工智能，以免造成他们的认识偏差和思考困难，从而影响他们的创造力。为了让学生更好地掌握和运用 ChatGPT 等工具，以及培养他们的创新精神和实践能力，我们必须努力引导他们树立科学的、客观的、综合性的、有意义的科技观，从而更好地认知和利用数字技术。

（二）建立责任伦理体系，打造以人力成本为指导的人工智能教育生态圈，让人与技术产生共鸣

尽管ChatGPT和另外一些生成型技术具有很高的应用意义，如智能决策、教育评估，但它们依旧是一种脆弱的工具。因此，我们应该建立一个能够让教育工作者更好地参与教育过程中来的道德准则和法律规范，从而建立一种能够促进教育工作者和学校相互尊重的合作伙伴关系。责任伦理学强调，要想让一个完整的道德准则得以实施，必须要求各个参与者之间进行充分的交流，以便形成一个更加健康、合作、包容的、基于技术的责任伦理体系。英国牛津大学、剑桥大学、新美国安全服务中心近期共同推出了《恶意利用人工智能危机防范：预测、防止和消除对策》，旨在加强人工智能安全风险的预警，同时也要拓宽涉及各方面的知识，以及提升各方的沟通，以便更好地协商解决问题，从而为实现全球安全目标提供可靠的支持。这一举措旨在为全球提供更多的安全防护措施，以期让更多的人受到信息安全的威胁，从而实现全球的安全稳定。生成式人工智能公司应该设置一个专门的机构来监督公司的人工智能算法，并制定一套完善的人工智能算法的伦理标准。这些标准旨在帮助公司在设计和使用人工智能算法时遵守人类的道德准则和行为准则，以便更好地满足人类教育的需求。各有相互影响的各个参与方，包括决策者、使用者、研究团队、学术界、政府部门以及行业协会，都有责任确立一套具有平衡、诚实、透明、可持续的人工智能道德标准，致力于打造一个基于“人—智”的全新的人工智能伦理标准，它不仅包含了人为的限制，而且还包括了基于 ChatGPT 的标准，以此来指导和促进 ChatGPT 的普及，使其功用在教育领域得到充分发挥，从而更好地满足教师、教育管理者和学生的需求。