人工智能教育应用失范审视及消解策略研究

人工智能教育应用失范审视及消解策略研究摘要：

人工智能被寄予教育系统变革的核心力量和实现教育现代化的适切选择，然而由于人们对技术的认识不足和使用不当引发了新的教育冲突，在当前崇尚分数、过度竞争的应试教育大环境下和技术驱动教育的新变局中，需要更加审慎看待人工智能技术教育应用的限度。基于对近年来国家政策和相关文献的全面梳理，综合运用技术哲学、心理学、社会学等跨学科思维方法，分析论证了人工智能技术教育应用失范的主要危害：一是人工智能极致工具化、利益化教育应用导致的教育反智主义倾向；二是人工智能过度参与教育活动导致师生双方的“降智化”发展风险；三是人工智能蕴涵的价值霸权导致教育被恶意控制的隐患。通过多视角探究人工智能技术教育应用失范的本质，可以前瞻性地规避人工智能教育发展中的诸多陷阱，从而为新时代人工智能教育重塑提供策略：一是秉持人类有边界价值观下个体生命成长的教育追求；二是理智看待人工智能赋能教育的限度并积极拥抱人工智能；三是推进系统化和精细化的人工智能教育治理；四是构建人工智能时代教育的核心理论以促进学科和实践向好发展。关键词：

人工智能；教育应用；教育治理；失范批判；消解策略一、引言2018年4月，教育部印发《教育信息化2.0行动计划》，强调要充分利用人工智能等新技术促进教育教学管理、服务和评价改革。2020年10月，中共中央、国务院印发《深化新时代教育评价改革总体方案》，强调要充分利用信息技术，提高教育评价的科学性、专业性、客观性。2022年8月，科技部发布《关于支持建设新一代人工智能示范应用场景的通知》，标志着新一代人工智能技术开始落地应用。2022年10月，党的二十大报告提出，要“推进教育数字化，建设全民终身学习的学习型社会、学习型大国”。2023年2月，教育部、中国联合国教科文组织全国委员会共同举办“世界数字教育大会”，针对教育数字化转型、教育数字治理等内容开展交流讨论。由此可见，教育数字化、智能化变革已是时代之趋和发展所需。在国家全面布局教育数智化的同时，研究者也相应开展大量人工智能技术的教育应用研究，形成诸如智能时代的大学生学习适应过程模型与量表[1]、基于大数据挖掘的智能测评辅导系统[2]、面向自适应学习的个性化学习路径推荐[3]等方面的重要成果，强化人们对于人工智能技术可以有效促进教育发展的认同。同时，研究者开始深入思考人工智能技术教育应用所面临的现实和潜在风险。研究成果包括：人工智能技术可能引发教育诚信危机，造成研究价值立场混淆；人工智能技术价值认同存在偏失和违背教育初心的风险；未来需要驾驭人工智能并与人工智能共生，应出台相关的学习指南、奖惩制度以预防可能发生的风险；大数据和人工智能引发的数据隐私伦理风险需要加以治理；工具理性膨胀对教育中“人的发展”将带来破坏性影响；人工智能技术不当应用会使学生丧失认知主体性、损害学习者的知识建构和能力训练；“数据投喂、定向数据”等造成教育过度关注知识教学，忽略学生高阶思维和精神情感等问题。上述研究成果提供了很好的思路，对于研究者进一步认知和利用人工智能起到很好的借鉴作用。综上可知，现有研究大都认同人工智能技术在赋能教育时，会衍生许多不容回避的问题，如人工智能教育应用失范加剧教育生态的恶化，以及人工智能教育面临的风险和挑战等。然而，由于当前研究对人工智能教育应用的失范仍处于探索阶段，不能准确把握失范的表征和危害机理，也不能做好充分准备和有效应对，从而造成其粗犷发展并引发新的治理冲突，致使我国教育界弥漫着一股激进的人工智能思潮。基于此，本文从更为宏观、更为社会化的视角，探寻人工智能教育应用中所面临的核心问题，并做出时代回应。二、人工智能教育应用失范的风险困境从应然范畴，人工智能可以促进教育迭代更新从而形成新的教育生态，但在实然层面，人工智能在促进教育变革的同时却有冒进和夸大之嫌。“技术作为不可消除的现实存在运行于教育体制之内，也作为巨大的挑战如黑洞般吞噬着教育精神和教育资源”，[4]教育中的数字化崇拜等问题突显。（一）人工智能极致工具化、利益化的教育应用导致教育反智主义倾向现代教育体系脱胎于人类工业文明，“工业社会的成功确立了对个人的功利化和工具化培养的要求，近代思想确立技术理性在个人生活与工作中的支配地位”[5]。于是，教育转换自身具有程序化、工具化和产品化等特征，在培养目标上追求可控性，在考核评价上倾向标准化，在组织形式上呈现规模化。人成为符号化、抽象化和生物化的存在，教育在促进个体发展和精神自由的内在价值被轻视。反智主义的本质特征是反对或质疑理智的社会现象和语境，并不同程度存在于社会的诸多方面。在阶级社会没有完全消失之前，教育在增进个人成长和承担社会功用之间总要做一定的折中，因此关于教育精神追求与工具价值的争辩从未间断。“教育的价值和意义取决于它是否以及在多大程度上，可以为个体带来现实的外部利益，这种过度强调工具化或外部利益的教育期望或要求，已经在很大程度上陷入了反智主义的泥沼。”[6]人工智能教育应用中的反智主义主要受制于两方面的影响：宏观上受制于我国教育发展不均衡、不充分的基本矛盾；微观上受制于我国教育实践中推崇的知识学习导向，也即“知识主义教学、灌输主义教学和技术主义教学”[7]。这两方面制约因素不但没能引起人们对人工智能教育的人文关怀，反而强化了过度功利化和工具化的教育倾向，反智主义迹象明显。第一，技术时空泛在和永不疲倦的特性，使得对学生永无休止的知识灌输成为可能。人工智能环境下，数字化知识共享扩大了学习者的民主选择，教育传播时空跨越满足多场景的学习需求，但现实中应用技术优势开展教学并没有兑现教育的追求，而是尽可能把学生控制在知识传递和填充状态，学生只能通过不断压缩正常的休息和锻炼时间去应对，损害学生人格和健康发展，呈现出“教者乐而不疲，学者疲而不乐”的窘境。第二，智能机器通过推理、归纳和挖掘实现知识更新和增长，海量多维的学习资源容易造成学生过度学习和超认知负荷。当前环境下，中小学教育追求超量、超难和超纲的需求导向在智能环境下几乎都可以满足，当学生漫游在多形态知识资源中时，容易引起完全过度学习。另外，由于智能学习系统缺乏及时高效的学习支持服务，从而增加外部认知负荷，使学生学习效率降低并产生挫败感。第三，智能学习系统闭环中的学习会造成人的单向异化发展。智能学习系统涵盖了从学习准备到学习结果认定的全过程，相对封闭的学习环路减少了外部干扰变量，提高学习效率，“教育因而变得更加精致，但也变得更加‘单向化’”[8]。由于缺乏在场情感化的互动和真实情景式的参与，学生易沉浸在自我和虚拟的世界中而导致片面或畸形发展。（二）人工智能过度参与教育活动导致师生双方“降智化”①发展风险人类拥有极度复杂的思维方式和多元的情感体验，潜意识连同显意识共同参与人类的思维活动。“发现科学真理的思维的实质是一种逻辑与非逻辑、线性与非线性、渐变性与突变性、清晰性与模糊性的辩证统一过程”[9]，要用逻辑推理、形式语言和算法规则等构造的有限理性，去完全拟合人类的思维意识和精神情感是不切实际的。“心智不只是智能，新陈代谢是不可计算实现的——从而瓦解人工智能奇点论所隐含的立论前提。”[10]因此，人工智能不可能拥有和人类对等的心智水平，把教育活动完全交由人工智能是危险和不可靠的。人工智能可以帮助教师承担考勤、阅卷等事务性工作，也可以帮助教师撰写教学报告或评估学生学业状况，但也会使教师陷入技术依赖的沼泽而无力自拔。当前，智能化多媒体技术已融入常规教学，试想如果在预先不知的情况下，教学环境功能突然失效，教师是否可以流畅讲授课程、是否清楚知识细节和科学术语表达。大家经常指责部分教师教学经验不足，造成机械灌输性教学，实际忽视了对学科知识掌握不透问题的关注。对于许多教师，除非怀有抱负或者有常态化抽查，否则这些看似全面而有说服力的报告只能流于形式。教师很少结合自身的观察去认真分析报告，既不完全了解学生，也不认真思考自己的教学得失，造成其教学科学性和艺术性水平全面下滑，教师职业能力发展陷入迷茫和危机。“教师的工作往往是非预设、非逻辑、非线性的，教育过程中的各种偶发事件需要高度的创造性和艺术性。”[11]人工智能本质上是算法模型的形式化实现，终究不能应付所有情形。人工智能系统可以根据学生学习状况推荐学习资源和规划学习路径，为实现个性化和自适应学习提供了契机。但算法的有限性和主体的多样性注定存在矛盾，盲目相信算法告知的结果就会落入认知幼稚和主体沦丧的僵局，造成学生的高阶思维能力发展受限。学生在学习过程中的知识盲点、学习规划等都是智能系统自动推送，长此以往，他们不愿意也不擅于深入思考，久而久之养成被动接受和等待给予的动机和习惯，不利于学生知识图式的构建和知识的迁移。批判性思维和创造性思维都需要主体养成主动探究的意识，并具备勇敢质疑的特质。“为了将你的思考质量提升到最高程度，你必须学习如何成为自己思考的有效‘批评者’”[12]“当人们在创造性地进行思考时，一种寻求发现的激情主导了人的思路”[13]。这与智能系统推送下的客观式、被动式、程序式和去情境化式学习是相悖的，显然不能很好地关照到高阶思维的培养，学生的多样性和主体性发展受到排斥。（三）人工智能蕴涵的价值霸权导致教育被恶意控制的隐患“人工智能‘技术代码’在规则和文化两个层面对人类生产、生活和思维的强制引导，都体现了其霸权的实质。”[14]当人工智能应用于教育时，依然体现出了霸权的特性。第一，效率主导下的霸权危机。“人工智能算法的运行具有强烈的效率主导逻辑。”[15]效率主导意味着学习知识又快又好，低于标准进度的学习就会被唾弃并冠以努力不够或智力低下的标签，在这种怂恿极端竞争的教育氛围中，强者和驯从者获得奖赏，弱者和怪异者受到责罚，这都是极其傲慢和不人道的。第二，控制支配下的霸权危机。“算法通过机器优势争夺人类的决策权力，基于架构优势框定了人的认知和行为模式。”[16]人工智能教育的平台架构、核心算法往往由企业寡头在政府划定的框架内开发设计，但是企业的逐利性使得算法在设计时会嵌入利己特性。这种利己性有时也表现为曲意迎合现实教育的功利需求而达到利己的企图。由于算法黑箱缺乏透明性，师生与智能系统发生冲突时不会过多反思智能系统的不足，转而通过调适自身去适应系统，“我不担心机器会像人一样思考，我担心的是人像机器一样思考”[17]。第三，价值输出下的霸权危机。“技术设计不仅是反映某一社会因素，同时还具有更为广阔的社会价值假定。”[18]算法一旦携带表达不公和认识偏见就会导致社会价值混乱。一方面，当人工智能的纯粹理性和效率主导等价值观被广泛接受时，技术就完成了对人类文化传承权力的把持；另一方面，一旦人们认可“机器奴役人”的合理性和资本逻辑驱动下智能独立的“狡计”[19]，实际上就被蒙蔽了人通过智能机器隐身奴役人的真相，有人担忧“一旦人工智能和基因技术创造了绝对强者，绝对强者就很可能利用绝对优势的技术，去实现文明的重新野蛮化”。[20]三、人工智能教育重塑的应对之策人工智能教育是智能社会的重要结构性要素，只有正面回应人工智能教育的实践困顿，人类才能深刻认识人工智能对教育进步的积极作用，才能牢牢把握人工智能教育变革的战略思维和正确方向。（一）秉持人类有边界价值观下个体生命成长的教育追求人类若要牢牢把握人工智能教育的主动权，就需要从以人为归宿的认识逻辑出发去度量。“这个人，是经历漫长历史塑造出来的，他是一个能动者，他在既有的结构下行动并创造新的结构。”[21]在人工智能效率主导的运行逻辑下，教育就会追求外显的和确定的诸如成绩、名次的数据结果导向，学生只有通过激烈的竞争才能获得价值认同，这就催生了自私、虚伪等不健康的价值观，而忘记人之为人的友善和利他等更为重要的价值取向。同时，当人类承认机器育人可控可行就意味着人工智能全面接管教育，长期与虚拟物的交互会造成人的异化，人类复杂的精神被有限的计算规则所呈现，人的价值全面性就会受到伤害。坚持有边界的人类价值观，目的就是反对人工智能场景下理性知识主义、计算效率主义和片面个人主义的教育价值取向。“教育学视野下的人工智能，应以人性化、生命化为旨归，它强调，建立在人工智能之上最好的教育，是能够在人工智能的设计和运用中呈现人的主动性、生长性的教育。”[22]因此，在人工智能教育实践中坚持有边界的人类社会价值观，目的使人工智能发展更为关照生命的意义，促进个体在认可的社会价值体系之下有尊严地全面发展。（二）理智看待人工智能赋能教育的限度并积极拥抱人工智能“尽管教育实践可能会因为内在的技术偏差，而有时陷入被动和走偏，但它也会在更多时候因为技术的推动而获得巨大发展。”[23]因此，绝不能“因噎废食”，否定人工智能对教育的积极作用。第一，教育实践者奉行主动掌控人工智能教育应用的原则，这种主动更多体现为超前的谋划意识和自觉的担当意愿，谨慎把控人工智能而不是对其盲目信任。由于技术并非中性而总是包含一定的价值判断和道德取舍，教师需要超前思考人工智能背后的文化价值并与相应的课程价值相契合，做到在特定时空、特定课程、特定对象中适切地采用人工智能教育产品，回归到人工智能的本质，即人赋能机器，这是人工智能教育应用的底层逻辑。第二，教育实践者履行人工智能适度介入教育的原则，这种适度更多体现为恰当地使用人工智能，避免教育“目的—手段”基本逻辑形式的本末倒置。一方面，对人工智能教育工具主义的批判，是为更好地促进人工智能教育的发展，但也会导致一部分教师把教育的人文价值和科学价值对立起来；另一方面，人工智能教育中确实出现“技术的过度开发和应用，使教育的教、学、评、导等各个环节趋向自动”[24]的弊端，忽视了人工智能的目的价值。以上两方面都是不可取的。第三，教育实践者遵循对人工智能教育效用辩证评估的原则，这种辩证更多体现为要用发展的视角看待人工智能教育的科学理性价值和人文道德价值、短期作用和长期作用。不同教育对象对于人工智能科学理性价值和人文道德价值的需求不同，教育实践者需要根据特定场景尽可能做到技术价值两个方面的平衡发展，促使每个个体都能全面成长。人工智能自身的优劣和应用的恰当与否，都可能对教育产生短期或长期效用、积极或消极作用，这需要科学甄别和谨慎总结，有效规避人们认知上的偏差，降低应用新技术发生系统性风险的概率。（三）推进系统化和精细化的人工智能教育治理人工智能对教育意味着诸多机遇和挑战，而有效的教育治理是最适切的应对。“教育治理是对传统教育管理方式的超越，是教育管理民主化的集中体现，”[25]最终促使各利益相关方充分参与，达到共荣善治的局面。第一，以人工智能社会视域顶层谋划教育治理的“元制度”。教育制度是在国家公权有效保障下，各类教育系统的体系结构和管理规则，是教育和社会其他系统衔接交互的基本途径。“人工智能教育治理必须以系统观的视野来审视具体问题。”[26]教育需要与经济、科技等其他相关领域积极对话共治和自治问题，区分共治的责任和自治的主体，促进制度建设的迭代完善，进而形成一系列有远见的顶层纲领制度，为后续治理推进提供基本遵循。第二，以利益共享为导向促使多方治理主体积极参与。人工智能时代，资本、权利和技术三者叠加，使得教育走偏和逐利的风险加大，教育治理需要调动相关利益方的积极性。多方参与并不意味着所有参与方权利的平均分配，而是按照各自承担的责任行使其本分权利。“迄今为止，在所有权力主体中，政府无疑具有压倒一切的重要性。”[27]在人工智能教育治理中，政府必然作为战略规划和矛盾调停的决策主体，负责任地直面要害问题，充分协调好彼此关切和核心利益；企业和其他非政府组织也需要充分理解政府的治理意图，并提供必要支撑；学校要主动创新，构建有效的教学体系和多维评价体系；普通民众可以通过广泛的民意渠道表达教育诉求。（四）构建人工智能时代教育的核心理论以促进学科和实践向好发展教育科学本身的复杂特性使其需要整合心理学、脑科学等学科知识体系，这种超学科的研究组织和学术培养体系不够完善，缺乏对人工智能教育实践的全面诠释。第一，加快构建融合创新的智能教育科学核心理论。当代社会正在急速从后工业社会迈向智慧社会，人类前期积累的工业化教育知识经验已不能从容解答智慧社会的教育难题，急迫需要深入到智慧社会的体系中去思考其所反映的教育理论。只要是一门学科，其最根