超越“共识”：教育人工智能伦理原则构建的发展方向

/超越“共识”：教育人工智能伦理原则构建的发展方向【摘要】受各国人工智能发展规划影响，教育人工智能伦理原则研究起步晚于其他领域，塑造了其参照已有原则“共识”的构建取向。目前，对“共识”的反思及对教育领域个性要素的探寻逐渐受到研究者关注，超越“共识”成为教育人工智能伦理原则构建的发展趋势。“共识”暗含的“非共识”要素是制约教育人工智能伦理原则实践效果的根本原因，包括国别间的历史与文化差异，领域间的结构与指向差异，应用间的内容与对象差异，自身间的概念与关系差异。超越“共识”实际上便是在已有研究的基础上弥合“非共识”要素。更直接地说，就是承认教育人工智能伦理原则的有限性，即价值匹配的有限性、领域作用的有限性、指导时效的有限性，从而在构建教育人工智能伦理原则时坚持本土立场，明确目的导向，保持持续开放。【关键词】教育人工智能；伦理原则；超越共识；发展方向 人类社会与人工智能技术的协作目前仍处于试错、纠错的探索阶段[1]。随着人工智能技术在教育领域的广泛应用，算法歧视、学生发展同质化、隐私和安全隐患等伦理问题不断显现，消解伦理风险，实现技术向善已成为全球教育领域面临的共同挑战。“人工智能伦理”被认为是寻求可信赖人工智能的重要组成部分[2]。近年来，政府、国际组织与学界不断开展教育人工智能伦理研究，提出诸多伦理原则框架①，以期明晰教育领域人工智能应用的合理边界与正确做法。然而，现有的教育人工智能伦理原则框架大多来自对其他领域人工智能伦理原则“共识”的梳理与提取，这在当前面临着广泛而尖锐的批评。越来越多的学者与研究指出，教育人工智能的伦理原则必须指向教育的个性要素，基于“共识”的伦理框架既不能明晰教育人工智能的应用边界，更无法影响教育人工智能的应用实践。在这一背景下，明晰基于“共识”的教育人工智能伦理原则研究样态，揭示“共识”隐含的“非共识”要素，探讨超越“共识”的优化路径对于教育人工智能伦理原则的未来构建十分必要。 一、基于“共识”的教育人工智能伦理原则研究样态 教育人工智能伦理原则研究对“共识”的偏好有其特殊的形成背景。受各国人工智能发展规划影响，教育人工智能伦理原则构建起步晚于其他领域，塑造了其参照“共识”的构建取向，表现为以已有伦理原则为依据、侧重宏观原则构建、所构建的原则与其他领域高度相似。但随着人工智能教育应用及其伦理研究的不断深入，对“共识”的反思与超越开始得到教育研究者的关注，成为伦理原则构建的发展趋势。 (一)面临“共识”的后发背景 国家人工智能发展规划是人工智能伦理原则构建的直接推动力。2016年起，随着人工智能技术的社会变革引领作用愈发突出，很多国家都发布了国家层面的人工智能发展规划且绝大多数规划文件都明确强调要重视对人工智能伦理风险的防范与治理[3]。国家层面的治理需要对人工智能伦理原则构建的推动力体现在三个方面。一是促成如欧盟委员会人工智能高级专家组、新加坡人工智能和数据的道德使用咨询委员会及英国上议院人工智能专责委员会等特设专家委员会建立；二是获得如电气与电子工程师协会(IEEE)、美国计算机协会(ACM)及联合国教科文组织(UNESCO)等专业协会与非盈利组织响应；三是得到如思爱普、谷歌等产业界关注。从结果上看，自2014年来，人工智能伦理相关的出版物与之前相比增加了五倍，其中近七成文献发表于发展规划集中出台的2017-2019年[4]。 然而，国家人工智能发展规划却“意外地”制约了教育领域人工智能伦理原则的探索。不同于其他领域人工智能伦理原则研究在2017-2019年的快速发展，直至2019年，与教育人工智能伦理相关的原则、政策、法规研究几乎处于空白[5]。人工智能发展规划对教育的“工具性定位”是造成这一情况的直接原因。虽然绝大多数国家在发展规划中为教育设置了专门章节或给予极大关注，但由于教育人工智能具有“双重角色”②身份，加之各发展规划遵循的是促进社会经济转型与增长、提高国际竞争力的发展逻辑，人工智能的教育应用主题极少受到关注，取而代之的是，规划制定者将教育视为一种战略性工具，旨在通过教育实现培养人工智能专家、培训人工智能相关产业劳动力、提升公民人工智能素养等社会发展目标。这种对教育价值的片面强调限制了通过人工智能技术促进教育变革的想象力，进而影响了对其伦理问题的关注与前瞻。 与此同时，先发的诸领域人工智能伦理原则框架虽然在学科与影响力上存在差异，但在原则的选择方面已走向趋同[6]。人工智能伦理原则的趋同样态可见于与之相关的元分析统计。当前影响力较大的人工智能伦理原则元分析分为两类，一类侧重梳理权威机构发布的伦理框架，如哈佛大学伯克曼·克莱因互联网与社会研究中心的《有原则的人工智能：在基于伦理与权利下达成共识》[7]、南里奥格兰德天主教大学人工智能机器人伦理学会的《全球人工智能伦理：治理指南和建议回顾》[8]。另一类侧重对伦理框架进行跨学科、跨主体的系统分析，如苏黎世联邦理工学院伦理与政策实验室的《人工智能：道德准则的全球格局》[9]及奥卢大学可汗(Khan)等人的《人工智能伦理：原则和挑战的系统综述》[10]。由上述四份元分析(如表1所示)可知，隐私、责任与问责制、安全、透明度与可解释性、公平、以人为本、可持续性原则出现在绝大多数框架中，它们已成为不同时期、不同领域、不同级别人工智能伦理框架的“共识性”原则。国家人工智能发展规划与其他领域伦理原则的研究现状塑造了教育领域面临“共识”的后发背景，这一情况深深影响了教育人工智能伦理原则的构建。 (二)参照“共识”的构建取向 面临“共识”的后发背景意味着，教育人工智能伦理原则的学术研究与框架制定，是在其他领域人工智能伦理原则相对一致且固定之后，才开始起步的。这一背景使得研究者在构建教育人工智能伦理原则时倾向于向以已有研究靠拢，一定程度上塑造了其参照“共识”的构建取向，并对构建方式与构建结果产生直接影响。 方式上，教育研究者通常将各领域已有原则作为教育原则构建的理论起点。这一情况最初表现为一种“对照—审视”的研究偏好，即以一套认可度较高的人工智能伦理原则元分析为依据，横向比较其他人工智能伦理框架，在此基础上对依据的元分析框架进行条目增减与教育转化，进而形成教育的原则框架。随着研究的不断深入及其他领域人工智能伦理原则框架的不断增加，教育人工智能伦理原则构建开始摆脱对元分析的依赖，“对照—审视”的研究偏好逐渐转变为一套稳定的基于设计的研究(Design-BasedResearch，简称DBR)流程[11]。DBR作为“一种参与迭代设计以开发改进教育实践的知识的研究方法”[12]，已广泛应用于教育研究。然而，教育人工智能的DBR遵循的并非一般DBR不断优化最初设计的“自我迭代”，而是一种“外部迭代”，即不断通过统计手段分析已有伦理原则框架并试图在其基础上生成新的框架。但由于迭代基于文献梳理而非实践测试，其本质仍属于对已有“共识”原则的教育复现。 结果上，构建方式的一致加之各领域伦理原则的趋同使得诸教育人工智能伦理原则框架大多内容相似、形式相近。无论是国家或国际组织提出的教育人工智能伦理原则框架，如澳大利亚政府教育和培训部《简读：人工智能与学校教育》、联合国教科文组织《北京共识——人工智能与教育》及白金汉大学教育人工智能伦理研究所《人工智能教育伦理框架》，还是各教育人工智能伦理原则构建的学术研究，均将诸如可解释性、公平性、隐私、安全性、问责制等共识性原则或其变体纳入框架中。形式方面，各教育人工智能伦理原则框架大多以几组“宏观原则+对原则的简要说明”为表述方式，倾向于提出高层次的原则导向、价值理念与抽象要求，较少涉及针对的具体应用、目标群体与实践步骤。直至目前，这种强共识、高层次的人工智能伦理原则框架仍然在教育领域占据主流。 诚然，不同领域人工智能应用在技术本质上存在共性，构成了伦理原则归纳与参考的先决条件。同时，高频原则的出现意味着现在有了共同基础的轮廓，教育领域可以在此基础上进行原则构建，它们有助于对教育人工智能的伦理风险进行快速归类并浓缩为几个核心要素，从而使人工智能在教育领域能够广泛致力于一套共同的价值观。教育人工智能伦理研究起步晚于其他领域，如果没有对已有原则的归纳与借鉴，教育人工智能的协同设计与伦理风险应对将更加困难。但是，对人工智能共性伦理原则进行借鉴的同时必须关注其在教育领域的个性特征，回应教育关切。然而，“共识”的形成本身就是人工智能伦理话语相对“自创生”的结果。这意味着基于“共识”所构建的教育人工智能伦理原则由已有原则组成或至少受已有原则启发，使其很难跳出已有的框架思考，从而导致根据“共识”得出“共识”的重复研究。同时，一些主题在教育领域具有很强的伦理意义，但由于其不属于既定的原则体系，因此在研究中处于边缘甚至受到忽视。 (三)超越“共识”的研究趋势 参照“共识”的构建取向在很长一段时间内主导着教育人工智能伦理原则的研究与探索，并据此产生众多重复、宏观的伦理原则框架。2020年以来，伴随着人工智能与教育的深度结合，越来越多研究者意识到，仅仅依靠共识性伦理原则无法有效指导人工智能在教育领域的应用，并在反思“共识”的基础上开始了针对教育的个性化探索。 人工智能伦理原则在教育领域的个性化探索可分为三个方面。首先，关注伦理原则涉及的各教育利益相关者。目前该类研究侧重学生，强调教育人工智能伦理原则的设定要突出学生的中心地位，成文且影响力较大的是联合国儿童基金会发布的《儿童人工智能政策指南》。其次，探究伦理原则在不同学段间的差异，并在宏观伦理原则的基础上添加符合该学段的针对性原则，如教学适当性、人工智能素养、教师福祉等。目前该类研究主要以K12与高等教育为界，且侧重于探讨K12阶段的伦理框架，如白金汉大学《教育中人工智能的道德框架》、世界经济论坛《人工智能一代：为儿童和AI制定全球标准》、澳大利亚《学校中的人工智能和新兴技术》报告及凯西·亚当斯(CathyAdams)等人提出的《K12教育的人工智能伦理准则》[13]。最后，细化共识性人工智能伦理原则。按维度分，侧重于探讨教育人工智能伦理涉及的三大领域(算法、教育、大数据)，如《教育人工智能数据伦理框架》[14]。按条目分，侧重于探讨如何在教育中落实某一项伦理原则，如用于审视人工智能教育内在公平与正义的《人工智能教育的结构性正义视角》[15]，用于评估、审计和分析人工智能系统在教育中的有效性的《教育领域人工智能的透明度指数框架》[16]等。 毫无疑问，超越“共识”是教育人工智能伦理原则构建的必然趋势。但面对这一趋势，现有研究仍然是准备不足的，因为其大多仅是从经验层面对人工智能在教育领域的个性化原则进行提炼，主题与内容较为分散，且对超越哪些“共识”，为何超越“共识”，怎样超越“共识”并没有一个系统、全面的思考。教育人工智能不仅是一门经验科学，而且是一门设计科学[17]。这意味着面对超越共识的研究趋势，当前最需要的不是几份个性框架，而是一种解释；它提供的不是条分缕析的伦理原则，而是洞察力，即研究者在构建伦理原则时的方向建议。 二、反思“共识”的教育人工智能伦理原则争议释评 “共识”掩盖的“非共识”要素是制约人工智能伦理原则实践效果的根本原因。因此，教育人工智能伦理原则超越“共识”首先应专注于对诸“非共识”要素进行揭示。通过明晰原则间乃至原则内部的紧张关系，可以确定未来构建的优化方向，从而为教育人工智能伦理原则构建制定全面且具有实际相关性的操作指南。 (一)国别间“非共识”：历史与文化差异 当前人工智能伦理研究再现了全球经济与政治的权力分布，以北美与西欧为代表的发达国家主导了人工智能伦理原则的构建[18]。因而，所形成的“共识”更多反映的是发达国家群体的集体意志。如果原则、指南或实践不包括来自亚洲、非洲或拉丁美洲的任何伦理观点、社区参与或社会和历史背景，它们就无法作为“全球性共识”广泛指导人工智能伦理实践[19]。但问题是，广泛认可的共识背后必然掩盖了国家间历史与文化的差异，使得所构建的原则清单只能流于美好但无法落实的宏观层面。 任何人工智能伦理框架都是个性化的框架，因为其提出植根于特定的历史与文化背景。例如，欧盟的人工智能伦理框架很大程度上是基于《欧盟基本权利宪章》(CharterofFundamentalRightsoftheEuropeanUnion)乃至《欧洲人权公约》(EuropeanConventiononHumanRights)，它们影响了对欧洲政府与其公民之间关系的定义，并将“可解释性”作为与人工智能相关的新元素[20]。然而，这类人权宣言和公约的内容选择与提出有其特殊的历史背景，它们植根于二战的经历，其中的诸多规定与言论可以理解为战后对不应再发生的事情的声明，这使得其及受其影响下的人工智能伦理原则框架带有对种族、性别、宗教、族裔血统以及性取向等特定历史文化主题的关注，较难推广至有着不同历史及文化的地区③。此外，由于这些宣言主要强调政府与公民间的关系，使得据此所构建的人工智能伦理原则既带有较强的价值倾向④，也未能涵盖所有重要的伦理议题。 即使忽略欧盟人工智能伦理框架关注主题与涉及范围的本土性，直接将其借鉴或套用到教育领域是也有问题的。《欧盟基本权利宪章》与《欧洲人权公约》对参与国具有法律约束力，它们表达了共同的价值观，但在其影响下，道德问题很容易变成遵守现有法律的问题[21]。一个突出的例子是欧洲通用数据保护条例(GDPR)，该条例在法律和实践方面定义了隐私和身份在欧洲地区的含义。而这种影响同样体现在人工智能伦理框架中，进而存在道德泛法律化风险。诚然，在教育领域，法律固然重要，但教师、学生和其他教育人工智能利益相关者之间是复杂的人际关系，法律仅能提供一般性约束，这也是为什么需要超越现有规则和条例以寻求伦理性指导。 (二)领域间“非共识”：结构与指向差异 从发展历程来看，不同领域的人工智能伦理研究似乎在走向趋同：提出类似的伦理原则，识别类似的伦理问题，得出类似的解决方案[22]。这在某种意义上构成了参照其他领域“共识”的可行性支撑。但是，参照“共识”构建教育人工智能伦理原则的一个方法论挑战是，对“共识”的提炼基于的是各原则名称或其表述句法的相似性，而同一原则在不同领域很可能有着不同的侧重、关联与内涵[23]。这意味着通过比较与归纳构建的教育人工智能伦理原则可能忽略了教育自身的核心目标、逻辑结构与研究旨趣。 首先，不同领域关注的伦理原则有所侧重。例如，“善意”与“非恶意”在医学领域被不成比例地提及，而在法律领域，关注最多的则是“正义”与“问责制”。“隐私”在法律和医学领域被视作一项重要的伦理原则，但在科学、工程和商业领域却鲜有提及。“透明度”主要为涉及算法与设计的科学与工程领域所强调，其他学科则较少关注重这一点。同时，如牛津大学杰西卡·莫莉(JessicaMorley)等人所言，即使某一领域包含了较为全面的伦理原则，这些原则也并非同等重要，如在国家安全系统中，非恶意远比可解释性重要得多[24]。 其次，同一原则在不同领域中存在特定的关联。例如，在法律领域，“正义”通常居于核心位置，与其他原则广泛关联(称之为“正义关联”，JusticeRelevance)，但医学、商业和营销领域则仅将其与“自治”结合使用。在医学领域，“可解释性”被视为医学人工智能伦理区别于传统医学伦理的关键原则，并主张应将“可解释性”广泛融入自主、仁慈、非恶意和正义这一医学伦理学经典四原则中[25]。在科学与工程领域，“公平”“问责制”与“透明度”往往同时出现，但在其他领域则并非如此。 最后，同一原则在不同的领域及伦理框架中存在指向差异。例如，“透明度”在《可信赖的人工智能伦理准则》中关注“数据、系统及商业模式”，而在联合国教科文组织关于人工智能伦理的建议初稿中，强调的则是“清晰的责任与问责措施”[26]。“以人为本”的“人”在《负责任的数据(第1卷)》中指代“人类”，而在《人工智能的日常伦理》中则将范围缩小至“用户”[27]。“问责制”在不同的框架中存在对设计(人工智能部署前)、监控(人工智能部署期间)及补救(伤害发生后)等特定阶段的关注偏向[28]。 (三)应用间“非共识”：内容与对象差异 即使是在同一领域，人工智能伦理原则的构建与应用也存在着极大的差异。如在教育领域，当前的一个共识是，“教育人工智能开发和使用引发的伦理风险是往往是特定于环境的”[29]。这意味着虽然教育人工智能伦理原则旨在应对、规避人工智能技术在教育领域应用造成的伦理风险，但由于涉及用途不同、目标群体各异，这一愿景很难通过一套共识性伦理原则框架实现。 共识性伦理框架难以实现一方面是由于人工智能在教育中的应用具有多样性。就底层模型而言，教育人工智能大体分为数据驱动的人工智能、基于知识或符号的人工智能、混合人工智能三类，但如果就应用而言，对其的划分则要复杂得多。目前影响力较大的教育人工智能分类法由伦敦大学学院韦恩·霍姆斯(WayneHolmes)于2019年提出[30]并在2022年进行改进[31]。该分类从学生、教师、机构三个维度出发对现有教育人工智能应用进行归类并从构思(*)、研究(**)、可商用(***)三个层次评估了各应用的发展水平(如表2所示)。由分类表可见，虽然它们都属于教育领域，但发展前景、目的和运作方式却大不相同：它们并非都具有相同水平的(经过验证的)有效性；它们并非都收集相同数量或类型的数据，它们对学生或教师的生活的侵入程度也不尽相同，并且并非所有的教育人工智能应用都会引起特别的伦理问题[32]。更为重要的是，使用不同类别的人工智能应用通常意味着不同的哲学和教育观念[33]，这反过来又会强化各应用环境的特殊性。 共识性伦理框架难以实现另一方面是由于人工智能应用所影响的教育群体具有多样性。教育人工智能的伦理研究是一个贯穿开发、使用、评估、改进的连续过程，涉及教育技术产品开发者、教师、学生、教育技术专家、管理领导者等多个利益相关者。他们有着不同的分工与特征，不能在伦理方面划为一谈。另外，即使是同一类利益相关者，在不同的背景下也有着不同的特征。例如，学生间存在不同的性别、年龄及家庭环境，在构建教育人工智能伦理原则时，需要将学段、文化背景等方面纳入考量，不能简单地归为“学生”进行理解。 (四)自身间“非共识”：概念与关系差异 即使抛开各人工智能伦理原则框架的国别、领域、应用差异不论，仅在单个框架内，原则之间乃至原则自身也存在着明显的紧张关系，表现为原则概念与原则关系的差异。其中，概念的差异直接制约了人工智能伦理原则的可操作性，关系的差异则对伦理目标的整体实现提出了挑战。 人工智能伦理原则的概念差异表现为原则自身的模棱两可。当前人工智能伦理研究大多塑造了“模糊的、高层次的原则和价值陈述，这些原则和价值陈述试图指导行动，但在实践中几乎没有提供具体的建议，也未能解决嵌入关键概念中的基本规范”[34]。正义、福祉、非恶意、自主和可解释性等“共识原则”为人工智能实践勾勒了宏大且美好的理想图景。但当追问它们的具体含义时，困难便出现了。例如，人工智能伦理中的“正义”原则通常并没有说明什么是正义或不正义，而是让行为人自己决定[35]。又如，“福祉”在教育框架中被频繁提及，它们均认为“人工智能要在教育中发挥作用，其设计始终要以和谐友好与共建人类命运共同体为核心”。但这一界定同样缺少了对“福祉”的明确解读。福祉包含哪些方面，需要考虑哪些群体的福祉，不同群体的福祉是否存在冲突?从某种意义上说，当前的“福祉”可以用来指代所需要的任何意思。原则中心术语的模棱两可掩盖了概念的复杂性和不同人群的解释差异与道德分歧，必然会使其成为一个无法实现的空谈。 人工智能伦理原则的关系差异表现为原则之间的互相矛盾。共识性伦理框架的原则设置乍一看似乎很合理，因为它们各自对应了人工智能特定的问题领域。然而，当前研究很少讨论的一个话题是，这些框架中的许多原则间相互紧张甚至相互矛盾：公平必然以个性化与准确性为代价，隐私会限制服务质量与效率，透明度会威胁安全与隐私等[36]。一个更为具体的例子是，英国上议院人工智能委员会(ArtificialIntelligenceCommittee)在《英国人工智能发展的计划、能力与志向》报告中指出，“部署任何可能对个人生活造成潜在影响的人工智能系统是不可接受的，除非它能对自己将要作出的决定提供充分且令人满意的解释”。这一表述固然重要，但它制造了“福祉”与“可解释性”的紧张关系，限制了人工智能变革社会的积极作用⑤。实际上，“可解释性”应服务于“福祉”并保持一定的灵活性，在某些情况下，只要使用算法的好处足够大，准确性足够可靠，其便是值得使用的，即使可能无法对其决策作出全面解释[37]。 三、超越“共识”的教育人工智能伦理原则构建旨归 伦理原则国别间、领域间、应用间、自身间“非共识”的存在使得基于“共识”构建出的教育人工智能伦理原则无论是在自身可靠性方面，还是在实践指导力方面，都面临着极大的挑战。超越“共识”实际上便是在已有研究的基础上弥合“非共识”要素。更直接地说，就是承认教育人工智能伦理原则的有限性，即价值匹配的有限性、领域作用的有限性、指导时效的有限性，进而构建符合国情、目标明确、立足当下、面向未来的教育人工智能伦理原则。 (一)价值匹配的有限性：坚持原则构建的本土立场 坚持本土立场是构建教育人工智能伦理原则的根本方向。《关于加强科技伦理治理的意见》强调，“必须立足我国科技发展的历史阶段及社会文化特点，遵循科技创新规律，建立健全符合我国国情的科技伦理体系”[38]。在构建教育人工智能伦理原则中体现本土立场，必须正确认识技术、伦理以及二者之间的关系。 首先，要正确认识教育人工智能技术的本土性。任何技术都具有价值偏向性，“它承载着一定的价值内涵并因此构成我们难以摆脱和改变的社会环境和生活方式”[39]。也就是说，技术产品同时也是政治产品，因为它反映了特定的文化、社会和政治动态。其中，技术的每一个设计选择都是由具有自己文化背景的设计者做出的决定，并伴随他们有意识或无意识的偏见[40]。即使是最简单的教育人工智能应用，因为其依靠算法、编程、训练，所以也会包含价值导向。因此，教育人工智能伦理原则的构建应打破工具理论思维，警惕算法殖民主义，并揭示技术部署背后的权力关系，将价值审视延伸至教育人工智能设计、运转、应用、评价的全过程。 其次，要正确认识教育人工智能伦理的本土性。教育人工智能应用的“价值有涉”必然意味着其伦理原则同样具有特定的文化与价值特征。在对技术伦理的分析中考虑文化价值的必要性早已得到认可。跨文化技术伦理学的研究已经证明了技术、文化和伦理价值之间的相互作用[41]。它们证实了在评估信息技术的伦理这一问题上存在着来自不同文化的截然不同但同样合理的价值体系[42]。正如哈贝马斯(Habermas)在话语伦理学中所论证的那样，辩护不必基于普遍认同的价值陈述，而在于采用价值的连贯性[43]。因此，教育人工智能伦理原则构建必须依照我国的文化背景与价值观，在把握国际研究进展的同时进行本土转化，做到原则选择回应我国的教育问题、内涵话语体现我国的教育立场。 最后，要正确认识伦理与技术的关系。教育人工智能伦理原则构建的本土化是全原则、全内涵的本土化，要警惕伦理问题的技术解决倾向。当前国际人工智能伦理原则研究在一定程度上出现了技术优化代替价值判断的倾向，可解释性、隐私、安全、公平相较于其他原则得到了更多的讨论，因为这些原则似乎能够得到“技术解决”。例如，可解释性可以通过简化模型(SimplifiedModel)实现[44]；隐私可以通过差别隐私(DifferentialPrivacy)保障[45]；安全可以通过红队测试练习(RedTeamingExercises)加强[46]。但教育人工智能伦理原则的构建不能仅寻求数据或算法这种技术层面的解决，因为虽然技术参考的量化指标可以使用具有明确目标状态和理想化的条件来量化伦理原则，但指标本身是“被选择的”⑥，选择一种价值就是对其他价值的否定，因此所有的价值选择都需要理由。教育人工智能的各项伦理原则均应与我国的教育价值取向相契合。 (二)领域作用的有限性：明确原则构建的目的导向 明确目的导向是构建教育人工智能伦理原则的前提要求。教育人工智能在借鉴“共识”时面临的诸多“非共识”冲突，如前文提到的结构与指向差异、内容与对象差异、概念与关系差异，很大程度上是由于原则构建目的不明导致的。当前研究对原则构建具有的意义强调颇多，但对原则构建指向的目的探讨甚少。“规避伦理风险，实现技术向善”这一目标固然重要，但还远远不够。未来，需要进一步明确教育人工智能伦理原则构建的目的与教育人工智能应用的目的。 表层来看，需要明确教育人工智能伦理原则的构建目的，即框架目的。一是要明确原则旨在影响的对象与应用。教育人工智能应用涉及技术开发人员和提供者、教育研究人员、教育工作者、管理人员、学生，以及政策制定者、家长和公众等多种利益相关者。这种应用及其利益相关者的多样性必然会推动对共同价值观和规范的追求向高抽象层次发展，导致原则内容成为难以实现的空谈。未来教育人工智能伦理原则构建可能有两种取向，一种是构建应用与利益相关者指向明确的针对性框架。另一种是内容能够调整的整体性框架，当它面对不同的教育人工智能应用场景时，能够通过对自身内涵的调整而变得继续适用。二是要明确原则旨在发挥作用的程度。当前教育人工智能伦理原则就其性质而言是普遍且宏大的，它们的价值在于它们表明了适用于教育领域的重要道德主题与愿景。这意味着它们可以作为在教育场景中需要考虑的一组事项清单。然而，原则的普遍与宏大也限制了它们指导实际行动的能力，甚至会由于各原则要求过高导致原则间互相冲突。如果不承认这些冲突，原则标准可能会被设定的不切实际的高，或者旨在践行一种原则的行为可能会在无意中损害其他重要目标。这意味着各伦理原则的实用价值是有限的，因此每一项伦理原则都应是“有限原则”，对其内涵的说明或追求都是和其他原则不断妥协的结果，只有范围更窄、更具体的原则才可能在实践中发挥作用。 深层来看，需要审视教育人工智能技术的应用目的，即教育目的。如果没有明确清晰的教育目的，在教育中寻找“人工智能伦理”将是徒劳的。重要的伦理原则，例如“福祉”，需要对什么是“利益”或“进步”有明确的理解。在教育人工智能伦理原则的构建中，只有我们清楚地了解教育的目的时，才能解释这些术语及术语组成的框架结构与指向。当前对教育人工智能应用目的的认识可能是不足的。目前，诸多教育人工智能系统以布鲁姆(Bloom)“精通学习”教学策略为起点或受其影响，它支撑了人们普遍认为人工智能在个性化教学中具有巨大潜力的信念[47]。精通学习教学策略在数学与科学领域特别有影响力，许多领先的教育人工智能系统已广泛建立了特定领域的知识模型、学习材料与知识掌握测试[48]。但是，将知识掌握视作教育人工智能的应用目的可能是有局限的。比斯塔(Biesta)认为，教育的目的不能被学习的目的(尤其是知识学习的目的)取代，教育的目的至少包括资质(Qualification)、社会化(Socialization)、主体化(Subjectification)三个方面⑦[49]。也就是说，教育不仅仅是为了测试或积累知识而进行教学，教育人工智能传统上对认知能力的关注对于指导伦理原则构建来说可能过于狭窄乃至影响对问题识别、原则选择、内涵阐发的把握。 (三)指导时效的有限性：保持原则构建的持续开放 保持持续开放是构建教育人工智能伦理原则的应有追寻。如果说领域作用的有限性强调的是教育人工智能伦理原则如何面对当下，那么指导时效的有限性讨论的则是教育人工智能伦理原则如何面对未来。关于技术的社会和历史研究指出，技术