国际组织基础教育人工智能伦理政策透视

/国际组织基础教育人工智能伦理政策透视【摘要】选取2019年以来国际组织具有代表性的4个基础教育人工智能伦理政策，构建目标阐释、伦理方案和实施框架3个层面、9个维度的分析框架进行梳理。以上政策深刻剖析技术影响，确定学生权益保护的紧迫性，通过参与机构责任分工、加强监测与评估、建立法律规范等举措，突围技术应用中存在的伦理困境，在目标层面指导政策实施和评估，在方案层面构筑数据隐私屏障，在实施层面鼓励各方协同参与。“公平与安全”“开放与自治”是4个政策的核心要义和行动指南。国际组织基础教育人工智能伦理政策的新动向体现出以人为本、关爱儿童的价值追求，强调因地制宜地推进政策落实。然而，监管规则的统一性和资源保障的有效性仍有待进一步完善。【关键词】基础教育；人工智能；伦理政策；国际组织

基础教育人工智能伦理直接关乎儿童和青少年的发展大计。当前，已有多个国际组织和政府发布相关政策，关注人工智能应用于基础教育领域的伦理边界和法律标准。世界经济论坛(WorldEconomicForum)是较早关注基础教育人工智能伦理问题的国际组织，于2019年颁布《人工智能一代：为儿童和人工智能建立全球标准》(GenerationAIEstablishingGlobalStandardsforChildrenandAI，下文简称《人工智能一代》)，提出制定人工智能儿童标准，加强风险识别与防范。[1]2021年，联合国教科文组织(UNESCO)颁布具有里程碑意义的《人工智能与教育：决策者指南》(AIandEducation：AGuidanceforPolicymakers，下文简称《决策者指南》)，这是首份系统阐释教育领域人工智能伦理的政策文件。[2]教育人工智能伦理研究所(TheInstituteforEthicalAIinEducation)于2021年制定的《教育人工智能伦理框架》(TheEthicalFrameworkforAIinEducation，下文简称《伦理框架》)，以及联合国儿童基金会(UNICEF)在同年出台的《儿童人工智能政策指南2.0》(PolicyGuidanceonAIforChildrenVersion2.0，下文简称《政策指南2.0》)，进一步从伦理规范和监管角度完善了基础教育人工智能的相关政策。为了厘清国际组织推进基础教育人工智能伦理政策建设的发展，本研究对比四大国际组织于近5年发布的基础教育人工智能伦理政策，以目标导向和治理方案为重点，兼顾实施措施，以此剖析政策发展新动向，明晰其如何通过“数字保护”实现“规范技术”，进而“保护儿童”，赋能基础教育数字化发展与适应人工智能变革。 一、研究设计 (一)理论分析框架 国际上针对人工智能的“伦理”讨论，普遍使用“伦理”(ethics)一词，延伸出“公平性”(fairness)、“问责制”(accountability)、“透明度”(transparency)、“可解释性”(explainability)等相关概念。这些概念与“伦理”一词往往同时出现在政策文本中，虽然含义不尽相同，但是都强调人工智能系统应具备可理解、可预测和符合道德规范的特点，可以视为人工智能伦理的核心原则。[3] 关于以上概念的含混性和指向性，以及彼此间的区别和联系，可以在布朗芬布伦纳(Bronfenbrenner)的生态系统理论中找到合理阐释。生态系统理论认为，个体发展是在复杂环境系统中完成的。[4]作为环境系统的组成部分，伦理规范和道德准则会影响个体的伦理判断力和道德行为。具体到人工智能伦理领域，“公平性”“问责制”“透明度”等原则构成人工智能系统应遵循的伦理环境，并通过教育系统传递给学生。因此，需要关注各系统层面伦理环境的构建：在个体层面，须探讨教育者、学生和家长在人工智能应用中的角色、权益和参与度；在教育系统层面，须分析人工智能对教育制度、教学模式和学校管理的影响，以及伦理问题的产生和解决；在社会文化背景层面，须考察人工智能应用源自社会、文化和价值观的伦理挑战和影响。 公共政策理论认为，政策分析是评估和解释政策问题、目标和解决方案的过程。[5]基于此，基础教育人工智能伦理的政策分析包含四个层面：政策目标层面，识别数据安全、隐私保护和算法公平等伦理问题；政策措施层面，规划监管机制、实践指南和技术标准等边界问题；政策实施层面，关注政策执行过程中的角色分工和监管方式；政策评估层面，开展政策效果分析和监测。与一般政策分析不同，基础教育人工智能伦理政策分析强调“伦理性”。为融入伦理内涵，本研究整合生态系统理论与公共政策理论，形成更具体的维度面向，遵循“目标-方案-实施”三维度的政策与实践演进逻辑，涵盖目标阐释、伦理方案、实施框架三个层面。基于以上观点，本研究构建了基础教育人工智能伦理政策的综合性理论分析框架，并对各维度面向的意涵进行描述性阐释(见表1)。 (二)政策文本来源 基础教育人工智能伦理政策是由多个政策文本综合而成的政策群，有的以单列主题政策形式，有的以综合性主题政策形式出现。当前，虽然全球范围内基础教育人工智能伦理相关政策数量有限，与其他教育政策相比，总量并不充足，但是已引发国际组织高度重视，逐步形成完整的政策体系。本研究选取的4个国际组织基础教育人工智能伦理政策文本(见下页表2)，从不同角度和层面关注基础教育人工智能伦理的重要问题，涵盖了儿童权益保护、全球标准制定、伦理框架指导和决策者行动指南等方面，代表了近5年来全球范围内基础教育人工智能伦理政策发展的最新动向和趋势，对基础教育领域人工智能伦理政策的发展和实践具有重要指导意义。[6] 二、导向与策略：国际组织基础教育人工智能伦理政策的目标阐释 (一)目标指向：从应用领域、施策对象和实施主体层面进行定位 政策目标是引导政策实施实现价值和效果的前置因素。基础教育人工智能伦理政策目标需要定位人工智能技术创新，并识别应用领域，同时促成多方履行职责，共同关注学生权益保护。[7] 首先，在应用领域层面，《人工智能一代》和《伦理框架》聚焦教育数据应用，围绕保障儿童权益，将数据隐私和信息安全作为人工智能技术应用的底线原则。《决策者指南》在课程设置和教学评估等教育实践领域，提出“将伦理教育融入教师培训，使伦理规范内化于具体的教学活动”[8]。 其次，在施策对象层面，《人工智能一代》关注儿童主体地位，不仅尊重儿童权利，而且鼓励儿童参与人工智能设计和评估等全过程。《伦理框架》强调需求导向，提高儿童认知，以规避技术风险。《决策者指南》重视公平参与，为儿童提供实践指导和法律保障，帮助其理解和应用人工智能。《政策指南2.0》出于尊重儿童主体性，提出“充分考虑儿童意见并与家长意见结合，确保儿童获得参与决策权”[9]。 最后，在实施主体层面，《人工智能一代》从产品“使用者”和“服务者”出发，通过开发政策指南和企业治理宪章，为不同主体提供伦理指导。《决策者指南》主要面向决策者，要求其承担人工智能政策和标准的“制定者”和“执行者”角色，同时规范多方主体责任。《伦理框架》强调教育决策者和管理者须“根据伦理标准，保障学习者权益”[10]。 《政策指南2.0》要求政府加强儿童“个人隐私”“数据安全”以及“风险管理”等政策标准。 (二)价值导向：关注伦理性和交互性，倡导人才培育须人文与技能相结合 人工智能价值的实现需要技术创新和伦理规范的双向引领，强调两者协调统一。为了兼容人工智能的伦理性和交互性，基础教育人工智能政策在规范界定、人机合作和人才素养等方面进行了价值探索，显示出人文关怀与技能培养的双向逻辑。 首先，强化人工智能伦理规范。《伦理框架》进行了原则性阐释，即重视学生伦理素养的培养，加大数据隐私保护。《决策者指南》进一步强调“公平性”“可持续性”“人权导向”等核心价值原则，倡导“合理、规范地使用技术”[11]。《政策指南2.0》提出保护儿童隐私，强调促进人工智能应用的“包容性”和“公正性”，彰显以人为本的价值追求。 其次，培养人与人工智能系统合作和交互的必要技能。《伦理框架》开宗明义，提出掌握原理和算法技能，重视伦理选择判断力，使学生理解人工智能可能产生的伦理后果。《决策者指南》提出培养学生“批判性思维”“沟通能力”“协作能力”和“创造力”，学会识别人工智能系统中的伦理困境，进一步明确培养目标。《政策指南2.0》强调，通过“将人工智能技能纳入学校课程”，落实人才培养举措，帮助“学生在模拟情境中体验道德决策过程”[12]。 最后，实现人才培养的伦理性和创新性。一方面，强化观念引领。《人工智能一代》提出，“尊重权益”和“社会公正”是人工智能人才培养的基石，需要加强伦理规范以规避人才培育偏离轨道。《伦理框架》根据教育活动规律提出伦理要求，确保人工智能技术与教育价值观契合。另一方面，关注创新实践。《决策者指南》提出“伦理意识”“社会责任感”“创造力”和“批判性思维”等创新素质，对不同领域人才知识结构提出要求。《政策指南2.0》强调制定多领域合作的伦理框架，通过加强教育及培训促进创新思维与技能培养的统一。 (三)操作程度：厘清限定标准和核心议题，利用多元问责强化效果 虽然政策明确了标准和规范，但是若缺乏可操作性、约束性与问责机制，则难以转化为实际行动而流于抽象的原则和愿景。为此，各项政策凸显实践策略的重要性，从标准设定、议题设置、主体问责三个层面着手，确保各方主体在履行职责和义务时有章可循。 第一，从实践准则出发，对人工智能系统进行标准设定。《人工智能一代》基于商业伦理，提出“制定供应链模型”，强调“产品分配的规范性”[13]。《决策者指南》重视教育管理者行为规范，关注管理者是否遵循道德决策准则。《政策指南2.0》则偏重于工具性使用，运用设置算法标准，开发“智慧数据”(DataSmart)和“数据社区”(DataCommunityDC)等第三方工具包，提出“数据评估标准”和“风险管理标准”，为人工智能系统的规范应用提供支持。 第二，以儿童权益保护为核心议题，定义和识别儿童在数字环境中的参与度和互动性。《人工智能一代》将“儿童可获得性标准”(childaccessibilitystandard)作为政策核心，强调儿童故事和案例研究的重要性，反映出儿童主体地位和技术发展的关系。《政策指南2.0》建议企业设计儿童人工智能产品，将儿童权益保障纳入核心战略。《伦理框架》强调在政策制定中加强儿童权益保护。 第三，敦促各方主体制定问责措施，确保人工智能技术和应用的合规性和安全性。各项政策主要推进了以下两方面要求。一方面，加强制度建设。《决策者指南》提出责任评估是确保决策透明度的关键，提倡跨部门协作制定相关措施，避免监管漏洞。《伦理框架》鼓励建立责任机制和监督平台，纳入多方主体“增益问责”(beneficenceaccountability)。另一方面，明确行为约束。《人工智能一代》要求相关机构承担保护责任，实现维护儿童权益和安全目标。《政策指南2.0》规定了从业人员资质，对不同违规行为制定了处罚标准。[14] 三、问题与解决：国际组织基础教育人工智能伦理政策的伦理方案 (一)伦理原则：塑造人工智能技术和应用的多维道德伦理标准 基础教育人工智能伦理原则关乎“儿童权益保障”这一核心问题。鉴于算法歧视和数据泄露等多方面风险，强化基础教育人工智能伦理原则的内涵指导意义重大，国际组织这4项政策明确彰显尊重权利、公平公正、问责明确等伦理理念和标准，以回应儿童发展需求。 一是“公平性”“透明度”和“可解释性”原则，旨在营造公正可信、可理解的人工智能教育环境。[15]《人工智能一代》提出在“算法设计”(algorithmdesign)方面增强透明度。《伦理框架》提出采用“可解释性算法”，通过提供用户反馈机制确保透明度。《决策者指南》要求向利益相关者提供决策行为的“可解释性”，确保教育人工智能系统公平性，不得偏袒任何学习者。《政策指南2.0》强调提升政策透明度，以确保人工智能应用的“公平性”与“安全性”。 二是“数据隐私”和“数据安全”原则，注重保护学生数据的隐私性与安全性。[16]《人工智能一代》提出采用新型隐私保护方法，加强数据认知。《伦理框架》提出增加匿名处理制度，强调限制收集是预防数据泄露的关键。与《伦理框架》和《决策者指南》侧重数据处理约束不同，《政策指南2.0》重视组织层面保障，提出构建专门的儿童数据安全机构。 三是“算法公正”原则，目的在于杜绝算法设计和应用中产生的偏见或歧视。[17]在认知层面，《伦理框架》要求避免算法歧视和不平等，《决策者指南》提出预防算法偏见风险。在对策层面，《人工智能一代》提出权衡利益和追究责任，《决策者指南》强调考虑算法偏见表现，《政策指南2.0》要求审查和更新算法。在监管层面，《政策指南2.0》提出制定算法监管框架，强调完善相关制度。《决策者指南》则聚焦隐患防范，强调关注数据伦理风险。 (二)伦理问题：引发权益保护、技术偏见和系统可解释性的挑战 基础教育人工智能伦理问题因素杂糅，引发“儿童权益”隐私和歧视问题，以及“公信力”及“监管”等诸多方面争议，需要平衡多方利益诉求。为此，基础教育人工智能伦理政策高度强调“包容性”，寻求技术手段和法律规范保护“用户权益”，探寻人工智能技术“透明性”和“可解释性”的内在规律。 一是“权益保护”问题，内嵌“技术应用”和“制度规范”两种逻辑。“技术应用”利用技术手段预防风险，侧重于具体措施。如《人工智能一代》提出程序和平台的应用安全问题，《伦理框架》强调采用加密和验证技术。“制度规范”支持立法和监管，体现系统性。如《政策指南2.0》提出针对不同使用者制定具体规范和监管机制，《决策者指南》强调将儿童权益作为立法目标，提出考虑使用者人权伦理问题。 二是“技术偏见”问题，包括“算法歧视”“性别平等”“数据泄露”等。《人工智能一代》提出避免种族、性别等偏见，将避免偏见定位为实现技术公平、用户权益与社会发展的和谐统一。《决策者指南》关注算法偏见和性别不平等，重视数据管理机构与个人数据泄露问题。《政策指南2.0》提出“儿童群体偏见”(childgroupbias)问题，提倡使用适龄语言讲授人工智能技术。 三是“可解释性”问题，可以从人工智能系统的解释内容、解释方式、解释程度和用户需求方面进行任务分解。如《人工智能一代》阐明解释内容包括基本原理、数字循证、数据和算法流程等。《伦理框架》重视采用“易理解方式”，如自然语言描述或可视化展示等。《决策者指南》强调详尽满足用户疑问。《政策指南2.0》提出用户需求视角推进算法解释，实现儿童及其看护者达到充分理解交互的目的。 (三)解决方法：基于风险管理的人工智能创新实践 基础教育人工智能涉及的伦理和道德问题具有复杂性和不可预见性，引发人们对“技术进步”和“社会公平”两者关系的反思，亟须重新审视如何实现人工智能的“可持续发展”。基础教育人工智能伦理政策须直面以上问题带来的风险后果，采取防范与化解的积极导向，促进人工智能创新与伦理规范的协调统一。 首先，加大社会影响评估和风险管理。在价值层面，《伦理框架》强调“共享伦理”(sharedethics)愿景，规避技术风险。在技术层面，《人工智能一代》提出通过开发数据集，消解偏见，支持弱势儿童。在方法层面，《政策指南2.0》提出风险识别方法，如关注隐私侵犯、就业问题、社会不平等问题，强调进行风险评估预判。在实施层面，《决策者指南》针对管理者推出风险应对措施。 其次，平衡技术创新和人权保护关系。《人工智能一代》将“权益保护”定位为“技术创新”基石，提出在学校开设相关课程，通过培训方案加强公众权利保护意识，更好地实现技术创新。为厘清人工智能创新边界，《伦理框架》提出人工智能开发和应用必须遵守人权法和伦理原则。《决策者指南》强调制定法律框架和监管机制，确保在尊重人权前提下创新应用。《政策指南2.0》强调人权保护是技术创新的基本前提。 最后，构建有效投诉机制和独立监管机构。主要涵盖以下两方面要求：一方面，突出监管重点。《人工智能一代》提出建立投诉和监管机构，鼓励公众揭发违规行为。《政策指南2.0》强调儿童包容性，提出优先出台针对儿童公平和非歧视的投诉和监管措施。另一方面，明确监管方式。《伦理框架》建议采用设计隐私方法，在群体层面进行儿童保护，并鼓励儿童投诉。《决策者指南》规定“跨部门协作义务范畴”，强调“治理机构承担相应责任，并执行监管权”[18]。 四、功能与措施：国际组织基础教育人工智能伦理政策的实施框架 (一)参与者角色：实现各方主体在政策全流程中的共享共建 在“目标-方案”的政策逻辑基础之上，基础教育人工智能伦理政策进入实施层面，从多元主体功能的视角出发，确保儿童“隐私保护”“公平性”“安全性”等方面的权益。 首先，决策者承担政策制定和实施的主导者角色。一方面，决策者具有政策决策权，是统筹规划的主导者。《人工智能一代》将“儿童互动安全”作为首要目标，要求决策者参与制定。《政策指南2.0》要求决策者切实履行角色，制定相关政策法规。另一方面，决策者应秉持开放和包容，与多元主体形成政策执行合力。《伦理框架》强调决策者应与利益相关者合作，共同推动伦理准则落实。《决策者指南》强调“决策者和多元主体协商共建”[19]。 其次，软件团队扮演整合儿童权利和需求的设计者角色。一是强调适应儿童需求。《人工智能一代》关注儿童权益“最大化”，强调软件团队在开发、应用和维护过程中应符合伦理标准。《伦理框架》要求软件团队深入了解儿童发展需求。二是强调发挥专业作用，参与政策决策过程。《决策者指南》提出软件团队应与决策者合作，为政策制定提供专业建议。三是强调保护数据隐私安全。《政策指南2.0》提出软件团队在儿童隐私保护、信息安全和数据使用等方面承担“首要角色”。 最后，公众担当推动政策落地的协商者角色。为拓展公众参与，这4项政策围绕以下两方面推进了相关举措。一是完善制度供给。《伦理框架》和《决策者指南》提出建立专家咨询组织。如，《决策者指南》强调建立协作平台，吸纳多元意见。《政策指南2.0》则强调发挥公众专长，提出“制定路线图”“开发工具画布”等措施加大制度供给。二是明确参与内容。《人工智能一代》要求公众承担政策制定等任务，包括“提供反馈、参与研讨会和听证会”[20]等。 (二)监督与管理：在教师培训、法律框架和学习者权益方面加强伦理规范 虽然政策确立了多元主体及其功能，但是若缺乏监督约束，那么将难以落实。从实践角度来说，针对教师培训、法律框架和学习者权益三个层面采取监管措施，督促各方履行职责，是保障政策落地的“防护墙”，可以有效遏制潜在伦理风险和不平等现象。 首先，升级培训手段，加强教师伦理素养规范。从专业发展来看，《人工智能一代》提出为教师提供专业能力发展机会，能够识别人工智能伦理挑战。从资源建设来看，《政策指南2.0》和《伦理框架》针对“支持教师使用工具和资源”提供培训和指导，推动教师遵循伦理规范。从管理实践来看，《决策者指南》提出开发教师能力建设计划，探索教师伦理规范管理机制。 其次，构建法律框架，加大伦理制度规范。一是在决策者层面，《人工智能一代》提出围绕数据保护和教育培训等议题，敦促政府制定相关法律法规框架。《决策者指南》要求管理者为教师和学生提供法律保护。二是在制度准则层面，《伦理框架》视法律约束为基本遵循，其伦理框架涵盖“反歧视”“知识产权”“数据隐私”等多个范畴的指导要求。三是在制度保障层面，《政策指南2.0》提出规范建设制度框架，以保障儿童数据隐私和安全。 最后，保障学习者权益，强化伦理权利规范。以学习者需求为视角，标识“透明度”属性，兼顾多方权益加强监管。一是保障知情权。《人工智能一代》和《伦理框架》强调须告知使用风险，以建立学生家长信任。二是确保获取权。《决策者指南》和《人工智能一代》强调提供适应性教育资源，以构建可信赖的人工智能教育环境。 (三)资源保障：构建“公平、应变、个性化”的资源体系 如果基础教育人工智能技术和应用缺乏伦理规范，那么将导致资源浪费和不公平利用，而这直接关乎儿童能否获得良好和公平的教育机会。因此，构建“公平”的资源分配机制，“应变”地防范外部影响，“个性化”地满足儿童发展需求，实现资源供给与价值引领统一是应有之义。 一是强化资源的合理利用和公平分配。首先，设立行动标准。《人工智能一代》强调采用信息共享和数据安全保护等技术手段。《伦理框架》要求“资源采购应具有道德规范性”[21]。其次，加强监管评估。《决策者指南》提出建立透明、公正、负责任的数据资源管理机制。《决策者指南》推出资源监管和评估措施。再次，突出应用导向。《政策指南2.0》聚焦教学板块，提出最大化利用课程资源。最后，推进具体措施。《伦理框架》提倡以教学导向进行资源设计，同时注意避免操纵用户行为、歧视学习者群体。 二是应对环境、社会和经济等外部影响。一方面，利用技术手段提高资源利用率。《人工智能一代》提出构建技术生态系统，提高资源利用效率。《决策者指南》提出建立收集、存储、处理和共享全流程的数据安全措施。另一方面，根据社会需求调整资源配置。[22]《政策指南2.0》提出关注制定者、管理人员、开发人员资源需求，确定资源优先等级和配额分配。《伦理框架》提出避免社会、经济、文化因素导致的资源不均，强调将环境变化纳入资源供给。 三是围绕儿童“个性化”发展，加强资源建设。《人工智能一代》在考虑儿童不同需求前提下，强