数字教材的伦理风险及其应对

/数字教材的伦理风险及其应对【摘要】数字教材的发展是顺应数字时代学习方式与教学改革的必然趋势。随着数字技术的深度介入，数字教材伦理风险由潜在逐步走向显在。数字教材面临的伦理风险主要表现为主体伦理向度下的主体价值偏离风险、关系伦理向度下的师生关系异化风险、信仰伦理向度下的意识形态安全风险、资源伦理向度下的教育不公加剧的风险，以及算法伦理向度下的责任模糊与隐私风险。究其原因，与数字教材主体伦理素养和数字素养不足、数字教材技术存在内在缺陷、数字教材伦理制度建设滞后等密切相关。规避数字教材的伦理风险，应建设一体化数字教材培训体系，培养主体前瞻性伦理决策与应对能力；汇聚与融入多元智能数字技术，驱动数字教材伦理风险“三全”治理；完善数字教材的伦理制度规范，建立伦理风险的动态评估与预警机制。【关键词】数字教材；技术变革；伦理风险

习近平总书记强调：“教育数字化是我国开辟教育发展新赛道和塑造教育发展新优势的重要突破口。”[1]数字教材是教育数字化转型的重要抓手，也是顺应数字时代学习方式与教学改革的必然趋势。数字教材及其应用能够推动数字技术与教育内容、学生学习、教师教学以及教育手段的深度融合，从而赋能教育系统全要素数字化转型[2]，助力教育强国的实现，但与此同时，也面临着技术变量带来的伦理风险。“技术的不良后果在其初兴期难以被精准识别，在发展成熟后，已难以对其进行有效控制。伴随着新兴技术的广泛应用，解决其所衍生的问题将变得异常困难”[3]。因此，理性反思和审慎应对数字教材已经出现或可能出现的伦理风险既是促进学生全面发展的应有之义，也是加快数字教材高质量发展的必然选择。 一、数字教材伦理风险的表征 数字教材伦理风险是指在数字教材设计、使用等过程中，出现违背数字教材伦理的可能性，即影响或破坏人与自我、人与他人、人与国家、人与社会、人与技术之间的伦理关系的可能性。根据数字教材的伦理内涵及其五对伦理关系，可以将数字教材伦理向度基本划分为主体伦理、关系伦理、信仰伦理、资源伦理和算法伦理。为此，可以从这五个伦理向度对数字教材伦理风险的表征予以解读。 (一)主体伦理向度：主体价值偏离的风险 随着技术的不断发展，数字教材的自主性与日俱增。它在帮助师生提升教学效果与效益的同时，也在迫使师生让渡自身的主体性，从而异化师生的主体价值，影响他们的能动性、自主性与创造性等。其一，数字教材可能消解师生的能动性。能动性是指个体基于自身与环境因素，主动选择、判断并产生目标导向行为的能力。[4]数字教材以精准、科学的方式延伸甚至替代师生的某些技能，可能使他们身体所固有的技能神经系统自动进入休眠状态。[5]而当师生的选择、判断决策等能力进入休眠状态时，他们的能动性就会处于消解状态，从而出现能动性瘫痪的风险。其二，数字教材可能制约人的自主性。数字教材所具有的自适应智能系统，既能为教师提供能够实时优化的教学资源，又能为学生提供动态、个性化的学习“空间”。但是，“在社会中技术的活动越多，人的自主性和主动性就越少”[6]，据此，数字教材在教学中的活动占比逐渐增多，不断占据师生“思”的空间，并潜移默化地影响他们的观念、思维等内在精神变化，减少他们的自主性活动，使其沦为数字教材的附庸。同时，这种个性化教学资源供给方式很难给予师生全面的教育内容，易使其产生认知偏见，从而丧失一定的自主性。其三，数字教材可能影响师生的创造性。基于算法个性化推荐的数字教材能够生成个性化学习资料，为师生的个性解放、多元发展注入动能，但也可能形成另一种更为隐蔽的“同质化引力”。这种同质化引力生发于无质感的、固定编码的数字算法，驱使师生困囿于算法公式[5]，从而影响师生的创造性发展。 (二)关系伦理向度：师生关系异化的风险 师生关系是教育场域中最重要的人际关系，良好的师生关系能够促进师生的情感互动。良好的师生关系是一种亲密无间、相互平等、彼此信赖的“我—你”关系，需要理解性的对话、真诚的交往态度以及真实的交互情境。数字教材为师生营造了虚拟的教育环境和空间，能拓展师生的交互场域、转换交互模式、开辟新的交互路径，但也可能会让他们的交互走向形式化、工具化、虚拟化和技术化[7]，使原本充满温情的教学环境渐渐失去温度，逐渐压缩师生情感交流的伦理空间，催生关系伦理风险。一方面，数字教材可能会冲击教师尊严，淡化学生尊师重教的伦理观念。数字教材本质上是一个开放式的巨型知识库，能提供多元、开放且个性化的学习内容。这不可避免会冲击基于“知识权威”的传统师生关系秩序[8]，从而消解学生对教师的敬仰之情，同时，还会挫伤教师的教学效能感，降低教师对教育事业的热爱与期待程度，或使教师将教学视为谋生的手段，出现教学冷漠现象，进一步恶化原本纯真、美好的师生关系。另一方面，数字教材所建构的肉身离场的教育空间，将师生的交互感知“肢解”为一个个小块的、机械的片段，过滤蕴含在交往中的情感，将人与人的思维、价值观的碰撞简化为程序化的算法，弱化师生的具身体验与感知联觉，使其难以获取那些不可言传的凭借个体肢体语言、表情语言等生成的人格互动与浸染[5]，不得不进行“去知觉化”的交往，从而遮蔽师生进行心灵交流的必要“物料”，出现师生情感互动阻隔等问题。 (三)信仰伦理向度：意识形态安全的风险 课程本质上是对较大可能范围的社会知识和原理进行选择的结果[9]，体现着主流阶级的意志、价值观念等，是一种官方知识。作为课程的有形载体，教材自然是国家主流意识形态、中华优秀传统文化与社会主义核心价值观的重要载体，是国家意识形态安全的无形边界，事关国家长治久安与民族危亡。[10]因此，教材建设必须深度整合党的政治信仰和理想信念，有意识地筛选符合知识性、价值性与思想性的“合法化知识”。阿普尔(Apple)指出，“合法化知识”需要经过三个步骤：一是知识在脱离原有情境的基础上，根据当前政治规则进行重塑和改变；二是基于学生的理解和社会价值规范去“选择、简化、浓缩和苦心经营”；三是对知识文本再定位以平衡各方利益。[11]然而，数字教材所具有的开放性、无边界性等特点，可能会破坏“合法化知识”的形成条件。一方面，数字教材能够容纳海量知识资源，内嵌无限层次的超文本链接，不断生成新内容，使教材内容选择在“应选”“不选”以及“选择但修改”之间的界限不甚分明[12]，加大了知识根据政治规则重塑和改变的难度，导致蕴含国家主流价值观的知识难以被有意识地“强化”，从而出现意识形态风险。另一方面，数字教材给予了学生、教师等相关主体对其进行再造和重组的“权力”，这无疑会加大编制者根据学生的理解和社会价值去选择的难度，同时增加了数字教材政治审核的难度与复杂度，很可能导致行政机关的审核权力虚置空转[13]，从而削弱数字教材本身应具有的政治性。 (四)资源伦理向度：教育不公加剧的风险 教育公平是指人人能够获得均衡而优质的教育，都有人生出彩的机会，具体指学生享有公平的入学机会，在教育过程中受到公平的对待，教育结束后能够得到全面而充分的发展。[14]数字教材可能会使学生难以获得实质性的教育公平。一方面，数字教材可能会加剧“数字鸿沟”，阻碍教育资源的平等获取。从研发者来看，数字教材研发主体主要是科技公司，受资本逐利属性的影响，其所开发的数字教材可能会违背教育的公共属性与公平原则，难以真正面向全体学生，而且不同公司之间存在利益冲突、系统不兼容等问题，容易出现信息孤岛，导致学生所使用的数字教材质量存在差异，从而加剧教育的不公。从使用者来看，不同地区教师的数字素养之间存在的较大差异，是造成并扩大城乡基础教育“数字鸿沟”的主要原因。倘若强推数字教材，可能会出现马太效应，进一步加剧教育不公。从技术更迭来看，数字教材更新迭代较快，其所使用的大数据、虚拟现实等数字技术、设备的购入与维护等需要大量的资金与人力投入，相对落后的地区可能无法满足这些条件，这就会扩大数字鸿沟。另一方面，数字教材可能会遮蔽教育不公现象。数字教材具有“流动空间”与“无时之时”的新时空特征，模糊原有空间环境和时间架构[15]，看似能帮助处于落后地区的学生获得优质的教育资源，但这也可能遮蔽实际学习空间中落后与发达地区的差异，从而加剧教育不公现象，影响教育均衡发展。此外，数字教材的使用需要较强的学习自主性和专注力，由于教师监督的离身性，容易使专注力差的学生缺少必要的外在监督，从而加剧学生之间的“学习鸿沟”。 (五)算法伦理向度：责任模糊与隐私风险 算法是数字教材设计和运行的核心要素，具有不确定性和不透明性，同时表现出一定的自主性特征，因而在应用性场景中常常会出现归责性困难、个人隐私泄露等算法伦理风险。其一，数字教材算法的拟人化与主体责任边界模糊。作为数字教材运行的基础和驱动力，数字教材算法一旦失灵，势必影响数字化、个性化、泛在式的教学活动的开展，出现错误推送、数据不准确、算法歧视等危害性后果。由于数字教材算法工作原理与运行机制是不透明的，无法被观测和解释，且在运行中能够自主作出决策，因而难以根据传统伦理规范所认为的“道德主体的行为在意志自由时应承担相应的责任”[16]的原则来判定相应的责任主体，从而出现责任不明的问题。其二，数字教材数据与隐私风险。数字教材利用大数据、云储存、多模态分析等算法技术全方位采集、存储、分析和应用师生个人信息、教学行为、教学轨迹等教育数据，给教育教学活动提供巨大价值和便利的同时，也蕴含着教师、学生等相关主体的隐私泄漏风险，而且数据的采集、使用越充分，所带来的危害可能越大。这些教育数据很容易被别有用心者恶意攻击，出现隐私泄露、数据信息被用于某些营利性活动等伦理问题，同时还可能会因为数据过度挖掘、非法采集等行为，侵犯使用者的隐私权，损害他们的人格尊严与意志表达，从而引起师生对技术的恐慌、不信任，导致技术与教材难以有机结合，阻碍数字教材的高质量发展。 二、数字教材伦理风险的成因 数字教材伦理风险是在人、技术、制度等因素的共同作用下引发的，其诱因具体表现为在主体层面的伦理素养与数字素养不足、在技术层面的数字技术水平不高及在制度层面的数字教材相关伦理制度建设不健全。 (一)数字教材主体伦理素养和数字素养不足 芒福德(Mumford)等人将技术视为“巨机器”体系，认为这一体系“已经充斥着整个人类文化和实践领域，并以强制性和极权主义色彩‘压制’人类，只有人类具有‘同化’机器的能力时才有可能实现对技术的超越”[17]。埃吕尔(Ellul)指出，如果人在技术面前真的具有自主性，至少需要做到两件事：一是人能够给技术赋予方向和定位，二是人们进而可以控制技术达成既定的定位。[18]这意味着，数字教材相关主体既要具备相应的伦理素养以保障数字教材开发和使用的正确方向与定位，又要具备相关的数字技术知识、技能等数字素养以使数字教材的开发和使用符合教育规律。然而，当前数字教材相关主体的素养并不能支撑他们完成这两件事，因此很容易丧失其在数字教材面前的自主性，引发相关的伦理风险。其一，相关主体的伦理意识薄弱。数字教材开发者缺乏责任意识，没有严格按照规定选择可靠的数据进行数字教材算法训练，使数字教材形成带有价值偏见的算法和数据，影响师生的正常教学活动，从而衍生教育技术歧视、教育不公等伦理风险；数字教材使用者，既缺乏风险意识，没有对数字教材可能引发的伦理风险与负面效应，特别是意识形态风险的审慎意识与必要警觉，又缺乏教育伦理意识，容易在虚拟离身的教育场域中降低对自身的德性要求，从而出现信仰伦理、关系伦理等风险；数字教材其他相关者的算法伦理意识淡漠，他们可能会利用数字技术的便利性侵害师生的隐私与安全，造成隐私泄露问题。其二，相关主体的伦理风险防范与应对能力有限。数字教材的开放性与生成性使其具有较强的复杂性，其背后的算法与数据非常庞杂，可以说超出人们所能清楚认知的范畴，因而难以有效预测与应对数字教材所产生的伦理风险。其三，相关主体数字素养不足。一方面，一些教师缺乏深入接触数字技术的机会，不清楚数字教材的理念和使用方法，仅仅关注其中的教学资源，甚至有部分教师固守传统观念，产生排斥数字教材的情绪；同时，也存在一部分教师迷信和迷恋数字教材，在教学中过度依赖数字教材，导致其主体价值的遮蔽。另一方面，学生出于好奇会不断点击相关的超链接，沉浸于数字教材所构建的趣味化虚拟环境中，偏离学习目标，最终“因缺乏数字化学习素养和自主学习能力而沦陷于浅表学习、无效学习甚至虚假学习的窠臼”[19]。 (二)数字教材技术存在内在缺陷 从历史经验来看，许多伦理问题的产生与技术水平低下息息相关。[20]当前，数字教材技术水平不高，存在内在缺陷，导致其在运用过程中暗藏伦理风险。第一，数字教材算法本身存在的不透明、不可靠、不可控等问题，是产生教育不公、师生的主体性缺失、责任归属不清等伦理失范行为的关键风险点。数字教材算法由一系列晦涩难懂的专业化程序指令构成，犹如“技术黑箱”[21]，难以被审核者与使用者所观测、理解和控制，进而出现算法权力的失衡现象，这不可避免会导致算法歧视，影响教育公平以及师生主体性的发挥；数字教材作为人为设计的产物，其内在算法的形成与优化过程不可避免地受到设计者个人偏见的影响，并且在运行中不断加深这些偏见，很容易形成“自我实现的偏见循环”，从而影响数字教材算法输出的准确性和可靠性，同时增加识别和解决伦理问题的难度，进而产生意识形态错误、归责不清等伦理风险；数字教材能够运用大数据技术对师生在教学过程中所产生的数据进行推理与预测，已经涉及自主决策能力，倘若进一步发展势必难以为人所控制，从而导致人的自主性的丧失。第二，数字教材数据的生成、收集与存储需要依托一定的服务器，而这些服务器多掌握在少数机构手中，普通人即使掌握数字教材的相关数据也没有办法直接利用，这就使数字教材的数据使用成为少数机构的“专利”。这些机构在围绕教育数据价值发现、挖掘、传输与存储等活动中获得了非对称性的优势，拥有数据权利，甚至可能出现“数据霸权”“数据独裁”等问题，导致师生隐私被侵犯。第三，数字教材的复杂操作可能引发教育公平风险。随着教育现代化进程加快，数字教材也开始步入4.0版本，是“内容+功能”的集合，具有强大的功能性作用，可以为教师和学生提供丰富的资源。[22]这意味着数字教材的操作具有一定的复杂性，对使用者的数字素养有一定要求。不同区域教师的“素养鸿沟”仍普遍存在，尤其是乡村教师信息技术应用能力薄弱，信息化教学意识不够、能力不足。[23]因此，数字教材较为复杂的操作可能会使不同地区师生的使用效果有所差异，从而引发教育公平风险。 (三)数字教材伦理制度建设滞后 文化的发展与建构具有滞后性，落后于科学技术的发展。[24]作为文化的一种形式，伦理制度的发展与建构自然会滞后数字技术的发展。当伦理制度处于缺位或者待完备状态时，个体缺乏有针对性的行动指南，也难以对伦理风险进行责任追究，因而极易引发伦理失范行为。作为数字技术在教材领域的应用成果，数字教材的发展态势迅猛，其所产生的伦理问题与传统伦理问题有着内在差异。已有的伦理制度难以解决数字教材带来的伦理问题，而与之相应的数字教材伦理制度却没有与数字教材的发展同步建立起来，呈现明显的滞后性，虽然也有一些改进的措施，但是缺乏系统性和针对性。这就使数字教材相关主体由于没有外部约束而出现侵犯隐私等问题，同时由于伦理标准的缺失也让责任边界不明等伦理风险有了可乘之机。第一，数字教材研发行业伦理规范不健全。数字教材设计行业缺乏执行意义上的规范，使数字教材设计者忽视可能产生的伦理风险，致使师生陷入“技术盲区”，同时，他们也“缺乏必须的教育知识与经验，可能会无意间创造出阻碍人类发展的技术结构”[25]，出现数据或算法偏见等问题，使数字教材难以进行全信息审核，导致算法伦理风险的产生。第二，数字教材审核制度不完善，容易引发意识形态风险。一方面，当前出台的是“结果标准”，即只检测作为“成品”的静态数字教材，忽视对数字教材的编制和运行过程的审查，即对数字教材算法的产生及优化过程、数据使用过程等的审查，因而难以对数字教材不断生成的内容进行全过程审核。另一方面，数字审核主体单一。当前数字教材审核主体主要是教育行政部门、数字教材编制团队、出版机构、科研人员等，缺乏社会其他组织和公民的参与，尚未形成多元共治的审核格局，难以保障数字教材内容的科学性、结构性、教育性等。第三，数字教材监管机制不健全。“在运行环境中，数字教材的安全性监测、日常维护机制、服务系统运维、阅读终端检测等监管机制还很不健全。”[19]这使师生在使用数字教材的过程中可能面临个人信息泄露、恶意软件攻击等隐私安全风险。同时，由于缺乏有效监管机制，数字教材可能出现意识形态风险，如推送错误信息、偏见信息，从而影响学生正确价值观的形成。 三、数字教材伦理风险的规避 如上所述，数字教材伦理风险的产生原因涉及人、技术、制度等维度，因此，为规避数字教材伦理风险，需要从以下维度寻求伦理治理的应对之策，以有效防控数字教材伦理风险。 (一)素养提升：建设一体化数字教材培训体系，培养主体前瞻性伦理决策与应对能力 海德格尔说，“真正可怕的东西并非世界成为完全技术的世界。更可怕得多的是人对这世界变化没有准备，我们还不能够沉思地达到适当地探讨这个时代真正上升起来的东西”[26]。数字素养与伦理素养的缺失与不足使数字教材主体难以应对技术介入所带来的伦理风险，被动沦为技术的“奴隶”，或“自甘堕落”式享受技术“福祉”而忽视技术不断扩张所带来的潜在伦理危机。因此，亟须提升数字教材主体的数字素养与伦理素养，提高主体的技术驾驭能力，保持人在数字教材面前的自主性，从而发挥数字教材之于人的发展的革命性力量。第一，搭建“政企校”三方合作平台，联合建设一体化数字教材培训体系。数字教材主体归属的机构主要是政府、企业和学校，且他们所须学习的数字教材伦理内容存在共性部分，因而可以建立以政府为主导，联合学校、企业的协同机制，共同构建一套全面应对数字教材伦理风险的培训体系，从而提升培训体系的质量，加快数字教材主体数字素养与伦理素养的发展。第二，设定一体化培训目标，即培养数字教材主体的前瞻性伦理决策与应对能力。前瞻性伦理决策能力是指在数字教材使用前充分考虑其潜在的伦理风险，思考应对策略与方法，反映的是人在应对数字教材伦理风险中的主动性。技术介入下的教材伦理风险具有更强的潜在性、不确定性，具备前瞻性伦理决策能力能够增强数字教材主体的自主性，避免其成为技术的“附庸”。伦理风险应对能力是主体解决潜在与显在伦理风险所需要的能力，具有较强的实践性，能够让师生的主体性成为“现实”。第三，通过精准调研数字教材设计、审核与使用过程中的问题，设计分层分类的数字教材培训内容。一方面，以国家中小学智慧教育平台为载体，提供关于数字知识与技能、伦理知识、国家主流意识形态学习等基本课程资源，提升数字教材主体的数字素养，并使其掌握伦理清单法、道德影响评估法、伦理矩阵法等[27]应对伦理风险的方法，继而进行相应的合格性测评，从而减少主体伦理意识缺失所带来的意识形态错误、教育不公等伦理风险；另一方面，设计分层分类的个性化培训课程内容，并利用数字教材提供的实时数据来动态调整培训内容，使培训内容更具针对性，从而提升培训效果。第四，利用大数据等技术对数字教材培训情况进行伴随式数据收集，定期、全面评价数字教材主体前瞻性伦理决策与应对能力，从而提升他们应对数字教材伦理风险的能力，使其能够预判并采取相应措施规避隐私泄露、教育不公、意识形态错误等风险。 (二)技术优化：汇聚与融入多元智能数字技术，驱动数字教材伦理风险“三全”治理 “从技术发展史来看，新技术的诞生是革命性与缺陷性同在，并在发展的过程中不断通过改善其弊端促进其完善和优化。”[28]作为新技术革命的产物，数字教材在发展之初不可避免存在各种伦理风险，需要通过技术内部的优化升级来加以解决，即在数字教材设计和使用的同时不断优化升级，汇聚与融人多元智能数字技术，利用新技术提高数字教材的安全性与教育性，实现对伦理风险的全方位、全过程、全员治理。根据上述对数字教材伦理风险表征及归因分析，数字教材算法的不完善是隐私泄露、意识形态难审查、师生关系异化等伦理风险产生的重要原因，因此需要针对这些问题不断优化数字教材伦理预防与监测技术。一是可以将敏感数据自动识别、区块链、隐私计算等技术融入数字教材技术体系之中，优化数字教材数据。将这些技术作为数据库的基础技术，用于筛除错误或不符合国家主流意识形态的信息，避免数据偏见，同时利用这些技术对师生的敏感与隐私信息进行筛选和加密保护，保障数据传输、存储、分析、运用各环节的安全，确保数字教材主体的知情权、访问权、使用权公开透明，从而解决数据流通过程中由于数字教材主体不信任所引发的伦理问题，规避意识形态错误、师生隐私泄露等伦理风险。二是优化数字教材算法，实现数字教材算法内部伦理监管的自动化。一方面，采取价值敏感设计、透明度设计和道德学习设计等方法设计数字教材算法，使数字教材能以“负责”“透明”和“学习”的方式获得道德属性，作出符合伦理道德的决策和行为，并考虑行为后果[29]；另一方面，通过自我修正等技术自动化应对和管理数字教材伦理风险。自我修正技术是数字技术的内在预警系统，即在算法中设定一定的“界限阈值”，当某一个数值达到界限值时，就发出预警并自我调整。[28]这一技术能自动化监控和调节数字教材算法运行过程中的不合理现象，如解决数字教材个性化推送所导致的主体价值偏离风险，当师生在浏览某一类型的教育资源达到一定的阈值后，该技术能自动化调节这一类资源推送频率并推送其他类型的教育资源，确保师生接触信息的全面性、系统性，破除技术带来的“信息茧房”。三是在数字教材技术系统中嵌入智能感知、情感识别与干预、多模态学习分析等技术，解决师生情感异化以及意识形态难审核等问题。智能感知技术和情感识别与干预技术能够帮助师生在应用数字教材的过程中识别彼此的情感变化与需要，解开技术对师生情感的藏匿与遮蔽，同时可以利用全息投影、VR、AR等技术渲染师生情感交互氛围，加速师生双方进入情感交换状态，增加双方情感交互的频率与深度，捕捉师生的心理沉浸状态，增强师生的心理沉浸感知[30]，从而确保和谐师生关系的形成。多模态学习分析技术能够审核交互内容，实现对数字教材的全信息审核，以保障国家主流意识形态的主导地位。上述新技术的融人既能帮助数字教材进行全过程、全方位的自动监测，又能为数字教材利益相关者全员参与提供技术支持，从而实现对数字教材伦理风险的“三全”治理。 (三)制度建设：完善数字教材的伦理制度规范，建立伦理风险的动态评估与预警机制 数字教材伦理治理“需要重构我们曾经有过的这些制度，或者建立新的制度”[31]，在数字教材发展的实际进程中还要不断推进伦理