人工智能赋能医学教育的伦理困境与疏解

人工智能赋能医学教育的伦理困境与疏解[摘要]人工智能给医学教育带来跨越式发展机遇,以健康为中心、以交叉跨界融合和人工智能技术广泛应用为特征的第四代医学教育正在到来。人工智能赋能医学教育为教师提供了多形态的帮助，包括辅助教案设计、助力课程规划等。但医学教育的特殊性与人工智能算法的机械性，导致人工智能介入医学教育时出现伦理困境，例如教学关系异化，教与学关系失衡;人文精神遗失，偏离医学育人本质;主体权利失效，算法侵害个人权益等。面对人工智能赋能下高等医学教育的伦理困境，需要政府、社会、医院、学校协同共治，并从重塑师生个体，稳固教学平衡;强化人文精神，医学人文回归本真;完善伦理环境，保障主体合法权益等多个层面采取策略。[关键词]人工智能;医学教育;伦理困境;人文精神0引言人工智能((artificialintelligence,AI))是以计算机技术为基础,融合多种学科形成的一种新质生产力,是新一轮科技革命发展的重要动力,以其智能化、高效化、人性化等众多优势，被广泛地推广和应用于众多领域。《国务院关于印发新一代人工智能发展规划的通知》中明确指出“要利用人工智能技术加快人才培养模式、教学方法改革”,为人工智能技术在现代教育领域的应用提供了政策支持。医学教育作为高等教育的重要组成部分,为健康中国战略背景下培养高素质医学科技人才起到中流砥柱的作用。随着新科技革命的迅猛发展和人们对健康服务需求的增加，以健康为中心、以交叉跨界融合和人工智能技术广泛应用为特征的第四代医学教育正在到来。医学技术与医学教育相辅相成,共同发展。AI赋能医学教育的优势在于构建智能化教学平台，创建虚拟现实仿真教学场景，丰富教学资源等。但AI算法的不透明性、算法黑箱等导致医学教育存在许多伦理困境。学生目前缺乏结构化和标准化的医疗人工智能教育,不利于医学教育的顺利开展,亟待采取科学的策略进行处理。1AI赋能下高等医学教育的伦理困境人工智能在医疗领域的主要活动包括个性化治疗计划、药物开发和虚拟医疗服务。目前中国应用于患者问诊与病例记录、药物研发与生物库信息管理、疾病筛查与精准医疗、临床试验及医院管理。尽管医疗人工智能领域不断发展,但医学教育并没有跟上医疗人工智能取得的显著突破，导致伦理困境的产生。为AI赋能高等医学教育产生的伦理困境寻求依据,笔者将人工智能技术在医学教育领域的代表性应用场景及具体内容案例进行以下汇总(见表1)。表1AI赋能医学教育应用场景高等医学教育机构名称AI赋能医学教育名称实施内容首都医科大学智慧口腔医学虚拟仿真实践基地建设与教育教学应用建设智慧口腔医学虚拟仿真实践基地,打造实训环境,集虚拟、模拟、临床实践为一体的循序渐进式口腔实践教学模式北京大学医学部智能医学教师-AI课程平台建设智能医学博士(AIMD)-医学教材智能助手搭建包括AI思政、AI助学、AI助教、AI助管等各方面的“数智育人”体系北京协和医院虚拟现实系统实现沉浸式教学基于VR技术的鼻内镜教学系统为鼻颅底区域解剖学习和手术训练提供更为便捷和高效的解决方案。复旦大学医学人工智能与机器学习涵盖人工智能在医学影像学数据、组学数据、电子病历数据等三大生物医学场景中的运用上海交通大学医学院上海交通大学医学院“人工智能+医学教育”行动方案建设AI+专业与AI+微专业、开展AI+教学资源建设、完善智慧教学平台建设、探索AI+教育教学评价、实施教师AI素养提升计划五个方面开展探索和实践中国医科大学行业AI应用创新孵化营医疗+AI专题活动人工智能标准化病人(AISP)的病史采集和医患沟通课程;AIGC大语言模型原理|多模态大模型设计与训练主题南方医科大学AI赋能医学影像教研创新平台,共创产教学研用融合新生态构建影像教学AI助理、知识图谱等系列功能模块;影像教学AI助理采用先进的大语言模型与苏格拉底式教学法,以对话形式引导学生主动思考;为学生提供真实的学习场景和模拟实践机会四川大学四川大学人工智能素养教育嵌入本科教育教学行动指南华西医学院从智慧化实验教学平台建设、一流数字化实验教学资源打造、临床技能实验教学课程范式创新三个维度,建设了以卓越临床胜任力为导向,深度融合人工智能技术的多模态临床技能实验教学体系重庆医科大学“新医科”背景下基于人工智能的“两融合两拔尖”生理学智慧化教学借助人工智能赋能的生理学智慧化教学体系,将碎片化的知识点关联为知识网络;以导入临床病例的形式构建问题图谱和能力图谱,直观呈现知识点与临床的联结,实现“基础+临床”的融合1.1教学关系异化,教与学关系失衡2024年,在解读党的二十届三中全会精神发布会上,教育部介绍中国已建成世界上规模最大的教育体系,各级教育普及程度达到或超过中高收入国家平均水平,高等教育毛入学率超过60%,进入世界公认的普及化阶段。此背景下,AI赋能医学教育,会对传统教学关系产生巨大冲击。传统医学教育以言传身教为基础,在教学实践过程中教师对医学生的成长起到引导与指导作用。随着AI技术的应用,会导致传统教学关系发生变化,教师在医学教育中的主体地位发生转变，逐渐转变成“教师+AI”的模式。教师在教学的过程中过度依赖人工智能算法，将导致教育主动权转移。教师不再主动分析学生的兴趣爱好、学习能力、知识储备、临床实践能力等,只是借助人工智能算法制定医学教学方案和分析学生情况，致使学生和教师之间的关系转变为智能算法的数据关系，无法完成师生互动，失去传统言传身教的人文温度。例如，在审核试卷时，AI根据教师设定的标准答案形成固定算法，对学生的试卷答案进行评判。这种方法对于主观题来说失之偏颇，教师只能看到AI评判后的对与错，并不能了解到学生在面对医学主观题时的逻辑与错误方向，更无法掌控医学生对专业知识的理解程度。若医学教师长期依赖AI技术，势必会导致自身与学生之间的情感关系逐渐走向陌生化，教师与学生之间的情感羁绊越来越浅。研究发现，ChatGPT的初始公开版本在美国执业医师资格考试(UnitedStatesMedicalLicensingExamination，USMLE)中能够达到及格水平。ChatGPT高级版本在某些临床考试或专业技能考核中的表现超过了医学生、住院医师甚至执业医师的表现，如今有许多大型语言模型与ChatGPT的能力不相上下。长此以往，AI是否能代替医学生、住院医师甚至执业医师呢?同时,医学教育中教学方法、学习技巧等都可以通过AI算法获得，医学生自己也可以通过AI检索答案，会导致学生心中产生如下疑问:“AI也能帮我答疑解惑，甚至讲解的内容比教师更加细致，还可以重复观看、反复询问，那还需要老师吗?”若教师在医学教育环节过度使用AI技术，不重视与学生之间的情感互动，势必会导致教学关系不断异化，弱化师生之间的情感交流，不利于医学教育事业的发展。1.2人文精神缺失，偏离医学育人本质医学人文精神是经过千百年的历史沉积形成的宝贵精神财富，是人文主义、人文价值观的进化、修正。《医学人文关怀提升行动方案(2024-2027年)》(以下简称《行动方案》)中明确指出医学人文精神必须始终坚持“以患者为中心”原则,在救治患者时充分体现人文关怀,尊重、关心患者,在与患者沟通、交流的过程中让其感受医疗的温度,展现医护人员高尚的医德医风。《行动方案》强调医学教育必须强化对学生人文精神的培养，提升学生人文认知，并在教学中强化人文精神教育落实。AI技术在医学领域的应用，虽然经过算法的不断迭代、更新，可以无限接近人类的思维，但是其实质依然是类似人的数据算法，赋能医学时无法实现对人类关于同类“善意”情感的完全模仿，只能以概率数据体现对人类的人文关怀。AI赋能医学教育时，机械的智能算法无法将医学人文精神蕴含的理念、观念、思想等有温度地传递给医学生，在医疗救治的过程中无法让患者体会到人文关怀，难以提高患者的就医满意度，不利于和谐医患关系的构建。1.3主体权利失效，算法侵害个人权益AI赋能医学教育的初衷是利用智能化技术,推动医学教育实现从传统教育向智能化教育转型。AI赋能医学教育背景下,智能算法的公正性是导致医学教育出现伦理问题的核心。由于AI算法是由技术人员设置,算法的数据由海量的历史数据组成,但是数据中存在众多不公正、不公平的数据信息，导致算法生成的教育数据、方案缺乏公正性、客观性。教师利用AI技术进行医学教学时未经过筛选,会导致不公允、不公正的算法、模型影响医学教学的公平性。AI技术对医学教育主体权利的影响主要表现在以下几个方面:其一，AI算法存在许多错误的医疗观念，例如“性别歧视”“种族意识”等。由约翰·霍普金斯大学、佐治亚理工学院和华盛顿大学的研究发现，机器人在第一次装载了一个常见的人工智能模型后，竟然具备了明显的性别和种族偏见。AI通过这些有缺陷的神经网络模型学习到了有毒的刻板印象。错误的观念会误导医学生的思维逻辑，导致医学生在临床实践过程中出现有失公允的医疗行为，例如对不同种族、不同性别的患者采用区别化的治疗方案，这种错误的医疗观念异常危险，与传统医者仁心、救死扶伤、悬壶济世的普世医疗思想背道而驰。基于AI错误观念形成的思维偏差,甚至会致使医学生在职业生涯触犯法律。因此,我们必须清醒地认识到,AI作为辅助工具,不会为自身的错误观念负责,最后责任承担者还是医学工作者。其二，AI算法存在“信息茧房”。此概念由美国CassR.Sunstein在《信息乌托邦-众人如何生产知识》中提出，指的是人们只选择自己想选择的事物或者能够愉悦自己的事物，长此以往会产生信息茧房，导致人们坠入信息陷阱，被“牵着鼻子走”。AI技术在医学教育中的运用，会根据教师、学生的使用喜好、偏好等，智能推送固化的知识、信息，其他被AI认定为“不感兴趣”的信息被排除。导致教师、医学生只能被动地接收AI算法认为正确的信息，其他有实际价值的信息却被剔除，致使产生信息茧房。AI技术在医学教育中的应用，受AI算法固定式的影响，导致医学教育中教师形成固化思维，主体权利失效，只能被动接受。其三，AI算法会采集海量的数据信息，由于缺乏有效监督，医学教育引入AI技术会导致师生信息面临诸多风险。例如，在AI赋能医学教育中需要录入采集广泛的医学生实验成果数据及患者的医疗数据，这会导致发生隐私泄露问题。尤其是重要的临床试验数据，被黑客攻击导致试验数据泄露，不仅会侵害教师和医学生的合法权益，还会导致患者私人信息泄露，影响患者的正常生活。2AI赋能下高等医学教育伦理困境的解决策略2.1重塑师生个体，稳固教学平衡AI对传统高等医学教育师生关系产生了巨大冲击，为了稳固教学平衡，亟须重塑师生个体，提高教师AI教学素养，提升学生AI学习能力，既能够保证医学教育工作顺利开展，又能够降低伦理风险。2.1.1建立AI赋能医学教育的专项培训医学的真正魅力在于能够与患者建立联系。一位医生每天要花很多时间查阅病历、写反思笔记，人工智能利用大语言模型(largelanguagemodel,LLM)从电子病历(electronicmedicalrecord,EMR)记录中自动构建生物医学知识图谱(knowledgegraph,KG)的方法,会帮助他们节省一些时间。这些时间若是花费在患者更为需要的地方,便是AI赋能医学真正的意义。因此，要抓住AI带来的机遇,学校需要做好医学教师教学技能培训工作。AI技术作为辅助工具，通过教学技能培训，帮助教师了解AI技术赋能医学教学的方法、操作技巧、管理方式等，还需要重视对教师专项医学教学技能的培训,锻炼临床实践能力,在临床带教过程中教会学生AI算法未涉及的内容。例如,临床实践中会遇到不同类型的患者,不同患者的性格特点、医疗服务需求等不同,需要为患者提供差异化的治疗方案、心理护理措施等。学校对教师开展的专项培训,采用比赛教学法、顶岗实习、校医联合等方式,以多元化的教学模式不断提高教师的各种教学能力，为后续医学教育的顺利开展奠定基础。教学单位承担着医学教育的管理职责，需要充分认识到AI介入医学教育专项培训的重要性。为了规避医学教育理论风险,应定期针对医学教师开展专项AI赋能医学教育培训工作,以便于提高医学教师AI教学素养和能力。例如,在使用ChatGPT时,医务人员应该将其作为辅助工具,对其输出进行审查和验证,并将其作为决策支持的参考,而不是替代人类专业知识和经验的工具。学校可以邀请AI专家学者开设专业讲坛、论坛,充分给予教师与AI专家或其他学者之间的沟通空间,让教师能够充分了解AI算法功能的同时，了解其弊端，增强对AI算法的认知。在教学实践的过程中合理利用AI算法,不过度依赖AI算法生成的教学方案,充分发挥自身的主观能动性，以自身知识储备、技能为主，以AI赋能为辅，在医学教学过程中秉持传统言传身教的理念，让学生能够充分感受教师教学的温度。2.1.2提高学生的数字素养数字时代，对学生的数字素养提出了更高要求，迫切需要运用数字技术改变学生的学习方式，构建适应数字时代的学习生态。医学教育过程中，教师需要教会学生正确使用AI算法的方法，在教学过程中需要充分发挥自身的主观能动性,通过专业讲解提高学生智能学习能力，包括技术能力、识别能力、创新能力。AI技术能力指的是需要学生掌握AI技术的操作能力,学生自己利用AI技术进行相关医学知识、理论等内容的检索、查看、学习等，为实现智能化学习奠定基础。学校开设AI公开课,为所有医学专业的新生开设为期一个月的医疗保健AI入门课程。AI算法理论、实操技巧等通识内容纳入其中,让医学生能够充分了解AI技术的相关理论知识、操作方法、数据处理技巧等，为AI赋能医学教育奠定坚实的基础。AI可以帮助医学生对大量的医学知识进行分类、检索和组织，提高学习效率。在此过程中，医学生的逻辑思维能力及小组合作学习能力将得到有效地训练。AI识别能力是对海量数据信息的识别、判断能力。因为AI算法存在“黑箱操作”的风险，影响AI数据安全性、权威性的因素众多，导致利用AI技术检索的信息存在许多不确定因素，查询到的内容可能存在有害或虚假信息，医学生需要具备一定的信息识别能力、判断能力，不盲目信任AI算法生成的数据，以专业的医学职业素养识别虚假信息。同时，需要树立良好的医学职业道德观，杜绝利用AI技术进行学术造假，不沉迷于智能技术，而是以正确的价值观、职业观进行专业医学知识智能学习。AI创新能力指的是医学生利用AI技术进行创新学习。如果医学生想在医学领域有一定的成就，他们不仅需要卓越的医术，还需要与时俱进，具备AI创新能力。例如利用AI技术营造的虚拟现实场景,进行虚拟仿真医学操作,锻炼自身的临床操作能力,实现传统理论学习和医学实操学习的结合，不断提高学习效率。给予医学生更宽阔的视野去探讨AI在医学领域的最新用途，批判性地评估AI在临床决策中的局限性，以此为突破口培养其创新能力，让学生认识到未来医学将会有所不同。2.1.3增强师生之间的双向互动为转变医学生过度依赖AI技术的认识，医学教师需要增强与学生之间的互动，尤其是情感之间的交流，以此帮助学生树立正确的学习观念。教师通过沟通了解学生在医学知识学习过程中是否存在疑难问题，并及时提供合理的解决方案，提升学生对教师的依赖度。此外，还需要了解学生的情感状况，实现在临床实践中的师生双向互动，形成师生间的情感纽带。教师在临床带教过程中，一方面了解学生对临床知识的认知;另一方面对学生医学职业精神进行引导。在《行动方案》的指导下，教师改进专业课教学方法，建立以学生为中心的课堂氛围，重视学生的主体地位，以现实中的情景问题为核心，通过小组合作方式，让学生在模拟情景下真实感受，通过主观思考与讨论,达到学习效果。建立以教师为主导,以专业课程教育为主线,以专业知识、素质教育为目标的新型教育模式，完成师生双向互动。2.2强化人文精神,回归医学人文本真AI赋能医学教育时,医学教师需不断强化人文精神培育，帮助医学教师回归人文本真，将医学人文精神融入医学生教育之中，引导学生树立正确的价值观。2.2.1加强人文素养教育，坚持“以患者为中心”的理念“以患者为中心”指注重全生命周期健康管理，注重人在整个生命周期中每一个年龄段的健康质量，帮助纠正不良习惯，增强自我修复意识与康复能力。AI技术虽然具有先进的算法，但只通过智能算法无法解决关键的医学问题。因此，医学教育中需要增强学生人文关怀意识培育，学生在临床实践的过程中需要强化与患者的沟通，充分体现自身对患者的关爱，与患者建立良好的情感关联，帮助患者消除紧张情绪，体现医者温度。在临床实践环节，医学生一方面需要利用AI算法生成的智能诊断方案、治疗方案，并基于自身的专业判断，保证诊疗方案的科学性和合理性;另一方面，需要尊重患者，时刻与患者保持沟通，倾听患者的诉求，根据患者的病情、文化背景、价值观念、身体条件、心理需求以及家属的意见等，在给予针对性的科学诊疗方案的同时，以便于患者能够心甘情愿地接受诊疗结果与治疗策略。这不仅有利于患者的康复，同时也有助于提高患者的就医满意度。2.2.2创建人文应用场景，坚持“行善原则”“行善原则”要求医学生及从事医学相关的工作人员做出的一切医疗行为有利于患者，从患者角度出发，善待生命，选择最佳方案。培育需求，教师利用AI技术和设备的医学人文应用场景，创建智能化交互应用场景，让医学生在虚拟现实的场景中进行学习，为医学教育提供智能化的辅助支持。当医学生面临医学伦理困境时该如何抉择,这是AI赋能解决的伦理问题。医学人文精神始终以保护人类生命健康为核心,医学生在未来临床实践过程中会遇到各种抉择,当遇到突发情况时,医生的抉择至关重要。AI算法生成的保守治疗方案,治疗效果却不理想,抑或治疗方法激进,会威胁患者生命。当面临艰难抉择时，需要医学生有自己的判断，根据所学的医学专业知识、临床实践经验等选择合适的治疗方案，最大限度地保障患者的生命安全。因此,可以在AI技术创建的虚拟仿真应用场景中,让医学生在各种场景中自己抉择。例如,面对生命垂危但身无分文的患者,医学生该如何抉择?是否应秉持人道主义、救死扶伤精神,始终将人的生命权放在第一位?再如,患者经过抢救之后依然昏迷不醒，是否需要继续进行抢救?面对该种情况，医学生需要先根据自身的医学知识和经验给出专业判断,与家属进行沟通,让患者及其家属充分享有“知情同意权”,并告知家属对患者进行抢救的利弊。如果家属可以接受“不惜一切代价”抢救的后果，医学生则尽自己最大的努力抢救患者;如果希望渺茫，即使经过艰难的努力抢救回来，患者生活也无法自理，且经济条件无法继续承担治疗过程及结果，此时需要与患者家属进行商议,若家属不同意继续抢救,并且医院现有医疗条件无法保证患者病情逆转或者改善患者生命质量时，选择放弃治疗。这种抉择也充分体现了“行善原则”,符合生命伦理学原则与医疗规范对医务人员的要求。总之，医学生需要避免直接按照AI算法给出的方案制定医疗决策，而是需要秉持人文精神，根据伦理规范并结合患者家属的意见，综合考虑各种因素之后再进行抉择，避免生硬、简单照本宣科的方式。2.2.3拓展人文内容，坚持“医德”为主“医德”是医学的起点和本质，培育医学生人文素养是完成以健康为中心的医学模式转变的重要过程。“医乃仁术”是对医学最本质的概括，也是医学生人文素养的具体体现。健康中国战略要求通过多种措施促进医学生整体人文素养的健康发展，是医学生全面发展的迫切需求，也是医学教育创新人才培养的实践要求。AI赋能医学教育环节需要不断丰富人文精神内容，不仅对历史人文精神进行融合，还需要融合新时代的人文精神内容。例如利用AI技术的便捷性和有效性整理红医精神教育资源,将红医精神蕴含的人文精神、红色文化等融合到医学教育中,激励医学生,同时,帮助医学生树立责任意识、积极践行社会主义核心价值观,传承“医乃仁术”的理念。医学院校根据《关于加强科技伦理治理的意见》对医学理论教育课程内容进行规划,做好AI介入医学专业教学课程规划工作,根据医学不同专业课程的实际需求,规划不同的课程内容,尤其是人文与伦理课程。帮助学生树立健康的医德观念、职业精神,这样能够有效防止出现诚信失范等问题。2.3完善伦理环境,保障主体合法权益健康中国战略明确指出要进一步加强医学伦理的保障机制,健全医学伦理在健康科技创新中的作用。AI技术本身并无好坏之分,赋能医学教育的伦理困境,通常是由道德伦理问题造成。AI技术在医学教育领域的运用,需要营造健康、良好的伦理环境,以此保证各主体权益不被侵害。构建人工智能赋能教育新场景,将各领域人工智能最新发展和应用融入专业课教学。例如,游戏化学习,根据人工智能技术和游戏设计原则,将伦理内容融入游戏中,设定游戏关卡,学生通过挑战、积分等形式提升对伦理知识的好感度，激发学习兴趣。再者，利用AI实现互动叙事与角色扮演,根据学生的个性化需求构建教育游戏与模拟实验,将伦理知识带入虚拟医疗情境,使学生更好地增加体验感。2.3.1完善相关法律法规医学教育中应用AI技术时,为防止AI算法侵害各主体合法权益,必须不断完善相关法律法规建设，《生成式人工智能服务管理暂行办法》给中国的人工智能规范发展提供了法律支持,明确规定了AI算法设计、隐私保护等内容。基于此规范性文件,北京市发布了中国首份人工智能应用指南--《北京市教育领域人工智能应用指南》,指导学校师生稳妥有序地开展应用实践。其中建立了五项基本原则、对应用场景指引及应用规范要求进行了说明,但未涉及统一AI算法。中国还需要借鉴国外成功经验，例如由欧盟提出的《人工智能法案》(AI法案),对AI算法开发、使用等内容进行统一规范。在亚洲，韩国政府在2019年发布了国家AI战略,以促进AI的采用,包括在医疗领域的投资、研发、人才培训和伦理实践。AI介入医学教育时需要严格遵循法律法规,禁止对人类进行种族、性取向、信仰等信息的采集,更不能出售和泄露师生、患者的基础信息、患病情况等,一旦违反法律法规,必须追究相关负责人的责任，保证AI赋能医学教育工作“有法可依”“违法必究”，避免主体权益被侵害。2.3.2打破AI算法“信息茧房”医学教育涉及内容众多，为防止AI算法形成的“信息茧房”，需要消除算法偏见、扩大算法范围。此外，教师还需要对算法生成的信息进行分析、整理，做到查漏补缺，保证医学信息的全面性。AI算法偏见的产生，是由于AI算法根据历史数据自动生成“不感兴趣”的信息范围，并将之排除，为了消除偏见，医学教师需要主动参与到AI算法设计环节，对AI算法推荐的信息进行补充。如医学检验教学，不仅需要对检验基础知识信