医院应用医学人工智能专家共识

医院应用医学人工智能专家共识【摘要】目的：规范医学人工智能在医院应用场景中的全生命周期管理，保障患者健康权益，防范医疗质量与安全风险，为医院开展应用提供科学的管理规范，促进医学人工智能健康有序发展。方法：系统检索了2021年1月1日至2026年3月31日国内外相关文献、指南与标准，经中国医院协会医学人工智能专业委员会专家团队多轮线下及线上会议研讨与审议后最终定稿。结果：共识确立了“安全合规、公平有益、规划合理、分级实用”4项原则，围绕评估准入、部署使用、监管改进3个阶段，提出了12条专家共识，并制定了《医学人工智能应用场景分级分类管控清单》和《医院应用医学人工智能管理制度模板》。结论：通过系统性构建医院应用医学人工智能的管理框架，能够为医院及相关从业人员提供可借鉴的应用管理具体指引，有助于推动医学人工智能的规范化、精细化治理，并助力智慧医院建设与医疗行业的高质量转型。【关键词】医学人工智能医院应用场景分类分级专家共识1共识制定1.1概述医学人工智能（medicalartificialintelligence，MedicalAI）是指将人工智能技术应用于医疗健康场景，旨在辅助疾病诊断、治疗、预防、控制、研究等医学活动以及改善医疗管理和服务活动的一种新兴交叉学科领域。近年来，医学人工智能已成功应用于疾病诊断、患者分型、疗效预测等场景，推动了智能辅助诊断与临床决策支持系统的发展[1-3]。医学人工智能在医院的引进、部署、监管和更新已成为全球焦点。欧盟《人工智能法案》（2024/1689）[4]将医疗人工智能系统纳入高风险类别，要求上市前完成风险评估和符合性评审（包括数据质量、算法透明度、临床适应性证明等）。美国食品药品监督管理局《人工智能赋能医疗器械软件功能：生命周期管理和上市提交建议》促进了全生命周期管理理念推广，鼓励医院建立内部技术评估委员会，从临床需求、技术成熟度、伦理符合性等维度开展引进评审[5]。FUTURE-AI国际联盟提出公平性、普适性、可追溯性原则，贯穿于医学人工智能从设计到部署各阶段[6]。TRIPOD-AI[7]、CLAIM[8]和CONSORT-AI[9]等规范为研究提供标准化指引。国外医院人工智能治理已从单点控制转向系统化管理，形成包含技术评估、临床整合、人员培训、持续监测和应用更新的闭环。我国已出台《网络安全法》《数据安全法》《个人信息保护法》等法律法规，为医学人工智能应用提供了法律保障。2023年《全球人工智能治理倡议》[10]倡导以人为本、公平包容、安全可靠、共担责任、敏捷治理等原则。标准建设方面：2023年行业标准YY/T1833.2[11]和YY/T1833.3[12]规范了数据集质量和数据标注流程；2024年、2025年《人工智能安全治理框架》[13-14]系统分析了内生与应用安全风险并提出技术应对和综合治理措施；2024年《卫生健康行业人工智能应用场景参考指引》[15]对医学人工智能应用场景进行了划分。总体而言，我国医学人工智能应用管理尚处过渡阶段，现有规范多聚焦数据处理或局部场景[16-19]，未涵盖算法透明度[20]、临床验证标准等核心环节，缺少覆盖全生命周期的医院评估和管理体系。因此，亟需制定系统、科学的专家共识，明确各级医疗机构在医学人工智能应用中的管理要求。本共识旨在构建符合国情、与国际接轨的医学人工智能治理体系，从基础架构、功能框架、技术选型、应用场景、管理规范、建设策略等方面为医院及相关从业人员提供规范依据与指引，推动行业务实发展。1.2共识制定过程本共识由中国医院协会医学人工智能专业委员会发起，专家组由医院管理、临床医学、公共卫生、人工智能、计算机科学、医学伦理、法学等领域的多学科人员构成，无相关利益冲突。推荐意见形成：专家组成员筛选问题、充分评价证据后征求全体成员意见，赞成票≥80%（预先设定）形成共识。经多次线下线上会议讨论，于2026年5月定稿。1.3共识使用者及目标人群本共识的使用者及目标人群包括各级医疗机构、医学院校及研发机构中从事医学人工智能相关工作的医务、管理人员，以及相关监管部门和研发技术人员。1.4共识文献检索方法以“人工智能”“指南”“共识”“artificialintelligence”“machinelearning”“deeplearning”“largelanguagemodel”“supervisedlearning”“unsupervisedlearning”“semisupervisedlearning”“reinforcementlearning”“DeepSeek”“guideline”“consensus”为关键词，检索PubMed、WebofScience、Embase、中国知网、万方，纳入国内外相关文献、指南与标准，时间范围为2021年1月1日至2026年3月31日，不限语言。1.5利益冲突的声明所有专家和工作组成员均已签署书面利益声明，无相关利益冲突。2医院应用医学人工智能的管理要求2.1总体要求专家共识1：医院应遵循安全合规、公平有益、规划合理、分级实用4项原则，针对医学人工智能应用的评估准入、部署使用和监管改进3个阶段分别强化全面管理。（1）安全合规：各环节严格遵循法律法规，确保算法、系统、数据与网络安全，有效保障患者隐私。（2）公平有益：以改善体验、提升质量、增进福祉为目标，确保算法透明度与可解释性，避免技术偏差或资源不均引发医疗不公。（3）规划合理：从业务需求、资源配置、人才培养、风险管控等方面制定长中短期规划，确保技术引入符合医院战略与需求。（4）分级实用：依据风险等级分级管理，高风险严格验证与全程监管，中风险平衡创新与安全，低风险鼓励创新探索，实现科学布局与高效利用[21-22]。专家共识2：医院应构建与医学人工智能应用相适应的治理架构，成立医院人工智能治理委员会，统筹医学人工智能应用的规划、准入、伦理、部署、监测、更新和退出等全过程管理。医院人工智能治理委员会建议由医学、管理学、公共卫生、法学、伦理学、计算机科学等多领域专家组成，下设技术评估组、伦理与合规组、应用管理组、监测改进组[23-25]。其中，医学专家评估应用的临床价值与安全性；管理学专家评估应用对医院资源配置、管理流程和运营效率的影响；公共卫生专家评估应用对人群健康和公共卫生目标的潜在影响；法学专家评估应用符合法律法规要求；伦理学专家评估应用的伦理风险，保障患者权益；计算机科学专家评估应用的技术合理性及网络与信息安全风险。多学科团队协同，能从不同专业维度对医学人工智能应用进行全面评估与管理，确保符合医疗行业的高标准要求。专家共识3：医院应加强医学人工智能应用过程精细化管理，制定《医学人工智能应用场景分级分类管控清单》《医院应用医学人工智能管理制度》，制定与本院相适应的管理制度、技术规范、风险管控措施并严格落实。医院应构建“场景风险等级×技术成熟度”动态管控体系。参照《卫生健康行业人工智能应用场景参考指引》，依据对患者生命安全及诊疗决策的潜在影响，结合技术成熟度（包括研发测试、试点应用、规模推广三阶段），将场景分为高、中、低风险并实施差异化治理。（1）高风险场景：指直接介入诊断、治疗决策、侵入性操作或危重症干预等核心医疗行为，输出偏差可致患者严重健康损害。技术成熟度管控策略：①研发测试阶段：限于特定科室，使用经伦理审查及脱敏的数据开展回顾性研究或非干预性测试，严禁作为临床决策依据。②试点应用阶段：AI系统须已取得国家药品监督管理局（NationalMedicalProductsAdministration，NMPA）核发的医疗器械注册证；应用前完成院内部署评估，纳入医疗质量与安全管理体系；临床应用需取得患者知情同意，建立“专人逐例审核+强制人工确认”双重保障。③规模推广阶段：建立全生命周期动态风险监测与阻断机制；出现重大安全事件或性能严重偏离时启动系统退市流程，形成可追溯的责任体系。（2）中风险场景：指辅助一般临床决策、慢病管理或处理敏感数据，输出偏差可致效率下降或失误，但可经人工复核纠偏。技术成熟度管控策略：①研发测试阶段：科室落实监管责任并通过伦理快速审查（备案或简易程序），可使用回顾性数据探索研究；前瞻性应用需患者知情同意。②试点应用阶段：实施适度审慎监管。建议单/多中心真实世界验证，评估人机协同、模型稳定性、工作流适配度。③规模推广阶段：开展常态化性能监测，动态评估性能衰减风险（如“数据漂移”“算法概念漂移”等）。（3）低风险场景：指与核心诊疗弱相关的辅助服务，处理非敏感数据，风险可控。技术成熟度管控策略：①研发测试阶段：使用匿名非临床数据且不涉及个体诊疗信息，科室备案后开展，不必经伦理审查。②试点应用阶段：上线前完成基础网络安全与稳定性测试。③规模推广阶段：监管重心为基础网络安全、高可用性及用户体验持续改善。2.2评估准入阶段专家共识4：医院应依据国家和地方相关法律法规、政策指南、标准规范等文件要求，结合医院实际状况，依据《医院应用医学人工智能管理制度》，落实“应用开发者-医院管理者-应用使用者”三级责权体系（开发者责权应在采购合同或合作协议中予以明确）。医院应审查项目建设方案，明晰知识产权、医疗及法律责任、各方权利义务，确定验收标准与评价指标。应用开发者提供技术文档与验证数据，证明符合医疗安全和质量标准[26]；医院管理者统筹开发者资质审查、资源分配、风险评估及合规审查；应用使用者严格遵循操作规范，确保正确运用并报告不良事件。对应用所涉及的医疗器械注册/备案、算法备案、生成式人工智能服务备案、网络安全等级保护等专项合规要求，医院应同步核验以确保符合相应监管规定。专家共识5：医院应审查应用所属的场景级别与分类，依据《医学人工智能应用场景分级分类管控清单》，有针对性地核查应用的风险因素与管控要求。医院应依据产品是否具备NMPA医疗器械注册证实施差异化准入管理，同时对中高风险产品在规模化推广前开展真实世界验证。院应实施差异化准入流程：①对于已获NMPA医疗器械注册证且适应证明确者：核验其本地化适配性，简化前期测评;中高风险产品仍需开展院内评估(包括本地化数据分布验证、工作流适配性）；②对于未获NMPA医疗器械注册证者：原则上不得用于临床诊疗决策；确有科研测试需求，须经伦理审查后在严格限制条件下开展非干预性研究，并实施完整技术测评与数据安全评估。中高风险场景应用规模化推广前均需建立基于充足样本量的真实世界验证，根据预期病例量和统计学效力制定方案，积累足够样本，评估诊断性能指标（包括灵敏度、特异度、精确率、F1分数及ROC曲线下面积等）及人机协同效能（如任务完成时间、临床决策一致性等），期满后由独立专家组出具绩效报告，经医院人工智能治理委员会审批后准入。专家共识6：医院应建立应用分层伦理审查机制，并对医学人工智能算法模型开展深度的安全保障功能审核，确保技术透明、公平且可靠。具体审查内容应包括应用的算法、模型、技术架构设计文档、数据源、可解释性机制，以及可追溯日志、风险监测预警等内容。医院应依据场景风险分级不同建立免除审查、快速审查、会议审查等分层伦理审查路径。审查内容包括：（1）审查应用全流程的患者知情同意、隐私保护、人工审核和结果复核措施，在符合保密要求前提下向医院人工智能治理委员会通报结论。（2）审查应用安全性和公平性基本要求[26-28]。安全性：评估数据加密（传输/存储）、细粒度权限管控、审计溯源、脱敏机制，防止数据泄露或恶意篡改[29]。公平性：审查训练数据是否覆盖目标人群多样性（包括地域、年龄、性别、种族等），评估数据不平衡或标签偏差导致的模型性能偏移。（3）审查应用的数据供应链合规有效性，要求训练数据源自权威医学知识（如国家/行业标准、临床指南、专家共识等）及高质量真实世界数据；关键诊断任务的数据标注应由具备医学资质的人员完成，源头防控错误与偏倚。（4）审查算法/模型安全保障功能。要求可解释性机制清晰呈现决策逻辑或影响因素[30-31]，可追溯日志功能记录全过程并提供溯源依据，风险监测预警功能实时监控应用风险并预警。专家共识7：医院应依据公立医院高质量发展战略以及国家智慧医院建设规划，制定并定期修订医学人工智能应用发展的长期战略、中期规划与短期行动计划；对拟引入的医学人工智能应用项目进行审查，确保其需求契合医院发展方向，能为医院的医疗质量、安全和效率提供有价值的支撑。医院需关注技术应用的价值导向和可持续发展，建立长期战略引领、中期规划衔接、短期行动落地的分层推进机制，并根据政策导向、技术演进和医院需求动态修订，确保引入的医学人工智能应用符合医院实际发展需要并产生显著价值成效。通过统一规划与管理，能够有效防范数据孤岛、算法孤岛以及重复建设等问题，实现医学人工智能应用在医院内部的高效协同与创新发展。此外，应兼顾医疗机构特别是中小型医院的实际负担能力，避免因合规成本过高导致执行偏差。技术引入应注重系统建设的功能集约、能力复用，避免重复建设、资源浪费和系统碎片化，推动开放可持续的人工智能生态建设[32]。2.3部署使用阶段专家共识8：医院应在部署使用医学人工智能应用时，严格执行从上线到验收的全过程规范管理，开展全面有效的应用培训，落实患者知情同意与隐私保护措施，建立人机决策分歧处理机制，坚定捍卫医疗专业人员的最终裁量权。医院应在应用上线验收及项目终验时，由项目组与医院人工智能治理委员会（或授权工作组）联合验收，对建设过程、功能设计、业务流程进行全面验证、评价与考核。发现问题应制定限期整改措施，明确责任人与时间节点，确保及时有效解决。同时，应制定操作手册与应急预案，预判与防控风险点，确保应用稳定运行。医院应持续开展用户培训，提升用户综合能力与意识，精准落实各方面管理要求。培训涵盖技术规范、法规合规、伦理审查、质量控制、风险防控等要求，鼓励用户反馈问题与建议，参与新技术探索与优化[33]。中高风险场景应用须通过含完整风险告知的电子知情同意书（弹窗确认）或纸质文书等形式取得患者知情同意，采用匿名化、权限管控等手段防止隐私泄露。当医学人工智能输出与医生临床判断冲突时，医生拥有最终决策权。信息系统应强制要求医生从预设理由列表中选择或填写拒绝/采纳原因；高风险决策分歧（如手术方案等）应自动触发上级医师或多学科会诊复核机制。分歧数据经匿名化处理后自动记录，作为算法优化的基准数据[34-36]。专家共识9：医院应构建并持续完善医院统一的覆盖数据、人工智能算法/模型与算力的治理与共享平台，落实数据全生命周期安全治理，重视推进依法合规的医疗高质量数据集共享与交易以赋能医学人工智能持续研发迭代。医院应确认应用所依赖的数据、算法/模型、算力纳入统一平台管理，实现架构统一管理、资源高效利用、数据互联互通、系统整合集成以及技术持续迭代，打破数据壁垒，在保障安全隐私前提下探索跨机构可信共享。根据应用需求，配置必要服务器资源与数据接口资源，结合真实场景全面验证安全保障功能和性能指标，评估应用可靠性，并通过年度网络安全等级保护测评。原则上，医学人工智能应用及其相关训练、推理和应用数据应部署于医院完全控制的安全环境（如院内私有云、专属服务器或合规托管平台）。如需采用外部云服务，须通过数据安全评估并满足国家相关法规要求。应用所有数据交互（包括院内局域网和院外云端）均应采取加密措施：局域网内部可根据网络隔离等级与风险评估结果选用适配的安全协议（如TLS、IPsec或轻量级加密协议等）；面向互联网数据交互，必须采用全链路强加密方案。医院需构建数据安全治理体系，对数据收集、存储、处理、传输和使用等全过程严格监管，确保数据的保密性、完整性和可用性。同时，积极推进医疗高质量数据集的数据权益确认与授权使用，推动医疗数据资产入表及合法交易，实现“治理-研发-应用-迭代”的数据价值释放闭环，促进“产学研用”一体化发展[37-38]。专家共识10：医院应严格遵循《医学人工智能应用场景分级分类管控清单》所明确的应用场景禁止使用要求、分级分类标准、风险因素以及管控要求，构建应用调整优化和资源分配的动态精准管控流程。医院应根据应用所属分级分类评估并确定个性化风险因素和管控要求，借助信息系统构建基于规则的风险提醒或拦截知识库。信息系统应基于规则库和监测指标对应用过程风险进行动态监测、预警和拦截；应实时监测数据完整性、输入分布漂移、输出置信度等动态风险指标，及时向医护人员发出风险提醒；通过定期离线评估检测算法偏差及性能衰减，提供风险拦截建议和决策支持。医院需利用应用过程数据和风险监测数据，通过信息系统生成反映应用使用情况和风险态势的监测报表或指标，使业务科室和主管职能部门能够通过动态分析数据发现问题并提出改进方案，并据此修订分级分类管控清单，持续优化知识库，确保应用风险可控。2.4监管改进阶段专家共识11：医院应将医学人工智能应用纳入全院统一的医疗质量管理体系，建立突发事件应急预案响应流程、不良事件上报处置流程，构建一套完善的动态监测评估体系和闭环迭代优化流程，同时明确技术应用的准入与退出标准。医院应将应用纳入患者安全与医疗质量管理体系，运用各类质量管理手段如计划-执行-检查-处理（PDCA）循环、失效模式和影响分析（FMEA）、品管圈（QCC）等持续改进，建立突发事件与不良事件报告处置机制。应用须部署“系统阻断开关”：当应用发生严重偏差、输出或接口异常危及核心业务流程时，授权人员可一键阻断，强制人工接管。阻断操作自动记录并报医院人工智能治理委员会备案审核。医院应构建动态监测评估体系，监测技术应用过程与结果指标，如诊断准确率、模型输出与金标准的一致性、临床决策采纳率、目标疾病的关键疗效指标、不良事件发生率、人机协同效率等指标。通过实时监测与定期评估，及时掌握应用实际效果与潜在风险，为优化与调整提供依据。应急预案响应机制需针对系统故障、误诊风险、数据泄露等突发情况，制定应急处理流程与责任分工。医院应根据监测评估结果与临床反馈信息，向技术研发团队提出优化需求，由研发团队调整模型参数或算法架构，形成“发现问题-研发迭代-验证部署”闭环。此外，医院应建立应用退出机制，对出现严重风险或未达到预期效果的应用及时终止，确保医疗安全[39]。医院应建立模型更新机制，重大更新（涉及模型核心架构替换、训练数据发生根本性变化、性能关键指标变动超过预设阈值如±5%）须根据风险等级重新开展技术评估、伦理审查与真实世界验证，必要时重新准入。增量学习、参数微调或修复性更新可经医院人工智能治理委员会授权工作组简易审核后部署，加强后续监测。专家共识12：医院应持续监管并保障技术应用与医院发展目标相契合，针对医学人工智能应用制定详尽的年度专项预算，满足人工智能技术架构升级以及数据安全治理提升需求，保障技术应用的稳定运行与持续优化。医院需密切关注国内外政策法规动态及技术前沿趋势，对技术应用的有效性与合理性进行全流程实时监管。应构建动态监管机制，依据政策和技术变化及时调整应用方向与重点，确保与医院整体规划适配。通过专家评审、学术研讨、第三方测评等组织总结汇报与重新审查工作，至少每年一次修订医学人工智能应用发展的短期路径、中期规划和长期战略。年度专项预算应基于医院现状与规划，合理配置资源，重点聚焦技术研发创新、系统维护升级、数据安全保障以及人员培训等关键领域，为技术应用的持续发展奠定坚实基础。人工智能技术架构升级方案需结合技术发展趋势与医院实际需求，合理规划演进路径，确保具备良好扩展性、兼容性与前瞻性，支撑技术应用持续迭代升级。医院应重视数据全生命周期安全管理，制定严格的安全策略与防护措施，确保数据的保密性、完整性和可用性。应建立数据安全监测与应急响应机制，及时发现处置数据安全事件，防范数据泄露、篡改等安全风险，保护患者隐私与数据资产安全[40-41]。3结语本共识汇聚了医学人工智能领域多位专家的专业见解，系统性地构建了医学人工智能应用管理的专家共识。基于安全合规、公平有益、规划合理、分级实用等多维度原则，本共识明确提出了医院在开展医学人工智能应用时，从评估准入、部署使用到监管改进各阶段的管理关键要求。通过着重强调多学科团队协同合作、技术治理以及持续优化，本共识为医学人工智能应用的科学化、规范化、高效化管理提供了全面的架构与指引。未来，伴随医学人工智能技术的持续发展以及应用场景的不断拓展，本共识有望推动行业标准的进一步完善，促进医学人工智能技术与医疗服务的深度融合，为患者提供更优质、更公平的医疗体验，同时助力智慧医院建设迈向更高水平。参考文献[1]TopolEJ.High-performancemedicine:theconvergenceofhumanandartificialintelligence[J].NatMed,2019,25(1):44-56.[2]IqbalJD,KrauthammerM,WittCM,etal.Aconsensusstatementontheuseofdigitaltwinsinmedicine[J].NPJDigitMed,2025,8(1):484.[3]SadéeC,TestaS,BarbaT,etal.Medicaldigitaltwins:enablingprecisionmedicineandmedicalartificialintelligence[J].LancetDigitHealth,2025,7(7):100864.[4]OfficialJournaloftheEuropeanUnion,L2024/1689.Regulation(EU)2024/1689oftheEuropeanParliamentandoftheCouncilof13June2024layingdownharmonisedrulesonartificialintelligence(ArtificialIntelligenceAct)[EB/OL].(2024-06-13)[2026-06-01].https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng.[5]U.S.FoodandDrugAdministration.Artificialintelligenceenableddevicesoftwarefunctions:Lifecyclemanagementandmarketingsubmissionrecommendations[EB/OL].(2025-01-07)[2026-06-01]./regulatory-information/search-fda-guidance-documents/artificial-intelligence-enableddevice-software-functions-lifecycle-management-and-marketing.[6]LekadirK,FrangiAF,PorrasAR,etal.FUTURE-AI:internationalconsensusguidelinefortrustworthyanddeployableartificialintelligenceinhealthcare[J].BMJ,2025,388:e081554.[7]CollinsGS,MoonsKGM,DhimanP,etal.TRIPOD+AIstatement:updatedguidanceforreportingclinicalpredictionmodelsthatuseregressionormachinelearningmethods[J].BMJ,2024,385:e078378.[8]TejaniAS,KlontzasME,GattiAA,etal.Checklistforartificialintelligenceinmedicalimaging(CLAIM):2024update[J].RadiolArtifIntell,2024,6(4):e240300.[9]LiuX,RiveraSC,MoherD,etal.Reportingguidelinesforclinicaltrialreportsforinterventionsinvolvingartificialintelligence:theCONSORT-AIExtension[J].BMJ,2020,370:3164.[10]外交部.全球人工智能治理倡议[EB/OL].(2023-10-20)[2026-06-01]./web/ziliao_674904/1179_674909/202310/t20231020_11164831.shtml.[11]国家药品监督管理局.人工智能医疗器械质量要求和评价第2部分:数据集通用要求[S].2022-07-01.[12]国家药品监督管理局.人工智能医疗器械质量要求和评价第3部分:数据标注通用要求[S].2022-08-17.[13]全国网络安全标准化技术委员会.人工智能安全治理框架1.0版[EB/OL].(2024-09-09)[2026-06-02]/2024-09/09/c_1727567886199789.htm.[14]全国网络安全标准化技术委员会.人工智能安全治理框架2.0版[EB/OL].(2025-09-15)[2026-06-01]．/2025-09/15/c_1759653448369123.htm.[15]国家卫生健康委员会.卫生健康行业人工智能应用场景参考指引[EB/OL].(2024-11-14)[2026-06-01]./guihuaxxs/c100133/202411/3dee425b8dc34f739d63483c4e5c334c.shtml.[16]中华医学会放射学分会医学影像大数据与人工智能工作委员会,中华医学会放射学分会腹部学组,中华医学会放射学分会磁共振学组.肝脏局灶性病变CT和MRI标注专家共识(2020)[J].中华放射学杂志,2020,54(12):1145-1152.[17]中华医学会核医学分会分子影像人工智能工作委员会.分子影像人工智能专家共识(2019版)[J].中华核医学与分子影像杂志,2019,39(12):748-751.[18]中华医学会放射学分会医学影像大数据与人工智能工作委员会,中华医学会放射学分会腹部学组,中华医学会放射学分会磁共振学组.结直肠癌CT和MRI标注专家共识(2020)[J].中华放射学杂志,2021,55(2):111-116.[19]中华医学会外科学分会结直肠外科学组,北京航空航天大学虚拟现实技术与系统国家重点实验室.基于人工智能平台的直肠癌分期识别系统外科临床应用专家建议(2020版)[J].中华外科杂志,2021,59(5):321-323.[20]王冬丽,杨珊,欧阳万里,等.人工智能可解释性:发展与应用[J].计算机科学,2023,50(S1):19-25.[21]SahinerB,ChenW,SamalaRK,etal.Datadriftinmedicalmachinelearning:implicationsandpotentialremedies[J].BrJRadiol,2023,96(1150):20220878.[22]FengJ,PhillipsRV,MalenicaI,etal.Clinicalartificialintelligencequalityimprovement:towardscontinualmonitoringandupdatingofAIalgorithmsinhealthcare[J].NPJDigitMed,2022,5(1):66.[23]GanapathiS,PalmerJ,AldermanJE,etal.TacklingbiasinAIhealthdatasetsthroughtheSTANDINGTogetherinitiative[J].NatMed,2022,28(11):2232-2233.[24]国家人工智能标准化总体组,全国信标委人工智能分委会.人工智能伦理治理标准化指南[EB/OL].(2023-03-16)[2026-06-01].https://realai.ai/media/upload/AI-research/AI-results/file.pdf.[25]VokingerKN,FeuerriegelS,KesselheimAS.Mitigatingbiasinmachinelearningformedicine[J].CommunMed(Lond),2021(1):25.[26]OalaL,MurchisonAG,BalachandranP,etal.Machinelearningforhealth:algorithmauditing&qualitycontrol[J].JMedSyst,2021,45(12):105.[27]GhassemiM,Oakden-RaynerL,BeamAL.Thefalsehopeofcurrentapproachestoexplainableartificialintelligenceinhealthcare[J].LancetDigitHealth,2021,3(11):e745-e750.[28]TjoaE,GuanC.Asurveyonexplainableartificialintelligence(XAI):towardmedicalXAI[J].IEEETransNeuralNetwLearnSyst,2021,32(11):4793-4813.[29]SounderajahV,GuniA,LiuX,etal.TheSTARD-AIreportingguidelinefordiagnosticaccuracystudiesusingartificialintelligence[J].NatMed,2025,31(10):3283-3289.[30]DormannCF.Calibrationofprobabilitypredictionsfrommachine-learningandstatisticalmodels[J].GlobalEcolo