医疗机构生成式人工智能使用管理制度

PAGE医疗机构生成式人工智能使用管理制度

目录TOC\o"1-4"\z\u一、总则 4二、组织架构与职责分工 7三、生成式AI准入评估管理 10四、AI服务场景分类管理 14五、临床辅助诊疗使用规范 19六、病历文书生成使用要求 21七、患者服务类AI使用规范 25八、行政办公类AI使用规则 27九、输入数据合规管理要求 31十、输出内容审核校验机制 34十一、患者知情同意管理 38十二、患者个人信息保护规则 42十三、AI使用安全风险防控 45十四、AI生成内容溯源留存规定 47十五、人员培训与能力考核 50十六、违规使用责任追究 53十七、应急处置预案 55十八、系统运维与迭代管理 60十九、知识产权归属管理 65二十、监督检查与评估改进 67二十一、第三方厂商合作管理 70二十二、AI辅助科研使用规范 73二十三、特殊人群使用适配要求 75二十四、档案归档与销毁管理 77二十五、制度解释与生效更新 83

总则目的与原则本制度旨在规范医疗机构在生成式人工智能应用过程中的使用行为，通过明确管理要求与标准，保障医疗服务的质量、安全与合规性，确保生成式人工智能的合理使用能够最大限度发挥技术优势，助力医疗健康服务水平的持续提升，契合医疗行业精细化、智能化发展的整体趋势。核心遵循以下基本原则：1、合规前提原则。所有生成式人工智能的应用实施需严格遵循医疗相关领域的法律法规要求，在应用启动前完成合规性审查，确保技术应用不触碰法律红线，避免出现违反诊疗规范、损害医疗公正等问题。2、安全优先原则。以医疗安全为核心考量，对生成式人工智能的使用全流程进行安全管控，防范潜在的技术风险、信息安全风险与医疗安全风险，保障相关数据处理与使用活动不泄露患者敏感信息，不干扰正常诊疗秩序。3、规范适用原则。覆盖医疗机构内全层级人员的使用规范，包含管理岗位、技术操作岗位、普通诊疗岗位等人员，对各类应用场景、操作环节均覆盖可查、可究、可溯的管理要求，保证制度适用范围无死角。4、精准适配原则。结合生成式人工智能的技术特性与医疗场景实际需求，制定适配性管理要求，匹配不同应用场景的技术应用特点，匹配不同岗位的操作需求，实现管理效能与使用效果的有效协同。适用范围本制度适用于本医疗机构内所有涉及生成式人工智能的研发、部署、应用、运维全流程管理工作，覆盖机构内部涉及生成式人工智能技术应用场景的全部环节，具体包括：1、技术应用环节。医疗机构内生成式人工智能模型的设计、开发、选型、调试、部署、迭代全流程管理工作，确保技术应用符合预设标准与医疗需求。2、使用管理环节。医疗机构内生成式人工智能的实际使用、授权、培训、监测、优化全流程管理，涵盖技术使用权限分配、使用过程监控、使用效果评估、风险处置等全环节要求。3、运维保障环节。生成式人工智能系统的运维支撑、合规检查、迭代优化全流程管理工作，保障技术应用全过程运行合规，保障使用活动平稳有序开展。术语定义本制度涉及的相关核心术语含义界定如下：1、生成式人工智能。指通过模型训练、算法构建等方式生成文本、图像、语音等具有智能属性的内容的技术系统，需满足医疗场景下的辅助诊疗、辅助决策、人文关怀等差异化应用需求，严禁用于替代临床专业诊疗操作。2、辅助诊疗模块。生成式人工智能应用于医疗场景的功能模块，仅作为诊疗辅助工具使用，不包含临床诊疗的相关决策权限，需明确功能边界与使用限制。3、数据安全。指生成式人工智能相关医疗数据在采集、存储、传输、使用、处置等各环节中，避免泄露、篡改、非法获取、不当使用等风险，保障患者隐私信息安全。4、诊疗合规。指生成式人工智能的应用活动不违反医疗行业相关规范、标准，符合医疗诊疗逻辑、医疗伦理要求，不干扰医疗正常诊疗秩序。管理与监督职责本制度实施过程中的管理监督职责划分如下：1、管理机构职责。由医疗机构统一设立生成式人工智能应用管理领导小组，负责统筹全流程管理工作，明确管理权限，制定相关管理制度，定期统筹评估应用管理工作，协调解决全流程中的管理问题，保障管理工作的统筹性与全面性。2、技术部门职责。由专门的技术部门负责生成式人工智能相关技术的研发、选型、优化等工作，确保技术应用的技术合规性，保障技术应用方案符合医疗场景需求，对技术应用的全流程质量、风险进行管控。3、业务部门职责。由各业务部门负责生成式人工智能应用的场景适配、人员使用培训、应用效果监测等工作，结合业务实际需求落实应用管理要求，保障应用活动与业务目标适配，提升应用应用效果。4、监督评估职责。由机构内部设立的合规监督岗位负责全程监督管理，定期开展应用使用合规检查、效果评估，收集相关使用数据，对不符合管理要求的活动及时处置，对不符合管理要求的情况开展整改，确保全流程管理工作落实到位。运行与保障机制本制度运行保障机制包括以下核心内容：1、动态调整机制。根据生成式人工智能技术发展动态、医疗行业监管要求、医疗场景需求变化等情况，定期对本制度的相关要求、管理范围进行动态调整，确保制度适配性，保障管理要求符合实际需求。2、全流程管控机制。覆盖生成式人工智能全业务流程的管控，包括技术应用全流程、使用全流程、运维全流程，通过全流程管控确保各项管理工作落实到位，防范各类风险，保障应用活动合规、有序开展。3、保障支持机制。为管理、技术、业务等相关部门提供必要的资源支撑，保障相关工作的开展条件，包括技术资源、人员培训资源、监测评估资源等，为管理工作的落地提供支撑。4、责任追溯机制。对生成式人工智能相关应用活动中的违规行为、问题事项明确责任追究依据，通过责任追溯机制强化管理约束，确保责任到人，问题处置到位，形成规范的管理闭环。组织架构与职责分工组织架构设定原则本制度在构建机构组织架构时，首要遵循科学化、规范化与整体协调性原则。其核心目的在于构建一个逻辑清晰、权责明确、执行高效的组织机构体系，确保生成式人工智能在医疗场景下的全流程合理运用，保障机构运行的规范性与安全性。组织架构的建立需充分考量医疗机构的职能定位、业务范围及技术应用需求，通过科学的顶层设计，形成纵向贯通、横向协同的组织布局，为后续职责划分与工作推进奠定坚实基础。核心管理架构搭建在组织架构层面，本制度明确设立最高管理机构，作为组织架构的核心与顶层设计者，负责统筹组织架构的整体规划、体系构建及运行监督。该机构在资源配置上向各类业务领域、技术部门及职能岗位倾斜，确保组织架构能够全面适配医疗机构的医疗业务需求与人工智能技术应用要求。组织架构需覆盖组织架构内各层级，形成从决策层、执行层到支撑层的完整体系，各层级在架构内明确各自的分工与权责，确保组织架构的系统性与整体性。职责划分体系设计针对组织架构中的各层级与各岗位，本制度设定明确、具体的职责划分体系。最高管理机构承担顶层规划、宏观统筹与监督决策等核心职责，负责把握整体方向，统筹协调机构内各项相关工作，确保组织架构调整与运行符合医疗需求及人工智能应用要求。执行层负责具体业务推进与具体工作的落地实施，其职责涵盖技术应用方案的设计、实施调试、效果评估及后续优化等具体环节，确保各项职责得到有效执行。支撑层负责提供技术、数据、业务支持等支撑性工作，保障组织架构的高效运转，实现各层级职责的有机协同。跨部门协同机制构建针对多部门协同协作的组织架构需求，本制度明确构建跨部门协同机制，打破传统层级壁垒，形成有机配合的工作协同网络。通过建立常态化沟通与协调平台，明确各部门间的职责边界与协同流程，确保在涉及医疗数据使用、技术应用、安全管控等跨领域工作时，能够实现快速响应、信息共享与协同推进。该机制能够有效避免职责衔接的脱节问题，提升组织架构整体的协同效能，保障医疗人工智能应用工作的规范、高效开展。组织架构的动态调整机制为确保组织架构的灵活性与适应性，本制度引入组织架构的动态调整机制。该机制明确组织架构的调整触发条件，涵盖机构业务发展需求变化、技术应用进展、风险应对调整等各类情形。通过建立相应的调整流程与决策机制，能够根据组织架构实际情况，适时优化调整组织架构结构，以适应医疗机构的实际需求与人工智能技术的发展动态，保障组织架构始终与机构发展及业务需求保持高度匹配，持续发挥制度保障作用。组织架构的实施保障机制本制度针对组织架构的落地实施，构建完善的实施保障机制，从机制层面保障组织架构的有效落地。包括明确的组织实施流程，规范组织架构搭建、调整、监督等全流程工作；建立配套的管理监督机制，对组织架构的运行情况进行动态监测，及时发现问题并予以调整；同时明确组织架构中各项职责的考核要求，将职责履行情况纳入相关考核体系，保障组织架构职责得到有效落实，确保组织架构实际运行符合制度要求。生成式AI准入评估管理准入评估的基本原则本制度确立生成式AI准入评估需遵循系统性、科学性与规范性为核心原则。系统性方面，评估需覆盖医疗机构生成式人工智能全流程应用，涵盖研发、采购、部署、应用及监督管理等各个环节，形成完整的评估链条，确保评估覆盖所有相关环节。科学性要求评估标准依据通用医学、技术发展规律制定，充分考虑医疗场景的特殊性与复杂属性，确保评估指标具备科学性与适配性，能够精准衡量生成式AI应用于医疗机构的应用价值及风险程度。规范性则要求评估流程标准化、评价结果可追溯，所有评估工作需按既定流程开展，评估结论明确、清晰，为后续准入决策提供依据，保障评估工作的严肃性与可信度。准入评估的通用评估维度生成式AI准入评估需从多维度综合研判，全面评估生成式AI的适用性、安全性及合规性，具体涵盖以下核心评估维度：1、医疗场景适配性评估聚焦生成式AI的技术特性与医疗领域的需求匹配度，包括算法对复杂临床决策的支持能力、数据输入与处理能力的适配性、输出结果的医疗专业性与准确性要求满足程度等，重点评估生成式AI是否能在保障医疗安全的前提下，有效支撑临床诊疗、辅助诊断、健康管理、科研教学等医疗相关场景的落地需求，判断其适配医疗场景的核心能力。2、安全风险评估重点审查生成式AI在应用过程中可能涉及的安全风险，包括数据合规风险、算法可靠性风险、内容合规风险等，评估其是否存在医疗数据泄露、内容误导、风险过高等安全隐患，以及对应的风险控制措施的有效性，确保生成式AI的应用不会对医疗活动造成潜在风险，符合医疗领域的合规要求。3、合规性评估覆盖生成式AI应用的全流程合规性，包括算法备案与核准情况、使用场景合规性、数据使用合规性、伦理规范遵循情况等，评估其是否符合医疗领域的相关合规要求，是否存在违反医疗信息安全、内容管理规定等违法违规情形，确认其应用具备合规前提。4、性能评估针对生成式AI的技术性能指标进行评估，包括模型精度、响应速度、内容生成准确性、多场景适配能力等，确保生成式AI输出内容符合医疗专业标准，能够满足不同场景下对精准性、及时性的要求，保障应用效果符合预期。5、可持续评估评估生成式AI应用的长效适用性，包括系统稳定性、更新迭代能力、长期维护保障情况等，判断其能否持续为医疗场景提供有效支持，具备长期稳定的运行条件，避免因技术迭代或维护不足导致应用失效。准入评估的通用流程生成式AI准入评估需遵循清晰的流程规范，明确各环节责任与时序，具体流程如下：1、评估准备阶段评估启动前需完成前期准备，包括明确评估目标、梳理医疗相关场景需求、梳理现有应用情况、建立评估指标体系与数据来源，确保评估工作具备明确的指向性与完备的基础数据支撑，明确评估的范围、对象及重点，为后续评估工作提供明确依据。2、评估方案制定阶段由具备专业能力的评估团队编制准入评估方案，明确评估的覆盖范围、评估维度、评估方法、评估标准及评估流程，结合通用医疗场景需求与现有医疗发展状况，制定针对性的评估标准，明确各评估项的具体判定依据，确保评估方案具备针对性、可操作性，保障评估工作的针对性。3、现场评估实施阶段按既定评估方案开展现场评估工作，通过多维度调研、系统测试、数据核查等方式，全面收集生成式AI的适配性、安全性、合规性等相关信息，对各项评估指标进行量化分析，结合评估结果判定生成式AI是否符合准入要求，评估过程中需对各环节记录形成完整档案，留存评估依据。4、评估结果评定阶段对现场评估结果进行综合评定，结合评估指标量化结果，对生成式AI的准入资格作出明确判定，划分合格、有条件准入、不予准入等不同类型结论，明确判定依据，确保评定结果客观、严谨，为后续准入决策提供客观依据。5、评估结果反馈阶段将评估结果向医疗机构管理层及相关责任方反馈，详细说明评估结论及不同结论对应的说明，同步评估过程中发现的风险提示、优化要求等，为机构后续的准入决策、系统建设及后续评估提供依据，保障评估结果的有效传达与落地。准入评估的通用要求为保证生成式AI准入评估的规范性、有效性，需明确通用要求，具体包括：1、评估质量管控要求强化评估质量控制，建立评估质量监控机制，对评估过程开展全周期管控，明确评估团队的资质要求，确保评估人员具备相关的专业能力，评估过程中对各环节进行质量核对，确保评估结果的客观性、准确性，避免评估偏差，保障评估结论的可靠性。2、评估结果的动态调整要求建立评估结果动态调整机制，对评估结论需结合医疗领域发展变化、技术迭代情况、应用实际效果等动态调整，对于符合准入要求且应用效果持续优化的生成式AI，可适时优化准入条件；对于不符合准入要求、存在潜在风险或应用效果不足的生成式AI，需及时作出调整处理，确保准入管理符合实际发展需求，动态适应医疗场景的发展变化。3、评估成果的留存要求完善评估成果管理，建立评估档案管理体系，对所有评估过程、结果、依据进行系统归档留存，确保评估过程的可追溯性，为后续评估及管理决策提供完整依据，满足监管与管理的可追溯要求。4、多方协同配合要求明确医疗机构内部各相关部门的协同配合要求，明确评估牵头部门、参与部门职责，保障评估过程中相关信息的全面采集、数据的有效汇总，推动评估工作顺利开展，确保评估结果全面反映生成式AI的实际应用情况。AI服务场景分类管理场景分类的核心依据1、业务需求维度：基于医疗机构不同业务板块的实际运营需求，将生成式人工智能服务划分为基础辅助类、临床诊断辅助类、诊疗方案制定类、健康管理辅助类、科研数据辅助类、教学培训辅助类等类型，依据业务目标、功能优先级、效果验证要求判定场景划分等级。2、适用对象维度：结合服务覆盖的医疗主体类型区分场景，包括面向院内科室的服务场景、面向患者端的延伸服务场景、面向辅助诊疗场景、面向医学教学场景、面向科研数据应用场景等多类专属划分，明确不同场景的服务适配范围与边界。3、功能属性维度：按照服务的功能定位对场景进行划分，包括基础功能支撑类场景（如文本信息格式转换、基础语义分析等基础类功能服务场景）、核心辅助功能场景（如辅助病历生成、辅助诊断思路梳理等核心类功能服务场景）、融合创新场景（如多模态内容融合分析、智能循证资料整合等创新类服务场景），划分依据其功能价值、依赖程度及对诊疗结果的影响程度确定。场景分类的具体划分规则1、基础辅助场景该类场景聚焦生成式人工智能的基础功能支撑，涵盖文本信息格式转换、基础语义理解、基础语音合成、基础图文内容生成等通用基础类功能服务场景，适用场景为院内科室的基础办公、基础咨询辅助等工作需求，功能价值偏向流程优化、效率提升，对诊疗结果未产生直接作用，划分规则以功能通用性、基础属性为核心依据，明确该类场景的服务约束边界，禁止超出基础功能范围开展超出预设规则的功能拓展。2、临床辅助场景该类场景为服务临床诊疗的核心功能场景，涵盖辅助病历结构化整理、辅助诊断思路梳理、辅助诊疗方案拟制、辅助病情趋势预判等临床相关辅助功能服务场景，适用场景为临床诊疗、辅助管理工作的具体需求，功能价值直接关联诊疗质量提升、效率优化，划分规则以临床适配性、功能相关性为核心依据，明确该类场景的服务红线，禁止超出临床辅助边界开展无关医疗功能拓展。3、诊疗辅助场景该类场景聚焦生成式人工智能与临床诊疗的深度融合场景，涵盖辅助辅助诊断辅助拟制、辅助诊疗决策参考、辅助治疗方案优化等核心诊疗类功能服务场景，适用场景为临床决策、方案制定、疗效评估相关工作需求，功能价值直接影响诊疗决策质量，划分规则以诊疗目标适配性、功能价值为核心依据，明确该类场景的服务边界，禁止开展超出诊疗辅助定位的功能拓展。4、健康管理场景该类场景针对医疗机构患者健康管理需求设立的辅助服务场景，涵盖健康信息整理分析、健康风险倾向预判、健康干预方案初步建议、健康科普内容生成等健康管理相关功能服务场景，适用场景为患者健康管理、健康资源优化等管理工作需求，功能价值偏向健康管理效率提升、服务优化，划分规则以健康管理目标适配性为核心依据，明确该类场景的服务范围，禁止开展与健康管理无关的功能拓展。5、科研辅助场景该类场景面向医疗机构科研工作需求设立的辅助服务场景，涵盖科研数据整合分析、科研文献辅助解读、科研方案初步拟定、科研经验复盘分析等科研相关工作功能服务场景，适用场景为科研产出、学术工作优化等科研相关工作需求，功能价值偏向科研效率提升、数据支撑优化，划分规则以科研适配性为核心依据，明确该类场景的服务边界，禁止开展超出科研辅助定位的功能拓展。6、教学辅助场景该类场景面向医疗机构教学培训需求设立的辅助服务场景，涵盖教学内容辅助生成、教学知识整理梳理、教学案例辅助构建、教学培训效果分析等教学相关工作功能服务场景，适用场景为教学管理、人才培养工作需求，功能价值偏向教学效率提升、资源优化，划分规则以教学适配性为核心依据，明确该类场景的服务边界，禁止开展超出教学辅助定位的功能拓展。场景分类管理的实施要求1、动态分类与定期调整医疗机构应建立动态场景分类机制，根据业务发展需求、技术迭代效果、服务需求变化，定期调整场景划分规则，每半年至少开展1次场景评估，对不符合分类要求的场景及时调整归类，明确场景分类的动态调整程序与审批流程，确保分类体系动态适配业务需求，避免静态分类与实际需求脱节。2、服务边界明确管控明确各类场景的服务边界，严禁超出分类规定的功能范围开展服务拓展，不得使用分类外功能开展与医疗场景无关的服务，对超出边界的服务需求需严格评估其合规性，不得直接开展，防止服务范围失控引发医疗风险，确保各类场景服务均符合分类规则要求。3、分级管控与安全合规根据场景分类等级制定差异化管理要求，对核心辅助、诊疗辅助场景实行全流程安全管控，明确数据留存、操作规范、效果评估要求，对基础辅助场景实行简化管控模式，明确功能使用边界、操作流程要求，所有场景服务均需遵循安全合规要求，杜绝不规范服务开展，保障服务使用符合医疗领域相关要求，防范安全风险。4、权限适配与分级使用根据场景分类等级适配对应权限要求，对高风险场景（如诊疗辅助、核心辅助）实行权限分级管控，明确使用主体、操作权限、审核要求，对低风险场景实行简化管控，明确使用范围、操作流程要求，合理匹配不同场景的服务权限，保障服务使用符合场景要求，防范操作风险。场景分类管理的协同机制1、业务与技术部门协同业务部门围绕场景需求制定分类适配规则，技术部门结合技术能力评估场景功能适配性、边界合理性，共同完善场景分类规则，明确各场景的功能定位、服务边界、管控要求，确保场景分类与业务需求、技术能力适配匹配，实现场景分类与实际需求的贴合性。2、科室与质控部门协同各服务科室结合场景划分制定服务细则，质控部门对场景服务的合规性、有效性开展全程管控，明确场景服务流程要求、效果评估标准，对超出场景边界的服务、不符合合规要求的服务开展核查整改，确保场景服务符合分类管控要求，保障服务质量和合规性。3、多部门协同监管医疗机构建立场景分类管理的跨部门协同监管机制，联合信息安全部门、医务管理部门、运营管理部门开展场景应用全流程监管，定期核查场景服务合规性、风险性，及时发现问题调整管理规则，保障场景分类管理符合医疗管理要求，防范服务风险。临床辅助诊疗使用规范智能辅助诊断能力应用边界与准入机制临床辅助诊疗相关智能系统应严格界定适用场景，仅允许在明确与临床诊疗目标匹配、经专业评审确认具备辅助决策功能的范畴内应用。需建立准入管理机制，对智能系统应用的各项条件进行前置审查：一是技术能力合规性审查，需确认系统算法具备科学验证的诊断依据，且对临床诊疗中不可直接替代关键判断环节具有局限性；二是临床适配性审查，需评估系统输出的诊断建议是否具备可追溯依据，是否符合临床诊疗规范的要求；三是风险适配性审查，需确认系统应用方式可结合医疗机构实际诊疗需求优化，避免因功能过度应用引发诊疗偏差，需明确不可直接替代医生针对复杂临床病例的鉴别诊断、风险评估等核心决策环节。诊疗行为辅助决策审核流程临床辅助诊疗使用时，需严格遵循分层审核流程开展决策辅助：1、多维度记录维度每次智能辅助诊疗活动需完整记录辅助决策的全流程信息，包括系统生成的具体诊疗建议内容、辅助决策依据来源、触发决策的病例信息、模型迭代版本等，确保所有决策过程可追溯、可核查，保障诊疗活动过程可审查、结果可校验。2、交叉校验维度诊疗决策辅助过程需同步开展多维度交叉校验，对辅助系统输出的诊疗建议与原有临床诊疗思路进行比对，重点核查是否存在与现行诊疗规范相冲突的逻辑错误、关键信息遗漏或偏差结果，若校验不通过，需在诊疗流程中明确暂停后续辅助诊疗动作，不得直接采纳不合规的辅助建议。3、同步人工确认维度对于需人工复核的诊疗辅助建议，需第一时间同步至相关临床诊疗责任人员确认，明确最终诊疗决策的制定主体与执行主体，严禁仅通过辅助系统输出直接作为最终诊疗结论执行，确保辅助诊疗行为始终处于临床诊疗规范的管控范围内。数据安全与伦理合规管控要求临床辅助诊疗使用的全流程数据安全与伦理合规管控需严格执行：1、数据全流程管控涉及诊疗数据、病例数据、临床信息等数据的采集、存储、传输、使用全流程需建立严格管控机制，明确数据脱敏规则、使用权限约束、访问审计要求，确保敏感诊疗数据得到必要、合法保护，严禁未经授权的跨主体访问、泄露、滥用，保障诊疗数据安全。2、伦理合规审查要求应用过程中需开展伦理合规审查，明确系统辅助诊疗的边界伦理红线，防范因算法认知局限、数据偏差等因素导致诊疗偏差、伦理风险，所有辅助诊疗应用需在开展前完成伦理合规评估，不可将系统应用结果作为替代临床诊疗核心决策的依据，严格防范因智能系统应用引发的不良诊疗事件。使用监督与风险应对机制针对临床辅助诊疗使用中的风险隐患需建立全流程监督与应对机制：1、动态使用监督机制建立智能辅助诊疗使用动态监督机制，定期对使用场景、使用频次、辅助诊疗结果合理性等进行评估，及时发现应用过程中存在的风险隐患，对超出适用边界、存在安全隐患的辅助诊疗场景及时停止使用，及时处置相关异常信息。2、风险应急处置机制明确风险应急处置的具体规则，针对因辅助诊疗引发的临床决策偏差、诊疗安全隐患等问题，需第一时间启动应急处置流程，终止违规诊疗行为，评估影响范围，按照规定流程排查相关责任，明确整改措施与责任追究要求，及时防范风险的进一步扩散，保障临床诊疗活动的安全合规。病历文书生成使用要求病历生成全流程合规管控1、病历文书生成环节实施前置审查机制。医疗机构在使用生成式人工智能生成病历相关内容前，需建立全覆盖的合规审查流程，对生成内容进行多维度校验，确保符合病历文书的专业标准与法律规范要求，严禁任何未经严格校验的生成结果直接用于临床诊疗。2、生成流程全环节动态跟踪。医疗机构须全程监控生成式人工智能在病历文书生成过程中的应用情况，实时监测生成内容的质量、准确性及合规性，及时发现并处置生成内容中存在的偏差、瑕疵等问题，保障生成结果的可靠性。3、生成结果强制复核机制。所有由生成式人工智能生成的病历文书、辅助诊疗材料，需在生成完成后由具备相应资质的临床医疗人员开展复核，重点核查内容是否符合诊疗逻辑、医学伦理要求及临床实际，对不符合要求的内容坚决予以剔除、返工重生成，严禁将未合规生成的文书直接作为诊疗依据使用。病历生成内容规范性与专业性要求1、内容规范精准性标准。生成式人工智能生成的病历文书内容必须遵循专业医学标准，内容表述严谨、准确，精准匹配病历文书的基本要素，明确涵盖患者基本信息、诊疗现状、分析研判结果、诊疗建议等核心板块，不得出现表述模糊、信息缺失、虚假错误等不符合病历文书规范的生成内容。2、内容适配临床场景要求。生成式人工智能生成的病历相关内容必须适配实际临床诊疗场景，内容需贴合患者真实病情、诊疗需求，相关分析结果、诊疗建议需具备可执行性，能够有效支撑临床决策，不得生成脱离实际、无落地价值的无关内容，不得出现涉及患者隐私敏感信息的不合规生成内容。3、内容生成参数边界管控。医疗机构在使用生成式人工智能生成病历内容时，必须明确限定生成内容的边界范围，严格约束生成参数，不得生成超出病历文书范畴、超出临床适用范围的内容，不得生成涉及敏感个人信息、诊疗禁忌及伦理风险的相关内容，所有超出合规边界的生成内容一律禁止直接使用。病历使用场景限制与场景适配要求1、医疗场景适用范围明确限定。生成式人工智能在病历文书生成过程中仅适用于辅助病历辅助撰写、诊疗信息辅助梳理、临床决策支持等合规场景，严禁用于替代临床医生的自主判断、直接出具诊疗结论、作为临床决策依据，不得用于替代医师的医学判断与责任认定，相关用途需经医疗机构合规部门审核确认。2、场景适配适配性校验要求。医疗机构需严格匹配生成式人工智能的应用场景，依据不同病历生成场景的特点，调整生成内容的规范性与内容侧重点，确保生成内容适配场景需求，避免生成内容超出场景适配范围，保障生成内容在对应场景下的适用性，避免因场景适配不足导致的内容不符合临床使用要求。3、场景使用行为约束管控。医疗机构在使用生成式人工智能生成病历内容时，需规范相关应用场景的使用流程，明确使用行为的边界、操作规范，严禁超范围使用、违规使用生成式人工智能生成病历内容，不得擅自扩大应用场景的使用范围，相关违规操作行为一律予以禁止。病历生成内容的溯源与责任保障要求1、生成内容溯源机制落实。医疗机构须建立生成式人工智能病历生成内容的溯源管理机制，对所有生成的内容均留存生成过程记录，包括生成源信息、生成参数、生成内容全量数据、生成结果的校验记录等，明确生成内容的来源与生成流程，确保生成内容可追溯、可核查，保障生成内容全过程的合规性。2、生成内容责任划分明确。医疗机构须清晰界定生成式人工智能生成病历内容在诊疗过程中的责任边界，明确生成内容引发的合规、质量等问题由医疗机构承担相关责任，相关责任主体需严格依据生成内容的相关情形承担相应处理责任，不得将生成式人工智能的使用责任转移、隐匿，保障责任落实的明确性与可追溯性。3、内容合规管控责任落实。医疗机构需对生成式人工智能病历生成使用的合规性负主体责任，建立全流程合规管控责任体系，明确各环节的责任主体，对生成内容的合规性、适用性、使用场景合规性开展全周期管控，出现生成内容合规、使用违规等情形时，依法依规追究相应责任，保障病历文书生成使用的合规性与安全性。患者服务类AI使用规范患者信息获取与使用边界患者服务类AI系统在使用过程中，必须严格遵循信息采集与使用边界原则，充分保障患者隐私与合法权益。从信息采集层面，AI系统仅能依据合法、必要的医疗相关场景获取患者相关信息，严禁通过非医疗用途或过度采集方式获取患者隐私内容，包括但不限于患者的姓名、联系方式、病史、诊疗记录等敏感信息。信息获取范围需限定于与患者服务直接相关的必要场景，例如基于患者病历分析优化服务流程、为患者提供个性化健康咨询等，所有信息采集必须经过严格必要性审查，并明确告知患者信息使用的范围与目的，确保获取过程合法合规。信息使用层面，AI系统仅能基于获取的必要患者信息进行诊疗辅助、服务优化等用途，不得对未经授权的患者信息开展超出医疗范围的解读、分析或传播，严禁将患者信息用于商业推广、非医疗场景的信息利用等非必要用途，禁止在信息使用过程中突破患者隐私边界，不得将患者信息用于超出医疗服务范畴的用途，确保信息使用的边界清晰、符合法定要求。患者服务场景适配与使用限制患者服务类AI的应用需结合患者实际服务需求，明确适配场景与使用限制，确保服务效果符合患者就诊需求，避免因不当使用影响服务质量与患者权益。适配场景方面，系统需针对患者的常见就诊、健康管理场景进行定向设计，例如针对老年患者提供通俗易懂的健康科普服务、针对特定疾病患者开展病情咨询与方案辅助服务，适配场景需贴合不同患者的实际需求，避免设计脱离患者认知水平的冗余内容，保障服务内容清晰易懂、适配度高，提升服务可感知性。使用限制方面，需明确禁止在服务场景中开展超出医疗资质的诊疗决策建议，禁止基于未充分核实的信息提供超出专业能力的治疗方案，禁止对无法验证的医疗判断类内容给予确定结果，确保AI作为辅助工具的作用，不替代医生的专业诊疗判断，避免因不当使用误导患者作出错误决策。需明确禁止在服务场景中使用AI生成替代医生出具的正式医疗结论、诊疗建议，严禁以AI服务结果作为患者诊疗、治疗的核心依据，需对AI辅助结论的合规使用范围、效力边界予以明确，避免因使用不当引发医疗责任争议。患者反馈响应与使用动态调整针对患者服务类AI的使用过程中产生的问题，需建立及时响应与动态调整机制，确保系统使用符合规范要求，适配实际业务需求，维护患者权益。反馈响应层面，需建立全流程反馈机制，覆盖患者提出的AI服务问题、服务使用偏差、意见诉求等内容，明确反馈渠道与响应时限，要求业务部门对反馈问题第一时间核查处置，对存在使用违规、服务不适等问题的情况，需及时整改、调整系统使用规则，保障患者反馈能够得到及时响应与处理，避免问题积累影响服务质量。动态调整层面，需定期对AI使用规范执行情况开展核查，结合临床实际需求、患者服务现状反馈等动态调整AI使用场景、功能边界、约束规则，明确不同场景下的使用标准，同步优化系统功能设计，避免过度使用限制影响服务效率，同时保障动态调整规则符合医疗服务的专业要求，确保调整后的使用行为符合规范、合法合规，保障服务持续适配需求。使用行为监督管理与风险防控为防范患者服务类AI使用过程中存在的合规风险、权益风险，需建立全流程监督管理机制，严格防控各类风险，保障使用行为的合规性与安全性。风险防控层面，需针对可能的违规使用风险、信息泄露风险、服务偏差风险等开展针对性防控，例如针对信息泄露风险，需明确患者信息存储、传输、使用的全流程防护要求，落实数据加密、权限管控等措施，避免患者信息泄露；针对服务偏差风险，需设定AI服务使用的事中监控机制，对AI输出的服务内容开展专业校验，确保AI辅助内容符合医疗专业要求，同时建立服务效果评估机制，定期对AI服务与患者服务效果进行评估，排查服务偏差问题，及时优化使用规则。监督管理层面，需明确相关责任主体的职责，要求业务部门、技术研发部门、审核部门共同参与AI使用管理，严格落实使用行为监督要求，对使用过程中出现的违规行为、风险隐患开展排查处置，对存在违规使用、风险防控不到位的情况及时追责整改，确保AI使用行为符合规范要求，从源头防控各类风险，维护患者权益与医疗秩序。行政办公类AI使用规则数据管理规范1、基础数据采集边界医疗机构在应用行政办公类AI工具前，需划定数据采集边界，明确仅选取用于辅助行政办公管理的非涉密、非隐私敏感信息，例如办公决策辅助数据、内部流程梳理基础数据等。严禁采集患者个人信息、隐私数据、涉密信息等敏感内容，数据来源须通过医疗机构内部合规的数据采集流程获取，严禁私自获取外部数据。2、数据获取合规性要求数据采集前需核查信息合法性，确保数据来源符合医疗机构信息安全管理要求，未经过授权或未经合规流程采集的数据不得用于AI工具应用，严禁通过非法渠道获取数据。数据采集过程中需留存完整操作记录，记录数据的采集来源、采集范围、采集用途等全流程信息，确保数据来源可追溯。3、数据存储与维护要求采集获取的数据需按照机构信息安全管理规定存储，存储期限原则上不得超过AI工具应用周期，到期后需进行数据销毁处理，严禁留存超期数据。存储过程中需严格管控数据访问权限，仅允许经过授权的人员调取对应数据，禁止随意开放存储权限，确保数据存储的安全性、合规性。场景适用边界1、适用场景限定明确行政办公类AI工具仅适用于以下行政办公相关场景，不得超出允许范围使用：办公决策辅助、流程梳理优化、内部效率提升、政策执行辅助等行政办公类用途，严禁用于医疗诊疗、疾病诊断、健康管理、医疗服务咨询等医疗类应用场景。2、功能应用约束应用AI工具时需明确限定功能边界，仅可使用具备行政办公属性、符合医疗场景适配要求的工具，不得使用超出行政办公范畴、可能引入风险功能的AI功能，例如不得使用涉及医疗内容生成的AI工具、不得使用涉及患者信息处理的AI功能，确保应用范围符合行政办公功能定位，降低使用风险。使用权限管理1、授权申请流程使用行政办公类AI工具前，需提交明确的申请，说明使用场景、需求目标、预期输出结果等要素，申请流程需经医疗机构相关负责人员审核，确认符合使用规则及合规要求后，方可获得AI工具使用权限。2、权限分级管理根据使用场景、风险等级、授权需求划分不同使用权限，一般行政办公场景可使用通用权限，高风险场景需设置专用权限，明确权限范围，仅允许持有相应权限的人员使用，严禁越权使用AI工具。权限分配需经过合规审核，未经过核验的权限不得投入使用，权限使用过程需留存记录，确保权限合规、可追溯。操作流程规范1、使用启动要求使用AI工具前需完成前置准备，明确使用目标、输入数据、预期输出等内容，开展适配性评估，确认输入数据符合数据管理规范要求，使用场景符合适用范围限定，评估通过后方可启动AI工具使用。2、操作过程管控使用过程中需严格按照规范操作，禁止使用AI工具生成涉密信息、敏感医疗信息等内容，输入数据需准确、完整、符合合规要求，操作过程需留存操作记录，记录操作人员、操作场景、输入内容、输出结果等信息，确保使用过程可追溯。3、使用结果核验AI工具输出结果需进行核验，核验内容涵盖结果准确性、是否符合应用场景要求、是否包含敏感信息等，核验通过后方可作为行政办公参考，核验不通过的需终止使用，明确说明不符合使用要求的原因，禁止直接使用不符合规范的结果。风险管理防控1、风险识别与评估使用前需对AI工具应用的风险进行识别，重点关注内容合规性风险、信息安全风险、场景适配风险，评估使用潜在风险等级，制定相应的管控措施，明确风险防控重点，例如识别AI内容生成超出授权范围的风险、数据访问越权风险等，提前制定防控方案。2、动态监控与调整建立使用过程动态监控机制，对AI工具的使用情况进行持续监控，及时排查使用过程中的风险隐患，根据风险防控要求及时调整使用规则、权限范围、操作要求，确保使用规则适配实际场景需求，动态优化风险防控措施，维护使用过程的安全性。3、违规处置机制出现违反使用规则、使用不当或存在安全风险的使用情况时，需第一时间终止相关使用，按照违规情形、风险等级采取相应的处置措施，及时排查风险来源，追究相关责任，对违规使用行为进行约束，明确违规处置标准，防止违规操作再次发生。输入数据合规管理要求数据来源合法性校验医疗机构应确保所获取的输入数据来源具备合法授权基础，所有数据获取行为必须严格遵循相关主体授权、登记或收集规范，数据来源不得涉及非法采集、欺诈性获取或来源权属模糊的情形。内容采集需通过合法合规途径完成，包括经过机构正式登记的信息采集、合法渠道取得的公开资料整合等，若涉及敏感个人信息或特殊数据，须取得相关主体明确合法授权，且授权范围符合数据使用场景需求，确保数据获取的合法性与合规性，杜绝来源违法、授权不明的风险。数据来源真实性核验输入数据需经过严格的真实性核验程序，医疗机构应对数据来源的真实性进行多维度核验，通过元数据标注、内容校验、来源标识匹配等方式验证数据真实性与有效性的关联性，确保输入数据与原始信息无冲突、无篡改、无虚假信息。核验过程需独立于数据使用环节开展，避免因数据获取偏差、来源误判等问题导致输入数据失真，保障后续使用内容的基础真实度，确保数据能够为生成式人工智能的有效决策提供可靠支撑。数据来源权属合法性审查对输入数据的权属合法性开展审查，需核实数据来源的权属清晰性，明确数据原始所有权的合法归属主体，确认数据使用不超出数据权属范围，不存在权利侵害、权属冲突等潜在风险。数据来源涉及知识产权的，需核查权属合规性，确保相关数据著作权、使用权等权益已明确界定，符合相关权属要求，避免因权属模糊导致数据使用合法性存疑，为生成式人工智能的使用提供权属保障。数据来源留存规范性管理建立输入数据来源留存规范，要求医疗机构对所有获取的输入数据留存完整、可追溯的档案，详细记录数据来源的合法依据、采集过程、留存信息等关键要素，留存周期应符合数据保存要求。对留存数据做好分类标注、标识管理，明确数据的用途边界，留存过程需同步配套数据使用规范，确保数据留存信息的完整性与可追溯性，为后续合规审查、使用溯源提供完整依据。数据来源交叉校验机制建立建立输入数据来源交叉校验机制，定期对多来源输入数据进行一致性核验，通过多源数据比对、关联校验等方式验证不同来源数据之间的逻辑一致性与核心信息的准确性，排查来源数据间的矛盾、冲突或错误信息，及时发现并纠正来源偏差问题，确保输入数据的一致性与合理性，避免单一来源数据带来的合规风险。数据来源使用边界管控明确输入数据的使用边界，要求所有输入数据的使用严格限定于生成式人工智能的合规使用场景，不得超出数据原始设定范围使用，不得涉及涉及敏感、违规、超出授权边界的数据内容。管控过程中需对数据使用场景进行分级标注，明确数据适用场景的合规性要求，防止非授权使用、场景滥用带来的合规风险，保障数据使用与生成式人工智能使用需求匹配，避免因边界模糊引发合规问题。数据来源动态调整与复核对输入数据来源动态调整与复核机制进行规范，要求医疗机构根据业务发展、场景需求变化及时调整输入数据来源，调整过程需通过合规评估，确保证据来源的合法性与适配性。定期开展输入数据来源的复核工作，核查数据来源的有效性、适用性，及时更新调整不符合要求的数据来源，保障输入数据的持续合规性与适配性，适配生成式人工智能的使用需求，防范来源质量下降带来的合规隐患。数据来源使用范围限制严格限制输入数据的使用范围，对输入数据的使用范围作出明确限制要求，明确数据仅可用于生成式人工智能规定的场景，不得扩大使用范围、拓展使用场景，确保输入数据的使用与生成式人工智能的合规使用目的严格匹配。在边界管控过程中，需配套落实数据使用范围明确的管控措施，明确各类场景的适用限制，杜绝超范围使用输入数据，降低合规风险。输出内容审核校验机制审核原则确立本机制秉持安全、严谨、透明、高效的核心原则开展输出内容审核与校验工作。首要原则为准确识别内容风险，确保生成内容符合医疗场景特性，严禁存在误导性、虚假性、诱导性表述；其次原则为全面覆盖潜在安全隐患，涵盖医疗信息合规性、伦理道德边界、用户安全风险等维度，实现对输出内容的全方位把控；再者原则为动态适配调整，结合人工智能技术迭代趋势及医疗业务发展需求，及时修订校验规则，确保机制的有效性与适配性；最后原则为多方协同落实，由审核部门、技术负责人及使用相关人员协同参与，共同保障审核工作的科学性、权威性。审核主体构成与职责划分审核主体体系由专业医疗审核团队、技术审核专岗及业务监督人员共同组成，各主体职责清晰明确，协同配合保障审核工作高效落地。专业医疗审核团队承担核心审核责任，由具备医疗专业知识、临床经验的资深专业人员主导，负责对生成内容的医学专业性、临床准确性、风险合规性进行判断，识别是否存在违反医疗规范、危及患者安全或违背医疗伦理的内容，针对不符合要求的内容制定初步处置建议。技术审核专岗聚焦算法逻辑与规则校验，对生成内容的逻辑链条完整性、表述合理性、信息准确性、潜在技术漏洞等进行专业审查，校验输出内容是否符合技术使用规范及医疗领域通用要求。业务监督人员履行监督把控职责，对审核结果进行复核、综合研判，核查审核逻辑的合理性，确保审核机制符合医疗使用场景的实际需求，同时对审核流程的规范性进行监督，保障各项审核工作有序开展。审核流程实施规范输出内容审核校验流程遵循标准化、流程化的操作规范，涵盖多环节、多步骤，确保审核工作的全面性、严谨性，具体流程如下：1、内容生成阶段前置预筛在生成式人工智能输出内容生成完毕的初期，启动快速预筛环节。采用自动化规则引擎对生成内容进行初步筛查，重点检测是否存在模糊表述、歧义表述、无关信息植入、违规表述等潜在风险内容，对明显不符合要求的内容及时阻断生成流程，避免风险内容进入后续处理环节。2、多维度深度校验环节预筛通过后，进入多维度深度校验阶段，依次开展以下操作：（1）医学专业校验：对照医疗机构诊疗规范、疾病诊疗指南、医疗操作标准，核查生成内容是否精准传达专业医学信息，是否存在超出诊疗范畴、概念混淆、信息缺失等影响临床认知的问题，校验内容是否满足医疗场景下的专业准确要求。（2）伦理合规校验：围绕医疗场景伦理要求，核查生成内容是否存在诱导不当诊疗、误导患者决策、损害患者权益等违规内容，校验表述是否符合伦理准则，不违背医疗行业伦理规范。（3）安全风险校验：针对可能存在的隐私泄露、安全隐患、误导性风险等内容，进行专项排查，确保内容不存在引发患者安全风险、危害信息准确性的隐患，保障输出内容的安全性。3、审核结果动态反馈环节针对审核过程中发现的问题，及时生成针对性审核意见，明确问题类型、具体违规内容、影响程度及整改要求，将审核结果反馈至内容生成方及相关责任人，督促相关方及时修正内容，确保输出内容的合规性。审核结果需定期复核，动态调整校验规则，针对新出现的风险场景及时补充校验内容，保障审核机制与实际需求匹配。审核结果运用与处置机制输出内容审核校验结果的有效运用与处置机制是保障机制运行成效的核心，具体规则如下：1、问题分级与处置标准根据审核发现的问题严重程度、影响范围及整改难度，将问题划分为不同等级，制定对应处置标准。对存在明显违规风险、影响医疗信息准确性及安全的内容，立即启动内容撤回、场景禁用等处置措施，严禁违规内容进入后续使用环节；对于存在一般性不规范问题、可局部整改的内容，要求相关方限期修正内容，形成整改记录，确保问题彻底消除。2、责任追责与整改要求对审核中发现的问题存在责任的相关主体，依据职责边界与责任轻重落实相应追责，明确整改要求，要求相关责任主体按照审核意见完成内容修正，对拒不整改、整改不达标的内容，进一步强化管控措施，确保问题得到彻底解决。整改过程中需确保整改内容经审核复核合格后方可重新使用，对整改不彻底、反复出现违规内容的相关主体，采取相应限制权限、加强管控等措施，防止风险反复发生。3、长效管控机制衔接建立审核结果与管控措施的联动衔接机制，将审核通过、合规使用的内容纳入日常管控范畴，常态化开展内容抽查、监测，及时排查潜在风险，确保合规内容长期稳定使用。结合审核机制完善内容更新的管控流程，及时更新校验规则，匹配人工智能技术发展变化，持续保障输出内容审核校验机制的有效性与适应性，实现医疗使用安全与效率的平衡。患者知情同意管理知情告知范畴界定患者知情同意管理是医疗机构生成式人工智能使用制度的核心基础环节，其适用范畴需全面覆盖诊疗全流程各阶段。具体而言，知情告知涵盖人工智能系统在医疗场景中的全流程信息交互场景，包括但不限于以下维度：一是身份识别告知，需向患者清晰说明人工智能应用系统的角色定位、技术运行逻辑及数据存储及使用的总体方式，确保患者对系统基本属性有清晰认知；二是功能演示告知，应就人工智能技术可实现的辅助诊疗、风险评估、流程优化等功能边界进行通俗化说明，帮助患者理解系统具体应用价值与功能范围；三是知情沟通告知，需主动与患者进行沟通说明，明确告知人工智能系统的信息处理能力、操作流程、可能存在的风险提示及相应的应对机制，保障患者知情权与自主决策权。上述范畴需覆盖从患者提出需求、系统启动使用到服务结束的全过程，确保所有涉及人工智能应用场景的信息均在告知范围内，不存在告知盲区。告知内容编制规范为确保患者知情告知内容具备科学性、明确性与可操作性，需制定严格的内容编制规范，明确告知内容的编制要求：1、内容合规性要求所有告知内容必须严格遵循医疗场景逻辑，内容表述需客观准确，不得包含涉密信息、夸大宣传内容，不得设置诱导性、误导性表述，需确保内容符合医疗专业判断标准，不涉及不恰当的诊疗建议，也不产生误导患者决策的内容。2、内容通俗性要求告知内容需采用患者易理解的表达方式，避免使用专业术语堆砌，需结合医疗场景逻辑拆解复杂技术信息，确保患者能够充分理解人工智能系统的运行规则、信息处理逻辑及实际应用效果，使知情告知内容具备可感知性，减少患者理解障碍。3、内容完整性要求告知内容需覆盖所有涉及人工智能应用的必要信息，包括系统使用背景、功能定位、数据使用规则、风险提示、应急处理机制、患者参与权利等内容，不得遗漏关键告知信息，确保患者全面了解人工智能系统的运行规则与潜在影响，无信息缺失。告知方式选择与执行患者知情同意管理的告知方式需结合患者实际需求及使用场景灵活选择，严格保障告知效果：1、主动告知要求医疗机构应建立主动告知机制，在人工智能系统启动使用前，主动向相关患者开展针对性告知，告知内容需完全符合前述编制规范，确保告知内容准确完整，无遗漏信息。2、交互式告知要求针对自主选择应用场景的患者，可通过交互式操作界面开展告知，以通俗易懂的形式清晰展示人工智能应用的具体规则、风险提示及应对路径，同时安排专人引导患者完成告知流程，确保告知过程高效、清晰，实现知情告知的全流程覆盖。3、书面形式告知要求对于需书面确认知情同意的患者，应明确告知告知材料的获取方式、内容要求及签署要求，确保患者通过书面形式充分获取知情内容，并经充分理解后签署知情同意书，明确告知内容具备的可验证性，不存在表述歧义或遗漏。告知过程监督与保障为确保告知过程符合规范要求，需建立相应的监督与保障机制：1、过程合规监督医疗机构应建立专门告知过程监督机制，定期对人工智能使用前的告知内容开展合规性核查，检查告知内容是否符合规范要求、是否全面覆盖必要信息、表述是否清晰明确，对不符合规范的告知内容及时整改，确保告知过程符合规范要求。2、进度时限要求明确告知过程的时限要求，要求医疗机构在人工智能系统启动使用前完成告知工作，确保告知与系统使用同步推进，不出现因告知延迟导致的应用范围不明确的问题，保障告知在系统使用前已充分完成。3、反馈整改机制建立告知问题反馈与整改机制，针对告知过程中发现的患者理解困难、信息遗漏、表述歧义等问题，及时分析问题成因，制定针对性整改方案，优化告知内容与告知方式，确保后续告知过程符合规范要求，保障知情同意管理成效。告知效果评估与追溯为确保告知效果实际达标，需建立告知效果评估与信息追溯机制：1、效果评估指标明确告知效果评估的指标体系，从内容覆盖度、表述清晰度、患者理解度、签署规范性等维度设置评估指标，通过定期评估、动态调整的方式，掌握告知过程的实际成效，及时发现告知过程中存在的问题。2、记录留存要求建立告知过程的完整记录制度，要求对告知过程、告知内容、告知方式、签署情况等信息进行全程留痕，确保告知过程可追溯，防范告知过程不规范、内容不完整的情况发生，为后续管理评估提供依据。3、追溯责任落实建立告知问题追溯机制，对告知过程中出现的问题，明确责任主体与整改要求，确保相关责任主体及时整改问题，优化告知管理流程，保障患者知情同意管理的落地效果，提升患者对人工智能应用使用的信任度。患者个人信息保护规则信息收集与获取原则1、在开展患者个人信息收集、获取等相关工作时，必须严格遵循最小必要原则，仅收集实施人工智能分析业务所必需的信息，严禁超出业务需求范围收集或过度获取信息。2、信息收集应以患者知情授权为前提，明确告知信息收集的具体范围、收集目的及使用场景，保障患者自主选择参与，获得充分的知情同意。3、对于无法通过直接询问获取的合理信息，应通过符合伦理要求的技术手段进行获取，确保获取过程符合合法、正当、正当原则，不侵犯患者合法权益。信息存储与安全保障1、存储环节需建立严格的数据隔离机制，将患者个人信息与人工智能业务运行所需的其他非敏感数据分离存储，防止不同业务场景下的信息泄露交叉干扰，确保存储环境符合信息安全防护标准。2、存储期限需遵循合理精简原则，在人工智能业务使用周期结束后或业务方案调整后，及时合规删除相关信息，杜绝信息长期留存引发泄露风险，不留存已无法使用的冗余数据。3、数据存储场所应采用严格的物理隔离与环境控制，配备具备相应的安全校验、访问管控及防泄露功能，对存储链路实施全流程保护，严防数据在存储环节被非法篡改、窃取或泄露。信息使用范围限定1、需明确人工智能系统仅用于开展医疗业务相关的合规分析，严禁将患者个人信息用于非医疗领域的相关业务，或用于超出业务预设范围的自动化决策、统计分析、内容生成等非医疗用途。2、针对人工智能系统输出分析结果时，需严格遵循医疗相关性校验，确保结果仅用于指导医疗业务决策，不得作为其他无关业务的依据，不向无关人员或场景泄露分析结果相关信息。3、若人工智能系统涉及生成涉及患者信息的内容，需设定明确的内容校验与截断规则，确保生成内容不涉及个人信息的不当呈现，保障个人信息使用范围严格符合医疗合规要求。信息访问权限管控1、建立分级权限管理机制，仅授权具备医疗业务相关资质的人员可访问患者个人信息相关信息，普通非业务场景人员禁止接触相关信息，权限设置需动态匹配业务需求调整，避免权限过度开放引发风险。2、所有人员访问患者个人信息信息前，必须核实访问权限的合法性，严禁越权访问、违规访问，对越权访问行为需立即落实阻断措施，消除风险隐患。3、权限使用需全程留痕，记录人员访问信息的具体范围、操作时间及相关业务依据，便于后续核查管控，避免权限滥用或信息滥用行为发生。信息泄露防控与应急处置1、建立常态化信息监测机制，定期开展个人信息存储、访问、使用全链路检测，对异常访问、异常存储、异常泄露等潜在风险实施实时监控，第一时间识别风险并处置，防范信息泄露事件发生。2、针对已发生的个人信息泄露风险，需第一时间启动应急响应机制，立刻切断受影响的信息访问通道，开展敏感数据的全面核查、溯源与溯源处置，确保风险不扩散。3、建立信息泄露应急处置预案，明确信息泄露事件响应流程、责任落实规则及处置标准，对泄露信息的相关人员、业务相关方落实相应责任追究，从机制层面防范信息泄露风险反复发生。信息安全保密与交接管理1、患者个人信息涉及身份信息、隐私信息等敏感内容，需通过规范的文件流转、身份核验、接触管理等流程，确保接触人员严格履行保密义务，严禁泄露、转让、提供给无关方。2、涉及患者个人信息的安全交接、信息转授时，需严格履行双方核验流程，确认转授方具备相应权限与合规背景，确保交接环节个人信息的安全可控，防范信息在交接过程中被不当处置。3、保密要求需贯穿个人信息全生命周期，明确各类涉及信息的环节的保密责任，对违反保密要求的行为依法依规严肃追责，确保患者个人信息始终处于可控、安全的防护状态。AI使用安全风险防控全流程风险识别与动态监控体系建立数据安全防护与隐私保护机制完善数据安全是AI使用安全防控的核心基础，本部分围绕数据全生命周期防护展开制度建设。首先，建立严格的医疗数据分类分级体系，依据数据的敏感程度、使用范围、泄露影响等因素，将医疗数据划分为不同等级，明确各等级数据对应的安全防护要求与管控权限，避免数据因不当流通造成泄露风险。其次，强化数据存储、传输、处理全环节的安全防护，部署数据加密技术对医疗数据进行加密存储，采用安全传输通道保障数据在交互过程中的安全传输，同时在数据使用过程中严格限制数据访问范围，避免无关用户获取数据。最后，完善数据安全责任落实机制，明确数据全流程管控的责任主体与执行标准，要求相关责任方对数据安全落实情况进行定期审计，对违规操作进行及时纠正，从制度层面筑牢数据安全防护屏障，有效遏制数据泄露等基础安全风险。功能安全与使用约束机制规范功能安全是保障AI使用合理性的核心，本部分规范AI功能的合理使用与边界约束。首先，制定AI功能使用边界标准，明确各类AI应用的功能适用范围、功能限制条件、使用上限及退出机制，严禁AI工具超出预设能力范围开展功能操作，避免因功能过度使用引发的风险。其次，建立使用行为约束体系，针对AI应用的用户操作行为设定规范，涵盖输入内容审核、操作流程校验、结果反馈审核等环节，对异常、不符合医疗规范的输入与操作行为予以限制，从使用端规范用户行为，降低功能失控引发的安全风险。最后，设置功能风险预警与处置机制，对AI使用的功能状态、输出结果进行实时监测，一旦发现功能异常、输出结果不符合医疗要求等情况，立即触发风险处置流程，及时终止相关操作并排查潜在问题，确保AI功能使用始终符合医疗安全要求，防范功能层面的安全风险。人员资质管理与操作规范约束人员行为管控是保障AI使用安全的重要支撑，本部分规范AI使用相关人员的资质要求与操作规范。首先，明确AI使用人员资质准入标准，要求相关人员具备必要的医疗专业背景、相关AI技术应用能力及安全管理意识，经专项培训考核合格后，方可获得AI使用权限，从人员资质层面规避因人员能力不足引发的操作风险。其次，制定AI使用操作规范细则，对AI应用的输入、操作、输出全流程设定标准化操作要求，明确操作流程的标准、操作规范，要求人员按规定流程开展操作，确保使用过程符合规范要求，减少因操作不当引发的风险。最后，建立人员行为监督与培训机制，定期对AI使用人员开展操作规范培训，定期开展安全风险意识考核，对不符合规范的行为予以及时纠正，从人员层面强化使用行为管控，防范操作风险等安全风险。应急响应与风险处置机制健全风险应急处置是防控安全风险的核心手段，本部分完善AI使用安全风险的应急响应与处置机制。首先，制定AI使用安全风险分级标准，明确风险等级划分依据，结合风险发生概率、影响程度等要素，对潜在风险按等级分类，对应不同的响应流程与处置要求，实现风险精准识别与分级管控。其次，建立应急响应体系，针对各类安全风险预设专项应急响应方案，明确风险发生后的处置流程、责任分工与处置要求，包括风险实时上报、紧急处置、问题溯源、处置后验证等环节，确保风险发生后能够快速响应、有效处置。最后，完善风险处置后评估机制，对已处置的风险开展效果评估，分析处置过程中的问题与不足，及时优化风险防控体系，从全流程管控层面消除风险隐患，有效应对各类突发安全风险，保障医疗AI使用的安全性。AI生成内容溯源留存规定溯源机制建立原则1、溯源原则的首要维度为完整性，要求对AI生成内容的全部信息内容实现全链路追踪，从AI算法设计、模型训练参数、数据处理流程到最终生成内容，每一个环节的信息流转与存储均需纳入溯源范围，确保追溯路径无缺失。2、溯源原则的核心要求为及时性，强调溯源机制需针对生成内容完成节点实时响应，一旦发现AI生成内容存在异常或不符合使用规范的情况，需在规定时限内启动溯源流程，杜绝信息滞后、溯源延迟的问题。3、溯源原则的补充维度为规范性，要求溯源记录的整理、归档、使用需符合统一标准，保证溯源内容清晰可辨、匹配准确，为后续责任认定、问题核查提供清晰依据。溯源信息内容范围界定1、溯源内容涵盖范围需全面覆盖AI生成内容的全维度信息，既包含AI生成内容的文本内容，也包括图像、音频、视频等不同类型生成内容的核心要素，且需对内容中涉及的敏感信息、事实性内容、价值导向相关内容进行单独标注与留存，确保溯源信息无遗漏。2、溯源内容涵盖范围需细化分类，针对不同类型生成内容制定差异化溯源要求，例如对文本类生成内容，需留存原始内容原文、生成逻辑解析、引用数据来源等；对图像、音频类生成内容，需留存原始图像、音频、视频存储路径、生成参数、内容特征识别依据等；对复杂交互类生成内容，需留存完整的对话轨迹、决策逻辑链条、最终输出内容等，分类明确溯源核心要素。3、溯源内容涵盖范围需兼容动态更新，对生成内容动态调整的情况，需同步更新溯源信息，确保溯源状态与实际生成内容始终匹配，避免溯源信息滞后于实际内容变化。溯源信息存储规范要求1、存储载体要求为标准化存储，溯源信息需依托医疗机构专用合规存储载体留存，载体需符合信息安全等级保护要求，具备完整存储权限管控功能，保障溯源信息的存储安全、完整、不易篡改。2、存储位置要求为分类规范管理，溯源信息需按生成内容类型、内容版本、内容所属业务场景划分存储位置，不同类别的溯源信息需遵循独立存储、分类归档的管理要求，避免信息混存、存储混乱，提升溯源信息的可识别性与可查证性。3、存储时长要求为动态适配，针对不同场景的溯源需求制定差异化存储时长规则，常规使用场景下的溯源信息存储时长根据使用周期确定，异常场景下的溯源信息存储时长需延长至满足事件核查、责任认定需求的标准时长，确保溯源信息留存时长匹配实际使用需要。溯源信息核验要求1、核验流程要求为全流程核查，建立从生成内容发布到溯源信息落地使用的全流程核验机制，每个内容生成节点、存储节点、使用节点均需开展溯源信息核验，核验需覆盖内容真实性、信息完整性、记录准确性三大核心维度，确保溯源信息的有效性。2、核验要求涵盖多维度校验，除常规核查内容完整性、准确性外，需同步校验溯源信息的逻辑一致性，例如内容溯源记录与生成内容的对应关系是否准确、逻辑解析是否符合内容生成规则、数据来源标注与内容事实是否匹配等，对存在逻辑矛盾、信息模糊的内容溯源记录，需在核验环节标注为无效溯源信息，不得直接作为内容认定依据。3、核验要求需明确合规边界，对溯源信息的核验权限需明确区分普通核验、专项核验、权限锁定三类规则，普通核验由使用人员负责完成，专项核验由指定专业核查人员执行，权限锁定的溯源信息禁止对外泄露、随意调取，确保溯源核验过程中信息核验的合规性。溯源信息共享使用规范1、共享使用要求为分级授权，针对溯源信息的共享需求制定分级授权规则，依据使用主体权限、业务需求等级确定共享范围，仅授权具备对应核验、核查权限的主体获取溯源信息，禁止无权限主体随意调取、使用溯源信息，避免信息泄露风险。2、使用要求需遵循用途限定，溯源信息的共享使用需严格限定用途，仅用于内容真实性核查、问题溯源、责任认定、规范整改等合规场景，不得用于其他无关业务场景、不当用途，共享过程中需同步留存使用记录，明确信息使用用途、使用主体、使用时间，确保溯源信息使用符合规范。3、使用留存要求为全程留痕，每次溯源信息共享、使用场景均需留存使用记录，记录内容需包含共享主体、使用需求、使用内容、使用场景、使用时限等关键信息，形成完整的溯源使用日志，为溯源信息的共享使用过程可追溯，保障规范落实。人员培训与能力考核人员培训体系构建1、培训内容与目标本制度明确了人员培训体系需涵盖范围与核心目标。培训内容须包含生成式人工智能基础理论、临床应用规范、安全风险防范要点、操作流程规范以及数据合规管理等多项核心内容。培训目标在于提升全体参与人员对生成式人工智能应用本质的认识，使其全面掌握系统运作逻辑，有效规避技术风险，确保应用工作符合医疗机构整体管理要求。2、培训实施形式培训实施形式需多样化，以确保培训效果。可采用集中授课形式，在医疗机构内部指定培训场地，由专业培训师进行系统讲解，结合相关案例剖析技术原理，确保内容清晰易懂。可组织分组研讨活动，分组后开展实际工作场景模拟演练，通过小组协作共同处理生成式人工智能应用问题，深化对业务操作的理解。可安排现场实操培训，让参与人员直接操作系统，在实践中提升实际操作能力，实现理论与实践的深度融合。培训参与资格要求1、基本条件审核参与人员须满足基本资格条件，确保培训适配性。要求参与培训人员具备对应的医疗专业基础认知，熟悉医疗机构相关工作规范，具备相应能力可理解生成式人工智能应用要求。要求人员具备持续学习意识，能够主动跟进技术迭代动态，为学习提供扎实基础。2、资质审查机制开展资质审查是确保培训有效性前提。需对参与人员资质进行全面核查，核查内容涵盖专业能力、学习意愿、监管认知等方面。核查结果将作为培训录取依据，不符合基本条件的人员不得参与培训，从源头保障培训质量，避免因资质不足影响应用成效。培训效果评估机制1、评估方式设定培训效果评估需采用多元化方式，全面衡量培训质量。评估方式包括理论测试、实操考核、案例分析评估等。理论测试重点考查人员对培训内容的掌握程度，实操考核侧重考查人员系统操作熟练度，案例分析评估聚焦人员对安全风险识别、合规应用的处理能力，从多维度评估培训成效。2、评估周期与标准评估周期明确，一般规定为培训结束后统一开展效果评估，设置固定评估周期。评估标准需细化，制定明确量化指标，结合考核结果与培训表现进行综合评定。评估结果将作为人员能力认定依据，将评估结果与培训效果直接关联，激励人员持续提升能力，保障应用工作合规、高效开展。培训效果应用与转化1、能力转化落地培训效果需有效转化为实际应用能力，保障培训价值。培训成果应用要求将培训所学内容直接纳入实际工作流程，引导参与人员在医疗业务场景中运用生成式人工智能，通过反复实践巩固学习成果，将理论知识转化为实际工作能力，确保人员在实际操作中熟练掌握系统应用，避免因操作不当带来风险。2、动态改进机制建立动态改进机制，确保培训持续优化。根据评估结果与实际应用情况，定期开展培训效果复盘，分析存在问题与不足。针对薄弱环节及时调整培训内容、方式，针对应用问题优化规范要求，持续提升培训质量，推动人员能力稳步提升，适应生成式人工智能应用需求的变化。违规使用责任追究违规界定与初步处理原则医疗机构在引入生成式人工智能（以下简称生成式AI）技术开展业务活动时，必须严格遵循审慎、规范的使用准则。若经内部合规审查，认定相关人员或机构存在超出授权范围、未履行必要评估或监管要求、超出规范流程使用生成式AI的情形，即构成违规使用行为。对此，第一时间启动初步处理流程，采取整改提升、教育警示等措施，旨在从源头阻断不当使用行为，确保医疗行为符合医疗质量与安全底线要求。分级响应机制与启动标准针对违规使用行为的严重程度，明确相应的分级响应标准。若违规行为情节较为轻微，仅需给予内部警示、整改要求等处理，无需立即采取重大惩戒措施；若违规行为涉及跨级权限滥用、造成不良医疗影响、存在重大安全风险或引发违法违规后果，则立即启动级响应机制，依次由院级管理部门牵头调查、相关部门协同处置，必要时报相应监管主体介入核查，确保违规问题得到及时、妥善处置。内部问责机制与追责路径针对违规使用行为实施严格的内部问责制度。责任认定由合规管理部门、业务管理部门及内部审计部门联合完成，通过查阅相关使用记录、操作日志、数据流向及业务审批材料等多维度证据综合判定责任归属。对违规责任人，依照情节轻重实行分级追责：包括明确内部处分措施，如降职、调岗、停职或取消相应权限；对涉及直接责任人的，视影响程度追究相应经济赔偿及行政追责；对违反操作规范的连带责任，由管理相关部门依规开展相应追责，确保责任追究与违规行为性质、情节、后果精准对应。技术影响评估与治理联动措施明确违规使用行为带来的技术影响边界，建立动态治理联动机制。对于违规使用生成式AI行为引发的安全漏洞、数据风险或合规风险，要求相关责任主体及时开展全面复盘，排查潜在隐患并制定针对性修复方案；同时，建立跨部门联动治理机制，要求合规部门、技术部门、业务管理部门协同开展整改，将违规使用问题的整治纳入常态化管理范畴，实现违规风险防控与治理体系长效运行。追责闭环与长效管理机制构建违规使用责任追究的完整闭环管理路径，保障追责工作有效落地。追责结束后，向违规责任人出具书面追责结论及依据，清晰列明违规事实、责任认定依据与处理要求，明确整改义务与后续跟进机制；同时对相关责任主体的整改情况进行跟踪验收，对整改不达标、拒不落实整改要求的，依法依规进一步从严追责，形成违规—追责—整改—再验证—强化管控的闭环管理，持续强化违规使用行为的管控效能。应急处置预案风险预警与监测机制1、风险监测在医疗机构生成式人工智能应用的全流程中，明确设立专项监测模块，覆盖人工智能系统运行、数据录入、输出结果等各个环节。监测人员需实时追踪人工智能系统的运行状态，包括算法响应速度、输出内容质量、数据处理准确性等核心指标，及时发现潜在风险信号。监测数据应统一汇总存储，形成完整监测档案，确保风险信息可追溯、可评估。2、预警阈值设定针对不同应用场景的生成式人工智能功能，制定差异化的风险预警阈值。例如，对于辅助诊疗类系统，设定医疗结论输出异常、多轮对话逻辑冲突等预警指标；对于辅助科研类系统，设定数据异常波动、推测结论偏离事实程度等预警指标。阈值设定需结合机构实际情况综合确定，确保预警标准既科学严谨，又可适应不同场景的潜在风险程度。应急响应分级与处置流程1、应急响应分级根据风险发生的严重程度，将应急处置响应分为三级：（1）一级响应（重大风险）：指人工智能系统出现严重医疗安全风险、核心功能异常且影响诊疗或科研活动等情形，需立即启动最高等级响应。响应主体包括机构总指挥、技术管理负责人及相关业务部门，响应时限为发生风险后30分钟内完成响应部署。（2）二级响应（较大风险）：指人工智能系统出现功能性偏差、非临床影响范围有限等情形，需及时启动相应响应。响应主体包括技术管理负责人及对应业务部门，响应