AI在医疗的风险：诊断、治疗、责任

AI在医疗的风险：诊断、治疗、责任本文档提供：诊断风险信号观察表；治疗风险信号观察表；责任归属判定表；监管准入检查表；算法变更监管检查表；不良事件记录字段表；决策追溯记录字段表；责任触发表；七处排查表；完整示例；三套场景操作序列。

2026-11-09表1目录与定位表这一节的标题读完能拿到什么这一节在全文中的功能一、拿到一个AI医疗产品，先看它落在诊断、治疗还是责任风险区诊断风险信号观察表；治疗风险信号观察表把产品行为归入风险类别二、诊断风险的信号不在准确率数字里，在漏报和假阳性的具体形态里漏报/假阳性逐例记录格式；判定阈值逐例标记诊断风险信号三、治疗风险的信号出现在建议落地之后，不在输出当时治疗建议追溯字段；随访观察点捕获治疗建议的延迟后果四、责任归属看三样东西：谁触发、谁复核、记录里有什么责任归属判定表；触发表按记录判定责任落在谁五、监管准入查两件事：证有没有，变更在不在授权范围内准入检查表；变更监管检查表核对证照与算法变更授权六、不良事件记录卡住，多半是时限和字段对不上不良事件记录字段表；时限对照按法定字段和时限填报七、决策追溯记录缺字段，责任判定就没有落脚点决策追溯记录字段表；示例行固定追溯字段与填写格式八、诊断、治疗、责任撞在一起时按哪条规则裁决策规则表；矛盾四段裁决三类风险的冲突九、对外报送、院内复核、个人了解三套做法怎么裁剪三套场景表；检查项增减按使用场景裁剪检查项十、完整示例：一个辅助诊断产品从漏报信号到责任落点转折记录表；变量表复现从信号到判定的过程十一、来源层级与核对状态登记在哪张表来源说明表；核对路径登记来源层级与核对状态按第一列在正文找对应那节，按第二列判断该节有没有所需内容，按第三列判断该节是否对应当前卡住的位置。一、拿到一个AI医疗产品，先看它落在诊断、治疗还是责任风险区产品说明书和验证报告摆在一起，先翻“预期用途”段。输出的是“检出/排除/分诊”类判断的，进表2诊断风险行；输出的是“建议用药/剂量/手术方案”类动作指令的，进表3治疗风险行；输出的是自然语言建议且产品未取得医疗器械注册证的，进表4责任判定行，同时查表5监管准入。表2诊断风险信号观察表信号形态在哪个文件里找观察什么什么算需要标记示例漏报验证报告混淆矩阵或逐例列表AI判阴性、参考标准判阳性的例数漏报例数≥1且含“不可漏”病种肺栓塞AI漏报30例，其中1例中央大块栓塞假阳性验证报告逐例列表AI判阳性、参考标准判阴性的例数假阳性例数超过验证方案预设上限同产品假阳性94例判读不一致临床使用日志或复核记录AI输出与医师最终结论不同的例数不一致例数占同期总例数≥5%42岁患者AI报高概率肺栓塞，医师判阴性置信度缺失产品界面或输出日志输出是否附带置信度或“不确定”标记高风险判断无置信度字段报告仅写“高概率”，无分级病种覆盖盲区产品预期用途与验证病种列表对照验证病种数少于声称适用病种数声称N病种、验证不足N声称9类图像，验证仅覆盖3类输入：取验证报告“混淆矩阵”或逐例判定列，以及产品预期用途段。动作：按表2第2列至第4列逐行比对。输出：在“诊断风险信号标记”栏填信号形态和例数。判定：标记栏有具体病种名和例数，例数可与验证报告逐例列表对上。二、诊断风险的信号不在准确率数字里，在漏报和假阳性的具体形态里表2标记出“漏报≥1”或“假阳性超限”后，打开验证报告的逐例列表。逐例列表通常包含病例编号、AI判定、参考标准判定、病种、病灶位置、最大径或负荷量。漏报行看“参考标准判定=阳性且AI判定=阴性”的行，假阳性行看“AI=阳性且参考标准=阴性”的行。表2-a漏报逐例记录格式病例编号病种AI判定参考标准病灶特征漏报风险等级示例P-041肺栓塞阴性阳性，中央型中央大块栓塞高（不可漏病种）1例中央大块栓塞漏报P-087肺栓塞阴性阳性，亚段孤立亚段中23例孤立亚段栓塞漏报之一输入：打开验证报告逐例列表，筛选“AI判定=阴性”行。动作：对每行填病种、参考标准、病灶特征。输出：漏报逐例记录表。判定：每个漏报病例有病例编号和病灶特征，中央型或“不可漏”病种被标为高等级。表2-b假阳性逐例记录格式病例编号AI判定参考标准医师复核意见假阳性归因示例FP-012阳性，高概率阴性对比度差，判读不确定图像质量12例假阳性中5例被标“不确定”或“对比度差”FP-033阳性阴性明确无对应病灶模型过度敏感需补入假阳性归因列输入：筛选“AI=阳性且参考标准=阴性”行。动作：填医师复核意见和假阳性归因。输出：假阳性逐例记录。判定：每例有归因词，归因词从“图像质量”“模型过度敏感”“标注歧义”“其他”中选取。诊断风险的判定动作落在“不可漏病种是否有漏报”上。有中央型栓塞、主动脉夹层、颅内大血管闭塞等不可漏病种漏报的，该产品在本轮评估中标记“有条件使用”，使用条件写进表2-a备注列。三、治疗风险的信号出现在建议落地之后，不在输出当时治疗类输出（用药建议、剂量调整、手术路径）的风险信号不体现在单次输出是否“看起来合理”，而体现在建议被执行后是否出现偏离预期的事件。记录格式需要把“AI建议了什么—谁执行了—执行后观察到什么”串在同一行。表3治疗风险信号观察表信号形态在哪个文件里找观察什么什么算需要标记示例建议被直接采纳医嘱系统或执行记录AI建议与最终医嘱逐字一致的比例一致比例高且无医师修改痕迹减药计划被逐日执行，无医师复核签字建议落地后出现不良事件不良事件报告或随访记录事件发生时间在AI建议执行后N天内存在时间关联且无其他明确归因按建议停药后癫痫发作致死建议超出产品声称范围产品预期用途与建议内容对照建议涉及的决策类型是否在注册范围内建议涉及剂量调整但预期用途仅写“辅助分诊”辅助分诊产品输出减药方案随访断点随访记录建议执行后是否有计划随访日期无随访日期或随访未完成建议后30天内无复诊记录治疗风险标记后，在表3“随访观察点”列填具体时间点（如“执行后7日”“执行后30日”），并注明由谁在哪个系统里看。四、责任归属看三样东西：谁触发、谁复核、记录里有什么表2或表3出现标记后，进入责任归属判定。判定依据是记录，不是产品宣传。三样东西分别落在不同记录里：触发动作落在使用日志，复核动作落在签名栏，记录完整性落在字段表。表4责任归属判定表情形谁触发谁复核记录里必须有什么责任落点示例医师采纳AI建议且记录有复核签字AI输出，医师签入医师建议原文、修改痕迹、医师签名医师/机构肺栓塞AI报阳性、医师复核后判阴性并签字医师未复核，AI建议直接进入医嘱AI输出直连医嘱无无医师修改记录、无复核时间戳产品提供方与使用机构按合同和过错分担减药计划无医师复核签字AI建议超出注册范围产品输出使用方未拦截预期用途文本、实际输出内容产品提供方责任升高分诊产品输出治疗建议建议执行后出现延迟损害且记录无法回溯AI输出复核记录缺失无决策时间、无输入上下文、无版本号使用机构承担记录不能的后果损害在数年后出现，AI版本已不可考使用未取证产品提供医疗建议产品输出使用方注册证号栏空白使用方与提供方均暴露通用聊天工具输出减药建议表4-a责任触发表触发条件在哪个记录里看触发表4哪一行需要补的记录医嘱与AI建议逐字一致医嘱系统修改痕迹列未复核直连行补医师复核签字不良事件发生时间距AI建议执行≤30天不良事件报告“事件日期”与“建议执行日期”延迟损害行补版本号和输入快照产品注册证号栏空白使用登记表“注册证号”列未取证行停止用于医疗决策并登记输入：取表2或表3的标记行，以及使用日志和签名栏。动作：按表4-a触发条件匹配表4行。输出：责任归属判定结论一行，含“责任落点”和“缺失记录”。判定：判定行有具体记录名称和缺失字段名，缺失字段可在表6或表7中找到补录位置。五、监管准入查两件事：证有没有，变更在不在授权范围内表4判定“未取证”或“超范围”后，打开监管准入检查。截至2025年10月，NMPA已批准超110款基于深度学习的第三类医疗器械独立软件产品，用途覆盖辅助分诊、辅助识别与检测、辅助治疗。未列入注册证“适用范围”的输出类型，不在授权范围内。表5监管准入检查表查什么打开什么看哪列什么算合格不合格形态怎么改注册证存在产品注册证或使用登记表注册证号有编号且与产品名称对应注册证号栏空白停止用于医疗决策并登记输出类型在范围内注册证“适用范围”文本适用范围实际输出类型被范围文本覆盖范围写“辅助分诊”，实际输出“用药建议”拦截该输出类型风险等级与用途匹配注册证“管理类别”管理类别第三类对应高风险用途第三类证用于低风险声明按实际用途重新评估算法版本锁定状态产品版本记录版本更新方式锁定模型或已获PCCP授权每次更新无监管记录见表5-a输入：取注册证文本和使用登记表。动作：按表5第2列至第5列逐项核对。输出：准入检查结论（通过/拦截/补证）。判定：注册证号有编号且实际输出类型在适用范围文本内。算法持续更新时，监管关注点从“一次性发证”转向“变更是否在预定范围内”。FDA2025年8月定稿的PCCP指南允许制造商在上市申请中预先描述计划内的AI算法变更，获批后在授权范围内实施变更。截至2025年12月，FDA批准的1357项AI/ML医疗器械中，除1项外均为“锁定”器械，即相同输入产生相同输出。表5-a算法变更监管检查表变更类型是否需要新的监管动作看什么记录什么算授权内不合格形态仅参数微调，锁定模型不需要，但需内部版本记录版本号与变更日志版本号递增且有变更日期版本号不变但输出改变训练数据扩充且模型未锁定需要PCCP覆盖或新提交PCCP授权范围文本变更类型在PCCP列出的变更类别内变更类型不在授权清单输出用途从分诊扩展到治疗建议需要新的上市授权注册证适用范围新用途已写入适用范围沿用旧证输出新用途部署环境或接口变更视是否影响输出而定变更影响评估记录评估记录写明“不影响输出”无评估记录六、不良事件记录卡住，多半是时限和字段对不上表4判定责任落点涉及“延迟损害”或表3标记“建议落地后不良事件”时，进入不良事件记录。医疗器械不良事件通过国家医疗器械不良事件监测信息系统上报，导致死亡的事件、严重伤害事件、其他事件分别对应7日、20日、30日等报告时限。药品不良反应的时限为：死亡病例立即报告，新的、严重的不良反应15日内报告，其他类型30日内报告。表6不良事件记录字段表字段填什么示例谁填什么算合格不合格形态事件类型药品不良反应/医疗器械不良事件医疗器械不良事件报告人与产品类型对应产品为软件、事件类型填药品事件日期不良事件发生日期2026-03-14发现人有具体年月日日期栏填“近期”报告时限按事件后果对应严重伤害，20日报告人时限与后果等级匹配死亡事件填“30日”怀疑产品产品名称与版本号模型A-辅助诊断v2.1报告人名称和版本号齐全版本号栏空白事件描述时间关联和表现按AI建议调整剂量后第3日癫痫发作报告人含“AI建议—执行—事件”链条仅写“患者抽搐”处理措施停药/救治/设备停用停用AI输出并恢复原剂量报告人有具体动作填“已处理”转归痊愈/好转/死亡/后遗症死亡报告人有随访结论转归栏空白输入：取表3标记行或表4“延迟损害”行。动作：按表6字段逐项填，对照时限列。输出：不良事件报告一行或一份。判定：事件日期、时限、怀疑产品版本号、事件描述四列有值，且时限与事件后果等级对应。七、决策追溯记录缺字段，责任判定就没有落脚点表4判定“记录不能回溯”时，问题出在决策当时的记录字段缺失。AI医疗损害的归因困难在于后果可能在初次诊断或干预数年后才出现，且难以归因到原始模型。追溯记录需要在决策发生时就固定输入、版本、输出、复核四个要素。表7决策追溯记录字段表字段填什么示例什么算合格不合格形态决策时间精确到分钟的日期时间2026-01-2014:37含年月日和时分仅填“1月20日”AI输出原文逐字复制或快照引用“右下肢亚段肺栓塞，高概率”与输出日志可逐字对上写“AI提示肺栓塞”模型版本号版本或哈希v3.2/hash:a1b2可定位到唯一版本填“最新版”输入上下文病例编号和关键输入病例P-041；CTPA序列至少含病例编号输入栏空白医师复核动作采纳/修改/拒绝拒绝，判阴性并签字有动作词和签名填“已阅”复核理由一句可核查的理由对比度不足，未见确切充盈缺损理由指向具体图像特征填“经验判断”版本可回溯确认该版本是否仍可调用是/否有“是/否”且“否”时登记归档位置栏位空白输入：取一次实际决策的AI输出和医师操作记录。动作：按表7七个字段逐项填写。输出：决策追溯记录一行。判定：七个字段均有值，模型版本号可定位到唯一版本，复核动作有签名。八、诊断、治疗、责任撞在一起时按哪条规则裁表2至表7的结论出现冲突时，按表8匹配。规则编号写进判定记录，退路列写可执行动作。表8决策规则表编号如果可观察条件则执行动作如果判定失效条件则退路R1诊断漏报含不可漏病种且假阳性超限标记“有条件使用”，限定输出须经高年资医师复核无法保证复核人力暂停该病种输出，改人工流程R2治疗建议被直接采纳且无复核签字拦截该输出通道，恢复复核签字方可使用通道无法技术拦截停用产品并登记未复核例数R3产品未取证或输出超注册范围停止用于医疗决策，登记使用清单临床确需使用按未取证使用登记，责任由使用方与提供方按过错分担R4不良事件发生在建议执行后30日内且记录可回溯按表6时限上报，同时触发表4责任判定记录不可回溯标记“记录不能”，按表7缺项补录后重判R5算法变更无PCCP覆盖且影响输出暂停变更版本的使用变更仅为界面文字保留使用并补内部变更记录R6诊断与治疗风险在同一产品上同时标记按治疗风险优先处置（后果更直接）诊断漏报涉及不可漏病种且治疗风险为低两者并行处置，处置顺序记录在案矛盾陈述：某辅助分诊产品取得第三类注册证，适用范围写“辅助分诊与评估”。临床使用中，医师将AI输出的“高概率肺栓塞”直接采纳为诊断依据，未做复核签字；同时该产品在肺栓塞验证中漏报30例，其中1例为中央大块栓塞。注册范围允许“分诊”，实际行为落在“诊断”，且诊断风险信号已触发。实质分析：注册范围限定为分诊，使用行为进入诊断决策；漏报数据表明该产品在无人复核时存在不可漏病种的漏诊风险；记录上无医师复核签字，责任无法落到具体复核人。三项事实指向同一处置方向：拦截直连诊断的输出通道。权衡规则：按R2拦截输出通道，按R1限定须经高年资医师复核，按表6对已发生的漏报病例评估是否需要上报。退路：通道无法技术拦截的，停用该产品并登记未复核例数；停用影响临床流程的，按R3登记未取证使用情形并保留责任分担记录。输入：取表2至表7的标记行和结论。动作：按表8“如果可观察条件”列匹配。输出：判定记录填规则编号、执行动作、退路。判定：规则编号有对应条件，退路列有可执行动作和登记位置。九、对外报送、院内复核、个人了解三套做法怎么裁剪对外报送（监管提交、不良事件报告、诉讼应对）选完整版；院内质量复核且时间受限选精简版；个人了解产品风险选极简版。表9三套场景操作序列表场景适用条件保留的检查项删掉的检查项操作序列不能妥协的底线完整版监管提交、不良事件报告、责任争议表2、表2-a、表2-b、表3、表4、表5、表5-a、表6、表7、表8无跑全量检查；按表8裁冲突；按表6报事件；按表7补追溯不可漏病种漏报必须有记录；未取证输出必须拦截精简版院内质量复核且时间受限表2、表4、表5、表6；表2-a仅不可漏病种行表2-b假阳性逐例；表3治疗随访点；表5-a算法变更细项；表7复核理由列跑精简清单；用表8前3行定位；只补失败项不可漏病种漏报有记录；复核签字存在极简版个人了解产品风险表2第1、2、5行；表5第1、2行；表4第1、2行表3、表6、表7全部；表2-a/b逐例；表5-a全部先查注册证号；再查漏报例数；最后看有无复核签字注册证号存在且输出类型在范围内输入：取表9“场景”列和实际使用目的。动作：按保留列和删除列裁剪检查包。输出：检查包清单。判定：保留项有名称，删除项有名称，底线列有具体项。十、完整示例：一个辅助诊断产品从漏报信号到责任落点某医院质量管理人员接到一款肺栓塞辅助检测产品的院内评估任务[示例案例，细节为合理设定]。起点材料起点材料为产品注册证、验证报告逐例列表、近6个月使用日志和不良事件登记簿。分步操作步骤1：查注册证，适用范围写“辅助分诊与评估”，注册证号有编号。表5第1、2行通过。步骤2：翻验证报告逐例列表，AI漏报30例，其中1例中央大块栓塞；假阳性94例。表2诊断风险信号标记“漏报：不可漏病种1例”“假阳性94例”。步骤3：打开使用日志，发现3例AI报“高概率肺栓塞”后医嘱直接写入“肺栓塞”诊断，无医师修改痕迹。表4触发“未复核直连”行，表4-a触发。步骤4：翻决策追溯记录，3例中2例有模型版本号，1例版本号栏填“最新版”；复核理由栏均为空白。表7判定“记录不能回溯”。步骤5：按表6核对不良事件登记簿，1例患者在AI报阴性后第12日确诊肺栓塞，事件日期和产品版本有记录，但“处理措施”栏空白。按表6补填“恢复人工阅片流程”。不顺利环节表10转折记录表转折信号假设试了什么新信息换哪条路第一轮漏报含中央大块栓塞产品对中央型病变敏感度不足调阅漏报病例图像中央大块栓塞在AI热力图上标记极弱从“逐例补看”转为“标记不可漏病种漏报并限定使用条件”第二轮假阳性94例图像质量导致误报看假阳性病例的医师复核意见5/12假阳性被标“对比度差”，但其余无图像质量解释从“归因图像质量”转为“记录假阳性归因而非统一归因”第三轮3例诊断直连无复核签字医师习惯性采纳AI输出查使用日志的输出呈现方式AI报告以“诊断建议”措辞呈现，非“分诊提示”从“追医师责任”转为“产品输出措辞超出注册范围，触发表5拦截”第四轮追溯记录版本号填“最新版”记录字段未强制查记录模板模板无“版本可回溯确认”列从“补录版本号”转为“改模板加列，历史记录标记录不能”第一轮把第二轮方向从“逐例解释假阳性”拉到“归因分类记录”；第二轮把第三轮从“医师行为问题”拉到“产品输出措辞超范围”；第三轮把第四轮从“个案补录”拉到