04 AI辅助检验检测内控管理办法

AI辅助检验检测内控管理办法（内部管理制度·试行版）文件编号（如：ZL-ZD-2026-018）版本号V1.0发布日期2026年__月__日实施日期2026年__月__日编制部门数字化办公室/质量管理部

文件审批页角色姓名签字日期编制人审核人（质量负责人）批准人（院长/最高管理者）

AI辅助检验检测内控管理办法第一章总则第一条目的为规范本机构人工智能（AI）技术在检验检测内部控制管理中的应用，确保AI辅助系统的合规性、可靠性和安全性，保障检验检测数据的真实性、准确性和可追溯性，根据RB/T132-2026《检验检测机构数字化建设指南》、GB/T27025-2019《检测和校准实验室能力的通用要求》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等法律法规和标准规范，结合本机构实际，制定本办法。第二条适用范围本办法适用于本机构在检验检测业务全流程中引入和使用AI辅助技术的所有活动，包括但不限于：智能数据审核、检测结果智能判定、风险预警与异常识别、智能排程与资源调度、数据质量智能监控、智能客服与报告解读、文档智能审查、设备预测性维护等场景。本机构所有部门、人员以及为本机构提供AI技术服务的外部供应商，均应遵守本办法。第三条基本原则（一）合规优先原则。AI应用不得突破CMA/CNAS资质认定要求，不得替代检验检测人员的主体责任，检测结果的最终判定和签发必须由授权签字人负责。（二）人机协同原则。AI定位为辅助工具，所有AI输出必须经过人工审核确认后方可生效。建立"AI初筛+人工复核"的双层审核机制。（三）可追溯原则。AI模型的训练数据、算法参数、输出结果、人工审核记录必须完整记录和保存，确保全流程可追溯。（四）数据安全原则。AI系统的数据采集、存储、处理、传输必须符合数据安全和隐私保护要求，敏感数据必须脱敏处理。（五）持续验证原则。AI模型必须定期进行性能验证和偏差监测，当模型性能下降或业务场景变化时，必须及时重新训练或调整。第二章术语和定义第四条术语定义（一）人工智能（AI）：利用计算机系统模拟人类智能行为的技术，包括机器学习、深度学习、自然语言处理、计算机视觉、知识图谱等。（二）AI辅助内控：利用AI技术辅助检验检测机构开展内部质量控制、风险识别、数据审核、流程优化等管理活动。（三）AI模型：经过训练数据训练后，能够对输入数据进行预测、分类、识别或决策的算法模型。（四）模型验证：通过测试数据集和实际业务数据，评估AI模型的准确性、稳定性、偏差性等性能指标的活动。（五）人机协同：AI系统完成初步处理和筛选，人类专家进行最终审核、确认和决策的工作模式。（六）算法偏见：AI模型因训练数据偏差或算法设计缺陷，对特定群体或场景产生系统性不公平结果的现象。第三章组织与职责第五条组织架构本机构设立AI应用管理小组，作为AI辅助内控的决策和协调机构。小组由以下人员组成：（一）组长：院长或最高管理者（或授权的分管副院长），负责AI应用的重大决策和资源保障；（二）副组长：质量负责人和技术负责人，分别负责AI应用的合规性审核和技术可行性评估；（三）成员：数字化办公室主任、各业务科室负责人、内审员代表、法务/合规专员。第六条职责分工（一）AI应用管理小组：审议AI应用规划和年度计划，审批AI系统的引入、升级和停用，评估AI应用风险，协调跨部门AI应用事项。（二）数字化办公室：负责AI系统的选型、采购、部署、运维和技术管理，组织AI模型的验证和监控，维护AI应用台账。（三）质量管理部：负责AI应用的合规性审查，制定AI辅助内控的质量控制要求，监督AI输出的人工审核执行情况，组织AI相关内审。（四）业务科室：负责提出AI应用需求，参与AI系统测试和验收，执行AI输出的人工审核，反馈AI应用问题和改进建议。（五）内审员：负责将AI辅助内控纳入内审范围，对AI应用的合规性、有效性进行独立审计。第四章AI辅助内控应用场景与管理要求第七条智能数据审核（一）应用场景：利用AI对检验检测原始记录、计算过程、质控数据进行自动审查，识别异常值、逻辑矛盾、缺失项、超范围等问题。（二）管理要求：AI审核仅作为初筛工具，标记的异常项必须由审核人员逐一人工复核；AI审核规则库必须经过技术负责人审批后启用；AI审核的覆盖率、准确率、误报率必须每月统计并报告。（三）禁止事项：AI不得自动修改检测数据；AI不得自动签发报告；AI审核不通过的项不得跳过人工复核直接通过。第八条检测结果智能判定（一）应用场景：利用AI根据检测标准限值，对检测结果进行合格/不合格初判，对临界值、异常值进行标记。（二）管理要求：AI判定结果必须标注"AI初判，待人工确认"状态；授权签字人必须对AI判定结果进行人工复核后才能签发报告；对临界值（限值±5%范围内）必须强制人工复核并保留复核记录。（三）偏差监控：每季度统计AI判定与人工最终判定的一致率，当一致率低于95%时，必须暂停AI判定功能并排查原因。第九条风险预警与异常识别（一）应用场景：利用AI对人员能力风险、设备可靠性风险、标准物质供应风险、环境异常风险、检测质量风险等进行实时监测和预警。（二）管理要求：AI预警必须明确预警等级（一般/重要/紧急）、预警依据、建议措施；AI预警推送至责任人后，责任人必须在规定时限内响应并记录处置结果；AI预警模型必须每半年验证一次误报率和漏报率。（三）应急响应：紧急预警（如数据安全事件、设备故障导致批量结果异常）必须同时推送至AI应用管理小组组长和质量负责人，启动应急预案。第十条智能排程与资源调度（一）应用场景：利用AI根据任务优先级、人员技能、设备状态、时限要求等因素，自动生成检测任务排程方案和资源调度建议。（二）管理要求：AI生成的排程方案必须经科室负责人确认后执行；AI排程不得违反人员资质授权要求（无资质人员不得被分配对应检测任务）；AI排程不得违反设备校准有效期要求（过期设备不得被排程使用）。（三）效果评估：每月统计AI排程方案的采纳率、任务准时完成率、设备利用率变化，评估AI排程效果。第十一条数据质量智能监控（一）应用场景：利用AI对机构数据资产的质量进行自动化监控，包括完整性、准确性、一致性、及时性等维度。（二）管理要求：AI数据质量监控必须覆盖核心业务数据表；AI发现的数据质量问题必须自动生成工单并推送至数据责任人；数据质量评分必须纳入管理评审输入。（三）数据修复：AI不得自动修复业务数据；所有数据修复必须由数据责任人人工操作并记录修复原因、修复内容、修复时间。第十二条智能客服与报告解读（一）应用场景：利用AI智能客服回答客户常见咨询，利用AI对检测报告进行初步解读和不合格项分析。（二）管理要求：AI客服必须明确告知客户"您正在与AI助手对话"，复杂或敏感问题必须转人工；AI报告解读仅供客户参考，不得作为检测结论的组成部分，报告封面或解读页必须标注"本解读由AI生成，仅供参考，不具有证明效力"。（三）内容审核：AI客服的回答内容必须经过内容安全审核，不得泄露其他客户信息，不得作出超出检测报告范围的承诺。第十三条其他AI应用场景本机构引入其他AI应用场景（如文档智能审查、设备预测性维护、智能抽样方案生成、合同智能评审等），必须参照本章上述条款的管理原则，制定专项管理细则，经AI应用管理小组审批后实施。第五章AI系统选型、验证与上线管理第十四条需求提出与评审业务科室提出AI应用需求时，应填写《AI应用需求申请表》，说明应用场景、预期效果、数据需求、风险评估。数字化办公室组织技术可行性评估，质量管理部组织合规性评估，评估通过后提交AI应用管理小组审议。第十五条供应商与产品选型（一）供应商资质：AI供应商必须具备合法经营资质，有检验检测行业AI应用案例优先；涉及数据处理的供应商必须符合数据安全要求，签署数据保密协议。（二）产品评估：选型时必须评估AI产品的算法可解释性、模型可验证性、数据安全性、系统兼容性、运维支持能力；优先选择支持模型本地化部署、算法透明可审计的产品。（三）禁止使用：禁止使用无法解释决策逻辑的"黑箱"模型用于检测结果判定；禁止使用未经数据安全评估的公有云AI服务处理敏感检测数据；禁止使用开源未经验证的AI模型直接用于生产环境。第十六条AI模型验证（一）验证内容：AI模型上线前必须进行全面验证，包括准确性验证（与人工结果比对）、稳定性验证（不同数据集性能一致性）、偏差验证（不同场景/群体的公平性）、边界验证（极端/异常输入的鲁棒性）、安全性验证（对抗样本攻击防护）。（二）验证数据：验证数据集必须独立于训练数据集，覆盖机构实际业务场景的多样性；验证样本量不得少于300例或最近3个月实际业务量的10%（以大者为准）。（三）验证报告：数字化办公室负责编制《AI模型验证报告》，内容包括验证方法、验证数据、性能指标、偏差分析、风险评估、改进建议。验证报告必须经技术负责人和质量负责人共同审批。（四）性能门槛：用于检测结果辅助判定的AI模型，准确率不得低于95%，误判率不得高于2%；用于风险预警的模型，漏报率不得高于5%。未达到性能门槛的模型不得上线。第十七条试运行与上线（一）试运行期：AI系统通过验证后，进入不少于3个月的试运行期。试运行期间，AI输出与人工处理并行运行，每日比对结果差异。（二）试运行评估：试运行结束后，数字化办公室编制《AI系统试运行评估报告》，统计AI准确率、人工复核工作量变化、用户满意度、问题清单等。评估通过后提交AI应用管理小组审批上线。（三）上线审批：AI系统正式上线必须经AI应用管理小组审批，并发布上线通知，明确启用范围、操作规范、应急联系方式。（四）培训要求：AI系统上线前必须对所有相关使用人员进行操作培训和风险意识培训，培训考核合格后方可使用。第六章AI输出的审核与确认第十八条双层审核机制所有AI输出必须执行"AI初筛+人工复核"的双层审核机制：（一）第一层：AI系统自动完成初步处理、筛选、标记，输出初步结果和置信度评分；（二）第二层：具备相应资质的人员对AI输出进行人工审核、确认或修正，签署审核意见。未经人工复核确认的AI输出，不得作为检验检测报告的组成部分，不得作为质量管理决策的唯一依据。第十九条人工审核要求（一）审核人员资质：AI输出的人工审核人员必须具备相应领域的检验检测资质和经验，熟悉AI系统的工作原理和局限性。（二）审核内容：审核人员必须核对AI输出与原始数据的一致性，评估AI判断的合理性，确认AI标记的异常项是否属实，对AI未标记但人工发现的问题进行补充记录。（三）审核记录：人工审核必须保留完整记录，包括审核人、审核时间、审核意见、是否修改AI输出、修改原因。审核记录保存期限不少于6年。（四）审核比例：AI辅助检测结果判定的，100%必须人工审核；AI辅助数据审核的，AI标记异常项100%人工复核，AI未标记项按不低于10%比例抽查；AI辅助文档审查的，100%人工确认。第二十条AI输出的修正与反馈（一）当人工审核发现AI输出错误时，审核人员必须在系统中记录正确结果和错误原因；（二）数字化办公室定期收集AI错误案例，分析错误模式，反馈给供应商或模型维护团队进行模型优化；（三）当同一类AI错误在一个月内累计出现3次以上时，必须暂停该AI功能，重新进行模型验证后才能恢复使用。第七章数据安全与隐私保护第二十一条数据分类分级AI系统处理的数据必须按照GB/T43697《数据安全技术数据分类分级规则》和本机构《数据分类分级管理办法》进行分类分级管理：（一）核心数据：涉及国家秘密、国家安全的检测数据，禁止用于AI训练和处理；（二）重要数据：涉及客户商业秘密、产品质量敏感信息的检测数据，AI处理必须经过脱敏和审批；（三）一般数据：不涉及敏感信息的常规检测数据和管理数据，可在合规前提下用于AI训练和处理。第二十二条数据安全要求（一）数据采集：AI系统的数据采集必须经过数据所有者授权，不得超范围采集；采集客户数据必须在委托合同中明确告知并获得同意。（二）数据存储：AI训练数据和模型参数必须存储在本机构可控的环境中，使用公有云服务必须经过安全评估并签署数据处理协议；敏感数据必须加密存储。（三）数据传输：AI系统内部和外部数据传输必须采用加密通道（TLS/SSL），禁止明文传输敏感检测数据。（四）数据使用：AI模型训练必须使用脱敏后的数据集，不得将包含客户身份信息、产品具体信息的原始数据直接用于训练；AI输出不得泄露训练数据中的个体信息。（五）数据销毁：AI系统停用或数据使用目的达成后，必须按照本机构数据销毁制度，安全销毁相关训练数据和模型参数，并保留销毁记录。第二十三条隐私保护（一）涉及个人信息的AI应用（如人员能力画像、客户联系人管理）必须符合《个人信息保护法》要求，遵循最小必要原则。（二）AI系统不得进行人脸、指纹等生物特征识别，除非法律另有规定并获得个人单独同意。（三）AI客服对话记录必须脱敏存储，不得将客户个人信息用于模型训练。第二十四条算法安全（一）AI模型必须防范对抗样本攻击、数据投毒、模型窃取等安全威胁；（二）AI系统必须具备访问控制和操作审计功能，记录模型训练、参数调整、推理调用等操作日志；（三）禁止将AI模型参数、训练数据导出至未授权环境；模型更新必须经过审批和版本管理。第八章人员培训与能力要求第二十五条培训体系本机构建立AI应用三级培训体系：（一）全员普及培训：面向全体员工，内容包括AI基础知识、AI应用伦理、数据安全意识、本机构AI管理办法。每年不少于1次。（二）使用人员培训：面向AI系统直接使用人员，内容包括具体AI系统的操作规范、AI输出审核要点、异常情况处理、应急流程。上岗前必须培训并考核合格。（三）专业人员培训：面向数字化办公室和AI管理小组成员，内容包括AI算法原理、模型验证方法、AI风险管理、前沿技术跟踪。每年不少于2次。第二十六条能力要求（一）AI系统使用人员必须理解AI的局限性，不得盲目信任AI输出，必须保持专业判断；（二）审核人员必须具备识别AI错误的能力，熟悉常见AI偏差模式（如过拟合、样本偏差、概念漂移）；（三）数字化办公室必须具备AI模型基本验证能力，能够独立或协同供应商完成模型性能评估。第九章监督检查与持续改进第二十七条日常监控（一）数字化办公室负责AI系统的日常运行监控，包括系统可用性、响应时间、模型性能指标、异常调用等；（二）质量管理部负责AI辅助内控执行情况的日常监督，包括人工审核执行率、审核记录完整性、AI错误处理及时性；（三）每月编制《AI应用运行月报》，内容包括系统运行状态、模型性能指标、AI错误统计、人工审核情况、用户反馈、改进事项。月报提交AI应用管理小组。第二十八条定期评估（一）每半年开展一次AI模型性能全面评估，重新计算准确率、误报率、漏报率、偏差指标，与上线时基准对比；（二）每年开展一次AI应用全面评估，内容包括AI应用效果、合规性、安全性、用户满意度、投入产出比，形成《AI应用年度评估报告》；（三）年度评估报告作为管理评审输入，评估结果决定AI系统的继续使用、优化升级或停用。第二十九条内部审核AI辅助内控必须纳入本机构年度内审计划，内审内容包括：（一）AI应用管理小组运作情况；（二）AI系统选型、验证、上线审批流程执行情况；（三）AI输出人工审核机制执行情况和审核记录完整性；（四）数据安全和隐私保护措施落实情况；（五）AI模型定期验证和性能监控情况；（六）人员培训和能力保持情况；（七）AI错误处理和持续改进情况。内审发现的不符合项按照本机构《不符合工作管理程序》进行整改和跟踪验证。第三十条持续改进（一）建立AI应用改进闭环：问题收集→根因分析→改进措施→效果验证→标准化；（二）鼓励员工提出AI应用改进建议，对有价值的建议给予奖励；（三）跟踪AI技术发展趋势，定期评估新技术在检验检测领域的应用可行性，适时引入先进AI能力。第十章应急管理第三十一条应急预案数字化办公室负责制定《AI系统应急预案》，覆盖以下场景：（一）AI系统故障或宕机：切换至人工处理流程，确保业务连续性；（二）AI模型性能严重下降（准确率骤降10%以上）：暂停AI功能，排查原因，重新验证后恢复；（三）AI输出系统性错误（批量错误判定）：立即停用，追溯受影响报告，评估是否需要报告召回；（四）数据安全事件（数据泄露、模型被攻击）：启动数据安全应急预案，报告管理层和监管部门；（五）AI供应商服务中断或终止：启动备用方案，确保数据可迁移、业务可连续。第三十二条应急演练每年至少组织一次AI系统应急演练，重点演练AI系统宕机后的人工切换流程和AI批量错误后的追溯处置流程。演练后进行评估和预案优化。第十一章附则第三十三条制度解释本办法由本机构数字化办公室会同质量管理部负责解释。第三十四条修订机制本办法根据国家法律法规、标准规范的更新和本机构AI应用实践的发展，适时修订。修订周期原则上不超过2年。当出现以下情况时必须及时修订：（一）国家出台A