AI治理专项检查与算法备案台账管理办法V1.0

PAGE1AI治理专项检查与算法备案台账管理办法摘要本文对AI治理专项检查与算法备案台账管理办法涉及的治理委员会议事管理目的、数据集版本冻结术语界定、模型下线替代管理要求、治理委员会议事检查考核、日志与追溯衔接条款等事项作出规定，明确了相应的适用范围、职责分工、处理要求与记录口径。目次一、目的二、职责分工三、术语定义四、管理要求五、流程步骤六、检查与考核七、记录与表单八、附则一、目的（一）治理委员会议事管理目的一、本条让委员会会议真能解决问题：议程、人数、结论效力与执行监督都有明确规矩。二、防止议事口径被个人偏好随意解释，会议记录成为可依据的正式版本。三、为各归口部门提供可预期的裁决窗口，积压事项知道何时能上会。四、议事规矩本身也接受监督：执行中的理解分歧由秘书处逐条登记，累计达到一定数量后作为议题提交表决修订。（二）模型卡登记管理目的一、模型卡登记的目的在于给每个上线模型一张可检索的身份页，把用途、数据、指标与限制固定在卡上。二、卡片编号与上线许可绑定：未登记卡片的模型不对外提供服务，检查中按无卡运行处置。三、卡内信息以如实填报为前提，本条同时约定差错更正办法，鼓励主动修订而非掩盖。四、卡库与日志、变更台账、下线档案等记录以卡号互相索引，卡号是跨记录检索的主线，缺线索引的记录限期补挂。（三）密钥访问控制管理目的一、接口凭证决定谁能调用模型与数据通道，本条把发放、绑定、轮换、作废四段串成可核对的链条，避免一串密钥长期无人认领。二、控制重点不在凭证本身而在用途：一密一用、来源绑定、限额随任务核定，共用与转借都会让责任落不到具体人。三、本条与记录条款互为支撑，凭流水即可回看行为链，作废与追回的痕迹留在案上，事发后不必靠猜。（四）对抗与越狱测试管理目的一、本条意在上线前主动探明模型被诱导读出不受控内容的通道，把加固做在外部发现之前。二、攻击题集按业务场景持续更新，出题、维护与使用的责任在下列条款中划清。三、测试暴露的问题按后果分档处置，避免不分轻重一律全量整改拖垮排期，也避免高档问题被低档化处理。四、被打通路径的修复情况作为放行材料之一：修复说明与复测记录齐备，才可申请上线；只有结论没有记录的不予受理。二、职责分工岗位或事项职责与要求数据集版本冻结职责分工一、数据平台执行冻结、计算并登记摘要值，保障副本只读。二、评审组核对报告中引用的集合版本与线上件是否一致，不一致即停评。三、申请方对解冻事由作书面说明；未经批准的原地改写由使用方担责。四、平台对副本只读性负责，评审组对引用一致性负责；两方都覆盖不到的中间环节问题，由季度盘点补位追查，盘点发现问题按环节归属登记，不笼统归咎数据平台。人工复核岗职责分工一、复核员归质量管理序列，其绩效不与处理量挂钩，防止赶量弃质。二、系统权限由安全岗配置；复核意见覆盖线上结论的通道仅复核员账号可用，操作全程留痕。三、算法团队负责呈现复核所需的依据要素，但不介入具体判断，也不得私下打听复核结论。四、复核员与算法团队意见分歧按记录上报而不当场调和，复核结论先行生效；算法侧不服的走复议通道，不得私下施压。第三方模型接口职责分工一、接入方提交拟传数据类型、字段范围与调用量预估。二、安全岗完成接口防护测试，重点验证异常输入下的行为边界。三、采购岗落实合同条款；合规岗核对对方的内容标识能力与算法备案情况，两项缺一不出具准入结论。四、安全岗的防护测试与合规岗的材料核验并行开展、分别出具结论；两结论冲突时暂停接入流程，提请归口部门裁定后再走。算法变更评估职责分工一、发起方描述变更内容与预期影响，并对预估准确性负责。二、测试岗在同一冻结验证集上跑出行为差对照，列出分歧清单。三、归口部门判断是否需要补做公平性或专项检查；高影响变更未经补检不得批准生效。四、归口部门的补检判断须在三个工作日内给出；逾期未回应的申请自动升级为评审会议题，不允许变更单无限期挂起，升级后的议题材料由测试岗与发起方共同准备。三、术语定义术语释义数据集版本冻结术语界定一、冻结指某版本数据集内容不再变动的状态，以版本摘要值作不变标识。二、摘要值指按数据文件字节计算的校验码，用于复现时比对内容是否被动过。三、解冻重冻指修复或补充后重新出集：产生新版本号，旧版保留供追溯，两版并存不覆盖。四、版本摘要值的计算范围含清单与参数文件；只计算数据体的冻结，恢复时无法还原处理口径，此类版本须整版重新冻结。上线公平性测试术语界定一、子组指按敏感属性切出的人群片段；组内样本量不足时须在结论中注明结果稳定性有限。二、差异度量指各子组关键指标之间的最大差距，本条以误报差距与漏报差距为主口径。三、豁免情形指经技术确认差异源于数据固有分布而非模型放大；豁免须经治理委员会书面认可，不得由项目组自宣。四、既定档位指差异度量的放行界限，设档依据留档；业务方申请调档的须提交分布论证并经治理委员会认可，不得为放行而调档。生成内容标识术语界定一、显式标识指向受众可见的生成来源标注，位置与字号有统一要求。二、隐式标识指写入文件元数据或嵌入信息的来源标记，与显式标识并行存在、互为备份。三、裁剪风险指下游编辑环节把标注抹去的隐患，防护评估按裁剪难易分级。四、大幅改写的判定以信息结构变化为准，仅错别字与格式修正不算；边缘案例走仲裁通道认定，认定结论列入细则附录备查。训练数据跨境术语界定一、出境指把本机构存储的数据传输至境外处理或存放，含远程调用境外服务时传出原始样本的情形。二、最小范围指按训练任务实际需要裁剪后的字段集合，裁剪清单评审留档。三、驻留期指数据在境外环境允许保留的时间上限，到期以删除证明收口；无证明即视为未删除。四、删除证明的出具方须为实际处理环境的管理主体；仅有转述承诺而不出具证明的，驻留期届满仍按未删除认定。四、管理要求（一）投诉错误归因管理要求一、投诉件进入队列时先挂追溯键，无键的当日向来源渠道补料，补不上的单列为缺件并暂缓定责。二、归因类别在年度内不换定义，确需调整的经治理委员会确认并写明从哪一批起适用，避免前后两段的趋势无法对照。三、整改责任单载明时限与验证方式；逾期未反馈的由归口部门上会呈报，归因之后长期不见整改动作的，案件重开并回看当初定案记录。（二）可解释性说明管理要求一、高影响场景的说明须与结果同步可提供，暂不具备说明能力的项目放缓上线。二、说明模板要素含依据、数据时点与申诉入口三项，缺一不可。三、说明内容与实际决策不一致的按事件上报，期间该项目暂停对外出具说明，补正后经复核恢复。四、模板调整须先做抽核比对，改动波及存量场景的按变更评估办理；临时沿用旧版出说明的逐单登记，限三日内补正。（三）密钥访问控制管理要求一、发放前先定用途与责任岗，用途留空的申请不出串；一密只对一个业务通道，跨业务共用须先拆再发。二、限额按任务实际所需核定，越限即拒；临时提额当日登记，期满未回落的冻结该串。三、到期强制换发，换新提醒在旧串失效前一周发出并写明作废时点。四、写进代码或随分发材料带出的凭证一经发现立即作废，责任按发放与使用两段分别认定。（四）生成内容标识管理要求一、两类标识同时具备的内容才允许发布，缺一自动拦截。二、拦截规则按季度评估，呈现形式变化时同步调整，避免规则滞后造成批量退回。三、委托外部制作的交付件无标识的退回重做，不进入结算流程。四、拦截规则调整前先在历史样本上验证误伤情况，误伤明显的新规则不得直接替换旧版；两版规则并行观察一周后择优定版，并行观察期的比对结论写入规则变更单并归档。（五）模型下线替代管理要求一、下线申请须附依赖清单、替代方案与数据处置口径三项材料，缺项不受理。二、涉对外服务的公告时间不短于两周；影响面大的场景延长至一个月，并保留过渡双跑窗口。三、历史决策记录保持可查询状态，保存期不短于替代方案落地后两年。四、依赖确认函回收过半且无重大异议才能进入下一步；有依赖方明确反对的，下线申请退回，补齐替代方案后再行提交。（六）供应商算法备案核验管理要求一、合同写清备案责任归属、配合义务与失效通知时限，缺此三项不签。二、核验材料归档后方进入付款流程，存疑意见未关闭的挂起付款。三、复核每年一次；服务用途或范围发生变化时随变随核，不等年度窗口。四、存疑未关闭期间，该供应商接口的新增用途申请一律暂停；年度复核连续两年存疑的，续约评审直接作降级处理，暂停与恢复决定均须在台账留痕，不接受仅凭口头结论流转。五、流程步骤上线公平性测试操作流程一、从业务口径确认敏感属性清单与子组切分方法。二、复跑冻结验证集的分档结果，计算各子组误报与漏报差距。三、超档位案件进入整改，产出原因分析，判断问题出在采样、特征还是阈值。四、复测通过后提交上线评审，测试记录随评审卷宗归档。五、测试所用子组切法必须与线上实际人群口径一致，按假想标签切组会让差异数字失去意义；切法说明附在报告之后归档。↓人工复核岗操作流程一、模型输出打标记进入待复核队列。二、复核员对照展示要素选择维持、修正或退回重跑。三、修正结论附理由回传，线上生效以复核后结论为准。四、退回重跑案件由算法侧排查原因；同一特征两日内再次入队的，升级给复核组长处理。五、修正理由回传给模型负责人；同类修正累计达到专项阈值时转入漂移监控研判，避免各团队各自零碎修补。↓训练数据跨境操作流程一、先评估境内副本或去标识化样本能否满足训练需要，能替代则不出境。二、裁剪字段形成清单，交评审会对照合规要求逐项核。三、批准后经指定加密通道一次性传输，留存通道记录。四、驻留期满取回删除证明并归档，逾期未回证明的启动追索。五、通道记录与登记簿逐笔对应；出现无法对应的传输记录即触发专项核查，核查期间暂停新的出境批准，结论出来再放开。↓高风险双人确认操作流程一、发起人列出本次操作会动到什么、影响哪些对象，系统按名单判定是否落入双人确认范围。二、第二确认人独立阅件并签署，只看材料不听转述，认为依据不足的有权直接退回。三、两签齐备方可执行，缺一不放行；确需先行处置的走追认并在时限内补说明。四、请求快照、双方账号与时刻落台账，台账按月导出留备份，抽查以导出件为核对基准。六、检查与考核检查项检查与考核要求标注培训与抽检检查考核一、月度检查比对培训签到、上岗考核与抽检结论三张表，缺环即记管理缺陷。二、按人统计误标率并绘趋势线，连续两月居前两位的暂停高风险任务资格。三、用抽检数据回看培训有效性：宣贯后同类错误未降的，视为培训无效项，重新设计课目并计入组长考核。四、检查结论按月归档并向标注团队公开，公开版以编号代替个人姓名，保证改进对照可查，同时不暴露人员隐私。上线公平性测试检查考核一、抽查已上线模型的测试记录与线上投诉分布，核对子组差异是否在实际中重现。二、豁免案件每季度重看一次，数据分布已变化的取消豁免并要求整改。三、漏交测试页仍获评审通过的项目，其评审成员名单一并留档，作为评审质量追溯依据。四、线上投诉分布与测试结论对不上的项目，先追是数据变了还是口径错了；同比例重现超档差异而测试页显示通过的，按报告失真处理。生成内容标识检查考核一、抽查已发布内容的标识完整度，漏标逐件登记为事件并倒查环节。二、统计被外部工具裁剪的比例，作为技术加固的优先级依据。三、核对标识文案与内容实际来源的一致性，张冠李戴的按差错考核责任岗。四、发现外部发布渠道把标识裁去而我方未察觉的，与自身漏标同等登记；相关渠道协议中的标识保留条款须同步补签，补签落实情况在下次检查中优先核对。治理委员会议事检查考核一、半年回顾决议销号率与逾期原因，逾期未结事项逐条询问责任岗。二、抽查纪要完整度，重点核对异议是否按原文记载。三、统计成员到会率并反馈至所在部门，连续缺席按议事规矩处理。四、到会率与书面意见缺席率并表统计；两项同时偏高的成员，其所在部门由召集人约谈，防止委员会退化为举手机构，约谈记录与到会统计一并存档，作为年度席位调整参考。灰度与回滚检查考核一、回看每批放量是否配得上观察项与小结单，没有小结就推进下一批的记流程缺项。二、统计从触发到恢复的耗时并与半年演练记录比对，明显劣化的要求补做一次演练。三、抽查配置与版本的对应关系，出现只退模型不退配置的按处置不彻底登记。四、长期停在半档的项目单列，问明是观察未完还是无人认领，后者提请归口部门接管。七、记录与表单表单或记录填写与使用要求日志与追溯记录要求一、调阅登记逐次记录申请人、追溯键、用途与查看时长。二、删除处置按批登记，含批号、区间与执行人。三、完整性核对结论纳入月报存档，缺失率异常的单列追查原因。四、月报中的缺失率按链路分段统计，断在哪一段一目了然；连续两期缺失率恶化的段落，自动触发完整性专项核查，缺失率计算口径由平台运维统一维护，月报之间可直接比较。人工复核岗记录要求一、复核流水按案登记队列来源、处理时长、结论与理由摘要。二、改判决案件附原始输出与依据展示的快照。三、值班交接记录单列，注明未结队列与次日注意项，交接双方签字确认。四、快照文件按案号存放并与流水表互相索引，留存期与日志条款一致；快照不可读的按记录缺失处理并追查存储责任岗，快照存储位置变更须在登记簿注明，避免编号在而文件失联。灰度与回滚记录要求一、发布方案逐档写明放量比例、观察项与判定线，档位与观察项对不上的方案不得执行。二、每档看完出一份小结单，写清指标怎么走、异常样例的编号、是否继续推进的判断。三、回滚操作登记触发时刻、恢复时刻、退回版本号与配套配置范围，四项缺一按处置未闭环处理。四、演练记录与方案档案同行，从触发到恢复的耗时逐次可比，配置与版本的对应关系在同库维护。训练数据跨境记录要求一、出境登记簿逐笔记录任务、字段清单、接收方与驻留期。二、删除证明按编号归档，与登记簿互相索引。三、评审结论附反对意见原文，供后续争议时还原当初考量。四、评审反对意见与后续执行结果一并保存；年度回顾时评估当初判断质量，为