AI安全常见问题-000413

PAGE1AI安全常见问题摘要本文对AI安全常见问题涉及的数据集版本冻结管理目的、员工内部数据要不要处理、生成内容标识管理要求、算法变更评估记录要求、模型卡登记衔接条款等事项作出规定，明确了相应的适用范围、职责分工、处理要求与记录口径。目次一、目的二、常见问题三、管理要求四、记录与表单五、附则一、目的（一）数据集版本冻结管理目的。一、评审用数据集合一旦写进报告就不能再动，本条把冻结做成引用之前的固定动作，防止同一模型在不同卷宗里对着两版数据各自得出达标结论，各卷宗互不通用。二、冻结的意义在于复现，后来人凭版本号与校验码能取回当初那份内容并算出当初那个数字，取不回的按材料缺失处理，缺失认定由复核岗在引用回查时给出并附试算过程。三、冻结不排斥后续补充，但补充要走升版重冻，旧版留档不覆盖，两版并存供追溯，升版理由与批准岗位写进冻结登记，登记缺项的新版不进入引用范围，范围由平台岗按季复核。四、本条同时划清试验用集与正式用集的界限，试验结果进了报告就得补冻后再引用，补冻前的引用件由评审席退回重排，重排后仍沿用原报告编号而不另起。（二）模型下线替代管理目的。下线要做成有计划的动作：替代留好、依赖安顿完、追溯保得住，三者齐备才允许停服，缺一即回到准备阶段，不允许先停再补。防的是悄悄停服让下游悬空，报表与流程还在引用一个已经不存在的服务，等到出数异常才发现，届时解释成本远高于事前一次通知。下线信息向各依赖方同步的时限与方式一并固定，不搞临时口头通知，同步记录里写明发送对象与发送时间，回执缺失的由经办岗补催一次并记下结果。本条与变更评估的分工为：单版本替换走变更流程，整体退出走下线流程，判定依据是服务是否继续存在；拿不准的按下线从严办理，避免留下无主服务，两套流程不并行发起，误发起的一方自行撤单并写明原因，撤单记录保留到下一次同类申请受理时，作为分流判断的参考。（三）第三方模型接口管理目的。本条把外部模型接口当作供应商来管，准入之前先把风险问清楚，而不是接进来之后再补手续，事后补签的条款往往约束不到已经发生的行为。评估覆盖数据流出、内容责任与服务连续性三摊，任何一摊说不清就不进正式接入，判定以书面材料为准，口头承诺不计入评估结论。接口变动的通知义务要在准入阶段写进条款，写明通知对象、时限与改版后的复核方式，事后追认的成本远高于事前约束，缺此项的准入按不完整处理。评估会形成的疑虑清单逐条关闭后仍保留原件，作为续约与纠纷应对时的事实材料，不得在接入完成后销毁，关闭记录上写明依据与经手人。原件与接口清单编号一一对应，年度复核按编号倒查一次，抽不到原件的视同记录缺失，由当年经办岗位补交书面说明。（四）灰度与回滚管理目的。本条把新版本的影响面先切成小块试水，异常即退回，避免一次全量投放酿成大面积事故，退回的时点与依据同场记录，便于事后回看切块是否够小。放量节奏与观察项挂钩，没有观察项支撑的流量不放，观察项不足的批次不升档，挂钩关系在发布方案里逐批列明，执行与方案不一致时以方案为准并回查当批值班记录。回滚触发条件事先写死，处置动作不靠现场讨价还价，也不留给个人临场裁量，条件一经发布不得在执行中口头放宽。放量批次与观察项的对应关系事先写入发布方案；方案缺少对照表的，发布岗有权拒绝执行并上报归口部门处理，补表期间的等待不计入发布时限，补表后重新排期并知会使用方；等待期内已放的批次停在原档不升，出现异常照常回滚，回滚本身不计入批次考核。（五）人工复核岗管理目的。一、这条要把人工复核位真正立起来，做到有人审、有权改、改得动，而不是在流程上盖一个章；章盖了而结论没人看，判断质量就没有出口，缺陷会顺着服务入口走到用户面前，事后只余申诉。二、复核位的权限与运营操作权限分开设置，同岗自审自改要杜绝；权限开通与回收都走书面审批，名单每季盘点一次，发现两边重合的立即收一边，重合情况单列成行。三、复核覆盖的比例与时限按场景风险分档设定，本条给出分档框架，各场景对号入座；归到哪一档由责任岗提出、归口部门确认，确认之后要改档须重新评审，评审记录随档位留存。四、本条同高风险双人确认相互衔接、彼此不可替代，复核管的是判断质量，确认管的是操作授权，两道功能不得合并成一道；一笔操作既要复核又要确认的，两岗由不同人承担并分别留下记录。二、常见问题（一）紧急情形可否先执行再补签。一、来不及集齐两人签署时紧急操作可以先落地，追认材料须在当日四小时之内提交并写明紧迫理由，追认通道每月使用次数封顶，超出封额的请求改走正常双签而不作追认。二、频繁走追认说明双人确认名单划得有误，应提季度评审调整，调整前的使用记录由秘书处按月汇总，汇总件作为评审议题的输入材料，而不是事后追究个人的依据。三、两签人不能都是本岗同事，第二人须来自别的岗位序列并独立阅件，同岗互签按未确认处理，未确认的操作一律回退到确认前状态，回退影响范围由发起人书面列明。四、签署页要留请求原文快照并与版本标识对齐，快照失效的按记录缺失倒查发布环节，倒查结论写入确认台账，台账按月导出留备份，抽查以导出件为核对基准而不以在线页面为准。（二）员工内部数据要不要处理。一、只在内部流转的员工办公数据同样要做去标识化，一旦用于微调，个人要素就可能被固化进输出，处理口径与对外数据同等对待，不接受以数据不出门为理由免除这一步。二、删掉姓名并不够，还要看部门、岗位、区县、时段等字段组合能否锁定到人，组合测试未通过的批次退回盘点并加一档粒度，粒度调整经数据管家与需求方共同确认后才回炉重做。三、复原对照表只在有批准用途的期间内存放，用毕当日回收并逐次登记存放位置与接触人，长期把对照表放在个人可访问位置的按越权认定，认定结果进入权限复核而不是口头提醒。四、批准用途到期或者被取消时对照表随之作废，作废由保管岗在登记中写明时刻并回传需求方，未作废回收的批次不得续用，续用造成的输出返工由需求方岗位承担而不记在平台一侧。（三）试验环境先跑还是先定档。一、只服务内部效率的试验可先把模型跑起来再补定档，前提是试验期只准使用样例数据，一旦接入真实业务数据而档位仍空，按迟报登记并由分级岗当日补评，定档结论在申请当周内给出。二、补评用的档位表与样例数据来源都要留名可回读，试验台账逐条写明起始终止时刻与数据类别，评审席按台账核对有没有越界，台账缺项的申请不进入定档队列，退回补齐后重排。三、试验转成正式用途要重来一遍，用途变更等同新立一单，先前档位不作沿用，试验期结果可留作对照但不充当放行材料，交接由提报方与新单发起人共同签认，单方改用途按未申请处理。四、档位被压低由提报需求的一方负责，评审席按台账追至描述环节，已生效结论不当场改动，需要修正的走复议并按本单位自设时限提交，复议期间仍按原档位执行而不中断。（四）材料没发齐能不能硬开会。一、材料会前没发齐不建议当场边看边议，材料不齐的议题由召集人顺延，同一问题出现两次以上就应申请改期而非仓促开，改期请求由秘书处登记并附缺项清单，清单同时发给成员。二、顺延或改期的议题保留原编号，材料补齐后优先排到下一次会，会前送达时刻记入议程台账，送达不足既定提前量的仍按不齐处理而不重复发放，提前量按台账所载时刻起算。三、表决通过但有人反对时，反对意见与理由按原文记载，涉高风险放行的决议不得只留一句结论，纪要成文后由各方校读一次，校读差异当场改正，改正痕迹保留在纪要修订页上。四、缺席成员可委托本部门人员列席，表决权不随之转移，临时动议需半数同意并由召集人当场宣布记入纪要，事后不以口头形式补认可或撤销该动议，撤销请求另立议题。（五）用个人账号润色材料算违规吗。一、拿个人账号请外部工具改一段内部材料算不算违规，看投进去的内容，含客户身份材料、尚未公开的经营口径、代码资产或原始个人记录的，按清单外使用登记。二、纯低敏事务的润色也要事后申报来源，申报写明所用工具与投进去的字段范围，漏报的该件回溯到使用人岗位，回溯结论只记管理缺口而不作个人定责，缺口连续出现的转入季度汇总。三、工具起草的稿子不能直接署名上报，须经内容负责人复核，确认文中事实与数字都能回到内部凭据，复核人对正确性负责，凭据名称随复核记录一并留存并可回读。四、清单由安全岗季度发布，同时公布安全用法示例，只列禁止项而不给示范视为宣贯不到位，新入职人员读到本条的签认页由带教岗存档，作为后续登记的起算依据。三、管理要求（一）自动化决策告知管理要求。告知须在决定生效前送达；紧急止付类场景可在决定后二十四小时内补告知，补告时点由系统留痕，超时未补的按告知不成立登记并回查该笔决定的处理过程。文案要素含主要判断因素、可能影响与申诉途径三项，缺一按告知不成立处理，三项在稿上逐条标注落点，标注含糊的退回拟稿岗重写。申诉提出后须开启人工复核，结论回告时限对外明示且不得随意延长，确需延长的把理由与新时点一并回告当事人，只在内部改时限视为未回告。告知页面改版与决定逻辑改版须同评审、同生效，一侧先行造成说明与实际脱节的，按可解释性说明不一致的流程处理，处理单里写明脱节时长与期间发生的决定笔数，笔数较多的对当事件逐一补充说明并留送达记录。（二）标注培训与抽检管理要求。一、培训内容限定在规则版本、边界案例与常见错误这三类；规则更新之后的四十八小时内完成增量宣贯，宣贯记录记下到场名单与所讲版本，缺席者由组长在排产前补上同样内容。二、上岗考核用样例卷来判定，错误超过十题的暂不排产，补训之后再考一次；补训与重考各留一条记录，两次仍未通过的改派其他环节，改派理由由组长书面说明并归档。三、抽检按批次分层抽取，每批复检量不少于当日交付量的两成；同类错误接连出现的，当日把比例上调到三成并回溯上一批次，回溯出的上批问题并入当期返工范围。四、抽检判定分三级：能即时自改的当场反馈，集中出错的整体返工，涉及口径分歧的转仲裁通道；三级的判定标准随案例库每季更新一次，更新版本由质检岗与规则维护人共同确认。（三）生成内容标识管理要求。两类标识同时具备的内容才允许发布，缺任何一项由系统自动拦截，拦截名单当日回传承办人，人工绕行不在许可范围，确需放行的须由归口岗在拦截单上书面说明并留档。拦截规则按季度评估，内容呈现形式变化时同步调整，规则滞后会造成批量退回，退回量连续上升即视为评估窗口需提前到来的信号。委托外部制作的交付件无标识的退回重做，不进入结算流程，结算岗凭入库记录放款，返工时限由承办方书面告知对方。拦截规则调整前先在历史样本上验证误伤情况，误伤明显的新规则不得直接替换旧版；两版并行观察一周后择优定版，并行期的比对结论写入规则变更单并归档，变更单未归档而已生效的调整在下次评估中作废重议。（四）上线公平性测试管理要求。上线评审材料必须含公平性测试页，缺页不受理，受理岗按页次核对并在收件记录上注明，材料齐了才排评审日程，临时补页的重新排队。差异度量超过既定档位的先整改再评审，不接受带瑕疵放行的口头承诺，档位取值沿用登记的判定标准，评审现场不临时放宽，放宽须走一次条款修订。整改后复测须用同一份冻结验证集，中途更换集样本的先前测试结论作废重做，作废记录留在同一份档案里，避免两版结论同时可引。整改后复测仍超档的，回到采样与特征层重找原因，排查方向由测试岗与算法岗共同写进整改单，不各改各的。连续两轮无进展的提交高风险裁决，而不是自行发起第三轮整改，裁决材料须附两轮复测数据与档位对照，材料不齐的议题委员会不予安排。（五）漂移监控窗口管理要求。一、上线之前必须把基准分布快照定下来，没有快照就不许开窗监控；快照的版本、生成日期与取数范围一并登记，重新出具快照时旧版留档不删，便于两轮的读数放在一起对照。二、窗口数据取用按最小权限给，敏感字段只保留统计量，不留原值；权限名单每季盘点一次，多出的人当场收回，保留期一到由保管岗清理中间表并留下清理记录。三、告警响应时限按档位写明，提示档要在一个工作日内给出研判结论，强制档当小时响应，超时自动升级到部门负责人；升级发生几次、由谁接手，都要落进监控台账供季度回看。四、值班响应的超时升级链每半年演练一次，演练记录进档案；链条打不通的视同监控没有配置，直接影响这个模型的放行结论，补配完成并通过复测才重新起算周期。四、记录与表单表单或记录填写与使用要求供应商算法备案核验记录要求一、核验台账逐家记录算法类型、服务范围、核验日期与结论。二、存疑整改的往返痕迹保留，含对方补件与我方复核两轮记录。三、合同关键条款摘要附在台账之后，摘要与原文冲突时以合同为准并回改摘要。四、台账与合同、接口登记簿三方互相索引，索引断链的限期补录；核查时拿不出当初核验结论的，视同未核验处理，索引补录完成情况列入下次核查首项。数据去标识化记录要求一、每批出具处理记录，含字段清单、手段选择、参数、执行人与复核人五栏。二、组合评估结论单列，记录尝试过的辅助信息类型与被排除的关联路径。三、对照表使用登记逐次填写申请人、用途、批准人与回收时间，由隐私保护岗按季度汇总核对一次，缺口项限期补登。四、三类记录按批次关联编号，抽查时可由任一张倒查另两张；关联断号的批次视同未验收，退回重走处理与评估两个环节。漂移监控窗口记录要求一、监控配置台账按模型记快照版本、窗长、告警线与距离算法说明，配置改动留前后对照。二、告警处置逐条登记研判结论与责任岗，没有下文的告警单列并在下次检查中首查。三、重设快照时写明缘由，例如上游采集格式变化，并登记受影响的时段范围。四、升级响应演练记录入档，演练时间与耗时逐次可比，走不通的当次直接标记为配置缺位。第三方模型接口记录要求一、接口登记簿载明来源、版本、数据范围、防护结论与责任岗。二、沙箱测试记录保留疑虑清单关闭情况与结论摘要。三、改版通知归档并与对应评估补记关联，补记缺失的通知按未送达处理。四、登记簿与接口清单同步更新，两处不一致时以登记簿较新记录为准并当日回改另一处；连续两次不一致记入管理缺陷，登记簿每季度与合同台账交叉核对一次，核对差异限期归零。算法变更评估记录要求一、变更台账逐单记录范围、对照结论、批准人与生效批次。二、分歧清单与专项测试结论保留原始件，不接受只有汇总数的报告。三、观察窗内告警与变更的关联判断逐条登记，为下次评估提供参照。四、台账按季汇总变更数量与类型占比，呈报漂移监控与治理委员会，作为告警线调整和观察窗设置的输入材料，占比异常变化须附归因说明，说明与台账同报。数据集版本冻结记录要求一、冻结登记逐版记清单范围、参数文件、校验码与只读状态的起止时间。二、解冻申请须附近改动样例与影响说明，批准人、改动条目与重冻后的新版本号一并入册。三、子集截取单独成表，写明出自哪一版源集、筛过哪些条件、供什么用途，横向比较时据此核对同源。四、报告引用版本与登记表逐条对得上，对不上的以登记为准并当日回改报告草稿。五、只读状态的起止时刻与授权对象一并入册，抽查时由任一条记录能倒查出其余各条。五、附则（一）类别不均衡治理衔接条款。一、这里的口径变更与离线验证口径条款联动评审，验证集扩容之后必须重新出具类别分布表；表没重出就引用的旧分布数字不进评审席，由执行人补齐后再排时段，扩容日期与表版本一并登记。二、历史模型重训时，类别结构与立项表差异过半的按新立项处理，重新定风险档位；算不算过半由算法评审组按分布表读数判定，判定结论随重训申请留档，事后争议按档认定。三、术语与其他AI治理文件不一致时，提请治理委员会确认后作统一修订，确认之前先按更严的一边执行；修订落地后同步回写术语表，避免下一轮又各写各的说法。四、执行中形成的倍数档位由算法评审组评估后调整，调整只对新立项生效，存量项目照立项时的原档位要求执行；两套档位并行期间，台账要标明每一笔适用的是哪一版要求。（二）人工复核岗衔接条款。复核位与高风险双人确认搭配使用，同一案件中复核与确认两岗不得由同一人先后担任，先后担任同样算违反，案件分配时按人已担岗位排除，排不开就换案而不换规则。权限清单由复核岗每半年重新签署一次，逾期未签的默认回收，回收后重开须补一次资格确认，权限自重签之日起生效而不追溯既往。担任复核的资格条件按培训管理文件另行规定，本条只设接口不设实体条件，接口上以名单为准，名单之外的人即使具备资格也不进复核位。两岗兼任限制同样适用于代班场景，代班名单月初报备时须注明其本职序列，防止互斥规则被临时排班绕开，报备缺序列的退回补齐，补齐前该代班安排不生效，已经顶上的班次改记为支援而不计入复核量。（三）数据集版本冻结衔接条款。冻结集的保存期限与对应模型卡一致，卡到期时数据集随卡库流程一并处置，处置前由卡库岗核一次有无未结的评审引用，确有引用的先延长并写下理由。跨领域引用数据集时先登记后使用，引用记录注明摘要值与用途，摘要值对不上的按未登记处理，使用方须在限期内补办或停止使用。摘要算法更换时做全量重算，并保留新旧对照表备查，重算期间的查询请求由平台岗注明依据哪一版算法，避免两套数值混引。对照表保存两年，期内旧摘要值可回查，回查申请落在登记簿上并逐次留痕；两年