AI伦理管理制度V1.0-070356

PAGE1AI伦理管理制度摘要本文对AI伦理管理制度涉及的自动化决策告知管理目的、标注规则仲裁术语界定、生成内容标识管理要求、上线公平性测试检查考核、第三方模型接口衔接条款等事项作出规定，明确了相应的适用范围、职责分工、处理要求与记录口径。目次一、目的二、适用范围三、术语定义四、职责分工五、管理要求六、流程步骤七、检查与考核八、记录与表单九、附则一、目的（一）自动化决策告知管理目的。一、本条要求在模型对个人作出有影响的决定之前，把逻辑要点、可能后果与救济通道讲明白。二、告知与申诉互为表里：只告知不给申诉入口等于单方面通知，本条把两者捆绑落实。三、防止告知流于形式，长文无人读等于没有告知，要素齐全且可读才算完成。四、告知不是免责声明：把后果讲清楚，同时保留个人提出异议的出口，两者齐备才构成本条所称的有效告知。（二）人工复核岗管理目的。一、本条目的在于把人工复核位真正立起来：有人审、有权改、改得动，而不是在流程上盖个章。二、复核位权限与运营操作权限分立，杜绝同岗自审自改。三、复核覆盖比例与时限按场景风险分档设定，本条给出分档框架，各场景对号入座。四、本条与高风险双人确认相互衔接而互不替代：复核处理判断质量，确认处理操作授权，两道功能不得合并成一道。（三）模型卡登记管理目的。一、模型卡登记的目的在于给每个上线模型一张可检索的身份页，把用途、数据、指标与限制固定在卡上。二、卡片编号与上线许可绑定：未登记卡片的模型不对外提供服务，检查中按无卡运行处置。三、卡内信息以如实填报为前提，本条同时约定差错更正办法，鼓励主动修订而非掩盖。四、卡库与日志、变更台账、下线档案等记录以卡号互相索引，卡号是跨记录检索的主线，缺线索引的记录限期补挂。（四）可解释性说明管理目的。一、本条意在让受模型决策影响的个人或部门拿到读得懂的因果说明，而不是只收到一个分数。二、说明必须与实际决策依据一致，可解释性在这里与正确性捆绑管理，两者对不上即按缺陷处理。三、说明出具能力同时服务内部回顾与对外沟通，减少事后各自猜因的消耗。四、说明的可读性本身是管理对象：要素齐全但普通读者读不懂的，视同未出具；改版以试读通过为验收标准。（五）灰度与回滚管理目的。一、本条把新版本的影响面先切成小块试水，异常即退回，避免一次全量投放酿成大面积事故。二、放量节奏与观察项挂钩：没有观察项支撑的流量不放，观察项不足的批次不升档。三、回滚触发条件事先写死，处置动作不靠现场讨价还价，也不留给个人临场裁量。四、放量批次与观察项的对应关系事先写入发布方案；方案缺少对照表的，发布岗有权拒绝执行并上报归口部门处理。二、适用范围（一）人工复核岗适用范围。一、适用于高影响自动化决策与模型置信度不足的输出。二、低风险纯提示类场景允许抽样复核，但抽样方法一经确定须固定执行，不接受临时改法。三、夜间与节假日由值班序列承接，值班名单由责任部门月初报备，中途换人当日补录。四、抽样复核比例设定后半年内不得下调；场景风险等级变化需要调整的，先补做档位评审，再改抽样参数并全程留痕。（二）第三方模型接口适用范围。一、适用于调用外部推理服务处理本机构数据或产出对外内容的场景。二、员工个人使用公网生成工具的边界由外部生成工具条款另行规定，本条只管机构侧接入。三、已准入接口新增用途或新增数据类别时，须重做对应评估项而非重走全程。四、境外部署的接口除本条评估外，另按训练数据出境管理规定办理；两套要求重叠时以叠加从严为准，不做二选一解释。（三）标注培训与抽检适用范围。一、适用于承担文本、图像、语音标注任务的内外部人员，凡接触正式标注规则者先培训、后上岗。二、短期支援与跨部门借调人员同样适用；支援期不足两周的可走压缩课目，但上岗考核不得豁免。三、纯质检与仲裁岗位不在本条之内，其能力要求由标注规则仲裁条款另行约定。四、培训与抽检的费用归属、工时计算须在任务开始前书面确认；涉及多语种任务的，课目增加术语对照环节，不得以时间短为由省略。三、术语定义术语释义外部生成工具使用术语界定一、内部信息分级沿用公司数据分级表，本条所称受限输入指其中中敏感级以上内容。二、允许清单指经评估可处理低敏事务的工具名录，名录季度更新。三、禁用输入指客户资料、未公开经营数据、代码资产与含个人信息的原始记录四类，一律不得键入外部工具。四、四类禁用输入的具体形态随公司数据分级表联动；分级表修订后本条自动跟随调整，无需另行发文重述清单口径。标注规则仲裁术语界定一、歧义点指同一规则下存在两种可辩护判定且结果不同的情形，登记时须给出实例对照片段。二、仲裁意见是仲裁小组就歧义点给出的统一口径，附理由与适用边界，在标注系统内视同规则正文执行。三、口径空档指新型数据出现而规则尚未覆盖的区间；空档期按就近保守原则处理并即时登记，不得空转不报。四、口径空档的保守做法指暂按更严类别归入并登记待裁；空档超过两周仍无裁断的列为管理缺陷，回看提交通道是否畅通。生成内容标识术语界定一、显式标识指向受众可见的生成来源标注，位置与字号有统一要求。二、隐式标识指写入文件元数据或嵌入信息的来源标记，与显式标识并行存在、互为备份。三、裁剪风险指下游编辑环节把标注抹去的隐患，防护评估按裁剪难易分级。四、大幅改写的判定以信息结构变化为准，仅错别字与格式修正不算；边缘案例走仲裁通道认定，认定结论列入细则附录备查。离线验证口径术语界定一、验证集指与训练数据隔离、专用于打分的那部分样本，版本冻结后不得增删。二、精确率与召回率在不同业务口径下各有算法分支，分母定义须在报告首页写明并全程一致。三、误报率指正常输入被判为异常的比例，与漏报率互为对照；报告只呈现其一即视为口径违规。四、容忍差值指复算与归档结果之间允许的偏差，超出即触发口径检查；该值由评审组与算法团队共同确认并登记在评测说明中。四、职责分工岗位或事项职责与要求标注培训与抽检职责分工一、标注组长负责课目讲授与规则答疑，把每周新出现的歧义案例补进培训材料。二、考核员独立于生产排班，负责出题、判卷与上岗资格登记，不参与当日产量统计。三、任务发起方按批次报送人员清单；名单外人员进入标注平台的账号由平台管理员当日冻结，事后核对补录。四、考核员出题范围以现行规则文本为准，不考已废止口径；组长对宣贯到位负责，两者职责边界写入岗位说明书并随规则改版复审。训练数据合法性职责分工一、语料采集岗负责留存原始获取记录与许可条款截图，材料不齐不得提交入库申请。二、采购岗对外采语料承担合同审查义务，合同须载明用途许可、能否转授权与到期后的处置办法。三、合规审查岗独立于上述两岗，按来源类型逐项核对链条完整性并出具放行或退回意见；未放行的语料由数据平台执行删除并留痕。四、三个岗位之间以书面交接为凭，核验周期与放行时限按季度对外公布一次，公布版同步抄送数据平台以校准排期。人工复核岗职责分工一、复核员归质量管理序列，其绩效不与处理量挂钩，防止赶量弃质。二、系统权限由安全岗配置；复核意见覆盖线上结论的通道仅复核员账号可用，操作全程留痕。三、算法团队负责呈现复核所需的依据要素，但不介入具体判断，也不得私下打听复核结论。四、复核员与算法团队意见分歧按记录上报而不当场调和，复核结论先行生效；算法侧不服的走复议通道，不得私下施压。离线验证口径职责分工一、算法团队负责按冻结口径运行验证并提交完整报告，不得只交汇总页。二、测试岗负责从冻结数据集生成验证副本并校验一致性，杜绝临时替换样本。三、评审组核对指标口径与结论的对应关系，口径错配的报告当场退回并登记退回原因。四、三方对同一报告结论负各自环节责任：运行结果错归算法，样本被换归测试，口径未核对归评审；责任划分以归档痕迹为准。五、管理要求（一）供应商算法备案核验管理要求。一、合同写清备案责任归属、配合义务与失效通知时限，缺此三项不签。二、核验材料归档后方进入付款流程，存疑意见未关闭的挂起付款。三、复核每年一次；服务用途或范围发生变化时随变随核，不等年度窗口。四、存疑未关闭期间，该供应商接口的新增用途申请一律暂停；年度复核连续两年存疑的，续约评审直接作降级处理，暂停与恢复决定均须在台账留痕，不接受仅凭口头结论流转。（二）模型下线替代管理要求。一、下线申请须附依赖清单、替代方案与数据处置口径三项材料，缺项不受理。二、涉对外服务的公告时间不短于两周；影响面大的场景延长至一个月，并保留过渡双跑窗口。三、历史决策记录保持可查询状态，保存期不短于替代方案落地后两年。四、依赖确认函回收过半且无重大异议才能进入下一步；有依赖方明确反对的，下线申请退回，补齐替代方案后再行提交。（三）生成内容标识管理要求。一、两类标识同时具备的内容才允许发布，缺一自动拦截。二、拦截规则按季度评估，呈现形式变化时同步调整，避免规则滞后造成批量退回。三、委托外部制作的交付件无标识的退回重做，不进入结算流程。四、拦截规则调整前先在历史样本上验证误伤情况，误伤明显的新规则不得直接替换旧版；两版规则并行观察一周后择优定版，并行观察期的比对结论写入规则变更单并归档。（四）外部生成工具管理要求。一、可办清单季度发布一次，紧急下架不受此限；清单之外的工具一旦经手公务数据即按违规登记，登记时写明渠道与数据类型。二、机构账号统一建册并记责任人，办公网络出口按清单放行，个人账号办理公务不得键入受限内容。三、借工具起草的稿件在署名前由负责人把关，把关人要说得清事实来自哪份内部凭据，说不清就不署。四、新人入职即读本条要点，教材每年随清单改版一次；只讲禁止而不给安全用法示范的，视为宣贯缺项。（五）上线公平性测试管理要求。一、评审材料里没有测试页的项目不受理，缺页比指标难看更要紧，先补页再排评审。二、切分口径须与业务真实人群一致，属性名单要业务和合规两方都点头，任一方单独增删所得结论不作数。三、差异越档的先整改后评审，整改复测沿用同一冻结集；连续两轮无进展的提请高风险裁决。四、豁免须写明差异源于数据固有分布还是模型放大，经委员会书面认可后每季度重看。（六）训练数据合法性管理要求。一、每批语料入库时登记来源、协议版本、权利人、核验人与核验结论五项信息，缺项不予分配存储配额。二、公开网页类语料仅可纳入允许机器读取范围内的内容，对附有排除声明的站点一律不予获取，过滤名单每周由采集岗更新一次。三、授权临近到期的语料列入观察清单，到期未续签的，新训练任务停用其旧副本；已交付模型的后续处置按算法变更评估另行判定。六、流程步骤标注培训与抽检操作流程一、新成员先学规则再跟标，由老成员带做小批量试标，试标结果仅用于校准理解、不计产量。二、考核员对照标准答案逐题讲评，讲评记录归档后申请上岗资格。三、生产抽检发现的问题按人归集；同一错误两次出现的安排回炉培训，回炉期间只允许承接低风险档任务，复训合格后再排原档。四、回炉培训记录与排产权限联动，未完成回炉者系统不再派发原档位任务；试标与考核期间的数据不计入任何产量报表。↓供应商算法备案核验操作流程一、采购归集备案信息与服务范围描述，核对材料有效期后写入台账。二、合规岗比对登记用途与本项目实际调用方式，给出相符还是存疑的判断。三、业务方补充实际用法与输出去向，两岗据此复核；仍不一致的挂起付款流程。四、存疑关闭后归档材料进入付款，年度复核时重看用途有没有漂移，漂移的重新触发核验而不延用旧结论。五、底层能力由别处提供的，两方材料都要到位，只有我方直接对手那一份不算齐备。↓上线公平性测试操作流程一、从业务口径确认敏感属性清单与子组切分方法。二、复跑冻结验证集的分档结果，计算各子组误报与漏报差距。三、超档位案件进入整改，产出原因分析，判断问题出在采样、特征还是阈值。四、复测通过后提交上线评审，测试记录随评审卷宗归档。五、测试所用子组切法必须与线上实际人群口径一致，按假想标签切组会让差异数字失去意义；切法说明附在报告之后归档。↓训练数据合法性操作流程一、采集或采购到货后先登记来源与协议版本，材料不齐的停在申请环节不予入库。二、分来源类型核对许可链条：公开类比对读取范围与排除声明，外采类看合同里写明的用途与可否再授他人。三、核验岗给出放开还是退回的判断，退回的批次交数据平台清掉并留下处置痕迹。四、放行的语料分配存储配额并贴来源标签，标签字段缺项的在下次核验中直接判不合格。七、检查与考核检查项检查与考核要求密钥访问控制检查考核一、季度盘点在册密钥，比对登记用途与实际调用特征，名实不符的限期回收。二、抽查轮换执行情况，逾期未换的标红并要求说明。三、异常调用告警的处置率与时效纳入安全条线考核。四、盘点结果分名实相符、用途漂移、来源不明三档；第三档直接进入事件处理程序，处置结论并入下季度考核通报，用途漂移的串限期纠正，纠正后回看调用来源是否同步更新。上线公平性测试检查考核一、抽查已上线模型的测试记录与线上投诉分布，核对子组差异是否在实际中重现。二、豁免案件每季度重看一次，数据分布已变化的取消豁免并要求整改。三、漏交测试页仍获评审通过的项目，其评审成员名单一并留档，作为评审质量追溯依据。四、线上投诉分布与测试结论对不上的项目，先追是数据变了还是口径错了；同比例重现超档差异而测试页显示通过的，按报告失真处理。标注规则仲裁检查考核一、季度统计仲裁案件的重复歧义率，同一歧义点两次以上上会的，追查示例库是否落实更新。二、抽查生效意见在标注结果中的体现：按实例对照检索，未执行的批次退回组长说明原因。三、仲裁及时率纳入小组考核；超期未出意见的案件逐单列明原因，供治理委员会季度会议过目。四、重复歧义率与平均裁断时长同表呈现；两项一起恶化说明仲裁容量不足，应当扩充小组排班，而不是压缩案件讨论环节。高风险双人确认检查考核一、按月统计名单内操作的签署完整率，缺第二签却已经执行的逐笔询问并登记。二、抽查确认界面能否还原请求原文，快照与版本对不上的记管理缺陷。三、核对两签人是否分属不同序列，同岗互签的要追溯当月全部相关操作。四、追认通道使用次数逼近上限时提出预警，频繁使用的重新审视名单是否漏了场景。五、账号互斥检查的结论随当月名单存档，异常项限期消缺并回报闭合情况，逾期未闭的列入下次首查。八、记录与表单表单或记录填写与使用要求灰度与回滚记录要求一、发布方案逐档写明放量比例、观察项与判定线，档位与观察项对不上的方案不得执行。二、每档看完出一份小结单，写清指标怎么走、异常样例的编号、是否继续推进的判断。三、回滚操作登记触发时刻、恢复时刻、退回版本号与配套配置范围，四项缺一按处置未闭环处理。四、演练记录与方案档案同行，从触发到恢复的耗时逐次可比，配置与版本的对应关系在同库维护。训练数据跨境记录要求一、出境登记簿逐笔记录任务、字段清单、接收方与驻留期。二、删除证明按编号归档，与登记簿互相索引。三、评审结论附反对意见原文，供后续争议时还原当初考量。四、评审反对意见与后续执行结果一并保存；年度回顾时评估当初判断质量，为清单与驻留期的设定提供参照样本，保存参照样本时一并登记当次清单版本，便于回顾时对齐口径。日志与追溯记录要求一、调阅登记逐次记录申请人、追溯键、用途与查看时长。二、删除处置按批登记，含批号、区间与执行人。三、完整性核对结论纳入月报存档，缺失率异常的单列追查原因。四、月报中的缺失率按链路分段统计，断在哪一段一目了然；连续两期缺失率恶化的段落，自动触发完整性专项核查，缺失率计算口径由平台运维统一维护，月报之间可直接比较。数据去标识化记录要求一、每批出具处理记录，含字段清单、手段选择、参数、执行人与复核