AI在人力资源的风险：筛选、评估、偏见

AI在人力资源的风险：筛选、评估、偏见本文档提供：筛选风险排查表；评估风险排查表；偏见风险信号表；80%规则复算表；算法备案与数据合规检查表；审计留痕字段表；七处排查表；决策规则表；完整示例；三套场景操作序列。2026-11-09表1目录与定位表这一节的标题读完能拿到什么这一节在全文中的功能一、筛选环节的风险信号先看三处：资格门槛、排序权重、淘汰理由筛选风险排查表；淘汰理由记录格式定位筛选环节的具体偏见形态二、评估环节的分数偏差要算到群体比值上，不能只看总分评估风险排查表；80%规则复算表把评估偏差量化为可判定的数值三、偏见从数据进到模型再进到决策：四个入口逐项查偏见风险信号表；代理特征清单追踪偏见进入系统的具体路径四、合规落在三样东西上：备案号、敏感字段清单、日志留存期算法备案与数据合规检查表；日志留存字段核对备案状态与数据采集边界五、审计不是写报告，是拿原始数据重算一遍审计留痕字段表；复算差异判定用原始数据复现审计结论六、七处排查：招聘流程卡住先查这里七处排查表；换哪条路定位卡点并给出改法七、筛选、评估、偏见撞在一起时按哪条规则裁决策规则表；矛盾四段裁决效率与公平的冲突八、对外应对监管、内部自查、个人了解三套做法怎么裁剪三套场景操作序列表；检查项增减按使用场景裁剪审计项九、完整示例：一次简历筛选审计从通过率异常到整改归档转折记录表；变量表复现从异常信号到整改的全过程十、来源层级与核对状态登记在哪张表来源说明表；核对路径登记来源层级与核对状态按第一列在正文找对应那节，按第二列判断该节有没有所需内容，按第三列判断该节是否对应当前卡住的位置。一、筛选环节的风险信号先看三处：资格门槛、排序权重、淘汰理由打开招聘系统后台的筛选规则配置页和淘汰记录导出表。筛选环节的偏见不体现在“模型有没有用性别字段”，而体现在代理特征是否实际参与了排序、以及被淘汰的人是否拿得到可核查的理由。亚马逊2025年披露的案例中，简历筛选模型将“女子象棋社社长”中的“women”一词识别为负面信号，系统性地压低含该词的简历得分。该信号不来自显式性别字段，来自文本中的代理词。筛选风险排查的第一步是找出这类代理词是否出现在特征列表或停用词列表中。表2筛选风险排查表风险项打开什么看什么什么算合格不合格形态示例代理特征入模模型特征列表或规则配置页是否存在与受保护特征高度相关的字段特征列表不含邮编、院校类型、姓名、性别关联词、就业空档期特征列表含“毕业院校层次”且仅按名单加权模型A特征第14项“院校层级”，权重0.12淘汰理由缺失淘汰记录导出表每条淘汰记录是否有可核查的理由字段理由字段指向具体资格项，非“综合评分不足”理由列填“不匹配”且无子项记录R-0412，理由“综合评分不足”年龄或性别代理词简历解析后的文本特征表是否提取了出生日期、婚育状态、性别推断词解析字段仅含岗位相关资格项解析字段含“年龄”且进入评分字段F-07“年龄推断”，参与排序排序权重不透明排序规则说明或模型卡各特征权重是否可逐项列出权重表可导出且每项有数值规则描述写“综合评估”模型卡未列权重表人工复核痕迹复核操作日志被AI淘汰的简历是否有复核记录抽样行有复核人姓名和结论淘汰记录无复核人列抽样50条，复核人列空白47条输入：取招聘系统后台“筛选规则配置”页和淘汰记录导出表最近200条。动作：按表2第2列至第4列逐项核对。输出：在“排查记录”表对应行填合格或不合格形态描述。判定：五行的“不合格形态”列均有具体字段名或记录编号，且至少一行能对应到可打开的配置项或导出列。二、评估环节的分数偏差要算到群体比值上，不能只看总分评估环节（面试评分、测评分数、绩效预测分）的偏见不体现在总分的平均值差异上，体现在不同群体的通过率或高分率的比值上。美国EEOC《统一员工甄选程序指南》提出的“四分之五规则”（80%规则）被广泛用于不利影响的初步筛查：若某一群体的通过率低于最高组通过率的80%，则需审查工具与流程的公平性。表3评估风险排查表风险项打开什么看什么什么算合格不合格形态示例分群体通过率未计算评估结果导出表是否有按性别、年龄组等分组的通过率列每组有通过人数和通过率数值仅有总体通过率导出表只有“总通过率32%”80%规则未复算评估结果导出表的分组列最低组通过率÷最高组通过率≥0.80比值0.61且无原因说明某年龄组通过率21%，最高组34%，比值0.62评分项代理相关评分量表或测评维度表维度是否包含与岗位无关的“形象”“表达风格”“稳定性”维度与岗位胜任力逐项对应量表含“仪容仪表”且进入总分面试评分表第5项“整体印象”占15%人工与AI结论分歧评估报告与人工复核记录AI推荐“通过”但人工拒录的样本分歧样本有分歧原因记录分歧无记录或原因写“感觉不对”12例分歧，仅3例有原因表480%规则复算表群体（以某受保护特征分组）通过人数总人数通过率比值（÷最高组）判定组A（参照组）3410034%1.00参照组B2110021%0.62低于0.80，标记不利影响组C289629.2%0.86未触发组D188022.5%0.66低于0.80，标记不利影响输入：取评估结果导出表的“分组列”“结果列（通过/淘汰）”。动作：按群体算通过率，以最高组为分母算比值。输出：表4一行一个群体，比值列和判定列有值。判定：任一比值低于0.80的行在“判定”列填“标记不利影响”，并在备注列写该群体的样本量和特征名称。三、偏见从数据进到模型再进到决策：四个入口逐项查偏见进入AI招聘系统有四条可观测的路径：训练数据的历史分布偏斜、特征工程中的代理变量、标签定义中的主观偏好、以及输出被直接采纳而无人工否决记录。每一条路径在文件中都有对应痕迹。表5偏见风险信号表入口在哪个文件里找观察什么什么算需要标记示例训练数据分布训练数据集统计摘要受保护群体在正样本中的占比某群体正样本占比低于其在候选池中占比的一半女性在“高绩效”标签中占12%，候选池占41%代理变量特征列表与相关性分析特征与受保护特征的相关性系数相关性绝对值≥0.3且该特征进入模型“就业空档期”与性别相关性0.38，权重0.09标签主观性标签定义文档“好员工”“高潜力”的标注规则标注规则含主观词且无行为锚点标签写“有激情”，无行为示例输出直采录用审批记录AI推荐“淘汰”后人工是否直接采纳直接采纳比例高且无复核意见淘汰建议直接采纳率94%，复核意见空白输入：取训练数据统计摘要、特征列表、标签定义文档和录用审批记录。动作：按表5第2列至第4列逐项核对。输出：标记表一行一个入口，标记栏写具体数值或文件名。判定：每个标记有对应的文件名称和至少一个数值或字段名。MITSloan的研究指出，就业空档期被算法惩罚时，承担照护责任的一方（尤其是母亲）在评分中系统性处于劣势。该信号对应表5“代理变量”行，检查动作是打开相关性分析表，看“空档期”特征与性别字段的相关系数是否被记录。四、合规落在三样东西上：备案号、敏感字段清单、日志留存期招聘简历筛选在中国《互联网信息服务算法推荐管理规定》的框架下属于“调度决策类”算法的典型场景，产品化对外提供简历筛选服务的需要履行算法备案义务。未备案上线面临1万元至10万元罚款、产品下架等处罚。算法不得设置基于年龄、性别、学历、户籍、民族的歧视性筛选条件；算法决策日志及决策记录留存不少于1年。招聘风控算法仅可采集与岗位任职相关的信息，身份证号、手机号等敏感数据必须脱敏。表6算法备案与数据合规检查表查什么打开什么看哪列什么算合格不合格形态怎么改算法备案号备案证明或产品登记表备案号有编号且与产品名称对应备案号栏空白暂停对外服务并补备案备案算法类型备案材料中的类型声明算法类型填“调度决策类”填“其他”或空白按表6-a重新判定敏感字段清单数据采集字段表字段名称仅含岗位任职相关字段含“婚育状况”“家庭背景”删除字段并脱敏已有数据日志留存期系统日志配置页留存天数≥365天配置为90天调整为365天并备份个人信息告知求职者授权页面或告知文本告知事项含收集内容、用途、保存期限、权利行使方式仅有“同意”勾选框补全告知文本并重新取得同意表6-a招聘场景算法类型判定系统功能输出形态算法类型备案要求简历自动过滤、初筛淘汰通过/淘汰判定调度决策类算法备案候选人排序、推荐排序列表排序精选类算法备案AI面试评分、视频分析分数或评估意见深度合成类+大模型备案双备案AI生成招聘公告生成文本生成合成类算法备案+大模型备案或登记内部HR培训使用、不对外内部输出可能豁免，需个案判断留存判定记录输入：取备案证明、数据采集字段表和日志配置页。动作：按表6逐项核对，按表6-a确认算法类型。输出：合规检查结论一行，含“通过项”和“不合格项”。判定：备案号有编号且算法类型与表6-a对应行一致，敏感字段清单无禁止字段，日志留存天数≥365。五、审计不是写报告，是拿原始数据重算一遍审计的动作落在“重算”上。招聘系统导出的评估结果表通常含每人一行、结果列和至少一个分组列。审计员用同一份原始数据重算表4的比值，与系统报告或供应商审计报告中的比值逐项比对。NYCLL144要求独立第三方年度偏见审计，报告须注明最近审计日期、输入数据来源和说明。审计报告本身应保留模型版本、检测日期、样本范围、关键群体指标、整改负责人和下次复测时间。表7审计留痕字段表字段填什么示例什么算合格不合格形态审计对象版本模型或规则版本号筛选模型A-v3.2可定位到唯一版本填“当前版本”输入数据区间起止日期和样本量2026-01-01至2026-03-31；N=1240含起止日期和N值仅填“近三个月”分组指标各群体通过率和比值组B通过率21%，比值0.62有数值和分组名称填“存在差异”复算差异审计重算值减系统报告值系统0.62，重算0.62，差异0.00差异≤0.02无复算值整改负责人姓名和岗位招聘合规岗戊姓名可查填“HR部门”下次复测日期YYYY-MM-DD2026-09-30有具体日期填“适时”输入：取评估结果原始导出表（每人一行、分组列、结果列）和系统或供应商的审计报告。动作：重算各群体通过率和比值，按表7逐字段填写。输出：审计留痕表一行。判定：复算差异≤0.02且整改负责人有姓名，下次复测日期有具体年月日。复算差异超过0.02的，先查系统报告是否用了不同的分母或不同的样本区间。表7-a复算差异判定表复算差异范围判定动作≤0.02一致审计结论可直接引用系统报告数值0.02—0.05轻微不一致标注差异值，要求系统方说明分母口径＞0.05重大不一致以审计重算值为准，暂停使用系统报告结论无法复算（数据缺列）记录不能要求补全原始数据，审计结论标记“待重算”六、七处排查：招聘流程卡住先查这里审计或合规检查出现卡点时，从表8第一检查点开始。第一检查点打开招聘系统后台的“筛选规则配置”页。表8七处排查表检查点打开什么看什么什么算合格不合格形态换哪条路筛选规则配置招聘系统后台规则页特征列表和权重无代理特征进入排序含“院校层级”且权重可查删除该特征或改为不参与排序备案状态备案证明备案号有编号且类型为调度决策类备案号空白暂停对外服务并补备案分组数据评估结果导出表分组列有至少一个受保护特征分组导出表无分组列在导出模板中增加分组列80%比值表4复算表最低比值≥0.800.62且无整改标记不利影响并启动纠偏淘汰理由淘汰记录导出表理由字段指向具体资格项填“综合评分不足”改理由字段为必填子项日志留存系统日志配置留存天数≥365天90天调整为365天人工复核复核操作日志被AI淘汰的样本有复核人姓名复核人空白设置复核为强制步骤输入：从表8第一检查点“招聘系统后台规则页”开始。动作：按“打开什么”列和“看什么”列逐项检查。输出：排查记录一行一个检查点。判定：第一检查点有可打开的页面或文件，“换哪条路”列有具体动作。七、筛选、评估、偏见撞在一起时按哪条规则裁业务部门要求尽快上线筛选模型，合规要求先完成备案和偏见审计，审计发现某群体比值低于0.80。三条线在同一时点争用上线窗口和整改资源，按表9匹配。表9决策规则表编号如果可观察条件则执行动作如果判定失效条件则退路R1筛选模型对外提供服务且无备案号暂停上线，补备案后恢复业务急需使用改为纯内部辅助排序，人工做最终淘汰，登记豁免判定R2某群体通过率比值＜0.80且样本量≥30标记不利影响，启动纠偏样本量＜30记录样本不足，扩大数据窗口后重算R3特征列表含代理特征且权重非零将该特征权重置零，重跑评估去掉后模型性能下降超10%保留特征但增加分组审计频率至每季度R4淘汰记录无具体理由退回系统补理由字段后方可发出淘汰通知历史记录已发出补录理由并标记“补录”，纳入下次审计范围R5审计复算差异＞0.05以审计值为准，暂停使用供应商报告结论审计数据缺列无法重算要求供应商提供原始数据，审计结论标记“待重算”R6人工对AI淘汰建议的直接采纳率≥90%将复核改为强制步骤，复核人须填写独立结论复核人力不足至少对高风险岗位和比值＜0.80的群体做全量复核矛盾陈述：某企业招聘季需要在两周内上线简历筛选模型以处理8000份简历。合规检查发现备案尚在审核中，且历史数据预跑显示某年龄组通过率比值为0.64。业务侧要求先上线“试运行”，合规侧要求备案完成且不利影响有纠偏方案后才能对外提供服务。实质分析：上线窗口要求立即处理简历，备案和比值要求在上线前完成合规动作。两项要求争用同一上线时间点。备案是强制要求，比值0.64表明存在可观测的不利影响，试运行同样构成对外提供服务。权衡规则：按R1将系统改为纯内部辅助排序，AI输出排序列表，人工逐份做淘汰决定并签署理由；对外服务暂停至备案完成。按R2对年龄组标记不利影响，在人工决策阶段对该群体简历不做自动降序处理。按R6将复核设为强制步骤。退路：备案审核超过两周的，人工排序模式延续至备案公示获编；人力不足的，按R6退路对高风险岗位和比值低于0.80的群体做全量人工复核。输入：取表6备案状态、表4比值行和业务上线时间要求。动作：按表9“如果可观察条件”列匹配。输出：决策记录一行，含规则编号、执行动作和退路。判定：规则编号有对应条件和退路，决策记录有日期和责任人。八、对外应对监管、内部自查、个人了解三套做法怎么裁剪对外应对监管检查或诉讼选完整版；企业内审或HR自查且时间受限选精简版；个人了解风险选极简版。三套版本在招聘场景均有实际可裁剪的检查项。表10三套场景操作序列表场景适用条件保留的检查项删掉的检查项操作序列不能妥协的底线完整版监管检查、诉讼应对、供应商审计表2、表3、表4、表5、表6、表6-a、表7、表7-a、表8全表无跑全量排查；按表4复算比值；按表7留痕；按表9裁冲突备案号存在；比值复算有原始数据支撑精简版企业内审或HR自查且时间受限表2第1、2、5行；表3第2、4行；表4全表；表6第1、3、4行；表7第1、2、3、4行表2代理词行和权重行；表5全表；表7复核人字段和下次复测日期；表8全表算80%比值；查备案号和敏感字段；补淘汰理由比值≥0.80；敏感字段清单无禁止项极简版个人了解风险表4第2列至第5列；表6第1行；表2第1行表3、表5、表7、表8、表9全部；表6其余行先查备案号；再查特征列表有无性别年龄代理；最后看80%比值是否低于0.80备案号存在；无显式敏感字段入模输入：取表10“场景”列和实际使用目的。动作：按保留列和删除列裁剪检查包。输出：检查包清单。判定：保留项和删除项有具体行号，底线列有可观察项。九、完整示例：一次简历筛选审计从通过率异常到整改归档某企业HR合规岗接到年度招聘系统偏见审计任务，对象为筛选模型A-v3.2[示例案例，细节为合理设定]。起点材料起点材料为筛选规则配置页截图、评估结果导出表（N=1240，含性别分组列和结果列）、淘汰记录导出表、备案证明和日志配置页。分步操作步骤1：打开表2核对筛选规则，特征列表第14项为“毕业院校层次”，权重0.12。表2第1行标记“代理特征入模”。步骤2：打开评估结果导出表，按性别分组算通过率：男性34%，女性21%。表4比值0.62，低于0.80，表3第2行标记“80%规则未复算”。步骤3：翻淘汰记录导出表，抽样50条，复核人列空白47条；理由列多填“综合评分不足”。表2第2行和第5行不合格。步骤4：查备案证明，备案号有编号，算法类型填“调度决策类”。表6第1、2行通过。查数据采集字段表，含“婚育状况”字段，表6第3行不合格。步骤5：查系统日志配置，留存天数90天，表6第4行不合格。按表9匹配R1（备案通过，但不利影响已触发R2）、R3（代理特征）、R6（复核缺失）。不顺利环节表11转折记录表转折信号假设试了什么新信息换哪条路第一轮女性通过率21%，比值0.62女性样本量不足导致波动算女性样本量N=410样本量充足，比值稳定从“样本不足”转为“标记不利影响并纠偏”第二轮特征含“院校层级”该特征本身中立看该特征与性别相关性相关性0.34，且名单中女性院校占比低从“保留特征”转为“权重置零重跑”第三轮权重置零后男性通过率降至31%模型性能严重依赖该特征看性能指标变化整体通过率降幅可接受，女性升至29%从“恢复权重”转为“保留置零，接受整体小幅降效”第四轮日志留存90天系统默认配置未调整查配置修改记录配置项可改，无技术障碍从“记录不能”转为“调整为365天并重跑审计”第一轮排除了样本波动，第二轮把代理特征从“中立”推到“实际相关”，第三轮把纠偏方向从“恢复权重”推到“接受降效保留