2026年人工智能训练师（四级）职业道德考试试题

2026年人工智能训练师（四级）职业道德考试试题1.单项选择题（每题1分，共20分）1.1某训练师在采集人脸数据时，发现部分照片来自未成年人社交账号。下列做法最符合《人工智能伦理规范》的是A.继续下载，因数据已公开B.仅保留已获监护人授权的部分C.全部删除并记录删除日志D.模糊面部后继续使用1.2在联邦学习场景下，合作方要求共享原始梯度。训练师应坚持的首要原则是A.技术可行性优先B.数据最小可用原则C.商业利益最大化D.算法复杂度最低1.3训练师A将公司未开源的预训练模型上传至个人网盘备份，该行为违反的职业道德条款是A.公平竞争B.保守商业秘密C.用户至上D.持续学习1.4当模型在弱势群体数据上表现显著下降时，训练师首先应A.增加更多主流群体数据B.重新评估数据采集策略C.降低该群体权重D.直接发布免责声明1.5依据《个人信息保护法》，处理敏感个人信息应取得A.默示同意B.书面同意C.单独同意D.推定同意1.6训练师在标注宗教相关文本时，遇到极端言论，恰当做法是A.直接删除并记录B.原样保留以保证分布真实C.提交伦理委员会审议D.用中性词替换1.7公司要求训练师在两周内交付模型，但数据清洗需三周。训练师应A.加班完成B.降低清洗标准C.书面说明风险并申请延期D.使用外部未授权数据1.8模型在A/B测试中显示对老年用户推荐医疗假信息概率高，训练师应A.调低老年用户阈值B.立即下线并溯源C.仅内部通报D.等待下一轮迭代1.9训练师发现同事使用伪标签技术可能引入虚假分布，其最佳劝阻路径是A.公开群里指责B.先私下沟通再视情况上报C.假装未见D.直接向媒体曝光1.10在AI训练外包管理中，训练师对承包商的核心伦理要求是A.低价中标B.签署保密与伦理协议C.24小时在线D.使用同款GPU1.11训练师在公开演讲时引用用户对话数据，必须A.获得去标识化审核通过B.口头声明免责C.只要数据量小于1万条即可D.用英文引用即可1.12当上级要求提高广告点击率而不顾事实准确性时，训练师应A.服从命令B.书面提出伦理风险报告C.辞职D.修改日志1.13训练师使用生成式AI扩增医疗影像数据，需特别关注的伦理风险是A.影像分辨率B.合成病变误导诊断C.存储成本D.颜色空间1.14在跨境数据传输中，训练师首先应查阅A.目标国时区B.目标国数据跨境规则C.目标国电压标准D.目标国节假日1.15训练师在开源代码中夹带公司私有API密钥，违反的是A.开源协议B.公司信息安全制度C.用户协议D.以上全部1.16对“黑箱”模型进行可解释性研究，最主要的道德驱动力是A.降低算力B.保障用户知情权C.提高准确率D.减少参数1.17训练师在招聘面试中被要求透露前任公司未公开模型结构，应A.简要描述B.拒绝并说明保密义务C.要求加薪再回答D.提供反向推导思路1.18当模型用于招聘场景时，训练师需优先检测A.性别偏见B.颜色偏好C.星座分布D.口音特征1.19训练师将用户夜间浏览数据标记为“失眠人群”并高价出售，该行为A.属于数据增值B.违反最小必要原则C.需用户二次确认D.合法合规1.20发现模型输出涉嫌歧视时，训练师应在多长时间内启动应急响应A.72小时B.24小时C.一周D.下个版本2.多项选择题（每题2分，共20分，每题至少有两个正确答案，多选少选均不得分）2.1以下哪些做法符合“负责任创新”原则A.在模型卡中披露数据源头B.对高风险场景设置人工复核C.隐藏模型失败案例D.定期发布伦理影响评估报告2.2训练师在采集语音数据时，应告知被采集者A.数据用途B.存储期限C.算法细节D.撤回权利2.3关于“深度伪造”技术，训练师需遵守的底线包括A.明示合成属性B.不用于误导公众C.可随意使用明星肖像D.建立追溯机制2.4以下哪些行为可能构成算法歧视A.在信用评分中引入邮政编码B.对残障人士降低客服优先级C.为不同语言用户设置不同额度D.使用随机森林2.5训练师在数据标注环节建立“伦理审查小组”的好处有A.降低标注成本B.提前发现偏见C.增强团队伦理意识D.满足合规审计2.6当模型用于疫情追踪时，训练师需特别关注A.数据最小化B.事后删除机制C.用户激励方式D.跨域融合精度2.7以下哪些属于“可验证伦理”实践A.使用差分隐私技术B.开源伦理检查脚本C.内部口头承诺D.第三方公平性审计2.8训练师在撰写技术博客时，引用用户生成内容应A.获得授权B.去标识化C.标注时间戳D.披露过滤策略2.9关于“AI伦理红线”，以下描述正确的是A.不可用于赌博推广B.不可用于大规模监控C.可用于轻微夸大广告D.不可用于伪造证据2.10训练师在模型部署后发现输出涉及政治敏感话题，应A.立即下线B.记录日志C.通知法务D.等待用户反馈3.判断题（每题1分，共10分，正确打“√”，错误打“×”）3.1训练师可以在未获授权情况下使用GitHub上“NoLicense”代码训练商业模型。3.2模型准确率越高，伦理风险一定越低。3.3使用合成数据可以完全规避隐私风险。3.4训练师对模型生命周期内的社会后果负有持续责任。3.5在欧盟市场提供服务时，必须遵守GDPR。3.6只要数据已匿名化，训练师可自由跨境传输。3.7训练师将模型命名为“DoctorAI”并在医疗咨询App中使用，无需额外审批。3.8对青少年推送算法应默认开启“防沉迷”模式。3.9训练师在离职后可带走自己开发的通用工具脚本，只要未使用公司数据。3.10出现伦理争议时，训练师可拒绝配合监管部门调查。4.填空题（每空1分，共10分）4.1我国《个人信息保护法》于____年____月____日正式施行。4.2人工智能训练师在发现模型输出可能危害社会公共利益时，应立即向____报告。4.3在深度学习训练过程中，常用的差分隐私噪声添加技术是基于____机制。4.4训练师对数据主体行使撤回同意权时，应在____天内完成删除或匿名化。4.5联合国“Protect,RespectandRemedy”框架中，企业应承担的职责是____。4.6模型卡（ModelCard）最早由____公司提出，用于促进算法透明。4.7在AI伦理领域，____原则强调“把人类置于决策回路”。4.8训练师使用外部标注平台时，应在合同中明确____条款，防止数据二次销售。4.9依据《互联网信息服务算法推荐管理规定》，算法备案应在上线之日起____个工作日内完成。4.10当模型用于教育测评时，训练师需额外关注____偏见对学生心理的影响。5.简答题（每题6分，共18分）5.1简述“数据最小化”原则在深度学习训练中的三条落地措施，并说明每条措施对模型性能的潜在影响。5.2训练师在发现合作方偷偷将用户对话数据用于训练情感计算模型后，应如何按照职业道德进行危机处理？请给出四步具体行动。5.3请解释“算法可解释性”与“用户信任”之间的关系，并举一个医疗影像诊断场景的例子说明可解释性如何降低伦理风险。6.案例分析题（共22分）案例：某市交通局委托A公司开发“行人闯红灯人脸识别曝光系统”。训练师B负责数据汇总与模型训练。B从社交媒体抓取10万张行人照片，与监控截图混合训练，准确率达98%。系统上线后，误将坐轮椅的残障人士识别为闯红灯者，并在闹市大屏滚动播放其姓名、身份证号及“不文明行为”标签，引发舆论。残障人士索赔100万元，监管部门介入调查。调查发现：1.训练数据无残障人士样本；2.模型未经过公平性测试；3.曝光大屏未设置申诉渠道；4.B在内部邮件中写道“轮椅形态少见，不影响整体指标”。问题：6.1请从职业道德角度指出训练师B的五项具体失范行为。（5分）6.2若你是B的同事，在系统上线前发现该风险，请撰写一份《伦理风险评估报告》摘要（不超过300字），包含背景、风险、建议。（9分）6.3结合《个人信息保护法》与《无障碍环境建设法》，说明交通局与A公司应如何联合整改，并给出三条技术改进措施。（8分）7.计算与公式题（共10分）7.1公平性指标：已知某二分类模型对男性群体预测结果如下表预测正例预测负例实际正例18020实际负例30270女性群体：预测正例预测负例实际正例9010实际负例70230请计算两群体的真正例率（TPR）与假正例率（FPR），并判断该模型是否满足“EqualizedOdds”公平性准则（要求TPR差异≤0.05且FPR差异≤0.05）。写出计算过程并给出结论。（10分）8.论述题（共20分）材料：随着大模型参数激增，训练能耗呈指数增长。研究表明，训练一个千亿参数模型所产生的碳排放相当于五辆汽车终身排放量。与此同时，部分企业以“技术中立”为由，忽视环保责任。任务：请围绕“人工智能训练师的绿色伦理责任”展开论述，要求：1.结合碳排放数据，说明高能耗带来的道德代价；2.提出训练师在数据、算法、算力、治理四个维度的减碳策略；3.论证绿色伦理与商业可持续之间的关系；4.字数不少于600字，逻辑清晰，有数据支撑。——答案与解析——1.单项选择1.1C1.2B1.3B1.4B1.5C1.6C1.7C1.8B1.9B1.10B1.11A1.12B1.13B1.14B1.15D1.16B1.17B1.18A1.19B1.20B2.多项选择2.1ABD2.2ABD2.3ABD2.4ABC2.5BCD2.6AB2.7ABD2.8ABCD2.9ABD2.10ABC3.判断3.1×3.2×3.3×3.4√3.5√3.6×3.7×3.8√3.9√3.10×4.填空4.12021年11月1日4.2上级主管与伦理委员会（或合规部门）4.3Laplace或Gaussian4.4154.5Respect（尊重人权）4.6Google4.7Human-in-the-loop4.8数据用途限制与二次销售禁止4.9104.10能力或成绩5.简答（示例要点）5.1措施：①采集阶段只收集与任务直接相关的特征；②训练阶段采用特征选择或稀疏正则化剔除冗余；③推理阶段使用边缘计算减少云端存储。影响：①可能降低部分冗余特征带来的性能提升；②减少过拟合风险；③降低延迟与能耗。5.2四步：①立即保存证据并内部通报；②向合作方发出停止违约使用通知；③报告公司数据保护官；④协助用户行使删除权并公开致歉。5.3关系：可解释性提供决策理由，增强用户信任。例子：AI指出肺结节位于右肺上叶边缘，并高亮可疑区域，医生可复核，避免误切，降低医疗纠纷。6.案例6.1失范：①未授权采集社交媒体数据；②未考虑弱势群体代表性；③忽视公平性测试；④公开披露个人敏感信息；⑤内部邮件歧视言论。6.2报告摘要：背景——系统即将曝光行人身份；风险——数据无残障样本，误识别率高，侵犯人格权，引发法律索赔；建议——立即补充多样本、进行公平性审计、设置申诉通道、延迟上线。6.3整改：交通局与A公司应联合建立残障人士样本库，重