2026年人工智能训练师（二级）职业道德与法规试题

2026年人工智能训练师（二级）职业道德与法规试题一、单项选择题（每题1分，共30分。每题只有一个正确答案，请将正确选项的字母填在括号内）1.某训练师在未经数据主体同意的情况下，将含有人脸特征的数据集上传至境外公有云进行模型训练。该行为最可能违反的我国法律是（）A.《网络安全法》B.《数据安全法》C.《个人信息保护法》D.《密码法》2.根据《人工智能伦理规范（试行）》，下列做法中符合“公平性”原则的是（）A.在招聘模型中删除性别字段即可视为消除性别偏见B.对训练数据进行过采样以平衡少数群体样本C.将“是否怀孕”作为信用评分特征D.使用黑盒模型以提升商业竞争力3.训练师A发现公司使用的开源数据集许可证为CCBY-NC4.0，公司计划将训练好的模型用于商业付费API。A应提出的合规建议是（）A.可直接商用，因模型并非原始数据B.须获得版权人书面授权或替换数据集C.在API文档中署名即可D.将模型权重加密后可规避许可证限制4.依据《深度合成规定》，对生成内容添加显式标识时，下列标识方式被明令禁止的是（）A.在视频片尾以可机读水印标注B.在语音开头加入“本音频由AI合成”声明C.将标识信息隐藏于高频噪声段且用户不可见D.在图像EXIF中写入“AI-Generated”字段5.训练师在调参过程中，为快速验证效果，将用户真实对话日志直接贴到技术论坛求助。该行为主要违反的伦理原则是（）A.可解释性B.隐私保护C.普惠性D.鲁棒性6.下列关于“联邦学习”场景下的合规描述，正确的是（）A.数据不出本地，故无需再进行匿名化处理B.梯度传输仍可能泄露个人信息，需采取差分隐私C.无需告知数据主体，因其未直接共享原始数据D.可完全豁免《个人信息保护法》的告知同意要求7.训练师在医疗影像AI项目中，发现数据集中某类癌症样本量不足，拟采用生成式对抗网络合成补充。根据《医疗器械监督管理条例》，合成数据用于注册检验前必须（）A.取得医院伦理批件B.在国家级期刊发表论文C.通过国家级质检中心检验D.向国家药监局提交数据真实性声明8.关于“可解释性”要求，下列说法错误的是（）A.金融风控模型若拒绝贷款，应向申请人说明主要原因B.提供基于SHAP值的特征贡献度可满足监管可解释要求C.深度模型只要准确率高，无需额外解释D.可解释性有助于提升用户对AI系统的信任9.训练师B在境外社交平台发现某开源模型权重被植入“后门”，该后门可对中文关键词触发特定输出。B将该权重引入国内商用产品，未做安全审查。B最可能触犯（）A.《出口管制法》B.《反间谍法》C.《刑法》第285条非法侵入信息系统罪D.《互联网信息服务算法推荐管理规定》10.根据《生成式AI服务管理暂行办法》，服务提供者应当在多长时间内对违法内容采取处置措施（）A.1小时B.3小时C.24小时D.7日11.训练师C在训练大模型时，为节省算力，将用户输入的敏感问题写入日志并人工标注后用于后续微调。C应当履行的首要义务是（）A.获得数据主体单独同意B.向公司财务部门备案C.将日志存储在加密磁盘D.删除三个月前的日志12.依据《科技活动违规处理规定》，对科研不端行为的最高处罚是（）A.警告B.暂停项目C.取消财政资金支持资格5年D.终身禁止申请国家科技计划项目13.训练师D使用境外API进行模型蒸馏，境外API的服务协议声明“所有输入输出归API提供方所有”。D将蒸馏后的小模型开源，协议采用Apache2.0。该行为可能导致（）A.违反与API提供方的合同约定B.违反《反垄断法》C.违反《标准化法》D.违反《计量法》14.关于“AI伦理审查委员会”的设立，下列做法正确的是（）A.仅由技术部门负责人组成B.必须包含外部独立专家C.可事后补录会议纪要D.对公众保密审查结果15.训练师E在训练人脸识别模型时，将民族信息作为辅助标签以提高精度。该行为最可能引发的风险是（）A.模型过拟合B.算法歧视C.数据泄露D.算力浪费16.根据《互联网信息服务深度合成管理规定》，深度合成服务提供者应当自行或委托专业机构开展的安全评估属于（）A.等级保护测评B.算法备案评估C.科技伦理审查D.数据出境安全评估17.训练师F在模型上线前，未对提示词进行过滤，导致用户可诱导模型输出淫秽内容。监管部门可依据哪部法规对F所在公司处以最高10万元罚款（）A.《治安管理处罚法》B.《生成式AI服务管理暂行办法》C.《未成年人保护法》D.《广告法》18.训练师G在训练过程中，将公司未公开的模型架构细节发布在个人博客以增加个人影响力。该行为违反的伦理原则是（）A.公平性B.透明性C.保密义务D.普惠性19.依据《个人信息保护法》，处理敏感个人信息应当取得数据主体的（）A.默示同意B.书面同意C.单独同意D.口头同意20.训练师H在训练自动驾驶模型时，使用公开街景数据，未对车牌进行模糊处理。该行为最可能侵犯的权利是（）A.著作权B.隐私权C.商标权D.专利权21.根据《数据出境安全评估办法》，以下哪种情形必须向省级网信部门申报评估（）A.个人信息累计出境10万人B.敏感个人信息累计出境1万人C.重要数据出境D.非敏感个人信息出境50万人22.训练师I在训练过程中，为提升模型鲁棒性，故意注入对抗样本，但未对注入比例做记录，导致模型上线后性能骤降。该行为属于（）A.正常调参B.科研探索C.科研不端D.合理数据增强23.训练师J在模型发布说明中，仅给出“本模型在公开数据集上准确率达95%”，未披露测试集构成。该做法违反的伦理要求是（）A.可复现性B.可解释性C.公平性D.普惠性24.训练师K在训练医疗对话模型时，引用已发表论文中的患者对话，未获作者授权。该行为可能侵犯（）A.患者隐私权B.论文作者著作权C.医院经营权D.药品专利权25.依据《生成式AI服务管理暂行办法》，对生成内容建立投诉举报机制属于（）A.鼓励性条款B.强制性条款C.任意性条款D.指导性条款26.训练师L在训练过程中，将用户输入的“如何制造爆炸物”问题直接转发给外部搜索引擎，并将搜索结果返回给用户。该行为可能触犯（）A.《反恐怖主义法》B.《环境保护法》C.《消费者权益保护法》D.《劳动法》27.训练师M在训练金融客服模型时，为降低延迟，将用户身份证号明文存入内存缓存。该行为主要违反的规范是（）A.《个人信息保护法》最小必要原则B.《网络安全法》等级保护制度C.《数据安全法》分类分级制度D.《反洗钱法》客户身份识别制度28.训练师N在训练过程中，使用公司竞争对手未公开泄露的模型权重，该权重被内部员工非法拷贝后提供。N的行为属于（）A.合法使用B.善意取得C.侵犯商业秘密D.合理使用29.训练师O在训练过程中，发现训练数据含有人工标注错误，但为赶工期仍继续使用。该行为违反的职业道德是（）A.精益求精B.诚实守信C.公平竞争D.普惠利民30.训练师P在模型上线后，持续收集用户反馈并定期更新隐私政策，该做法体现的原则是（）A.目的限定B.公开透明C.数据最小化D.算法中立二、多项选择题（每题2分，共20分。每题有两个或两个以上正确答案，多选、少选、错选均不得分）31.以下哪些情形应当开展个人信息保护影响评估（）A.处理敏感个人信息B.向境外提供个人信息C.利用个人信息进行自动化决策D.公开披露个人信息32.根据《人工智能伦理规范（试行）》，以下哪些措施有助于提升算法公平性（）A.对训练数据进行偏见审计B.引入多元化评审团队C.使用单一来源数据以保证一致性D.对模型输出进行分层统计检验33.训练师在训练深度合成类模型时，为防范深度伪造风险，应当（）A.建立水印溯源机制B.对生成内容添加显式标识C.禁止任何用户生成人脸图像D.保存生成日志备查34.以下哪些行为可能构成“算法歧视”（）A.在招聘模型中剔除性别字段但保留与性别高度相关的特征B.在信贷模型中使用邮政编码作为特征导致少数族裔获批率显著低C.在推荐系统中对低收入人群仅推送低价商品D.在翻译模型中对某些方言翻译错误率高35.训练师在训练过程中，为遵守《数据安全法》，应当采取的措施包括（）A.建立数据分类分级制度B.开展数据出境风险评估C.定期备份数据D.将核心数据存储在境外云盘以降低成本36.以下哪些属于“重要数据”范畴（）A.达到国家网信部门规定规模的个人信息B.涉及国家安全的经济运行数据C.企业未公开的财务报表D.大型工程设施敏感图纸37.训练师在训练医疗AI模型时，应当遵循的伦理要求包括（）A.尊重患者隐私B.确保算法可解释C.优先使用合成数据D.接受伦理委员会审查38.以下哪些做法有助于提升模型可解释性（）A.使用决策树替代深度网络B.提供特征重要性排序C.对黑盒模型采用LIME局部解释D.隐藏模型结构以防抄袭39.训练师在训练过程中，发现数据供应商存在非法收集个人信息行为，应当（）A.立即停止使用并封存数据B.向公司合规部门报告C.继续训练以降低成本D.向监管部门举报40.依据《生成式AI服务管理暂行办法》，提供者应当建立的内容审核制度包括（）A.关键词过滤B.人工抽检C.用户举报通道D.先审后发三、判断题（每题1分，共10分。正确打“√”，错误打“×”）41.训练师在训练过程中，只要数据已匿名化，即可自由向境外传输。（）42.根据《个人信息保护法》，数据主体有权拒绝完全基于自动化决策的贷款拒绝决定。（）43.使用开源数据集时，可忽略其许可证要求，因为训练后的模型属于新作品。（）44.训练师在训练过程中，必须保证模型对所有人群具有相同的错误率，否则即构成歧视。（）45.对生成式AI服务，用户协议中可约定用户对其诱导生成的违法内容负全部责任，平台无需承担任何义务。（）46.训练师在训练过程中，将用户输入的敏感信息加密存储后，可不再获得用户同意。（）47.根据《数据安全法》，企业必须设立数据安全负责人。（）48.训练师在训练过程中，使用他人已公开的论文数据，无需再考虑版权问题。（）49.训练师在训练过程中，发现模型输出可能危害国家安全时，应当立即向国家有关部门报告。（）50.训练师在训练过程中，只要模型精度高，即可忽略其对社会的长远影响。（）四、简答题（每题10分，共20分）51.简述训练师在利用公开网络数据训练大模型时，如何平衡数据利用效率与个人信息保护之间的关系，并列出三项可落地的技术措施。52.某公司拟上线一款生成式对话模型，训练师需撰写《算法伦理风险评估报告》。请列出报告必须包含的五个核心章节，并说明每个章节应阐述的主要内容。五、案例分析题（20分）53.案例背景：“智语公司”训练师团队使用1亿条境外社交平台的公开对话数据，训练了一款中文对话大模型“ChatX”。上线后，用户多次举报该模型在回答“如何维权”相关问题时，倾向于建议“忍气吞声”，且对特定地域用户输出侮辱性词汇。监管部门介入调查发现：（1）训练数据未做地域分布均衡采样；（2）公司未建立数据溯源机制，无法定位问题样本；（3）模型上线前未进行公平性测试；（4）公司未向用户披露模型局限性。请结合《人工智能伦理规范（试行）》《生成式AI服务管理暂行办法》《个人信息保护法》等法规伦理要求，回答：（1）指出智语公司及其训练师团队存在的四项具体违规或失范行为；（2）针对每项行为提出整改措施，并说明对应的法规或伦理依据；（3）若智语公司逾期未整改，可能面临哪些行政处罚及社会责任后果。【卷后答案与解析】一、单项选择题1.C2.B3.B4.C5.B6.B7.A8.C9.D10.B11.A12.D13.A14.B15.B16.B17.B18.C19.C20.B21.C22.C23.A24.B25.B26.A27.A28.C29.B30.B二、多项选择题31.ABCD32.ABD33.ABD34.ABC35.ABC36.ABD37.ABD38.ABC39.ABD40.ABCD三、判断题41.×42.√43.×44.×45.×46.×47.√48.×49.√50.×四、简答题参考答案51.平衡思路：遵循最小必要、目的限定、公开透明原则。技术措施：（1）自动过滤个人标识符（姓名、手机号等）的Regex+NER流水线；（2）采用差分隐私（ε-DP）在梯度发布时加入calibratednoise：Δf=m（3）建立数据主体“opt-out”机制，通过哈希匹配实时删除请求数据。52.报告核心章节：（1）项目概述：模型功能、训练数据规模、部署场景；（2）伦理风险识别：偏见、隐私、滥用、安全四维度风险清单；（3）风险分析与定级：采用概率-影响矩阵，给出高/中/低等级；（4）风险缓解措施：数据平衡、去偏算法、内容审核、用户提示；（5）剩余风险与监控计划：上线后持续指标、申诉渠道、更新周期。五、案例分析题参考答案（1）四项失范行为：①未进行地域分布均衡采样，违反《伦理规范》公平性原则；②未建立数据溯源机制