2026年人工智能与伦理专业考试试卷及答案

2026年人工智能与伦理专业考试试卷及答案一、单项选择题（共10题，每题2分，总计20分）1.2025年欧盟《人工智能法案》正式生效后，被划定为“不可接受风险”的AI应用场景不包括以下哪一项？（）A.基于生物特征识别的社会评分系统B.针对未成年人的定向成瘾性内容推荐算法C.公开场景下用于寻找失踪儿童的实时人脸识别系统D.利用潜意识操纵技术诱导非必要消费的嵌入式AI答案：C。解析：欧盟AI法案明确将四类应用列为不可接受风险：一是利用人类潜意识漏洞或群体弱点实施操纵的AI，二是社会评分类AI，三是公共空间大规模无差别生物识别监控（寻找失踪儿童、反恐实时排查等法定豁免场景除外），四是针对弱势群体的剥削性AI。C选项属于法定豁免场景，其余选项均属于明确禁止范畴。2.我国2024年修订的《生成式人工智能服务管理暂行办法》中，要求生成式AI服务提供者对训练数据来源承担的核心责任是（）A.确保训练数据100%获得著作权人单独授权B.建立训练数据合法性溯源机制，涉及个人信息的需符合个人信息保护法要求C.训练数据中公共领域内容占比不得低于60%D.训练数据需提前三个月向网信部门备案并公开全部数据清单答案：B。解析：根据办法规定，生成式AI提供者需对训练数据来源合法性负责，建立溯源机制，涉及个人信息的需取得个人同意或符合法定处理情形，涉及著作权的不得侵犯他人知识产权；未要求100%单独授权（法定许可、合理使用场景除外）、未设定公共领域内容占比阈值、未要求公开全部数据清单（仅需备案数据来源规则、知识产权保护机制等核心信息）。3.在AI伦理框架“阿西洛马AI原则”的最新2025修订版中，新增的核心价值导向是（）A.AI研发必须以公共利益优先B.通用人工智能（AGI）需强制部署价值对齐模块C.AI系统的算力消耗需符合全球碳中和目标约束D.高风险AI决策必须保留人类最终决策权答案：C。解析：阿西洛马AI原则2025版结合全球AI算力能耗占社会总能耗比例突破2.7%的现实数据，新增“算力可持续”原则，要求AI研发与部署需匹配碳中和目标，高能耗大模型需公开能效报告；其余选项均为此前版本已有的原则内容。4.以下哪项属于“算法歧视”的典型司法认定情形？（参考2025年最高法发布的10起AI伦理典型判例）（）A.招聘AI系统将“有3年以上连续同岗位工作经验”作为筛选条件，导致育龄女性简历通过率比男性低22%B.信贷风控AI模型因训练数据中历史违约群体的户籍分布特征，对特定县域户籍申请人统一提高20%贷款利率C.智能导航系统在晚高峰时段优先为付费会员规划最快路线，导致非会员路段拥堵率上升15%D.短视频推荐算法根据用户浏览偏好推送内容，导致老年用户接触养生类内容的占比达47%答案：B。解析：最高法判例明确，算法歧视的核心判定标准是“将与决策目标无实质关联的自然属性（户籍、种族、性别、年龄等）作为决策变量，直接产生差异化不公平对待”。B选项中户籍与信贷违约风险无实质因果关联，属于典型算法歧视；A选项中工作经验属于岗位相关合理筛选条件，即便产生性别比例差异也不构成歧视；C选项属于商业化分级服务，未违反公平交易规则；D选项属于用户偏好驱动的个性化推荐，未对特定群体产生权益损害。5.2025年世界卫生组织发布的《医疗AI伦理应用指南》中，要求医疗AI辅助诊断系统必须满足的核心透明度义务是（）A.向患者公开模型的全部训练参数与权重结构B.向患者清晰告知诊断结论的AI参与程度、置信区间及人工复核流程C.向医疗机构免费开放模型源代码以便二次开发D.对所有误诊案例自动承担全部医疗责任答案：B。解析：WHO指南明确，医疗AI的透明度核心是保障患者知情权，需告知AI在诊断中的作用、结论可靠程度及人工复核机制；不要求公开训练参数、源代码这类商业秘密，误诊责任需根据医疗机构使用流程、AI产品质量问题等划分责任，并非由AI系统直接全部承担。6.在自动驾驶AI的伦理决策“电车难题”场景下，我国2025年出台的《自动驾驶汽车伦理规范》确立的首要决策原则是（）A.优先保护车内人员安全B.按照伤亡人数最小化原则选择避让方案C.优先保护行人等交通弱势群体安全D.以遵守交通规则为前提，禁止基于生命权重差异做出主动选择答案：D。解析：我国自动驾驶伦理规范明确否定了“生命权重比较”的决策逻辑，要求自动驾驶AI必须以遵守交通法规为首要准则，不得根据年龄、性别、身份等特征对生命价值做量化排序，不得为了减少伤亡主动违反交规碰撞合规通行主体；当事故不可避免时，决策逻辑需提前公开备案，不得存在差异化价值偏向。7.以下哪项行为违反了AI研发中的“数据最小化”伦理原则？（）A.人脸识别门禁系统仅采集人脸面部特征点数据，不存储原始人脸照片B.智能问诊AI在用户明确表述头痛症状时，强制要求获取用户全部通讯录、位置历史及相册权限C.输入法AI仅采集用户输入的文本内容用于联想词优化，不上传用户输入的密码等敏感信息D.外卖调度AI仅采集骑手实时位置、订单配送距离数据规划路线，不收集骑手的社交关系、消费记录等信息答案：B。解析：数据最小化原则要求AI处理个人信息时，仅限实现核心功能所必需的最小范围、最小粒度数据，不得过度收集权限。B选项中问诊功能无需通讯录、位置历史、相册权限，属于典型的过度收集，违反数据最小化原则；其余选项均符合数据收集的必要性要求。8.2025年全球AI伦理治理领域提出的“对齐税”概念，核心指的是（）A.对高风险AI企业征收的用于AI伦理风险治理的专项税费B.企业为实现AI系统价值对齐、符合伦理规范所额外付出的算力、研发成本C.AI系统产生伦理风险后对受损主体的赔偿准备金D.针对AI生成内容征收的著作权附加税答案：B。解析：“对齐税”是AI治理领域的专业术语，指研发主体为了让AI系统符合人类价值观、伦理规范、安全要求，在训练、微调、部署环节额外投入的成本，包括人类反馈强化学习（RLHF）的标注成本、伦理对齐模块的算力成本、安全测试成本等；不属于税费或赔偿准备金范畴。9.以下哪项属于“深度伪造”技术应用的合法合规情形？（）A.未经逝者家属同意，使用AI换脸技术让已故演员在新影视作品中“复活”并担任主角B.经用户本人书面授权，在短视频平台使用AI换脸功能制作趣味短视频并标注“AI生成”C.使用AI声音克隆技术模仿知名企业家声音推荐理财产品，未明示AI生成属性D.电商平台使用AI换脸技术将其他模特的肖像套用到自家服装商品宣传图中答案：B。解析：根据我国《深度合成服务管理规定》，深度合成内容必须显著标识AI生成属性，涉及肖像权、声音权的需取得权利人明确授权。B选项获得用户授权且明确标注，属于合法情形；A选项侵犯逝者肖像利益（需近亲属同意），C选项未标识且侵犯他人声音权、构成虚假宣传，D选项侵犯模特肖像权，均属违规。10.AI伦理审查中的“差别影响”评估方法，核心是用来检测什么问题？（）A.AI系统在不同硬件设备上的运行性能差异B.AI决策结果对不同受影响群体是否存在系统性不公平差异C.AI模型在不同训练批次下的准确率波动D.AI系统在不同网络环境下的响应速度差异答案：B。解析：差别影响评估是算法公平性检测的核心方法，通过统计AI决策结果在不同性别、年龄、地域、民族等群体中的分布差异，判断是否存在非合理的系统性歧视；与运行性能、准确率、响应速度等技术指标无关。二、多项选择题（共5题，每题4分，总计20分，多选、少选、错选均不得分）1.2025年我国《人工智能伦理审查与服务管理办法》规定的必须进行国家级伦理审查的高风险AI应用包括（）A.用于刑事侦查的情绪识别、心理测谎类AI系统B.面向义务教育阶段的AI自适应学习辅导系统C.涉及百万千瓦级以上电网调度的工业控制AI系统D.面向C端用户的AI聊天伴侣类情感交互系统答案：AC。解析：办法明确三类高风险AI需国家级伦理审查：一是涉及国家重大基础设施安全的AI（如电网、核电、交通枢纽调度AI）；二是涉及司法、刑事执法的核心决策辅助AI（如测谎、量刑辅助、犯罪风险预测AI）；三是可能引发群体级心理健康风险的强成瘾性AI。B选项义务教育阶段AI辅导系统由省级伦理部门审查，D选项普通情感交互AI由企业内部伦理委员会审查即可。2.以下哪些属于AI系统“可解释性”的核心要求？（）A.对于高风险AI决策（如信贷拒贷、司法量刑建议），需向当事人说明决策的核心影响因素B.可解释性的程度需与AI应用的风险等级匹配，风险越高解释义务越严格C.所有AI系统必须向公众公开全部源代码和训练数据集D.解释内容需以普通公众能够理解的语言呈现，不得仅以技术术语敷衍答案：ABD。解析：可解释性要求的核心是保障利益相关方的知情权，按照风险等级匹配解释强度，高风险决策需说明核心逻辑，且解释需通俗易懂；可解释性不要求公开全部源代码和训练数据，涉及商业秘密、国家秘密的内容可依法豁免公开。3.当前全球AI伦理治理面临的共性挑战包括（）A.大模型“黑箱”特性导致的责任主体认定难题B.跨境AI服务带来的司法管辖权冲突C.AI生成内容的知识产权归属规则不统一D.AI替代就业引发的劳动权益保障缺口答案：ABCD。解析：2026年全球AI治理报告显示，上述四项均为当前共性治理难点：大模型黑箱导致事故后难以界定研发者、部署者、使用者的责任；跨境提供的AI服务适用哪国伦理规范、哪国法院管辖尚未形成统一国际规则；AI生成内容的著作权认定各国规则差异较大；AI对重复性劳动的替代速度超过劳动力转型速度，社保、技能培训等配套保障机制存在缺口。4.AI研发中的“人类在环（Human-in-the-loop）”机制，要求在以下哪些场景必须保留人类的干预决策权？（）A.核武器发射的AI决策系统B.重大公共卫生事件的AI传播趋势预判C.企业招聘的简历初筛AI系统D.无人机的自动物流配送航线规划答案：AB。解析：人类在环机制的核心是对于可能产生重大不可逆风险的决策，必须由人类掌握最终决定权，AI仅能提供辅助参考。核武器发射、重大公共卫生事件决策属于高不可逆风险场景，必须保留人类最终决策权；招聘初筛、物流航线规划属于低风险场景，可由AI自动执行但需保留申诉、复核通道。5.以下哪些行为违反了AI应用的伦理准则？（）A.养老院为失智老人配备陪伴AI机器人，用于日常情绪疏导和异常状态报警B.企业在员工工位安装AI情绪监测系统，将员工表情、打字速度作为绩效考核依据C.高校使用AI论文查重系统，明确认定AI生成内容占比超过30%且无标注的课程论文为不合格D.保险公司使用AI分析客户的社交媒体发言、购物记录等数据，将“经常熬夜网购”作为提高保费的依据答案：BD。解析：B选项中工位情绪监测侵犯员工隐私和人格尊严，属于典型的职场AI伦理违规；D选项中社交媒体发言、购物记录与保险风险无实质关联，属于过度收集数据+算法歧视；A选项的养老陪伴AI属于提升老年人福祉的合理应用；C选项的AI学术规范管理属于维护学术诚信的正当措施。三、简答题（共3题，每题10分，总计30分）1.请简述2025年联合国教科文组织更新的《人工智能伦理全球建议书》中提出的四项核心伦理原则，并分别说明其核心内涵。答案：四项核心伦理原则具体如下：（1）人类福祉优先原则（2.5分）：AI的研发与部署必须以提升全人类共同福祉为根本目标，不得为了商业利益、技术竞争损害人类基本权利，需优先保障弱势群体（老年人、残疾人、未成年人、欠发达地区群体）的AI可及性，避免技术鸿沟扩大。（2）公平无歧视原则（2.5分）：AI系统在全生命周期内需避免基于种族、性别、年龄、地域、残障状况等自然属性的偏见，保障所有群体在AI服务获取、AI决策结果中获得公平对待，建立算法偏见的常态化检测与纠正机制。（3）透明可问责原则（2.5分）：高风险AI系统的决策逻辑、训练数据来源、风险边界需向监管部门和利益相关方公开，建立全生命周期的责任追溯机制，明确研发者、部署者、使用者在AI事故中的责任划分标准，避免“技术中立”成为责任规避借口。（4）安全可控原则（2.5分）：AI研发需建立风险分级管控机制，对可能引发系统性风险的大模型、通用人工智能需提前开展安全评估，设置紧急关停机制，确保人类对AI系统保持最终控制权，防范AI技术被用于武器开发、大规模监控等危害公共安全的场景。2.请简述AI“价值对齐”问题的核心内涵，以及当前工程层面实现价值对齐的三种主流技术路径。答案：AI价值对齐的核心内涵是：AI系统的目标函数、决策逻辑、输出结果需与人类社会的普遍价值观、伦理规范、公序良俗保持一致，避免AI为了实现预设的技术目标（如效率最大化、收益最大化）做出损害人类利益的行为，解决AI目标与人类真实意图的偏差问题（4分）。当前主流技术路径包括：（1）基于人类反馈的强化学习（RLHF）（2分）：通过标注人员对AI输出内容的伦理合规性、有用性进行排序打分，训练奖励模型引导AI输出符合人类偏好的结果，是当前大模型价值对齐的主流方案；（2）宪法AI（ConstitutionalAI）（2分）：将成文的伦理规则、法律规范转化为AI可识别的规则体系，让AI在决策时自动对照规则进行自我检查、自我修正，降低对人工标注的依赖，提升价值对齐的一致性；（3）红队测试机制（2分）：通过专业伦理团队、技术专家模拟各类可能触发伦理风险的输入场景，对AI进行对抗性测试，发现价值对齐漏洞后针对性微调，覆盖边缘场景下的伦理风险。3.请简述生成式AI知识产权伦理的核心争议点，以及我国当前司法实践中的认定规则。答案：生成式AI知识产权伦理的核心争议点集中在三个层面：一是训练数据使用的著作权合规问题，即大模型训练中大规模抓取受著作权保护的文本、图片、音视频内容，是否构成著作权侵权，是否需要向权利人支付报酬（3分）；二是AI生成内容的权利归属问题，即AI生成的内容是否具备著作权，权利应当归属AI研发者、使用者还是属于公共领域（3分）。我国当前司法实践的认定规则：一是训练数据层面，大模型训练属于对作品的转换性使用的，在不影响原作品正常使用、不损害著作权人合法权益的前提下可适用合理使用规则，但如果训练数据包含大量盗版内容、直接替代原作品市场的，需承担侵权责任，鼓励研发主体通过著作权集体管理组织建立训练数据付费机制（2分）；二是生成内容层面，如果AI使用者通过明确的提示词设计、内容选择、编排安排体现了独创性智力投入，AI生成内容的著作权归属于使用者；如果仅为简单指令生成、无独创性投入的，不构成著作权法意义上的作品，不受著作权保护；AI研发者不得通过格式条款强制取得用户生成内容的知识产权（2分）。四、案例分析题（共1题，总计30分）2025年10月，某一线城市人社局上线“就业帮扶AI匹配系统”，该系统基于求职者简历、企业招聘需求数据训练，用于为登记失业人员精准推送适配岗位，提升就业对接效率。系统上线3个月后，第三方机构评估发现以下问题：一是系统推送的岗位中，35岁以上女性求职者收到的保洁、后勤类岗位占比达68%，而相同技能水平、工作经验的35岁以下男性求职者收到的技术岗、管理岗推荐占比达72%；二是系统训练数据使用了2018-2024年本地招聘平台的历史投递数据，未对历史招聘中存在的“男性优先招技术岗”“35岁以下优先”等歧视性招聘规则做数据清洗；三是有求职者申请复核岗位匹配结果时，系统仅提示“综合评估不匹配”，无法说明具体不匹配的原因，也未设置人工复核通道。请结合AI伦理的相关知识，回答以下问题：（1）该就业帮扶AI系统存在哪些伦理违规问题？（12分）（2）请针对这些问题提出具体的整改方案。（18分）答案：（1）该系统存在的伦理违规问题包括三方面：①存在明显的算法歧视问题（4分）：系统将年龄、性别等与岗位能力无实质关联的属性作为岗位匹配的决策变量，导致相同技能、经验的求职者因年龄、性别差异获得不公平的岗位推荐，强化了劳动力市场的就业偏见，损害了35岁以上女性群体的平等就业权，违反了公平无歧视的伦理原则。②训练数据合规性存在缺陷（4分）：研发者未对训练数据中的偏见性、歧视性内容做清洗，直接将历史招聘中存