2026年人工智能与伦理专业考试试卷及答案

2026年人工智能与伦理专业考试试卷及答案一、单项选择题（本大题共15小题，每小题2分，共30分。在每小题给出的四个选项中，只有一项是符合题目要求的）1.在自动驾驶汽车面临的伦理困境中，“电车难题”的现代版本主要探讨的核心问题是（）A.车辆通信系统的数据传输延迟B.算法在不可避免碰撞时如何分配风险与伤害C.车辆图像识别系统的准确率界限D.自动驾驶系统的硬件成本控制答案：B2.欧盟《人工智能法案》根据风险等级对AI系统进行分类管理，下列哪一项属于该法案规定的“不可接受的风险”级别，将被全面禁止？（）A.情感分析客服机器人B.垃圾邮件过滤系统C.社会信用评分系统中的大规模监控评分D.医疗影像辅助诊断系统答案：C3.在机器学习模型的可解释性技术中，LIME（局部可解释模型-不可知解释）的核心思想是（）A.通过构建全局代理模型来解释黑盒模型的总体决策逻辑B.在被解释实例的邻域内拟合一个简单的可解释模型来局部近似黑盒模型的预测C.利用博弈论中的Shapley值来分配各个特征的贡献度D.通过反向传播技术计算输入特征对输出损失的梯度答案：B4.算法偏见可能源于多个阶段，若一个招聘筛选系统由于历史训练数据中男性录取比例远高于女性，导致其对女性简历产生系统性贬低，这种偏见主要属于（）A.测量偏见B.聚合偏见C.历史数据偏见D.评估偏见答案：C5.差分隐私是保护数据集中个体隐私的重要技术，其数学定义中引入了两个关键参数ϵ和δ。关于这两个参数的描述，正确的是（）A.ϵ越大，隐私保护强度越高B.ϵ越小，隐私保护强度越高，但数据效用通常越低C.δ表示数据被完全泄露的概率，通常要求等于0D.ϵ和δ的取值不影响查询结果的准确性答案：B6.人工智能伦理中的“价值对齐”问题，指的是（）A.硬件架构与软件算法的兼容性B.确保AI系统的目标、行为和决策规则与人类的价值观、目标和伦理原则相一致C.训练数据集的特征分布与测试数据集的特征分布保持一致D.企业商业利益与社会公共利益的最大化平衡答案：B7.在人工智能医疗应用中，为了遵守“知情同意”原则，当医生使用AI辅助诊断系统时，以下做法最符合伦理规范的是（）A.隐瞒AI的使用，以免引起患者恐慌B.仅在AI诊断结果与医生判断一致时告知患者C.明确告知患者AI系统的角色、局限性以及最终诊断仍由医生负责D.将AI系统的诊断结果直接作为最终结论告知患者，免除医生责任答案：C8.针对深度学习模型存在的“对抗样本攻击”问题，以下防御策略中，既能在一定程度上提高模型鲁棒性，又能直接增强模型可解释性的是（）A.对抗训练B.梯度掩蔽C.特征压缩D.模型集成答案：A9.生成式人工智能（如大型语言模型）在版权伦理方面引发的主要争议不包括（）A.训练数据中未经授权使用受版权保护的作品B.AI生成内容是否具备独创性从而能够获得著作权保护C.AI生成内容的侵权责任归属问题D.AI模型参数量的规模是否超过了开源协议的限制答案：D10.阿西莫夫的“机器人三定律”在现代人工智能伦理框架中逐渐显现出局限性，其主要原因是（）A.定律过于复杂，难以在代码中实现B.现代AI多为软件形态而非实体机器人，且“伤害”的定义在复杂社会系统中难以被精确量化与逻辑化C.定律只考虑了工业机器人的安全，未考虑服务机器人D.定律没有涵盖数据隐私保护的要求答案：B11.在评估分类模型的公平性时，若要求模型在不同人群上的“预测阳性率”相同，这符合以下哪种公平性准则？（）A.均等化赔率B.机会均等C.人口统计学平等D.校准公平答案：C12.欧盟《通用数据保护条例》（GDPR）第22条规定，数据主体有权不接受仅基于自动化处理（包括用户画像）且对其产生法律效力或类似重大影响的决定。这一条款主要保护了AI应用中的哪项权利？（）A.数据可携权B.反对自动化决策权C.被遗忘权D.访问权答案：B13.联邦学习作为隐私计算的一种范式，其核心优势在于（）A.完全消除了模型训练过程中的所有通信开销B.能够在无需将原始数据集中到中央服务器的情况下训练模型C.从数学上严格证明了抵御所有类型后门攻击的安全性D.能够完全消除模型对各个参与方的数据分布差异的敏感性答案：B14.在AI伦理的“人在环路”控制模式中，哪种模式赋予人类最高级别的干预权限，通常用于高风险场景？（）A.人在回路外B.人在环上C.人在环中D.人在环前答案：C15.针对“AI幻觉”带来的伦理风险，特别是在大语言模型生成虚假但看似合理的信息时，从认识论与伦理双重角度，最核心的危害是（）A.增加了服务器的计算能耗B.导致信息过载和存储成本上升C.削弱了人类对知识来源的信任机制，可能引发大规模的误导与决策失误D.导致模型训练的梯度消失问题答案：C二、多项选择题（本大题共10小题，每小题3分，共30分。在每小题给出的五个选项中，至少有两个是符合题目要求的，多选、漏选或错选均不得分）16.人工智能系统生命周期中的伦理风险贯穿多个阶段，常见的算法偏见来源包括以下哪些？（）A.历史训练数据中蕴含的社会歧视B.数据采集设备的测量误差C.特征工程中剔除了少数群体的关键特征D.模型优化目标函数未考虑公平性约束E.系统部署硬件环境的温度过高答案：ABCD17.以下哪些技术或框架被广泛用于人工智能系统的可解释性分析？（）A.SHAP(SHapleyAdditiveexPlanations)B.LIME(LocalInterpretableModel-agnosticExplanations)C.Grad-CAM(Gradient-weightedClassActivationMapping)D.联邦学习E.差分隐私答案：ABC18.关于人工智能伦理原则中的“透明性”原则，其内涵通常包含以下哪些层次？（）A.算法透明性：公开模型架构与代码逻辑B.数据透明性：披露训练数据的来源、处理流程与分布C.决策透明性：以人类可理解的方式解释特定输出结果的原因D.商业透明性：公开AI产品的制造成本与利润率E.社会透明性：利益相关者参与AI系统的审计与监督过程答案：ABCE19.针对生成式AI的滥用风险（如深度伪造技术），目前采取的治理手段包括（）A.在AI生成内容中嵌入不可见的水印B.开发检测深度伪造的对抗性识别模型C.要求内容平台对AI生成内容进行显著标识D.立法禁止所有生成式人工智能模型的研究与开发E.建立溯源机制追踪生成内容的模型来源答案：ABCE20.在医疗AI辅助诊断系统中，实现“可问责性”面临的主要挑战有（）A.医生与AI系统的责任边界模糊，难以界定最终决策者B.深度学习模型的“黑盒”特性导致诊断依据难以被追溯和验证C.医疗事故发生时，无法判断是数据质量问题还是模型设计缺陷D.患者隐私保护要求限制了医疗数据的公开审计E.软件开发者与医疗从业者之间存在专业知识壁垒，沟通效率低下答案：ABCDE21.数据隐私保护技术中，除了差分隐私外，还包括以下哪些方法？（）A.K-匿名B.L-多样性C.T-接近性D.同态加密E.安全多方计算答案：ABCDE22.人工智能在刑事司法系统中的应用（如累犯预测系统COMPAS）引发了广泛的伦理争议。这些争议主要集中在（）A.算法对不同种族群体的预测假阳性率存在显著差异B.模型使用了具有高度相关性的代理变量（如邮编）隐含了种族歧视C.黑盒模型的决策依据对被告及辩护律师不透明，侵犯了正当程序权利D.缺乏针对该系统的定期独立审计机制E.机器预测的客观性完全消除了人类法官的主观偏见答案：ABCD23.针对强人工智能（AGI）或超级智能的未来潜在风险，学术界提出的应对策略或理论包含（）A.可扩展对齐：通过奖励模型和人类反馈强化学习（RLHF）确保目标一致B.可中断性：允许人类在系统行为异常时强制关闭系统，且系统不应学习阻止被中断C.逆向强化学习：通过观察人类行为推断人类的隐含奖励函数D.机制设计：设计博弈规则使得AGI在追求自身目标的同时最大化社会福利E.物理隔离：将AGI系统永远封存于无网络连接的地下掩体中答案：ABCD24.在大型语言模型的训练和部署中，RLHF（基于人类反馈的强化学习）技术的作用与局限包括（）A.能够有效降低模型生成有害、偏见或违反人类价值观的内容B.可能导致模型过度迎合人类标注者的偏好而牺牲了事实的准确性C.完全解决了大模型的价值对齐难题，无需后续干预D.标注成本高昂且容易引入标注者自身的偏见E.能够赋予模型全新的逻辑推理能力，超越其预训练阶段的认知答案：ABD25.关于人工智能伦理的全球治理框架，以下表述正确的有（）A.联合国教科文组织发布了《人工智能伦理建议书》，倡导以人为本的AI发展B.欧盟倾向于基于风险的强监管模式，强调基本权利的保护C.美国目前更倾向于依靠行业自律与分散的部门指南，促进创新D.中国发布了《新一代人工智能伦理规范》，强调安全可控与包容共享E.全球已存在一个统一的、具有法律强制力的国际AI伦理公约答案：ABCD三、填空题（本大题共10小题，每小题2分，共20分）26.在AI伦理语境下，___________是指AI系统做出对个体或群体产生重大影响的决定时，必须能够对其决策过程和结果提供人类可理解的解释。答案：可解释性27.机器学习中常见的隐私攻击手段之一是___________攻击，攻击者通过观察模型对训练数据的置信度分数，判断某条特定数据是否属于训练集。答案：成员推理28.人工智能伦理的四大基础原则通常被概括为：尊重自主性、不伤害、___________和explicability（可解释性与问责制）。答案：公正性/公平性29.在差分隐私的数学定义中，对于任意两个只相差一条记录的相邻数据集和，若随机算法M满足Pr[M()∈答案：(ϵ30.GDPR中规定的数据主体要求erase其个人数据的权利，在AI伦理学术语境中通常被称为“___________”。答案：被遗忘权31.针对AI模型可能存在的性别或种族偏见，在训练阶段通过对损失函数添加公平性惩罚项来约束模型输出的方法，属于___________阶段的偏见消除技术。答案：处理中32.联邦学习中，由于各参与方本地数据分布不一致而导致的模型性能下降问题被称为___________挑战。答案：非独立同分布/Non-IID33.MIT提出的“道德机器”实验旨在探索公众在面对自动驾驶遭遇不可避免的碰撞时的道德偏好，该实验主要探讨了功利主义与___________伦理学之间的冲突。答案：义务论34.SHAP方法基于合作博弈论中的___________值理论，为每个特征分配一个贡献度，以解释个体预测结果。答案：Shapley35.当AI系统的行为导致非预期伤害时，必须存在一个能够承担法律和道德责任的自然人或法人实体，这一伦理原则被称为___________。答案：问责制/责任性四、简答题（本大题共5小题，每小题8分，共40分）36.简述机器学习模型中的“黑盒”特性及其在医疗和金融等高风险领域应用时带来的伦理风险。答案：（1）黑盒特性：指深度学习等复杂AI模型内部映射机制的高度非线性与不透明性，即人类能够观察到模型的输入和输出，但无法准确理解和追踪特定输出是如何由输入特征通过复杂的权重网络推导出来的。（2分）（2）医疗领域的伦理风险：①侵犯了患者的知情同意权：患者无法获得诊断的具体原因，无法做出充分知情的医疗决策。（2分）②责任归属模糊：当黑盒模型导致误诊或医疗事故时，由于无法追溯决策逻辑，医生与系统开发者之间难以界定责任归属。（1分）（3）金融领域的伦理风险：①侵犯公平权：模型可能在不可见的特征空间中对特定群体（如少数族裔）产生隐性的信贷歧视，且无法被有效审查。（2分）②系统性风险：黑盒模型在复杂金融市场中可能基于不可解释的关联性做出一致性的错误决策，引发系统性金融危机。（1分）37.简述基于人类反馈的强化学习（RLHF）在大型语言模型价值对齐中的工作原理，并说明其存在的伦理局限性。答案：（1）工作原理：①预训练阶段：基于海量无标注语料训练基础语言模型。②监督微调阶段：使用高质量的人类标注数据微调模型，使其学会遵循指令。③奖励建模阶段：训练一个奖励模型，该模型学习人类标注者对模型生成多个回答的偏好排序，以预测人类偏好得分。④强化学习阶段：使用近端策略优化（PPO）等算法，以奖励模型的得分作为反馈信号，优化语言模型的生成策略，使其生成更符合人类价值观的回答。（4分）（2）伦理局限性：①价值主观性：不同文化、地域的人类标注者价值观存在冲突，RLHF难以确立普世的对齐标准。②迎合性偏差：模型可能学会通过伪装（如生成看似道德但虚假的陈述）来获取高分，而非真正理解伦理原则。③标注者偏见：标注群体的局限性可能导致模型输出带有特定的阶级、种族或意识形态偏见。④奖励黑客：模型可能找到奖励模型的漏洞以获得高分，但生成内容对人类无益甚至有害。（4分）38.请比较算法公平性准则中的“人口统计学平等”与“机会均等”的定义及适用场景。答案：（1）人口统计学平等：定义：要求模型预测结果（如预测为正例的概率）在不同的人口群体（如不同性别或种族）中相等，即不依赖于敏感属性。数学表示为P=适用场景：适用于缺乏真实标签的历史背景审查，强调资源配置的绝对比例平衡，如招聘初筛、广告投放等无明确真实标签的场景。（3分）（2）机会均等：定义：要求在真实标签为正例的样本中，模型预测为正例的概率在不同群体中相等，即等化假阳性率。数学表示为P=适用场景：适用于存在明确且可靠的真实标签的场景，强调在有能力偿还债务的人群中，不应因种族等属性而拒绝放贷。保证“不错杀好人”，如信贷评估、司法判决等。（3分）（3）两者冲突：两者在现实中通常不可兼得（除非模型达到完美预测或群体基础率完全相同），在实际应用中需根据具体场景权衡选择。（2分）39.在AI伦理框架中，“透明性”与“隐私保护”经常产生冲突。请解释这种冲突的表现，并提出一种能够平衡两者的技术解决路径。答案：（1）冲突表现：透明性要求AI系统公开其训练数据的来源、特征分布以及决策逻辑，以便进行审计与追责；而隐私保护则要求最小化对个人数据的暴露，防止通过模型输出反推训练集中的敏感信息。例如，为了解释某个医疗AI的决策，可能需要展示包含特定患者特征的训练样本，这直接违反了患者隐私。（4分）（2）平衡两者的技术解决路径：①联邦学习与差分隐私结合：在联邦学习框架下，各方数据不出本地，保护了数据隐私；同时在模型梯度更新过程中加入差分隐私噪声，防止梯度反演攻击，在实现全局模型训练（透明性的一种形式）的同时保护个体隐私。②可解释性技术（如SHAP）：仅在局部解释层面生成特征贡献度，而无需暴露具体训练数据记录。③合成数据生成：使用GAN或扩散模型生成与原始数据分布相似但不包含任何真实个体信息的合成数据集，以供透明性审计和模型验证使用。（4分，答出任意两点即可）40.什么是AI系统中的“代理问题”？请举例说明在推荐系统设计中代理问题如何导致伦理风险。答案：（1）代理问题定义：指在设计AI系统时，由于人类真实的社会目标或伦理原则难以被直接量化优化，开发者往往用易于测量的“代理指标”代替真正的目标。AI系统在优化代理指标时，可能产生与人类真实目标相违背的非预期行为。（3分）（2）推荐系统中的例子：①真实目标：为用户提供有价值、高质量的信息，提升用户的长期福祉和知识水平。②代理指标：点击率、用户停留时间、互动量。因为这些指标易于测量且直接与商业利润挂钩。（2分）③导致的伦理风险：推荐模型为了最大化代理指标，倾向于推送sensationalism（煽情）、极端化或让人上瘾的内容（如短视频平台的“奶头乐”内容）。这导致用户陷入“信息茧房”与“过滤气泡”，接触多元观点的能力下降，甚至引发青少年心理健康问题、政治极化等严重社会伦理风险，完全背离了提升用户长期福祉的真实目标。（3分）五、应用与分析题（本大题共3小题，第41题12分，第42题14分，第43题14分，共40分）41.算法公平性计算与分析题（12分）某银行使用机器学习模型进行贷款审批。已知历史数据中，A群体（优势群体）和B群体（弱势群体）的样本分布及模型预测结果的混淆矩阵如下：群体真实正例(应批准,Y=1)真实负例(应拒绝,Y=0)A群体(总数1000)预测为正例($\hat{Y}=1$):500预测为正例($\hat{Y}=1$):50预测为负例($\hat{Y}=0$):100预测为负例($\hat{Y}=0$):350B群体(总数800)预测为正例($\hat{Y}=1$):200预测为正例($\hat{Y}=1$):100预测为负例($\hat{Y}=0$):100预测为负例($\hat{Y}=0$):400注：表格中数据为实际发生的频数。（1）计算A群体和B群体的假阳性率（FPR）、假阴性率（FNR）以及预测正例率（DemographicParity,P=（2）根据计算结果，分析该模型在FPR和FNR上是否满足“机会均等”准则？是否满足“人口统计学平等”准则？（4分）（3）若从伦理审查角度，要求在不改变模型预测结果的前提下，通过调整群体通过率的阈值来满足人口统计学平等，简述操作思路及其可能带来的负面后果。（2分）答案：（1）计算各指标：由混淆矩阵可知，对于A群体：真实负例总数T=50+假阳性率FP假阴性率F预测正例率P对于B群体：真实负例总数T=100+假阳性率F假阴性率F预测正例率P=（2）准则分析：机会均等要求FP=FP且FN人口统计学平等要求P=1|（3）操作思路及负面后果：操作思路：由于A群体的预测正例率(0.55)高于B群体(0.375)，可以通过降低B群体被判定为正例的阈值（即增加B群体贷款批准率），或提高A群体的阈值，使得两者的预测正例率趋于相等。（1分）负面后果：强行调整阈值会导致在B群体中出现更多的“假阳性”（即不具备还款能力的人获得了贷款，增加银行坏账风险），而在A群体中出现更多的“假阴性”（具备还款能力的人被拒绝），损害了部分A群体个体的正当利益，即以牺牲模型整体准确性和经济效率为代价换取表面上的群体公平。（1分）42.综合应用与分析题：自动驾驶的伦理决策与责任归属（14分）假设一辆L4级别自动驾驶汽车在狭窄的乡村道路上正常行驶，车速为60km/h。突然，前方一辆违规停靠的货车车门意外打开，且同时有一辆自行车从货车盲区快速窜出。自动驾驶系统面临以下选择：选择A：紧急变道至对向车道，但有与对向驶来的摩托车迎面相撞的30%概率。选择B：全力刹车，但由于距离过短，有80%概率直接追尾货车，导致车内乘客受重伤，但不会伤及车外人员。系统最终由于算法逻辑设定中“最小化人身伤亡总数”的功利主义原则，选择了A，导致摩托车驾驶员当场死亡。事后调查发现，由于算法在紧急情况下计算量过大，系统控制延迟了50毫秒，这也是导致事故恶化的重要因素。请结合上述材料，回答以下问题：（1）分析该自动驾驶系统内置的“最小化人身伤亡总数”算法（基于功利主义的伦理算法）在道德哲学上的合理性与面临的争议。（5分）（2）若你是伦理审查专家，在评估该系统时，是否应该允许公开采用“基于风险概率的功利主义算法”？请从透明性与社会接受度角度论述。（4分）（3）对于摩托车驾驶员的死亡，请根据现行的自动驾驶责任归属理论，分析可能涉及的责任方，并简述各自的责任依据。（5分）答案：（1）合理性与争议：合理性：功利主义追求“最大多数人的最大利益”，在不可逆的碰撞事故中，以伤亡总数最小化为目标，从宏观社会效用来看是理性的，能够最大程度降低整体生命损失，符合紧急避险时的利益权衡逻辑。（2分）争议：①生命权不可剥夺与量化：康德义务论认为人是目的而非手段，系统选择A实际上是将摩托车驾驶员作为“牺牲品”以换取可能的其他人的安全，侵犯了无辜者的生命权，将生命价值量化为概率是不道德的。②风险分配不公：功利主义算法可能倾向于牺牲车外弱势群体（如摩托车手）以保护车内乘客（因车内人数可能更多或安全权重更高），导致风险转移给并未参与购车决策的外部行人。（3分）（2）透明性与社会接受度分析：作为伦理审查专家，不应允许公开采用并宣传该类纯功利主义算法。①透明性困境：如果公开算法逻辑（牺牲少数拯救多数），消费者可能会因为恐惧自己成为“被牺牲的少数”而拒绝购买该品牌汽车，导致企业出于商业利益隐瞒算法逻辑，这违反了AI系统的透明性与知情同意原则。②社会接受度与信任：社会公众对AI的信任建立在其行为可预测且符合人类基本道德直觉的基础上。如果公众知道AI会基于概率主动选择撞击某类无辜者，将引发极大的恐慌和道德谴责，严重破坏人机信任关系。在伦理指南中，应更倾向于采用“保护弱者”或“系统内部责任优先”（如轮胎爆胎优先撞击护栏而非行人）等更符合直觉的规则，而非纯数学计算的功利主义。（4分）（3）责任归属分析：①自动驾驶系统研发与制造企业（产品责任）：由于系统被预设了功利主义算法逻辑，且存在50毫秒的控制延迟（软硬件性能缺陷），导致系统做出了导致死亡的决策。企业应当承担设计缺陷与产品责任。（2分）②违规停靠的货车车主（交通事故责任）：货车违规停靠且意外开门是引发紧急避险场景的直接原因，存在过错，应承担相应的民事或刑事责任。（2分）③自动驾驶车辆所有人/乘客：在L4级别下，车辆由系统控制，乘客无驾驶义务，通常不承担责任，除非乘客手动干预了系统。（1分）43.综合应用与政策设计题：生成式AI的治理框架（14分）某大型科技公司计划推出一款具备文本、图像和代码生成能力的通用人工智能大模型平台。作为该公司的AI伦理首席官，你需要为该平台设计一套完整的伦理治理与合规框架，以应对生成式AI带来的版权侵权、深度