2026年人工智能伦理规范试题及答案

2026年人工智能伦理规范试题及答案一、单项选择题（本大题共20小题，每小题1.5分，共30分。在每小题给出的四个选项中，只有一项是符合题目要求的）1.某科技公司开发了一套基于面部特征分析的简历自动筛选系统。在运行一年后，人力资源部门发现该系统系统性地拒绝某一种族背景的候选人，即使他们的简历资质与其他种族背景的候选人完全相同。从人工智能伦理规范的角度来看，该现象主要违反了以下哪项基本原则？A.透明性原则B.公平性原则C.隐私保护原则D.可持续发展原则2.在欧盟《人工智能法案》的风险分级框架中，针对“在公共场所为了执法目的进行实时远程生物特征识别”的人工智能系统，被归类为哪种风险等级？A.最低风险B.有限风险C.高风险D.不可接受风险3.某医疗AI诊断模型在训练阶段使用了大量未脱敏的患者电子病历数据，且未明确告知患者数据将被用于商业模型训练。该行为主要侵犯了患者的哪种权利？A.知情同意权B.财产分配权C.模型解释权D.算法复议权4.在算法公平性度量中，若一个分类模型在不同敏感属性群体（如性别、种族）之间具有相同的真阳性率，则该模型满足以下哪种公平性准则？A.人口统计学平价B.均等机会C.校准平价D.预测一致性5.某自动驾驶汽车在不可避免的碰撞情境中，其内置的伦理决策算法选择牺牲车内乘客以拯救前方五名违规横穿马路的行人。该算法逻辑最接近于哪种伦理学理论？A.功利主义B.义务论C.美德伦理学D.契约论6.生成式人工智能大语言模型在输出内容时，生成了一段看似合理但完全不符合客观事实的医学建议。这种现象在技术术语中被称为？A.数据投毒B.对抗样本攻击C.幻觉D.模型过拟合7.差分隐私是人工智能隐私保护中的核心技术之一。在数学定义上，若算法M满足ϵ-差分隐私，对于仅相差一条记录的任意两个数据集D和，以及对于所有可能的输出集合S，需要满足以下哪个不等式？A.PB.PC.PD.P8.某金融机构使用AI信用评分模型拒绝了一名用户的贷款申请。根据欧盟《通用数据保护条例》（GDPR）第22条关于自动化个人决策的规定，该用户主要享有什么权利？A.要求删除所有训练数据的权利B.获得人类干预的权利C.要求公开模型源代码的权利D.要求获得模型参数梯度的权利9.在人工智能系统的生命周期中，下列哪项措施最能有效预防“数据投毒”攻击？A.增加神经网络的层数B.提高学习率C.对训练数据进行严格的来源验证与异常值清洗D.使用更大的预训练模型10.“可解释人工智能”（XAI）致力于解决传统深度学习模型普遍存在的“黑箱”问题。以下哪种技术属于事后解释方法？A.剪枝B.LIME（局部可解释模型-不可知解释）C.量化D.知识蒸馏11.某图像生成模型未经授权使用了某位画家的受版权保护的作品进行训练，并能生成与其风格高度相似的商用插图。该行为引发的伦理与法律争议主要在于？A.算法复杂度过高B.模型碳排放量大C.知识产权侵犯与创意劳动剥削D.违反了摩尔定律12.某国政府计划部署一套基于AI的预测性警务系统，以预测个体未来犯罪的可能性。针对该系统的伦理审查，以下哪项是必须叫停的最核心伦理理由？A.硬件采购成本过高B.严重侵犯个人隐私且违背无罪推定原则C.模型推理速度不足D.需要大量警力进行系统维护13.在人工智能伦理规范中，“人类自主性”原则要求AI系统的设计应当做到？A.完全替代人类进行所有重复性劳动B.增强人类能力并支持人类决策，而非削弱人类控制权C.自主设定运行目标D.隐瞒其AI身份以通过图灵测试14.以下哪种机器学习范式通过将模型训练过程保留在用户本地设备上，仅上传模型梯度更新至中央服务器，从而在架构层面增强隐私保护？A.集中式学习B.联邦学习C.迁移学习D.强化学习15.针对生成式AI深度伪造技术带来的欺诈与名誉损害风险，以下哪项技术手段被广泛用于检测伪造内容？A.对抗生成网络B.数字水印与内容溯源C.随机森林分类D.支持向量机16.在进行AI系统伦理影响评估时，若某系统的决策对个人生活产生重大影响（如就业、教育、福利分配），根据伦理规范，该系统必须具备何种特征？A.算法不可见性B.人类监督与可申诉机制C.全自动化无干预运行D.数据永久存储17.某企业在部署客服AI时，未告知对话用户其交流对象是人工智能而非真人。该行为违反了透明性原则中的哪项具体要求？A.算法开源要求B.身份披露义务C.数据脱敏义务D.收费透明义务18.深度强化学习在复杂环境决策中经常面临“奖励投机”问题，即AI找到了某种获取高奖励但违背设计初衷的捷径。从伦理角度看，这反映了？A.价值对齐难题B.数据隐私泄露C.算力资源枯竭D.网络拓扑缺陷19.在全球人工智能治理框架中，主张对AI发展设定不可逾越的“红线”（如禁止开发缺乏人类控制的致命性自主武器系统），这一主张的理论基础是？A.技术决定论B.风险预防原则C.功利最大化原则D.经济利益驱动论20.某AI招聘系统由于训练数据中历史高管多为男性，导致模型在筛选简历时对女性候选人产生系统性打分降低。消除这种偏见的技术方法不包括以下哪项？A.对训练数据进行重采样以平衡性别比例B.在损失函数中加入公平性约束惩罚项C.删除所有包含性别信息的字段，并移除与性别高度相关的代理变量D.提高模型的训练轮数以提升准确率二、多项选择题（本大题共10小题，每小题3分，共30分。在每小题给出的四个选项中，至少有两个选项是符合题目要求的，多选、漏选或错选均不得分）21.人工智能伦理中的“公平性”是一个多维度的概念。以下哪些属于算法公平性的典型分类？A.群体公平B.个体公平C.逆序公平D.过程公平22.人工智能全生命周期的数据治理应当遵循隐私保护原则。以下哪些技术手段可以直接用于提升数据隐私安全？A.同态加密B.K-匿名化C.梯度下降D.安全多方计算23.针对通用人工智能（AGI）可能带来的生存性风险，全球伦理学术界提出了多种价值对齐方案。以下哪些属于价值对齐的技术或理论路径？A.基于人类反馈的强化学习（RLHF）B.逆向强化学习C.可扩展监督D.随机森林特征重要性24.人工智能模型的“可解释性”根据解释阶段的不同，可分为内在可解释性和事后可解释性。以下哪些属于内在可解释的模型？A.深度神经网络B.线性回归模型C.决策树D.循环神经网络25.在进行人工智能伦理影响评估时，评估范围应当覆盖以下哪些维度？A.基本人权与社会基本自由的影响B.社会与环境可持续发展的影响C.数据治理与隐私保护机制D.模型训练使用的编程语言类型26.关于生成式人工智能大模型的责任归属问题，当AI生成内容造成侵权时，可能需要承担连带法律责任的主体包括？A.AI系统的开发者与部署者B.提供恶意诱导提示词的最终用户C.AI系统运行所消耗电力的供应商D.提供训练数据集的第三方数据提供商27.深度学习模型容易受到对抗样本的攻击。攻击者通过在输入数据中添加人类无法察觉的微小扰动，导致模型输出错误结果。防范此类攻击的常见策略包括？A.对抗训练B.梯度掩码C.特征压缩D.放弃使用神经网络28.联邦学习作为隐私计算的重要范式，具有以下哪些显著特征？A.数据不出本地B.完全消除模型偏见C.参与方共同建模D.从根本上抵御所有后门攻击29.在医疗AI的应用场景中，以下哪些情形可能违反医学伦理中的“不伤害”原则？A.AI影像诊断系统因过拟合导致大量假阳性，造成患者过度检查与心理恐慌B.医生完全依赖AI诊断结果，丧失了独立判断能力，导致误诊C.医院使用AI系统优化病房排班表，减少医护人员工作负荷D.AI系统在未经同意的情况下将患者基因数据上传至云端共享30.根据人工智能技术对环境的影响，实现“绿色AI”的伦理要求及实践路径包括？A.开发更高效的模型架构以降低计算能耗B.使用可再生能源为大型数据中心供电C.在模型评估指标中加入碳排放成本考量D.强制所有AI模型必须在边缘设备上运行三、填空题（本大题共10小题，每小题1分，共10分）31.人工智能伦理规范的四大核心基本原则通常被概括为：公平性、不伤害与善行、自主性以及______。32.在GDPR中，赋予数据主体在纯自动化决策对其产生重大影响时，要求人工干预并表达自己观点的权利被称为______权。33.衡量算法群体公平性的指标Di34.生成式AI模型在训练过程中，若通过在数据集中故意插入错误标注或恶意样本来破坏模型性能，这种攻击方式被称为______。35.解决“黑箱模型”可解释性问题的一种重要事后分析方法SHAP，是基于______值理论来分配各个特征对预测结果的贡献度。36.欧盟《人工智能法案》采用基于风险的分类管理方法，将AI系统分为不可接受风险、高风险、有限风险和______风险四个等级。37.在数据隐私保护技术中，______加密允许直接在密文上进行计算，计算结果解密后与明文计算结果一致，从而实现“数据可用不可见”。38.知名思想实验“电车难题”在自动驾驶伦理中的变体，通常被称为自动驾驶的______问题。39.大语言模型通过学习人类标注的偏好排序来优化模型输出，使其符合人类价值观的技术路径简称为______。40.联邦学习系统中，部分恶意参与者通过上传被篡改的模型梯度来毒化全局模型，这种攻击被称为______攻击。四、判断题（本大题共10小题，每小题1分，共10分。正确的打“√”，错误的打“×”）41.人工智能模型只要在训练集和测试集上的准确率达到99%，就可以直接部署于高风险领域（如司法判决）而无需进行额外的伦理影响评估。42.在算法设计中，删除数据集中的“种族”或“性别”等敏感属性字段，就足以完全消除模型的偏见与歧视。43.可解释人工智能（XAI）的最终目标是让非专业用户能够完全理解深度神经网络中每一个参数的数学含义。44.根据差分隐私的定义，隐私预算ϵ的值越小，表示隐私保护强度越高，但同时数据效用通常会降低。45.联邦学习架构中，由于用户的原始数据从未离开本地设备，因此理论上绝对不存在隐私泄露的可能，无需引入其他加密机制。46.功利主义伦理观主张“最大多数人的最大幸福”，因此在AI资源分配中，只要总体收益最大化，即使牺牲少数群体的利益也是绝对合理的，不违反伦理规范。47.自动驾驶汽车在不可避免的碰撞中，其决策算法的设计本质上不仅是技术问题，更是深刻的伦理价值选择问题。48.合成数据可以通过生成模拟数据来替代真实敏感数据，既能用于模型训练，又能有效降低隐私泄露风险，因此使用合成数据完全不需要考虑任何伦理约束。49.在AI全生命周期管理中，伦理审查应当是一个持续的动态过程，贯穿于需求分析、数据收集、模型训练、部署及后期运维的各个阶段，而非一次性的盖章通过。50.人工智能伦理规范仅仅是对技术开发者的道德要求，对于AI系统的部署方和最终使用者而言，不需要承担相应的伦理与法律责任。五、简答题（本大题共4小题，每小题5分，共20分）51.简述人工智能伦理中的“透明性原则”的内涵，并说明在生成式大语言模型（LLM）中实现透明性面临的主要挑战。52.在算法公平性领域，请分别解释“群体公平”与“个体公平”的概念，并简要说明在实际机器学习任务中这两者为何往往是不可兼容的（即“不可能定理”）。53.简要阐述在自动驾驶技术的伦理困境中，“紧急避险”原则的应用局限性。54.什么是“数据投毒”攻击？请结合企业AI供应链安全，简述防范数据投毒攻击的伦理治理策略。六、综合应用与计算分析题（本大题共1小题，共10分）55.某商业银行部署了一套基于机器学习的信用贷款自动审批AI系统。该系统通过评估申请人的历史财务数据来决定是否批准贷款。为了进行算法公平性审查，合规部门提取了过去一个月的数据，按敏感属性“性别”分为两组（设男性为群体A，女性为群体B）。具体的模型预测与真实违约情况混淆矩阵如下：群体A（男性申请人，共1000人）：真实未违约（Y=0），模型批准贷款（=0真实未违约（Y=0），模型拒绝贷款（=1真实违约（Y=1），模型批准贷款（=0真实违约（Y=1），模型拒绝贷款（=1群体B（女性申请人，共1000人）：真实未违约（Y=0），模型批准贷款（=0真实未违约（Y=0），模型拒绝贷款（=1真实违约（Y=1），模型批准贷款（=0真实违约（Y=1），模型拒绝贷款（=1请根据上述数据完成以下分析与计算（保留两位小数）：（1）分别计算群体A和群体B的模型批准率（即预测为未违约并批准贷款的比例），并计算两者之间的批准率差。该结果是否满足“人口统计学平价”准则？（4分）（2）分别计算群体A和群体B的真阳性率（TPR，即在真实违约的人群中，模型正确拒绝贷款的比例）。计算两者的真阳性率差。该结果是否满足“均等机会”准则？（4分）（3）结合上述计算结果，从伦理治理的角度，提出两项缓解该模型潜在歧视的改进建议。（2分）===参考答案及解析===一、单项选择题1.【答案】B【解析】系统性地拒绝某一种族背景的候选人，即使资质相同，属于典型的基于敏感属性的歧视行为，直接违反了人工智能伦理的“公平性原则”。透明性是指决策过程可解释，隐私保护涉及数据滥用，可持续发展涉及环境与社会长远影响。2.【答案】D【解析】根据欧盟《人工智能法案》，在公共场所为了执法目的进行实时远程生物特征识别系统被视为对基本权利和自由构成不可接受的风险，被明确归类为“不可接受风险”并被禁止使用（除少数特定的国家安全等例外情况）。3.【答案】A【解析】未经患者同意且未脱敏使用其病历数据用于商业模型训练，侵犯了数据主体的“知情同意权”。GDPR等隐私法规要求数据处理必须基于数据主体的明确同意。4.【答案】B【解析】均等机会要求模型在不同敏感属性群体之间具有相同的真阳性率（TPR）和假阳性率（在某些严格定义中）。人口统计学平价要求相同的预测正向率，校准平价要求预测概率与实际发生率一致。5.【答案】A【解析】牺牲少数（车内乘客）拯救多数（五名行人）的计算基于结果的最优最大化，即整体利益最大化，这是典型的功利主义伦理学理论。6.【答案】C【解析】生成式AI模型生成看似合理但事实上错误或无意义的内容，这种现象在专业术语中被称为“幻觉”。数据投毒是指训练数据被污染，对抗样本是指输入被加入微小扰动。7.【答案】A【解析】差分隐私的标准数学定义要求算法在相邻数据集上的输出概率分布受到限制，公式为Pr8.【答案】B【解析】GDPR第22条规定，数据主体有权不受仅基于自动化处理（包括画像）且对其产生法律或类似重大影响的决策约束。在此情况下，数据主体有权获得人工干预、表达自己的观点并对决策提出异议。9.【答案】C【解析】数据投毒攻击是通过在训练数据集中注入恶意样本来破坏模型。最有效的预防措施是在数据输入模型前，对数据的来源进行严格审核，并采用统计学方法清洗异常值。增加层数或学习率无法解决数据源污染问题。10.【答案】B【解析】LIME（局部可解释模型-不可知解释）是一种典型的事后解释技术，通过在局部拟合一个简单的可解释模型来解释复杂黑箱模型的单次预测。剪枝、量化和知识蒸馏是模型压缩技术。11.【答案】C【解析】未经授权使用受版权保护的画作进行训练并生成相似风格作品，引发了严重的知识产权侵犯与创意劳动剥削争议。这涉及版权法中的合理使用边界以及创作者的经济利益保护。12.【答案】B【解析】预测性警务系统试图预测个体未来的犯罪可能性，这不仅严重侵犯个人隐私，还违背了刑法中的“无罪推定”原则，且容易加剧针对特定少数群体的系统性歧视。13.【答案】B【解析】人类自主性原则强调AI系统应当作为人类能力的增强工具，其设计和运行应支持人类的自主决策与控制权，而非削弱、取代或误导人类对重大决策的控制。14.【答案】B【解析】联邦学习的核心思想是“数据不动模型动”，模型训练在用户本地设备上进行，仅将模型参数的梯度更新上传至中央服务器进行聚合，从而在架构层面增强了隐私保护。15.【答案】B【解析】数字水印与内容溯源技术（如C2PA标准）被广泛应用于多媒体内容中，以标记内容的来源和生成方式，从而帮助检测和防范深度伪造带来的风险。16.【答案】B【解析】对个人生活产生重大影响的AI系统属于高风险系统，必须具备人类监督机制与可申诉机制，以防止自动化决策带来不可逆的损害。17.【答案】B【解析】透明性原则要求在人与AI交互时，必须履行身份披露义务，即明确告知用户其正在与人工智能系统而非真人进行交流。18.【答案】A【解析】“奖励投机”表明AI模型优化了设定的奖励函数，但其实际行为违背了人类的真实意图与价值观。这反映了技术实现与人类价值之间的“价值对齐难题”。19.【答案】B【解析】风险预防原则主张在面临可能造成严重不可逆损害的风险时，即使缺乏确凿的科学因果证据，也应采取预防措施或设定红线以防止最坏情况发生。20.【答案】D【解析】提高训练轮数只会让模型更好地拟合带有偏见的数据，从而可能进一步加剧偏见。重采样、加入公平性约束、移除敏感属性及代理变量是消除偏见的常规技术手段。二、多项选择题21.【答案】A,B,D【解析】算法公平性主要分为群体公平、个体公平和过程公平（有时也包含逆序公平的某些特定定义，但通常分类为前三者）。群体公平关注群体统计指标一致；个体公平关注相似个体得到相似预测；过程公平关注决策机制的合理性。22.【答案】A,B,D【解析】同态加密允许在密文上计算，K-匿名化通过泛化隐藏个体特征，安全多方计算支持多方联合计算而不泄露各自输入，这三种都是隐私计算与数据治理的核心技术。梯度下降是优化算法，与隐私保护无直接关系。23.【答案】A,B,C【解析】RLHF通过人类反馈对齐价值观；逆向强化学习通过观察人类行为推断奖励函数；可扩展监督旨在解决人类评估复杂AI输出能力不足的对齐问题。随机森林是传统机器学习算法，不属于价值对齐路径。24.【答案】B,C【解析】内在可解释模型是指其结构本身具有可解释性，如线性回归的权重和决策树的分支路径。深度神经网络和循环神经网络属于黑箱模型，需要事后解释方法。25.【答案】A,B,C【解析】AI伦理评估主要关注人权、社会环境、数据治理和系统透明度等方面。模型使用的编程语言（如Python或C++）属于纯技术实现细节，不属于伦理评估的核心维度。26.【答案】A,B,D【解析】在AI生成内容侵权链条中，系统开发者、恶意诱导的使用者以及提供侵权数据的数据商均可能承担连带责任。电力供应商仅提供基础能源服务，不参与内容生产，通常不需承担侵权责任。27.【答案】A,B,C【解析】对抗训练通过在训练中加入对抗样本提升鲁棒性；梯度掩码隐藏模型梯度信息增加攻击难度；特征压缩减少输入特征空间以消除微小扰动。放弃使用神经网络是不切实际的极端做法，不属于防御策略。28.【答案】A,C【解析】联邦学习的核心特征是“数据不出本地”和“参与方共同建模”。它不能完全消除模型偏见（本地数据本身可能有偏），也无法从根本上抵御所有后门攻击（仍需结合差分隐私、拜占庭容错等机制）。29.【答案】A,B,D【解析】A项造成患者心理与生理的过度干预伤害；B项导致医生丧失独立判断引发误诊，违背了不伤害原则；D项泄露隐私严重损害患者权益。C项是优化排班，属于提升效率的正面应用，未违背不伤害原则。30.【答案】A,B,C【解析】绿色AI旨在降低能耗与碳排放。开发高效模型、使用可再生能源、加入碳排放评估指标都是合理路径。强制所有模型在边缘设备运行是不现实且可能降低模型效能的，不符合实际。三、填空题31.【答案】可解释性（或透明性）32.【答案】拒绝自动化决策（或获得人工干预）33.【答案】1（或1.0）34.【答案】数据投毒35.【答案】沙普利36.【答案】最小（或低）37.【答案】同态38.【答案】电车难题39.【答案】RLHF（或基于人类反馈的强化学习）40.【答案】拜占庭（或模型投毒）四、判断题41.【答案】×【解析】高准确率不能掩盖潜在的偏见和歧视。高风险领域的AI系统必须进行独立的伦理影响评估，以确保其公平性、透明度且不侵犯基本权利。42.【答案】×【解析】简单地删除敏感属性字段（即“色盲”策略）无法消除偏见，因为模型会通过其他代理变量（如邮编、购物习惯、姓名等）推断出敏感属性并继续产生歧视。43.【答案】×【解析】XAI的目标不在于让非专业用户理解底层数学的每一个参数，而在于以人类可理解的方式解释模型为何做出某一特定决策及其逻辑依据。44.【答案】√【解析】差分隐私中，ϵ越小，隐私保护越强，但引入的噪声相对越大，导致数据统计效用和模型准确率降低。隐私与效用之间存在固有的权衡。45.【答案】×【解析】虽然原始数据不离开本地，但联邦学习仍面临梯度反演攻击等隐私风险。攻击者可以通过分析上传的梯度还原出本地训练数据，因此仍需结合差分隐私或同态加密。46.【答案】×【解析】AI伦理不仅强调整体利益，也强调对基本人权的绝对保护。即使为了多数人的利益，系统性牺牲少数群体的基本权利（如生命权、自由权）也是违反现代法治与伦理底线的。47.【答案】√【解析】自动驾驶在不可避免的碰撞中的决策逻辑（如何权衡乘客、行人、财产的优先级）本质上是对人类生命价值的道德判断，属于典型的伦理问题。48.【答案】×【解析】合成数据虽然降低了直接隐私泄露风险，但如果其生成过程学习了真实数据中的偏见，仍可能放大社会歧视。此外，合成数据若被用于生成深度伪造，同样面临伦理约束。49.【答案】√【解析】AI系统的运行环境是动态的，数据分布会随时间漂移。因此，伦理审查必须是持续、动态、迭代的监控过程，而非部署前的一次性静态审查。50.【答案】×【解析】AI伦理治理是全链条的责任体系。部署方需确保AI在其应用场景中被正确使用，最终用户也需遵守使用规范（如不得用于非法目的）。所有相关方均需承担相应的伦理与法律责任。五、简答题51.【答案要点】（1）内涵：透明性原则要求AI系统的决策过程、数据来源、运作机制以及潜在风险对利益相关者（特别是受影响的个人和监管机构）是可理解、可追溯和可审查的。它包括算法透明、数据透明和运行透明。在涉及人机交互时，透明性还要求明确披露AI身份。（2）面临挑战：①大语言模型参数量极大（百亿至万亿级），内部表示高度复杂，呈现出更强的“黑箱”特性，难以用人类可理解的概念进行事后解释。②模型的能力与行为具有“涌现性”，开发者在训练前难以完全预测其在所有提示词下的输出。③训练数据规模庞大且多源，难以保证数据来源的全链路追溯与版权透明，存在难以根除的偏见与幻觉风险。52.【答案要点】（1）群体公平：要求模型的统计性能指标（如预测阳性率、真阳性率等）在不同人口统计群体（如不同性别、种族）之间保持相等或接近。（2）个体公平：要求对于在非敏感属性上相似的两个个体，模型应给予相似的预测结果（即“同类同待”）。（3）不可兼容性：在基础率（即不同群体的真实违约率或患病率等）不同的情况下，数学上已被证明（Chouldechova定理和Kleinberg定理），除了极端情况，一个模型无法同时完美满足群体公平（如相同的预测阳性率）和完美的预测准确性（校准平价，与个体公平密切相关）。这是因为在不同群体间权衡不同类型的错误率必然导致某些公平指标的牺牲。53.【答案要点】（1）紧急避险原则通常要求行为人面临正在发生的危险，且出于不得已的情况采取损害较小的合法权益来保护较大的合法权益。（2）局限性在于：①自动驾驶碰撞往往在毫秒