【答案】《人工智能伦理与安全》(浙江大学)章节作业中国大学慕课答案

第一讲人工智能伦理与安全概述第一讲单元测验1.单选题：联合国教科文组织发布的全球首个AI伦理框架文件是？

选项：

A、《人工智能法案》

B、《人工智能伦理建议书》

C、《人工智能原则》

D、《生成式人工智能服务管理暂行办法》

答案：【《人工智能伦理建议书》】2.单选题：中国《生成式人工智能服务管理暂行办法》于______年8月施行。

选项：

A、2021年

B、2022年

C、2023年

D、2024年

答案：【2023年】3.多选题：以下哪些选项是人工智能领域的代表性模型？

选项：

A、自编码器

B、多层感知机

C、逻辑回归

D、向量数据库

答案：【自编码器;多层感知机;逻辑回归】4.多选题：国务院实施《新一代人工智能发展规划》提出的“三步走”战略的目标年份分别是？

选项：

A、2020年

B、2025年

C、2030年

D、2035年

答案：【2020年;2025年;2030年】5.单选题：在机器学习的模型训练中，数据集通常可以分为训练集、验证集和测试集。

选项：

A、正确

B、错误

答案：【正确】第二讲人工智能伦理原则第二讲单元测验1.单选题：“伦理嵌入设计”的核心目标是？

选项：

A、提升模型性能

B、降低训练能耗

C、实现以人为本、可信赖的算法

D、扩大应用领域

答案：【实现以人为本、可信赖的算法】2.单选题：以下哪个涉及人工智能的“衍生风险”？

选项：

A、人工智能幻觉

B、算法歧视

C、深度伪造技术

D、模型训练能耗过高

答案：【算法歧视】3.单选题：相较于传统伦理原则，以下哪项是人工智能伦理原则中具有独特性的内容？

选项：

A、公正性

B、可解释性

C、不伤害

D、责任承担

答案：【可解释性】4.多选题：以下哪些是人工智能技术的“内生风险”：

选项：

A、深度伪造技术

B、算法歧视

C、人工智能幻觉

D、信息茧房

答案：【深度伪造技术;人工智能幻觉】5.单选题：人工智能幻觉是指系统生成完全正确但与用户需求无关的信息。

选项：

A、正确

B、错误

答案：【错误】第三讲人工智能价值观第三讲单元测验1.单选题：扩散模型是一种基于__________的生成模型。

选项：

A、序列建模

B、概率分布

C、判别学习

D、强化学习

答案：【概率分布】2.多选题：以下哪些因素会影响AI生成模型的价值观？

选项：

A、训练数据

B、标注者的主观判断

C、模型的硬件性能

D、优化算法

答案：【训练数据;标注者的主观判断】3.多选题：以下哪些技术是优化生成模型价值观的常见方法？

选项：

A、RLHF技术

B、SFT技术

C、PPO技术

D、GAN技术

答案：【RLHF技术;SFT技术;PPO技术】4.单选题：生成模型主要依赖于自监督学习，并不具备自身的价值观。

选项：

A、正确

B、错误

答案：【正确】5.单选题：生成模型的核心任务是通过学习数据的分布，并基于此生成与训练数据相似的全新样本。

选项：

A、正确

B、错误

答案：【正确】第四讲人工智能隐私保护第四讲单元测验1.单选题：模型反演攻击的白盒场景中，攻击者将问题转化为以下哪种问题？

选项：

A、分类问题

B、优化问题

C、聚类问题

D、回归问题

答案：【优化问题】2.单选题：GoogleDeepMind研究发现，通过哪种简单方法能以约200美元成本从ChatGPT泄露训练数据？

选项：

A、让模型重复同一词语

B、输入随机乱码

C、询问复杂数学问题

D、发送恶意代码

答案：【让模型重复同一词语】3.多选题：关于大语言模型的数据提取攻击，以下哪些说法正确？

选项：

A、仅未对齐模型存在数据泄露风险

B、攻击者可通过查询模型高效提取训练数据

C、安全对齐技术能完全消除模型记忆

D、开源和闭源模型均可能被攻击

答案：【攻击者可通过查询模型高效提取训练数据;开源和闭源模型均可能被攻击】4.多选题：以下哪些攻击方法属于大语言模型隐私泄露的主要类型？

选项：

A、成员推断攻击

B、模型反演攻击

C、拒绝服务攻击

D、属性推断攻击

答案：【成员推断攻击;模型反演攻击;属性推断攻击】5.单选题：成员推断攻击中，攻击者需要直接访问模型的内部参数才能实施攻击。

选项：

A、正确

B、错误

答案：【错误】第五讲人工智能公平性第五讲单元测验1.单选题：以下哪种方法属于“预处理阶段”提升公平性的技术？

选项：

A、引入对抗训练

B、合成成对数据进行数据增强

C、添加公平性约束项

D、调整模型输出结果

答案：【合成成对数据进行数据增强】2.单选题：人工智能的技术公平性主要强调什么？

选项：

A、算法对不同群体的预测结果在统计上无差异

B、算法必须对所有群体输出完全相同的结果

C、算法优先满足多数群体的需求

D、忽略敏感属性（如性别、种族）的存在

答案：【算法对不同群体的预测结果在统计上无差异】3.多选题：关于人工智能的伦理公平性，以下哪些描述正确？

选项：

A、仅要求统计指标的平衡

B、需回应历史不公和社会权力结构

C、允许基于客观能力的差异化对待

D、完全等同于平等主义

答案：【需回应历史不公和社会权力结构;允许基于客观能力的差异化对待】4.多选题：在模型训练阶段，提升公平性的方法包括哪些？

选项：

A、平衡数据集

B、引入公平性约束项

C、对抗训练

D、第三方审计

答案：【引入公平性约束项;对抗训练】5.单选题：后处理阶段通过修改模型内部结构来消除偏见。

选项：

A、正确

B、错误

答案：【错误】第六讲人工智能伦理道德第六讲单元测验1.单选题：苏格拉底式助手的核心功能是？

选项：

A、替代人类进行道德决策

B、通过提问引导用户反思道德观念

C、生成标准化伦理准则

D、提升道德决策的效率

答案：【通过提问引导用户反思道德观念】2.多选题：以下哪些是道德技术？

选项：

A、道路减速带

B、社交机器人

C、自主武器系统

D、智能医疗资源分配算法

答案：【道路减速带;社交机器人;智能医疗资源分配算法】3.多选题：道德责任归属需考虑的因素包括

选项：

A、技术可控性

B、用户认知能力

C、用户文化背景

D、算法复杂度

答案：【技术可控性;用户认知能力;用户文化背景】4.多选题：人工智能技术辅助道德决策的主要挑战有？

选项：

A、道德多样性削弱

B、道德责任稀释

C、技术成本过高

D、道德行为自动化

答案：【道德多样性削弱;道德责任稀释;道德行为自动化】5.单选题：亚里士多德认为，承担道德责任需同时满足控制条件和认知条件。

选项：

A、正确

B、错误

答案：【正确】第七讲人工智能安全问题概述第七讲单元测验1.单选题：模型窃取攻击的主要目的是：

选项：

A、破坏模型的完整性

B、获取模型的机密信息

C、修改模型的决策过程

D、增加模型的鲁棒性

答案：【获取模型的机密信息】2.单选题：人工智能安全的完整性要求确保模型的学习和预测过程不受以下哪两种因素的影响？

选项：

A、恶意攻击，数据污染

B、数据备份，模型更新

C、环境因素，硬件故障

D、用户输入，算法优化

答案：【恶意攻击，数据污染】3.单选题：以下哪一项是人工智能安全中鲁棒性的核心要求？

选项：

A、确保模型不会泄露数据

B、模型能够在恶劣环境下稳定运行

C、防止数据丢失

D、保证训练数据的完整性

答案：【模型能够在恶劣环境下稳定运行】4.多选题：以下哪些情况会导致对抗样本攻击的发生？

选项：

A、输入数据的微小修改

B、数据的严重失真

C、模型参数的大幅度变化

D、输入数据不符合模型的训练数据分布

答案：【输入数据的微小修改;输入数据不符合模型的训练数据分布】5.单选题：模型窃取攻击通常通过推测模型的行为来复制或篡改其功能。

选项：

A、正确

B、错误

答案：【正确】第八讲人工智能对抗样本攻击与防御第八讲单元测验1.单选题：关于防御蒸馏这一对抗样本纠正方法，以下哪个选项的说法是正确的？

选项：

A、防御蒸馏的主要目的是将教师网络的知识有效地迁移到学生网络

B、教师网络与学生网络的结构相同

C、防御蒸馏可以促进深度学习模型在资源受限的设备上完成部署

D、防御蒸馏能够实现深度学习模型计算复杂度的降低

答案：【教师网络与学生网络的结构相同】2.单选题：________是基于特征学习的对抗样本检测中常用的技术？

选项：

A、空间平滑

B、分布差异衡量

C、输入重构

D、对抗训练

答案：【空间平滑】3.多选题：________和________是对抗样本检测的具体目标？

选项：

A、检测出恶意对抗样本

B、提高模型鲁棒性

C、拒绝对对抗样本进行预测

D、将对抗样本视为正常样本进行预测

答案：【检测出恶意对抗样本;拒绝对对抗样本进行预测】4.多选题：以下哪些选项是本节中所阐述的基于经验的对抗样本纠正方法中的常用方法？

选项：

A、对抗训练

B、特征去噪

C、防御蒸馏

D、色深压缩

答案：【对抗训练;特征去噪;防御蒸馏】5.多选题：线性二分类器在信息安全领域有哪些应用场景？

选项：

A、恶意邮件分类

B、入侵检测

C、用户异常行为检测

D、恶意流量识别

答案：【恶意邮件分类;入侵检测;用户异常行为检测;恶意流量识别】第九讲人工智能数据投毒和后门攻击与防御第九讲单元测验1.单选题：在“标签翻转”投毒攻击中，攻击者主要通过什么方式破坏模型？

选项：

A、增加训练数据量

B、随机翻转训练数据的标签

C、删除部分训练样本

D、加密输入数据

答案：【随机翻转训练数据的标签】2.单选题：后门攻击中，触发器的功能是？

选项：

A、提升模型整体准确率

B、激活预设的异常输出

C、删除训练数据中的噪声

D、优化模型训练速度

答案：【激活预设的异常输出】3.单选题：白盒检测场景下，检测者可以访问以下哪项信息？

选项：

A、仅输入输出行为

B、模型内部参数和训练数据

C、模型训练日志

D、用户隐私数据

答案：【模型内部参数和训练数据】4.多选题：以下哪些是可能的触发器设计？

选项：

A、墨镜（人脸识别场景）

B、图像右下角的白色像素点

C、随机高斯噪声

D、交通标志上的黄色贴纸

答案：【墨镜（人脸识别场景）;图像右下角的白色像素点;交通标志上的黄色贴纸】5.单选题：后门攻击会导致模型对所有输入样本均表现异常。

选项：

A、正确

B、错误

答案：【错误】期末考试期末考试1.单选题：当人工智能辅助道德决策时，以下哪一种角色通过提问来引导用户进行深层次的道德反思？

选项：

A、人工道德能动者

B、苏格拉底式助手

C、人工道德顾问

D、自主学习系统

答案：【苏格拉底式助手】2.单选题：下列属于基于特征学习的对抗样本检测方法的是

选项：

A、输出分布差异检测

B、特征压缩

C、中间层输出检测

D、重构图像差异检测

答案：【特征压缩】3.单选题：模型窃取攻击中的“基于方程求解攻击”主要针对以下哪类模型？

选项：

A、复杂且参数量巨大的深度神经网络模型

B、训练数据极其庞大的生成式AI模型

C、一些传统的机器学习模型，例如支持向量机、逻辑回归等

D、用于强化学习的决策模型

答案：【一些传统的机器学习模型，例如支持向量机、逻辑回归等】4.单选题：以下哪种属于人工智能数据隐私层面的安全威胁？

选项：

A、对抗样本攻击

B、成员推断攻击

C、模型越狱攻击

D、后门攻击

答案：【成员推断攻击】5.单选题：基于模型参数的水印方法通过什么方式嵌入标识？

选项：

A、修改输入数据的标签

B、在权重矩阵中构建隐蔽编码

C、完全加密模型输出

D、限制API调用频率

答案：【在权重矩阵中构建隐蔽编码】6.单选题：DP-SGD算法的核心操作不包括以下哪一项？

选项：

A、限制单条数据对模型的影响

B、在训练过程中添加随机噪声

C、完全删除训练数据中的敏感字段

D、保证模型输出模糊化

答案：【完全删除训练数据中的敏感字段】7.单选题：人工智能伦理研究的核心关注点是什么？

选项：

A、追求AI技术的极致性能和效

B、制定一套在AI活动中需要遵循的价值理念和行为规范，以人为本

C、确保AI系统在所有应用场景中都能实现完全的自动化

D、仅关注AI对经济增长的推动作用

答案：【制定一套在AI活动中需要遵循的价值理念和行为规范，以人为本】8.单选题：自动驾驶系统面临电车难题时选择撞向戴头盔者，可能导致何种伦理矛盾？

选项：

A、降低事故死亡率

B、增强用户信任度

C、提升算法透明度

D、惩罚遵守规则者

答案：【惩罚遵守规则者】9.单选题：在技术层面提升人工智能公平性时，通过添加公平性约束到优化目标中的方法，属于哪个阶段的改进？

选项：

A、预处理阶段

B、模型训练阶段

C、后处理阶段

D、部署应用阶段

答案：【模型训练阶段】10.单选题：企业层面为提高人工智能公平性建立的三级审核机制不包括

选项：

A、数据审核

B、算法评测

C、政府监管

D、第三方审计

答案：【政府监管】11.单选题：欧盟《人工智能法案》要求高风险AI系统提交哪种类型的报告？

选项：

A、性能测试报告

B、公平性影响报告

C、用户满意度报告

D、能耗评估报告

答案：【公平性影响报告】12.单选题：在自动驾驶的“电车难题”中，系统需在极短时间内决策，这属于哪种角色？

选项：

A、人工道德顾问

B、苏格拉底式助手

C、人工道德能动者

D、道德仲裁者

答案：【人工道德能动者】13.单选题：“伦理洗涤”指的是？

选项：

A、企业通过技术手段消除伦理风险

B、机构表面承诺伦理规范但未实际落实

C、政府强制推行伦理审查

D、学术界对伦理问题的过度批判

答案：【机构表面承诺伦理规范但未实际落实】14.单选题：通过引入人类对模型输出的判断并进行反馈优化的生成模型技术叫做__________。

选项：

A、强化学习

B、无监督学习

C、RLHF技术（基于人类反馈的强化学习）

D、迁移学习

答案：【RLHF技术（基于人类反馈的强化学习）】15.单选题：在方程求解攻击中，攻击者通过查询目标模型的输入输出关系来推导出模型的哪些信息？

选项：

A、模型的训练数据

B、模型的功能和结构

C、模型的参数

D、模型的安全漏洞

答案：【模型的参数】16.单选题：数据清洗中“CutMix”方法的主要目的是？

选项：

A、完全删除中毒样本

B、通过混合图像片段稀释毒化数据影响

C、加密训练数据防止泄露

D、简化模型结构

答案：【通过混合图像片段稀释毒化数据影响】17.单选题：下列哪种攻击的主要目的是判断某个特定输入样本是否存在于目标模型的训练数据集中？

选项：

A、模型反演攻击

B、属性推断攻击

C、成员推断攻击

D、数据投毒攻击

答案：【成员推断攻击】18.单选题：人工智能难以承担道德责任的原因是？

选项：

A、缺乏行为控制能力

B、无法真正理解行为意义

C、计算速度过快

D、数据依赖性强

答案：【无法真正理解行为意义】19.单选题：成员推断攻击中，攻击者主要通过分析模型的什么特征来判断样本是否属于训练集？

选项：

A、计算速度

B、输出结果的分布差异

C、模型体积大小

D、训练时间长短

答案：【输出结果的分布差异】20.单选题：公共基金补偿机制的适用前提是？

选项：

A、事故无明确人为责任

B、事故由技术故障造成

C、事故后果严重

D、政府强制要求

答案：【事故无明确人为责任】21.单选题：“道德机器”实验显示，不同文化对自动驾驶决策的倾向？

选项：

A、完全一致

B、存在显著差异

C、仅与经济水平相关

D、与法律无关

答案：【存在显著差异】22.单选题：__________同时属于组成要素中的模型与生命周期中的执行阶段所面临的安全威胁？

选项：

A、成员推断攻击

B、数据投毒攻击

C、会话劫持

D、对抗样本攻击

答案：【对抗样本攻击】23.单选题：根据有关研究，训练一次GPT-3模型产生的碳排放量大约相当于多少个家庭一年的碳排放量？

选项：

A、13

B、130

C、1300

D、13000

答案：【130】24.单选题：下列哪项属于应对人工智能伦理难题的技术层面策略？

选项：

A、建立人工智能监控应急系统

B、建立全过程监管政策

C、研究公平性算法

D、加强企业伦理培训

答案：【研究公平性算法】25.单选题：美国亚马逊公司开发的简历筛选人工智能程序存在“性别歧视”，主要原因是

选项：

A、程序算法设计存在偏见

B、模型硬件设备故障

C、标注者主观判断影响

D、训练数据中男性简历占比过高

答案：【训练数据中男性简历占比过高】26.单选题：下列哪项最能体现模型窃取攻击对AI系统的机密性构成的威胁？

选项：

A、模型被篡改导致输出错误

B、攻击者训练出与目标模型功能相似的模型

C、模型在现实场景下无法适应新数据

D、模型因缺乏数据而表现不稳定

答案：【攻击者训练出与目标模型功能相似的模型】27.单选题：以下哪项不是《关于加强科技伦理治理的意见》提出的核心原则之一？

选项：

A、增进人类福祉

B、尊重生命权利

C、提高生产效率

D、合理控制风险

答案：【提高生产效率】28.单选题：下列属于群体角度下技术公平性范畴的是

选项：

A、个体公平

B、因果公平

C、群组公平

D、反事实公平

答案：【群组公平】29.单选题：下列哪种技术是通过引入人类对模型输出的判断来引导AI生成更符合伦理要求的内容？

选项：

A、监督微调（SFT）

B、近端策略优化（PPO）

C、基于人类反馈的强化学习（RLHF）

D、直接偏好优化（DPO）

答案：【基于人类反馈的强化学习（RLHF）】30.单选题：阿西莫夫机器人三定律中，优先级最高的原则是？

选项：

A、不得伤害人类

B、服从人类命令

C、保护自身安全

D、增进人类福祉

答案：【不得伤害人类】31.单选题：集成学习防御投毒攻击的关键步骤是？

选项：

A、训练单个强模型

B、通过子集合训练基础模型并投票

C、直接修改模型参数

D、逆向工程触发器

答案：【通过子集合训练基础模型并投票】32.单选题：攻击者通过在图像中添加微小扰动，误导人工智能模型预测出错，这种攻击属于

选项：

A、数据投毒攻击

B、模型反演攻击

C、对抗样本攻击

D、成员推断攻击

答案：【对抗样本攻击】33.单选题：对抗样本攻击中的“迁移性”指的是什么？

选项：

A、对抗样本可以在不同类型的硬件设备上进行攻击

B、同一个对抗样本能够在面对不同模型时均表现出对抗性，能够同时误导不同模型的分类结果

C、对抗样本可以在不同的地理位置进行攻击

D、对抗样本可以从图像领域迁移到语音领域进行攻击

答案：【同一个对抗样本能够在面对不同模型时均表现出对抗性，能够同时误导不同模型的分类结果】34.单选题：人工智能伦理难题的应对策略不包括以下哪个层面？

选项：

A、技术层面

B、企业层面

C、个人层面

D、法律层面

答案：【个人层面】35.单选题：对抗训练属于哪种对抗样本纠正方法？

选项：

A、基于理论的纠正方法

B、基于分布统计的纠正方法

C、基于经验的纠正方法

D、基于中间输出的纠正方法

答案：【基于经验的纠正方法】36.单选题：生成模型的工作方式主要有两种，一种是基于__________，另一种是基于__________。

选项：

A、序列建模，概率分布

B、数据增广，深度学习

C、强化学习，监督学习

D、生成对抗，迁移学习

答案：【序列建模，概率分布】37.单选题：美国马萨诸塞州医疗数据重新识别案例中，攻击者通过结合哪类信息成功识别出州长的医疗记录？

选项：

A、姓名与身份证号

B、出生日期、性别和邮编

C、电话号码与职业

D、血型与病史

答案：【出生日期、性别和邮编】38.单选题：下列哪个模型属于基于序列建模的生成模型？

选项：

A、GPT

B、扩散模型

C、支持向量机

D、多层感知机

答案：【GPT】39.单选题：下列哪些攻击属于破坏AI系统机密性的攻击？

选项：

A、模型窃取攻击

B、数据投毒攻击

C、对抗样本攻击

D、后门攻击

答案：【模型窃取攻击】40.单选题：以下哪项描述了“后门攻击”？

选项：

A、攻击者通过增加数据噪声误导模型

B、攻击者在模型中植入一个“隐性通道”，在特定触发条件下激活模型的恶意行为

C、攻击者通过改变训练数据集的标注来影响模型输出

D、攻击者通过模型窃取来获得模型的知识产权

答案：【攻击者在模型中植入一个“隐性通道”，在特定触发条件下激活模型的恶意行为】41.单选题：在数据投毒攻击中，攻击者通过向训练数据集加入以下哪种样本来操控AI模型的学习方向？

选项：

A、恶意

B、高质量

C、无标签

D、噪声

答案：【恶意】42.多选题：以数据、模型与运行环境三大组成要素为分类依据时，以下哪些选项是数据这一组成要素中所面临的人工智能技术安全问题？

选项：

A、成员推断攻击

B、模型反演攻击

C、对抗样本攻击

D、模型越狱攻击

答案：【成员推断攻击;模型反演攻击】43.多选题：以下哪些是我国2022年发布的《关于加强科技伦理治理的意见》提出的核心原则：

选项：

A、增进福祉

B、尊重生命

C、公平公正

D、控制风险

E、公开透明

答案：【增进福祉;尊重生命;公平公正;控制风险;公开透明】44.多选题：下列关于人工智能公平性的说法正确的有

选项：

A、技术公平强调算法对不同群体的预测结果无系统性偏差

B、伦理公平不仅要求统计均衡，还需回应社会权力结构等问题

C、公平性等于平等主义，不允许任何差异化对待

D、欧盟《人工智能法案》将高风险AI系统纳入强制合规审查

E、企业的算法评测需评估模型对不同群体的影响

答案：【技术公平强调算法对不同群体的预测结果无系统性偏差;伦理公平不仅要求统计均衡，还需回应社会权力结构等问题;欧盟《人工智能法案》将高风险AI系统纳入强制合规审查;企业的算法评测需评估模型对不同群体的影响】45.多选题：人工智能伦理难题主要聚焦在哪些方面？

选项：

A、安全可控

B、公平和普惠共享

C、隐私保护

D、责任分担

E、失业问题

答案：【安全可控;公平和普惠共享;隐私保护;责任分担;失业问题】46.多选题：数据清洗的目标是？

选项：

A、提高模型训练速度

B、稀释毒化数据影响

C、删除所有训练数据

D、增强数据分布多样性

答案：【稀释毒化数据影响;增强数据分布多样性】47.多选题：人工智能的公平性包括以下哪些层面？

选项：

A、技术公平

B、伦理公平

C、绝对平等

D、无差别对待

E、统计均衡

答案：【技术公平;伦理公平】48.多选题：按照人工智能生命周期分类，训练阶段可能出现的安全威胁包括

选项：

A、数据投毒

B、后门攻击

C、对抗样本攻击

D、成员推断攻击

答案：【数据投毒;后门攻击】49.多选题：以下哪些是原则主义对人工智能伦理的启示？

选项：

A、提出超越文化差异的四项普遍原则

B、要求伦理算法采用全球统一标准

C、将阿西莫夫三定律直接转化为法律条文

D、为解决道德困境构建弹性框架

答案：【提出超越文化差异的四项普遍原则;为解决道德困境构建弹性框架】50.多选题：后门攻击与投毒攻击的主要区别是？

选项：

A、后门攻击需要触发器激活

B、部分投毒攻击旨在破坏模型的整体性能

C、后门攻击仅影响特定输入

D、投毒攻击必须修改训练代码

答案：【后门攻击需要触发器激活;部分投毒攻击旨在破坏模型的整体性能;后门攻击仅影响特定输入】51.多选题：人工智能产生偏见的原因有哪些？

选项：

A、数据偏见

B、模型偏见

C、人类干预

D、模型架构

答案：【数据偏见;模型偏见;人类干预】52.多选题：AI生成模型可能被恶意利用来直接产生哪些有害的内容？

选项：

A、输出危险信息

B、自动化创作艺术作品

C、深度伪造视频

D、自动编写合法文档

答案：【输出危险信息;深度伪造视频】53.多选题：人工智能伦理原则的实践作用包括？

选项：

A、塑造科研文化

B、引导技术设计方向

C、完全消除技术风险

D、影响从业者思维方式

答案：【塑造科研文化;引导技术设计方向;影响从业者思维方式】54.多选题：以下关于人工智能安全三大基本要素的描述哪些是正确的？

选项：

A、鲁棒性：指模型能够同时抵御复杂的环境条件和非正常的恶意干扰，在数据噪声或对抗性攻击下依然保持稳定和高效

B、准确性：指模型的预测结果必须与真实结果完全一致，这是所有AI模型的基本要求

C、完整性：指算法、模型、数据、基础设施和产品不被恶意植入、篡改、替换或者伪造，确保系统输出正确的决策

D、可解释性：指AI模型的决策过程透明且易于理解，有助于人类信任AI

E、机密性：指涉及的模型信息，如模型结构、参数设置以及模型权重等，不会泄露给没有授权的人

答案：【鲁棒性：指模型能够同时抵御复杂的环境条件和非正常的恶意干扰，在数据噪声或对抗性攻击下依然保持稳定和高效;完整性：指算法、模型、数据、基础设施和产品不被恶意植入、篡改、替换或者伪造，确保系统输出正确的决策;机密性：指涉及的模型信息，如模型结构、参数设置以及模型权重等，不会泄露给没有授权的人】55.多选题：亚里士多德提出的道德责任条件包括？

选项：

A、行为人能控制自身行为

B、行为人能理解行为后果

C、行为符合功利主义原则

D、行为获得法律授权

答案：【行为人能控制自身行为;行为人能理解行为后果】56.多选题：人工智能幻觉可能导致哪些具体风险？

选项：

A、生成虚假学术引用

B、泄露用户隐私数据

C、夸大自身能力描述

D、低估模型训练能耗

答案：【生成虚假学术引用;夸大自身能力描述】57.多选题：以下关于模型窃取攻击的说法，正确的有哪些？

选项：

A、方程求解攻击主要针对传统机器学习模型，如支持向量机

B、基于替代模型的攻击需要了解目标模型的具体结构

C、方程求解攻击中，攻击者需获取目标模型的算法、结构信息并能查询输出结果

D、基于替代模型的攻击中，替代模型的性能与结构复杂度无关

E、模型被窃取后，攻击者可能利用其进行白盒攻击

答案：【方程求解攻击主要针对传统机器学习模型，如支持向量机;方程求解攻击中，攻击者需获取目标模型的算法、结构信息并能查询输出结果;模型被窃取后，攻击者可能利用其进行白盒攻击】58.多选题：基于经验的对抗样本纠正方法有

选项：

A、对抗训练

B、特征去噪

C、防御蒸馏

D、输出分布差异检测

E、中间层输出检测

答案：【对抗训练;特征去噪;防御蒸馏】59.多选题：人工智能在道德决策中可能扮演的角色有？

选项：

A、人工道德能动者

B、人工道德顾问

C、苏格拉底式助手

D、道德行为评估者

答案：【人工道德能动者;人工道德顾问;苏格拉底式助手】60.多选题：以下哪些是早期原则主义提出的基本原则？

选项：

A、自主

B、有利

C、不伤害

D、公正

答案：【自主;有利;不伤害;公正】61.多选题：技术层面中，个体角度的公平性范畴有

选项：

A、个体公平

B、因果公平

C、预测平等

D、群组公平

E、隐式公平

答案：【个体公平;因果公平】62.多选题：关于模型反演攻击的场景及特点，下列说法正确的有

选项：

A、白盒场景下攻击者知道模型的结构和参数

B、黑盒场景下攻击者仅能获取模型的输出结果

C、白盒攻击可通过优化算法重构与训练数据相似的样本

D、黑盒攻击中攻击者需训练额外的反演模型

答案：【白盒场景下攻击者知道模型的结构和参数;黑盒场景下攻击者仅能获取模型的输出结果;白盒攻击可通过优化算法重构与训练数据相似的样本;黑盒攻击中攻击者需训练额外的反演模型】63.多选题：以下关于人工智能伦理与安全的说法正确的有

选项：

A、大模型依赖海量数据，可能记忆隐私信息

B、可解释的人工智能有助于提升系统安全性

C、智能招聘系统可能因训练数据问题产生歧视

D、人工智能监控系统无法被感知欺骗攻击影响

E、法律法规应覆盖人工智能全流程监管

答案：【大模型依赖海量数据，可能记忆隐私信息;可解释的人工智能有助于提升系统安全性;智能招聘系统可能因训练数据问题产生歧视;法律法规应覆盖人工智能全流程监管】64.多选题：影响AI价值观的主要因素有

选项：

A、训练数据

B、人工标注

C、模型的硬件设备

D、算法的复杂程度

E、标注者的主观判断

答案：【训练数据;人工标注;标注者的主观判断】65.多选题：白盒对抗攻击中，攻击者能够获得哪些信息？

选项：

A、模型权重

B、训练数据集

C、模型梯度

D、模型架构

答案：【模型权重;训练数据集;模型梯度;模型架构】66.多选题：关于差分隐私技术，以下哪些说法正确？

选项：

A、通过添加噪声防止个体信息被推断

B、可应用于数据收集和信息分享场景

C、完全消除数据中的所有随机性

D、仅适用于医疗领域

答案：【通过添加噪声防止个体信息被推断;可应用于数据收集和信息分享场景】67.多选题：以下哪些是人工智能伦理治理的实践措施？

选项：

A、价值敏感设计

B、伦理嵌入设计

C、伦理原则立法

D、科技伦理审查

答案：【价值敏感设计;伦理嵌入设计;伦理原则立法;科技伦理审查】68.多选题：关于对抗防御的目标，下列说法正确的有

选项：

A、降低对抗样本攻击的成功率

B、不影响模型对正常样本的性能

C、检测方法需高检出准确率和低误报率

D、纠正方法需高对抗样本分类准确率

E、仅需关注对抗样本的检测，无需考虑纠正

答案：【降低对抗样本攻击的成功率;不影响模型对正常样本的性能;检测方法需高检出准确率和低误报率;纠正方法需高对抗样本分类准确率】69.多选题：特征压缩算法主要包括

选项：

A、色深压缩

B、空间平滑

C、对抗训练

D、特征去噪

答案：【色深压缩;空间平滑】70.多选题：2023年有关大语言模型训练数据泄露的研究发现包括

选项：

A、主流大语言模型的训练数据可被大规模提取

B、攻击成本低，仅需重复关键词即可实现

C、无论模型是否进行“安全对齐”，训练数据均可能被恢复

D、仅开源模型存在训练数据泄露风险，闭源模型无风险

E、通过查询模型可提取训练数据，无需事先了解训练集

答案：【主流大语言模型的训练数据可被大规模提取;攻击成本低，仅需重复关键词即可实现;无论模型是否进行“安全对齐”，训练数据均可能被恢复;通过查询模型可提取训练数据，无需事先了解训练集】71.多选题：为AI生成模型注入正确价值观的技术手段包括

选项：

A、基于人类反馈的强化学习（RLHF）

B、监督微调（SFT）

C、近端策略优化（PPO）

D、直接偏好优化（DPO）

E、扩散模型生成

答案：【基于人类反馈的强化学习（RLHF）;监督微调（SFT）;近端策略优化（PPO）;直接偏好优化（DPO）】72.多选题：以下属于人工智能隐私泄露主流攻击方法的有

选项：

A、成员推断攻击

B、模型反演攻击

C、属性推断攻击

D、对抗样本攻击

E、数据投毒攻击

答案：【成员推断攻击;模型反演攻击;属性推断攻击】73.多选题：以下属于生成模型应用的有

选项：

A、ChatGPT聊天机器人

B、DALL-E文本生成图片

C、Sora文本生成视频

D、支持向量机分类

E、快手可灵AI

答案：【ChatGPT聊天机器人;DALL-E文本生成图片;Sora文本生成视频;快手可灵AI】74.多选题：以下属于国际上重要的人工智能治理相关文件或法规的有

选项：

A、联合国教科文组织《人工智能伦理建议书》

B、欧盟《人工智能法案》

C、美国《人工智能行政命令》

D、经济合作与发展组织《人工智能原则》

答案：【联合国教科文组织《人工智能伦理建议书》;欧盟《人工智能法案》;美国《人工智能行政命令》;经济合作与发展组织《人工智能原则》】75.多选题：以下关于ChatGPT训练数据泄露事件的说法正确的有

选项：

A、2023年GoogleDeepMind研究发现可从ChatGPT泄露出训练数据

B、攻击方法简单，重复同一个词即可实现

C、仅用约200美元成本就能泄露出几MB的训练数据

D、只有使用“poem”这个关键词才能成功泄露数据

E、该事件表明生成式AI存在数据安全隐患

答案：【2023年GoogleDeepMind研究发现可从ChatGPT泄露出训练数据;攻击方法简单，重复同一个词即可实现;仅用约200美元成本就能泄露出几MB的训练数据;该事件表明生成式AI存在数据安全隐患】76.多选题：按照人工智能生命周期分类，执行阶段可能出现的安全威胁包括

选项：

A、对抗样本攻击

B、成员推断攻击

C、数据投毒攻击

D、模型越狱攻击

E、数据收集偏差

答案：【对抗样本攻击;成员推断攻击;模型越狱攻击】77.多选题：以下属于人工智能模型层面安全威胁的有

选项：

A、对抗样本攻击

B、模型窃取攻击

C、模型越狱攻击

D、数据投毒攻击

E、属性推断攻击

答案：【对抗样本攻击;模型窃取攻击;模型越狱攻击】78.多选题：基于访问控制的防御方法包括？

选项：

A、基于角色的访问控制

B、基于属性的访问控制

C、完全开放所有权限

D、删除所有用户权限

答案：【基于角色的访问控制;基于属性的访问控制】79.多选题：关于基于替代模型的模型窃取攻击，下列说法正确的是：

选项：

A、攻击者可以通过黑盒接口访问受害者模型

B、替代模型需要复制目标模型的参数

C、使用复杂结构的替代模型可能提升攻击效果

D、替代模型完全不依赖查询目标模型的输出结果

答案：【攻击者可以通过黑盒接口访问受害者模型;使用复杂结构的替代模型可能提升攻击效果】80.多选题：下列哪些因素可能影响人工智能系统的鲁棒性？

选项：

A、环境因素（如光照强度、视角角度等）

B、数据的噪声

C、模型的对抗性攻击

D、模型的计算速度

答案：【环境因素（如光照强度、视角角度等）;数据的噪声;模型的对抗性攻击】81.单选题：人工智能伦理仅关注技术层面的问题，而不涉及社会影响。

选项：

A、正确

B、错误

答案：【错误】82.单选题：人工智能生命周期中的设计阶段可能因数据收集偏差导致系统偏见。

选项：

A、正确

B、错误

答案：【正确】83.单选题：价值敏感设计要求技术开发优先考虑性能而非伦理价值。

选项：

A、正确

B、错误

答案：【错误】84.单选题：数据投毒攻击针对模型的测试阶段。

选项：

A、正确

B、错误

答案：【错误】85.单选题：对抗样本攻击是指通过在源数据上增加人类通过感官能够明显辨识到的改变，进而让机器学习模型做出错误的分类决定。

选项：

A、正确

B、错误

答案：【错误】86.单选题：生成模型的价值观对齐是指AI输出的内容应当符合人类的伦理规范和社会共识。

选项：

A、正确

B、错误

答案：【正确】87.单选题：“电车难题”仅适用于探讨自动驾驶汽车的道德决策问题。

选项：

A、正确

B、错误

答案：【错误】88.单选题：阿西莫夫机器人三定律在现实中已经被直接应用于法律体系中。

选项：

A、正确

B、错误

答案：【错误】89.单选题：成员推断攻击中，攻击者通过分析模型对目标样本的预测结果，能判断该样本是否在训练集中，且仅能在白盒场景下实施。

选项：

A、正确

B、错误

答案：【错误】90.单选题：人工智能合成内容可能引发政治敏感、涉黄涉暴等问题，但不会对社会稳定造成影响。

选项：

A、正确

B、错误

答案：【错误】91.单选题：基于k-NN的检测方法中，若样本标签与邻近样本标签不一致，则判定为污染数据。

选项：

A、正确

B、错误

答案：【正确】92.单选题：对抗防御的总体目标是降低对抗样本攻击的成功率，同时不影响模型本身的性能。

选项：

A、正确

B、错误

答案：【正确】93.单选题：现实场景中一些自然纹理也可能会形成对抗样本。

选项：

A、正确

B、错误

答案：【正确】94.单选题：特征工程不会导致人工智能产生偏见。

选项：

A、正确

B、错误

答案：【错误】95.单选题：数据投毒攻击是通过故意向AI系统输入有害或误导性的信息，从而影响模型的训练结果。

选项：

A、正确

B、错误

答案：【正确】96.单选题：差分隐私要求发布的查询结果必须是确定性值，以确保数据一致性。

选项：

A、正确

B、错误

答案：【错误】97.单选题：传统匿名化方法（如移除身份证号）能完全防止医疗数据被重新识别。

选项：

A、正确

B、错误

答案：【错误】98.单选题：以生命周期为分类依据时，人工智能分别面临设计阶段、训练阶段、测试阶段、执行阶段四个阶段的安全威胁。

选项：

A、正确

B、错误

答案：【错误】99.单选题：图灵测试是指测试者通过提问包含人与机器在内的众多被测试者，判断被测试者为机器还是人。若测试者无法完成判断，则认为该机器具有人工智能。

选项：

A、正确

B、错误

答案：【正确】100.单选题：人工智能安全的基本要素包括鲁棒性、完整性和机密性。

选项：

A、正确

B、错误

答案：【正确】101.单选题：人类干预可以通过修改数学公式等方式影响人工智能决策过程。

选项：

A、正确

B、错误

答案：【正