第8章 习题答案

第8章人工智能伦理与安全习题与实验一、选择题1．狭义人工智能伦理主要关注（）。A．人与智能社会之间的伦理关系B．人工智能系统与智能机器对人类的责任C．人工智能系统、智能机器及其使用引发的伦理问题D．超现实的强人工智能伦理问题2．在人工智能开发中，隐私保护主要涉及（）。A．防止用户数据被非法收集、滥用或泄露B．确保算法代码不泄露C．限制人工智能模型的计算能力D．禁止人工智能系统输出敏感信息3．算法偏见通常是指（）。A．算法运行速度过慢B．算法因训练数据偏差导致对特定群体不公平C．算法代码存在语法错误D．算法无法处理复杂任务4．关于对抗攻击的核心机制，以下说法正确的是（）。A．对抗攻击通过直接破坏模型的代码或硬件实现操纵B．对抗样本的微小扰动主要作用于模型的输入层，人类可轻易感知差异C．对抗攻击仅适用于图像分类任务，无法影响文本或音频模型D．对抗攻击利用模型梯度方向，在特征提取阶段（如卷积、池化）注入扰动5．人工智能系统的可解释性很重要，因为要（）。A．提高算法运行速度B．降低模型开发成本C．确保用户理解人工智能决策过程，避免“黑箱”风险D．增加人工智能系统的娱乐性6．深度伪造技术的主要伦理风险是（）。A．可能导致虚假信息传播，损害个人或社会信任B．增加视频制作成本C．降低人工智能模型的训练效率D．限制创意内容的多样性7．在自动驾驶场景中，如果人工智能系统面临“电车难题”（必须选择伤害少数人或多数人），其决策可能引发的争议是（）。A．技术实现难度B．算法运行效率低下C．传感器精度不足D．伦理责任归属不清（如开发者、制造商、用户谁应负责）8．发布《人工智能生成合成内容标识办法》的主要目的是（）。A．促进人工智能技术商业化B．规范人工智能生成内容的标识，防范虚假信息传播C．限制人工智能在娱乐领域的应用D．强制所有人工智能模型开源二、问答题1．什么叫伦理？什么叫人工智能伦理？答：伦理是指人与人、人与社会、人与自然之间相处的行为规范、道德准则与价值观念，是判断行为善恶、是非的标准，用以引导社会成员的行为，维护社会秩序与公序良俗。人工智能伦理是指在人工智能技术的研发、应用、管理全过程中，约束技术研发者、使用者、运营者的道德规范与行为准则，旨在平衡技术创新与社会公共利益、个人权益，防范技术滥用带来的隐私侵犯、社会信任危机、伦理失范等风险，保障人工智能技术安全、健康、有序发展。2．简述隐私保护的具体措施。答：隐私保护具体措施如下：（1）法律规制：通过立法明确禁止信息技术手段伪造、侵犯个人隐私与肖像权，为隐私保护提供法律保障。（2）技术防御：运用数字水印、区块链溯源等技术，保障数据来源可查、内容不可篡改，防范隐私信息被恶意篡改与滥用；利用伪造检测技术识别非法获取、合成的隐私相关内容。（3）行业协作：行业制定自律准则，规范数据采集、使用行为，跨主体协同防范隐私泄露与滥用。（4）监管治理：监管部门出台管理办法，规范人工智能生成内容，打击利用技术侵犯隐私的违法犯罪行为。3．简述算法偏见的主要来源。答：算法偏见的主要来源可归纳为以下三点：（1）数据偏见：训练数据本身存在样本不均衡、标签错误或群体缺失，导致模型学习到错误的关联。（2）开发者偏见：设计团队的主观意识、背景单一或价值取向通过技术选择无意识渗入算法。（3）算法局限：模型依赖历史数据可能固化偏见，优化目标不当会加剧不公，而黑箱特性又使偏见难以发现和纠正。4．简述对抗攻击的概念及其分类。答：对抗攻击是针对机器学习模型（尤其是深度学习模型）的隐蔽性攻击手段，通过向正常数据中注入微小扰动生成对抗样本，使模型产生错误输出，而人类通常无法察觉这种差异。其本质是利用模型决策边界的脆弱性，通过修改输入操纵输出结果。根据攻击方法的不同，对抗攻击可分为三类：快速梯度符号法（FGSM）通过单次梯度计算确定扰动方向，效率高但易防御；投影梯度下降法（PGD）采用多步迭代优化扰动，生成更隐蔽的样本，常用于模型鲁棒性评估；Carlini-Wagner（CW）方法将攻击转化为优化问题，通过最小化目标函数寻找最优扰动，攻击成功率高但计算成本较大。5．分析人脸识别技术滥用可能引发的伦理问题。答：（1）隐私与肖像权侵犯：未经授权采集、使用他人人脸信息，滥用识别技术，严重侵犯个人肖像权与隐私，造成个人信息泄露。（2）社会信任危机：人脸识别技术滥用、数据泄露或被伪造使用，会降低公众对技术、平台及相关机构的信任，破坏社会信任基础。（3）道德伦理失范：不法分子滥用技术进行身份冒用、诈骗等行为，违背社会道德准则，侵害他人财产与身心健康。（4）信息安全与权益侵害：人脸数据被非法篡改、交易，侵害个人合法权益，甚至引发精准诈骗等违法犯罪行为。（5）舆论与社会秩序干扰：伪造人脸信息制造虚假内容，混淆公众视听，干扰舆论走向，影响社会稳定。三、实验题自动驾驶技术中的伦理风险分析——与AI对话。（1）登录任意AI对话平台（如DeepSeek、文心一言等），输入问题并记录答案。（2）借助搜索引擎、专业科技媒体数据库等工具，搜集一个近3年内发生的真实自动驾驶事故案例。（3）从安全与责任界定、算法公平性、数据隐私保护三个方面阐述其