人工智能通识导论（理工类）第3章 习题及参考答案

3-2-习题3及参考答案1.何谓道德、伦理和科技伦理？并简要说明道德和伦理的关系。参考答案：（1）道德：是由一定社会经济关系决定，依靠社会舆论、传统习俗和内心信念维系，以善恶为核心的心理意识、原则规范与行为活动的总和。道德属于非强制性社会规范，是人们行为“应该而非必须”遵守的准则，超越道德底线的行为通常会受到法律制裁。（2）伦理：本意是事物的调理，引申为人伦道德之理。狭义伦理聚焦人与人、人与社会、人与自身的道德关系；广义伦理在此基础上，拓展至人与自然、人与人工智能系统的关系，涵盖责任、义务、价值、正义等多重范畴。（3）科技伦理：是规范各类科学技术研发与应用的伦理准则，专门约束基因编辑、克隆、人工智能、互联网等高新技术发展引发的各类伦理问题，引导科技向善、规避技术滥用风险。（4）道德与伦理的关系：道德是具体的行为规范和个体价值认知，侧重社会具象的善恶行为约束；伦理是系统化、理论化的道德原理与准则，是道德的理论升华与底层逻辑。伦理为道德行为提供理论依据，道德是伦理在社会生活中的具体实践体现，二者相辅相成，共同构成社会行为规范体系。2.简要阐述人工智能伦理的概念及含义、狭义人工智能伦理和广义人工智能伦理有何差别？参考答案：（1）人工智能伦理概念及含义：人工智能伦理属于广义科技伦理范畴，是将人类伦理延伸至人工智能领域，规范人工智能技术研发、应用、推广全过程，调节人与人工智能系统、智能机器、智能社会之间关系的行为规范总和。其核心是解决AI智能性带来的新型伦理问题，平衡技术发展与社会公平、隐私安全、责任正义等价值。（2）狭义与广义人工智能伦理的差别①狭义人工智能伦理：聚焦人工智能系统、智能机器人的研发与使用过程，仅关注其直接引发的人类伦理道德问题，属于应用伦理范畴，侧重具象的技术应用伦理风险。②广义人工智能伦理：覆盖人与AI系统、人与智能机器、人与智能社会的全方位伦理关系，包含强人工智能、超人AI等超现实伦理议题，涉及AI对人类的责任、安全、价值导向等深层问题。不仅涵盖传统伦理关系的演变，还拓展了全新的伦理体系，超越了单纯的技术应用伦理范畴。3.简要阐述人工智能伦理的发展概况。参考答案：1956年人工智能正式诞生后，AI伦理长期仅为科幻影视、文学的创作主题，未受到学界和社会的广泛关注。21世纪以来，AI伦理研究逐步兴起，从单一的工业机器人安全问题转向复杂的社会伦理问题：2004年“机器人伦理学”概念提出，2005年欧洲启动机器人伦理研究计划，多国陆续发布AI伦理相关著作与规范。2011年后，各国开始修订机器人定律、开展图灵测试伦理研讨，聚焦AI道德主体、自由意志等核心问题。2016年起，全球AI伦理治理进入快速发展期：美国、IEEE陆续推出AI伦理准则与倡议，2017年阿西洛马人工智能原则、日本AI伦理方针发布，2019年欧盟确立可信AI四大伦理原则。2021年联合国教科文组织通过全球首个AI伦理通用建议书，形成国际共识。我国同步推进伦理治理建设：2017年出台《新一代人工智能发展规划》，后续陆续发布人工智能标准化白皮书、伦理规范、治理指南，2026年完善伦理审查、应用安全指引等制度，逐步构建起全流程、规范化的AI伦理治理体系。目前，AI伦理已成为人工智能领域不可或缺的核心组成部分。4.人工智能技术引发的伦理问题主要包括哪些？参考答案：人工智能技术在全生命周期应用中，核心引发五大类伦理问题：（1）安全问题：贯穿AI设计、训练、部署全流程，包含对抗性攻击、数据投毒、深度伪造等技术风险，以及自动驾驶、医疗AI决策失误等场景安全隐患；AI“黑箱”特性导致风险难以溯源、干预，易引发人身、公共安全事故。（2）隐私问题：AI依赖海量用户数据训练，存在数据采集“知情同意”形式化、数据存储泄露、滥用等问题；同时AI可通过多源数据交叉分析，对匿名数据实现“重新识别”，导致个人隐私泄露风险加剧。（3）公平问题：AI模型会继承、放大训练数据中的种族、性别、年龄、地域等社会偏见，在招聘、司法、信贷、教育等领域形成系统性歧视，固化社会结构性不公，且普通用户难以察觉和维权。（4）透明问题：深度学习AI具备“黑箱”特征，决策逻辑复杂、不可解释，开发者和用户均无法清晰知晓决策依据，侵犯用户知情权与自主决策权，阻碍医疗、司法、金融等关键领域的人机信任构建。（5）责任问题：AI自主学习、自主决策的特性打破传统责任划分体系，当AI造成损害时，开发者、运营者、使用者、数据提供者等多方责任边界模糊，形成“责任鸿沟”，难以精准归责、追责。5.人工智能的核心伦理困境主要涉及哪些方面？参考答案：人工智能核心伦理困境贯穿数据采集、算法训练、应用落地全流程，主要包含三大核心矛盾：（1）数据隐私困境：数据利用与隐私保护的平衡难题。数据是AI训练的核心资源，但AI训练需采集大量用户数字足迹（健康、社交、消费、交互数据等），过度采集、滥用数据会侵犯个人隐私，而严格限制数据使用又会制约AI模型训练与技术迭代，如何界定数据采集边界、平衡技术发展与隐私安全是核心困境。（2）算法公平困境：算法偏见的规避难题。AI算法看似客观中立，实则会继承训练数据中的历史社会偏见，因训练数据样本单一、覆盖群体不均，导致算法输出差异化、歧视性结果，且隐性偏见难以察觉、修正，无法真正实现算法公平。（3）责任界定困境：AI失误的归责难题。AI具备自主决策能力，脱离预设轨迹引发安全事故、权益损害时，传统人机责任划分体系失效，算法缺陷、场景适配、人为干预等多方因素交织，责任主体模糊，难以界定各方权责、实现有效追责与救济。6.人工智能在推动科技与社会进步的同时也引发了诸多安全与伦理风险，请简述日常生活、工作中一些典型的人工智能技术滥用的情形及带来的影响。参考答案：（1）深度伪造技术滥用：不法分子利用AI生成虚假音视频、人脸图像，制作虚假新闻、伪造他人言行，用于网络诈骗、舆论炒作、人身攻击等。不仅会侵害个人肖像权、名誉权，还会误导公众认知、扰乱网络秩序，甚至引发社会信任危机、危害公共安全。（2）AI推荐算法滥用：短视频、社交、电商平台依托AI个性化推荐，精准推送同质化内容，加剧用户“信息茧房”效应，限制用户认知视野；同时通过算法诱导用户沉迷、过度消费，尤其对青少年价值观塑造、身心健康造成负面影响。（3）AI工具办公学习滥用：学生、职场人员过度依赖AI写作、AI解题、AI文案生成工具，直接照搬AI生成内容，滋生学术造假、工作敷衍等问题，弱化自主思考、创作和科研能力，抑制个人创新思维发展。（4）人脸识别技术滥用：部分机构、商家未经授权私自采集、使用人脸数据，在公共场所无差别人脸识别，造成个人生物信息泄露，侵犯公民隐私与人格权益，甚至引发身份冒用、金融诈骗等衍生风险。（5）AI决策工具滥用：企业使用带偏见的AI招聘、信贷审核算法，隐性歧视特定群体；司法、金融领域过度依赖AI算法决策，忽视人工复核，造成不公平判定、权益受损等问题，加剧社会不公。7.人工智能伦理事件的解决和治理往往需要多方协作，请结合具体案例，分析在这一过程中可能涉及到责任主体（如政府监管部门、企业/研发机构、行业协会、公众或媒体等），并说明各责任方在事件处置与后续治理中应承担的工作内容。参考答案：以生成式AI幻觉侵权案（全国首例AI幻觉侵权索赔案）为例，涉及政府监管部门、AI企业/研发机构、行业协会、公众与媒体四大核心责任主体，各方职责如下：（1）政府监管部门：承担顶层监管与制度建设职责。一是完善AI伦理与安全法律法规、审查制度，明确AI侵权责任界定标准；二是落实算法备案、高风险AI项目伦理审查机制，事前防范伦理风险；三是事后开展违规查处、行业整治，规范AI行业发展秩序；四是推进国际治理合作，制定行业通用标准。（2）企业/研发机构：承担主体治理责任。研发阶段优化模型算法，减少AI幻觉、算法偏见，嵌入伦理约束机制；应用阶段建立内容审核、人工复核机制，对AI生成内容进行溯源标识；完善用户隐私保护、申诉救济渠道；主动开展安全测试与风险自查，落实全生命周期合规治理。（3）行业协会：承担行业自律与规范引导职责。牵头制定行业AI伦理自律准则、技术规范与应用标准；开展行业培训、技术交流，提升从业者伦理素养；搭建风险共享平台，汇总行业AI伦理风险案例与处置经验，推动行业良性发展。（4）公众与媒体：承担监督与科普职责。公众主动学习AI伦理安全知识，规范自身AI使用行为，遭遇AI侵权、歧视等问题主动维权；媒体发挥舆论监督作用，曝光AI滥用、违规案例，普及AI伦理安全常识，提升全社会AI风险防范意识。8.为什么人工智能生成的内容可能存在“幻觉”或虚假信息？参考答案：人工智能“幻觉”指AI生成看似合理、实则虚构、不实的内容，核心成因集中在模型、数据、技术逻辑三大层面：（1）训练数据局限：AI模型基于有限的训练数据集学习知识，训练数据存在缺失、滞后、错误、冗余等问题，无法覆盖真实世界全部场景与知识，导致模型认知存在盲区。（2）模型生成逻辑缺陷：大模型基于概率逻辑生成内容，核心是匹配语言规律、句式逻辑，而非基于事实认知与逻辑推理，会优先保证内容通顺连贯，而非内容真实准确，易虚构事实、数据、案例。（3）场景适配能力不足：面对小众、冷门、新兴问题，模型缺乏对应训练样本，无法精准输出真实答案，会通过拼接、虚构已有知识生成内容，造成信息失真。（4）数据投毒与标注偏差：训练数据可能被恶意投毒、标注错误，模型学习到虚假规律与错误知识，进而输出不实内容。9.为何在使用AI写作工具时可能存在信息泄露？请给出至少3条避免信息泄露的做法。参考答案：（1）信息泄露原因AI写作工具的运行依赖云端服务器存储、处理用户输入的文本内容，用户上传的文案、素材、文稿中包含个人隐私、工作机密、商业信息等敏感内容；平台若数据防护机制不完善、存在漏洞，或违规采集、留存、共享用户输入数据，会导致信息泄露；同时AI模型训练可能调用用户交互数据，进一步加剧隐私泄露风险。（2）避免信息泄露的做法①规避敏感内容输入：使用AI写作工具时，严禁输入个人身份证、手机号、住址、工作机密、商业数据、未公开文稿等敏感信息。②选择合规正规平台：优先使用具备资质、合规备案、隐私保护机制完善的官方AI工具，杜绝使用小众、无资质、非正规的第三方AI写作平台。③及时清理交互数据：使用完成后主动删除对话记录、输入素材，关闭平台数据留存权限，关闭自动记忆、同步功能，减少数据留存风险。④开启隐私防护设置：在平台设置中关闭个性化数据采集、内容推荐、数据共享等权限，拒绝非必要的隐私授权。10.阅读本章中关于“人工智能安全治理原则”的内容，用自己的话简要解释其中任意两项原则，并举例说明其在现实生活中的应用场景。参考答案：选取包容审慎、确保安全和风险导向、敏捷治理两项原则：（1）包容审慎、确保安全原则-核心内涵：既要鼓励人工智能技术创新、包容新技术新业态的发展试错，为技术迭代预留空间；又要严守安全底线，对危害国家安全、公共利益、个人合法权益的AI风险严格管控，实现创新与安全平衡。-应用场景：各地对生成式AI、AI虚拟数字人等新兴技术采取试点开放政策，允许企业开展技术创新与场景落地；同时严格禁止AI深度伪造用于诈骗、造谣，禁止未成年人AI沉迷产品推广，守住安全底线。（2）风险导向、敏捷治理原则-核心内涵：以风险防控为核心，精准识别AI研发、应用全流程的各类安全隐患，根据应用场景、风险等级差异化管控；同时紧跟技术发展趋势，快速优化治理规则，避免治理滞后于技术迭代。-应用场景：欧盟将AI应用按风险等级分为四类，对医疗、自动驾驶、司法等高风险AI实施严格合规审查与监管，对低风险AI放宽管控；针对近期AI诈骗、深度伪造等新型风险，各国快速出台专项治理细则，及时填补监管空白。11.结合“人工智能安全治理框架”，指出在框架中的四个核心组成部分，并选择其中一个部分，说明它在人工智能治理中的作用和意义。参考答案：（1）四大核心组成部分：安全风险分类、技术应对措施、综合治理措施、研发与应用安全指引。（2）选取【技术应对措施】阐述作用与意义作用：针对AI模型算法、训练数据、算力设施、产品服务、应用场景五大核心环节，通过安全开发、数据优化、漏洞加固、安全测评等技术手段，从源头防范内生安全、应用安全、衍生安全各类风险，提升AI系统的可靠性、鲁棒性、透明性与可控性。意义：技术应对是AI安全治理的核心支撑，能够弥补制度治理的滞后性，从技术底层解决AI黑箱、对抗攻击、数据泄露、算法偏见等固有问题；构建“模型+数据+场景”全方位技术防护体系，为AI合规、安全、可控落地提供技术保障，是实现AI向善、防范技术失控的关键基础。12.何谓人工智能可解释性？并简要介绍人工智能可解释性的目的和特征。参考答案：（1）人工智能可解释性定义：简称XAI，是指通过各类技术与方法，清晰阐释人工智能模型的内部运行机理、决策逻辑、决策依据，让人类能够理解AI输出结果的原因、过程与价值，破解深度学习AI“黑箱”难题的技术体系，是负责任AI的核心基础。（2）核心目的：针对不同用户群体提供差异化解释，帮助开发者调试优化模型、帮助监管机构合规审计、帮助普通用户理解决策依据、规避决策风险；保障用户知情权与自主决策权，构建人机信任，融合人类价值观，规避AI决策偏见与安全漏洞，提升AI应用的公平性、安全性与可靠性。（3）主要特征①高质量：解释真实可信，具备充分事实与逻辑支撑，无虚假、随机内容；②量度合适：信息完整充足，既不缺失关键依据，也无冗余无关内容；③关联性强：仅围绕决策核心问题展开，精准匹配用户疑问；④表达适配：表述清晰、规范、无歧义，通俗易懂；⑤受众差异化