人工智能引论课件 第十二章 人工智能伦理与安全

第十二章人工智能伦理与安全12.1新一代人工智能伦理规范12.2

可信人工智能12.3人工智能可解释性12.4人工智能安全第十二章人工智能伦理与安全12.1新一代人工智能伦理规范第十二章人工智能伦理与安全12.1.1新一代人工智能伦理规范概况人工智能伦理的基本特征：第一，人工智能伦理属于工程伦理学范畴第二，人工智能伦理是对人工智能技术的道德规制12.1.2人工智能引发的伦理问题隐私问题人工智能伦理规范中涉及的隐私问题主要是指在人工智能应用场景中的信息隐私或数据隐私。规制人工智能伦理中隐私问题，要做到合乎伦理地使用人工智能，数据的收集、处理和共享以尊重个人的隐私权为前提。保护人工智能使用者的知情权，人工智能使用者有权了解自身数据使用情况、有权反对收集或处理相关数据，当相关数据正在被收集和处理时有被通知的权利。12.1.2人工智能引发的伦理问题道德认定问题在实践中表现为人工智能本身是否应具备内在的道德约束。

在具体的应用场景中，学界讨论最多的问题是自动驾驶汽车应用下“电车难题”和“隧道难题”，以及由此引发的无人驾驶汽车的伦理困境及影响。12.1.2人工智能引发的伦理问题算法偏见问题在人工智能做出决策时，尤其是在推荐用户做出某个决策时，可能会产生偏见与歧视问题，该决策可能对某个或某些特定的个人或群体产生不公正或不公平的对待。12.1.3人工智能伦理规范的核心原则第一，科技伦理原则第二，创新发展原则第三，公平公正原则第四，可问责性原则12.2

可信人工智能第十二章人工智能伦理与安全算法的不透明性引发自主决策权与用户知情权的关注算法在处理个人数据时存在侵犯隐私的风险算法在使用过程中存在歧视的风险算法的权力增强导致了人与技术之间对抗性上升12.2.1人工智能的不可信任的表现和成因12.2.2可信人工智能的安全类型技术安全算法模型的健壮性是技术安全的核心

数据保护是技术安全的关键环节

系统稳定性与可靠性是技术安全的重要保障

持续的安全监测与更新是技术安全的必要条件12.2.2可信人工智能的安全类型应用安全数据隐私保护

算法模型安全

算法防御性学习12.2.2可信人工智能的安全类型法律与伦理安全人工智能应用中的数据保护与隐私保护

人工智能应用中的知识产权保护，如专利、商标和版权等

人工智能应用要符合反垄断法律规定，避免垄断行为对市场竞争和消费者权益造成损害。12.2.3构建可信人工智能的途径构建可信人工智能标准框架和可信性指南建立人工智能风险分类分级制度和伦理原则标准加强场景化人工智能技术标准以算法治理规制机器学习技术

12.3人工智能可解释性第十二章人工智能伦理与安全12.3.1可解释性人工智能的概述可解释性人工智能，是指具有可理解性的(understandability)人工智能，它是人工智能模型的一种性质。在现有的研究文献中，可解释性概念并不明确，也可以表述为可诠释性、透明性、可领会性等，在很多情况下它们被互换使用。可解释性人工智能在本质上说具有社会系统属性，但无法承担道德责任。2019年6月17日，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》，提出了“负责任的人工智能”概念，提出了共担责任主张。共担责任并非指人工智能产品的责任承担问题，而是人工智能研发者、使用者及其他相关方的共同责任。12.3.2发展人工智能可解释性的基本途径通过模型对特征进行解释通过计算梯度增强模型的可解释性通过深度神经网络对特征进行解释通过专家经验、制定规则来解释模型12.4人工智能安全第十二章人工智能伦理与安全12.4.1人工智能安全风险的类型数据训练中的安全风险算法黑箱的安全风险技术滥用与依赖中的安全风