人工智能基础与应用课件 项目6 认识人工智能的安全与伦理

项目6认识人工智能的安全与伦理任务1任务2认识人工智能安全与治理关注人工智能背后的伦理问题目录任务1认识人工智能安全与治理学习目标了解人工智能安全的定义和分类了解人工智能安全治理的标准、政策及法规掌握人工智能风险评估的流程能够分析具体场景中的人工智能安全风险，并提出初步的治理方案培养对人工智能安全与治理的敏感性，形成主动防范风险的意识能够在技术应用中遵守数据隐私保护原则，持续提升人工智能安全与治理方面的学习能力、创新思维和问题解决能力知识目标能力目标素养目标一、认识人工智能安全1.人工智能安全的定义所谓人工智能安全，是一个涉及多个学科的交叉概念，包含数据、计算能力、模型算法和应用等多个维度，目前尚没有统一的定义。从系统架构角度看，人工智能安全包括硬件层面的芯片安全（如防止因芯片漏洞被利用而导致系统控制权丧失或数据泄露）、软件层面的代码安全（如避免因软件漏洞引发的攻击，包括缓冲区溢出、权限管理漏洞等问题）。从数据角度看，人工智能安全涵盖数据隐私保护（防止敏感数据被非法获取或滥用）和数据完整性维护（确保数据在存储和传输的过程中不被篡改，保证数据的真实性和准确性）。从应用角度看，人工智能安全包括人脸识别被照片或视频欺骗、语音识别受语音指令伪造干扰、自动驾驶因传感器数据错误或算法缺陷引发事故等。此外，人工智能的安全问题还涵盖其在应用过程中可能引发的经济、文化和伦理道德方面的安全隐患。同时，鉴于人工智能系统具备思维能力和自我发展潜能，其可能进化出极为强大的智能，进而对人类整体构成安全威胁。一、认识人工智能安全2.人工智能安全的分类（1）人工智能内生安全风险①模型算法安全风险a.模型的可解释性差。b.偏见和歧视风险。c.鲁棒性弱。②数据安全风险a.违规收集与使用数据。b.训练数据标注不规范。c.数据泄漏风险。③系统安全风险。a.框架和组件。

b.运行环境。c.算力。d.供应链。一、认识人工智能安全2.人工智能安全的分类（2）人工智能应用安全风险①网络安全风险②现实安全风险③认知安全风险④伦理安全风险二、探索人工智能安全标准1.人工智能安全标准（1）人工智能安全标准概述①保护用户隐私与数据安全。②提高人工智能系统的可解释性与透明性。③增强系统的安全性与抗风险能力。④促进人工智能系统的伦理合规。⑤推动人工智能行业健康发展。⑥加强全球合作与协同。二、探索人工智能安全标准1.人工智能安全标准（2）国内人工智能安全政策及标准自2017年发布《新一代人工智能发展规划》以来，我国确立了人工智能的战略目标，并在此过程中明确了安全问题的重要性。2023年，中央网信办发布《全球人工智能治理倡议》，该倡议围绕人工智能的发展、安全、治理三方面系统阐述了人工智能治理的中国方案。在法律法规层面，我国通过一系列重要法律为人工智能技术的应用提供了法律依据和保障。2021年，《中华人民共和国个人信息保护法》正式出台，为数据隐私保护提供了更为严格的法律框架。此外，《中华人民共和国数据安全法》也在同一年颁布，进一步明确了数据管理的法律要求，为数据的分类分级保护提供了制度保障，有力推动了人工智能应用中数据安全保护措施的落实。2023年7月，《生成式人工智能服务管理暂行办法》正式发布，该办法明确了生成式人工智能服务的技术发展与治理、服务规范、监督检查和法律责任，旨在促进生成式人工智能的健康发展和规范应用。2025年3月，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》。二、探索人工智能安全标准1.人工智能安全标准（3）国外人工智能安全政策及标准美国在人工智能安全方面的政策着眼于确保技术发展与国家安全需求之间的平衡。新美国安全中心发布了数篇报告，深入分析了人工智能在网络安全、信息安全、经济金融、国家防御等多个领域的应用，探讨人工智能可能带来的安全风险以及全球安全格局的潜在变化。欧盟的人工智能规制体系与更广泛的数字欧洲战略紧密相连。欧盟于2018年颁布了《通用数据保护条例》，该条例为欧盟的数据保护制度奠定了坚实基础。2024年，欧盟的《人工智能法案》正式生效，为人工智能的开发和使用设定了法律框架。《通用数据保护条例》和《人工智能法案》作为欧盟数字转型中的两部关键法案，在促进人工智能发展与实施规制方面相辅相成。日本、韩国和新加坡均针对人工智能安全领域制定了相应的政策与标准。日本发布《人工智能战略2022》，强调技术发展应以社会责任和伦理为基础，确保数据隐私保护与公平性。韩国推出《人工智能发展及信任建立基本法》，高度重视人工智能技术的伦理合规性。新加坡发布《人工智能伦理与治理倡议》及《生成式人工智能治理模型框架》，着重强调算法的透明性、公正性以及数据隐私保护。二、探索人工智能安全标准2.人工智能风险评估（1）人工智能风险评估的方法①定性风险评估方法：主要依赖评估者的经验、知识和技能。评估结果较为全面，常见的定性分析方法包括因素分析法、逻辑分析法和历史比较法等。这类方法的优点是能全面考虑各种因素，缺点是比较主观，需要评估者具备较高的素质和经验。②定量风险评估方法：通过使用数字指标评估系统的安全风险。常见的定量评估方法有基于机器学习算法（如聚类和决策树）的风险分析法、基于图的风险分析法和风险因子分析法等。定量分析方法的优势在于能够直观地以数字化形式呈现结果。然而，由于其简化了复杂过程，因此可能会引发某些安全风险因素的失真，进而对评估结果的准确性造成影响。③综合评估方法：融合定性评估与定量评估的优势，在网络安全系统的风险评估中得到了广泛应用。这种方法可以提供更全面的视角，但也存在局限性，即无法准确地给出整个系统的安全风险等级，难以对系统整体的安全风险状况进行全面量化评估。二、探索人工智能安全标准2.人工智能风险评估（2）人工智能风险评估的流程①风险识别。人工智能风险评估的第一步是全面识别系统可能面临的各种风险。这个阶段的核心在于深入分析人工智能技术的各个环节，发现潜在的威胁和问题。②风险分析与评估。在完成风险识别后，接下来要对每个风险进行详细的分析与评估。这一阶段的目标是评估各类风险的发生概率以及其可能造成的影响大小，即风险的发生概率和影响程度，从而确定需要优先处理哪些风险。③应对措施制定。一旦明确了哪些风险是最为严重的，接下来的任务就是制定应对措施。应对措施的制定是风险评估中最为关键的一步，它直接决定了系统在面对风险时的反应能力。④应对措施实施。在制定应对策略之后，接下来就是将这些措施具体落实到人工智能系统的开发、测试、部署和运营过程中。⑤监控与反馈。随着人工智能技术的更新和外部环境的变化，新的风险仍会不断出现，因此需要定期对系统进行监控与反馈。任务2关注人工智能背后的伦理问题学习目标了解人工智能伦理问题的定义、核心和具体内容理解解决人工智能伦理问题的思路和具体方案能够根据解决人工智能伦理问题的基本思路，尝试提出初步的解决方案能够主动思考人工智能背后的伦理问题，关注新兴行业以及跨学科合作与交流能够通过提升技能与创新思维，适应和把握人工智能时代带来的新机遇知识目标能力目标素养目标一、认识人工智能伦理问题1.什么是人工智能伦理问题人工智能伦理问题是指人工智能技术及其应用对社会和人类可能带来的道德、法律、安全等问题。它关乎人工智能技术在设计、开发、应用及管理过程中所应遵循的道德规范和原则，旨在确保人工智能技术的发展与人类社会的价值观和道德标准相契合，从而避免对人类社会造成负面影响。一、认识人工智能伦理问题2.人工智能核心伦理问题的具体内容（1）数据隐私人工智能的训练依赖于大量的数据，尤其是个人数据。当人工智能被应用于具体领域（如医疗、金融等）时，如何保护用户隐私已成为一个亟待解决的伦理问题。（2）偏见与歧视人工智能的算法通过人类提供的数据进行训练，而这些数据可能存在社会偏见。（3）责任归属在人工智能系统出现故障或造成损害的情况下，责任归属成为关键问题。一、认识人工智能伦理问题2.人工智能核心伦理问题的具体内容（4）自主性与控制人工智能日益增长的智能化程度，可能会对人类的决策过程和自主性构成威胁。（5）失业与经济不平等随着人工智能技术应用的广泛普及，众多传统工作岗位可能会被取代，尤其是在制造业和服务业这两个领域。（6）人工智能的自主权与道德决策当人工智能系统逐渐具备自主决策能力时，我们必须思考它是否能够理解和遵循人类的道德规范。二、了解人工智能伦理问题的解决方案1.解决人工智能伦理问题的基本思路（1）加强监管（2）制定和完善法律法规（3）提升技术安全性（4）增强公众意识（5）建立跨学科的伦理审查机制2.解决AIGC伦理问题的具体方案（1）构建治理机制（2）加强技术研究（3）优化伦理训练与数据（4）强化知识产权保护二、了解人工智能伦理问题的解决方案3.剖析人工智能伦理问题的解决案例（1）自动驾驶汽车的道德困境解决方案自动驾驶道德困境是指在自动驾驶技术应用场景中，当车辆面临无法避免的碰撞或紧急情况时，如何做出道德上正确的决策的问题。①汽车制造商、科技公司、政府监管机构和伦理学家等各方应协同合作，制定统一的自动驾驶汽车道德准则。②自动驾驶汽车可以配备更先进的传感器和数据分析技术，以更准确地感知周围环境，预测潜在的危险。③在制定自动驾驶汽车道德准则的过程中，应当广泛征求公众的意见和建议，确保道德准则能够反映社会的价值观和期望。二、了解人工智能伦理问题的解决方案3.剖析人工智能伦理问题的解决案例（2）智能决策系统隐私保护的改进方案由于智能决策系统需要采集大量数据，