人工智能导论（第2版）课件 单元8 人工智能安全与规范

单元8人工智能安全与规范1.人工智能不仅仅是技术百度“Apollo”推出的自动驾驶出行服务，“萝卜快跑”凭借24小时不间断运营和远低于传统网约车的价格优势，迅速吸引了大量用户，但同时也引发了关于“机器取代人力”的广泛争议萝卜快跑的低价策略对传统出租车和网约车行业造成了显著冲击。部分司机反映，由于订单被分流，收入大幅下降，甚至面临失业风险通过“萝卜快跑”案例，我们可以看到人工智能的发展绝非单纯的技术问题，而是涉及经济、社会、伦理等多维度的复杂议题2.人工智能安全我们已经学会了如何生成图像和视频，如何合成语音，还亲手制作了数字人。你是否曾想过，视频聊天中熟悉的面孔、亲切的声音，都可能是精心伪造的？2025年3月，北京市老龄协会发布报告显示，仅前三个月就监测到超过4.5万条关于"AI换脸造假"的舆情信息，其中针对老年人的诈骗案件尤为突出。这类案件利用AI技术伪造亲友形象，通过情感诱导实施诈骗，不仅造成巨额财产损失，更严重破坏了社会信任基础2.人工智能安全人工智能安全的具体类别可分为物理安全、网络安全和应用安全物理安全是人工智能安全的基础，涉及人工智能系统运行的物理环境和硬件设备的安全。例如，数据中心作为人工智能系统运行的重要基础设施，需要采取防火、防盗、防水等措施，保障数据中心的物理安全网络安全成为人工智能安全的关键环节。人工智能系统通过网络进行数据传输和交互，这使得其面临网络攻击的风险。网络攻击可能导致人工智能系统的数据泄露、服务中断或被恶意控制。例如，黑客通过攻击智能家居系统的网络接口，控制智能家电，窃取用户的隐私信息，甚至对用户的生活造成威胁应用安全关注人工智能技术在具体应用场景中的安全问题。在视频聊天场景中，AI变脸诈骗就是典型的应用安全问题。在金融领域，若人工智能系统存在安全漏洞，攻击者可能利用这些漏洞进行金融诈骗，给金融机构和用户带来巨大的经济损失。在医疗领域，一旦系统出现错误或被攻击，可能导致误诊、误治，危及患者的生命健康2.人工智能安全-防护与治理人工智能安全防护与治理是确保AI技术健康发展的重要保障体系在技术防护层面，数据安全是首要任务。联邦学习技术正在成为保护数据隐私的重要解决方案，它允许模型在数据不出本地的情况下进行协同训练模型安全与对抗样本防御也是人工智能安全防护的重要组成部分。随着对抗性攻击的不断增多，我们必须加强对人工智能模型的防护能力应用安全防护需要结合具体场景特点。在自动驾驶领域，多传感器和实时监控可以提高安全性。在医疗诊断领域人机协同决策，AI应该作为医生的辅助工具而非完全替代法律法规是人工智能治理的重要支柱,AI安全国际协作日益紧密2025巴黎AI行动峰会3.人工智能风险与规范人工智能应用风险算法偏见是当前最突出的社会影响之一。AI系统的决策往往依赖于训练数据，而数据中隐含的历史偏见可能导致算法产生歧视性结果。某快递平台的智能派单系统曾被研究发现存在隐性的地域偏见隐私保护是另一个亟待解决的社会影响问题。随着人脸识别、语音识别等技术的普及，个人生物特征数据的大规模采集和使用引发了大众担忧AI技术的滥用带来的社会危害同样不容忽视。深度伪造技术的快速发展使制作以假乱真的虚假内容变得轻而易举责任界定模糊是AI应用中的又一难题。当自动驾驶车辆发生事故，责任应该由车主、汽车制造商还是算法开发者承担？当医疗AI给出错误诊断，追责对象是医院、软件供应商还是数据提供方？3.人工智能风险与规范人工智能使用规范AI使用规范中最基础的是以人为本原则。这一原则强调任何AI技术的发展都应当以增进人类福祉为根本目的，不能将人作为技术实现的工具或手段公平非歧视原则要求AI系统应当平等对待所有用户，不因性别、年龄、地域等因素产生差别对待。实现这一原则需要从数据采集、算法设计到结果输出的全过程进行把控透明可解释原则强调AI系统的决策过程应当尽可能清晰、可理解。当AI应用于司法、医疗等关键领域时，不能仅给出结果而不说明理由安全可控原则要求AI系统必须具备可靠的安全保障机制。这既包括技术层面的系统稳定性，也包括应用层面的风险防控隐私保护原则在数据驱动的AI时代尤为重要。这一原则要求最小化数据收集范围，明确数据使用目的，并确保数据安全4.拥抱人工智能时代理解AI的本质是拥抱这个时代的第一步。AI不是魔法，而是人类智慧的延伸和拓展。它基于数据和算法，通过机器学习不断优化自身的性能积极应对AI带来的职业变化至关重要。随着AI技术的普及，一些传统工作岗位可能会消失，但同时也会创造出大量新的就业机会培养与AI协作的能力是未来职场的关键竞争力。AI擅长处理结构化数据和重复性任务，而人的优势则在于创造性思维和复杂决策建立正确的技术价值观是拥抱AI时代的核心要求。既要看到技术带来的