人工智能通识与伦理 课件 第8章 人工智能安全与发展

8.1人工智能安全风险与防护措施探讨AI应用风险、防护措施及治理，助力安全合理使用人工智能CONTENTS010203040506安全风险认知相关法律法规技术防护措施日常风险识别安全意识培养未来发展治理安全风险认知系统梳理AI在技术、应用、衍生层面的潜在安全隐患01聚焦AI模型算法与数据本身存在的原生安全问题技术内生安全风险模型算法缺陷数据安全隐患对抗攻击风险深度学习模型可解释性不足，推理过程不透明易导致决策不可预测训练数据可能含违法内容或被投毒，引发模型输出偏差或泄露信息攻击者构造恶意样本干扰模型，导致输出错误或系统运行不稳定分析AI在实际场景应用中面临的网络与内容安全挑战技术应用安全风险网络系统脆弱性信息内容风险现实安全威胁认知安全影响AI依赖的算力设施、组件存在漏洞，易遭攻击导致服务瘫痪AI生成违法有害信息或深伪内容，混淆事实误导用户AI应用于关键基础设施时，错误决策可能引发运行安全问题AI推荐算法加剧信息茧房，限制用户信息获取的多样性探讨AI应用对社会、伦理、环境等领域产生的间接风险应用衍生安全风险就业结构冲击资源消耗问题伦理安全挑战科研伦理风险AI替代传统岗位，导致部分劳动力需求下降算力设施建设与模型部署加剧能源资源消耗AI应用可能扩大智能鸿沟，引发社会歧视问题AI降低高风险科研门槛，可能导致违背伦理的研究相关法律法规介绍保障AI安全应用的核心法律框架与合规要求02运用人工智能等新技术，提升网络安全保护水平网络安全相关法律网络安全法（修订版第二十条）国家支持人工智能基础理论研究和算法等关键技术研发，推进训练数据资源、算力等基础设施建设完善人工智能伦理规范，加监测评估和安全监管，促进人工智能应用和健康发展国家支持创新网络安全管理方式，运用人工智能等新技术，提升网络安全保护水平010203保障AI应用中用户个人信息的合法权益个人信息保护法律个人信息保护法个人信息安全规范人脸识别技术应用规范规定AI处理个人信息需遵循合法、正当、必要原则明确AI收集、使用个人信息的安全操作要求限制AI在公共场所过度采集敏感个人信息技术防护措施阐述防范AI安全风险的技术手段与实施路径03从模型设计、训练到部署全流程强化安全防护模型算法安全应对提升可解释性对抗训练缺陷传导评估人类监督机制通过技术手段增强模型推理过程的透明度与可追溯性引入对抗样本训练模型，提高对恶意攻击的鲁棒性对开源模型进行安全审计，防范缺陷向下游应用扩散在模型训练中加入人工审核，减少偏见与错误输出010203建立数据全生命周期的安全管理体系数据安全风险应对合规数据采集数据清洗与过滤敏感信息保护遵循法律要求获取训练数据，保障数据来源合法去除训练数据中的违法有害内容，防范数据投毒对训练数据中的个人信息进行脱敏或匿名化处理1234强化AI系统的网络安全防护能力网络系统安全防护组件安全加固访问控制安全审计应急响应对AI依赖的框架、设施进行漏洞修复与安全加固实施严格的权限管理，防止未授权访问AI系统对AI系统的操作行为进行日志记录与审计分析建立AI安全事件应急机制，及时处置安全威胁日常风险识别提供普通用户在日常使用AI时的风险识别方法04010203指导用户辨别AI生成的虚假内容虚假信息识别方法交叉验证信息检查逻辑一致性关注信息来源通过多个可靠来源验证AI生成内容的真实性分析AI输出内容是否存在逻辑矛盾或不合理之处确认内容是否来自可信平台，是否有明确标识帮助用户避免在使用AI时泄露个人信息隐私泄露防范要点控制信息输入查看隐私政策定期清理数据使用隐私保护工具不向AI工具提供敏感个人信息，如身份证号、银行卡号了解AI工具如何收集、使用和存储用户数据删除AI工具中不必要的个人数据，减少泄露风险借助加密软件或隐私浏览器保护个人信息010203教用户识别AI生成的深度伪造内容深度伪造辨别技巧观察细节异常检查声音匹配利用检测工具注意视频中人物表情、动作是否自然，有无拼接痕迹确认音频与视频中人物口型是否同步，声音是否自然使用专业的深伪检测软件辅助识别伪造内容安全意识培养引导用户建立正确的AI安全使用观念与习惯05010203帮助用户理解AI安全防护的重要性安全防护认同感建立了解风险影响学习典型案例参与安全宣传认识AI安全风险对个人隐私、财产及社会的潜在危害通过真实案例了解AI安全事件的发生原因与后果通过课程、讲座等方式提升对AI安全的认知01020304培养用户在使用AI时的主动防护行为主动防护习惯养成定期更新软件谨慎授权权限验证信息真实性举报有害内容及时升级AI工具，修复已知安全漏洞不随意向AI应用开放过多系统权限，如相机、麦克风对AI生成的重要信息进行验证后再使用发现AI生成的违法有害内容及时向平台举报引导用户形成理性、健康的AI使用态度健康应用态度塑造避免过度依赖保持批判思维关注伦理影响合理使用AI工具，不替代自主学习与思考对AI输出内容保持怀疑，不盲目相信了解AI应用对社会伦理的潜在影响，规范自身使用行为未来发展治理探索AI安全与发展平衡的长效治理机制0601020304构建支撑AI安全发展的知识体系知识体系建设方向完善学科建设加强技术研究建立标准规范共享安全知识在教育体系中增设AI安全相关课程，培养专业人才开展AI安全技术研发，提升风险防范能力制定AI安全相关标准，指导行业合规发展建立AI安全知识共享平台，促进经验交流推动政府、企业、社会等多方参与AI治理多方协同治理思路政府监管引导企业主体责任社会监督参与国际合作交流制定AI安全政策法规，加强行业监管AI企业落实安全管理措施，保障产品安全鼓励公众参与AI安全监督，举报违规行为加强AI安全领域的国际合作，共同应对全球挑战实现AI安全与创新发展的良性互动安全发展平衡路径安全与创新并重动态治理机制包容发展理念在鼓励AI创新的同时，同步推进安全防护措施根据AI技术发展及时调整治理策略，适应新风险保障不同群体平等享受AI红利，减少智能鸿沟总结人工智能安全与发展是一项系统工程，需从技术、法律、意识等多维度协同推进。通过识别技术内生、应用及衍生风险，落实法律法规要求，采取技术防护措施，培养用户安全意识，并构建多方协同的治理体系，才能实现AI的安全、健康、可持续发展，让AI技术更好地服务于社会与个人。作业超星课程谢谢8.2人工智能安全治理指南解析人工智能安全治理框架，提升公众对AI风险的认知与应对能力CONTENTS010203040506治理原则框架核心实施路径实践应用参与机制任务实践治理原则明确AI安全治理的核心准则，平衡创新与风险防控01鼓励AI创新发展，同时严守安全底线，为新技术提供容错空间包容审慎原则创新容错底线坚守动态平衡对AI新技术新应用采取包容态度，允许在安全环境下试点探索对危害国家安全、公共利益的风险及时采取管控措施在鼓励创新与保障安全间寻求动态平衡，促进健康发展聚焦AI安全风险，实施分级分类管理，提升治理的针对性和敏捷性风险导向原则风险识别分级应对敏捷调整前瞻防范跟踪AI技术趋势，从技术、应用、社会影响维度梳理风险按应用场景、智能化水平、规模分级，采取差异化措施持续优化治理机制，对需监管事项及时响应预判潜在风险，提前制定应对策略，增强治理主动性整合技术手段与管理措施，构建多方协同的AI安全治理体系技管结合原则技术防护责任明确多方协同生态构建运用安全开发、数据治理、测评加固等技术提升AI安全性界定研发者、服务者、用户等主体的安全责任发挥政府监管、行业自律、社会监督的协同作用打造安全可靠、公平透明的AI研发与应用生态框架核心构建AI安全治理的整体框架，涵盖风险分类、技术与综合治理02系统梳理AI技术及应用中的安全隐患，为治理提供靶向依据安全风险分类技术自身风险应用场景风险衍生社会风险模型鲁棒性不足、算法偏见、数据安全漏洞等深度伪造、自动化决策不透明、隐私泄露等就业替代、伦理冲突、公共舆论误导等01020304从技术层面提出AI安全防护方案，增强系统内生安全能力技术应对措施模型安全数据安全算力安全应用安全通过对抗测试提升鲁棒性，降低算法偏见与决策风险优化训练数据质量，实施去标识化等脱敏处理加强算力设施的安全建设与运维管理对产品服务进行安全测评与持续监测加固推动多方主体参与AI治理，形成协同共治的良好格局综合治理措施主体责任机制协同国际合作风险共治明确研发机构、服务提供者、用户的安全责任整合政府监管、行业自律、社会监督等治理机制推动全球AI安全治理交流，共享最佳实践建立风险威胁信息共享机制，协同应对跨域风险实施路径明确AI安全治理的落地路径，从法规、伦理、全周期管理入手031234完善AI安全相关立法，为治理提供制度保障法律法规建设立法推动制度完善地方探索合规引导制定AI安全专项法律法规，明确监管要求建立分级分类监管、安全测评、最终用途管理制度鼓励地方结合产业实践，差异化创新制度设计引导企业落实法律法规要求，提升合规能力制定AI伦理规范，引导技术向善，防范伦理风险伦理准则构建准则制定伦理审查服务支撑价值对齐出台有广泛共识的AI科技伦理准则与指南对高风险AI研发活动规范开展伦理审查建设伦理服务体系，支持中小微企业合规发展推动AI系统与人类价值观、伦理规范相契合01020304覆盖AI研发、部署、运行全流程，提升安全管控能力全生命周期管理研发安全部署安全运行安全停用管理强化算法可靠性、透明度、隐私保护等内生安全设计制定模型选用、部署的安全基线，规范实施流程持续监测系统运行风险，及时修复漏洞与缺陷建立AI系统停用机制，保障数据与系统安全处置实践应用聚焦AI安全治理的具体实践场景，提升落地成效0401020304推广AI生成内容标识管理，保障信息真实性与可追溯性生成内容溯源标识规范技术应用渠道管理国际推广制定显式、隐式标识要求，覆盖制作、传播全环节运用数字水印、元数据等技术实现内容溯源推动平台落实内容标识责任，便于用户识别判断在全球范围内推广内容标识溯源管理范式针对重点行业制定AI应用安全指南，释放行业需求行业安全指南基础指南行业适配场景落地潜力释放制定大模型建设部署基础安全指南，明确安全基线结合能源、金融、交通等行业特点，制定专项指南针对具体应用场景，形成清晰的安全应用路径在安全前提下，推动行业AI应用创新与规模落地构建多层次AI安全测评体系，全面评估风险与安全能力安全测评体系模型测评应用测评场景测评漏洞众测聚焦鲁棒性、可靠性、对抗攻击防御等内生安全能力针对通用AI应用开展风险测试与评估结合具体场景评估安全需求满足能力与运行风险组织漏洞众测活动，汇集力量发现潜在风险参与机制构建多元主体参与的AI治理机制，凝聚治理合力0501020304加强AI安全人才培养，为治理提供智力支撑人才培养计划课程体系能力培养前沿布局生态建设推进AI安全课程建设，形成完整培养链条加强安全设计、开发、治理人才的技能培训支持重点领域顶尖人才培养，壮大专业队伍推动产教融合，促进人才供需对接提高全社会AI安全意识，营造共治氛围社会意识提升教育培训科普宣传行业自律社会监督面向政府、企业开展AI安全规范应用培训通过互动平台、社区活动普及安全风险知识指导行业协会制定高于监管要求的自律规范建立风险隐患举报机制，鼓励公众参与监督1234推动AI安全全球治理合作，构建共商共建共享格局国际合作推进多边机制南南合作标准协同经验共享参与联合国、APEC等多边框架下的治理进程加强与发展中国家合作，增强其治理话语权探索建立国际合作机制与技术标准，协同防范风险推广最佳实践，推动形成广泛共识的治理体系任务实践通过实践活动深化对AI安全治理的理解，提升参与能力06制定日常AI使用的伦理规范，引导负责任使用伦理使用指南制作内容创作隐私保护公平使用责任担当确保AI生成内容真实、合规，避免传播虚假信息不使用AI处理未授权的个人信息，保护数据安全警惕算法偏见，避免依赖AI做出歧视性决策对AI生成内容的后果负责，主动纠正不当输出01020304设计安全可靠的AI应用场景，体现安全与责任理念可信场景设计场景选择技术设计伦理考量治理嵌入选取教育、医疗等民生领域，明确安全需求融入隐私保护、算法透明、容错机制等安全措施确保场景应用符合伦理准则，尊重用户权益明确各方责任，建立风险监测与应对机制01020304从不同角色角度探讨参与AI治理的路径，增强责任意识治理参与讨