生成式人工智能全场景应用（微课版）课件 项目3　规范与边界-AI的安全与伦理

生成式人工智能·教材配套课件规范与边界AI的安全与伦理项目3·生成式人工智能全场景应用配套课堂课件项目03学习线索从风险到责任01识别风险看见技术可能伤害02守住边界尊重权利与规则03负责使用做出可解释选择本项目落点让创新不越过底线场景/项目三起事件，一条共同底线用教材情景制造风险感知。AI换脸侵害肖像与尊严；AI绘画卷入版权争议；模型拒绝不当新闻标题风险现场三起事件指向同一底线01肖像被滥用换脸可能伤害个人权益02版权有争议生成内容来源需要核验03价值需守底线能力之外还要价值判断判断原则先尊重权利，再追求创新学习目标本项目学习目标0301知识目标隐私偏见法规伦理02技能目标识别风险分析案例设计方案查阅规范03素养目标审慎责任数字公民项目学习路径学习路径：识别风险，划定边界041隐私安全→算法偏见与信息茧房→法律法规与伦理共识→攻防演练→…2理解方法理解方法3完成实战完成实战4复盘迁移复盘迁移学习阶段知识学习项目实战动手实践拓展与练习知识学习知识学习：AI风险发生在哪里从单点安全转向全生命周期视角。数据、模型、应用、内容传播彼此关联；风险可在采集、训练、推理和传播各阶段出现05教材原图AI数据生态系统06教材原图/软件截图AI数据生态系统示意图观察重点数据采集、存储、处理、模型训练、推理应用单个组件泄露可能产生级联效应知识讲解数据采集：看不见的“数据阴影”07课堂抓手行为、社交、物联网信息构成训练数据用户感知常低于平台掌握程度遵循目的明确、最小必要识别过度收集和超范围使用。先理解概念，再用任务验证并复盘。知识讲解模型训练：匿名化并不等于安全08课堂抓手模型逆向攻击利用模型输出反推训练特征或原始数据。成员推断攻击判断某个样本是否参与过模型训练。生成模型“过度记忆”可能复现训练数据中的敏感片段。联邦学习需与差分隐私等方法结合认识模型层隐私攻击。先理解概念，再用任务验证并复盘。流程与步骤推理与深度合成：风险如何扩散0901模型窃取、模型提取02Deepfake可用于诈骗、诽谤、舆论操纵03技术检测、法律规制、公众教育需协同04核验复盘连接模型接口风险与社会伤害。对比与决策隐私保护技术如何演进10视角一k-匿名→差分隐私→同态加密/联邦学习视角二从“保护数据”转向“保护计算过程”判断原则形成保护技术的层级概念。场景/项目课堂任务隐私侦探：头像App该要哪些权限将数据最小化原则用于日常应用。相机、相册可能必要位置权限与核心功能无关设备信息需说明用途列出三项用户保护行动教材原图算法偏见如何形成循环12教材原图/软件截图算法偏见循环示意图观察重点训练数据偏见特征与目标函数中的设计偏见反馈循环使初始差异不断自我强化知识讲解公平不是一个简单按钮13课堂抓手群体公平与个体公平数据重加权、对抗学习、公平表示学习技术选择仍依赖社会对“公平”的共识认识公平度量和治理难点。先理解概念，再用任务验证并复盘。知识讲解信息茧房：算法如何塑造认知14课堂抓手协同过滤强化已有偏好过滤气泡导致观点单一群体认知鸿沟扩大用户黏性与信息多样性存在张力解释个性化推荐的副作用。先理解概念，再用任务验证并复盘。流程与步骤打破信息茧房的三方行动1501技术增加“惊喜因子”和多样性02平台兼顾健康信息生态03用户主动跨主题、跨立场获取信息04核验复盘给出可执行治理框架。场景/项目课堂任务推荐算法偏见实验用两个画像训练批判性观察。为“28岁男性程识别性别刻板印象分析长期影响提出一个兼顾个性图文讲解法律法规体系的层级结构17基础法律网络安全法、数据安全法、个人信息保护法专门法规面向算法推荐、深度合成等具体场景。行业标准和指南提供可执行的评估、审查与操作要求。教材原图/软件截图法律法规体系的层级结构流程与步骤从事后追责到事前预防1801算法备案、安全评估、产品认证02步骤2伦理影响评估与伦理审查03覆盖AI全生命周期04核验复盘理解治理机制的变化。知识讲解五项常见AI伦理共识19课堂抓手人类福祉技术应用应首先增进人的安全与福祉。公平非歧视避免对群体或个人造成不合理差别待遇。透明可解释说明模型用途、依据、局限与影响。隐私保护遵循知情同意、最小必要与安全处理。问责制明确开发、部署、使用各方的责任与救济。提供案例判断的价值标尺。法律给底线，伦理给方向先理解概念，再用任务验证并复盘。场景/项目课堂任务伦理审查官：招聘系统与写作助手综合运用法规和伦理原则。场景A使用教育、场景B将用户内容分别判断必要性、场景/项目任务3-1AI安全与伦理攻防演练从风险认知进入安全实践。四个维度目标是识别漏洞、项目学习路径四支战队与四步行动蓝图221A隐私安全组、B算法公平组、C内容安全组、D系统安全组2场景库→智能裁判→四轮对抗→复盘体系3完成实战完成实战4复盘迁移复盘迁移教材原图共建AI安全风险场景库23教材原图/软件截图创建腾讯文档观察重点每组5个真实场景四列为风险类型、风险识别、漏洞利用、防护方案方案必须可验证、不能只写口号教材原图多人协作：让证据可追溯24教材原图/软件截图设置多人协作权限观察重点设置所有人可编辑保留资料来源、修改记录、攻击与防御证据共享不是泄露敏感信息的理由知识讲解搭建“智能裁判系统”25课堂抓手公正无私、证据为王、专业严谨、清晰透明裁决必须给依据模型不得自动成为最终权威学会把评分规则写进提示词。先理解概念，再用任务验证并复盘。场景/项目课堂任务四轮循环赛怎么打说明课堂演练节奏和红蓝队任务。每轮15分钟隐私、公平、内容表格与复盘攻防复盘：从单点措施到体系防御2701识别3个高威胁攻击向量；评估3项有效防御及局限02找关键转折点03从静态规则转向动态检测响应复盘提示将演练经验抽象成方法。场景/项目任务3-2AI版权与换脸边界案例启动法律伦理综合分析。小王AI绘画被质疑模仿小林照片被核心问题是独创性案例与实践建立“AI内容纠纷案例库”29课堂任务01A组收集AI绘画版权案例；B组收集AI换脸案例完成标准02字段为案例来源、核心事实、争议焦点、判决结果交付成果03优先使用权威来源课堂要求训练事实、争点、结论分离。教材原图上传案例库，让AI辅助而非代替判断30教材图1导出“AI版权与换脸案例分析库”Excel表格教材图2Kimi上传附件的位置教材图3完成附件上传演示材料导出和附件上传。对比与决策“参考风格”与“复制表达”的边界31“参考风格”风格通常属于抽象层具体构图与表达可能受保护“复制表达”的边界保存Prompt、参数、版本与人工修改记录最终结论需以权威法律意见为准判断原则把抽象版权问题转成可操作检查。流程与步骤从案例库到校园使用规范3201按课程作业、学科竞赛、校园文创商用分场景02每个场景写法律依据、操作步骤、风险警示、正反案例03明确AI辅助标注04核验复盘形成课堂可交付成果。案例与实践动手实践与即时检测33课堂任务01医疗建议风险排