《信息技术伦理》课件 第7章：传媒领域AI换脸伦理分析

信息技术伦理——理论、方法与案例主编：左美云副主编：王亚妮、陈劭第7章：传媒领域AI换脸伦理分析本章目录7.1AI换脸场景中的技术7.2AI换脸场景伦理问题分析7.3AI换脸场景伦理问题的应对策略7.4伦理应对方案的实施与评估7.5结语问题引入真实情境2025年3月16日，央视新闻报道网络出现“张伯礼院士推荐美白护肤品”视频。画面和声音均仿冒本人。张伯礼公开表示从未使用、宣传或研究该产品，称视频内容完全虚构。课堂观察：同一段视频，哪些信息是报道确认的事实？哪些仍需要核验？教材依据：7.2.1｜案例报道时间与当事人回应AI换脸场景中的技术（1/2）技术目标：替换面部身份特征，同时尽量保持表情、姿态、光照和场景一致。静态照片换脸单幅图像中的人脸替换，常用于海报、照片和创意图像。录播视频换脸对连续画面处理，维持跨帧表情、动作与外观的一致性。实时直播换脸处理直播或实时视频流；扩散迅速，审核窗口更短。典型处理链路人脸检测关键点定位→特征编码身份迁移→图像融合视频输出教材依据：7.1｜技术目标与三类应用形态AI换脸场景中的技术（2/2）教材介绍的四类关键模型：功能有侧重，实际系统可能组合使用。01生成对抗网络GAN生成器与判别器对抗训练，推动生成内容逼真。02卷积神经网络CNN通过卷积层等自动提取人脸局部视觉特征。03自编码器AE编码成潜在表示，再解码重构相关图像特征。04扩散模型Diffusion逐步加噪与去噪，可生成高保真度换脸图像。教材依据：7.1｜GAN、CNN、AE与扩散模型案例背景与事实边界（1/2）核心案例：张伯礼院士AI伪造带货——区分报道事实与责任推断时间与地点2025年3月16日，央视新闻报道；网络平台短视频环境参与主体仿冒视频发布者、张伯礼院士、潜在消费者、平台及校方关键事件假冒肖像与声音推销护肤品→当事人否认→校方向网信部门发函证据来源教材引述央视新闻《院士带货竟是AI伪造》与当事人回应分析边界聚焦虚假商业宣传与人格权益；不判定具体账号的司法责任案例背景与事实边界（2/2）对照案例：张文宏医生仿冒直播与其他名人被伪造事件时间与地点2024年12月，社交平台传播仿冒“张文宏医生”的带货视频参与主体仿冒账号、张文宏医生、分享与购买产品的网友、平台关键事件推销所谓免疫产品→网友发现口型与声音不同步→本人澄清投诉证据来源教材第7.2.1节的案例叙述；其他名人案例作为补充背景分析边界仅比较低门槛伪造与传播风险；不合并不同案件的证据链伦理问题识别个体层面肖像、声音和名誉可能被侵犯｜消费者财产与健康权益受威胁社会层面虚假带货扰乱商业秩序｜“眼见为实”的公众信任被削弱治理层面标识、审核、溯源与追责不足｜投诉处置和跨账号治理难伦理问题与利益冲突核心冲突内容创新与流量收益，和人格权益、新闻真实性及公众知情权发生冲突价值／权利A内容创新、传播效率商业收益与流量增长冲突发生在无授权仿冒、虚构代言及带货价值／权利B肖像与声音权益真实性、公众信任利益相关方分析直接决策者违规运营者／工具商／平台权力：生成、发布、推送责任：核验、审核、标识直接受影响者被仿冒者与消费者诉求：人格权与真实信息脆弱性：难取证、难辨真伪间接受影响者传媒行业与社会公众影响：信任下降、市场失序代表：行业及消费者组织治理与监督者网信监管方与行业组织权限：监管、举报、处置责任：救济、问责和监督伦理决策八步法（1/2）流程型分析：从事实核对走向可执行方案第1步｜明确事实用5W1H核对是谁、做了什么、在哪里、为什么以及如何传播。第2步｜确定问题换脸仿冒带货是否损害真实信息原则与肖像、名誉权益？第3步｜识别相关方梳理运营者、当事人、消费者、平台、公众与监管者。第4步｜列出方案一：全面限制营利性换脸；

二：授权、标识、审核下规范使用。伦理决策八步法（2/2）流程型分析：从事实核对走向可执行方案第5步｜比较方案分别用功利论、义务论、德性论比较收益、义务和职业品格。第6步｜优选方案教材优选方案二：在规制框架下兼顾创新、知情与人格保护。第7步｜评估决策评估平台执行成本、违规收益变化和长期公信力。第8步｜行动反思完善审核与标识，监测新风险，持续更新技术和管理。四象限决策法（1/2）归因型分析：技术事实、利益诉求、社会影响与治理环境第一象限｜技术与事实低成本、多模态合成能制造高度逼真的虚假内容。识别技术、审核规则及追责机制面临滞后压力。第二象限｜相关方意愿被仿冒者：维护人格权益，不参与虚假代言。消费者：获取真实信息，避免财产与健康损失。方法互补：八步法解决“怎么做决策”；四象限法解释“风险从哪里来”。四象限决策法（2/2）归因型分析：技术事实、利益诉求、社会影响与治理环境教材依据：7.2.3｜四象限决策法第三象限｜个体与社会影响当事人：名誉受损、辟谣与取证成本上升。公众与行业：真假混淆、商业信任被侵蚀。第四象限｜外部环境约束法律：肖像可识别性等场景认定存在难点。平台与社会：内容审核压力大、风险辨识能力不足。方法互补：八步法解决“怎么做决策”；四象限法解释“风险从哪里来”。方案比较与选择：两条治理路径教材提出两项方案，采用功利论、义务论与德性论进行比较。方案一｜禁止营利性AI换脸优点：真实性底线清晰、可压低滥用风险。局限：对合法商业创新形成较强限制。方案二｜合规约束下适度使用强制标识、肖像授权、事前审核与追责。兼顾技术表达与公众权益，治理要求更高。功利论：关注总体福祉与误导损失；方案二注重平衡。义务论：真实性与尊重权利是底线；方案二以制度落实义务。德性论：在诚实、负责之外，保留审慎创新的实践智慧。教材结论：选择方案二，并建立完整的规范约束体系。肖像权保护：如何判断“可以被识别”？核心不是“有无原脸”，而是剩余形象是否能指向特定自然人。01主体身份及识别群体名人角色与标志性造型可能具广泛识别性；普通人应结合熟识群体判断。02外部形象显著特征不仅是五官，也可能包含体态、动作、服饰、特殊姿态等要素。03附加识别因素文字提示、同款妆造营销话术、熟悉场景与背景均会影响识别。交叉权利：肖像权还可能涉及人脸信息处理、个人信息保护与底图著作权。应对策略：两种方法如何转化为行动？从流程决策与风险归因共同指向：规范使用，而非一概否定技术。八步法带来的治理动作界定事实与相关方；比较“全面限制”和“规范使用”；落实授权、标识、事前审核；评估效果并复盘迭代。四象限带来的治理动作技术：标识、识别与溯源；法律：细化侵权认定和救济；平台：审核、下架与追责；社会：科普、举报与监督。共同目标：保护被换脸者人格利益，让公众可辨识、可投诉、可追责。推荐方案与设计原则方案二：授权使用+显著标识+内容审核+可追溯问责。合法授权确认肖像、声音以及底图相关使用权。真实告知对生成合成内容提供醒目标识，减少误认。风险分级商业推广、新闻传播等高风险场景从严审核。持续救济明确投诉入口、快速处置与责任记录。责任主体分工：“法律—技术—行业—公众”法律维度主管和执法部门规则：细化侵权认定执行：快查快处与救济协同：落实问责机制技术维度

研发企业与平台源头：授权与标识传播：AI检测＋人工复核证据：溯源存证行业维度媒体与行业协会规范：制定自律准则协同：共享检测工具培训：行业伦理检查公众维度消费者与社会公众识别：核查标识和来源监督：举报侵权内容参与：提出治理建议技术改造路径：源头—过程—溯源技术治理不等于仅做“深伪检测”；应覆盖从生产到分发的全流程。教材依据：7.4.2｜技术改造路径01｜源头防控工具内置AI标识；核验被换脸者授权；商业用途增加主体资质核验。02｜过程管控平台限制未标识商业合成内容传播；对生成主体、时间和修改记录留痕。03｜检测与追责多模态识别图像、音频不一致；提供轻量检测工具；形成动态防御和证据链。注意：识别技术与溯源技术本身也需要接受准确率、隐私和成本评估。制度完善策略：规则如何落地？以下为教材提出的治理建议，不应直接等同于现行法律的具体要求。01法律制度细化细化可识别性判断、侵权认定与举证救济；建立分级处置机制。02政策支持引导支持检测与标识研发；设置试点示范；推动跨区域跨境协作。03平台规则执行明确禁止／限制／允许内容；分级管理账号；构建投诉闭环。规范治理的关键：边界清楚、流程可核验、救济可获得。实施路径与责任分工01准备监管与机构：明确适用场景、授权、标识、审批点和应急预案02试点工具商／平台：限定商业测试范围，核验授权，记录误判与投诉03上线平台／行业：上线审核与举报处置，培训运营团队并公告规则04复盘监管／公众：抽查与审计，复盘损害事件，修订模型和运营规则实施评估与持续改进结果指标违规内容查处率、侵权损失变化、投诉人满意度过程指标授权验证、显著标识、人工复核与反馈流程是否落实分布指标老年用户、普通人／名人、中小平台所承受的风险差异异常指标误识别、数据泄露、投诉拥堵、过度删帖及追责失败反馈闭环事前准入→事中监测→事后复盘；记录责任与版本，定期优化。二次伦理问题：治理本身也需要治理过度监管区分恶意商业侵权与合法创意表达｜以比例原则避免“一刀切”技术公平检测工具普惠中小平台｜让老年用户也能清楚辨别生成标识隐私安全数据最小化、明确授权、加密存储｜严防换脸样本二次滥用本章结语核心判断：AI换脸的创新价值必须与人格权保护、真实传播同时成立。问题未经授权仿冒与虚假带货损害人格权益、消费者权益和社会信任。方法八步法提供决策流程；四象限法查找伦理风险的结构性来源。方案采用授权、标识、审核、追责的规范使用路径，并以四维共治保障。思考题与关键术语（1/2）思考题｜权利与信任1.未经明确同意使用他人肖像，其伦理边界在哪里？2.当“眼见为实”受到挑战，社会信任的根基如何重建？3.如何界定AI换脸对个人、消费者和社会造成的伤害？讨论提示：结合张伯礼案例，区分事实、价值与治理责任。思考题与关键术语（2/2）思考题｜治理与边界4.强制标识、深伪检测、区块链溯源如何防止被规避，同时避免新的隐私风险？5.跨境违规合成内容如何协同治理，并兼顾不同地区的监管差异？关键术语AI换脸｜人脸检