《人工智能通识》-项目5-5 AIGC视频生成应用 - 人工智能伦理案例

A/o6项目6AIGC视频生成应用机械工业出版社《人工智能通识》配套资源制作：教材编写团队A

IGC用

Ⅲ本课件为《人工智能通识(AIGC

版)》配套教学资源，由编写团队精心打造。为便于教学使用，团队同步提供了丰富的辅助材料，涵盖微课视频、教学课件、实训手册、习题答案、课程标准及程序源代码等。同时，教材配套超星教学示范包，支持一键克隆为网络在线课程，助力高效开展线上线下混合式教学。欢迎联系出版方订购使用。书名：《人工智能通识(AIGC

版

)

》书

号

：978-7-111-79447-9出版社：机械工业出版社主

编

：蓝永健、吴秀红、罗智聪副主编：邓爱玲、王有铭、叶菊、周弢人工智能通识蓝永健吴秀红罗智聪◎主编

(AIGC版)新理念：立德树人，价值引领，有机融入对人工智能相关能力和素养的培养，服务国家战略

新内容：对接国家相关标准，项目引领，合理进行结构编排，内容循序渐进，突出能力培养

断形杰：图文并茂，印刷精美，配套丰富的数字资源，纸质和数字有机融合，易救易学易用PART

FOUR人工智能伦理案例分析深度伪造的伦理问题案例分析深度伪造(Deepfake)作为人工智能领域的一项前沿技术，在近年来引发了诸多严重的伦理问题。它利用深度学习算法

等技术手段，对视频、音频等内容进行篡改或生成虚假信息，

严重威胁着社会的稳定、个人的名誉与隐私等，对人类社会

的价值观和信任体系造成了极大的冲击。Level1:

多学科融合备课资源整合(1)乌克兰总统被伪造投降视频:2022年，

一段篡改泽连斯基口型的视频在网络上流传，视频中的他被伪造说出“乌克兰宣布放

下武器”,引发了公众的广泛关注和热议。(来源：澎湃新闻，

2022)4.人工智能伦理案例分析深度伪造的伦理问题案例分析(2)林俊杰起诉B站及UP

主侵犯肖像权:歌手林俊杰起诉B站某UP主(视频上传者),认为对方利用其肖像进行AI换脸，侵犯其个人肖像权。涉案侵权视频共有6部，目前已经全部下架，从标题来看，均为使用林俊杰肖像，替换原视频人物的“换脸”恶搞类视频。

(来源：腾讯网，2021)4.人工智能伦理案例分析深度伪造的伦理问题案例分析(3)AI

“复活”已逝明星成生意引争议：近期，社交平台出现Al“复活”已逝明星的生意，还衍生课程售卖、招募代理等，收费几百至

上万元。此举涉嫌侵权、恶意炒作，既触碰法律红线，又违背公

序良俗，亟待加强监管，确保技术在合规与伦理框架内发展。

(来源：央视网，2024)4.人工智能伦理案例分析深度伪造的伦理问题案例分析(4)ChatGPT

提供虚假案例致30年老律师执业受限:美国一位从业30年的律师，在准备案件文书时使用ChatGPT提供材料，文书中引用的6个案件均不存在，导致其被禁止在纽约南区执业。此

事引发法律界对使用Al的讨论，虽然AI可为法律工作提效，但目

前存在编造内容等风险，使用时需谨慎验证。(来源：澎湃新闻，

2023)4.人工智能伦理案例分析深度伪造的伦理问题案例分析分析讨论从人工智能伦理角度来看，部分技术开发者和使用者在追求技术应用和商业利益的过程中，忽视了技术可能带来的伦理风险和社会危害，缺乏对他人权益和公共利益的尊重与保护。如在ChatGPT“捏造”虚假司法案件事件中，开发者未充分考虑到模型生成内容

可能对司法公正和公众认知产生的误导影响。另一方面，人工智能领域发展迅速，相关的

伦理规范和监管机制相对滞后，无法对深度伪造技术的应用进行有效地约束和监督。导致

一些不法分子或不良商家有机可乘，利用技术漏洞进行违法犯罪活动，如制作和传播虚假

的政治视频、AI换脸视频等，严重侵犯了个人隐私、名誉权和公共安全。Level5:生成教学辅助图，让备课更直观深度伪造的伦理问题案例分析思考和建议其一，技术监管与创新要并重。

一方面，加大深度伪造检测技术研发力度，利用技术对抗技术；另一方面，要求企业和机构建立严格技术审核机制，防止技术被滥用。其二，

法律法规与伦理规范要完善。加快制定相关法律法规，明确技术应用边界，依法惩处违法

者。同时，制定人工智能伦理规范，引导技术开发者和使用者树立正确伦理观念。其三，

公众意识与教育要提升。通过多种途径普及人工智能技术和伦理知识，提高公众辨别能力

与自我保护意识，培养信息素养和批判性思维。解决深度伪造的伦理问题需要从技术、法律、伦理和公众教育等多个方面综合施策，通过各方的共同努力，才能确保人工智能技术的健康、可持续发展，让人们在享受技术带

来的便利和创新成果的同