人工智能基础及应用课件 模块三-任务三-2-大模型与AIGC应用的伦理与安全

大语言与AIGC在不同行业的应用大模型与AIGC应用的伦理与安全技术应用中的风险问题类型主要表现形式典型案例内容真实性与造假风险利用AIGC生成虚假信息、深度伪造视频或图像，误导公众、造谣传播2024年初有诈骗分子通过公司的YouTube视频和从其他公开渠道获取的媒体资料，仿造了英国公司高层管理人员的形象和声音，骗取财务职员2亿港元。隐私保护与数据安全AI训练数据中包含个人信息、面部图像等，易引发隐私泄露和滥用ClearviewAI收集30亿张脸部照片用于人脸识别，引发全球隐私争议。使用合规与法律边界AI用于非法用途（如诈骗、违规广告），或生成内容侵犯他人版权2024年，某短视频平台利用AI生成广告语侵犯原创作者版权，被责令下架并赔偿。人工智能的责任边界AI决策造成误伤、歧视或错误引导时，责任归属不清，易引发法律纠纷2023年，ChatGPT生成错误医疗建议被用户采信，引发关于AI误导责任的广泛讨论。如何应对风险技术层面风险识别能力防护工具应用风险识别能力要学会辨别AI生成内容的真伪。防护工具应用掌握基本的数字安全工具，如使用VPN保护网络隐私、安装杀毒软件防止恶意程序。法律层面了解法律底线遵守行业规范了解法律底线：《著作权法》规定，直接使用AI生成的作业、设计作品可能涉及侵权。商用AI内容必须获得授权或进行实质性修改。遵守行业规范：不同专业领域有特殊规定。伦理层面建立正确价值观保持人文关怀建立正确价值观：在使用AI工具时，要始终坚持“科技向善”原则。保持人文关怀：虽然AI可以24小时工作，但在需要情感交流的领域，人类的温暖不可替代。如何应对风险——以图像生成技术应用为例隐私泄露风险：图像生成模型在训练过程中可能使用了未经授权的个人图像，若生成结果包含或还原出真实人物特征，可能侵犯他人隐私权。误导与造假风险：通过技术手段生成的逼真图像可能被用作虚假新闻、诈骗、假证件、误导公众等违法行为。算法偏见与歧视：生成模型训练数据不均衡，可能导致对某类人群的刻板印象或排斥，造成算法歧视。图像生成技术应用的安全与风险问题伦理与法律问题：图像生成结果可能侵犯版权（如用名人照片训练生成模型），或未经授权生成他人图像，在伦理和法律上存在争议。误用与滥用风险：某些领域（如医疗或工业）如果图像生成结果存在误差，可能造成错误判断，带来严重后果。如何应对风险——以图像生成技术应用为例应用场景主要风险具体表现规避或解决措施人脸生成隐私泄露与身份滥用生成的人脸可能与真实人物相似，被恶意用于假证件、诈骗或深度伪造视频制定数据合规使用规范；在生成结果中加入数字水印；建立法律追责机制艺术创作版权争议与伦理问题使用未经授权的作品或风格进行训练，可能侵犯原作者权益采用公开授权或开源数据集；建立版权声明和许可机制；推动合理使用制度图像修复误导与真实性问题修复后的图像可能扭曲事实，被用于伪造证据或篡改记录明确标注修复图像与原始图像的差异；限制敏感领域使用；保留原始数据备份工业应用误用与安全风险在工业设计、检测中若生成图像存在偏差，可能误导工程判断，导致安全事故在生成系统中增加人工校核环节；结合物理仿真与实测数据进行验证医疗影像数据增强与去噪诊断风险与伦理问题若生成影像存在细节偏差，可能导致误诊或误治，危害病人安全严格限制模型在临床中的直接使用；生成结果仅用于科研或教学；需经多方专家复核图像生成技术应用的风险问题及其解决措施如何应对风险——以视频生成技术应用为例风险类别描述隐私暴露与肖像权侵害视频生成中可能使用真实人物的影像或外貌，但未经授权生成其可识别面孔或声音，侵犯个人隐私或肖像权。误导性伪造与假信息传播利用视频生成技术伪造某人说话、做事的场景，用以误导公众舆论、造谣或诈骗。伦理与法律责任问题生成的视频可能触犯法律（如发布不当内容、违反版权或隐私法）、道德上引发争议（如名誉受损、性别歧视等）。滥用或欺诈风险恶意用途，如金融诈骗、身份冒充、营销欺诈等，通过视频模仿高管或公众人物进行诈骗。算法偏见与公正性问题如果训练数据不平衡，可能导致对某些人群、种族、性别或文化的刻板图像或负面偏见被放大或歪曲。内容安全与伦理审查困难视频中可能生成暴力、色情、歧视、涉政、仇恨言论等内容，不易被自动检测或控制；错误自动生成时审核成本高。视频生成技术应用的道德风险如何应对风险——以视频生成技术应用为例数据与内容授权：保证训练与使用的影像素材拥有合法授权，受肖像权与隐私权保护；生成视频前若涉及真实人物，应获得其同意。内容标识与透明度：在使用生成视频时，明确标注“合成内容”或“AI生成”使观看者知情；在公共传播中采用水印、元数据等方式增加可追溯性。伦理与法律规范结合：遵守法律法规，包括深度合成内容管理规定、隐私法规等，并建立合规审核流程，确保内容不涉敏感、虚假或违法情节。应对视频生成技术应用风险的解决方案技术层面防护与检测：开发深伪/伪造视频检测工具，对生成内容进行自动