《人工智能导论》教学设计 第7章 人工智能的未来挑战与责任-教案

人工智能通识课教学设计课程名称：人工智能通识课授课年级：大二各年级授课学期：2026-2027学年第1学期教师姓名：任课教师专业类别：理工科（非计算机类）上课地点：多媒体教室总学时：48学时（理论16+实验32）使用教材：人工智能导论日期：2026年09月教案正文课题名称第7章人工智能的未来挑战与责任计划学时2学时内容分析本章是全课程的收官之章，从"技术"转向"治理与伦理"。

内容涵盖AI四大风险类型（幻觉/偏见/隐私/深度伪造）的真实案例分析、

全球三大AI治理范式对比（欧盟风险分级/美国行业自律/中国发展与治理并重）、

"负责任AI"五层框架（安全/公平/透明/隐私/人类可控）、

可解释性AI（XAI）的核心价值，以及AI"能为"与"不能为"的全课程总结。

本章旨在帮助学生完成从"AI使用者"到"负责任的AI时代公民"的观念跃迁。思政融入通过AI换脸诈骗等国内真实案例，引导学生树立数字公民意识与自我保护意识；

通过全球三大治理范式对比，展示我国"发展与治理并重"方案的前瞻性与体系性优势；

通过"负责任AI"五层框架的学习，培养学生"以人为本、智能向善"的技术价值观，

引导他们成为有担当的AI时代建设者。一、教学目标及基本要求【知识目标】·了解AI技术应用中的主要风险类型——幻觉、偏见、隐私泄露与深度伪造；·熟悉全球三大AI治理范式（欧盟风险分级/美国行业自律/中国"发展与治理并重"）的基本思路；·掌握"负责任AI"的五层框架——安全可靠/公平无偏见/透明可解释/隐私保护/人类可控。【能力目标】·能够运用"可解释性AI（XAI）"视角分析具体AI应用（如肺炎诊断AI）的黑箱风险；·能够识别日常生活中AI偏见和深度伪造的典型案例，并提出基本的防范建议；·具备初步的AI治理素养，能理性看待AI的"能为"与"不能为"，形成独立的技术判断力。【素养目标】·树立"以人为本、智能向善"的技术价值观，明确AI技术必须服务于人类福祉；·增强数字公民意识，能够主动识别和抵制AI滥用行为（如AI换脸诈骗）；·培养"发展与治理并重"的系统思维，成为负责任的技术使用者与未来的建设者。二、教学重点、难点与教学方式教学重点1.AI四大风险类型（幻觉/偏见/隐私/深度伪造）的具体案例与危害分析；

2.全球三大AI治理范式的对比分析；

3."负责任AI"五层框架的核心理念。教学难点1.可解释性AI（XAI）的核心价值——不仅要知道AI"说了什么"，还要知道它"为什么这么说"；

2.如何在"技术发展"与"伦理约束"之间找到平衡点——不是非此即彼，而是"在发展中治理，在治理中发展"；

3.培养学生独立的技术判断力——不盲目恐惧AI，也不盲目信任AI。教学方式以案例教学为主，通过肺炎AI"黑箱"、ChatGPT虚构判例、Tay聊天机器人被"教坏"、亚马逊招聘AI性别歧视等真实案例引发思考；

安排小组讨论与课堂辩论，围绕"AI换脸技术该不该被禁止"展开思辨；

引导学生以"负责任的AI使用者"身份，制定个人的AI使用准则。三、教学过程第一课时（AI的风险与危机）1.创设情境，导入新课(1)教师展示真实新闻截图："某公司遭遇AI换脸诈骗，10分钟被骗走430万元"——引发学生对AI风险的关注。(2)教师提问："学了7章AI，你觉得AI最大的风险是什么？是它太笨了还是它太聪明了？"(3)明确目标：系统认识AI的四大风险，建立"技术不是中立的"这一基本认知。2.进行重点知识的讲解（1）AI幻觉——"一本正经地胡说八道"案例1：美国律师用ChatGPT撰写法律文书，ChatGPT虚构了6个不存在的判例，律师在法庭上引用后被法官发现——该律师面临纪律处分。案例2：肺炎诊断AI——模型基于"拍摄设备型号"而非"肺部病灶特征"来判断，因为训练数据中某一型号设备拍的X光片几乎全是肺炎患者（数据偏差）。一旦更换设备，诊断准确率骤降。这就是"黑箱"问题——你不知道AI的决策依据是什么。课堂讨论："如果AI医生给你开了药，你敢不敢吃？你凭什么相信或不相信？"（2）AI偏见——"算法的数学公式也会歧视人"案例1：亚马逊招聘AI——训练数据是过去10年的简历和录用记录（以男性为主），AI学会"偏好男性简历"，给含"women"字样的简历降分。案例2：Tay聊天机器人——微软在Twitter上发布的AI聊天机器人，不到24小时被网友"教坏"，开始发表种族歧视和性别歧视言论。偏见来源：数据偏见（训练数据反映人类社会已有偏见）、算法偏见（模型学习到不相关的伪相关）、交互偏见（用户恶意引导）。（3）隐私泄露与深度伪造隐私风险：向AI上传的个人信息可能被纳入训练数据、被其他用户查询到或遭到数据泄露。深度伪造（Deepfake）：AI换脸技术被用于制作虚假色情视频、伪造政治人物演讲、制造假新闻。课堂辩论："AI换脸技术是否应该被全面禁止？正方：应该禁止，危害太大。反方：不应全面禁止，技术在影视制作/教育等领域有正面价值，关键在于规范使用。"3.归纳总结，布置课后作业(1)课堂小结：AI四大风险——幻觉（事实错误）→偏见（歧视放大）→隐私（数据失控）→深度伪造（身份盗用）。(2)课后作业：收集一个AI风险的新闻案例，分析其风险类型、产生原因和可能的防范措施；预习7.2节AI治理与未来。第二课时（AI治理与"负责任AI"的未来）1.回顾上节课内容，明确本节课学习目标(1)快速回顾：AI四大风险——幻觉/偏见/隐私/深度伪造。(2)引出问题："面对这么多风险，全球各国是怎么应对的？我们每个人又能做什么？"2.进行重点知识的讲解（1）全球三大AI治理范式治理范式核心理念代表地区特点风险分级监管按AI应用风险等级分类管理（不可接受/高风险/有限风险/低风险）欧盟（EUAIAct）全球首部综合性AI立法，对高风险AI系统实施严格准入行业自律为主鼓励企业自我约束+行业标准，政府干预最小化美国强调创新优先，避免过度立法"扼杀技术"发展与治理并重"在发展中治理，在治理中发展"——发展与安全两手抓中国出台《生成式AI服务管理办法》等法规，强调统筹发展与安全（2）"负责任AI"五层框架安全可靠：AI系统应稳定运行，能抵御攻击，不造成意外伤害。公平无偏见：AI不应因种族、性别、年龄等因素产生歧视性结果。透明可解释：AI的决策过程应向用户公开，让人能理解"为什么得出这个结论"（XAI-可解释性AI）。隐私保护：AI在收集和使用数据时应尊重用户隐私，遵守数据保护法规。人类可控：重大决策的最终决定权应保留在人类手中，AI是辅助工具而非最终决策者。（3）AI的"能为"与"不能为"——全课程总结AI能为：处理海量信息、识别复杂模式、执行高重复性任务——是"人类能力的放大器"。AI不能为：没有真实理解（只是统计关联）、会产生幻觉、没有真实情感、不具备道德判断能力、不会主动思考"应该做什么"。核心结论：AI是人类能力的放大器，而非替代者。面对AI时代，我们需要的不是恐惧也不是盲从，而是——理解它、善用它、警惕它、让它服务于人。3.归纳总结，布置课程总结作业(1)课堂小结与全课程回顾：7章内容思维导图——第1章（AI概览）→第2章（大模型）→第3章（智能体）→第4章（ML）→第5章（ANN）→第6章（DL）→第7章（治理与未来）。(2)课堂讨论："学完这门课，你对AI的看法有什么改变？你觉得自己准备好了吗？"(3)课程总结作业：写一篇不少于800字的学习总结，题目为《AI时代的我：认识、能力与责任》，要求：①回顾