《人工智能应用带来的安全与伦理挑战》教学设计-2026-2027学年苏科版九年级信息技术全一册

《人工智能应用带来的安全与伦理挑战》教学设计-2026-2027学年

苏科版（新教材）初中信息技术九年级全一册

一、学情分析

九年级学生已经在前序单元系统学习人工智能基础技术、生成

式AI、智能生活应用，日常高频使用AI绘画、智能推荐、人脸识

别、AI问答工具，对人工智能优势具备直观体验，但辩证认知存在

明显短板。

1.认知优势：学生熟悉校园、短视频、生活服务类AI场景，具

备基础信息检索、案例分析能力，乐于课堂讨论、小组思辨，

能结合自身使用经历发表观点。

2.认知短板：多数学生只关注AI便捷性，忽视隐藏风险；难以

区分安全风险与伦理问题两类概念；对数据泄露、算法偏见、

深度伪造、版权侵权等危害认知浅显，缺乏隐私保护、技术向

善的责任意识；容易产生“技术中立无对错”的片面认知。

3.学习需求：需要生活化真实案例、分层思辨活动、师生问答引

导，将抽象安全伦理概念转化为可感知、可辨析的现实问题，

贴合线下实景课堂互动模式。

二、教材分析

本课时是第六单元开篇基础课，承接前五单元人工智能技术应

用内容，为后续《安全可信人工智能的构建》提供问题导向，是单

元逻辑起点。

教材课文主体分为两大板块：第一板决人工智能安全挑战，细

分数据安全风险、算法安全风险、智能设备安全风险；第二板块人

工智能伦理挑战，包含算法公平、深度伪造、人机责任、版权与创

作伦理四大内容。教材搭配人脸识别、AI换脸、短视频算法推荐、

AI作文绘图等初中生贴近案例，设置课堂思辨题、小组探究表格、

生活风险自查清单三类配套学习活动。

教材编写逻辑遵循“生活场景一暴露问题一分类归纳一辩证反

思”，不堆砌专业术语，立足青少年使用场景，核心育人目标是引

导学生辩证看待A1,识别技术负面隐患，区分安全与伦理两类问

题，为下一节课学习解决方案铺垫问题基础，是落实信息社会责任

核心素养的关键课时。

四、核心素养目标

(-)信息意识

1.能结合教材案例与自身生活，全面识别人工智能在数据、算

法、设备层面的安全隐患，区分物理安全、网络数据安全、模

型安全三类风险。

2.清晰辨析AI应用中的伦理矛盾，主动感知AI风险对个人权

益、社会秩序的负面影响，建立“技术便利伴随风险”的辩证

信息认知。

(二)计算思维

1.能够对教材给出的各类AI负面案例拆解分析，归纳安全挑

战、伦理挑战的分类框架，搭建“场景一问题一危害”的逻辑

分析模型。

2.通过小组讨论梳理风险产生底层原因：数据采集不规范、算法

设计存在偏向、人为滥用技术、监管规则不完善，形成系统化

问题拆解思维。

（三）数字化学习与创新

1.依托教材探究表格，小组合作搜集校园、家庭AI风险实例，

完成案例分类整理，提升数字化素材整理、协同探究能力。

2.结合课堂思辨活动，创新梳理个人AI使用风险自查清单，将

课堂知识转化为日常数字化行为判断工具。

（四）信息社会责任

1.知晓滥用AI、忽视数据隐私、传播伪造A1内容需要承担相

应责任，树立尊重他人肖像、创作、隐私权益的底线意识。

2.形成理性、审慎使用人工智能的态度，拒绝恶意使用AI伪

造、侵权、窥探他人信息，初步建立“技术向善”价值观念。

五、教学重难点

教学重点

1.依据教材课文内容，准确区分人工智能安全挑战与伦理挑战两

大类别，掌握各自包含的典型问题。

2.结合教材配套真实案例，分析数据泄露、算法偏见、深度伪造

三类高频风险的形成过程与现实危害。

教学难点

1.从底层逻辑区分安全问题（技术漏洞、外部攻击）与伦理问题

（价值偏向、人为滥用、道德冲突），避免概念混淆。

2.辩证看待人工智能利弊，不极端否定技术，形成客观、中立的

技术评价思维，建立长期数字化责任意识。

六、教学过程

(-)情境导入：生活AI场景思辨，引出本课主题

教师展示教材开篇配图：校园人脸识别门禁、短视频AI推荐

界面、A1绘图软件、智能语音音箱四幅场景图。

师：同学们，教材开篇列举了我们每天都会接触的四类人工智

能应用，谁来说说这些工具给生活带来了哪些便利？

生1：人脸识别进校园不用刷卡，进出校门更快捷；短视频AI推

荐能快速刷到喜欢的内容。

生2：AI绘图可以快速画出手抄报素材，智能音箱语音控制家电很

方便。

师：大家说得很全面，教材第一段原文写道：“人工智能全面

融入教育、出行、娱乐、家居场景，极大泥升生活效率，但技术快

速普及的同时一，各类潜藏的安全、伦理问题随之显现，我们不能只

享受便利，更要看见背后的风险。”

师：老师带来两个真实事件，大家思考隐患在哪里：第一，有

同学用AI换脸工具修改同班同学照片发社交平台；第二，智能手

环APP强制采集完整身份证、家庭住址数据，不授权就无法使用。

这两件事分别是什么层面的问题？

生：第一件是侵犯别人肖像，第二件是软件乱收集个人信息。

师：这两类问题恰好对应本节课两大核心内容一一人工智能伦

理挑战、人工智能安全挑战，今天我们跟随教材内容，系统梳理AI

应用带来的双重风险。

设计意图：依托教材开篇图文导入，用学生亲身经历的场景降

低陌生感，通过对比案例初步区分安全、哈理两类概念，设置课堂

主线问题，激发学生探究欲望，贴合线下班级互动授课模式。

(-)新知模块一：教材原文研读一一人工智能应用的安全挑战

教师带领学生齐读教材安全挑战板块完整课文，分段拆解知识

点，同步出示《AI安全风险分类梳理表》板书图表。

安全教材定义典型教材案例核心危害

风险

分类

数据AI运行依赖海量用户人脸识别设备采集个人隐私外

安全数据，数据采集、存人脸数据；AI工泄，被广告

风险储、传输环节存在泄具强制收集手机骚扰、电信

露、滥用风险号、身份证诈骗

算法AI算法、训练模型存智能导航算法被恶智能系统判

与模在漏洞，易被恶意篡意干扰；AI识别断失灵，影

型安改、攻击，输出错误模型识别精度被人响出行、安

全风结果为破坏防判断

险

智能搭载AI的硬件设备家用智能摄像头、私人生活画

设备存在系统漏洞，易被语音音箱被黑客远面、对话被

安全入侵控制程操控非法窃取

风险

分段师生问答讲解教材文本

1.研读教材.数据安全风险”段落

师：教材原文提到“绝大多数人工智能系统依靠用户数据完成训

练，部分厂商过度采集无关个人信息，存储防护措施不足，极易引

发数据泄露”，大家结合智能作业APP谈谈，哪些信息属于过度采

集？

生1：有些作业软件不仅要姓名班级，还要家庭住址、家长工作单

位，这些和写作业无关。

生2：人脸门禁永久保存所有人面部照片，没有设置自动删除期

限。

师：回答精准，教材标注补充：人脸、声纹、指纹属于生物特

征数据，一旦泄露无法更换，比手机号、密码泄露危害更大，这是

AI独有的数据安全隐患。

师：如果平台把我们的人脸数据卖给第三方商家，会带来哪些连锁

问题？

生：会收到大量精准推销电话，甚至有人冒充家长进行诈骗。

2.研读教材“算法模型、智能设备安全”段落

师：教材举了智能监控摄像头被入侵的案例，大家思考，普通监控

和AI智能摄像头安全风险有什么区别？

生：普通摄像头只有画面，AI摄像头存储人脸、行为数据，泄露后

信息更多。

师：完全正确，A1设备搭载识别算法，储存的是经过解析后的

个人特征数据，攻击价值更高。算法漏洞则会直接让AI判断失

效，比如自动驾驶算法遭攻击会识别错交通标识，引发安全事故。

设计意图：以教材原文为讲解主线，配套结构化表格梳理零散

知识点，分层问答引导学生结合校园软件、家居智能设备解读文

本，把书面定义转化为现实可感知风险，帮助学生攻克“安全风

险”核心重点。

（三）新知模块二：教材原文研读一一人工智能应用的伦理挑战

教师过渡：安全风险大多来自技术漏洞、外部恶意攻击，而教

材第二大板块伦理挑战，更多是技术使用中的价值、道德、公平冲

突，和人为使用方式密切相关。带领学生精读教材伦理板块全文，

分四大议题展开案例研讨。

议题1:算法公平（教材核心案例：个性化推荐、智能升学测评）

师：教材原文：“算法训练数据存在编向，会输出不公平结

果，形成算法偏见，加剧信息茧房、群体差异。”短视频AI推荐

就是典型，大家长期刷同类视频会出现什么现象？

生：平台只推送一种类型内容，看不到其他观点，视野变窄。

师：教材补充案例：部分求职AT筛选系统训练数据多来自男

性简历，会自动压低女性求职者评分，这就是算法偏见带来的不公

平，算法本身没有对错，但训练数据的偏差会造成伦理不公。

师：谁能说说算法公平的核心要求是什么？

生：算法不能区别对待不同人群，推荐内容要多元，评判标准不能

带固有偏见。

议题2：深度伪造技术滥用（教材案例：AI换脸、A1模拟人声）

师：教材明确说明：深度伪造依托AI图像、语音生成技术，

可以合成不存在的音视频素材。现在很多线上工具零门槛就能制作

伪造内容，带来严重伦理问题。

师：如果有人用AI换脸，伪造老师、家长发言视频，会造成哪些

不良后果？

生：容易制造谣言，欺骗同学、家长，损害他人名誉。

师：教材特别标注法律提示：未经本人允许伪造他人肖像、语

音进行传播、造谣，既违背伦理道德，也违反相关法律法规，需要

承担责任。

议题3：人机责任边界（教材案例：AI辅助完成作业、AI医疗诊

断）

师：教材思辨题：用AI完整代写作文、全套作业，责任属于

学生还是AI?AI诊断出现判断误差，责任由医生还是算法开发者

承担？

小组短暂讨论后学生作答：

生1：作业完全靠AI写，是学生自身偷懒，主要责任在使用者。

生2：AT只是辅助工具，最终判断、操作的人要承担全部责任。

师：总结教材观点：人工智能不具备独立责任承担能力，所有

AI行为的后果，最终由使用、开发、管理人工智能的人类承担。

议题4：AI创作版权伦理（教材案例：AI绘画、AI文案生成）

师：教材原文：AI依靠海量现有图文作品训练，直接生成的内

容容易和原创作品高度相似，存在版权争议。大家平时用AI画手

抄报，有没有遇到过画面照搬别人插画的情况？

生：有，有时候A1生成的图案和网上插画几乎一模一样。

师：教材给出伦理底线：使用AI创作素材必须标注AI辅助

来源，不能将AI生成内容冒充个人原创，禁止商用无授权AI作

品，尊重原创作者劳动成果。

设计意图：完整依托教材四大伦理议题原文开展问答研讨，每

个议题搭配教材配套生活化案例，区分安全与伦理问题底层差异，

破解本节课教学难点；通过开放式思辨题调动全班参与，落实线下

课堂师生、生生互动要求。

（四）小组探究活动：教材配套任务一一AI风险案例分类实践

教师发放教材配套探究工作表，任务要求：结合本节课教材学

到的安全、伦理两大分类，分组梳理3个校园/生活AT案例，填

入表格标注风险类型与危害。

教师巡视各组，针对性互动提问：

师（巡视第一组）：你们小组选取的〃AI换脸恶搞同学”属于哪一

类挑战？依据教材哪段文字判断？

生：属于伦理挑战，教材深度伪造板块提到禁止伪造他人肖像。

师（巡视第三组）：智能门锁采集人脸数据无加密存储，对应教材

哪类安全风险？

生：数据安仝风险，教材数据安仝段落说明生物数据泄露危害极

大。

活动结束后选取2组代表上台分享成果，全班共同订正分类错

误，巩固课堂重点知识。

设计意图：落实教材课堂探究活动要求，以小组协作形式检验

学生对两大风险类型的区分能力，在实操中化解概念混淆难点，实

现讲练结合。

（五）课堂辩证总结：梳理教材核心逻辑框架

教师带领全班共同梳理单元开篇逻辑主线，板书层级框架:

人工智能高速发展f便利生活一衍生两类问题

1.安全挑战（技术层面：数据、算法、设备漏洞与攻击）

2.伦理挑战（价值道德层面：公平、伪造、责任、版权）

师：教材最后一段总结原文：