《人工智能基础与应用（第二版）》课件 项目1-走近人工智能

人工智能基础与应用｜第二版项目1走近人工智能从计算机基础到技术应用、产业发展与伦理挑战物联网工程学院（信息安全学院）

平震宇前言项目描述：人工智能已走进现实生活现实力量：ChatGPT引爆全球、AI绘画颠覆艺术创作、自动驾驶汽车驶上公路，人工智能已深刻重塑人类生产与生活方式。交叉学科：融合数学、计算机科学、哲学、认知心理学、信息论、控制论等，通过人工方法模仿、延伸和扩展人类智能。曲折历程：1956年达特茅斯会议确立“人工智能”名称，到今天大模型、智能体、具身智能蓬勃发展，近年实现革命性突破。理解人工智能，不仅是掌握一门技术，更是读懂未来世界的必备素养。1.1冯·诺依曼体系结构1.2图灵测试与人工智能1.3人工智能的发展历程1.4技术的现状及未来1.5人工智能典型应用1.6人工智能产业发展1.7面临的伦理挑战拓展AIforScience2前言学习目标：知识、技能、素质三位一体知识目标了解与理解了解什么是人工智能了解发展现状、典型应用场景与未来发展趋势了解人工智能产业链结构及我国产业发展格局了解面临的伦理挑战，包括数据安全、算法歧视与知识产权问题技能目标描述与判断能列举制造、医疗、文创、城市治理等领域的典型应用能描述技术体系结构（基础层、技术层、应用层）能运用图灵测试核心标准判断智能系统的基本特征能识别数据安全与伦理风险能归纳多模态融合、智能体自主化、具身智能等方向素质目标价值与习惯树立正确的技术伦理观，增强数据隐私保护、算法公平与知识产权合规的责任意识养成“以人为本”的价值导向，认同人工智能应服务于人类福祉、促进社会公平正义激发科技创新兴趣，主动探索AIforScience等新兴领域31.1冯·诺依曼体系结构冯·诺依曼体系结构：现代计算机的核心硬件架构提出者与时间：美籍匈牙利数学家约翰·冯·诺依曼于1945年正式提出，又称普林斯顿结构，是现代通用计算机的核心硬件架构。核心特征：程序指令存储器与数据存储器合并统一，两类地址指向同一存储器的不同物理单元，且指令与数据位宽一致。典型实现：英特尔8086处理器的指令与数据位宽均为16位。中央处理器CPU运算器完成算术与逻辑运算控制器控制指令执行，协调各部件输入设备将外部信息输入计算机存储器保存程序指令与数据输出设备呈现计算结果图1-1冯·诺依曼结构示意图理解后续AI硬件时，可从“存储—运算—控制”三者的关系入手。41.1冯·诺依曼体系结构三大基本原则：奠定现代计算机的理论根基1采用二进制逻辑以0和1实现数据与指令的数字化表示与运算，电路实现简单，运算速度更快。2程序存储执行将程序预先存入存储器，计算机即可按指令自动连续运算，不再依赖人工重新接线。3五大核心部件计算机硬件由运算器、控制器、存储器、输入设备、输出设备五大部件组成。这三条原则合在一起，被定义为冯·诺依曼体系结构，成为现代计算机的理论根基。51.1冯·诺依曼体系结构从ENIAC到冯·诺依曼：架构为什么要改进背景：ENIAC的短板世界第一台电子数字积分计算机人工计算在精度、规模与效率上遇到瓶颈，二战弹道计算等需求推动通用电子计算机研发采用前沿电子技术，但存储容量有限、运算效率低下、无法存储程序采用临时存储结构，以运算器为核心，缺乏科学的逻辑架构方案：冯·诺依曼的优化从逻辑设计层面重新规划分离电路设计与逻辑设计，为架构搭建奠定基础摒弃以运算器为核心的临时存储，确立存储程序思想采用二进制运算替代十进制，大大加快运算速度内置存储器保存指令，写入即可执行，运算效率大大提高结合人脑信息处理逻辑，提出全新架构思路结果：彻底解决早期计算机存储容量不足、速度慢的痛点，推动计算机迈入自动化运算时代。61.1冯·诺依曼体系结构冯·诺依曼结构的七个特点1特点1单处理机结构，机器以运算器为中心2特点2采用程序存储思想3特点3指令和数据统一存放于同一存储器4特点4数据采用二进制表示5特点5软硬件协同工作，并非完全割裂6特点6指令由操作码和操作数组成7特点7按照指令顺序执行一句话概括存储程序，共享数据，顺序执行71.1冯·诺依曼体系结构人工智能依托冯·诺依曼体系结构发展壮大计算基础AI运行在冯·诺依曼架构之上现代计算机始终遵循冯·诺依曼结构：存储程序、共享数据、顺序执行需要中央处理器（CPU）从存储器中取出指令和数据进行相应计算人工智能正是依托这一体系结构发展壮大概念辨析通用人工智能（AGI）又称强人工智能指能像人类一样思考、学习和解决问题的人工智能不仅在下棋、图像识别等单一专项领域表现优异还能在很多场景中达到与人类相近的能力水平专项能力≠通用智能：后文1.4将看到，通用智能仍需攻坚，人机协作仍是主流。81.2图灵测试与人工智能达特茅斯会议：人工智能学科的诞生1956年·美国达特茅斯学院夏季专题研讨会发起人：约翰·麦卡锡、马文·明斯基、纳撒尼尔·罗彻斯特、克劳德·香农参会领域：数学、神经生理学、精神病学、心理学、信息论、计算机科学会期两个月；目标是构造具有一定智能的人工系统会议三大亮点明斯基神经网络模拟器麦卡锡搜索法西蒙、纽厄尔逻辑理论家程序麦卡锡提议以AI（ArtificialIntelligence）命名这一交叉学科，被称为“人工智能之父”。91.2图灵测试与人工智能人工智能的定义：一种“类人行为系统”的观点定义一让机器的行为看起来像人人工智能是让机器的行为看起来像人所表现出的智能行为一样的技术。Theartofcreatingmachinesthatperformfunctionsthatrequireintelligencewhenperformedbypeople.定义二让计算机做人更擅长的事人工智能是研究如何让计算机做现阶段人类才能做得更好的事情。Thestudyofhowtomakecomputersdothingsatwhich,atthemoment,peoplearebetter.共同点均属于“类人行为”定义，与阿兰·图灵的观点吻合人工智能的发展已走过几十年，但定义至今尚未统一；1950年图灵提出的图灵测试，为智能评估提供了具备可操作性的定义。101.2图灵测试与人工智能图灵测试：“模仿游戏”怎么进行1950年，阿兰·图灵在《计算机器与智能》中提出“模仿游戏”，为智能评估提供了可操作的定义。1设置场景一个人与一台机器置于房间，与负责提问的询问者分开2文字提问询问者看不到参与者，也不能直接交流，只能通过类似终端的文本设备提问3辨别身份询问者仅根据终端返回的答案，辨别哪位是机器、哪位是人4得出判断若询问者不能区别机器和人，则认为机器通过图灵测试通过图灵测试，表明机器能够展现出与人类相似的智能水平。111.2图灵测试与人工智能通过图灵测试需要哪六种能力1自然语言处理能用自然语言与计算机进行交流2知识表示能存储知道的、听到的或看到的各类信息3自动推理能根据存储的信息回答问题，并提出新的结论4机器学习能适应新的环境，并能检测和推断新的模式5计算机视觉可以感知物体6机器人技术可以操纵和移动物体前四项偏重文本交流与推理，后两项涉及感知与操作，合称“完全图灵测试”所需的六方面能力。121.2图灵测试与人工智能图灵测试的特征、应用与局限为什么重要图灵测试的三个特征客观标准：根据对一系列特定问题的反应判定机器是否有智能行为，避免关于“真正”特征的无意义争论避开难题：免于陷入“内部处理方法是否恰当”“是否真正意识到其动作”等目前无法回答的争论只看回答：只关注回答内容本身，消除偏向生物生命体的主观偏见评估变体：把程序在专业领域的反应与人类专家比较，是一种封闭式比较需要清醒看待主要批评仅考核纯符号推理任务不测试感知技能，也不测试实现手工灵活性所需的能力而这些都是人类智能的重要组成部分通过测试≠拥有人类式的理解或意识课堂判断：一个聊天程序能骗过询问者，是否就说明它“真正理解”了问题？131.3人工智能的发展历程三起两落：人工智能发展的五个阶段浪潮兴起，源于关键瓶颈的突破（算力、数据、算法）；低谷出现，源于技术无法兑现过高预期。20世纪50年代中期—70年代中期符号逻辑与第一次低谷符号逻辑、简单博弈；算力匮乏与组合爆炸，进入沉寂期低谷20世纪70年代末—80年代末专家系统与第二次寒冬“知识库+推理机”繁荣；规则依赖人工，难以持续寒冬20世纪90年代初—21世纪初算力跃升与统计学派从规则驱动转向数据驱动的统计学习范式2011年—2021年深度学习爆发算力、算法、数据“三驾马车”同步成熟2022年至今生成式AI与大模型Transformer与“预训练+微调”催生质变读史的意义：把握技术周期规律，理解当前爆发式发展的历史必然性。141.3人工智能的发展历程第一次浪潮与低谷（20世纪50年代中期—70年代中期）兴起1956年：学科诞生达特茅斯会议正式提出人工智能概念，作为独立学科诞生研究聚焦符号逻辑与简单博弈：跳棋程序、几何定理机器证明研究者对实现机器智能充满乐观期待低谷两大瓶颈与两次打击根本性瓶颈：计算资源匮乏、组合爆炸1966年ALPAC报告《语言与机器》揭示机器翻译在语义理解上的严重局限1969年明斯基证明单层感知机无法解决异或（XOR）问题，动摇神经网络研究基础理论长期无重大突破，政府研发经费大幅削减，进入长达十年的沉寂期根源：符号逻辑路线无法应对真实世界的复杂性；直到70年代末专家系统提出“聚焦特定领域知识”的新思路才被暂时绕开。151.3人工智能的发展历程专家系统的繁荣与第二次寒冬（20世纪70年代末—80年代末）繁荣“知识库+推理机”专家系统将AI研究重新带入繁荣Xcon系统（卡内基梅隆大学为DEC公司开发）初期即有2500余条配置规则，每年为企业节省数千万美元推动产业界新一轮投资热潮国内起步“863”计划我国将智能计算机与机器人研究纳入“863”计划，标志着国内人工智能研究正式起步寒冬根本缺陷规则依赖人工录入知识获取难度大、维护成本高缺乏自主学习能力无法突破常识推理瓶颈两次低谷的共性：本质上都依赖人工总结规则，规则穷举终将遇到“无限多样的真实世界”这一天花板。161.3人工智能的发展历程算力跃升与统计学派崛起（20世纪90年代初—21世纪初）范式转向：规则驱动→数据驱动的统计学习1989年卷积神经网络（CNN）杨立昆利用CNN成功实现手写数字识别，开创了深度学习的早期实践。1997年长短期记忆网络（LSTM）LSTM的提出有效解决了序列数据的长期依赖问题。1997年IBM深蓝战胜卡斯帕罗夫成为AI发展史上的标志性事件；胜利更多得益于强大的搜索算法与持续提升的硬件算力。深蓝不同于早期规则驱动的系统，预示着数据与算力驱动时代的到来。171.3人工智能的发展历程深度学习爆发：算力、算法、数据“三驾马车”（2011—2021年）算法深度学习时代开启2006年辛顿提出深度置信网络，克服深层网络训练难题2012年辛顿与克里泽夫斯基提出AlexNet，在ImageNet竞赛中大幅夺冠数据ImageNet数据集2007年李飞飞发起ImageNet项目，向全球开源千万级标注图像数据集，彻底激活了模型的学习潜能。算力专用芯片普及GPU（图形处理器）、TPU（张量处理器）等专用芯片广泛普及，突破大规模模型的训练瓶颈。2016年AlphaGo战胜围棋世界冠军谷歌DeepMind开发；掀起新一轮AI热潮，推动中国AI产业进入全域爆发期。2020年AlphaFold2预测蛋白质结构首次利用AI精准预测蛋白质三维结构，被誉为生命科学数十年来最重大的突破之一，展示AI赋能科研的变革性潜力。181.3人工智能的发展历程生成式AI爆发与大模型时代（2022年至今）2022年11月ChatGPT发布OpenAI发布，源自GPT-3.5并结合人类反馈强化学习；五天注册用户破百万，史上增长最快的消费级AI应用2023年“百模大战”GPT-4、文心一言、ChatGLM等集中推出，国内通用与行业大模型陆续面世，被视作我国大模型产业落地元年2024年Sora与诺贝尔奖2月OpenAI发布视频生成大模型Sora；诺贝尔物理学奖授予辛顿与霍普菲尔德，化学奖授予DeepMind科学家2025年1月DeepSeek-R1国内企业深度求索推出开源大模型，以极低成本对标顶尖性能，成为“低成本、高效能”新赛道的里程碑2026年2月GLM-5开源智谱AI开源新一代基座模型，多项编程能力评测中比肩国际顶尖闭源模型，印证国产开源大模型竞争力2026年7月第九届WAIC上海召开，聚焦国产算力、合规智能体与AI安全治理；我国AI产业规模突破1万亿元，增速保持30%以上与前三次浪潮不同：算力、开源生态、智能体自主化等多线程持续突破，未出现明显技术瓶颈信号。191.4人工智能技术的现状及未来技术现状①：感知层迈向仿生级，多模态感知成主流仿生级感知从视听识别走向高阶感知向仿生触觉、脑机交互、情感感知等高阶感知延伸脑电监测设备、仿生触觉反馈系统、神经形态传感器等硬件落地苏黎世联邦理工学院触觉神经形态传感器：材质识别准确率达98%多模态融合打破单一模态的信息孤岛同步处理文本、图像、语音、视频、3D点云等信息应用于自动驾驶、医疗康复、工业质检，实现更精准的环境理解与决策VLA（视觉语言动作）模型：统一整合空间感知、语义理解与行动决策，大幅提升复杂路况适配能力多模态感知让AI的“看、听、触”协同起来，交互方式更接近人类的自然认知。201.4人工智能技术的现状及未来技术现状②：大模型与小模型协同并存云端通用大模型百度文心、阿里通义、GPT-4o、Gemini等具备全模态理解、生成、推理能力，支撑跨场景需求体积庞大、部署成本高，更适合云端复杂任务行业垂直小模型法律、医疗、金融、工业等领域专用针对性强、轻量化、低成本、推理快成为场景化落地的核心载体终端端侧小模型小米14内置0.5B多模态小模型，离线完成景点图文解析特斯拉轻量化车载模型：车道线识别延迟压缩至毫秒级，较云端降低90%兼顾隐私合规与实时性“通用大模型+垂直小模型”互补共生：既满足复杂智能的泛化需求，又实现特定场景的高效适配。211.4人工智能技术的现状及未来技术现状③：认知理解与视觉生成的全域渗透信息交互与认知理解从单一模态走向全模态协同GPT-4o等生成式模型实现语音、文本、图像的实时无缝交互，语义理解准确率显著提升金融、政务领域专属智能体凭借逻辑推理能力，自主处理复杂业务，替代大量重复性咨询服务模式从“人工辅助”向“自主决策”转型视觉感知与内容生成从“精准识别”到“创意生成”图像识别延伸至情绪分析与行为轨迹预测以Sora为代表的视频生成大模型，开启高保真视频创作新纪元工业视觉质检（图1-4）精确度较高，漏检率显著降低；某制造企业引入AI视觉后，生产效率提升数倍视觉质检的价值不只是“看得准”，还在于工业流程智能化控制水平的整体提升。221.4人工智能技术的现状及未来技术现状④：垂直行业深度赋能医疗健康AI辅助诊断提升病灶定位精度，实现早期预警；蛋白质结构预测使药物研发周期由数年缩短至1.5年左右金融构建覆盖风险评估、欺诈检测与量化交易的全链路智能体系，显著提升决策的科学性教育个性化学习平台与虚拟助教根据学情动态定制教学方案，使“因材施教”规模化成为可能交通运输由辅助驾驶向高阶自动驾驶过渡；跨场景统一决策模型（如MindVLA-o1）增强复杂环境应对能力智能制造工业机器人与特种机器人替代高危重复工种；人形机器人进入工厂执行搬运、装配等精密任务231.4人工智能技术的现状及未来技术现状⑤：AI智能体重构交互范式传统个性化推荐系统精准推送内容、商品，是被动应答的工具。新一代智能体（Agent）具备自主规划、决策、调用工具、执行多步任务的主动智能，可根据用户偏好提供定制化解决方案。案例通义DeepResearch阿里推出的深度研究智能体，可自主完成信息检索、数据分析、报告生成。案例微软“智能体网络”多个AI智能体协同完成复杂工作流程。场景服务模式创新升级智能客服、个性化营销、家庭管家等借助智能体，获得更高效、更贴合需求的服务体验。241.4人工智能技术的现状及未来技术现状⑥：硬件与算力架构革新，端云协同成主流芯片专用芯片多元化GPU主导地位受到挑战NPU（神经网络处理单元）、ASIC（专用集成电路）、FPGA（现场可编程门阵列）加速普及端侧算力大幅提升，支撑大模型离线推理网络“东数西算”工程持续推进，全国一体化算力网络逐步完善云计算与边缘计算深度融合，成为算力部署的主流模式协同云负责训练，边缘负责实时云计算：大规模模型训练、复杂数据处理边缘计算：算力下沉终端，降低云端依赖与传输延迟工业传感器、智能相机、车载设备可直接部署AI模型75%数据可在边缘侧完成处理兼顾算力效率与数据安全，拓展AI在工业、安防、车载等场景的应用边界。251.4人工智能技术的现状及未来技术现状⑦：机器人智能化进阶，具身智能走向实用人形机器人宇树、特斯拉Optimus（第三代）深度学习+多模态感知，可模仿人类动作、理解自然语言指令，进入工厂、家庭完成实操任务。特种机器人复杂危险环境智能化升级后，可在矿山、深海等复杂危险环境及灾害现场执行精细作业。模型进展SayCan与VLADeepMindSayCan集成语言理解、视觉导航与机械臂控制，家庭连续任务成功率超84%；VLA模型实现开放世界泛化。“感知—决策—执行”闭环感知决策执行261.4人工智能技术的现状及未来技术的未来：四个核心方向1多模态感知深度融合华为盘古大模型同步解析视觉图像、传感器波形与文本记录。煤矿巡检中识别异常画面、分析声纹摩擦声，结合运行日志做因果关联。2深度推理与逻辑演算从“概率生成”到“逻辑推导”。借助思维链分步思考；DeepSeekR1先内部自洽性验证、排除错误路径，再输出答案。3智能体自主化协作集成记忆存储、工具调用与任务规划。阿里云百炼运维场景：自主监测故障、调用修复脚本、协调其他智能体更新文档并通知用户。4具身智能与世界模型让AI拥有“身体”，理解重力、碰撞等物理规律；端到端学习，通过观察与试错学会整理物品、操作精密仪器。从“人找服务”到“服务找人”：未来职场将由大量协同工作的智能体集群支撑。271.4人工智能技术的现状及未来应用层面：人工智能赋能行业（表1-1）表1-1人工智能应用场景行业领域核心应用场景技术支撑智能制造工业视觉检测、柔性生产调度、设备预测性维护工业大模型、边缘计算智慧医疗AI辅助影像诊断、精准给药方案、基因序列分析计算机视觉、生物信息学金融科技智能风控、反洗钱监测、量化交易策略图计算、深度合成检测智慧农业精准施肥、无人植保、产量遥感预测物联网、多光谱分析人工智能是新质生产力的核心引擎，正推动全行业深度变革。281.4人工智能技术的现状及未来核心发展趋势：五个判断1专项能力领先，通用智能仍需攻坚结构化数据分析已超越人类；复杂创意、情感共鸣、常识逻辑仍有差距，人机协作仍是主流2产业界主导创新，产教融合深化企业成为顶级模型研发主力；产学研联合攻关使成果转化周期显著缩短3大模型轻量化与普惠化知识蒸馏与模型量化加速迭代，使AI能在手机、嵌入式设备等端侧流畅运行4监管体系常态化，合规成底线《生成式人工智能服务管理暂行办法》等不断完善，安全测评与伦理审查成为产品上线的必要前提5科学发现加速华为“盘古气象”等模型将预报时效从天级提升至小时级，赋能防灾减灾291.4人工智能技术的现状及未来重塑职业发展能力的三个新维度1AI工具驾驭力熟练掌握Copilot、文心一言、DeepSeek等主流AI工具，将其融入业务流程，实现降本增效。2数据与逻辑素养具备基本的数据治理能力，能清晰定义任务边界，与AI系统进行高效的指令交互。3人类独特性价值强化批判性思维、复杂决策、跨领域创新及人文关怀能力。在AI负责执行的背景下，人类应扮演“导演”与“评估者”的角色。301.5人工智能典型应用生产制造类：赋能实体，降本增效生产制造类公共治理类民生服务类数字文创类AI视觉检测替代人眼质检，精准识别产品瑕疵、尺寸偏差，杜绝漏检和误判预测性维护传感器采集运行数据，提前预判故障，避免停机损失智能调度优化生产排程、物料配送，提高生产线综合效率人机协同生产工业机器人协同AI算法，实现定制化生产、无人化作业，应用于电子、机械、轻工等新岗位工业机器人系统运维员·智能工厂数字化管理师要求从业者具备AI系统调优与基础故障排查能力。311.5人工智能典型应用智慧城市与公共治理：城市运行的“数字大脑”生产制造类公共治理类民生服务类数字文创类智能交通“城市大脑”实时分析路口车流量，动态调整红绿灯时长，有效缓解交通拥堵。智慧政务政务机器人借助自然语言处理，全天候处理市民咨询，实现“数据多跑路，群众少跑腿”。治理方式被动处置→主动预警构建精细化的治理体系。新岗位城市管理网格员（智慧化方向）·政务数据分析师重点在于利用AI工具提升办事效率。321.5人工智能典型应用民生服务：智能家居与智慧医疗生产制造类公共治理类民生服务类数字文创类智能家居“硬件+平台+算法”闭环AI、物联网、云计算融合的消费级核心应用设备互联、远程操控、自主学习、场景联动语音、手机App、智能面板操控家电、照明、安防、暖通智能音箱、智能门锁、智能窗帘、陪伴机器人快速普及提升家居安全性、节能性与便捷性智慧医疗覆盖诊疗全流程辅助诊断：自动识别CT、核磁、胸片病灶，降低误诊漏诊药物研发：算法筛选分子、模拟试验，缩短周期、降低成本手术规划：手术机器人结合三维重建，术中导航健康监测：可穿戴设备采集心率、血压，慢病预警、远程问诊智能导诊、疾病辅助诊断、智慧病房规模化落地331.5人工智能典型应用数字文创与生成式AI：生产力的“创意革命”生产制造类公共治理类民生服务类数字文创类内容创作全品类生成AI绘画、文案、配音、短视频生成工具降低创作门槛，广泛应用于广告设计、新媒体运营、影视制作。数字人主播与虚拟偶像依托AI交互技术，应用于直播带货、文旅导览、品牌宣传，催生数字文创新业态。文旅体验智能导览与管理智能导览机器人、VR/AR沉浸体验、数字人讲解员、智能票务；客流分析预测拥堵，辅助限流疏导。AI用于文物修复、非遗数字化传承，使文化遗产焕发新生。341.6人工智能产业发展产业规模与格局：我国稳居全球第一梯队9000亿+2024年核心产业规模1.2万亿+2025年年底核心产业规模，同比增长约30%1.56万~1.7万亿2026年预计核心产业规模6200+家相关企业数量，全球占比约16%505家国家级专精特新“小巨人”企业≈60%专利申请总量占全球比例，位居全球首位988款截至2026年6月30日完成国家备案的生成式AI服务598款完成属地登记的生成式AI应用或功能形成贯通算力芯片、基础大模型、行业场景应用的完整产业链梯队；国产开源大模型下载量与开发者规模保持全球领先。数据来源：教材引用中国信息通信研究院测算及国家相关部门披露数据。351.6人工智能产业发展产业链结构：基础层、技术层、应用层应用层产业价值落地环节聚焦智能家居、智能制造、智慧医疗、智能金融、自动驾驶等场景，推动AI与实体经济深度融合，“人工智能+”行动全面铺开，应用渗透率持续提升技术层产业核心引擎大模型训练、自然语言处理、计算机视觉、机器学习、深度学习等关键技术；生成式AI成为创新热点，通用大模型与行业大模型加速落地基础层产业发展底座AI芯片、传感器、云计算平台、大数据中心、算力中心等硬件与基础设施，是算法训练、模型运行的核心支撑；国产芯片与算力平台持续迭代，供应链韧性增强三层紧密协作：硬件底座→软件算法→行业落地，形成闭环。361.6人工智能产业发展政策支撑与产业发展趋势政策支撑战略性新兴产业2025年8月26日，国务院印发《关于深入实施“人工智能+”行动的意见》，重点涉及科技、产业、消费、民生、治理、全球合作设立600亿元规模的国家人工智能产业基金，加大技术研发、场景落地、企业培育力度各地出台配套政策，打造AI产业园、创新示范区，集聚人才、技术、资本产业发展四大趋势技术通用化大模型持续迭代，通用AI加速落地，从单点场景向全流程渗透应用深度化与制造业、农业、服务业融合更深入，智能网联汽车、智慧农机等规模化落地生态国产化华为昇腾、鸿蒙为核心的国产软硬件生态逐步完善，国产开源大模型社区全球活跃度领先发展规范化伦理、数据安全、监管体系持续健全，推动合规、健康、可持续发展371.7人工智能面临的伦理挑战伦理挑战总览：人与人工智能的关系互联网、大数据、人工智能融合应用带来的六类问题，已成为全球治理焦点隐私泄露虚假信息传播算法歧视网络安全隐患新型网络违法犯罪网络沉迷人机之间的张力三个核心命题未来人工智能是否会超越人类智能？智能机器能否形成适配人类的道德准则？碳基文明与硅基文明能否和谐共存？图灵：AI发展“不过是未来之事的前奏，也是未来之事的影子”共识与规范伦理前置引领，刚性保障李飞飞：伦理必须成为AI研发与应用的重要组成部分欧盟、OECD、G20、谷歌、微软等相继出台原则我国发布《新一代人工智能治理原则》《新一代人工智能伦理规范》坚持以人为本，确保人类始终掌握最终控制权，禁止技术滥用、恶用381.7人工智能面临的伦理挑战数据安全与隐私：风险从哪里来风险成因海量个人数据带来的风险模型训练依赖海量个人数据：身份信息、健康状况、消费记录、社交轨迹等部分机构未经明确授权、隐瞒数据用途，非法收集、存储用户信息技术迭代快、监管存在认知鸿沟、法规覆盖不足、生成式AI决策不透明难以监管数据泄露与滥用风险急剧攀升，成为伦理治理的重中之重数据主权与数据权谁拥有数据？数据主权：国家主权在数字时代的延伸，是维护国家安全、反对数据霸权的核心保障数据权：分为机构数据权（企业核心竞争力）与个人数据权（个人基本权利）2011年世界经济论坛将个人数据定义为“新资产类别”两大失衡：大型企业数据利用率较低；数据、技术、人才过度向商业领域倾斜，数字鸿沟加剧391.7人工智能面临的伦理挑战数据隐私与安全的三个典型案例案例1非法滥用人脸识别央视3·15曝光20余家汽车经销、家居零售企业，在线下门店私自布设人脸识别摄像头，未充分告知、未获单独授权，采集人脸并标注到店频次、年龄、情绪，构建用户画像精准营销（供应商签约门店超165万家）。人脸信息属敏感个人信息，须单独同意；多地立案调查，责令拆除设备、删除数据并处罚。案例2ClearviewAI数据事件通过爬虫从Facebook（Meta）、Twitter（X）等平台抓取超30亿张人脸图片，向执法机构售卖访问权限，后遭黑客入侵，客户名单、搜索数据泄露。“图像来源于公开网络”的主张未获认可：荷兰监管机构罚款3050万欧元，美国伊利诺伊州依据BIPA推动司法和解。案例3生成式AI企业数据泄露某公司引入ChatGPT不到20天，发生三起机密资料外泄，半导体设备数据、会议内容被上传并留存；OpenAI因开源库漏洞导致1.2%的ChatGPTPlus用户对话、支付信息泄露。暴露企业数据监管缺失、缺乏脱敏机制、模型黑箱、跨境数据流动监管薄弱等共性问题。启示：公开渠道获得的数据，不等于可以随意收集和使用；输入大模型的内容要先判断是否涉密、涉隐私。401.7人工智能面临的伦理挑战我国生成式AI治理：事前、事中、事后全链条1事前准入审查2023年8月《生成式人工智能服务管理暂行办法》施行；建立备案制度与安全评估前置，上线前须完成评估与备案2事中持续监管网信、工信部门常态化巡查与专项执法，检查安全评估、训练数据采集、AI生成内容标识义务落实情况3事后依法惩戒对违规平台依法约谈、限期整改乃至立案处罚；上海市委网信办率先对拒不整改的生成式AI网站立案查处988款截至2026年6月底完成国家备案的生成式AI服务治理思路：合规审查关口前移到产品上线阶段，“发展与安全并重、边发展边规范”。411.7人工智能面临的伦理挑战算法歧视：算法并非绝对中立什么是算法明确、有限、有效的指令集合负责完成从数据输入到结果输出的全流程；但并非绝对中立。算法歧视对特定群体的不公正待遇通过不合理的数据分析实施，涵盖种族、性别、消费、年龄及弱势群体等歧视类型。典型表现杀熟与信息茧房大数据“杀熟”：对老用户、高消费用户差别定价信息茧房：窄化信息获取范围，加剧认知偏见算法歧视具有隐蔽性和自动化特征，危害更难察觉，亟需全流程规制。421.7人工智能面临的伦理挑战算法歧视的四个核心成因1设计初始偏见工程师的主观认知、文化背景、价值取向可能无意识植入算法逻辑；程序设计缺陷也可能直接引发歧视。2算法黑箱偏见算法作为商业秘密被保护，用户只见结果、不知逻辑，信息不对称使歧视更隐蔽，难以监督纠正。3运行数据偏见训练数据存在偏差或不完整时，算法自动学习并放大歧视，如性别、种族分布失衡导致决策不公。4外部干扰偏见利益集团、政策漏洞等外部因素干预算法运行，使推荐、决策偏向特定群体，加剧不公平。课堂思考：同一个“招聘筛选”算法，四类成因分别可能在哪个环节出现？431.7人工智能面临的伦理挑战算法歧视的三个典型案例案例1Meta住房广告算法歧视案美国司法部指控其算法基于种族、性别、国籍等敏感信息推送歧视性住房广告，违反《公平住房法》。和解：停用歧视性算法工具、开发公平系统、缴纳民事罚款，接受法院监督与第三方审查。案例2亚马逊AI招聘性别歧视AI简历筛选系统因训练数据以男性简历为主，自动贬低女性求职者。最终亚马逊解散团队、废弃模型，凸显数据均衡与算法伦理审查的重要性。案例3训练数据偏差引发种族歧视PULSE超分辨率算法将一位黑人的模糊照片“还原”为白人面孔，根源是训练数据集中白人占比超75%，少数族裔数据占比极低；人脸识别领域尤为突出。共同启示：数据偏差会被算法学习并放大，需要数据均衡与算法伦理审查。441.7人工智能面临的伦理挑战算法歧视的规制路径1法律规制强化算法解释权，保障用户知情权；企业自查、行业自律、行政监管多层次审查；严格问责，引入公益诉讼；落实《互联网信息服务算法推荐管理规定》，算法备案与安全评估2数据与技术扩大数据采集维度，保障数据多样性；研发反歧视数据挖掘技术；提升算法可解释性与透明度，破解黑箱难题3伦理引导以社会主义核心价值观为引领，培养算法工程师、使用者的公平意识；执法部门公正监管，形成全社会共治格局4政策原则《新一代人工智能治理原则》强调公平公正，消除各环节偏见与歧视；《新一代人工智能伦理规范》要求避免偏见与歧视，保障弱势群体平等享有AI服务451.7人工智能面临的伦理挑战知识产权保护：争议焦点与三个案例训练数据授权数据涵盖公有领域内容、受版权保护作品及爬虫数据，多数训练行为未取得版权人授权生成内容权属“独创性”认定与版权归属，现行法律尚未完全明确，是全球共性难题侵权责任界定生成内容与原作品易构成实质性相似，可能侵犯复制权、改编权案例1Copilot开源代码侵权案使用GitHub开源代码训练模型，生成代码未保留原作者版权管理信息和许可证条款，程序员集体诉讼，索赔90亿美元，