大学人工智能导论《神经网络与深度学习》案例教学课件

神经网络与深度学习从神经元到智能2026年课程导览01从神经元到感知机识图案例引出神经网络雏形02卷积神经网络图像识别案例拆解三大机制03循环神经网络与LSTM序列案例揭示记忆难题04深度学习发展里程碑编年史案例串联关键突破05经典应用与未来展望落地案例收束并展望01从神经元到感知机让机器学会认数字，是神经网络的第一课神经元：模拟大脑的最小单元从模拟单个神经元开始，拆解机器识别猫的第一步。问题→对策现状机器要识别照片里有没有猫，大脑靠成千上万神经元协作，机器却不知从何下手。做法从模拟单个神经元开始，1943年由麦卡洛克和皮茨提出简化模型，拆成线性加权求和、加偏置、非线性激活三步。y=f(Σwᵢ·xᵢ+b)权重w：每条输入的重要程度偏置b：调整输出门槛激活函数f：引入非线性单个神经元本质是一个打分器：过了阈值就激活，没过就沉默。感知机：会自己学权重的分类器感知机：第一次让两层神经网络学会分类。有了神经元模型还不够，机器必须自己学会合适的权重。会自己学权重的机器，点燃了人工智能的第一次热潮1958年，罗森布拉特提出感知机第一次让两层神经网络学会分类任务给定多样本、多特征，输出二分类判断学习随机初始化权重→逐样本预测→预测错就按误差方向微调→反复多轮至收敛本质这个“错了就改、改完再看”的过程，正是梯度下降的思想感知机的天花板：线性不可分15年寒冬时长神经网络研究1969年明斯基在《感知机》中证明单层感知机无法解决线性不可分问题，神经网络研究自此陷入

约15年的寒冬。“线性画不出的边界，要靠层次与非线性来打破”—感知机困境的出路线性本质单层感知机只能画一条直线或一个平面，把样本分成两类。XOR难题两个输入一真一假时输出为真，同真同假时输出为假——任何一条直线都分不开。寒冬与出路1969年，明斯基与佩珀特在《感知机》中证明这一缺陷后，神经网络研究陷入约15年寒冬。突破方向只有两条：堆叠多层神经元，或引入非线性激活函数。激活函数：给网络注入非线性为什么必须非线性局限每层只做加权求和，堆再多层仍等价于一次线性变换突破激活函数在每层输出上做非线性变形，网络才能拟合任意复杂关系三种常用激活函数Sigmoid输出压缩到0–1，适合二分类输出层Tanh输出压到-1–1，均值接近零ReLUmax(0,x)，计算简单，缓解深层训练的梯度消失堆深的本质逐层每一层都在前一层基础上做一次新的非线性映射每加一层，就多学一种更抽象的特征层数越深，能表达的函数越丰富从单层到多层：深度由此而来层叠即深度：输入层接收原始数据，隐藏层逐层提取特征，输出层给出最终判断。下一章：第一章完成从单个神经元到多层网络的跨越；下一步要回答：面对一张图，网络具体该怎么看。特征自动浮现逐层抽象手写数字识别中，低层发现笔画方向与位置，中间层组合弧线与闭合圈，深层拼出完整轮廓。低层：笔画中层：形状核心优势自下而上机器不再依赖人工设计特征，而是从数据中自下而上学会表达。数据驱动自动学习02卷积神经网络看局部、共享参数、层层抽象，是CNN看懂图像的三把钥匙一张图引发的参数爆炸15万输入维度224×224彩色图展开“何必让每个神经元都连接全部像素？”全连接看图的死结224×224彩色图展开后约

15万

个输入维度，第一层参数量爆炸，训练困难且极易过拟合更本质的问题：每个像素被当作孤立存在，图像的空间结构被完全忽略CNN的出发点相邻像素关系紧密，远处像素关系微弱——网格数据天然有

局部性借鉴生物视觉：先捕捉边缘、纹理等

局部模式，再逐步组合成复杂形状局部连接：让神经元只看一小片问题→对策：从全连接到局部连接全连接每个神经元连接整张图，参数量巨大，且识别猫耳朵时被迫参考无关的背景像素。→局部连接每个神经元只连接输入的一个局部区域——感受野，只从小窗口提取边缘、纹理等局部特征。从看像素到看物体，局部连接是第一步局部连接为什么有效参数量较全连接下降几个数量级贴合图像物理规律：局部特征本就不依赖远处背景感受野小→看到细节；随网络加深、池化扩大感受野→局部细节组合成语义权值共享：一套参数扫全图问题竖直边缘可能出现在左上角，也可能出现在右下角。若每个位置各配一套参数，既浪费又学不到共性。卷积运算：滑动窗口里的数学掌握“窗口滑动、点积求和”，卷积层就懂了大半窗口滑动，点积求和卷积核心输入局部窗口与卷积核逐位置相乘再求和，加偏置，得到输出特征图对应位置的一个值。卷积核滑动一步，再算下一个值。两个参数控制滑动细节填充与步长填充Padding：边缘补零，防止边缘特征丢失，可保持输出尺寸不变步长Stride：决定每次滑动几个像素，步长越大，特征图越小输出尺寸直接算一个公式N=(W−F+2P)/S+1W输入宽F卷积核P填充S步长池化：降维并保留关键特征池化把卷积提取的细节抽象总结，让后续层站在更大视野上继续提取复杂模式。池化把卷积提取的细节抽象总结，让后续层站在更大视野上继续提取复杂模式。问题卷积之后特征图仍然很大，直接堆叠会带来沉重计算负担。对策：池化层做下采样最大池化取窗口最大值，保留最显著信号，适合捕捉边缘与纹理平均池化取窗口平均值，特征更平滑逐通道独立输出通道数与输入一致，不跨通道混合平移不变性被低估的价值：特征在窗口内轻微偏移，最大池化仍能捕获同一显著信号完整CNN：层层堆叠看透一张图CIFAR10任务十类物体·小图片数据集10类物体50,000张训练集32×32×3输入尺寸后半段＝分类器整合特征·输出判断Dropout

随机丢弃部分神经元，防止过拟合展平成一维向量→全连接层整合特征输出层给出十类各自的概率CNN小结：三把钥匙看懂图像“CNN看懂图像，靠的是三把环环相扣的钥匙。”“三把钥匙，把像素变成语义”图像是空间上的网格数据；下一章要面对的，是带顺序的数据——比如一句话。三把钥匙看懂图像CNN小结局部连接用感受野聚焦局部，参数大幅减少——它限定了看哪里。权值共享同一卷积核扫遍全图，既省参数又获得平移不变性——它规定了怎么看。层次化提取浅层看边缘纹理，深层看部件整体；卷积与池化反复堆叠，把像素一步步转化为语义——它决定了看到什么。RNN：把记忆写进循环连接隐藏状态是记忆载体记忆·循环·传递每个时间步接收当前输入，与上一时刻隐藏状态结合，更新后产生当前输出。更新公式hₜtanh(Wₓ·xₜ+Wₕ·hₜ₋₁+bₕ)yₜWᵧ·hₜ+bᵧ参数共享Wₓ输入权重Wₕ隐藏权重bₕ偏置按时间展开串联相同单元串联成链任意长适合任意长度序列影响前面的输入影响后面的判断记忆传递信息随隐藏状态逐步向后传递记忆这就是“记忆”的由来梯度消失：记忆为何会断片长期依赖，是标准RNN必须跨越的一道坎问题根源训练RNN用反向传播通过时间，梯度从最后一步一路乘回最前，层层累乘中不断衰减或放大。梯度消失：衰减到几乎为零梯度爆炸：放大到极大实际后果RNN难以捕捉相距很远的依赖——一句话开头的主语隔几十个词后，RNN常常已经“忘记”。理论与实践的落差：理论上能处理任意长度序列，实践上真正记牢的只有邻近几个时间步。长期依赖，是标准RNN必须跨越的一道坎LSTM：用三道门管住记忆➜➜1问题RNN记不住太早的信息现状梯度消失让长期依赖难以学习2对策1997年提出LSTM对策霍克赖特和施米德休伯提出引入记忆单元与三道门控像闸门一样精细管理信息流动3门控机制三道门管住记忆遗忘·输入·输出遗忘门：决定哪些旧信息该被丢弃输入门：决定哪些新信息该写入记忆单元输出门：决定当前哪些信息要传递给下一时刻门的核心是取值

0到1

的开关：0完全阻断，1完全放行选择性保留让有用信息跨越长距离不被冲淡，从根本上缓解梯度消失从记忆到应用：序列里的智能RNN给了网络记忆的雏形，LSTM让这份记忆变得可靠而持久到这里，图像与序列两大支柱结构已经齐备。但每一种结构都不是凭空出现——它们被特定历史节点上的关键突破推着走到今天。下一章，把时间轴拉长，回望深度学习的来时路。适用场景机器翻译理解整句上下文，再逐词输出情感分析综合前后文判断态度语音识别连续声音信号转成文字时间序列预测根据历史数据推演未来走势共同本质信息沿时间流动、前后彼此依赖1943到1958：人工神经元的诞生1943年·MCP模型开门输入加权求和+非线性激活1958年·感知机学会学习梯度下降自动更新权值，完成二分类热潮与隐患并存点燃第一次人工智能热潮1943年MCP模型开门输入加权求和+非线性激活麦卡洛克与皮茨首次用数学把神经元简化为两大核心操作，人工神经网络由此起步。1958年感知机学会学习梯度下降自动更新权值罗森布拉特让神经网络第一次具备学习能力——从训练样本自动更新权值，完成二分类。热潮与隐患热潮与隐患并存媒体畅想机器识物翻译点燃第一次人工智能热潮；但单层结构的根本缺陷即将浮出水面，让整个领域沉寂多年。热潮与隐患并存——单层结构的根本缺陷即将浮出水面，让整个领域沉寂多年1969到1986：寒冬与复兴11969年：单层感知机被判死刑明斯基与佩珀特证明：连简单的异或问题都无法解决，资金人才纷纷转向。21986年：反向传播带来转机鲁梅尔哈特、辛顿、威廉姆斯推广反向传播，配合非线性激活函数，让多层网络可被有效训练，引发第二次热潮。31989年：从算法走向落地杨立昆将反向传播与卷积网络结合用于手写数字识别，后用于美国支票识别，成为最早实用落地之一。011969年明斯基与佩珀特在《感知机》中证明单层感知机无法解决异或问题，研究陷入约十五年低潮。021986年鲁梅尔哈特、辛顿和威廉姆斯推广反向传播算法，配合非线性激活函数，让多层感知机可被有效训练。031989年杨立昆将反向传播与卷积网络结合用于手写数字识别，后用于美国支票识别，成为最早实用落地之一。2006到2012：深度学习时代开启“算法、数据与算力，第一次完整汇合”01概念确立2006年，辛顿在《科学》发表论文，正式提出深度学习概念，证明网络做深能显著提升表现。02数据就位2009年，李飞飞团队发布ImageNet，含超过1400万张人工标注图像，为数据驱动提供关键燃料。03一战成名2012年，AlexNet在ImageNet竞赛夺冠，图像识别错误率从约26%降至约15%。算法、数据与算力，第一次完整汇合2014到2017：新架构的爆发“从识别到生成，深度学习完成了能力跨越”—2014–2017·新架构爆发期从识别到生成，深度学习完成了能力跨越01生成对抗网络2014年古德费洛提出GAN，生成器与判别器在博弈中互相提升，机器第一次能生成以假乱真的图像。02AlphaGo与专用算力2016年，基于深度强化学习的AlphaGo击败围棋世界冠军李世石；同年谷歌发布

TPU芯片，算力进一步跃升。03Transformer奠基2017年

Transformer

架构诞生，用自注意力机制取代循环结构处理序列，为BERT、GPT等大规模预训练模型奠定基础。里程碑小结：算法数据算力三驾马车深度学习的三次兴起，源于三驾马车同时到位—算法·数据·算力，缺一不可三者缺一不可。2012年爆发不是思路突然变好，而是三个条件第一次同时成熟。01算法从反向传播到卷积网络，再到Transformer，提供训练深层网络的理论基础。02数据ImageNet