7.3 CNN 池化层全连接层

卷积神经网络：池化层与全连接层主讲人：张洁北京工商大学计算机与信息工程学院2026/10/11BTBU-CIE2本节提要池化层功能详解全连接层功能详解全连接层与卷积层的联系与转换2026/10/113池化层和全连接层

LeNet卷积神经网络池化层全连接层AlexNet卷积神经网络2026/10/114池化层(Pooling)作用：连接在卷积层后，减少模型参数，减小训练负担，控制过拟合问题。操作：在各深度的特征映射图上独立进行，空间缩减分辨率，缩减方式为有多种：max，average，L2-norm等。2026/10/115池化层(Pooling)超参数：空间覆盖度SpatialExtent、步长Stride输入：三维数据（W1，H1,D1）输出：三维数据（W2，H2，D2）W2=(W1-F)/S+1H2=(H1-F)/S+1D2=D1空间窗口尺寸F=2，步长S=22026/10/116全连接层（Fully-connected）该层各神经元与前层所有神经元均相连接一个权重向量w和同维度输入数据的点乘结果2026/10/117全连接层和卷积层的转换主要区别：卷积层：局部连接/共享参数全连接层：整体连接/参数独立共同点：点乘计算，功能形式相同含全连接层全卷积层1×12026/10/118全连接层和卷积层的转换1×1含全连接层全卷积层可通过滑动的形式在一次正向传播中计算输出参数量没有改变计算方式没有改变将全连接层的权重矩阵改变为卷积层滤波器2026/10/119全连接层和卷积层的转换转换的优势:面对更大尺寸的输入图像数据时全连接层需要将输入图像在网络中前向传播N次全卷积网络仅需一次前向传播，提升了效率2026/10/1110全连接层和卷积层的转换全卷积神经网络（FCN）适应任何尺寸的输入图像数据可用于更精细的像素级的图像识别任务（图像分割）2026/10/1111功能层在案例中的解析LeNet：早期卷积神经网络模型,用于字符识别：卷积神经网络基本架构使用三个层作为一个系列：卷积，池化，非线性激活卷积层提取空间特征（CONV）池化层进行空间下采样（POOL）多个全链接层作为最后的分类器(FC)LeNet提供了利用卷积层堆叠进行特征提取的框架，奠定了深度卷积神经网络的重要基础。2026/10/1112功能层在案例中的解析LeNet中的卷积层可视化解析可训练参数：（5*5+1）*6（每个滤波器5*5=25个unit参数和一个bias参数，共6个滤波器）连接数：（5*5+1）*6*28*28=122304个连接超参数：输入图片：32*32卷积核大小：5*5卷积核种类：6输出featuremap大小：（32-5+1）=28*28神经元数量：28*28*62026/10/1113功能层在案例中的解析输入：28*28；采样区域：2*2；采样种类：6采样方式：4个输入相加，乘以一个可训练参数，再加上一个可训练偏置。结果通过sigmoid函数输出FeatureMap大小：14*14（28/2）神经元数量：14*14*6可训练参数：2*6（加和的权重+偏置）连接数：（2*2+1）*6*14*14可视化解析LeNet中的池化层2026/10/1114功能层在案例中的解析LeNet中的全连接层输入：C5层120维向量计算方式：计算输入向量和权重向量之间的点积，再加上一个偏置，结果通过sigmoid函数可训练参数:84×(120+1)=10164可视化解析2026/10/11BTBU-CIE15小结池化层和全连接层操作全连接层和卷积层的转换各功能