神经网络理论及应用实践 课件 7.1 CNN basis

主讲人：张洁北京工商大学计算机与信息工程学院

01卷积神经网络基础2026/10/11BTBU-CIE2本节提要传统人工神网络在图像处理上的问题描述卷积神经网络的特点与基本架构2026/10/113前景回顾：传统神经网络前端输入层：一个单向量的数据表示中间隐含层：一系列神经元组成，将前层输出转换至另一向量空间

神经元全连接、各连接独立不共享末端输出层：在图像分类任务表达为各类别的分数2026/10/114问题:当神经网络遇见图像数据？飞机汽车小鸟猫鹿狗狐狸马轮船卡车图像数据示例CIFAR-10Dataset6000032x32colorimagesin10classes6000imagesperclass50000trainingimages/10000testimages.

Meet2026/10/115问题:当神经网络遇见图像数据？总共有多少连接？多少待训练参数？这些多重连接是否有冗余？是否可被共享?如何降低神经网络模型的参数？使模型变“小”？一个全连接人工神经网络模型：输入层隐藏层×3输出层2026/10/116问题:当神经网络遇见图像数据？传统人工神经网络面对图像数据的表现：面对32×32×3的输入图像数据，单个全连接神经元有3072个权重待训练。若输入图像维度增加或神经元数目增加，则待训练参数呈高数量级快速上升。引起训练负担+过拟合风险不适用于图像数据的处理！2026/10/117传统神经网络vs卷积神经网络采用三维的形式（width×height×depth）神经元局部区域连接（局部感知），非全局连接神经元共享参数，非完全独立输出端的维度可相应地匹配输入的任务卷积神经元特点：卷积神经网络传统神经网络2026/10/118传统神经网络vs卷积神经网络嘴部探测器detectorCanrepresentasmallregionwithfewerparameters卷积神经元特点之一：局部感知在图像理解任务中，一些重要模式的尺寸往往小于整个图像，采用对图像局部进行神经元映射2026/10/119传统神经网络vs卷积神经网络左上部嘴探测器

detector中间部位嘴探测器不同空间位置的同类特征可共享同样的感知神经元卷积神经元特点之二：参数共享2026/10/1110卷积神经网络的基本架构由三种类型的功能层组成：卷积层（convolutionallayer）、池化层（poolinglayer）、全连接层（fully-connectedlayer）2026/10/1111卷积神经网络的基本功能层输入层—卷积层—激活函数—池化层—全连接层—输出层输入层：匹配原始图像的维度[32×32×5];卷积层：面向局部图像的神经元映射;激励层：神经元级的非线性激活映射;池化层：在二维空间维度（长、宽）上进行下采样;全连接层：映射至类别的分数，维度可适应类别数目。2026/10/1112卷积神经网络的基本功能层全局分析：卷积神经网络将输入原始像素经由多功能层映射为最终的类别分数。可训参数：卷积层和全连接层（含）；激活层和池化层（不含）超参数：卷积/全连接/池化（含）；激活层（不含）2026/10/1113卷积神经网络的基本功能层卷积神经网络基本架构运行总览：2026/10/1114卷积神经网络的基本功能层卷积神经网络基本架构运行总览：小结1、卷积神经网络的引入：图像数据2、卷积神经网络对比传统神经网络的特点3、卷积神经网络的基本架构2026/10/11BTBU-CIE