基于卷积神经网络的手写数字识别ppt课件_第1页
基于卷积神经网络的手写数字识别ppt课件_第2页
基于卷积神经网络的手写数字识别ppt课件_第3页
基于卷积神经网络的手写数字识别ppt课件_第4页
基于卷积神经网络的手写数字识别ppt课件_第5页
已阅读5页，还剩15页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

基于卷积神经网络的手写数字识别 卷积神经网络 基于人工神经网络使用卷积核作为特征抽取器自动训练特征抽取器 即卷积核 即阈值参数 卷积核一次训练多次使用 可以在线学习 模型在训练好之后 在使用中继续训练 局部感受野 权值共享 下采样使模型参数大幅减小 7 卷积 卷积其实是一个图像处理核卷积用于增强图像的某种特征 降低噪音 8 卷积 9 卷积 子采样 利用图像局部相关性的原理 减少训练维数 同时保留了有用信息降低图像分辨率增强网络对大小变化的适用性 子采样 为什么不把S2中的每个特征图连接到每个C3的特征图呢 原因有2点 第一 不完全的连接机制将连接的数量保持在合理的范围内 第二 也是最重要的 其破坏了网络的对称性 由于不同的特征图有不同的输入 所以迫使他们抽取不同的特征 训练过程 训练算法与传统的BP算法差不多 主要包括4步 这4步被分为两个阶段 第一阶段 向前传播阶段 a 从样本集中取一个样本 X Yp 将X输入网络 b 计算相应的实际输出Op 在此阶段 信息从输入层经过逐级的变换 传送到输出层 这个过程也是网络在完成训练后正常运行时执行的过程 在此过程中 网络执行的是计算 实际上就是输入与每层的权值矩阵相点乘 得到最后的输出结果 Op Fn F2 F1 XpW 1 W 2 W n 第二阶段 向后传播阶段a 算实际输出Op与相应的理想输出Yp的差 b 按极小化误差的方法反向传播调整权矩阵 15 LeNet5 16 LeNet5 优点 卷积神经网络较一般神经网络在图像处理方面有如下优点 a 输入图像和网络的拓扑结构能很好的吻合 b 特征提取和模式分类同时进行 并同时在训练中产生 c 权重共享可以减少网络的训练参数 使神经网络结构变得更简单 适应性更强 缺点 实践中 具有类标号的数据较少 而不具有类标号的数据非常丰富 为每个数据人工设置类标号是非常费时和枯燥的 然而 为了使得监督卷积神经网络通过训练具有较高的泛化能力 需要大量具有类标号的训练样本 这也是制约临督卷积神经网络在实践巾应用的主要因素 卷积神经网络的非监督 深层网络含有较多的权值 当具有类标号的训练样本较少时 仅使用监督训练的方法不能充分训练深层网络 近年来 深层学习的研究表明 可以先使用没有类标号的训练样本逐层非脆督训练深层网络 而后 再使用少量具有类标号的训练样本监督训练深层网络 进行权值微调 这样在具有类标号的训练样本较少时 也能训练出泛化能力较高的深层网络 卷积神经网络的非监督训练算法主要有三种 预测稀疏分解PSD 不变预测稀疏分解IPS
人人文库> 全部分类> 教育资料 > 课件下载

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论