



下载本文档
版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
CNN卷积神经网络分析概述目录TOC\o"1-3"\h\u22980CNN卷积神经网络分析概述 179571.1卷积 1308241.2池化 21.1卷积前文中提到了LSTM在时序问题上有很好的处理效果,接下来概述CNN卷积神经网络,CNN主要运用于图像识别,计算机视觉等方面。前文介绍到全连接网络的概念,因此不难看出全连接有一个很大的问题在于,中间层数越多,要得出的参数量就会越多,这样会造成计算机占用很大的内存,其中梯度相关运算占用的资源也会非常的多。所以需要CNN来解决这个问题,而且CNN的鲁棒性和抗干扰性也非常优越,所以目前在图像识别方面,CNN的应用很广泛。接下来将研究如何避免全连接网络的参数集大的缺陷。全连接层因为会前后两层的节点相互连接,如果面对输入很多的时候会出现大量的连接,这样虽然可以提取所有输入节点的特征,但是由于连接过多会造成在梯度计算和反向传播中出现大量的权重和偏置的计算,并且后续计算损失函数会十分复杂,对于我们希望其准确快速的方面表现很差。全连接方式不适用,可以考虑进行特征提取,从节点的重要性方面考虑,相对重要的节点使其占比加大,忽略相对不重要的节点。然而找出每个中间节点的重要性分布是件非常困难的事情,但是可以针对于具体问题,利用先验知识把这个问题简化。先举例来讲述卷积神经网络是如何工作的。对人类来说,不难识别从不同人手中写出的不同字母的书写,但是对于计算机它只会认识像素阵列。既然人类可以认识到字母的区别,是说明我们找到了它们的特征并且提取出来进行识别。那么应该如何让计算机进行特征提取,来让计算机认识这些字母呢?图2-14特征提取如图2-14,可以看出来对于X的识别,有三个部分作为识别的特征,把这三个特征提取出来,把它们叫做卷积核,如图2-15,将白色的像素部分设置为1,黑色的像素部分设置为-1来进行识别。CNN里最重要的运算之一,卷积运算,可以理解为特征提取。卷积的“卷”是指翻转平移操作,“积”是指积分运算。卷积核在原图上不断进行运算,如图2-16图2-15卷积核图2-16卷积核运算不难看出来其中一个卷积核和绿框中的值进行相乘再相加取平均,最后得出来数1,这就说明它们的特征完全一样,计算机再以此和图片上其他部分进行卷积运算(当然实际上的卷积核要进行翻转的,这里是为了便于理解)从图2-17里不难看出来,经过各个部分的卷积运算之后,计算机得出来了它的featuremap,数字越大说明特征越相关。图2-17提取featuremap1.2池化计算机拿三个卷积核对图片进行卷积得出图2-18的结果,这三个卷积核出来的结果可以提取出各自对应的特征。但是大部分使用CNN的地方会存在许多特征,计算机不可能在短时间内找到数以万计卷积核去提取特征。大部分时间需要计算机做出很快的判断,因此计算机需要对其进行缩小简化。就好像把视频的分辨率从1080P降低到360P一样,虽然图像模糊了,但是人们依旧不难整体看出它是什么东西,只不过在细节方面稍微差一点罢了。可是如何实现这种操作使得featuremap进行缩小呢?就需要用到一个操作叫做池化(pooling)在得出featuremap之后用一个大的框架来使得其缩小。池化分为两种,一种叫最大池化方式,另一种叫平均池化方式。不难从字面意思看出来,计算机可以从featuremap上取一个大框的最大值作为池化值,这就是最大池化方式。反之计算机取大框的平均值作为池化值,这就叫做平均池化方式,如图2-19。一般计算机是用最大池化方式,在保留原图的特征的同时还能把原图的尺寸降低。池化和卷积都会存在步长,步长决定了卷积池化每一次的行进距离。然后计算机通过激活函数把卷积池化后的结果进行负数归0通过ReLU等激活函数来进行,这样方便后续操作。原图经过卷积激活池化如图2-20得出结果,通过不断重复这个过程就可以得到小的特征提取。图2-18不同卷积核得出的featuremap图2-19两种池化方式图2-20CNN实现过程然后经过这个重复过程之后就可以用到前文中提到的MLP来进行全连接排列了,然后进行权重偏置激活的训练运算,计算机就可以来识别出图像来了。也就是说卷积池化可以理解为缩放然后把结果放入MLP中得出识别结果了。卷积核的选择是通过计算机自我训练实现的,人们只要给参数就可以,现在我们运用的训练模型都是前人给我们训练好的,因此我们后续的任务会方便很多。训练依旧离不开梯度下降和反向传播。大数据的好处就体现在这里,我们可以用大数据不断进行机器训练。但是像表格这种,进行数据列交换后,不影响我们的认识阅读的话,CNN就不是很适用了。但是CNN的出现还是提供给
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
评论
0/150
提交评论