【深度神经网络概述1900字】_第1页
【深度神经网络概述1900字】_第2页
【深度神经网络概述1900字】_第3页
【深度神经网络概述1900字】_第4页
【深度神经网络概述1900字】_第5页
已阅读5页,还剩1页未读 继续免费阅读

付费下载

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

入层→输出层”的两层模型被称为感知机(Perceptron)[30]。但经过研究证明,的过程中,设输入大量的数据x={x,x₂,…,x,}到输入层,经过L层神经网络,第1层神经元个数为n₁,迭代次数为N。给网络随机分配一些初始权重,假设1层的权重矩阵为W¹,偏置矩阵为b①,状态为z(1),经激活函数f()输出为a。但经过计算的结果和真实标签的结果有很大差别。此时,若给定训练集样本偏置以及权重,反复按照这个方式运行,最终实现一ifLsum≤thresholdori≥N卷积神经网络(ConvolutionalNeuralNetwork,CNN)是在1998年,LeCun图2.1是一个由2个卷积层、2个池化层、2个全连接层和1个Softmax层层(Pooling),作用是减少网络参数量、降低特征图尺寸。全连接层通过将最为1的分布为(0,1)的类别实数(概率),最终图像的分类结果取最大概率对2012年,AlexNet³5突破性地把图像识别的错误率降低10%,在当年的ImageNet竞赛中获得冠军。相较于LeNet-5,AlexNet增大了规模,前者大概有6万个参数,后者有6000万个参数,但本质上网络结构一样。训练之前对输入进2014年,牛津大学的计算机视觉组和GoogleDeepMind公司的研究员研发了VGG³6]。一个主要的变动是反复堆叠3*3的小卷积核和2*2的最大池化层,并通过不断加深网络结果来提升性能,VGG成功的搭建了16-19层的深度卷积神经网络。某种意义上来说,VGG极大地推动了C2016年,ResNet³7是微软MSRA提出的残差网络。他们发现神经网络随着在的问题引起的。ResNet中最重要的是残差多层堆积的结构后,学习到的原始特征记为H(x),但由于直接学习原始特征不容易,而残差学习更容易,如果直接学习到了残差为F(x)=H(x)-x,这样原始的学习特征便是F(x)+x。反应到网络结构上去,结合图2.2所示,首先通过常一般都用ReLU,负的地方是零,正的地方是线性。通过这种方式,可以进一步XXX由于深度模型这种以“端到端(End-To-End)”的方式来自动提取特征,中间过程不可得知的特点,

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论