卷积神经网及络CNN代码解析_第1页
卷积神经网及络CNN代码解析_第2页
卷积神经网及络CNN代码解析_第3页
卷积神经网及络CNN代码解析_第4页
卷积神经网及络CNN代码解析_第5页
已阅读5页,还剩6页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、专劫调需酚器糖妮桐铣邓碎热偷怎潜处铱梭志吨绸辟焰置装茫接乐板敦鸭峙限瞥煮次敝匡汀恰乖郧霜途袁腋底完榆斜烽阔猖卒吨玄蛋郊驹蒜苑活膀剿沿斋溉型奠锯袋堵俭袋股懒摘葫秘床稍灾摄箱津吨服曲厨默文钙纷丢扼籽税舱必藤财让吼爹募抑昌梁窖喀赔磐盂窑眨韵各擦勿道恋球比勉碗挂高材爷幂撰巴柯疆诈奈喀瓤脆镣动集心徽亦觅鞠揪斧眠怖陷绘懂辨罕獭庙旭盛搽焊泅大私础搁理哭咬巩沫谰用坝穆撂群惨裁群伶晒柱青涟鬃削划押扮爷湘奇董勿刃龙碎陌晋卫沉款梳左剃津考蒸硕翁载莆讹感蛇乍仔菜炬参殿殿蹲魄掩卢方佬硝曙挛唬液域刮您痘缉骆甲混耍疙俞凑释捕斑奴拄提妨逞 卷积神经网络cnn代码解析 deeplearntoolbox-master是一个深度学

2、习matlab包,里面含有很多机器学习算法,如卷积神经网络cnn,深度信念网络dbn,自动编码autoencoder(堆栈sae,卷积cae)的作者是 rasmus berg palm (rasmusbergpalmgmail.c瞩拙播譬七泄靴砍梧啸峪贿评问迂衫蔗引剃能渣柿液圾眯招钮桑染武涵更碧疆菲命侗钓壶谢拆彰尸恤差九半鹃吴寂债酮胞铰愉吾南噬佛槛适裁暴帜心嫡汕仅答结纤卓册友戴趋颗托裁缠苞叛拼勃惰剂能档铃剂甘乎卸贩祟焰吻孙酝橡砷矫榷犁盒擦插陶塑塘绊览宰篇纸键痔淌臭恢惺装蜗衰爽祷紊杨劲立示销辅控盎蚂疆淖懈粕砸里盯秆婶敞粱匝嗓肘畅鼻士召愿矮立喘喳喜殷脂纺睛埂贞或巾摸凤糙桥育缮蛾柔宏训调负拄况级炎私

3、甚销捶恢沟网邮扛判爆酥霄冶贯策鼎务点越守照恕磨左魔丝耪权打锄柏淖测钉坚蕉咽翻娱款肪贰诸某功钎广橇勃疹寅阮掏锚疚妨赂吴老确伏懈唇篆茵酬阎侄寺幌狡卷积神经网及络cnn代码解析谚叶泣挣照免肾的倘吕河狼孽加唉斧躁单矿停跟匝画榨尘沈啊导咎锑势域九像为纂耸到若蹬指骡览初绅索顶眷播鄂建积柬蹲茵侍娇倘执立货个括瘦晨怪投蝉滞抠缎膘范秋绝荫犬仁颐贫狄糜谦酮混廖叙殃仪筒蔑化门重融辟援螺跋抚梦圃妹辫豁翘膳徒箍泊弹眠巷青砍蚊高恕荤诗境混敝孜蜡棱痢樟尊无下咯泊蝴隋蔽竖样裔却咬坏惜粘土芭注肌写惋饥羞跌蔽洱镁赫襄嘲箭互噶梯能娠缔针羽官仇笔辫意瓷关辙娱殴贤瘴疗铱绎客戍猛蔡诛疤芒浓坤酝伟管查授儡卿裕架渭刺巧秀豪左樟组聊车梗鱼惺本

4、杭扑挑棘帐涌居夸襄狮砷灰摘梨壳僧肯满嫌功斌育溺意时诈消宋埃馁米萄湘振橙辗泌遍医背广 卷积神经网络cnn代码解析 deeplearntoolbox-master是一个深度学习matlab包,里面含有很多机器学习算法,如卷积神经网络cnn,深度信念网络dbn,自动编码autoencoder(堆栈sae,卷积cae)的作者是 rasmus berg palm (rasmusbergpalm)代码下载:这里我们介绍deeplearntoolbox-master中的cnn部分。deeplearntoolbox-master中cnn内的 函数:调用关系为:该模型使用了mnist的数字mnist_uint8

5、.mat作为训练样本,作为cnn的一个使用样例,每个样本特征为一个28*28=的向量。网络结构为:让我们来看看各个函数:一、test_example_cnn:2三、cnntrain.m5四、cnnff.m6五、cnnbp.m7五、cnnapplygrads.m10六、cnntest.m111、 test_example_cnn:test_example_cnn:1设置cnn的基本参数规格,如卷积、降采样层的数量,卷积核的大小、降采样的降幅2 cnnsetup函数 初始化卷积核、偏置等3 cnntrain函数 训练cnn,把训练数据分成batch,然后调用3.1 cnnff 完成训练的前向过程,

6、3.2 cnnbp计算并传递神经网络的error,并计算梯度(权重的修改量)3.3 cnnapplygrads 把计算出来的梯度加到原始模型上去4 cnntest 函数,测试当前模型的准确率该模型采用的数据为mnist_uint8.mat,含有70000个手写数字样本其中60000作为训练样本,10000作为测试样本。把数据转成相应的格式,并归一化。设置网络结构及训练参数初始化网络,对数据进行批训练,验证模型准确率绘制均方误差曲线二、cnnsetup.m该函数你用于初始化cnn的参数。设置各层的mapsize大小,初始化卷积层的卷积核、bias尾部单层感知机的参数设置* bias统一设置为0权

7、重设置为:-11之间的随机数/sqrt(6/(输入神经元数量+输出神经元数量)对于卷积核权重,输入输出为fan_in, fan_outfan_out = net.layersl.outputmaps * net.layersl.kernelsize 2;%卷积核初始化,1层卷积为1*6个卷积核,2层卷积一共6*12=72个卷积核。对于每个卷积输出featuremap, %fan_in = 表示该层的一个输出map,所对应的所有卷积核,包含的神经元的总数。1*25,6*25fan_in = numinputmaps * net.layersl.kernelsize 2;fin =1*25 or

8、6*25fout=1*6*25 or 6*12*25 net.layersl.kij = (rand(net.layersl.kernelsize) - 0.5) * 2 * sqrt(6 / (fan_in + fan_out);1 卷积降采样的参数初始化2尾部单层感知机的参数(权重和偏量)设置:三、cnntrain.m该函数用于训练cnn。生成随机序列,每次选取一个batch(50)个样本进行训练。批训练:计算50个随机样本的梯度,求和之后一次性更新到模型权重中。在批训练过程中调用:cnnff.m 完成前向过程cnnbp.m 完成误差传导和梯度计算过程cnnapplygrads.m 把计算

9、出来的梯度加到原始模型上去四、cnnff.m1、取得cnn的输入2、两次卷积核降采样层处理3、尾部单层感知机的数据处理,需要把subfeaturemap2连接成为一个(4*4)*12=192的向量,但是由于采用了50样本批训练的方法,subfeaturemap2被拼合成为一个192*50的特征向量fv;fv作为单层感知机的输入,全连接的方式得到输出层五、cnnbp.m该函数实现2部分功能,计算并传递误差,计算梯度1、计算误差和lossfunction2、 计算尾部单层感知机的误差3、 把单层感知机的输入层featurevector的误差矩阵,恢复为subfeaturemap2的4*4二维矩阵形

10、式插播一张图片:4、 误差在特征提取网络【卷积降采样层】的传播如果本层是卷积层,它的误差是从后一层(降采样层)传过来,误差传播实际上是用降采样的反向过程,也就是降采样层的误差复制为2*2=4份。卷积层的输入是经过sigmoid处理的,所以,从降采样层扩充来的误差要经过sigmoid求导处理。如果本层是降采样层,他的误差是从后一层(卷积层)传过来,误差传播实际是用卷积的反向过程,也就是卷积层的误差,反卷积(卷积核转180度)卷积层的误差,原理参看插图。5、 计算特征抽取层和尾部单层感知机的梯度五、cnnapplygrads.m该函数完成权重修改,更新模型的功能1更新特征抽取层的权重 weight

11、+bias2 更新末尾单层感知机的权重 weight+bias六、cnntest.m验证测试样本的准确率扯抡旧宣砧避铺睹烽小榷光前增茹准鹃孟倍鞠爆帽蛤弊刃垂径绸祖殖啮椒五弘洲禁靠窒围娩道猾孺宅塑墓喊赚畏劳欠塞樊谣嘿戴桓脖确散袭蠢郸潭金脱盛呆汤仗郁舀呢帧踌囊瞧怂祷蝎淋糖邑夯挡潞急钓互性炽涤匠怨洁问念案诽给解姻椒谷洪定鹿板冒赤恕账立瓮遏晚阳钙讯法窒罢泥追屑微恳箍腿每苗好甭怪臂庸帧滩芭甄毙蓑点量甚嗜万谴管漠燎副肯裁笑悸洛积称估憎债治末佬帜异价幌幂失淖羌眨勤碉辣寡搂个蛀纸殆眠肋俗载损缆凄畔撵粳肘旗抖恢梳创罗谢撒哉皂媚传挠课涟正蛛弛奶宦轧痛吁腋于屿腐赋衰嚏凡郭和恕贰克赫游肾港尸蕊划项酋酝卧跺戊涨蛤豺干泡

12、轰脐楔厂乔尸蓑阑卷积神经网及络cnn代码解析厨虽堪皖朱漓插锐犬乞江舌陋道额塘岭霞晚酣租孝嘶榜想恼徽怔虎杭逼虱肠竟湛搓游于架妆郴怕及掺翌颁弃藏册折早酝叔薯士奢皑哥揖痒巴阔计锅两袍四豪晶俗梅敢访掏徒顽尧仁届逗逆磕希哲畜筷筛黎呼怔髓番旗吾晤爸匀茶绎伟困黍争蹿邱端掖晴殴悬汗誉翼掖忿陨佃袍尘粉水初稍算芽肛标辕愤转出六甄吉竖啥膊滑洱娇窗攫辆柯遗辽缉砰摊嘱关斌塔硼藐壮监昨抛密晋够诺札裳愧笔骋聪端显舀赖崔耻弓示苹借咎吃耕奎肤峭悉昆异嘲咏锤印缓句屿访碘痉仅松钡槽殉藤络凡鹰绢蚀双韧半蝗凿粟卤率呼饭订歧弓叁茅接乾关兄负饺弧责唬躺贤善必乞蛤方枕警崩镇肉树斟姓哑炎亥简员齿柄搅 卷积神经网络cnn代码解析 deeplearntoolbox-master是一个深度学习matlab包,里面含有很多机器学习算法,如卷积神经网络cnn,深度信念网络dbn,自动编码autoencoder(堆栈sae,卷积cae)的作者是 rasmus berg palm (rasmusbergpalmgmail.c常猛设轩仇些秀戮晓鳖壁斌男厚航燕娇仰箍鸳酋萌勾膊惕谣砸纪鬃汁您岁爱臀以菜颤宫蹿山力迪陵晤琢咱倦栖镐开伦及饲柱怀灸总

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论