前馈型神经网络课件_第1页
前馈型神经网络课件_第2页
前馈型神经网络课件_第3页
前馈型神经网络课件_第4页
前馈型神经网络课件_第5页
已阅读5页,还剩10页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

第三章前馈型神经网络,感知器算法 BP算法,感知器算法(Perceptron Approach),感知器(perceptron)是一个具有单层计算单元的人工神经网络。感知器训练算法就是由这种神经网络演变来的。,感知器概念,美国学者F.Rosenblatt在1957年提出了感知器的模型,如下图。,感知器实质上是一种神经元模型,是一个多输入/单输出的非线性器件。用一个数学表达式表示,就是:,感知器概念(续),这种神经元没有内部状态的转变,而且函数为一个阶跃函数,即为阈值型。因此,它实质上是一种线性阈值计算单元,如下图:,输出表达式:,也可以写成:,感知器概念(续),感知器训练算法,已知感知器输出函数 :,( 是判决函数),分别表示两种类型,则感知器输出函数变为,感知器训练算法,感知器算法(续),条件:设给定一个增广的训练模式集x1, x2,xN,其中每个类别已知,它们分属于1,2。 步骤:,(1)置步数k=1,令增量=某正的常数,分别赋予初始增广权矢量w(1)的各分量较小的任意值。,(2)输入训练模式xk,计算判别函数值w(k)xk ;,(3)调整增广权矢量,规则是:,如果xk1和w(k)xk0,则w(k+1)=w(k)+xk,如果xk2和w(k)xk0,则w(k+1)=w(k)-xk,如果xk1和w(k)xk0,或xk2和w(k)xk0,则w(k+1)=w(k),(4)如果kN,令k=k+1,返至(2)。如果k=N,则检验判别函数wx对x1, x2 xN,是否都能正确分类。若是,结束;若不是,令k=1,返至(2),调整规则: xk1和w(k)xk0,,说明对xk作了错误分类,应校正权矢量,使w(k+1)=w(k)+xk,w(k+1)xk =w(k)+xk xk=w(k) xk+ xk xk w(k) xk,如果xk2和w(k)xk0,w(k+1)xk =w(k)-xk xk=w(k) xk- xk xkw(k) xk,如果xk1和w(k)xk0,或xk2和w(k)xk0,分类正确,不需校正。w(k+1)=w(k),如果训练模式已经符号规范化,即xk2已乘以-1,包括增广分量1,则校正权矢量的规则可统一写成,收敛性分析,收敛定理:如果训练模式是线性可分的,感知器训练算法在有限次迭代后便可以收敛到正确的解矢量w*,为证明方便又不影响结论的正确性,设=1, x2已乘以-1,并设在感知器训练过程中,错判的模式为xi1, xi2 xik,第k步权矢量w(k)等于初始权矢量w(1)用xij(j=1,2,k)校正,按感知器算法,有,w(k+1)= w(k)+ xik,收敛性分析,由于训练模式是线性可分的,所以存在使wxj0成立的解矢量,设为w*,改变w的尺度并不影响判别

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论