神经网络配套Ch4pres课件_第1页
神经网络配套Ch4pres课件_第2页
神经网络配套Ch4pres课件_第3页
神经网络配套Ch4pres课件_第4页
神经网络配套Ch4pres课件_第5页
已阅读5页，还剩23页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

感知机学习规则学习的分类•

有监督学习（有导师学习） 提供网络一组能代表网络行为的实例集合

(训练集)：•

增强学习（半监督学习） 仅提供一个级别(或评分)，作为网络在某些输入序列上的性能测度。•

无监督学习（无导师学习） 学习仅根据网络的输入来学会将输入模式分类

（聚类）。(输入,目标输出)。感知机的结构Ww11,w12,¼w1R,w21,w22,¼w2R,wS1,wS2,¼wSR,=wiwi1,wi2,wiR,=WwT1wT2wTS=单个神经元感知机工作原理p1+p2–1=0判定边界• 所有在判定边界上的点与权向量的内积相同。• 这些点一定是在一条与权向量垂直的线上。例子–“或(OR)”“或”的解答（图解法）方程的法向量是权向量(与判定边界垂直)：方程的常数项是判定边界的偏置值：两点式直线方程：例如点(x1,y1)和(x2,y2)：选一个判定边界及其上的两点得其方程：例如点(0.5,0)和(0,0.5)多神经元感知机•每个神经元将有自己的判定边界：•单个神经元可以将输入向量分为两类。•一个有S个神经元的感知机可将输入向量分为多类，共有2S种可能的类别。感知机学习规则•为满足给定的训练样本：•设计一般性的方法来确定感知机的权和偏置值。初始化将p1送入网络：随机初始化权：错误分类构造学习规则• 令1w

为p1 –前后振荡• 将p1加到1w上

–1w的指向偏向p1规则：第二个输入向量(错误分类，见前图)修正规则：统一的学习规则偏置可视为对应输入为1的权多神经元感知机权值矩阵的第i行修改为：矩阵表示：苹果/香蕉例子训练集：初始权值：第一次迭代：et1a–10–1===检查学习规则的能力•只要权值的解存在（问题线性可分），该学习规则总能收敛到实现期望分类的权值上。收敛性证明•证明见书中第45页•证明是建立在下面三条假设基础上的：⑴问题的解存在，即有式(4.66)：；⑵仅在输入被错分时才改变权值，即有式(4.72)：；(3)输入向量的长度(模)的上界存在。•证明的思路：若问题的解存在，则感知机学习规则必迭代有限次就可收敛。感知机的局限性线性判定边界解决不了线性不可分问题习题考虑下面定义的分类问

人人文库> 全部分类> 行业资料 > 信息产业

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论