智能控制讲义神经网络

1、人工神经网络（5）主讲：华东理工大学自动化系本节内容1、小脑模型神经网络2、RBF神经网络3、模糊神经网络小脑模型神经网络(CMAC)1、网络结构2、工作原理3、学习训练算法4、网络特点全局网络和局部网络全局网络：如果网络的任一连接权系数或自适应可调参数在输入空间的每一点对任何一个输出都有影响，则称该神经网络为全局例：BP网络近网络。全局网络学习时：学习每个输入输出数据对，网络的每接权均需进行调整，从而导致全局近网络学习速度很慢的缺点。局部网络：如果对输入空间的某个局部区域，接权影响网络的输出，则称该网络为局部数几个连近网络。对于每个输入输出数据对，量的连接权需要进行调整，从而使局部近网络具有

2、学习速度快的优点CMAC神经网络是Albus根据小脑的生物模型一种人工神经网络。它学习速度快，具有局域泛化能力，能够克服BP网络容易陷入局部最小点，且硬件易于实现。目前，CMAC神经网络被广泛应用于机器人控制、非线性函数、模式识别以及自适应控制等领域CMAC神经网络概述1975年 J.S.Albus提出特点：是典型的局部网络用于机器人控制、模式识别、信号处理、自适应控制等CMAC神经网络结构相联空间输出空间y y y y T12r输入空间x TxnMAAUx1yc posxn 1xnC为感受野工作原理1：S:xAx将输入空间中的点为相联空间的向量 ，素都为0。的少数几个元素为1，其余元该是在设

3、计网络时便确定了的。2： P:Aym wij j j 1yi哈西问题：若x为n维，每一维可取q个不同的值，则联想A的大小为：qnCMAC网络所需容量随输入维数的增加呈指数增长解决方法：哈西A中数元素个数为1，其余元素都为0，A是一个稀疏矩阵。哈西编码是压缩稀疏矩阵的常用技术。把一个大的 其压缩区域稀疏到小的的数据通过哈西编码将区域。哈西碰撞：通过训练解决。学习算法y y (k ) / Tw (k 1) wdij0 2ijiij网络特点(1)具有局部泛化能力，输入空间中相近的输入矢量将产生相近的输出；(2)尽络可以很大，但对于每一输入，要处理的内存单元只是其中很小的一部分;(3)CMAC的学习算

4、法采用简单的算法，因此学习速度快，可运行。辐射基函数神经网络(RBF)1、网络结构2、学习训练算法3、网络特点4、相应的函数网络结构属于多层前向网络，三层：I,H,O,如图2.7.1所示。I：输入层H：隐含层线性非线性径向基函数O：输出层线性I/O关系：给定n输出 y1 yn为中的输入向量 X Rn ,到l wij jX Ci 1 myij 1，直接作用于 j函数，cj为中心，cj Rn输入层无通常为 0函数学习训练算法分为如下几步）中心c j , j 1 l的确定 a)随机选取中心法做法: 中心在输入数据中随机l个，且固定不变b)自组织学习选取RBF中心 k-均值聚类算法1）初始化聚类中心

5、ti (i 1,2, l ), 一般随机从X j ( j 1 n)中选l个2）输入样本按最邻近规则分组，即X j ( j 1 n)分配给ti (i 1 l)的输入样本聚类集合i (i 1 l)X j i满足条件di minX j tii3）计算i的样本均值（即聚类中心ti） 1tXijlX j iili为i的样本数反复第2）步到第3）步，直到分布不再变化）H-O输出层阵学习N给定 X组1 ii , 2d, , n目, 标i1 niRRdnmXI由 Hii输O出有lk kcwjkijyxik 1写成最小二乘问题(11 ( xnw 1wlxx)1 )ddn1 1111 ww ( ) d ( xW

6、n)dml lnm m11ln1m DDl一般情况 W)1DT(TRBF神经网络特点1、RBF神经网络神经元节点通常比BP网络多；2、训练时间远远低于BP网络；3、对于存在大量训练样本的情况，RBF网络的性能比较好；4、只要隐含层节点数足够多，RBF可以任意非线性函数。相应的建立一个RBF网络在函数中可用以下的语句：net = newrb(P,T,goal,spread)或用net = newrbe(P,T,spread)一般利用RBF网络来完成函数近的任务比用BP网络所用的时间要短，但是所用的神经元的个数却要多.函数的扩展系数关于rbf神经网络的demoDemorb1:用RBF神经网络做非线

7、性函数的近扩展系数取的过小模糊神经网络概述神经网络的特点:并行计算,分布,容错能力,学习功能不表达基于规则的知识黑箱表达模糊逻辑的特点:适合于表达模糊的定性的知识模拟人的思维、推理缺乏学习能力将两者结合,取长补短形成模糊神经网络模糊逻辑神经网络模糊神经网络研究人的智能语言计算逻辑推理 分布式处理非线性NN与FL的结合方式利用神经网络的学习能力提取模糊规则或调整模糊规则参数；用神经网络实现一个已知的模糊系统，以完成并行模糊推理；将模糊集合的概念应用于神经网络的计算和学习，从而在普通神经网络的基础上发展各种模糊神经网络；用模糊技术提高神经网络学习性能；模糊神经网络的输入输出关系已知输入输出关系的模

8、糊规则：R : 如果x 是Ai and x 是Ai and x 是Ai则y是Bii1122nni 1, 2,m当前输入为x, 求模糊系统的输出ymi yci i i1为第i条规则的匹配度。y xn )mi1A12ni或者 xn )A12n模糊神经网络的结构第五层第一层第二层第三层第四层1、第一层为输入层2、 第二层为模糊化层，计算各输入分量属于各语言变量值模糊集合的隶 属度函数。每个结点代表一个语言变量值，如NB，PS等。例若采用函数则3、 第三层用来匹配模糊规则的前件计算出每条规则的适用度。 每个结点4、第四层实现归一化计算5、第五层为输出层，实现清晰化计算myi wij j , i 1, 2, ri1m j j / i , j 1,