模糊神经网络资料课件

1、模糊神经网络资料第十一讲混合(hnh)智能控制第一页，共四十五页。模糊神经网络资料模糊(m hu)神经网络ANN（Artificial Neural Network）和 FLS（Fuzzy Logical Network）的比较(bjio)：相同之处 1） 都是非数值型的非线性函数的逼近器、估计器、和动态系统； 2） 不需要数学模型进行描述，但都可用 数学工具(gngj)进行处理； 3）都适合于VLSI、光电器件等硬件实现。不同之处： 工作机制方面： ANN大量、高度连接，按样本进行学习 FLS 按语言变量、通过隐含、推理和去 模糊获得结果。 第二页，共四十五页。模糊神经网络资料 应用上： A

2、NN偏重于模式识别(m sh sh bi)，分类 FLN 偏重于控制神经模糊网络把ANN的学习机制和FLN的人类思维和推理结合(jih)起来。 信息处理基本单元(dnyun)方面： ANN数值点样本，xi yi FLN模糊集合（Ai，Bi） 运行模式方面： ANN学习过程透明，不对结构知识编码 FLN不透明，对结构知识进行编码，推理过程外界 可知第三页，共四十五页。模糊神经网络资料结合方式有3种： 1）神经模糊系统用神经元网络来实现模糊隶属函数、 模糊推理，基本上（本质上）还是(hi shi)FLN。 2）模糊神经系统神经网络模糊化，本质上还是ANN。 3）模糊-神经混合系统二者有机结合。基于

3、(jy)神经网络的模糊逻辑运算用神经网络实现(shxin)隶属函数神经网络驱动模糊推理神经网络的模糊建模用神经网络实现隶属函数)(exp11)(1cgswxwxy第四页，共四十五页。模糊神经网络资料wc 和 wg 分别确定Sigmoid函数的中心(zhngxn)和宽度,S(x),M(x),L(x)组成大、中、小三个论域的隶属函数。逻辑(lu j)“与”可以用Softmin 来实现：kbkakbkaeebeaebaba),min(soft)（b)Min(a,b)Softmin(a,时，当k函数。是非线性函数，生成sigmoida第五页，共四十五页。模糊神经网络资料神经网络驱动(q dn)模糊推理

4、（NDF）), z , :yxfThenBYAXIfRiiii（是是和是rsxxxNNyThenAxxxXIfRnsssns,.,2 , 1 ),.,( , ),.,( : 2121是 解决模糊推理中二个问题：缺乏确定的方法选择隶属函数(hnsh)；缺乏学习功能校正推理规则。 用神经网络实现TS模型(mxng)，称为神经网络驱动模糊推理(NDF).网络由二部分组成: r为规则数, As是前提的模糊集合.NNs是模型的函数结构,由BP网络实现.第六页，共四十五页。模糊神经网络资料学习的网络(wnglu)和训练的步骤第七页，共四十五页。模糊神经网络资料2) 将数据(shj)聚类.分成r 类.即有r

5、 条规则.TRD的数据有N t 个.3) 训练规则的前提部分(b fen)网络NNm.。4）训练(xnlin)对应于规则R s的后件部分（Then部分）NN s第八页，共四十五页。模糊神经网络资料（加权）或 )()()( )()(2121iAisNiiiAsmiAisNiismxxyxExxyEscssc5）简化(jinhu)后件部分在NN S的输入(shr)端，任意消去x p ，比较误差：6）最终(zu zhn)输出第九页，共四十五页。模糊神经网络资料神经网络的模糊(m hu)建模有三种(sn zhn)模型： 后件(hu jin)为恒值：iniiniiiniiiiiiffnifyThenAx

6、AxIfR111*2211/y ),.,2 , 1( , :21是和是3 , 2 , 1,21ii 后件为一阶线性方程 0,1,2)(j ),( ),(),( ,.,2 , 1 ),( , :22110212111211*21221121是常数是和是ijiiiiniiiniiniiiiiiiaxaxaaxxfxxfxxfynixxfyThenAxAxIfRniiiiiiixxx1)(/ )()(第十页，共四十五页。模糊神经网络资料第十一页，共四十五页。模糊神经网络资料第十二页，共四十五页。模糊神经网络资料后件(hu jin)为模糊变量)()( 2 , 1 . ,.,2 , 1 ) , ( :1

7、2121211*1221121kBkkkkkkBkRniikRkiiikkkikikykniByThenAxAxIfR是是是和是第十三页，共四十五页。模糊神经网络资料第十四页，共四十五页。模糊神经网络资料第十五页，共四十五页。模糊神经网络资料应用(yngyng)假定要辨识(bin sh)的系统为25 .13125 .01)1 (xxxg数据(shj)40 对，见表6.1评判指标:UCEECyyyyUCyyEyyEBAniBBiBAiniAAiABiniBBiBiAniAAiAiABABA2212121212)()()()(第十六页，共四十五页。模糊神经网络资料常 数 模 型第十七页，共四十五页

8、。模糊神经网络资料常 数 模 型 隶属函数(hnsh)的变化第十八页，共四十五页。模糊神经网络资料非 线 性 模 型第十九页，共四十五页。模糊神经网络资料非线性模型隶属函数(hnsh)的变化第二十页，共四十五页。模糊神经网络资料语 言 输 出 模 型第二十一页，共四十五页。模糊神经网络资料语 言 输 出 模 型隶属(lsh)函数的变化第二十二页，共四十五页。模糊神经网络资料I IIIII 神经网络模糊化模糊(m hu)感知器 精确划分的问题：每个分量都有同样的“重要性”，用在分类时，当分类有重叠(chngdi)时（如图），得不到很好的结果。 模糊感知器的基本思想：给隶属函数以一定的修正量，对隶

9、属度接近0.5的样本(yngbn),在确定权值向量时,给予较小的影响:是分类的数目。的维数。是向量迭代次数）ixpxxixnjxyyxxWWkipkkiikijkkdkmkkjkjk 1 , 0)( ),(0 . 2 , 1 , 1)( 11 ,)()(121211第二十三页，共四十五页。模糊神经网络资料模糊感知器算法的问题:如何选择 m?如何给向量赋与模糊隶属函数(hnsh)?3) 算法的终止判据.回答：1）m 1; 如隶属函数接近0.5. m 1；如隶属函数大于0.5. 2) 给向量(xingling)赋与模糊隶属函数的规则:)1)( )(25 .0) )1)( )(25 .0) 21/)

10、(212/)(12112kkfffdddfkkkfffdddfkxxeeeexIIxxeeeexI（：对类别（：对类别第二十四页，共四十五页。模糊神经网络资料其中(qzhng): .5 .0 )( )( 21的速率控制隶属函数下降到是正常数，均值之间的距离；和是类别的距离；相当于离聚类中心均值是属于向量类别的距离；相当于离聚类中心均值是属于向量类别fIIIdIIdId第二十五页，共四十五页。模糊神经网络资料3) 算法(sun f)停止的判据:.5 .0 0.02,0 )(21 5 .0) 5 .0)(21附近在（或BetaeeeBetaBetaxBetaxfffkk产生(chnshng)良好的

11、结果. 模糊(m hu)联想存储器（FAM） 双向联想存贮器的模糊化。把双向联想存贮器的权矩阵变换成模糊集合的关系（关联）矩阵。（当分类错误，不确定向量不再产生另一迭代）第二十六页，共四十五页。模糊神经网络资料BAMT6 . 05 . 09 . 06 . 05 . 09 . 05 . 05 . 05 . 02 . 02 . 02 . 06 . 05 . 09 . 00 . 19 . 05 . 02 . 0BAMTjiijTbamBAM6 . 05 . 09 . 045. 045. 081. 03 . 025. 045. 012. 01 . 018. 0BAMT模糊关联矩阵M确定(qudng)有

12、二种方法：1）相关最小编码m i j= Min（a i ,b j）假定(jidng)A= (0.2 0.5 0.9 1.0), B= (0.9 0.5 0.6),则：2）相关乘积(chngj)编码现在看，如果有A能否“回忆”起B？AM = B； BMT = 0.2 0.5 0.9 0.9= A A.第二十七页，共四十五页。模糊神经网络资料mkkkBWB1.,.,2 , 1 )(mkBAAMABkTkkk)(/ )(11ipiBiBpiiyyyB现在(xinzi)看，如果有A能否“回忆”起B？如果(rgu)AT = (0 0 0 1), 则ATM = B；如果AT = （1 0 0 0）则ATM

13、 = （0.18 0.1 0.12) 只回忆起B的20%。由m个FAM组成(z chn)的FAM系统。 把m个关联（A k，B k）分别存到存贮库中，把m 个记忆向量叠加起来。即：所记忆的隶属向量，等于各记忆向量的加权和： 如在输出论域Y=（y1,y2,y p)需要一个单独的输出，则要去模糊：第二十八页，共四十五页。模糊神经网络资料A并行(bngxng)地加于各联想存贮器上。第二十九页，共四十五页。模糊神经网络资料神经模糊(m hu)网络神经模糊控制器第三十页，共四十五页。模糊神经网络资料对任一节点对任一节点i 输入输入(shr)与输出的关系：与输出的关系：输入(shr)：kpkkkpkkiw

14、wwuuufnet2121,代表组合代表层次fk,输出(shch)： fanetaoOutputiki 模糊自适应学习控制网络模糊自适应学习控制网络(FALCON)(FALCON)第三十一页，共四十五页。模糊神经网络资料第三十二页，共四十五页。模糊神经网络资料第5层：一样，产生隶属函数2）自上至下与第2层 . : 5555与第1层一样 上而下由2)权值 输出：隶属函数为钟形 输入：决策、去模糊 :由下至上1) ijijijijijijijjjijijijijmwyufaumuwf第三十三页，共四十五页。模糊神经网络资料第三十四页，共四十五页。模糊神经网络资料学习(xux)（训练）目的(md)：

15、1）决定第2层和第4层中的隶属函数中心mij和宽度ij 2）决定第3层和第4层中的规则自组织(zzh)学习a ) 输入变量输入变量x x1 1空间的划分空间的划分T(x1)T(x2) T(x n)=T(x)T(y i)b)b)第第4 4层处在自上至下的模式层处在自上至下的模式第三十五页，共四十五页。模糊神经网络资料clostiiiclostclostclostikiclostmmtmtmtmtxttmtmtmtxtmtx对 ),() 1( )()()()() 1()()(min)()(1的任意一个量代表输入、输出语言变 ,.,.,)(2121mnyyyxxxtx第三十六页，共四十五页。模糊神经

16、网络资料21221NiNjijinrmmE3r第三十七页，共四十五页。模糊神经网络资料d) 确定连接和模糊(m hu)规则e) 规则合并(hbng),减少规则1) 有完全相同的结果2) 前提一样的规则3) 其它(qt)前提的并,组成了某些输入变量的整个术语的集合第三十八页，共四十五页。模糊神经网络资料监督(jind)学习阶段 221tytyEd第三十九页，共四十五页。模糊神经网络资料imE=)5(aEima)5(= -dy(t)-y(t)iiiiuu)5()5( im(t+1)=im(t)+dy(t)-y(t)iiiiiuu)5()5( iE=)5(aEia)5(= -dy(t)-y(t)ii

17、iiiiiiiiiiiuuumuum2)5()5()5()5()5()()()( i(t+1)=i(t)+dy(t)-y(t)iiiiiiiiiiiiiuuumuum2)5()5()5()5()5()()()( )(/)5()5(tyyyEaEd第四十页，共四十五页。模糊神经网络资料神经(shnjng)-模糊网络（控制器）的参数学习（ANFIS）22212120122221122121111011221111 : :xaxaafyThenAxAxIfRxaxaafyThenAxAxIfR，是和是，是和是)()( 2 , 1 )()( 222121202212111101221121212211

18、*21xaxaaxaxaaffjxxffyjjAAj，相应(xingyng)的ANFIS网络如图示。隶属函数为钟形：第四十一页，共四十五页。模糊神经网络资料 111xA 222xA 212xA 121xA)/ )(1 (1)(2jijibjijiiiAmxx)()(/2121xxjjAAjj)(22110 xaxaafjjjj第四十二页，共四十五页。模糊神经网络资料要调节(tioji)的参数：a,a,a ,j2j1j0和jijijibm对后件参数，可以(ky)用Kalman滤波方法进行计算，此时，把后件参数排列成向量：222120121110,aaaaaa)()(222)(121202)(212)(111101)2()2(222)2(121202)2(212)2(111101) 1 ()