人工神经元网络控制论PPT精选文档

1、第第3章人工神经元网络控制论章人工神经元网络控制论2目录目录33.1 引言引言 )(ixf i 4发展历史发展历史5主要内容主要内容63.1 引言引言7iiii, uf(Net ), yg(u )iijjiiijNetw xs8wwwxxxyus12ni 1i 2i niiii图312 神線元结构模型N eti10图313 阀值函数N etiffN etN etfm axi 0i 1图314 线性函数0激励函数类型激励函数类型0Net00Net1)Net(fiii1 iimax1 ii0ii0iiiNetNetfNetNetNetkNetNetNet0)Net(f9激励函数类型激励函数类型fN

2、eteiNetTi() 11TNetTNetTNetTNetiiiiieeee)Net(f103.1 引言引言113.1.2 神经网络的模型分类神经网络的模型分类(a)(b).(c)(d)图 3-1-7123.1 引言引言133.1.3 神经网络的学习算法神经网络的学习算法 14学习规则学习规则15相关学习相关学习 ijijwyoijw ijijwt o16纠错学习纠错学习pWE 211()2onpiiiEty17无导师学习无导师学习()1,2,mjjmjiwxwjn183.1 引言引言193.1.4 神经网络的泛化能力神经网络的泛化能力 20目录目录213.2 前向神经网络模型前向神经网络模

3、型223.2.1 网络结构网络结构 单一神经元12323单一神经元单一神经元(x)y1xxxwwww12nw012n图3111单一人工神線元的示意图11xxxxxxxx222nnn1wwwwww11121nn1n2nny图3112 只含二次项的神線元结构示意图yww xjjnj()0124yxxxn12n图3113 单层前向传播网络结构示意图12yyio2k1kxxxn kii jw图3114(b) L+1层前向传播网络结构示意图11kwyyyon ki j2kL1k2k1kxxxn kwyyyion ki ji jw2k图3114(a) 含一个隐含层前向传播网络结构示意图(1)(2)单层神经

4、网络结构单层神经网络结构 ojn0jijin1,2,.,i)xw(yi25yxxxn12n图3113 单层前向传播网络结构示意图12yyio2k1kxxxn kii jw图3114(b) L+1层前向传播网络结构示意图11kwyyyon ki j2kL1k2k1kxxxn kwyyyion ki ji jw2k图3114(a) 含一个隐含层前向传播网络结构示意图(1)(2)多层神经网络结构多层神经网络结构 )xw(oin0ll)1(jlj)ow(yjn0j)2(ijih263.2 前向神经网络模型前向神经网络模型273.2.2 多层传播网络的多层传播网络的BP学习算法学习算法281. 有导师学

5、习的基本思想有导师学习的基本思想 )yt (EEpiN1ppin1iN1ppo211()2onppipiiEty29yxxxn12n图3113 单层前向传播网络结构示意图12yyio2k1kxxxn kii jw图3114(b) L+1层前向传播网络结构示意图11kwyyyon ki j2kL1k2k1kxxxn kwyyyion ki ji jw2k图3114(a) 含一个隐含层前向传播网络结构示意图(1)(2)2. 单层网络的学习算法单层网络的学习算法 jipjpjpjjipjipwy)yt (wEw )(XXTXW-1TTT0()()jpjpjnjipiiyNetw x 211()2on

6、ppjpjjEty303. 多层前向网络的学习算法多层前向网络的学习算法(1)(1)1( )1111()() 0,1,2.1rnrrrrrpjrpjrjlpljloNetworL oLjn1i)1L(piLjiLLpjLpjn.2 , 1j)ow()Net(y1L11111()inpjjipijiow x 31BP学习算法学习算法rpjprpjNetErjiprjipwwErjirpjrpjprjipwNetNetwEEk)1r (pi)1r (pkrjkrjirjirpjoowwwNet) 1r (pirpjrjipow(1)1( )11rnrrrrpjjlpljlNetwo32反向误差传播

7、反向误差传播)Net()yt (NetyyENetELpjLpjpjLpjpjpjpLpjpLpj)Net()w()Net()oNetNetE(NetooENetErpjrk1rkj1rpkrpjrrpj1rpkk1rpkprpjrpjrpjprpjprpj()LpjLpjyNet 211()2onppjpjjEty(1)1( )11rnrrrrpjjlpljlNetwo33例例3-1 ( )1/(1)xf xeTT12t ,t 0.95,0.051TT12x ,x 1,334当前输出当前输出11x0 x2wxwxwnet23x)2(x1wxwxwnet21120212211211221110

8、2112111111731. 0e11e11o1192. 0e11e11o1net22net112116572. 13o)2(o1wowownet8808. 12o0o1wowownet212202222122122212102212121121221212110.13230.839911netnetyyeeTT12t ,t 0.95,0.05TT12x ,x 1,3( )1/(1)xf xe35计算广义误差计算广义误差 1062. 0)y1 (y)yt ()net(f )yt (0938. 0)y1 (y)yt ()net(f )yt (222222 2222111121 112104176

9、. 0)o1 (o)ww()o1 (ow2811. 0)o1 (o)ww()o1 (ow22222222122122k22k2k1211221222112111k21k2k11()()LLpjpjpjLpjtyNet11()()rrrrpjpkkjrpjkwNet( )1/(1)xf xe2( )/(1)( )1( )xxfxeef xf x36连接权系数更新连接权系数更新 1062. 0w0776. 0ow01266. 0ow0938. 0w0686. 0ow0112. 0ow04176. 0w1253. 0 xw04176. 0 xw2811. 0w8433. 0 xw2811. 0 xw

10、22220222222122221212102212121212111212021212211212111110211112111111) 1r (pirpjrjipow37学习流程学习流程38(1) 初始化初始化39)1( rpirpjrjipowEtypjpjjnpPo12211()Pprprww1(2) 学习方式学习方式40(3) 学习速率学习速率) 1k(wo)k(wrji1rpirpjrji41例例3-2:非线性函数逼近非线性函数逼近 cos(x)(1*0.5y42学习设置学习设置cos(x)(1*0.5t0,1,.19i i/20,*2x。cos(x)(1*0.5y;0,1,.,2

11、9i i/30,*2x43两种两种MLP模型的学习效果模型的学习效果443.2 前向神经网络模型前向神经网络模型451. 快速快速BP算法算法) 1k(w)k(w) 1k(w)k(w)k(wijijijijij462. 共轭梯度学习算法共轭梯度学习算法47目录目录483.3 动态神经网络模型动态神经网络模型493.3.1 带时滞的多层感知器网络带时滞的多层感知器网络50 x(k) x(k-1) x(k-n) . . . 抽头时滞环节 多层感知器网络 y(k) x(k) 带时滞的多层感知器网络带时滞的多层感知器网络1 n)-1),.x(k-x(kfx(k),y(k)51带时滞的多层感知器网络带时

12、滞的多层感知器网络2 m)-2),.y(k-y(k1),-y(kn),-1),.x(k-x(kF(x(k),y(k) x(k) x(k-1) x(k-n) . . . 抽头时滞环节 多层感知器网络 y(k) x(k) y(k-m) . . . y(k-2) y(k-1) Z-1 抽头时滞环节 523.3.2 Hopfield神经网络神经网络 53类型类型12541. 二值型的二值型的Hopfield网络网络Netkw ykiijjNji( )( )1y kf Net kii()( )155例例3-4：状态转移关系：状态转移关系000100Netkw ykiijjNji( )( )1123000

13、y y y 0Net00Net1)Net(fiii56状态转移图状态转移图图 3 1 2 0 二 值 型 H o p fie ld 网 络 结 构.yyyy123N123Nwwwwwwww1 11 21 32 13 3w2 2N N1 N图 3 1 2 1 一 个 3 节 点 离 散 H o p fie ld 网 络 状 态 转 移0 .10 .00 .0VVV123-0 .50 .20 .6(a ) 已 知 网 络 权 值 初 值 圈 内 为 阀 值 线 上 为 连 接 系 数1 1 00 1 00 0 00 0 11 0 01 0 11 1 10 1 11 /31 /31 /31 /31

14、/31 /31 /31 /31 /31 /31 /31 /31 /31 /31 /31 /31 /31 /32 /32 /32 /32 /32 /33 /3(b ) 网 络 状 态 转 移 圈 内 为 状 态 线 上 为 转 移 概 率0 .40 .00 .00 .0-0 .1-0 .6-0 .4-0 .32311321231231( 0.50.2)2 ( 0.50.6) (0.20.6) (0.100)1( 0.50.5)0.10.42Eyy yyy yyyyyyy 123110y y y 111()2nnijjiiijj iEw yy 57动力学特征：能量井动力学特征：能量井iijn1in

15、ij1jijTTy)yw21(YWYY21E58能量井设计能量井设计59（1）权值的静态设计方法：例）权值的静态设计方法：例3-6 WWW121323123图3-1-22 3节点D H N N 模型VVV132101100001000011010110111图3-1-23 例3-1-4的D H N N 状态转移图60解解WWW121323123图3-1-22 3节点D H N N 模型VVV132101100001000011010110111图3-1-23 例3-1-4的D H N N 状态转移图61特解特解62（2）基于学习规则的设计方法）基于学习规则的设计方法 (k)(k)yy-t(k)

16、W1)(kWijjiji63Hebb学习规则学习规则 0. yywjiji64外积规则外积规则 ) I)t (t (WTkN1kkwt tijijikjkkN()11N1kkjkiijij) 1t2)(1t2()1 (w10ijijij其中其中652. 网络的稳定性网络的稳定性66证明证明)Y(E)Y(21EY)k(E) 1k(E2TT2( )EWY kEW TTE(k)-Y (k)WY(k)/2Y(k)YY(k1)Y(k)( )EEY kTTTEE(k1)E(k)=( Y) WY(k)Y( Y) W( Y)/2 67证明证明TTTTTEE(k1)E(k) ( Y) WY(k)Y( Y) W(

17、 Y)/2 ( Y) H(k)( Y) W( Y)/2 H(k)WY(k)YY(k1)Y(k)68证明证明0 ( )sgn( )2( )1,sgn( )12 ( )1,sgn( )1iiiiiiiy kNet kyy kNet ky kNet k 0w)y(21)k(HyEii2iiiyy (k1)y (k)iiiy (k1)=sgn( )iiNet kH (k)WY(k)( )iiNet k( )0 0iiiy H ky0iiw 69例例3-7： 70步骤步骤1：权值设计：权值设计N1kkjkiijij) 1t2)(1t2()1 (w0111101111011110W如如343411(21)

18、(21)(2 1 1)(2 0 1)1wtt 11(1)(W ( )(1 2 1 2 )1 0 1 0TTt kft kf71步骤步骤2：稳定性分析：稳定性分析723. 应用：联想记忆功能应用：联想记忆功能 73举例：数字识别举例：数字识别0 1 2 34 6 7 9图 3 -1 -2 4 8 个 标 准 样 本 集xxxyyy12N12N图 3 -1 -2 5 H o p fie ld 网 络 模 型74存在的问题存在的问题754. 连续型的连续型的Hopfield网络网络 1,2,.,Njjjjiijijdoocw yxjdtR76稳定性稳定性iy01N1iiiN1iijiN1iN1jij

19、dy)y(fR1xyyyw21E0dtdE0dtdyi 1,2,.N. i , 0dtdEjiijiw w0,c77证明证明dtdyyEdtdEiiidtdyy)ww(21)dtdy)(y(fcijijj , iji2ii1i0)dtdy)(y(fc2ii1i0dtdyi0dtdE785. 优化问题的应用：优化问题的应用：TSP问题问题J0000000100I0100000000H0000100000G0000000001F0010000000E1000000000D0000010000C0001000000B0000000010A00000010001098765432179能量函数能量函数

20、)yy(yd2D)ny(2Cyy2Byy2AE)1k(b)1k(babkakab2akakbkkaabakalakklak80化作标准型化作标准型iN1iijiN1iN1jijxyyyw21Eak,blabklklababl,k 1l,k-1ak w-A(1-)-B(1-)-C-D() xCnd81网络模型网络模型akakak)1k( ,b)1k( ,bbabalalabblklalakCRo)yy(dD)ny(CyByAdtdo)oo(th1 (21)o(fy0akakak1,2,.n k 1,2,.n;a82算例算例akakyn83优化结果优化结果843.3.3 回归（回归（Recurre

21、nt）神经网络）神经网络 85离散型回归神经网络离散型回归神经网络(DTRNN)k(yw(f) 1k(yjMN0jijiMN,.1Nj)k(xN,.2 , 1j)k(y0j1)k(yjjj86网络结构网络结构图3121 DTRNN系统结构图12图3122Wf (. )WZ12- 1X(k)Y(k+1)Net (k)+Net (k)=W X(k)+W Y(k)Y(k+1)=f (Net (k)121y(k)y(k)2x (k)x (k)122x (0)x (0)11111122222y (0)y (0)y (n)y (1)y (n)x (n)x (n)x (1)x (1)y (1)y (2)y

22、(2).回归网络通过时域座标展开的RNN87学习方法学习方法188学习方法学习方法2)k(wjipP1pjijiw)w(E)k(w) 1k(w89流程流程)1n(y)k(w(f)n(yjMN0jiji ) 1n(vw) 1n(y)1n(y)k(w(f)n(vN1jisisjqMN0qsqsjissjipspsjiji) 1k(v)n(y)n(t ()k(g)k(g)k(g)k(w) 1k(wjijijiNp1,2,.,n t(n),x(n),0;(k)gji90目录目录913.6.1 引言引言 对象对象92神经网络控制的优越性神经网络控制的优越性 1234593神经网络控制器的分类神经网络控制

23、器的分类 94(1) 导师指导下的控制器导师指导下的控制器XUY专家经验控制器动力学系统动力学系统神经网络UYX利用专家经验图3-2-1 导师指导下的神经控制结构图动力学系统神经网络YYUd动力学系统UYYdF-1Y=FU图3-2-2 逆控制器的结构图网络控制器N神经网络N参考模型非线性系统ryecipmceecpyyiu+-图3-2-3自适应网络控制结构图95(2) 逆控制器逆控制器 XUY专家经验控制器动力学系统动力学系统神经网络UYX利用专家经验图3-2-1 导师指导下的神经控制结构图动力学系统神经网络YYUd动力学系统UYYdF-1Y=FU图3-2-2 逆控制器的结构图网络控制器N神经

24、网络N参考模型非线性系统ryecipmceecpyyiu+-图3-2-3自适应网络控制结构图96(3) 自适应网络控制器自适应网络控制器 XUY专家经验控制器动力学系统动力学系统神经网络UYX利用专家经验图3-2-1 导师指导下的神经控制结构图动力学系统神经网络YYUd动力学系统UYYdF-1Y=FU图3-2-2 逆控制器的结构图网络控制器N神经网络N参考模型非线性系统ryecipmceecpyyiu+-图3-2-3自适应网络控制结构图97(4) 前馈控制结构前馈控制结构983.6.2 神经网络的逼近能力神经网络的逼近能力 99目录目录1003.7 非线性动态系统的神经网络辨识非线性动态系统的

25、神经网络辨识1013.7.1 辨识基础辨识基础102三大要素三大要素k)k( e (f)W(E)k(e)k( e f21033.7 非线性动态系统的神经网络辨识非线性动态系统的神经网络辨识1043.7.2 神经网络辨识模型的结构神经网络辨识模型的结构 105前向建模法前向建模法 1)m-u(ku(k),.,1),n-y(k(y(k),.,f1)(kyNTDLTDLTDL106逆模型法逆模型法 1)m-u(ku(k),.,1),n-y(k(y(k),.,f1)(kyNTDLTDL107存在的问题存在的问题1083.7 非线性动态系统的神经网络辨识非线性动态系统的神经网络辨识109)1(),.,1

26、(),(),1( ),.,1( ),( ) 1( mkukukunkykykyNky)1(),.,1(),(),1(),.,1(),() 1( mkukukunkykykyNky辨识的两种结构辨识的两种结构y(k1)f(y(k),.,y(k-n1),u(k),.,u(k-m1) 110含线性部分的辨识问题（模型含线性部分的辨识问题（模型1、2）)1mk(u),.,1k(u),k(ug) ik(y) 1k(y1n0ii) ik(u)1nk(y),.,1k(y),k(y f) 1k(y1m0iiy(k1)f(y(k),.,y(k-n1),u(k),.,u(k-m1) 111线性部分的参数已知线性部

27、分的参数已知 )1mk(u),.,1k(u),k(ug) ik(y) 1k(y1n0ii) ik(u)1nk(y),.,1k(y),k(y f) 1k(y1m0iiTDLTDL112线性部分的参数未知线性部分的参数未知 TDLTDL)1mk(u),.,1k(u),k(ug) ik(y) 1k(y1n0ii1(1)(1)y ky k(1)Z k 代替代替2(1)(1)y ky kpjt代替代替113线性部分学习方法线性部分学习方法(1)( )(1)( (1)(1) ( )TllK lZ lll(1)(1)(1) ( )/(1)TP lIK llP ll1)1()() 1() 1()1()() 1

28、(llPllllPlKTIP)0(; 0)0( )1(),.,1(),() 1(222nlylylyl114非线性部分学习方法非线性部分学习方法) l (wo) l (w) 1l (wjipipjjijiLayerHidden)Net()w(LayerOutput)Net()ot (pjssjpspjpjpjpj115例例38116解解(1)( )(1)( (1)(1) ( )TllK lZ lll1(1)( ) (1) (1)(1) ( ) (1)TK lP llllP ll(1)(1)(1) ( )/(1)TP lIK llP ll00ba)0(100010)0( ,1,8,4,1 0 ,

29、0.2117辨识效果辨识效果100.2 , 1 , 01002sin)(kkku118非线性可分离系统（模型非线性可分离系统（模型3）)1(),.,1(),()1(),.,1(),() 1(mkukukugnkykykyfky119BP学习学习pjLpjpjLpjLpjLpjLpjpjLpjLpjLtoooNettoofNet112111211( )( )( )( )( )( )( )( )()()()pjLpjpjLpjLpjLtoofNet21222( )( )( )( )()()pjrpjrpkrkkjrfNetw1111111( )( )()()()pjrpjrpkrkkjrfNetw

30、2222121( )( )()()()1( )1( )1(1)2( )2( )2(1)12rrrrrrjipjijipjiwowo 在整个在整个BP学习学习算法的计算过程中，算法的计算过程中，交替使用网络的实际交替使用网络的实际输出值输出值 和和 ，使得广义误差可以不使得广义误差可以不断地进行计算和修正，断地进行计算和修正，直至最终收敛。直至最终收敛。1( )Lpjo2( )Lpjo120例例3- 9)()(1)() 1(32kukykyky121两种方法的学习曲线两种方法的学习曲线 2,20,10,11,2,6,1 122两模型法的辨识效果两模型法的辨识效果123目录目录1243.8 神经网

31、络控制的学习机制神经网络控制的学习机制 125分类分类1261. 离线学习法离线学习法1272. 在线学习法在线学习法128学习方法学习方法wkwkEwwkyky ky kwkwkyky ky ku ku kwkjijipjijidjijidji()( )( )( )( )( )( )( )( )( )( )( )( )( )121( )( )2pdEyky k1293. 反馈误差学习法反馈误差学习法1304. 多神经网络学习法多神经网络学习法1131多神经网络学习法多神经网络学习法2非线性系统神線网络控制器Nc+-yyu图3-2-23 前向建模多网络控制结构图神经网络控制器Nc非线性系统+-

32、yyu图3-2-24 逆模型建模的多网络控制结构图神经网络辨识器NiyM神经网络逆模型 辨识器Nyu-idddd1323.8.2 增强式学习增强式学习133目录目录1343.9 神经网络控制器的设计神经网络控制器的设计1353.9.1 直接逆模型控制法直接逆模型控制法 136直接逆模型控制的结构示意图直接逆模型控制的结构示意图 1373.9 神经网络控制器的设计神经网络控制器的设计1383.9.2 直接网络控制法直接网络控制法y ky k y ky ku ky ku kykyk()( ) () () ()( ()( )()()11211111222( ) (1) ( ) (1) (1) (1) u k