暑期数学建模培训-神经网络--12

1、学习驾驶汽车的学习驾驶汽车的人工神经网络人工神经网络摘自摘自机器学习机器学习，T. M. Mitchell时空整合功能时空整合功能兴奋与抑制状态兴奋与抑制状态脉冲与电位转换脉冲与电位转换突触延时与不应期突触延时与不应期胞体胞体(Soma)枝蔓（枝蔓（Dendrite）胞体胞体(Soma) 轴突（轴突（Axon）突触（突触（Synapse）2、工作过程、工作过程xnwnx1w1x2w2net=XWnetooc-onet0a+b o(0,c)netac=a+b/2x2w2 fo=f（net）xnwnnet=XWx1w1McCullochPitts（MP）模型，）模型，也称为处理单元（也称为处理单元

2、（PE） 输出层输出层隐藏层隐藏层输入层输入层o1o2omx1x2xn输出层输出层隐藏层隐藏层输入层输入层o1o2omx1x2xn输出层输出层隐藏层隐藏层输入层输入层o1o2omx1x2xnW(1)W(2)W(3)W(h)输出层输出层隐藏层隐藏层输入层输入层o1o2omx1x2xnW(1)W(2)W(3)W(h)netenetfo11)()1 ()()1 (1)(22ooooeenetfnetnet0.5f(net)0.25o01 1（0,0.5） net（0,0）oneteo11x1o1输出层输出层隐藏层隐藏层输入层输入层x2o2omxnW(1)W(2)W(3)W(L)x1o1输出层输出层隐

3、藏层隐藏层输入层输入层x2o2omxnWVmjpjpjpoyE1221（4）网络关于整个样本集的误差测度：网络关于整个样本集的误差测度：ppEE1、输出层权的调整、输出层权的调整wpq=wpq+wpqwpq=qop=fn(netq)(yq-oq)op=oq(1-oq)(yq-oq)op wpqANpANq第第L-1层层第第L层层wpq ANpANqANhvhppk-11kwp1wpqqkwpmmk第第k-2层层第第k层层第第k-1层层pk-1的值和的值和1k，2k，mk有关有关不妨认为不妨认为pk-1通过权通过权wp1对对1k做出贡献，做出贡献，通过权通过权wp2对对2k做出贡献，做出贡献，通

4、过权通过权wpm对对mk做出贡献。做出贡献。pk-1=fk-1(netp)(wp11k+wp22k+wpmmk)ANpANqANhvhppk-11kwp1wpmqkwpqmk第第k-2层层第第k层层第第k-1层层netenetfo11)()1 ()()1 (1)(22ooooeenetfnetnetx1o1输出层输出层隐藏层隐藏层输入层输入层x2o2omxnWVmjpjpjpoyE1221ANpANqANhvhppk-11kwp1wpqqkwpmmkvhp=opk-1(1-opk-1)(wp11k+wp22k+wpmmk)ohk-2sppEE1sppEE1误差测度误差测度m1k2kk)oy(2

5、1EsppEE1ijijwEwwijijwEE0，此时，此时wij0取取ijwEE0wijijjjijwnetnetEwE而其中的而其中的 kkkjjownet所以，所以， iijkkkjijjowowwnetijijkkkjjijjjijonetEwownetEwnetnetEwE令令jjnetE所以所以wij=joi为学习率为学习率)net(fnetojjj)net(foEnetooEnetEjjjjjjj从而从而 )()(22()21(21212jjjjjjjjmkkkjoyoyooyooyoE所以，所以，)net(f )oy(jjjj故，当故，当ANj为输出层的神经元时，它对应为输出层的神经元时，它对应的联接权的联接权wij应该按照下列公式进行调整：应该按照下列公式进行调整：ijjjijijijijo)oy)(net(fwowwjjjjjnetooEnetE)net(fnetojjj)net(foEjjjm1k2kk)oy(21E函数netk=hH1iiikowhH1kjkkj)onetnetE(oEjkjH1iiikjkwoowonethojo2o1oHhnetk是是oj下一级的神下一级的神经元的网络输入经元的网络输入hhH1kjkkH1kjkkjwnetEonetnetEoE hH1kjkkjwoE