神经网络最新课件

1、神经网络最新1五神经网络最新第三章第三章 神经网络控制神经网络控制神经网络最新 基于人工神经网络的控制简称神经控制。神经网络是由大量人工神经元广泛互联而成的网络，具有很强的自适应性和学习能力、非线性映射能力、鲁棒性和容错能力。 人脑大约包含1012个神经元，分成约1000种类型，每个神经元大约与102104个其他神经元相连接，形成极为错综复杂而又灵活多变的神经网络。 神经网络最新n树突：接受信息n轴突：发送信息n神经元：控制和信息处理的基本单元 图3-1 生物神经元结构神经网络最新n 神经元的功能与特性l时空整合功能：对不同时间不同突触的输入进行整合 l兴奋与抑制状态：输入膜电位 输出l脉冲与

2、电位转换 ：数模转换l神经纤维传导速度：1-150m/sl突触延时和不应期:突触的不应期 l学习、遗忘和疲劳：突触的传递作用可增强、减弱或饱和神经网络最新 人工神经元是对生物神经元的一种模拟与简化，是一个多输入、单输出的非线性元件。 图3-2 人工神经元结构模型神经网络最新v 人工神经元输入、输出关系可描述为n其中， 是从其他神经元传来的输入信号； 表示从神经元j到神经元i的连接权值； 为阈值； 称为激发函数或作用函数。1nijijijIw x)(iiIfy i)(fjxjiw神经网络最新v 为了方便起见，常把 看成是恒等于1的输入 的权值，则人工神经元的模型可以写为： 其中v 输出激发函数

3、又称为变换函数，它决定神经元（节点）的输出。该输出为1或0，取决于其输入之和大于或小于内部阈值, 一般具有非线性特性。0nijijjIw x)(iiIfy i0 x00 , 1iix )(f神经网络最新 图3-3 常见的激发函数阈值型函数阈值型函数饱和型函数双曲函数S型函数高斯函数神经网络最新 利用人工神经元可以构成各种不同拓扑结构的神经网络，它是生物神经网络的一种模拟和近似。目前已有数十种不同的神经网络模型，其中前馈型网络和反馈型网络是两种典型的结构模型。v 前馈型神经网络，又称前向网络（Feedforward NN）。神经元分层排列，有输入层、隐层（亦称中间层，可有若干层）和输出层，每一层

4、的神经元只接受前一层神经元的输入。 神经网络最新 图3-4 前馈型神经网络结构l 前馈网络是一种强有力的学习系统，其结构简单而易 于编程；l 前馈网络是静态非线性映射，通过简单非线性处理单 元的复合映射，可获得复杂的非线性处理能力。l 感知器网络、BP网络神经网络最新 图3-5 反馈型神经网络结构n 反馈型神经网络（Feedback NN）的结构如图所示。如果总节点（神经元）数为N，那么每个节点有N个输入和一个输出，也就是说，所有节点都是一样的，它们之间都可相互连接。神经网络最新l 反馈神经网络是一种反馈动力学系统，它需要工作一段时间才能达到稳定。l Hopfield神经网络是反馈网络中最简单

5、且应用广泛的模型，它具有联想记忆的功能。 学习方法是体现人工神经网络智能特性的主要标志，离开了学习算法，人工神经网络就失去了自适应、自组织和自学习的能力。 神经网络的学习是通过改变权值实现的。神经网络最新l 有教师学习：网络的输出和期望的输出（即教师信 号）进行比较l 无教师学习：按照一预先设定的规则（如竞争规则） 自动调整权值l 再励学习：行动评价改进 图3-6 神经网络的学习神经网络最新vHebb学习规则 l两个神经元同时处于激发状态时，它们之间的连接强度将得到加强，这一论述的数学描述被称为Hebb学习规则 。lHebb学习规则是一种无教师的学习方法。(1)( )ijijijwkwkI I

6、(1)( )ijijijwkwky y(1)( )( )(1)( )(1)ijijiijjwkwky ky kykykijijw0njijiiIw x()jjyf I神经网络最新vDelta（）学习规则 l定义误差准则函数 其中 代表期望的输出（教师信号）； 是网络的实际输出, 连接权阵的更新规则为 211()2LpppEdypdpypWE 神经网络最新l学习规则是一种有教师的学习方法。lBP算法是在规则基础上发展起来的。v概率式学习 v竞争式学习v 遗传算法，DE算法 等等。 神经网络最新n特点: 单层神经元。主要用于模式分类。n结构：输入向量 ， 为网络输出。 图3-7 感知器网络ymm1

7、2 ,TnXx xx (1,)iyim 神经网络最新n分类：当输入向量属于某一类时，该类对应的输出量yp=1，其余输出量yq(q=1p-1，p+1m)= -1n分类是由单个神经元完成的，可以研究其中一个： 图3-8 单个神经元0()1 0 ()1 0 niiiyfw xIf II神经网络最新n学习算法随机给定一组初始权值 ，这里 表示在k时刻连接第i个输入量 的权值 。给定一组输入样本 和期望输出量d(当输入量属于某一类 ，其他类则 ) 计算感知器实际输出0001 ( )0 ( )( )1 ( )0 niiniiiniiiiw k xy kfw k xw k x(0)iw( )iw kix12( ,)nXx xx1d 1d 神经网络最新修正权