BP神经网络ppt课件

1、 学习是神经网络一种最重要也最学习是神经网络一种最重要也最令人注目的特点。在神经网络的开展进令人注目的特点。在神经网络的开展进程中，学习算法的研讨有着非常重要的程中，学习算法的研讨有着非常重要的位置。目前，人们所提出的神经网络模位置。目前，人们所提出的神经网络模型都是和学习算法相应的。所以，有时型都是和学习算法相应的。所以，有时人们并不去祈求对模型和算法进展严厉人们并不去祈求对模型和算法进展严厉的定义或区分。有的模型可以有多种算的定义或区分。有的模型可以有多种算法而有的算法能够可用于多种模型。法而有的算法能够可用于多种模型。不过，有时人们也称算法为模型。不过，有时人们也称算法为模型。 自从40

2、年代Hebb提出的学习规那么以来，人们相继提出了各种各样的学习算法。其中以在1986年Rumelhart等提出的误差反向传播法，即BP(error BackPropagation)法影响最为广泛。直到今天，BP算法依然是自动控制上最重要、运用最多的有效算法。在神经网络中，对外部环境提供的方式样本进展学习训练，并能存储这种方式，那么称为感知器；对外部环境有顺应才干，能自动提取外部环境变化特征，那么称为认知器。神经网络在学习中，普通分为有教师和无教师学习两种。感知器采用有教师信号进展学习，而认知器那么采用无教师信号学习的。在主要神经网络如BP网 络，Hopfield网络，ART网络和Kohonen

3、网络中；BP网络和Hopfield网络是需求教师信号才干进展学习的；而ART网络和 Kohonen网络那么无需教师信号就可以学习。所谓教师信号，就是在神经网络学习中由外部提供的方式样本信号。121 神经网络的学习机理和机构神经网络的学习机理和机构 感知器的学习是神经网络最典型的学习。 目前，在控制上运用的是多层前馈网络，这是一种感知器模型，学习算法是BP法，故是有教师学习算法。 一个有教师的学习系统可以用图17表示。这种学习系统分成三个部分：输入部，训练部和输出部。一、感知器的学习构造一、感知器的学习构造图1-7 神经网络学习系统框图 输入部接纳外来的输入样本X，由训练部进展网络的权系数W调整

4、，然后由输出部输出结果。在这个过程中，期望的输出信号可以作为教师信号输入，由该教师信号与实践输出进展比较，产生的误差去控制修正权系数W。 学习机构可用图18所示的构造表示。 在图中，Xl ，X2 ，Xn ，是输入样本信号，W1 ，W2 ，Wn 是权系数。输入样本信号Xi 可以取离散值“0或“1。输入样本信号经过权系数作用，在u产生输出结果 Wi Xi ，即有：u=Wi Xi =W1 X1 +W2 X2 +Wn Xn 再把期望输出信号Y(t)和u进展比较，从而产生误差信号e。即权值调整机构根据误差e去对学习系统的权系数进展修正，修正方向应使误差e变小，不断进展下去，使到误差e为零，这时实践输出值

5、u和期望输出值Y(t)完全一样，那么学习过程终了。 神经网络的学习普通需求多次反复训练，使误差值逐渐向零趋近，最后到达零。那么这时才会使输出与期望一致。故而神经网络的学习是耗费一定时期的，有的学习过程要反复很多次，甚至达万次级。缘由在于神经网络的权系数W有很多分量W1 ，W2 ，-Wn ；也即是一个多参数修正系统。系统的参数的调整就必定耗时耗量。目前，提高神经网络的学习速度，减少学习反复次数是非常重要的研讨课题，也是实时控制中的关键问题。二、感知器的学习算法二、感知器的学习算法 感知器是有单层计算单元的神经网络，由线性元件及阀值元件组成。感知器如图1-9所示。感知器的数学模型：其中：f.是阶跃函数，并且有是阀值。感知器的最大作用就是可以对输入的样本分类，故它可作分类器，感知器对输入信号的分类如下：2输入一样本X(X1 ，X2 ，Xn+1 )以及它的期望输出d。期望输出值d在样本的类属不同时取值不同。假设x是A类，那么取d1,假设x是B类，那么取-1。期望输出d也即是教师信号。3计算实践输出值Y4根据实践输出求误差eedY(t) (1-21)5用误差e去修正权系数其中，称为权重变化率，01在式(122)中，的取值不能太大假设1取值太大