BP算法的基本原理_第1页
BP算法的基本原理_第2页
BP算法的基本原理_第3页
BP算法的基本原理_第4页
全文预览已结束

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

BP算法的基本原理典型的BP网络分为三层（图4.4），即输入层、隐含层和输出层。其算法主要由以下四部分组成，即模式顺传播误差逆传播记忆训练学习收敛。1 模式顺传播设 样本输入向量，输出向量中间单元的输入向量，输出向量输出层的输入向量，输出向量12p1qana1a2c1cqy1yqnpqw11w12v11v12SpBpLqCq其中，为样本数。输入层到中间层的权，中间层到输出层的权，中间层阈值， 输出层阈值，中间层输入：，输出：，输出层输入：，输出：，2 误差的逆传播根据输出层产生的误差，经中间层向输入层传播，在这个过程中，按照梯度下降原则对各层的权值和阈值进行误差校正。（1） 输出层计算：权值调整量计算：第k模式(样本)下，网络的输出误差的均方值为，因为，所以，上式即为权值变化对均方值误差的影响程度，按梯度下降原则应使权值调整量与的负值成比例变化，即其中，。阈值调整量计算：因为，所以，按照梯度下降原则，可得到输出层各单元的阈值调整量为：（2） 中间层到输入层计算：权值调整量计算：按照梯度下降原则，可得到连接权值的调整量为：阈值调整量计算：按照梯度下降原则，可得到输出层各单元的阈值调整量为：以上的推导是标准误差逆传播算法，即各连接权的调整量是分别与各个学习模式对的误差Ek成比例变化的。而相对于全局误差的连接权调整，是在所有m个学习模式全部提供给网络后统一进行的，这种算法是累积误差逆传播算法。一般来讲，当样本较少时，累积误差传递算法要比标准误差传递算法速度快一点。3 记忆训练给出一组样板反复进行学习，调整权值和阈值的大小以使输出值满足一定的精度要求。4 学习收敛经过多次训练以后，网络的全局误差趋向于最小值。由于BP算法采用了按误差函数梯度下降的方向进行收敛，因此，可能使迭代陷入局部极小点，BP网络收敛依赖于样本的初始位置，适当改变隐层单元个数，或给每个权值加上一个很小的随机数，都可使收敛过程避免局部极小点。二 BP网络的解析步骤标准误差逆传播算法按照以下步骤进行计算：（1） 初始化给权值、和阈值、赋予(-1, 1)之间的随机值。（2） 随机取一对样本对网络进行训练（3） 计算中间层的输入/出输入：，输出：（4） 计算输出层的输入/出输入：，输出：（5） 计算输出层的一般误差（6） 计算中间层的一般误差（7） 修改输出层的权值和阈值（8） 修正隐层的权值和阈值（9） 取下一对样本返回（3）开始训练，直到m个样本训练结束（1
人人文库> 全部分类> 应用文书 > 事务文书

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论