第3章 人工神经元网络控制论-网络模型.ppt

1、第3章人工神经元网络控制论 网络模型,智能控制基础,2/102,3.1 引言,3.2 前向神经网络模型,3.6 神经网络控制基础,3.7 非线性动态系统的神经网络辨识,3.8 神经网络控制的学习机制,3.9 神经网络控制器的设计,3.3 动态神经网络模型,3.10 单一神经元控制法,目录,3/102,3.1 引言,人工神经网络就是模拟人脑细胞的分布式工作特点和自组织功能，且能实现并行处理、自学习和非线性映射等能力的一种系统模型。 它可以通过学习来获取外部的知识并存贮在网络内，可以解决计算机不易处理的难题，特别是语音和图像的识别、理解、知识的处理、组合优化计算和智能控制等一系列本质上是非计算的问

2、题。,4/102,生物神经元模型,人工神经网络的基本原理,5/102,生物神经元模型,人工神经网络的基本原理,6/102,从生物控制论的观点来看，神经元作为控制和信息处理的基本单元，具有下列一些重要的功能与特性：,时空整合功能 兴奋与抑制状态 脉冲与电位转换 神经纤维传导速度 突触延时和不应期 学习、遗忘和疲劳,人工神经网络的基本原理,7/102,人工神经元是对生物神经元的一种模拟与简化。它是神经网络的基本处理单元。它是一个多输入、单输出的非线性元件。,人工神经元模型,8/102,神经网络的特点,(1)并行分布式处理 神经网络具有高度的并行结构和并行实现能力，具有高速寻找优化解的能力，能够发挥

3、计算机的高速运算能力，可能很快找到优化解。 (2)非线性处理 人脑的思维是非线性的，故神经网络模拟人的思维也应是非线性的。这一特性有助于处理非线性问题。,9/102,(3)具有自学习功能 通过对过去的历史数据的学习，训练出一个具有归纳全部数据的特定的神经网络，自学习功能对于预测有特别重要的意义。 (4)神经网络的硬件实现 要使人工神经网络更快、更有效地解决更大规模的问题，关键在于其超大规模集成电路（V LSI）硬件的实现，即把神经元和连接制作在一块芯片上（多为CMOS）构成ANN，神经网络的VLSI设计方法近年来发展很快，硬件实现已成为ANN的一个重要分支。,神经网络的特点,10/102,神经

4、网络的局限性,ANN研究受到脑科学研究成果的限制 ANN缺少一个完整、成熟的理论体系 ANN研究带有浓厚的策略和经验色彩 ANN与传统技术的接口不成熟,11/102,一般而言, ANN与经典计算方法相比并非优越, 只有当常规方法解决不了或效果不佳时ANN方法才能显示出其优越性。尤其对问题的机理不甚了解或不能用数学模型表示的系统,如故障诊断、特征提取和预测等问题,ANN往往是最有利的工具。另一方面, ANN对处理大量原始数据而不能用规则或公式描述的问题, 表现出极大的灵活性和自适应性。,神经网络的局限性,12/102,发展历史,(1)第一次热潮(20世纪40-60年代未) 1943年，心理学家W

5、Mcculloch和数理逻辑学家WPitts首先提出神经元的数学模型。此模型沿用至今，并且直接影响着这一领域研究的进展。 1949年，D.O.Hebb提出了Hebb法则。到现在为止，大部分神经网络型机器的学习法则仍采用Hebb法则或它的改进形式。 1958年，F.Rosenblatt等研制出了感知机(Perceptron),这是第一个真正的人工神经网络。,13/102,(2)低潮(上世纪70-80年代初): 60年代末，美国著名人工智能学者Minsky和Papart对Rosenblatt的工作进行了深入的研究，写了很有影响的感知器一书，指出感知器的处理能力有限，单层感知器只能作线性划分，对于非

6、线性或其他分类会遇到很大的困难。这时应采用含有隐单元的多层神经网络，但引入隐单元后找到一个有效的学习算法非常困难，Minsky断言这种感知器无科学研究价值可言，包括多层的也没有什么意义。,发展历史,14/102,但是神经网络的研究仍然没有停止： 1972年，芬兰的TKohonen发表了一个与感知机等神经网络不同的线性神经网络模型。比较非线性模型而言，它的分析要容易得多。 1975年，福岛提出了一个称为Co如咖的自组织识别神经网络模型。 1976年 ，CVMalsburg与DJWillshaw发表了“地形图”的自形成模型。所谓地形图是指含有信息的神经网络的连接形式。例如视网膜上的视觉细胞的排列与

7、受它激发而兴奋的大脑视觉域的神经元的排列是一致的，这样的构造在脑的任何部位均可见到，由此可以证明生物体具有学习环境的构造并保持这种构造的功能。,发展历史,15/102,发展历史,(3)第二次热潮 1982年，美国物理学家J.J.Hopfield提出Hopfield模型，它是一个互联的非线性动力学网络他解决问题的方法是一种反复运算的动态过程,这是符号逻辑处理方法所不具备的性质. 1987年首届国际ANN大会在圣地亚哥召开，国际ANN联合会成立，创办了多种ANN国际刊物。 1990年12月，北京召开首届学术会议。,16/102,目前，神经网络主要的研究工作集中在以下几个方面： （1）生物原型研究

8、从生理学、心理学、解剖学、脑科学、病理学等生物科学方面研究神经细胞、神经网络、神经系统的生物原型结构及其功能机理 （2）建立理论模型 根据生物原型的研究，建立神经元、神经网络的理论模型。其中包括概念模型、知识模型、物理化学模型、数学模型等。,主要研究内容,17/102,（3）网络模型与算法研究 在理论模型研究的基础上构作具体的神经网络模型，以实现计算机模拟或准备制作硬件，包括网络学习算法的研究。这方面的工作也称为技术模型研究。 （4）人工神经网络应用系统 在网络模型与算法研究的基础上，利用人工神经网络组成实际的应用系统，例如，完成某种信号处理或模式识别的功能、构作专家系统、制成机器人等等,主要

9、研究内容,18/102,神经网络的应用领域,在民用应用领域的应用，如语言识别、图像识别与理解、计算机视觉、智能机器人故障检测、实时语言翻译、企业管理、市场分析、决策优化、物资调运、自适应控制、专家系统、智能接口、神经生理学、心理学和认知科学研究等等； 在军用应用领域的应用，如雷达、声纳的多目标识别与跟踪，战场管理和决策支持系统，军用机器人控制各种情况、信息的快速录取、分类与查询，导弹的智能引导，保密通信，航天器的姿态控制等。,19/102,3.1 引言,3.1.1 神经元模型,3.1.2 神经网络的模型分类,3.1.3 神经网络的学习算法,3.1.4 神经网络的泛化能力,20/102,3.1.

10、1 神经元模型,神经元模型是生物神经元的抽象和模拟。可看作多输入/单输出的非线性器件 。,ui 神经元的内部状态， i 阀值， xi 输入信号，j=1,2,n; wij 表示从单元uj 到单元ui 的连接权值; si外部输入信号,21/102,数学模型,通常直接假设 yi=f(Neti) f为激励函数 ，有4种类型。,22/102,激励函数类型1,阈值型,23/102,激励函数类型2,分段线性型,24/102,激励函数类型3,Sigmoid 函数型,25/102,激励函数类型4,Tan函数型,26/102,3.1 引言,3.1.1 神经元模型,3.1.2 神经网络的模型分类,3.1.3 神经网

11、络的学习算法,3.1.4 神经网络的泛化能力,27/102,前向网络,反馈网络,相互结合型网络,混合型网络,3.1.2 神经网络的模型分类,1,2,3,4,28/102,网络结构图,前向神经网络,神经元分层排列，顺序连接。由输入层施加输入信息，通过中间各层，加权后传递到输出层后输出。每层的神经元只接受前一层神经元的输入，各神经元之间不存在反馈。,感知器(Perceptron)、BP神经网络和径向基函数(RBF-Redial Basis Function)神经网络都属于这种类型。 Hornik等人证明了：仅有一个非线性隐层的前馈网络就能以任意精度逼近任意复杂度的函数 。 当激活函数式线性时，多层

12、前向NN退化为单层前向NN。,前向神经网络,层内有互联的前向神经网络 在前向神经网络中有的在同一层中的各神经元相互有连接,通过层内神经元的相互结合，可以实现同一层内神经元之间的横向抑制或兴奋机制，这样可以限制每层内能同时动作的神经元数，或者把每层内的神经元分为若干组，让每组作为一个整体来动作。,相互结合型神经网络,有反馈的前向神经网络 在层次网络结构中，只在输出层到输入层存在反馈，即每一个输入节点都有可能接受来自外部的输入和来自输出神经元的反馈。这种模式可用来存储某种模式序列，如神经认知机即属于此类，也可以用于动态时间序列过程的神经网络建模。,反馈神经网络,在互连网络模型中，任意两个神经元之间

13、都可能有相互连接的关系。其中，有的神经元之间是双向的，有的是单向的。Hopfield网络、Boltzman机网络属于这一类。,混合型神经网络,神经网络处在一种不断改变状态的动态之中。从某个初始状态开始，经过若干次的变化，才会到达某种平衡状态，根据神经网络的结构和神经元的特性，还有可能进入周期振荡或其它如浑沌等平衡状态。,34/102,3.1 引言,3.1.1 神经元模型,3.1.2 神经网络的模型分类,3.1.3 神经网络的学习算法,3.1.4 神经网络的泛化能力,人工神经网络连接权的确定通常有两种方法 根据具体要求，直接计算，如Hopfield网络作优化计算 通过学习得到的。大多数人工神经网

14、络都采用这种方法,学习是改变各神经元连接权值的有效方法，也是体现人工神经网络智能特性最主要的标志。离开了学习，神经网络就失去了诱人的自适应、自组织能力,学习方法是人工神经网络研究中的核心问题,3.1.3 神经网络的学习算法,36/102,有导师学习,无导师学习,a,b,学习算法,1、有监督学习方式,特点： 不能保证得到全局最优解 要求大量训练样本，收敛速度慢 对样本地表示次序变化比较敏感,神经网络根据实际输出与期望输出的偏差，按照一定的准则调整各神经元连接的权系数，见下图。期望输出又称为导师信号，是评价学习的标准，故这种学习方式又称为有导师学习。, 神经网络的学习算法,无导师信号提供给网络，神

15、经网络仅仅根据其输入调整连接权系数和阈值，此时，网络的学习评价标准隐含于内部。其结构见下图。这种学习方式主要完成聚类操作。,2、无监督学习方式, 神经网络的学习算法,39/102,学习规则,仅仅根据连接间的激活水平改变权系数。它常用于自联想网络 。最常见的学习算法是Hebb规则。 如果两个神经元同时兴奋(即同时被激活)，则它们之间的突触连接加强 为学习步长，yi、oj为神经元 i 和 j 的输出,1、相关学习 Hebb学习规则,Hebb学习规则是人工神经网络学习的基本规则，几乎所有神经网络的学习规则都可以看作Hebb学习规则的变形, 神经网络的学习规则,2、纠错式学习 Delta()学习规则,

16、首先我们考虑一个简单的情况：设某神经网络的输出层中只有一个神经元i，给该神经网络加上输入，这样就产生了输出yi(n)，称该输出为实际输出。 对于所加上的输入，我们期望该神经网络的输出为d(n),称为期望输出或目标输出。实际输出与期望输出之间存在着误差，用e(n)表示：, 神经网络的学习规则,现在要调整权值，是误差信号e(n)减小到一个范围。为此，可设定代价函数或性能指数E(n)：,反复调整突触权值使代价函数达到最小或者使系统达到一个稳定状态（及突触权值稳定不变），就完成了该学习过程。,该学习过程成为纠错学习，或Delta学习规则。,wij 表示神经元xj到xj学的突触权值，在学习步骤为n时对突

17、触权值的调整为：,学习速率参数,则, 神经网络的学习规则,43/102,相关学习,仅仅根据连接间的激活水平改变权系数。它常用于自联想网络 。 最常见的学习算法是Hebb规则。 表示学习步长,44/102,纠错学习,有导师学习方法 ，依赖关于输出节点的外部反馈改变权系数。它常用于感知器网络、多层前向传播网络和Boltzmann机网络。其学习的方法是梯度下降法。 最常见的学习算法有规则、模拟退火学习规则。,45/102,无导师学习,学习表现为自适应实现输入空间的检测规则。它常用于ART、Kohonen自组织网络。 在这类学习规则中,关键不在于实际节点的输出怎样与外部的期望输出相一致，而在于调整参数

18、以反映观察事件的分布。 例如Winner-Take-All 学习规则 。,46/102,3.1 引言,3.1.1 神经元模型,3.1.2 神经网络的模型分类,3.1.3 神经网络的学习算法,3.1.4 神经网络的泛化能力,47/102,3.1.4 神经网络的泛化能力,当输入矢量与样本输入矢量存在差异时，其神经网络的输出同样能够准确地呈现出应有的输出。这种能力就称为神经网络的泛化能力。 在有导师指导下的学习中，泛化能力可以定义为训练误差和测试误差之差。 与输入矢量的个数、网络的节点数和权值与训练样本集数目之间存在密切的关系。,48/102,3.1 引言,3.2 前向神经网络模型,3.6 神经网络控制基础,3.7 非线性动态系统的神经网络辨识,3.8 神经网络控制的学习机制,3.9 神经网络控制器的设计,3.3 动态神经网络模型,3.10 单一神经元控制法,目录,49/102,3.2 前向神经网络模型,3.2.1 网络结构,3.2.2 多层传播网络的BP学习算法,3.2.3 快速的BP改进算法,50/102,3.2.1 网络结构,单一神经元,单层神经网络结构,多层神经网络结构,1,2,3,51/102,单一神经元,w0 为阈值， wj 决定第j个输入的突触权系数。,52/102,单层神经网络结构,x0=1,53/102,多层神经