课件：神经网络答辩.ppt

神经网络作业,张曙 2013.5.18,电力学院 控制理论与控制工程,第一题,神经网络系统是一个高度复杂的非线性动力 系统，不但具有一般非线性的共性，更主要 的是它具有自己的特点，总结起来，神经网 络系统具有以下的基本特性： 非线性映射逼近能力 自适应性和自组织性 并行处理能力 分布存储和容错性 便于集成实现和计算模拟,人工神经网络的发展概况,1、兴起阶段： (1)早在1943年，心理学家McCulloch和数学家Pitts在数学生物物理学会期刊 Bulletin of Mathematical Biophysics上发表文章，总结了生物神经元的一些基本生理特征，提出了形式神经元的数学描述与结构，即MP模型。,(2)1949年心理学家DOHebb出版了The Organization of Behavior一书，提出神经元之间突触联系强度可变的假设。 (3)1958年，Rosenblatt提出了感知机，第一次把神经网络的研究付诸工程实践。,2、萧条阶段： 主要的影响因素： （1)60年代，美国著名人工智能学者Minsky和Papert对Rosenblatt的工作进行了深入的研究，写了很有影响的感知机一书，指出感知机的处理能力有限，甚至连XOR（异或）这样的问题也不能解决，并指出如果引入隐含神经元，增加神经网络的层次，可提高神经网络的处理能力，但是研究对应的学习方法非常困难。,3、兴盛阶段： 1982年，美国物理学家J.Hopfield 提出了 Hopfield网络模型，用能量函数的思想形成了一 种新的计算方法，该计算方法由含有对称突触连 接的反馈网络执行。 Hopfield网和反向传播算法的提出使人们看到了 神经元网络的前景和希望；1987年在美国召开了 国际神经网络会议，它掀起了神经网络研究的热 潮。,第二题,由各种神经元输入输出关系是,在三维空间上，只要设计连接权系数,得出平面方程：,取,，该平面可以将P1-P4与,即平面方程：,P5-P8分开，即可以将与区分开来。,从上图看出，可取三点 a(0,0,2),b(2,2,2),c(0,2,0)组成该平 面，该层的变换函数是阶跃函数，“” 表示1,“”表示0 ，于是将它们正确归 类。,第三题,根据下图基于标准模型的模糊神经网络结构，可设计如下的网络结构：,（1）第一层是输入层，输入变量的维数n=2，因此，第一层结点数为N1=2； （2）第二层每个结点代表一个语言变量值，用于计算各输入分量属于各语言变量值模糊集合的隶属度函数。将输入量x1和x2均分为8个模糊等级，它们对应于从NL到PL的8个模糊语言名称，即m1=m2=8，则第二层结点数为N2=82=16； （3）第三层的每个结点代表一条模糊规则，用来匹配模糊规则的前件，计算出每条规则的适用度，该层的结点数为N3=88=64； （4）第四层的结点数与第三层相同，即N4=88=64； （5）第五层是输出层，它所实现的是清晰化计算，输出为单变量，输出层结点数为N5=1。,确定隶属度函数的形状隶属函数采用高斯 函数表示的铃形函数，则,其中,分别表示隶属函数的中心和宽度。,确定学习参数：假设输入分量的模糊分割数是 预先确定的，则需要计算的参数主要是最后一层,的连接权系数,第二层的隶属度函数中心,和宽度,选取网络训练样本：这里按,。,的间隔均匀取点，用给定的解析式进行理论计算，得到400组输入输出的样本数据。,利用这些样本数据可对设计的模糊神经网络进行训练，当学习完所有数据后，求取平均,仿真结果：,梯度所对应的连接权系数,隶属度函数,中心位置,隶属度函数宽度,进行调整，,当学习次数超过要求最大次数或者满足要 求是，停止学习。,第四题,对本题进行数学描述，做分析矩阵如下，,每个神经元采用如下的S形变换函数,当,其中,这里取较大的u，,以使S形函数比较陡峭，从而稳态时能够趋于1或趋于0。,选择初始位置A，最终将获得如下的输出形式：,在方阵中A、B、C、D、E表示城市名称，1、2、3、 4、5表示路径顺序。 为保证每个城市只去一次，要求方阵每行只能有 一个元素为1，其余为零；为了某一时刻只能经 过一个城市，方阵中每列也只能有一个元素为 1，其余为零；为使每个城市只经过一次，方阵 中1的个数总和必须为n。 对于所给方阵，其路 径顺序为:ACEDBA，所走的距离为,第五题,神经网络对系统的辨识实质上是选择一个适 当的神经网络模型来逼近实际系统的数学模型。 它通过直接学习系统的输入输出数据，使所要求 的误差函数达到最小，来归纳出隐含在系统输入 输出数据中的关系。只要神经网络的输出能够逼 近同样信号的激励输出，则认为神经网络已充分 体现实际系统特性，完成对系统的辨识。神经网 络用于对系统的辨识关键在于网络中神经元连接 强度等参数的确定。这些参数通常通过某种学习 算法，并利用被辨识的输入输出数据进行训练得 到的。,两者的误差为,，系统辨识的原理就是,过调整辨识模型的结构来使e最小。,神经网络辨识的原理是给对象和辨识模型施加,相同的输入，得到对象的输出,和模型的输出,选择适当的神经网络作为被辨识系统P的模 型及其逆模型（P可以是线性系统也可以是 非线性系统）。所选的网络结构确定后， 在给定的被辨识系统输入输出观测数据 下，网络通过学习（训练），不断的调整 权系值，使得准则函数为最优。,模型辨识结构,所谓正向模型是指利用多层前馈神经络， 通过训练或学习，使其能够表达系统正向 动力学特性的模型。,1.正向模型,(1)直接逆建模 直接逆建模也称广义逆学习(Generalized Inverse Learning)，在建立系统的逆模型 时，可逆性必须首先假定。,2.逆模型,(2) 正逆建模 正-逆建模也称狭义逆学习(Specialized lnverse Learning),1.神经网络本质上已是一种辨识模型，其所谓参数则反映在网络内部的权值上。 2. 辨识的结果为网络外部特性拟合系统的输入/输出特性，网络的内部特性归纳隐含在系统输入/输出数据中的系统特性。 3. 辨识的收敛速度不依赖于待辨识系统的维数，只与神经网络本身及其所采用的学习算法有关。 4. 神经网络具有大量连接，其连接权的权值在辨识中对应于模型参数，通过调节这些参数可使网络输出逼近系统输出。 5. 神经网络作为实际系统的辨识模型，实际上也是系统的一个物理实现，可以用于在线控制。,神经网络辨识的特点：,后面内容直接删除就行 资料可以编辑修改使用 资料可以编辑修改使用,主要经营：网络软件设计、图文设计制作、发布广告等 公司秉着以优质的服务对待每一位客户，做到让客户满意！,致力于数据挖掘，合同简历、论文写作、PPT设计、计划书、策划案、学习课件、各类模板等方方面面，打造全网