神经网络答辩

神经网络答辩第1页/共27页第一题神经网络系统是一个高度复杂的非线性动力系统，不但具有一般非线性的共性，更主要的是它具有自己的特点，总结起来，神经网络系统具有以下的基本特性：非线性映射逼近能力自适应性和自组织性并行处理能力分布存储和容错性便于集成实现和计算模拟第2页/共27页人工神经网络的发展概况1、兴起阶段：(1)早在1943年，心理学家McCulloch和数学家Pitts在数学生物物理学会期刊《BulletinofMathematicalBiophysics》上发表文章，总结了生物神经元的一些基本生理特征，提出了形式神经元的数学描述与结构，即MP模型。第3页/共27页(2)1949年心理学家D．O．Hebb出版了《TheOrganizationofBehavior》一书，提出神经元之间突触联系强度可变的假设。(3)1958年，Rosenblatt提出了感知机，第一次把神经网络的研究付诸工程实践。第4页/共27页2、萧条阶段：主要的影响因素：（1)60年代，美国著名人工智能学者Minsky和Papert对Rosenblatt的工作进行了深入的研究，写了很有影响的《感知机》一书，指出感知机的处理能力有限，甚至连XOR（异或）这样的问题也不能解决，并指出如果引入隐含神经元，增加神经网络的层次，可提高神经网络的处理能力，但是研究对应的学习方法非常困难。第5页/共27页3、兴盛阶段：1982年，美国物理学家J.Hopfield提出了Hopfield网络模型，用能量函数的思想形成了一种新的计算方法，该计算方法由含有对称突触连接的反馈网络执行。Hopfield网和反向传播算法的提出使人们看到了神经元网络的前景和希望；1987年在美国召开了国际神经网络会议，它掀起了神经网络研究的热潮。第6页/共27页第二题由各种神经元输入输出关系是

第7页/共27页在三维空间上，只要设计连接权系数

得出平面方程：

取，该平面可以将P1-P4与即平面方程：P5-P8分开，即可以将×与○区分开来。第8页/共27页第9页/共27页从上图看出，可取三点a(0,0,2),b(2,2,2),c(0,2,0)组成该平面，该层的变换函数是阶跃函数，“○”表示1,“×”表示0，于是将它们正确归类。第10页/共27页第三题根据下图基于标准模型的模糊神经网络结构，可设计如下的网络结构：第11页/共27页（1）第一层是输入层，输入变量的维数n=2，因此，第一层结点数为N1=2；（2）第二层每个结点代表一个语言变量值，用于计算各输入分量属于各语言变量值模糊集合的隶属度函数。将输入量x1和x2均分为8个模糊等级，它们对应于从NL到PL的8个模糊语言名称，即m1=m2=8，则第二层结点数为N2=8×2=16；（3）第三层的每个结点代表一条模糊规则，用来匹配模糊规则的前件，计算出每条规则的适用度，该层的结点数为N3=8×8=64；（4）第四层的结点数与第三层相同，即N4=8×8=64；（5）第五层是输出层，它所实现的是清晰化计算，输出为单变量，输出层结点数为N5=1。第12页/共27页确定隶属度函数的形状隶属函数采用高斯函数表示的铃形函数，则其中

分别表示隶属函数的中心和宽度。

第13页/共27页确定学习参数：假设输入分量的模糊分割数是预先确定的，则需要计算的参数主要是最后一层的连接权系数

第二层的隶属度函数中心

和宽度

选取网络训练样本：这里按

。的间隔均匀取点，用给定的解析式进行理论计算，得到400组输入输出的样本数据。第14页/共27页利用这些样本数据可对设计的模糊神经网络进行训练，当学习完所有数据后，求取平均仿真结果：

梯度所对应的连接权系数

隶属度函数中心位置隶属度函数宽度

进行调整，当学习次数超过要求最大次数或者满足要求是，停止学习。

第15页/共27页第四题对本题进行数学描述，做分析矩阵如下，第16页/共27页每个神经元采用如下的S形变换函数当其中这里取较大的u，以使S形函数比较陡峭，从而稳态时能够趋于1或趋于0。第17页/共27页选择初始位置A，最终将获得如下的输出形式：第18页/共27页在方阵中A、B、C、D、E表示城市名称，1、2、3、4、5表示路径顺序。为保证每个城市只去一次，要求方阵每行只能有一个元素为1，其余为零；为了某一时刻只能经过一个城市，方阵中每列也只能有一个元素为1，其余为零；为使每个城市只经过一次，方阵中1的个数总和必须为n。对于所给方阵，其路径顺序为:A→C→E→D→B→A，所走的距离为第19页/共27页第五题

神经网络对系统的辨识实质上是选择一个适当的神经网络模型来逼近实际系统的数学模型。它通过直接学习系统的输入输出数据，使所要求的误差函数达到最小，来归纳出隐含在系统输入输出数据中的关系。只要神经网络的输出能够逼近同样信号的激励输出，则认为神经网络已充分体现实际系统特性，完成对系统的辨识。神经网络用于对系统的辨识关键在于网络中神经元连接强度等参数的确定。这些参数通常通过某种学习算法，并利用被辨识的输入输出数据进行训练得到的。第20页/共27页两者的误差为，系统辨识的原理就是过调整辨识模型的结构来使e最小。神经网络辨识的原理是给对象和辨识模型施加相同的输入，得到对象的输出和模型的输出第21页/共27页选择适当的神经网络作为被辨识系统P的模型及其逆模型（P可以是线性系统也可以是非线性系统）。所选的网络结构确定后，在给定的被辨识系统输入输出观测数据下，网络通过学习（训练），不断的调整权系值，使得准则函数为最优。

模型辨识结构

第22页/共27页所谓正向模型是指利用多层前馈神经络，通过训练或学习，使其能够表达系统正向动力学特性的模型。1.正向模型第23页/共27页(1)直接逆建模直接逆建模也称广义逆学习(GeneralizedInverseLearning)，在建立系统的逆模型时，可逆性必须首先假定。2.逆模型第24页/共27页(2)正—逆建模正-逆建模也称狭义逆学习(SpecializedlnverseLearning)第25页/共27页1.神经网络本质上已是一种辨识模型，其所谓参数则反映在网络内部的权值上。2.辨识的结果为网络外部特性拟合系统的输入/输出特性，网络的内部特性归纳隐含在系统输入/输出数据中的系统特性。3.辨识的收敛速度不依赖于待辨识系统的维数，只与神经网络本身