4.2)神经网络应用.ppt

1、1.讲座7，神经网络，尚涛，电话2，电子信息工程学院，2。主要内容：人工神经网络导论、神经网络工具箱应用实例、第一部分人工神经网络导论、控制系统工具箱、信号处理工具箱、系统辨识工具箱和鲁棒控制工具箱在综合工具箱中进行了分析定量反馈理论工具箱(QFT工具箱)、神经网络工具箱、优化工具箱、数据库工具箱、网络工具箱(Matlab WebServer)等。Matlab有30个工具和包，包括以冯诺伊曼计算机为中心的信息处理技术的迅速发展，这使得计算机在当今的信息社会中发挥着非常重要的作用。然而，当它被用来解决一些人工智能问题时，遇到了很大的困难。例如，一个人可以很容易地认出其

2、他人的脸，但是计算机很难做到这一点。大脑是由生物神经元组成的巨大网络，本质上不同于计算机。它是一个大规模的并行处理系统，具有学习、联想记忆、综合等能力，具有巧妙的信息处理方法。人工神经网络来源于对人脑实际神经网络的模拟。一、神经网络的发展历史和背景知识。人工神经网络是对人脑系统的模拟。简单地说，它是一个数学模型，可以用电子电路实现，也可以用计算机程序模拟。这是人工智能研究的一种方法。事实上，它是由大量功能简单的神经元组成的复杂网络系统，可以模拟大脑的许多基本功能和简单的思维方式。虽然它不是一个完美的大脑模型，但它可以通过学习获得外部知识并将其存储在网络中，从而解决计算机难以处理的难题，尤其是一

3、系列本质上的非计算性问题，如语音和图像识别、理解、知识处理、组合优化计算和智能控制等。什么是人工神经网络？1943年，美国心理学家麦卡洛克和数学家皮茨提出了一个简单的神经元模型，即MP模型。1958年，罗森布拉特等人开发了感知器。1982年，美国物理学家霍普菲尔德提出了霍普菲尔德模型，这是一个互联的非线性动态网络。他解决问题的方法是一个反复操作的动态过程，这是符号逻辑处理方法所不具备的。1987年，第一届国际人工神经网络会议在圣地亚哥召开，国际人工神经网络联合会成立，各种人工神经网络国际组织成立。1990年12月，第一届学术会议在北京召开。低潮(70-80年代)，第二次高潮，1。生物神经元模型

4、，2。生物神经元模型是一个简单的信号处理器。树突是神经元的信号输入通道，接收来自其他神经元的信息。轴突是神经元的信号输出通道。信息处理和传输主要发生在突触附近。神经元细胞体通过树突接收脉冲信号，并通过轴突将其传递到突触前膜。当脉冲幅度达到一定强度，即超过其阈值电位时，突触前膜将释放由神经传递到突触间隙的化学物质(乙酰胆碱)，这将打开位于突触后膜中的离子通道并产生离子流，从而在突触后膜中产生正或负电位，这被称为突触后电位。2.生物神经元模型的运行机制有两种突触：兴奋性突触和抑制性突触。前者产生正突触后电位，而后者产生负突触后电位。神经元的树突和细胞体通常通过突触与大量其他神经元相连。这些突触后电

5、位的变化将对神经元产生综合影响，即当这些突触后电位的总和超过一定值时，神经元将被激活并产生脉冲，产生的脉冲数与电位的总和有关。脉冲沿着轴突传递到其他神经元，从而实现神经元之间的信息传递。连接权重：求和单位：激励函数(响应函数):3。人工神经元模型，1。人工神经元模型的三要素，其中输入信号和输出信号是神经元的阈值。该模型的数学表达式如下：2。人工神经元模型1、的数学表达式。人工神经元模型的数学表达式2。阈值函数：分段线性函数：sigmoid函数：4。激励函数形式，前馈网络：反馈网络，4。网络结构和工作模式。网络结构、学习周期：各计算单元的状态不变，各连线上的权值通过学习修改工作周期：连线权值固定

6、，计算单元的状态变化达到一定的稳定状态；2.工作模式，有一个教师学习：外面有一个教师，为给定的一组输入提供适当的输出(标准答案)，学习系统可以根据实际输出和标准答案之间的差异调整系统参数；5.神经网络的学习方法；1.学习方法，无师学习：学习系统根据环境提供的数据的一些统计规律调整自己的参数，加强学习：环境仅对系统输出结果给出评价信息(奖励或惩罚)，系统通过加强获奖动作来提高自己的绩效。研究神经元k在时间n的输入和输出。输入：实际输出：到期输出：从误差信号中构造能量函数：其中e。)解决了所需操作员的优化问题：获得系统参数：2。学习规则，通常用时间n的瞬时值代替j，即通过数值迭代算法(如最速下降法

7、、模拟退火算法等)解决优化问题。)，神经科学家Hebb提出的学习规则是，当连接两端的神经元被同步激活(或两者都被抑制)时，连接的强度应该增强，反之亦然。数学描述如下：最常用的情况是：3。Hebb学习规则。对于多层网络来说，隐藏层存在后很难学习，这限制了多层网络的发展。BP算法，6 1。反向传播算法。对于多层前馈网络，有两种信号在网络中循环：(1)工作信号，它是输入信号和权重的函数；(2)误差信号，即网络的实际输出和预期输出之间的差值，它从输出层逐层向后传播。以下是多层前馈网络学习的BP算法的推导。下图是基于逐个样本学习的BP算法的推导。让单位为J的净输入为向右寻找的梯度。这个单位的误差信号是，

8、如果单位J的平方误差被定义，输出层的总平方误差的瞬时值是3360。在第n次迭代中某一层的jth单元的输出是，2。BP算法。当J单元所在的层为输出层时，称为局部梯度，权值修正为0；当J单元所在的层为隐藏层时，权值修正为0，神经网络工具箱的第二部分为1。BP网络，1。构造多层前馈神经网络，网络=newff (a，b，c，trainfun)，MATLAB命令，A为n，参数描述，b为k维行向量，其元素为每个隐层的节点数；trainfun是用于学习规则的培训功能(常见的培训功能如下表所示)。c是一个k维弦线向量，每个分量是对应层神经元的激励函数；常用的训练函数，在Matlab中的激励函数是，它的字符串是

9、：logsig，tansig，purelin，激励函数。除了输入A、B、C、trainfun，还可以修改一些默认参数，如下表所示，可以修改。注意：不同版本的MATLAB中的可修改参数列表可能不同。，净，tr，Y1，E=列车(净，X，Y)，2。网络训练、训练跟踪信息、训练后网络、实际网络输出、误差矩阵、网络训练功能、未训练网络、实际网络输入和网络输出。y是mM矩阵和输出数据矩阵。在训练之后，调用sim函数来推广新的输入点数据X2和输出矩阵Y2。在这些输入点获得。数据被一般化，Y2=sim(网络，X2)，并且训练的网络被用于为不是样本集的输入计算相应的输出。什么是数据泛化？3。数据综合。在示例7-

10、1中，从以下语句生成一组数据x和y，并且该数据由x=0:1:10的神经网络拟合；y=0.12 * exp(-0.213 * x)0.54 * exp(-0.17 * x)。* sin(1.23 * x)；可以看出(x，y)是曲线上的一个点。x=0:1:10y=0.12 * exp(-0.213 * x)0.54 * exp(-0.17 * x)。* sin(1.23 * x)；net=newff(0，10，5，1，tansig，tan SIG)；net . TrainiParam . epoch=1000；net=列车(net，x，y)；x0=0:1:10图(1) y1=sim(网络，x0)；

11、神经网络图形交互界面由图(x，y，o，x0，y1，r)生成，nntool命令如下：2。神经网络交互界面，第3部分应用示例，示例1。蠓分类的神经网络方法(MCM竞赛题目1989)，生物学家试图识别两种蠓(Af和Apf)。9个Af和6个Apf的测量数据如下：9个Af的天线长度为1.24 1.36 1.38 1.38 1.38 1.40 1.48 1.54 1.56 1.72 1.74 1.64 1.82 1.90 1.70 1.82 1.82 1.86问题如下：(1)如何在原始数据(15对数据，称为学习样本)的基础上做出正确区分两种蠓的方法；(2)根据建立的方法，对以下三个样品进行了鉴定：(1.2

12、4，1.80)，(1.28，1.84)，(1.40，2.04)。解决方案1:建立两层前馈神经网络如下：隐层节点可以适当选择(没有具体的标准)。X=输入矩阵，x1对应天线长度，x2对应机翼长度。Y=对于输出矩阵，规定对应于Af和Apf的到期输出为。上述神经网络模型的MATLAB程序如下：x=1.24 1.36 1.38 1.38 1.40 1.48 1.54 1.56 1.14 1.18 1.20 1.26 1.28 1.30；1.72 1.74 1.64 1.82 1.90 1.70 1.82 1.82 2.08 1.78 1.96 1.86 2.00 2.00 1.96；%原始数据x=x-1

13、.1；%数据y=0 0 0 0 0 0 0 1 1 1 1 1 1 1 1 1 1 0 0 0 0 0；%预期净产出=newff(0，1；0 1，5，2，tansig，tan SIG)；%建立两层前向神经网络% net . train param . goal=0.000001；% set training error net . Trainiparam . epoch=2000；%设置最大训练步骤数net=train(net，x，y)；%训练网络y1=sim(网络，x)%输出数据yy=sim(网络，1.24 1.28 1.40；1.80 1.84 2.04%)数据一般化，解决方案2:建立单层

14、感知器模型如下：X=输入矩阵，x1对应天线长度，x2对应机翼长度。Y=是输出矩阵，它指定对应于Af和Apf的到期输出为。上述神经网络模型的MATLAB程序如下：x=1.24 1.36 1.38 1.38 1.38 1.40 1.48 1.54 1.56 1.14 1.18 1.20 1.26 1.28 1.30 1.72 1.74 1.64 1.82 1.90 1.70 1.82 1.82 2 2.08 1.78 1.96 1.86 2%原始数据x=x-1.1；%数据y=0 0 0 0 0 0 0 1 1 1 1 1 1 1 1 1 1 0 0 0 0 0；%预期净产出=newp(最小(x)，2)；%建立单层两节点感知器模型% net . t