毕业设计（论文）-求解时变平方根问题的新型神经网络开发及仿真验证.doc

; 毕业设计题 目：求解时变平方根问题的新型神经网络开发及仿真验证作 者：*学 号：*所属学院： *专业年级： *指导教师：*职 称：讲师完成时间：*年*月*日*教务处制*毕业设计目 录摘 要IAbstractII第1章 绪 论11.1 神经网络研究的背景和目的11.2 国内外研究现状11.3 本文的研究内容和设计结构2第2章 涉及到的基本知识32.1 MATLAB技术3第3章 时变平方根神经网络的应用6第4章 时变平方根神经网络的仿真验证74.1 仿真设计74.2 举例仿真7结 语17参考文献18附 录19求解时变平方根问题的新型神经网络开发及仿真验证摘 要时变平方根问题，作为非线性方程问题的一个重要分支，广泛出现在当今科学和工程等众多应用领域中。由于神经网络具有并行性、自适应能力和易于硬件实现等特点，神经动力学方法如今已经成为了一种有效的在线求解工具（或途径）之一。 本文针对时变平方根问题，研究和探讨了一种新类型的新型神经网络模型（可称为新型神经网络/动力学模型），不同的激励函数可以使新型神经网络/动力学产生不同的收敛特性，该新型神经网络模型的设计是基于不定的误差跟踪函数。本文根据不同的误差函数设计得到多种新型神经网络/动力学模型求解时变平方根问题。最后将使用MATLAB仿真软件进行建模、仿真和验证:计算机仿真实例以及它们的仿真结果，通过理论分析和模拟计算均表明了模型的有效性。关键词：时变平方根；神经网络；MATLABNew Type of Neural Network in Solving Time-varying Square Root Development And SimulationAbstractTime-varying square root of the problem, as an important branch of nonlinear equation problem, widespread in many application fields such as science and engineering nowadays.Because neural network has parallelism, adaptive ability and the characteristics of easy hardware implementation, neural dynamics has been turned into a kind of effective online to solve one of the tools (or way).Of the time-varying square root of the problem, this paper studies and discusses a new type of new neural network model (which can be referred to as a new type of neural network/dynamic model), and different excitation function can make the new neural network/dynamics produces the convergence property of the different, the design of the new neural network model is based on error tracking function.In this paper, according to the different error function design for a variety of new/dynamic neural network model to solve the time-varying problem of square root.Finally USES MATLAB simulation software for modeling, simulation and validation: computer simulation examples and their simulation results, through theoretical analysis and simulation showed that the validity of the model.Key words: Time-varying square root;Neural network; MATLAB21第1章 绪 论1.1 神经网络研究的背景和目的11.1 神经网络简介神经网络的基本组成单元是神经元1，在数学上的神经元模型是和在生物学上的神经细胞对应的，也就是说，人工神经网络理论是用神经元这种抽象的数学模型来描述客观世界的生物细胞的2。因此，生物的神经细胞是神经网络理论诞生和形成的物质基础和源泉。这样，神经元的数学描述就必须以生物神经细胞的客观行为特性为依据。本节在介绍了生物神经元的基本结构的基础上，给出了神经元的数学模型和形式化表示3。神经网络是单个并行处理元素的集合，我们从生物学神经系统得到启发。在自然界，网络功能主要由神经节决定，我们可以通过改变连接点的权重来训练神经网络完成特定的功能。 一般的神经网络都是可调节的，或者说可训练的，这样一个特定的输入便可得到要求的输出4。许多输入/目标对应的方法已被用在有监督模式中来训练神经网络。神经网络已经在各个领域中应用，以实现各种复杂的功能。这些领域包括：模式识别、鉴定、分类、语音以及翻译和控制系统。现如今神经网络能够用来解决常规计算机和人难以解决的问题。我们主要通过这个工具箱来建立示范的神经网络系统5，并应用到工程、金融和其他实际项目中去6。 一般普遍使用有监督训练方法，但是也能够通过无监督的训练方法或者直接设计得到其他的神经网络。无监督网络可以被应用在数据组的辨别上。一些线形网络和Hopfield网络是直接设计的7。1.2 国内外研究现状求解平方根是求解静态问题中的一个重要的情况8，广泛应用在各种科学和工程领域中。通过求解平方根，一幅图可以在Torelli群中被描述出来；再如Harris图像可以从其原图像的平方根中提炼到得到。所以，很多的数值算法被提出来求解这样一类平方根问题。由于对神经网络的深入研究，许多基于神经动力学的模拟求解器也被广泛提出来。考虑到潜在的大规模电路实现和高性能并行处理能力，神经动力学方法已经被认为是一种强有力的实时问题求解方法。目前，许多已经报导非常受欢迎的计算方案都是基于梯度设计方法。而我们知道，这些数值算法和新型神经网络理论上都将用来求解静态平方根9，即。1.3 本文的研究内容和设计结构1.3.1 研究内容 在求解平方根问题被认为是非线性方程求解的一种重要的情况，并应用于科学与工程领域中。如通过求解平方根，一幅图可以在Torelli中被描述出来；再如Harris图像可以从其原版图像的平方根当中得知。因此，许多相关的数值算法被提出来求解这样一类平方根问题。而且，对于神经网络的深入研究，许多相关的数值算法被提出来求解这一类的平方根问题。而且，对于神经网络的深入研究，许多基于神经动力学的模拟求解器也被广泛提出。1.3.2 设计方法新型神经网络应用设计通过使用MATLAB软件，结合神经网络工具箱，在介绍神经网络中的各种类型以及训练过程的基础上，利用MATLAB工具箱进行新型神经网络的设计及其应用。各种神经神经网络在不同应用时的网络性能分析与直观的图形结果，能更加透彻地分析各种神经网络的性能和优缺点，从而可以正确、合理和充分应用神经网络10。在实际应用中，面对一个具体的应用问题，首先要分析用神经网络方法求解问题，根据问题特点，确立网络模型。最后通过网络仿真分析，确定网络是否适合。是否需要修改，来设计研究出功能更好，更有效的神经网络和神经网络应用的成果11。 作者首先进行平方根神经网络的开发背景概述,并大概介绍国内外现状，然后进行平方根神经网络设计，最后论述设计的仿真验证，根据文章管理模块的功能需要，本文共分为四章，其组织结构如下:1)第1章介绍了神经网络的开发背景；介绍了新型神经网络的国内外研究的现状和未来的深入发展。简述作者在新型神经网络的设计工作内容，给出论文的层次结构。2)第2章分析了神经网络设计的基本知识。3)第3章介绍了MATLAB的技术可行性分析以及应用方程12。4)第4章对新型神经网络所应用的方程进行仿真验证13。第2章 涉及到的基本知识2.1 MATLAB技术2.1.1 基本介绍MATLAB 是美国MathWorks公司出品的商业数学软件，用于算法开发、数据可视化、数据分析以及数值计算的高级技术计算语言和交互式环境，主要包括MATLAB和Simulink两大部分。 MATLAB（矩阵实验室）是MATrix LABoratory的缩写，是一款由美国The MathWorks公司出品的商业数学软件。MATLAB是一种用于算法开发、数据可视化、数据分析以及数值计算的高级技术计算语言和交互式环境。除了矩阵运算、绘制函数/数据图像等常用功能外，MATLAB还可以用来创建用户界面及与调用其它语言（包括C，C+和FORTRAN）编写的程序14。它在数学类科技应用软件中在数值计算方面首屈一指。MATLAB可以进行矩阵运算、绘制函数和数据、实现算法、创建用户界面、连接其他编程语言的程序等，主要应用于工程计算、控制设计、信号处理与通讯、图像处理、信号检测、金融建模设计与分析等领域。MATLAB主要用于数值运算，为了解决神经网络问题中的研究工作量和编程计算工作量的问题，提供了众多的附加神经网络工具箱（Neural Network Toolbox,简称NNbox），神经网络工具箱提供了很多经典的学习算法，使用它能够够快实现对实际问题的建模求解。在解决实际问题中，应用MATLAB语言结构典型神经网络的激活传递函数，编写各种网络设计与训练的子程序，网络的设计者可以根据需要调用工具箱中有关神经网络的设计训练程序，使自己能够从繁琐的程序中解脱出来，减轻工程人员的负担，从而提高工作效率。MATLAB和Mathematica、Maple并称为三大数学软件。它在数学类科技应用软件中在数值计算方面首屈一指15。MATLAB可以进行矩阵运算、绘制函数和数据、实现算法、创建用户界面、连接其他编程语言的程序等，主要应用于工程计算16、控制设计、信号处理与通讯、图像处理、信号检测、金融建模设计与分析等领域。MATLAB的基本数据单位是矩阵，它的指令表达式与数学、工程中常用的形式十分相似，故用MATLAB来解算问题要比用C，FORTRAN等语言完成相同的事情简捷得多，并且MATLAB也吸收了像Maple等软件的优点，使MATLAB成为一个强大的数学软件。在新的版本中也加入了对C，FORTRAN，C+，JAVA的支持。可以直接调用,用户也可以将自己编写的实用程序导入到MATLAB函数库中方便自己以后调用，此外许多的MATLAB爱好者都编写了一些经典的程序，用户可以直接进行下载就可以用。2.1.2 发展历程 20世纪70年代，美国新墨西哥大学计算机科学系主任Cleve Moler为了减轻学生编程的负担，用FORTRAN编写了最早的MATLAB。1984年由Little、Moler、Steve Bangert合作成立了的MathWorks公司正式把MATLAB推向市场。到20世纪90年代，MATLAB已成为国际控制界的标准计算软件。2.1.3 软件特点1) 高效的数值计算及符号计算功能，能使用户从繁杂的数学运算分析中解脱出来，如数学函数可用于线性代数、统计、傅立叶分析、筛选、优化以及数值积分等；2) 具有图形处理功能, 二维和三维图形函数可用于可视化数据，实现计算结果和编程的可视化、图像压缩以及图像复制等；3) 友好的用户界面及接近数学表达式的自然化语言，使学者易于学习和掌握；4) 各种工具可用于构建自定义的图形用户界面,为用户提供了大量方便实用的处理工具。2.1.4 编程环境MATLAB由一系列工具组成。这些工具方便用户使用MATLAB的函数和文件，其中许多工具采用的是图形用户界面。包括MATLAB桌面和命令窗口、历史命令窗口、编辑器和调试器、路径搜索和用于用户浏览帮助、工作空间、文件的浏览器。随着MATLAB的商业化以及软件本身的不断升级，MATLAB的用户界面也越来越精致，更加接近Windows的标准界面，人机交互性更强，操作 更简单。而且新版本的MATLAB提供了完整的联机查询、帮助系统，极大的方便了用户的使用。简单的编程环境提供了比较完备的调试系统，程序不必经过编译就可以直接运行，而且能够及时地报告出现的错误及进行出错原因分析17。2.1.5 一般神经网络模型 在这一节, 我们将根据新型神经网络设计方法，开发一般的新型神经网络模型来实时求解一般等式问题。首先,为了掌握一般神经网络的求解过程, 通过利用新型设计方法, 我们可以定义一个则： (2.1)显然, 当该能量函数等于零时, 所对应的解x可以满足一般等式问题的要求。 其次, 为了使该能量函数能够收敛到零, 我们可以使该能量函数沿着它的新型方向下降, 所以能量函数的新型可以求得如下: (2.2)其次, 基于一个典型的新型信息的连续时间自适应法则，我们将（2.1）式代入（2.2）进行推导，得出如下普遍适应的新型神经网络模型: (2.3)通过进一步推导得到： (2.4)最后，基于一个典型的新型信息的连续时间自适应法则，可以推导出如下普遍适应的新型神经网络模型: (2.5)其中, 神经状态从随机产生的初始值出发,对应于一般等式方程(2.1)的解,设计参数用来调节一般新型神经网络模型(2.4)的收敛速度。第3章 时变平方根神经网络的应用作为进一步讨论的基础，我们将针对标量取值的一般等式问题，设计一个可以普遍应用的新型神经网络。首先我们考虑如下标量取值的一般等式问题18： (3.1)它既可以为线性函数，也可以为非线性函数。 在这小节,我们将就这样一个等式问题(3.1), 设计一个新型神经网络: 该新型神经网络可以实时求解一个,它可以满足以上一般方程(3.1)的要求。如上面所提到的,求解平方根是求解等式问题中的一个重要情况，如通过求解平方根，一幅图可以在Torelli群中被描述出来; 再如Harris图像可以从其原图像的平方根中提炼到得到。所以, 根据上一节一般新型神经网络的设计过程，我们将把该设计方法具体应用到平方根求解11。首先, 我们考虑如下标量取值的平方根问题: （3.2）其中表示一个标量取值的实数. 我们本章主要工作就是设计一个新型神经网络来实时求解一个 ,从而可以满足以上平方根(3.2)的要求。为了表示方便，我们令表示的平方根的理论解。 根据以上一般新型神经网络的设计过程，为了掌握静态平方根的求解过程，我们首先可以定义了如下的一个基于平方的标准取值的时间导数: （3.3）然后, 展开以上设计公式，我们可以得到: (3.4)从以上公式，我们就可以进一步推导得到如下的求解平方根的新型神经网络模型: (3.5)其中, 神经状态从随机产生的初始值出发,对应于平方根的解,设计参数用来调节一般新型神经网络模型(3.5)的收敛速度。第4章 时变平方根神经网络的仿真验证4.1 仿真设计在前面的章节里， 我们首先设计了一个普遍适应的新型神经网络, 其次由于平方根求解的重要性, 我们又设计了一个专门针对平方根求解的新型神经网络. 在这一节当中, 为了验证新型神经网络模型(3.5)的有效性, 我们将挑选了几个富有代表性的平方根进行求解。在这章中，将用计算机实例仿真和它们的仿真结果来验证18。我们使用MATLAB软件来仿真函数，如图1.图1 MATLAB 7.0工作界面4.2 举例仿真下面我们通过ZNN模型去求解，的收敛情况。例1: 首先让我们考虑如下的平方根求解: （4.1）显然, 在实数域里面, 方程（4.1）有理论解:是以及。下面我们将运用新型神经网络模型()去实时求解平方根（4.1）. 不失一般性, 我们首先令设计参数 , 初始状态(0) x 在 5,-5 这一区域内随机产生, 仿真结果如图1和图2所示. 从图1可以看出, 从 5,-5区域内随机产生的初始状态出发, 神经网络状态解在3秒内都收敛到平方根的理论解。 这充分说明了我们新型神经网络的有效性。另外, 我们也展示了神经网络状态解想对应的误差函数收敛情况, 具体如图2所示。从图2我们同样可以得知, 随着时间的推移, 神经状态解对应的误差函数也在3内收敛到零, 这更加直观的证明了我们新型神经网络的有效性。图2 新型神经网络仿真的状态解图3 新型神经网络仿真的误差函数另外, 为了说明设计参数的重要性, 在其他条件不变的情况下, 我们将设计参数调大为10。当 =10时， 如图3图4所示：图3 新型神经网络仿真的状态解 图4 新型神经网络仿真的误差函数由图3图4可以看出, 当时, 误差函数在0.3秒内就能收敛到零。仿真结果说明设计参数对我们新型神经网络的收敛速度有至关重要的作用。 因此, 在实际的应用中, 我们可根据具体需求, 选择一个合适的设计参数去设计新型神经网络。通过改变的大小可以看出，值越大，收敛的时间就越短。这一仿真例子说明了我们新型神经网络的有效性16。例2: 首先让我们考虑如下的平方根求解: （4.2）很显然, 在实数域里面, 方程（4.2）有两个理论解: 一个是, 另一个是。下面我们将运用新型神经网络模型（3.4）去实时求解平方根（4.2）。 不失一般性, 我们令设计参数= ,初始状态(0) x 在 -5，5 - 区域内随机产生, 仿真结果如图5和图6所示。从图5可以看出, 从 -5,5 - 区域内随机产生的初始状态出发, 神经状态解在3秒内都收敛到平方根的理论解或者。这充分说明了我们新型神经网络的有效性。另外,我们也展示了神经状态解对应的误差函数收敛情况, 具体如图6所示。从图6中我们同样可以得到, 随着时间的推移,神经状态解对应的误差函数在3秒内收敛到零, 这直观的证明了我们新型神经网络的有效性。 图5 新型神经网络仿真的状态解 图6 新型神经网络仿真的误差函数令，由图7图8可以看出，误差函数在0.3秒内就能收敛到零。图7 新型神经网络仿真的状态解 图8 新型神经网络仿真的误差函数当 =100时，如图9图10所示：图9 新型神经网络仿真的状态解图10 新型神经网络仿真的误差函数把调大为100, 如图11图12所示, 误差函数的收敛时间只需要0.03秒。仿真结果说明改变设计参数对我们新型神经网络的收敛速度有至关重要的作用。 因此, 在实际的应用当中, 我们可根据具体需求, 选择一个合适的设计参数去设计新型神经网络。通过设计参数的不同可以看出，值越大，收敛的时间就越短。这一仿真例子再次说明了我们新型神经网络的有效性。例3: 首先让我们考虑如下的平方根求解: （4.3）很显然, 在实数域里面, 方程（4.3）有两个理论解: 一个是, 另一个是。下面我们将运用新型神经网络模型（3.4）去实时求解平方根（4.3）。 不失一般性, 我们令设计参数= ,初始状态(0) x 在 -5，5 - 区域内随机产生, 仿真结果如图11和图12所示。从图11可以看出, 从 -5,5 - 区域内随机产生的初始状态出发, 神经状态解在3秒内都收敛到平方根的理论解或者。这充分说明了我们新型神经网络的有效性。另外,我们也展示了神经状态解对应的误差函数收敛情况, 具体如图12所示。从图12我们同样可以得到, 随着时间的推移,神经状态解对应的误差函数也在0.3秒内收敛到零, 这更加直观的证明了我们新型神经网络的有效性。 图11 新型神经网络仿真的状态解图12 新型神经网络仿真的误差函数为了说明设计参数的重要性, 在其他条件不变的情况下, 我们将设计参数调大为1011。当 =10时， 如图13图14所示：图13 新型神经网络仿真的状态解图14 新型神经网络仿真的误差函数由图13图14可以看出, 当时, 误差函数在0.3秒内就能收敛到零。通过仿真结果分析，通过的不同可以看出，值越大，收敛的时间就越短。经MATLAB软件核对,神经状态解都收敛到该平方根方程(4.3)的理论解。这一仿真例子再次说明了我们新型神经网络的有效性。仿真结果说明设计参数对我们新型神经网络的收敛速度有至关重要的作用。 因此, 在实际的应用中, 我们应根据具体需求, 选择一个合适的设计参数去设计新型神经网络。4.3 小结我们提出一类特殊的ZNN模型去求解平方根问题，是和ZNN模型有关的基于平方的能量函数，并把这一类设计推广到求解一般的静态平方根方程。最后，我们做了大量的计算机仿真，通过前面三个举例验证，我们证实了通过ZNN模型去求解平方根问题的有效性，我们可以成功的把此类方法推广到求解一般的静态方程。结 语在收敛速度方面主要讨论了学习率改进方法对此的影响。大量研究和实验表明，与固定学习率相比，动态学习率调节方法提高了ZNN模型去求解平方根问题的收敛速度和误差精度，改善了收敛性能，减小了网络陷人局部极小和产生振荡的可能性。不同的动态学习率调节方法有不同的特点，在实际应用中，应该针对具体情况来选择适合的动态学习率调节方法。神经网络在医学图像处理中，意义也是十分重大的。举例说明，通过对医学影片获取的图像，如CT、核磁共振成像等，进行特征纹理提取，然后输入训练好的神经网络，从得到的输出判别出相应的病症，在临床上可作为医师治疗和诊断的辅助。鉴于神经网络的强大处理功能和解决问题的强大优势，我们相信，它将在图像处理领域发挥越来越大的作用。当然，有些问题也是需要去考虑的，比如，对于什么样的要求和目的，采用什么样的模型，建立何种神经网络，如何使学习效果最好，都需要更进一步的去探索和追究。参考文献1邓万宇,郑庆华，陈琳等.神经网络极速学习方法研究J.计算机学报，2010,33(2):279-287. 2于万波混沌的计算实验与分析M北京：科学出版社,2008,25-55.3 包芳.基于智能算法的神经网络优化及其应用D：博士学位论文.江苏：江南大学，2008.4陈桦,程云艳.BP神经网络算法的改进及在Matlab中的实现J.陕西科技大学(自然科学版).2004,22(2):45-47.5郑阿奇，曹弋MATLAB实用教程M2版北京：电子工业出版社，2007,20-40. 6 刘春平.神经网络的应用与发展J.电子工艺技术.2005(06):40-50.7白同亮，高桂英线性代数及其应用M北京：北京邮电大学出版社，2007,50-60.8张青.基于递推平方根法的神经网络模型辨识J. 航空计算技术, 2004, 第1期(1):31-34.9 黄国宏,熊志化,邵惠鹤.一种新的基于构造型神经网络分类算法J.计算机学报.2005(09):115-119.10王素立，高洁，孙新德MATI，AB混合编程与工程应用M北京：清华大学出版社,2008,45-85.11黄冬民.平方根UKF神经网络及其在预测中的应用J.昆明理工大学学报（理工版）.2007,32(3):60-63,67.12薛亚许.对MATLAB语言课堂教学的探讨J.出国与就业.2011,(24):210-216.13李眉眉,刘玉生,余义.基于MATLAB的时变系统自适应控制的仿真J.微计算机信息,2004,08期:31-32.14刘亮元.Matlab在对称正定矩阵的改进平方根分解法中的应用J.怀化学院学报.2004,23(2):22-24.15刘贞贤.MATLAB语言在高职理工科教学中的应用探讨J.中国科技信息.2012,19(9):200,200-209.16陈怀琛，高淑萍，杨威工程线性代数(MATLAB版)M北京：电子工业出版社，2007,20-50.17黄冬民.平方根UKF神经网络及其在预测中的应用J. 昆明理工大学学报：理工版, 2007, 03期:60-63.18薛定宇,陈阳泉.高等应用数学问题的MATLAB求解M北京：清华大学出版社，2004,45-60附 录例1：我们采用ZNN模型，求解的静态平方根问题和误差函数的收敛情况。（1）当 =1时，如图1图2所示：程序如下:format long; clear,clc; gamma=1; tspan=0 10; options=odeset(RelTol,10(-5),AbsTol,10(-5);for i=1:5