软件工程 毕业设计（论文）-基于BP神经网络对赣江水质的评测.doc

东华理工大学毕业设计(论文) 摘要 毕业设计（论文）题 目:bp神经网络对赣江水质的评价英文题目:bp neural network to ganjiang river water quality appraisal 学生姓名： 学 号： 专 业: 软件工程 学 院： 软件学院 指导教师： 职称： 助教 二零一一年五月摘 要人工神经网络以人脑结构为参考模型，试图通过简单计算但也的高速互联，来实现类似于人类在语言和图像处理等方面的行为。它是由简单信息处理单元互联组成的网络，能够接受并处理信息。网络的信息处理是由处理单元之间的相互作用来实现的。基于bp神经网络的水质评价模型的训练样本即为水质分级标准。训练完成后，网络将保存对分级标准学习的知识和有关信息，即各层间的连接权与各个神经元的阈值得以保存，然后从输入层输入待评资料，得到有关评价结论的信息，从而根据一定规则作出有关的评价结论的判断。本文运用bp神经网络理论和方法，使用matlab 工具箱函数编程，建立了赣江水质综合评价的模型，对赣江近9年的监测水质进行了评价。评价结果显示，赣江水质总体上集中在类水质上，属于较清洁水；同时，评价结果也表明，bp 神经网络可以较好地实现水质综合评价，且具有较高的实用性和客观性，完全可以应用于实际的水质综合评价工作。关键词：bp神经网络；水质评价；赣江；matlabi东华理工大学毕业设计(论文) abstractabstract the manual nerve network takes person brain structure as and makes reference to pattern and tries and passes a simple computing but also of high speed with each other allied, carry out the behavior that analogy handles and waits aspect in the language and the icon at the mankind.it is united a composite network with each other by the simple information handing unit, accept and handle an information.the information handing of network is carried out by the interaction of of transaction unit.it fored a fluid matter to graduate standard according to the training sample of the fluid matter appraisal pattern of bp nerve network.after training to complete, network conservancy vs the knowledge that graduates standard study and relevant information, namely the yu of each nerve kyat of connecting right with of each worth with keep, then the input need to be reviewed data from the input layer and receive concerning the appraisal conclusion of information, thus make the criterion of a concerned appraisal conclusion according to the certain rule.this text usage bp nerve network theory and method, the tool box function of use matlab weaves a distance and created gan river fluid matter synthesis the pattern of appraisal, carried on an appraisal to the gan monitor fluid matter of river 9 years.evaluate result display, the gan rivers fluid matter is total top concentrate at type fluid matter up, belong to more sweep water;at the same time, appraisal also expresses as a result, the bp nerve network can a little bit well carry out a fluid matter synthesis appraisal, and have high function and objectivity, completely can be applied to the physical fluid matter synthesis evaluatingkeywords:bp nerve network; the fluid matter evaluates; the ganjiang river; matlabii东华理工大学毕业设计(论文) 目录目 录绪 论10.1 选题背景和意义10.2 国内外研究现状10.3本文应用的水质评价方法21. matlab语言简介31.1 matlab的发展历程31.2 matlab的基本特点31.3 matlab 7.0的新特点52.神经网络的基本原理72.1 人工神经元模型82.2 神经网络的学习方式和学习规则92.2.1 神经网络的学习方式92.2.2 神经网络的学习规则102.3 神经网络的特点及应用112.4 bp神经网络112.4.1 bp神经网络的结构112.4.2 bp神经网络的算法122.5 本章小结163.水质评价的bp神经网络模型173.1 基本思想173.2 建立bp神经网络模型时可能出现的问题及解决方法173.2.1 建立bp神经网络模型时可能出现的问题173.2.2 解决方法173.3 bp 神经网络的建模条件184.赣江水质的评价194.1 赣江简介194.2 对赣江水质的评价204.2.1 输入层的确定224.2.2 隐含层的确定224.2.3 输出层的确定234.2.4 网络结构的确定244.2.5 数据处理244.2.6 网络训练264.2.7 对监测数据进行评价284.3对评价结果的分析30结 论31致 谢32参 考 文 献33iii东华理工大学毕业设计(论文) 绪论绪 论0.1 选题背景和意义水资源污染问题严重地困扰着人类的生存和发展，已成为全球性、跨世纪的关注焦点。为了更有效地利用和保护水体，首先必须对水体水质进行合理的综合评价。对水体水质评价的主要任务是，根据水体中反映污染程度的主要物质的浓度和国家水质评价标准，分析、评价水质的类别，为水体管理提供科学的理论依据。水质评价是以水环境监测资料为基础，按照一定的评价标准和评价方法，对水质要素进行定性或定量评价，以准确反映水质现状，了解和掌握水体污染影响程度和发展趋势。赣江作为江西省的最大河流，由南向北进入南昌，赣江干流经南昌市市区，为南昌市工业和居民生活饮用水主要水源，根据国家环保总局2010年发布的环保重点城市集中式饮用水源地水质状况显示，南昌市有部分水源地水质超标。因此，对近几年的赣江水质做出客观、正确的评价有利于加强人们对赣江水源的保护意识。0.2 国内外研究现状目前国内外运用较多的水质综合评价方法有三种，即模糊模式识别法、灰关联模式识别法、bp人工神经网络法。1965年，查德提出模糊集合的概念，并把“模糊( fuzzy) ”一词引入技术文献当中。水质评价涉及到许多模糊概念， 1991年陈守煜等提出了模糊模式识别理论模型并将其应用于水质评价，该法利用模糊数学的理论和方法解决模式识别问题。随着模糊理论的不断完善和发展，改进的模糊模式识别模型相继出现。灰色系统理论是邓聚龙在20世纪70年代末、80年代初提出的，针对灰色系统信息不完全与“少数数据不确定”的特点，用灰关联分析作因子间的量化和序化。从系统信息明确与否来看，水质评价实际上是一个外延确定而内涵不确定的问题，属于灰色系统范畴。同模糊集理论一样， 灰色系统理论在环境评价中的应用也是从聚类分析开始的。该方法通过建立与隶属函数相似的白化函数进行灰色聚类，确定所有断面的水质级别。随着灰色理论在环境系统中的大量应用，又出现了水质评价的灰色关联度分析方法。灰色关联分析法概念清楚，应用方便， 可操作性强，但存在评价值趋于均化、分辨率不高的缺点。针对这一不足，以扩展的最小二乘法准则构造目标函数，通过求条件极值建立了一种湖泊富营养化灰色评价模型，取得了较好的评价结果；而采用线性内插的方法对灰色关联度法进行改进，能提高评价结果的分辨率。人工神经网络是对人脑若干基本特征通过数学方法进行的抽象和模拟，是一种模2仿人脑结构及功能的非线性信息系统，具有很强的非线性映射能力和自适应、自组织、自学习能力，能实现对任意复杂函数的映射。1986年，d e rumelhart和j lmcclelland提出多层网络学习的误差反传播算法(back pragation，简称bp神经网络) 。人们也常把按误差反传递算法训练的多层馈网络直接称为bp网络。bp 神经网络模型设计的最大特点是网络权值通过使网络模型输出值与已知的样本输出值之间的误差平方和达到期望值而不断调整网络权值训练出来的。确定bp 神经网络评价模型涉及隐层及其节点数、转移函数、学习参数和网络模型的最后选定等问题。bp 模型目前主要应用于函数逼近、模式识别、分类和数据压缩或数据挖掘。自1994 年以来，bp 神经网络模型逐渐被引入到水环境质量综合评价中。多数文献利用bp模型的计算结果与用其它方法(如灰色聚类方法，模糊数学法等) 的计算结果完全一致或基本一致，因此认为bp 模型在水环境质量综合评价中可取得很好的结果。0.3本文应用的水质评价方法人工神经网络以其具有的自学习、自组织、较好的容错性和优良的非线性通近能力， 受到众多领域学者的关注。人工神经网络的自组织和自适应能力决定了它适于处理在已知条件和结果之间无明确关系的数据， 并能够在条件与结果之间建立一定的关系， 这个过程类似于人脑维过程， 因此可模仿人类思维解决某些模糊性和不确定性问题。近年来，人工神经网络理论的迅速发展为水质评价和预测提供了一种新的有效方法。本文利用 bp 网络进行水质评价，其训练样本为水环境质量标准，样本一旦训练完成后，根据目标向量可以评价预测各类水质，具有广泛性。并且，在该过程中所需要的参数是根据样本训练学习所得，故较传统的水质评价更具有客观性、合理性、精确性。东华理工大学毕业设计(论文) matlab语言简介1. matlab语言简介1.1 matlab的发展历程matlab，取自矩阵（matrix）和实验室（laboratory）两个英文单词的前三个字母，意即“矩阵实验室”。它是一种以矩阵作为基本数据单元的程序语言，提供了数据分析、算法实现与应用开发的交互式环境，经历了20多年的发展历程。20世纪70年代中期，美国新墨西哥大学计算机系系第主任clever moler博士和其同事在美国国家自然科学基金的资助下，开发了调用linpack和eispack的fortran子程序，20世纪70年代后期，moler博士编写了相应的接口程序，并将其命名为matlab。1983年，john little 和moler、bangert等一起合作开发了第2 代专业版matlab。1984年，moler博士和一批数学专家、软件专家成立了math works公司，继续matlab软件的研制与开发，并着力将软件推向市场。1993年，math works公司连续推出了matlab3.x（第1 个windows版本）、matlab4.0。1997年，math works公司推出了matlab5.0。2001年，math works公司推出了matlab6.x。2004年，math works公司推出了matlab7.0。matlab5.3对应于releasel2, matlab6.0对应于releasel3，而matlab7.0对应于releasel4。matlab分为总包和若干个工具箱，随着版本的不断升级，它具有越来越强大的数值计算能力、更为卓越的数据可视化能力及良好的符号计算功能，逐步发展成为各种学科、多种工作方便平台下功能强大的大型软件，获得了广大科技工作者的普遍认可。一方面，matlab可以方便实现数值分析、优化分析、数据处理、自动控制、信号处理等领域的数学计算，另一方面，也可以快捷实现计算可视化、图形绘制、场景创建和渲染、图像处理、虚拟现实和地图制作等分析处理工作。在欧美许多高校，matlab已经成为线性代数、自动控制理论、概率论及数理统计、数字信号处理、时间序列分析、动态系统仿真等课程的基本教学工具，是攻读学位本科生、研究生必须掌握的基本技能。在国内，这一语言也正逐步成为一些大学理工科专业学生的重要选修课。1.2 matlab的基本特点matlab是一种高级编程语言，其特点可以归纳为以下几点：1.语言简单易学matlab是一种解释执行的语言，语句采取通用数学形式，语法规则与一般结构化高级编程语言（如c语言等）相差不大，并把编辑、编译、连接、执行功能融为一体，调试程序手段丰富、调试速度快，可以快速排除输入程序时书写、语法等方面的错误，具有一般语言基础的用户可以较快掌握。2.代码短小高效matlab语言将矩阵作为最基本的数据单元，无须预先定义维数，函数是matlab中最基本、也是最重要的组成成分，而matlab将数学问题的许多算法编成了大量库函数、具有解决许多问题的工具箱，只要熟悉算法基本特点、函数调用格式和参数具体意义等内容，调用现成函数就可以较快解决自己专业领域的许多问题，而不必再花很多时间去实现常规算法，使得所编写的代码文件简单短小、求解专业问题时高效方便。3.计算功能强大matlab语言具有强大的矩阵数值计算功能，可以方便地处理许多特殊矩阵，利用符号和函数可以对矩阵进行线性代数运算（加减乘除、转置和求逆等），适用于大型数值算法的编程实现；工具箱中许多高性能的数值计算算法，可以解决实际应用中的许多数学问题，尤其是与矩阵计算有关的问题。4.绘图非常方便matlab语言具有强大的绘图功能，具有很多绘图函数命令，可以绘制一般的二维或三维图形（如线形图、条形图、饼图、散点图、直方图等），可以绘制工程特性较强的特殊图形（如玫瑰花图、极坐标图等），通过其可视化功能可以绘制一些用于数据分析图形（如矢量图、等值线图、曲面图、切片图等），还可以生成快照并进行动画制作，使用matlab句柄图形对象并结合绘图函数可以绘制自己最为满意的图形，使用时只需调用不同的绘图函数、使得作图简单易行。5.扩充能力强大可扩性是matlab的一个重要特点，matlab通常包含系统本身定义的大量库函数，用户也可以定义自己的函数、组成自己的工具箱，不仅进行数学运算时可以直接调用、而且库函数名称与用户文件保持形式一致，用户可以根据需要方便地建立或扩充库函数、方便地解决本领域内的计算问题。matlab提供了与fortran、c/c+语言及一些应用程序（如excel）的接口，利用matlab编译器和运行服务器还可以生成独立的执行程序，使用户可以混合编程、也可以隐藏算法并避免依赖matlab平台环境。6.帮助功能完整matlab采用基于html的自述文件，自述文件中不仅介绍了matlab语言，还对各种算法的理论基础与算法实现进行了比较详细说明、并给出了相应的常规实例、帮助功能比较完整，用户使用较为方便。1.3 matlab 7.0的新特点matlab 7.0可在下列平台上安装：windows2000（sp3或sp4）windowsnt4.0（sp5或sp6a）windowsxpwindows7linux ix862.4.x,glibc2.2.5sun solaris2.8 and2.9hpux11.0 and11.imac os x 10.3.2matlab7.0的新特点主要包括以下几个方面。1开发环境（1）对桌面进行了重新设计，提供了多文档管理、锚定图形窗口及保存定制输出和常用命令快捷键的命令；（2）改进了数组编辑器和工作区间浏览器，使得查看、编辑变量和使用变量数据绘制图形更加容易；（3）可将程序代码发布为html、c/c+、java、word等格式的文档；（4）命令窗口中有关帮助命令可以与自述文件的对应部分直接链接，同时自述文件中增加了一些动态演示。2、编程（1）可以创建嵌套函数，提供定义和调用自定义函数更为便捷的途径；（2）提供在命令行和命令文件中定义单行函数的隐函数表示形式；（3）使用条件断点，可以在条件表达式为真时停止运行。3、计算（1）整数计算部分可以使用户处理更大的整形数据集；（2）单精度计算、fft、线性代数和滤波设计部分使用户可能以处理更大的单精度数据集；（3）计算几何部分对算法选择给出了更多控制；（4）使用linsolve函数，通过指定矩阵系数结构，可以更快求解线性方程组；（5）ode求解器可以控制隐式差分方程和多点边值问题。4、图形和三维可视化实现（1）使用新的绘图界面，可以在不输入程序代码的情况下交互式地创建和编辑图形；（2）可以生成图形的程序代码，利用该代码可以重建图形；（3）一些特殊图形更易修改；（4）改进了图形标注，包括绘制图形、对象对齐和将标注“钉”到数据点；（5）可以对成组图形对象进行变换；（6）可以在guide中对用户界面面板和控件进行成组控制。5、数据获取和外部接口（1）提供读取很大文本文件和写为excel等文件格式的命令函数；（2）提供压缩mat文件的选项，可以用更少的磁盘空间保存较大的数据；（3）使用javaaddpath函数可以在不重新启动matlab的情况下动态添加、删除和重载java类；（4）com定制接口、服务器事件和visual basic脚本支持。（5）可以基于soap（simple object access protocol,简单对象存取协议）获取web服务；（6）提供可以连接到ftp服务器进行远程文件操作的ftp对象。此外，与matlab6.0相比，matlab7.0对下述工具箱进行了改进或赋予了新内容：（1）通信系统工具箱（communications toolbox）（2）控制系统工具箱（control system toolbox）（3）数据库工具箱（database toolbox）（4）滤波设计工具箱（filter design toolbox）（5）金融分析工具箱（financial derivatives toolbox）（6）仪表控制工具箱（instrument comttrol toolbox）（7）图像处理工具箱（mapping toolbox）（8）模型预测控制工具箱（modrl predictive comttrol toolbox）（9）优化工具箱（optimization toolbox）（10）统计工具箱（statistics toolbox system）（11）系统辨识工具箱（ldentification toolbox）（12）虚拟现实工具箱（virtual reality toolbox）（13）小波工具箱（wavelet toolbox）34东华理工大学毕业设计(论文) 神经网络的基本原理2.神经网络的基本原理人工神经网络（ann，artifieialneuralnetworks）早期的研究工作应追溯至本世纪40年代。1943年，心理学家wmcculloch和数理逻辑学家wpitts在分析、总结神经元基本特性的基础上首先提出神经元的数学模型。此模型沿用至今，并且直接影响着这一领域研究的进展。因而，他们两人可称为人工神经网络研究的先驱。 1945年冯诺依曼领导的设计小组试制成功存储程序式电子计算机，标志着电子计算机时代的开始。1948年，他在研究工作中比较了人脑结构与存储程序式计算机的根本区别，提出了以简单神经元构成的再生自动机网络结构。但是，由于指令存储式计算机技术的发展非常迅速，迫使他放弃了神经网络研究的新途径，继续投身于指令存储式计算机技术的研究，并在此领域作出了巨大贡献。虽然，冯诺依曼的名字是与普通计算机联系在一起的，但他也是人工神经网络研究的先驱之一。 50年代末，frosenblatt设计制作了“感知机”，它是一种多层的神经网络。这项工作首次把人工神经网络的研究从理论探讨付诸工程实践。当时，世界上许多实验室仿效制作感知机，分别应用于文字识别、声音识别、声纳信号识别以及学习记忆问题的研究。然而，这次人工神经网络的研究高潮未能持续很久，许多人陆续放弃了这方面的研究工作，这是因为当时数字计算机的发展处于全盛时期，许多人误以为数字计算机可以解决人工智能、模式识别、专家系统等方面的一切问题，使感知机的工作得不到重视；其次，当时的电子技术工艺水平比较落后，主要的元件是电子管或晶体管，利用它们制作的神经网络体积庞大，价格昂贵，要制作在规模上与真实的神经网络相似是完全不可能的；另外，在1968年一本名为感知机的著作中指出线性感知机功能是有限的，它不能解决如异或这样的基本问题，而且多层网络还不能找到有效的计算方法，这些论点促使大批研究人员对于人工神经网络的前景失去信心。60年代末期，人工神经网络的研究进入了低潮。 另外，在60年代初期，widrow提出了自适应线性元件网络，这是一种连续取值的线性加权求和阈值网络。后来，在此基础上发展了非线性多层自适应网络。当时，这些工作虽未标出神经网络的名称，而实际上就是一种人工神经网络模型。随着人们对感知机兴趣的衰退，神经网络的研究沉寂了相当长的时间。80年代初期，模拟与数字混合的超大规模集成电路制作技术提高到新的水平，完全付诸实用化，此外，数字计算机的发展在若干应用领域遇到困难。这一背景预示，向人工神经网络寻求出路的时机已经成熟。美国的物理学家hopfield于1982年和1984年在美国科学院院刊上发表了两篇关于人工神经网络研究的论文，引起了巨大的反响。人们重新认识到神经网络的威力以及付诸应用的现实性。随即，一大批学者和研究人员围绕着 hopfield提出的方法展开了进一步的工作，形成了80年代中期以来人工神经网络的研究热潮。人工神经网络是对人脑神经系统的模拟而建立起来的。它是由简单信息处理单元（人工神经元，简称神经元）互联组成的网络，能够接受并处理信息。网络的信息处理是由处理单元之间的相互作用（连接权）来实现的。多年来，学者们己经建立了多种神经网络模型，其中决定它们整体性能的因素主要是：神经元（信息处理单元）的特性，神经元之间相互连接的形式，为适应环境而改善性能的学习规则等。2.1 人工神经元模型人脑神经元是组成人脑神经系统的最基本单元，对人脑神经元进行抽象化后得到一种称为mcculloch一pitts模型的人工神经元，人工神经元是人工神经网络的基本单元，从图2一1中可以看出，它相当于一个多输入单输出的非线性阐值器件。 图2-1 人工神经元元模型结构:神经元i的输出，它可以与其他多个神经元通过权值连接； :神经元i的输入； :神经元的连接权值； :神经元i的阈值； :神经元i的非线性输出函数； 该神经元的输出，可用下式描述： （2-1） 令 （2-2） 则 （2-3）根据活化函数的不同，人们把人工神经元分成以下几种类型：（1）分段线性活化函数： (2-4)（2）sigmoid活化函数： (2-5)（3）双曲正切活化函数： (2-6)（4）高斯活化函数： (2-7)2.2 神经网络的学习方式和学习规则2.2.1 神经网络的学习方式学习是神经网络的主要特征之一。学习规则就是修正神经元之间连接强度或加权系数的算法，使获得的知识结构适应周围环境的变化。在学习过程中，执行学习规则，修正加权系数。神经网络的学习方式主要分为有导师(指导式)学习、无导师(自学式)学习和再励学习(强化学习)三种：（l）有导师学习：就是在学习的过程中，有一个期望的网络输出，学习算法根据给定输入的神经网络实际输出与期望输出之间的误差来调整神经元的连接强度，即权值。因此学习需要有导师来提供期望输出信号。（2）无导师学习：就是在学习过程中不需要有期望输出，因而不存在直接的误差信息。网络学习需要建立一个间接的评价函数，每个处理单元能够自适应连接权值，以对网络的某种行为趋向作出评价。（3）再励学习：这种学习介于上述两种情况之间，外部环境对系统输出结果只给出评价(奖或罚)而不是给出正确答案，学习系统经过强化那些受奖励的行为来改善自身性能。2.2.2 神经网络的学习规则神经网络通常采用的网络学习规则包括以下三种：（l）误差纠正学习规则令是输入时神经元k在n时刻的实际输出，表示应有的输出(可由训练样本给出)，则误差信号可写为： (2-8)误差纠正学习的最终目的是使某一基于的目标函数达到要求，以使网络中每一输出单元的实际输出在某种统计意义上逼近应有输出。一旦选定了目标函数形式，误差纠正学习就变成了一个典型的最优化问题，最常用的目标函数是均方误差判据，定义为误差平方和的均值： (2-9)其中e为期望算子。上式的前提是被学习的过程是平稳的，具体方法可用最优梯度下降法。直接用j作为目标函数时需要知道整个过程的统计特性，为解决这一问题，通常用j在时刻n的瞬时值代替j，即： (2-10)问题变为求e对权值w的极小值，据梯度下降法可得： (2-11)其中为学习步长，这就是通常所说的误差纠正学习规则；（2）hebb学习规则由神经心理学家hebb提出的学习规则可归纳为“当某一突触连接两端的神经元同时处于激活状态(或同为抑制)时，该连接的强度应增加，反之应减弱”用数学方式可描述为： (2-12)由于与的相关成比例，有时称为相关学习规则；（3）竞争学习规则顾名思义，在竞争学习时，网络各输出单元互相竞争，最后达到只有一个最强者激活，最常见的一种情况是输出神经元之间有侧向抑制性连接，这样原来输出单元中如有某一单元较强，则它将获胜并抑制其它单元，最后只有此强者处于激活状态。最常用的竞争学习规则可写为： (2-13)2.3 神经网络的特点及应用神经网络具有以下特点：（l）分布式存贮信息神经网络使用大量的神经元之间的连接及对各连接权值的分布来表示特定的信息，从而使网络在局部网络受损或输入信号因各种原因发生部分畸变时，仍能够保证网络的正确输出，提高网络的容错性和鲁棒性。（2）并行协同处理信息神经网络中的每个神经元都可以根据接收到的信息进行独立的运算和处理，并输出结果，同一层中的各个神经元的输出结果可被同时计算出来。（3）信息处理与存储和二为一神经网络的每个神经元都兼有信息处理和存储功能，神经元之间连接强度的变化，既反映了对信息的记忆，同时又和神经元对激励的响应一起反映了对信息的处理。（4）对信息的处理具有自组织、自学习的特点，便于联想、综合和推广神经网络的神经元之间的连接强度用权值大小来表示，这种权值可以通过对训练的学习而不断变化，而且随着训练样本量的增加和反复学习，这些神经元之间的连接强度会不断增加，从而提高神经元对样本特征的反映灵敏度。正是因为神经网络具有的这些特点，才使它在模式识别、人工智能、控制工程、信号处理等领域有着广泛的应用，相信随着人工神经网络研究的进一步深入，其应用领域会更广，用途会更大。2.4 bp神经网络20世纪80年代中期，以rumelhart和mcclelland为首，提出了多层前馈网络（mfnn）的反向传播（bp，back propagation）的学习算法，简称bp算法。2.4.1 bp神经网络的结构bp网络结构如下图：ji k输入层节点输出层节点隐层节点 图2-2 bp网络结构图为网络的输入和输出，每个神经元用一个节点表示，网络包含一个输出层和一个输入层，隐含层可以是一层也可以是多层。图中j表示输入层神经元，i表示隐层神经元，k表示输出层神经元。已经证明bp网络能逼近任意非线性函数，在各个领域中有广泛的应用。bp网络中采用梯度下降法，即在网络学习过程中，使网络的输出与期望输出的误差边向后传播边修正连接权值，以使其误差均方值最小。学习算法有正向传播和反向传播组成，在正向传播中，输入信号从输入层经过隐层传向输出层，若输出层得到期望的输出，学习结束，否则，转至反向传播。反向传播算法是将误差信号按照原链路反向计算，由梯度下降法调整各层神经元的权值，使误差信号最小。这两部分是相继连续反复进行的，直到误差满足要求。2.4.2 bp神经网络的算法 bp神经网络的算法主要可以分为两部分，一是前向传播算法，就是已知网络的输入和活化函数求各层的输出；二是反向传播算法，即如果输出不满足要求就不断修正权值。（1） bp神经网络的前向传播算法设某bp神经网络具有m个输入、q个隐含节点、r个输出的三层结构，则bp神经网络的输入为： j=1,2.m (2-14)输入层节点的的输出为 ： j=1,2.m （2-15)隐含层第i个神经元的输入: i=1,2.q (2-16)输出可表达为 ： i=1,2.q (2-17)其中为输入层到隐层加权系数；上标（1）、（2）、（3）分别代表输入层、隐含层、输出层，为隐层活化函数，这里取为sigmoid活化函数。 (2-18)输出层的第个神经元的总输入为： k=1,2.r (2-19)输出层的第k个神经元的总输出为 k=1,2. (2-20)式中，为隐层到输出层加权系数，为输出活化函数。 以上工作在神经网络工作时，就可以完成了一次前向传播的计算。 （2） bp神经网络的反向传播计算假设，神经网络的理想输出为，在前向计算中，若实际输出与理想输出不一致，就要将其误差信号从输出端反向传播回来，并在传播过程中对加权系数不断修正，使输出层神经元上得到所需要的期望输出为止。为了对加权系数进行调整，选取目标函数为： (2-21)以误差函数e减少最快方向调整，即使加权系数按误差函数e的负梯度方向调整，使网络逐渐收敛。按照梯度下降法，可得到神经元j到神经元i的t+1次权系数调整值： (2-22)由式（2-21）可知，需要变换出e相对于该式中网络此刻实际输出关系，因此 (2-23) 而其中的 (2-24) 其中的表示节点i的第j个输入。所以 (2-25) 将（2-25）代入式（2-23），可以得到： (2-26) 令 (2-27) 式中为第i个节点的状态对e的灵敏度；由式(2-26)和式（2-27）可以得到： (2-28)以下分两种情况计算： 若i为输出层节点，即i =k由式(2-21)和（2-27）可得 (2-29)所以可得： (2-30)此时应该按照下列公式进行调整： (2-31)式中为学习速率。 若i不为输出层神经元，即此时式（2-27）为 (2-32)其中 (2-33)式中是节点i后边一层的第个节点，是节点的第j个输入。 (2-34)当时， 将式（2-32）和（2-34）代入（2-28），有 (2-35)此时的权值调整公式为： (2-36)通过（2-31）和（2-36）我们就可以完成神经网络的反向传播算法。实现权值的实时调整。对上面的算法流程进行总结我们可以的出下面的算法流程图：初始化权值值值 给定输入和输出样本 求隐含层、输出层各节点输出 求目标值与实际输出的偏差 计算反向误差 修正权值 学习结束？ 结束 是 否 图2-3 bp网络算法流程图2.5 本章小结本章主要介绍了神经网络的基础知识，其中包括神经元模型，学习方式和学习规则等，在了解了神经网络的基础上，进一步介绍了本论文要用到的bp神经网络，包括其结构，前向和反向传播算法及实现步骤。 东华理工大学毕业设计(论文) 水质评价的bp神经网络模型3.水质评价的bp神经网络模型为了能对样本水质量进行评价，为水资源的合理保护与利用提供依据，现用bp网络方法模拟某个样本水质评价因子和水质级别间的非线性关系。3.1 基本思想水质评价是一个非线性较为复杂的问题。 基于bp神经网络的水质评价模型的训练样本即为水质分级标准。训练完成后，网络将保存对分级标准学习的知识和有关信息，即各层间的连接权与各个神经元的阈值得以保存，然后从输入层输入待评资料，得到有关评价结论的信息，从而根据一定规则作出有关的评价结论的判断。设待评的水质监测样本m个，每个样本选择具有典型代表的n项污染指标监测值。 按照国家行业规范规定，相应于n项污染指标下的水质标准浓度可将水质划分为5个等级。 因此，水质评价的神经网络结构的输入层的神经元数为n，即输入层的每一个神经元代表1种水质评价的污染指标；输出层为5维的向量，其期望输出结果分别为: ( 1 0 0 0 0)、( 0 1 0 0 0)、( 0 0 1 0 0)、( 0 0 0 1 0)、( 0 0 0 0 1)对应 i 至 v 个等级的水质。3.2 建立bp神经网络模型时可能出现的问题及解决方法3.2.1 建立bp神经网络模型时可能出现的问题大量的研究表明，在建立bp 神经网络模型的过程中，经常会遇到以下几种情况：它是一个非线性优化问题，其均方误差函数一般具有许多的极小点，因此，当其收敛时，其均方误差函数达到的往往是局部最小，而非全局极小；bp 神经网络的学习算法收敛速度较慢，且收敛速度与初始权值的选择有关；隐含层节点数的选择是人工神经网络设计中最为关键的步骤，它直接影响网络对复杂问题的映射能力，如果网络结构太大，使训练时极易出现“过拟合”现象，而如果网络结构太小，则训练结果可能达不到用户期望的目标。但迄今为止，仍没有理论公式计算，只能根据设计者的经验知识和先验知识，所以bp 神经网络的优劣是因人而异的。3.2.2 解决方法针对学习收敛速度慢容易陷入局部极小点和网络结构选择困难等问题，目前已有不少人对此提出了改进的方案：(1)收敛速度的改进；如：自适应调节学习率法(简称bpx 网)；共轭梯度法，加快网络的收敛速度；同伦bp 算法，使得收敛速度、收敛范围以及陷入局部最小的可能性等方面都明显优于常规的bp算法； catchy 误差估计器代替传统的lms 误差估计器，显著地加快了学习速度，缩短学习时间；将输入输出数据初始化到(0.1，0.9)的区间内，避免了在饱和区段，学习收敛速度很慢，甚至出现麻痹现象；采用bp 神经网络动态全参数自调整学习算法局部极小问题，使得隐层节点和学习速率的选取全部动态实现，减少了人为因素的干预，改善了学习速率和网络的适应能力；(2) 局部极小问题的改进；如：采用局部学习速率自适应技术的delta-bar-delta (dbd) 演算法来提高学习速率，使网络自动跳出局部最小，同时加快了网络的收敛，使网络具有普遍的适应性；原始数据的非线性规格化函数、记忆式初始权值、阈值和参数自动优选等方法，提高网络运行收敛速度、防止陷入局部极小点、克服手工调试参数的盲目性、提高模型精度等方面都有较大的改善作用。(3)网络结构的选择；使用遗传算法来优化网络结构及其参数，其中有很多成功的应用，如：采用改进的遗传算法实现了bp神经网络的拓扑结构和参数的优化；用gmnn的自动化设计方法完成对网络结构空