神经网络在数值积分中的应用研究.doc

三角基函数神经网络算法在数值积分中的应用研究1 引言在科学技术中，积分是经常遇到的一个重要计算环节，比如PID调节器就涉及积分计算。在一定条件下，虽有Newton-Leibniz公式：可以计算定积分的值，但在很多情况下，的原函数不易求得，或非常复杂。此外，在工程实际中，函数是用函数表形式给出而没有解析表达式，这就更无法使用Newton-Leibniz公式了，因此有必要研究定积分的数值计算方法，以解决定积分的近似计算。数值积分的计算方法很多，如Newton-Cotes方法、Romberg方法、Gauss方法等1 4，其中Newton-Cotes方法是一种利用插值多项式来构造数值积分的常用方法，但是高阶的Newton-Cotes方法的收敛性没有保证，因此，在实际计算中很少使用高阶的Newton-Cotes公式；Romberg方法收敛速度快、计算精度较高，但是计算量较大；Gauss方法积分精度高、数值稳定、收敛速度较快，但是节点与系数的计算较麻烦、而且要求已知积分函数。本文提出的数值积分计算方法，其基本思想是训练三角基函数神经网络来逼近被积函数以实现定积分的数值计算。研究结果表明，本文提出的数值积分方法积分精度高、收敛速度快、数值稳定，甚至可以处理一些奇异积分的问题，而且不需要给定被积函数，因此能有效解决建模困难的系统或未知系统的求积分问题，在工程实际中有较大的应用价值。下面详细讨论三角基函数神经网络算法及其与数值积分的关系，并给出计算实例。2 三角基函数神经网络模型三角基函数神经网络模型如图1所示，其中为神经网络权值, 为三角基函数，即：, ) （1）为隐层神经元激励函数（N为偶数），且。设权值矩阵为：，激励矩阵为：，则有：神经网络输出： （2）误差函数： （3）其中为样本点数，为被积函数。则有：性能指标： （4）权值调整： （5）其中为学习率，且。21 三角基函数神经网络收敛定理定理1. 设为学习率，则当时，神经网络算法收敛，其中N+1是隐层神经元个数。证明：取Lyapunov函数为：，则有： (6)因为，而 ，于是有： (7)其中，称为Euclid范数的平方。所以式（6）改写为：由式（8）知，要使神经网络收敛，必须有下式成立，即：，因，所以 （9）由式（7）、（8）可得：，所以 ，由式（1）可以证明因此，由式（9）有：，即当学习率满足时，有，从而本文讨论的三角基神经网络算法是收敛的，证毕。22 三角基函数神经网络最佳学习率在神经网络训练中，学习率是影响神经网络收敛快慢以及是否收敛的一个重要参数，太小会使收敛太慢，太大会使神经网络振荡而无法收敛。为确定该神经网络的最佳学习率，本文以随机函数作为训练对象。在构造神经元网络模型时，取网络结构为：，学习率为： ，其中为学习率调整因子，即。训练结果如表1所示。由表1可知，最佳学习率：，其中，为最佳学习率调整因子。故一般情况下，最佳学习率应取为：。图2为取时的某次训练结果对训练对象的误差，其中y为训练结果，yd为训练对象。 图1 余弦基函数神经网络模型 图2 随机函数训练误差表1：学习率与收敛速度的关系 学习率 1.0 学习次数5525159711183167不收敛3积分定理 定理2. 设a、b为积分上下限，且，为神经网络权值，则有：证明： 证毕。由定理2可以得出以下三条推论：推论1. 当时推论2. 当时推论3. 当时4数值积分实例为了验证本文提出的数值积分算法的优越性，本文选取了参考文献567中给出的一些实例进行计算，与传统的梯形法、辛甫生方法、组合辛甫生方法和龙贝格方法比较（见例1和例2），精度高，适应性强。例1文献7用梯形法和辛甫生方法在0，2积分区间分别计算被积函数：等六个函数的积分，结果如文献7中的表4.7所示。在本文算法中，取神经网络结构为：，学习率：，训练样本集为：。表2列出了文献7的结果和本文算法的结果。表2：几种数值积分方法对应各函数的计算结果7Exact value2.6676.4001.0992.9581.4166.389Trapezoidal4.00016.0001.3333.3260.9098.389Simpsons2.6676.6671.1112.9641.4256.421本文结果2.6656.3931.1012.9591.4156.388例2计算积分：用Romberg方法计算该积分时遇到了困难6，用Composite Simpsons rule计算时，将积分区间0，48等分成100个子区间，计算结果为58.470825。考虑到被积函数是以为周期的函数，且48=15+0.8761，因此，本文计算方法如下：=15+根据定理2中的推论1和推论2有：取神经网络结构为：，性能指标：，学习率为：，训练样本集为：，计算结果为：，图3为训练结果对训练对象的误差。例3为了检验本文算法具有奇异积分的处理能力，考虑如下奇异函数：该函数的精确积分值为：1.546036。取神经网络结构为：，性能指标：，学习率为：，训练样本集为：，计算结果为1.5467。图4为训练结果对训练对象的误差。 图3 例2训练误差 图4 例3训练误差例4设某一LTI系统的输入为，其单位冲激响应为 则系统的输出为： 取神经网络结构为：，性能指标：，学习率为：，训练样本集为：，图5显示了时的计算结果与系统输出精确值的误差曲线。 图5 例4误差曲线5 结论由本文给出的四个实例及2.2中随机函数训练结果可以看出，三角基函数神经网络算法收敛速度快，本文提出的基于三角基函数神经网络算法的数值积分算法适应性强，计算精度较高，不要求已知被积函数，因此，本文算法不仅适合于已知函数的数值积分，而且也适合于未知函数的数值积分。本文提出的数值积分算法的另一大特点是能够对奇异函数进行积分，而且精度高，这一点可以从例3看出。但是本文只解决了函数的单重积分问题；另一方面，由于本文提出的数值积分算法要求积分区间，因此对积分区间超出该范围的积分求解，必须对被积函数进行变换，使积分区间（如例2）。参考文献1 Richard L. Burden, J. Douglas Faires. Numerical Analysis(Seventh Edition)M. 北京：高等教育出版社，2001，1862262 王能超. 数值分析简明教程M. 北京：高等教育出版社，1997：6696. 3 沈剑华. 数值计算基础M. 上海：同济大学出版社，1999：731094 林成森. 数值计算方法（上）M. 北京：科学出版社，1998：1732155 Richard L. Burden, J. Douglas Faires. Numerical Analysis(Seventh Edition)M. 北京：高等教育出版社，2001：206，772。6 Richard L. Burden, J. Douglas Faires. Numerical Analysis(Seventh Edition)M. 北京：高等教育出版社，2001：2127 Richard L. Burden, J. Douglas Faires. Numerical Analysis(Seventh Edition)M. 北京：高等教育出版社，2001：1908 ALAN V. OPPENHEIM,ALAN S. WILLSKY, WTTH S.HAMID NAWAB，刘树棠译. 信号与系统（第二版）M，西安：西安交通大学出版社，1998：7172Numerical Integration Study Based On Triangle Basis Neural Network AlgorithmWang Xiaohua,He Yigang, Zeng Zhezhao(1. Electrical And Infomational Engineering College, Hunan University, Changsha 410082, China; 2.Electric Power Engineering Department, Changsha Electric Power University, Changsha 410077, China)Abstract:IN this paper a new appproach to solve numerical integration is developsed based on the algorithm of neural networks with triangle basis functions , and the convergence theorem of the neural networks algorithm and the theorem of numerical integration solution and its inferences are presented and proved. The examples of numerical integration are also offered, and their results are compared to the results by contradional methods. The results show that the numerical integration approach presented in this paper has some characteristics such as high precision and strong adaptablity,futhermore,the intergration of unknown fountions can be solved by the numerical integration approach .Therefore,the numerical integration approach has significant application value in many engineering practice fields such as electronics etc.Key words: triangle basis functions, neural network algorithm, numerical integration , convergence theorem 作者简介：王小华，男，1968年11月生于湖南常德，1996年毕业于湖南大学，同年获硕士学位，现为湖南大学在职博士生。主要研究方向为模数电路故障诊断、信号处理、神经网络理论与应用等。何怡刚，男，1966年生于湖南邵阳，教授，博士生导师，1996年毕业于西安交通大学，同年获博士学位。主要研究方向为模拟集成电路、模数电路故障诊断、信号处理、神经网络理论与应用等。曾喆昭，男，1963年9月生于湖南蓝山，教授，1989年毕业于清华大学，同年获硕士学位。主要研究方向为单片机应用系统开发、信号处理、神经网络理论与应用等。 联络方式：姓名：王小华地址：长沙市赤岭路九号长沙电力学院电力工程系邮政编码：410077电话：013036793637E-mail：修改说明：1 关于本文提出的数值积分算法在电子学领域中的应用实例已在例4中补充；2 作者除了对文中的4个实例进行计算外，还做了其他大量函数的积分计算，并非刻意挑选这4个