流域年均含沙量BP模型问题分析

1、流域年均含沙量BP模型问题分析摘要：本文在用人工神经网络BP模型对流域年均含沙量进行多因素建模过程中，对BP算法进行了改进。在学习速率的选取上引进了一维搜索法，解决了人工输入时，若值过小，收敛速度太慢，值过大，又会使误差函数值振荡，导致算法不收敛的问题。建模实践表明，改进后的BP算法可能使网络误差函数达到局部极小点，提高了算法的拟合精度。 关键词：BP算法 学习速率 年均含沙量 一维搜索法 我国河流众多，自然资源十分丰富，但江河流域水土流失非常严重，给国家的可持续发展以及生态环境带来较大的危害。对于流域产沙的定量研究，一般采用单因子线性回归方法。这类方法虽然也能反映出某种统计特性，但不能刻画自

2、然界复杂的非线性特性。人工神经网络BP网络模型是复杂非线性映射的新方法。在引入这一新的定量研究方法对流域年均含沙量进行建模预测时发现：算法中学习速率值的选取对算法成败起着关键作用，若值过小，收敛速度太慢，而值过大，又会使误差函数值不下降，导致算法不收敛。本文正是针对这一问题进行了探讨。1 BP网络模型及学习率固定的弊端人工神经网络理论是80年代中后期迅速发展起来的一门前沿科学，其应用已渗透到各个领域1。BP(Back Propagation)神经网络模型是人工神经网络理论的重要模型之一，应用尤为广泛。尽管BP网络模型发展逐步成熟，但仍然存在许多问题，在理论上需要完善2。BP算法主要包括两个过程

3、，一是由学习样本、网络权值从输入层隐含层输出层逐次算出各层节点的输出；二是反过来由计算输出与实际输出偏差构出的误差函数E（），用梯度下降法调节网络权值，即k+1=k+()使误差E(k+1)减小。上式中的为学习速率，即沿负梯度方向的步长。对于BP算法学习速率的选取标准，一些研究者凭经验认为取01之间较合适，但这并无理论依据。实质上，大小的选取对算法的成败起关键作用，步长过大，误差函数值可能发生振荡，甚至出现不收敛，而步长过小，收敛速度又太慢，并且在每一次迭代中，可选步长也不一样。总之，对于BP算法固定的学习速率不可能使网络达到局部极值点。为此，本文引进一维搜索法，在每一次迭代过程中让计算机自动去

4、寻找一个最优的步长，这样可使网络收敛到局部极值点。2 BP算法及其改进2.1 BP算法步骤1°随机抽取初始权值；2°输入学习样本对（Xp,Yp），学习速率，误差水平；3°依次计算各层结点输出opi,opj,opk；4°修正权值k+1=k+pk,其中pk=,k为第k次迭代权变量；5°若误差E<停止，否则转3°。2.2 最优步长k的确定在上面的算法中，学习速率实质上是一个沿负梯度方向的步长因子，在每一次迭代中如何确定一个最优步长k，使其误差值下降最快，则是典型的一维搜索问题，即E(k+kpk)=(k+pk)。令()=E(k+

5、pk)，则()=dE(k+pk)/d=E(k+pk)Tpk。若k为()的极小值点，则(k)=0，即E(k+pk)Tpk=-pTk+1pk=0。确定k的算法步骤如下1°给定0=0,h=0.01,0=0.00001；2°计算(0),若(0)=0,则令k=0，停止计算；3°令h=2h, 1=0+h；4°计算(1)，若(1)=0，则令k=1，停止计算；若(1)>0，则令a=0,b=1；若(1)<0，则令0=1，转3°；5°计算(a)，若(a)=0，则k=a，停止计算；6°计算(b)，若(b)=0，则k=b

6、，停止计算；7°计算(a+b/2),若(a+b/2)=0，则k=a+b/2，停止计算；若(a+b/2)<0,则令a=a+b/2;若(a+b/2)>0，则令b=a+b/28°若a-b<0，则令，k=a+b/2,停止计算，否则转7°。2.3 改进BP算法的特点分析在上述改进的BP算法中，对学习速率的选取不再由用户自己确定，而是在每次迭代过程中让计算机自动寻找最优步长k。而确定k的算法中，首先给定0=0，由定义()=E(k+pk)知，()=dE(k+pk)/d=E(k+pk)Tpk，即(0)=-pTkpk0。若(0)=0，则表明

7、此时下降方向pk为零向量，也即已达到局部极值点，否则必有(0)<0，而对于一维函数()的性质可知，(0)<0则在0=0的局部范围内函数为减函数。故在每一次迭代过程中给0赋初值0是合理的。改进后的BP算法与原BP算法相比有两处变化，即步骤2°中不需给定学习速率的值；另外在每一次修正权值之前，即步骤4°前已计算出最优步长k。 3 实例分析通常流域含沙量与气象、水文要素和下垫面植被状况等多因素关系密切4。本文选取了采伐面积(X1)、采伐量(X2)、降雨量(X3)和年平均径流量(X4)这4个主要因素对流域年均含沙量(Y1)进行了建模预测5。由于采伐面积和

8、采伐量对流域产沙的影响很难在一年后彻底消除，有可能影响到以后的几年甚至几十年流域产沙量。因此，本文认为采伐面积(X1)、采伐量（X2）对流域年均含沙量具有一定的滞后效应。下面对这两个因子X1和X2各取五阶延迟，即采用输入层节点数n=14，输出层节点数m=1，隐含层节点数取r=12的三层BP网络建模。表1中，列举了网络学习过程中由一维搜索法得出的最优迭代步长k的系列值。由于数据量太大，因此间隔性地选取迭代过程中的部分值。从表1可看出，最后得出的k值为0，这说明网络收敛到局部极值点，这一点原BP算法是无法达到的。另外大部分k值不相等，大的为3.1，小的可为0，而且有许多k值大于1，而并不是人们常认

9、为的只能在（0，1）内取值，同时这也说明根本不存在固定的学习速率。表1 网络学习过程中最优步长kValues of k in networks studyingk0.341.50.71.50.11.51.50.31.51.50.10.30.30.280.31.50.11.50.31.51.50.30.11.50.10.30.240.10.10.30.30.10.30.11.51.51.51.51.51.50.30.31.51.50.10.71.50.30.10.30.31.50.251.50.31.50.30.70.10.30.10.30.10.10.10.30.11.50.10.30.31.

10、50.10.31.50.31.51.50.30.11.50.10.30.31.51.50.30.30.30.31.50.30.31.50.10.30.30.30.30.30.30.30.30.71.50.31.50.30.30.30.31.51.50.10.10.10.31.51.51.50.71.50.30.10.30.31.51.53.10.31.51.51.50.10.10.31.50.11.50.30.30.30.31.51.50.30.10.30.31.51.50.31.50.30.10.30.11.50.30.11.50.30.70.30.10.71.50.30.70.10.30.

11、10.30.10.30.10.30.30.30.10.30.30.30.31.51.50.30.31.50.30.31.50.30.30.31.50.10.30.31.50.30.30.10.30.11.50.30.10.30.10.30.30.30.30.11.51.51.50.70.10.10.30.30.30.10.10.10.30.10.11.50.31.50.10.30.10.31.50.30.10.31.51.51.50.30.30.30.31.50.30.30.31.50.70.70.30.10.70.30表2给出了改进BP模型模拟预测的结果。其中前10组为拟合误差，后3组为预测

12、误差。从中可看出，改进的BP算法对流域年均含沙量进行多因素建模预测时拟合精度高，预测效果也较好，预测误差依次为0.09%、3.79%、17.78%。表2 改进BP模型模拟预测结果Simulation and prediction results of improved BP model样本序号实测值计算值绝对误差相对误差(%)样本序号实测值计算值绝对误差相对误差(%)15.035.0300.0000323.553.5500.00010332.722.7200.00001844.054.0500.00008853.223.2200.0000762.652.6500.00042871.911.9100.00066783.003.0000.00020591.311.3100.000076102.332.3300.000025113.553.5500.086938123.353.220.1273.789662132.552.100.44617.47964 结论本文对BP算法进行了改进，即引入一维搜索法解决学习速率的选取问题；改进后的BP算法可以使网络收敛到局部极值点，并提高算法