模糊系统的梯度下降法设计.doc

如何用梯度下降法设计模糊控制系统主要讲模糊系统结构的选择、模糊系统参数的设计和在非线性动态系统辨识中的应用。在向量微积分中,标量场的梯度是一个向量场。标量场中某一点上的梯度指向标量场增长最快的方向,梯度的长度是这个最大的变化率。更严格的说,从欧几里得空间到的函数的梯度是在某一点最佳的线性近似。在这个意义上,梯度是雅可比矩阵的一个特殊情况。 在单变量的实值函数的情况,梯度只是导数,或者,对于一个线性函数,也就是线的斜率。用于斜度,也就是一个曲面沿着给定方向的倾斜程度,梯度的数值有时也被称为梯度。梯度下降法又称最速下降法。函数在某点的梯度是一个向量,其方向是J(a)增长最快的方向。显然,负梯度方向是减少最快的方向。在梯度下降法中,求某函数极大值时,沿着梯度方向走,可以最快达到极大点；反之,沿着负梯度方向走,则最快地达到极小点。梯度下降法,就是利用负梯度方向来决定每次迭代的新的搜索方向,使得每次迭代能使待优化的目标函数逐步减小。梯度下降法是2范数下的最速下降法。 最速下降法的一种简单形式是：x(k+1)=x(k)-a*g(k),其中a称为学习速率,可以是较小的常数。 g（k）是x(k)的梯度。直观的说,就是在一个有中心的等值线中,从初始值开始,每次沿着垂直等值线方向移动一个小的距离,最终收敛在中心。 对于某一个性能指数,我们能够运用梯度下降法,使这个指数降到最小。若该指数为均方误差,我们便得到了最小均方误差（LMS）算法求函数J(a)极小值的问题,可以选择任意初始点a0,从a0出发沿着负梯度方向走,可使得J(a)下降最快。：点a0的搜索方向。前馈控制是一种预测控制,通过对系统当前工作状态的了解,预测出下一阶段系统的运行状况。如果与参考值有偏差,那么就提前给出控制信号,使干扰获得补偿,稳定输出,消除误差。前馈的缺点是在使用时需要对系统有精确的了解,只有了解了系统模型才能有针对性的给出预测补偿。但在实际工程中,并不是所有的干扰都是可测的,并不是所有的对象都是可得到精确模型的,而且大多数控制对象在运行的同时自身的结构也在发生变化。所以仅用前馈并不能达到良好的控制品质。这时就需要加入反馈,反馈的特点是根据偏差来决定控制输入,不管对象的模型如何,也不管外界的干扰如何,只要有偏差,就根据偏差进行纠正,可以有效的消除稳态误差。解决前馈不能控制的不可测干扰。模糊系统的两种设计方法：1、首先由输入- 输出数据对产生模糊规则,然后根据这些规则和选定的模糊推理机、模糊器、解模糊器来构造模糊系统；2、首先描述控制系统的结构,然后允许模糊系统结构中的一些参数自由变化,最后根据输入-输出数据对确定这些自由参数。这里釆用第二种方法。模糊控制系统的结构：带有乘积推理机,单值模糊器,中心平均解模糊器和高斯隶属度函数的模糊系统。假设所要设计的模糊系统为： （13.1）其中,是固定不变的,和是自由变化的参数（令）。使用该方法设计模糊控制系统的核心问题是：确定这些自由参数。（1）、首先,设计模糊系统的结构把（13.1）中的模糊系统表述为一个前馈网络,有助于以某种最优的方式确定这些参数。具体来讲,从输入到输出的映射可以根据下面的运算得到：首先,输入通过一个乘积高斯算子而变成了: （1）然后再通过一个求和运算和一个加权求和运算得到和；最后计算模糊系统的输出（个模糊集的中心的加权平均）图13.1模糊系统的网络示意图2、模糊系统参数的设计假设数据是由（12.1）式（）给定的输入输出数据对： （12.1）其中,。任务是设计一个形如（13.1）的模糊系统,使得下面的拟合误差最小 （2）通过输入-输出数据对确定模糊系统的3个自由参数使（2）最小,接下来分别用来表示。下面用梯度下降法来确定参数：具体的讲：就是用下面的算法来确定 （3）式中,为定步长。如果趋于无穷时,收敛,则由式（3）可知,在收敛的处有,这表明收敛点是的一个局部极小点。由图13.1可知,（于是亦如此）仅通过依赖于依赖于,其中,；因此,根据复合函数求导规则,有 （4）把（4）代入（3）,即可得的学习算法为 （5）用下式确定 （6）式中,。由图13.1可知,（于是亦如此）仅通过依赖于,所以根据复合函数求导法则有 （7）把式（7）代入式（6）,可得的学习算法为 （8）用同样的步骤,可得的学习算法为 （9）通过上面（5）,（8）和（9）三个公式得到的学习算法,完成的是一个误差反向传播程序。总结用梯度下降法设计模糊系统。步骤1：结构的确定和初始参数的设置。选择前面所述的模糊系统并确定（模糊集的个数）。越大,产生的参数越多,运算越复杂,但给出的逼近精度越高。这些初始参数可能是根据专家的语言规则确定的,也可能是由均匀地覆盖输入输出空间的相应的隶属度函数确定。步骤2：给出输入数据并计算模糊系统的输出：对于给定的输入输出数据对在学习的第阶段,把输入作为13.1模糊系统的输入层,然后计算第一层到第三层的输出。即 （10） （11） （12） （13）步骤3：调整参数。采用学习算法（5）,（8）和（9）计算要调整的参数,其中,都等于步骤2中算出的。步骤4：令返回步骤2重新计算,直至误差小于一个很小的数,或直至等于一个预先指定的。步骤5： 令,返回步骤2重新计算。即,用一个输入输出数据对来调整参数。步骤6：如果有必要的话,令,并重新计算步骤2步骤5,直至所设计的模糊系统令人满意。对于在线性控制和动态系统辨识的问题,这一步是不可行的,因为该问题给出的输入输出数据对是以实时方式一一对应的；而对于模式识别问题,因为其输入输出数据时离线的,所以通常这一步是可行的。因为学习算法（5）,（8）和（9）属于梯度下降法,所以初始参数的选择对于算法的成功是很关键的。如果所选择的初始参数所接近于最优参数,则算法就很可能收敛于最优解；否则,算法可能收敛于一个非最优解甚至不收敛。使用模糊系统的优点在于,有办法来选择较好的初始参数。要记住,参数是规则的部分的模糊集的中心,而参数和是规则部分的高斯模糊集的中心和宽度。因此,如果给定一个形如（13.1）的模糊系统,则,和的物理意义不仅可以用来修复构造模糊系统的模糊规则,而且还可以有助于以一种用户友好的方式解释所设计的模糊系统3、在非线性动态系统辨识中的应用（1）辨识器的设计系统辨识是根据传感器测量结果确定一个合适的系统模型的过程。这一过程所以重要,是因为工程中的许多方法都依赖于系统模型。由于模糊系统是一种强有力的万能逼近器,所以把它作为非线性系统的辨识模型是合适的。现在考虑带有学习算法（5）、（8）和（9）的模糊系统（13.1）来逼近动态系统中未知的非线性部分动态的特性。考虑如下离散时间非线性动态系统： （14）式中,是一个要辨识的未知函数,和分别是系统的输入和输出,和是正整数。任务是根据模糊系统辨识未知函数。令,用取代（14）中的,于是可得下面的辨识模型： （15）任务是调整中的参数,使得当趋于无穷时,辨识模型的输出收敛于真实系统的输出。图13.2给出了这一辨识方案图13.2 采用模糊系统建立非线性动态系统的辨识模型的基本方案该问题的输入输出数据对是,其中因为系统是动态的,所以这些输入输出数据对可以在某一时刻聚到一起。辨识过程的运算同上一部分的步骤1步骤5是一样的,只不过13.2节中的在这里是式中的,在这里等于。（2）初始参数的选择一个好的对于梯度下降法的成功是很关键的。对于这类特殊的辨识问题,提出以下方法来在线选择初始参数,并提供一个理论上的证明来解释这是一个好方法。在线初始参数选择方法：针对最初个时刻点收集输入输出数据对,当时（即令式（5）,式（8）和式（9）中的）开始此学习算法。设初始参数为是很小的数（见下面引理）或设,其中。设定的第二种方法是令隶属度函数均匀地覆盖由至的所有区域。现在要证明的是,只要的取值足够小,具有上述初始参数的模糊系统就能将所有对输入输出数据对拟合到任意精度。引理13.1 对于任意,都存在,使得形如（13.1）的模糊系统（具有上述参数,和）,在时,具有如下性质 （16）证明：把初始参数,代入（13.1）并令 可得 （17） 令式（17）中的,并由,可得 （18） （19）如果,则当