多容水箱小波神经网络预测控制查——工学硕士学位论文

工学硕士学位论文多容水箱小波神经网络广义预测控制余杉钰哈尔滨理工大学2014年3月国内图书分类号TP183工学硕士学位论文多容水箱小波神经网络广义预测控制硕士研究生余杉钰导师宋清昆申请学位级别工学硕士学科、专业检测技术与自动化装置所在单位自动化学院答辩日期2014年3月授予学位单位哈尔滨理工大学CLASSIFIEDINDEXTP183DISSERTATIONFORTHEMASTERDEGREEINENGINEERINGWAVELETNEURALNETWORKGENERALIZEDPREDICTIVECONTROLINMORETANKSSYSTEMCANDIDATEYUSHANYUSUPERVISORSONGQINGKUNACADEMICDEGREEAPPLIEDFORMASTEROFENGINEERINGSPECIALTYDETECTIONTECHNOLOGYWAVELETNEURALNETWORKGENERALIZEDPREDICTIVECONTROLFUZZYFEEDFORWARDDECOUPLING哈尔滨理工大学工学硕士学位论文III目录摘要IABSTRACTII1绪论111多容水箱系统的研究情况概述1111研究多容水箱系统的意义1112国内外水箱液位系统的研究现状212预测控制的发展及现状3121预测控制的发展概述3122预测控制的特点413现代预测控制及研究方向5131先进预测控制技术及其研究方向5132智能预测控制策略及研究方向6133多种新型预测控制的研究方向7本文研究内容72小波神经网络理论921常用小波函数与小波神经网络概况9211几种常用的小波函数介绍及仿真9212小波神经网络的优点及存在的问题1222小波神经网络的构造理论基础13221连续小波变换构造小波神经网络14222正交小波变换构造小波神经网络14223小波框架构造小波神经网络1523小波神经网络常用学习算法16231梯度算法17232变尺度算法19233最小二乘算法19本章小结213小波神经网络广义预测控制2231广义预测控制理论22311广义预测控制算法的实现22哈尔滨理工大学工学硕士学位论文IV32广义预测控制方法的参数选择26321采样周期T的选取26322预测时域长度P的选取27323控制时域长度M的选取28324误差加权阵Q和控制加权阵的选取29325柔化系数R的选取2933基于小波神经网络的广义预测控制算法的实现30331基于BP学习算法的小波神经网络30332基于小波神经网络的广义预测控制算法3334在二容水箱中的应用仿真38341二容水箱的数学模型38342二容水箱的仿真控制39本章小结404带有模糊解耦的小波神经网络广义预测控制在四容水箱中的应用4141模糊解耦理论41411模糊解耦原理4142四容水箱的模型及其辨识45421四容水箱的数学模型45422小波神经网络用于模型辨识的仿真研究4643四容水箱液位控制的仿真47431对四容水箱的仿真结果47本章小结49结论50参考文献51攻读学位期间发表的学术论文54致谢55哈尔滨理工大学工学硕士学位论文11绪论11多容水箱系统的研究情况概述111研究多容水箱系统的意义随着现代科学技术的飞速发展，现代化工业生产对自动化技术的要求也在不断提高，为满足现代化工业生产的需求，自动化技术也在不断地创新发展。生产过程大型化和精细化成为现代工业发展的趋势，而且为得到良好的经济效益和社会效益对系统性能的要求也越来越高。然而，由于现在的理论研究不够成熟，而导致新的理论在运用到生产实践中出现参差不齐的实际问题，导致新的理论研究在生产实践的应用上长生了很大的阻力，使得新的理论研究成果与生产实践难以同步，甚至有一些还相差几十年。而且常常一些最先进的自动化控制理论，它的研究竟局限于一些少数的研究所，脱离了现实的社会生产应用。导致这一现象的原因是多样的，最主要的是理论研究脱离了实际生产的需要，从而制约了理论的广泛应用。对于这一现象，可不可以找到一种具有典型特性的实验装置非常重要。在现代工业生产过程中，人们为追求更大的经济利益，对过程控制系统的性能要求不断的提高。现代的工业生产过程中，生产规模的不断扩大，对产品质量要求的逐渐提高，导致控制系统的被控对象具有多变量、强耦合的特性，非线性、大时滞也就成为了影响控制系统的不确定性因素，这些被控对象在生产上难以实现，对研究人员的工作带来了很多的不便。在过程控制的工程领域，多容水箱系统是一种模拟工业生产过程中多种复杂控制的控制系统。这一实验装置不但融合了自动化仪表、自动控制以及通信技术等多种技术，它还包含了液位、流量、温度等被控参数。多容水箱是一种典型的非线性、时延性控制对象，该装置不但可以实现滞后控制及解耦控制等，还可以实现一些简单的参数辨识、比值控制、串级控制、单回路控制等。在现代过程控制领域，它具有很强的代表性，工业上许多被控对象都可以抽象的看成多容水箱的模型。因此，对多容水箱的研究有着重要的意义。哈尔滨理工大学工学硕士学位论文2112国内外水箱液位系统的研究现状多容水箱控制系统是一种非常典型的教学实验装置，在自动控制和化工过程控制领域中运用非常广泛，在国内外都得到了广泛的应用。它不但可以作被控对象为液位、温度等过程控制的实验设备用于教学试验，还可以用于非线性和故障诊断等科研项目研究。在多容水箱系统生产方面，德国的自动化公司就是国外知名的生AMIRA产厂商之一。该公司生产的三容水箱系统在国内外很多大学和实验室得到了广泛推广，但由于其价格昂贵，国内的大部分高校受经济条件约束、环境因素等的影响，使得引进这个实验装置带来了诸多不便，最终不能实现设备的购置，而只有少数的知名高校如清华大学、浙江大学引进来该设备。因此，由于这一现实问题，很大程度上限制了国内各大高校基于三容水箱系统的相关理论研究和仿真。当然，国内也有许多相应的生产厂家对三容水箱系统的专门研制和生产，比如现国内市场上比较有名的系列和系列的水箱液位控制实验CWTHJX装置。其中系列是由学校与企业联合研发出来的，其中学校就是香港城CT市大学，而企业是深圳的固高科技有限公司。香港城市大学历经三年的实践检验，证实了该系统所具有教学、研究和实验的潜在价值，并证实经相互合作研制出的三容水箱控制系统是一种典型的过程控制系统。在经典的控制教学实验方面，该实验装置不但为用户提供上位机软件系统，而且还利用该系统引入经典的控制器进行相关参数的调试和设计。该系统还能根据个人PID意愿进行相关的拓展，如想在先进控制系统上做设计实验和研究时，想通过模糊逻辑控制的设计和调试来达到对智能控制的教学实验和研究，就可以在原有的软件基础上引进模糊控制器进行相关的扩展。该控制系统有精确的液位传感器，对水位能够精确的检测出来，可以随时获得瞬态响应的参数，因此可以通过水位的变化反应出各种控制器的控制效果，并且能够准确的评估出控制性能。国内另一套有名的实验装置是由天煌科技实业有限公司开发研制的，目前其公司生产的、和型号是先国内高校最常THJ2J3THJ4用的。系列的实验装置不但为国内各大高校的过程控制课程提供了实THJX验装置，也为社会各界的研究生和科研人员提供了物理模拟对象和实验手段，为复杂控制系统和先进控制系统的科研项目研究提供了便利。可见，这些实验装置为各界用户提供了开放的控制试验平台，为用户对控制器的掌握和设计带来了便利，满足了当今社会的创新型研究的需求。哈尔滨理工大学工学硕士学位论文3针对多容水箱系统的大惯性、非线性、延时性和强耦合性的特性，在研究控制策略方面，主要是集中在复杂控制算法的研究上，如现代预测控制、智能控制和自适应控制等。该系统是一典型的非线性复杂控制系统，它还具有非线性耦合特性，也为解耦控制策略的研究提供了控制对象。12预测控制的发展及现状121预测控制的发展概述在20世纪70年代中后期，随着计算机技术的不断更新发展，在欧美工业领域内相继出现了一类新型的计算机控制算法，它是一种以模型为基础的先进控制技术，称其为预测控制，也叫模型预测控制。这种算法产生的背景、机理与应用效果的最初提出，是在1978年等人以论文的形式提出的。RICHALET预测控制的主要特点是为了制约受控对象建模误差和结构、参数与环境等不稳定性因素的影响，系统基于预测模型，运用二次在线滚动优化性能指标和反馈校正的手段，有效的改善现代控制理论对复杂受控对象存在的客观不足之处，有效的提高了系统的稳定性。虽然预测控制的算法种类繁多，且早在初期发展阶段就已经提出了很多种，但依照预测控制的基本结构模式来化分，大致可归纳为如下三类第一类，以非参数模型为预测模型的预测控制算法如CUTLER等人提出的动态矩阵控制和等人提出的模型算法控制，而这两种控制分别是ROUHANI在有限阶跃响应模型和有限脉冲响应模型的基础上提出的。这类非参数模型的优点是其建模十分便捷，在建模的时候无需考虑模型自身的结构与阶次，只需测试受控对象的阶跃响应或脉冲响应就可获得模型，因此相应系统的纯滞也后必然包括在响应值中，而对于动态响应不规则的受控对象的表示就比较容易。正因为具有这一突出优点，目前这类非线性模型得到了比较广泛应用，如商品化的预测控制软件包采用的就是这一类模型。如常用的SELL石油公司的QDMC和公司的IDCOM软件包等就这一类模型的应用，但SETPOIN其也存在着不足，如其只能适用于开环自稳定对象，局限性比较大，不适用时间常数较大的对象，因为此时会导致模型的参数增加，并且计算量也会增大。第二类，与经典自适应控制相结合的一类长程预测控制算法这一类预哈尔滨理工大学工学硕士学位论文4测控制算法有好几种不同的结构和性能，分别有提出的广义预测控制；CLARKE由等人提出的广义预测极点配置控制；由提出的扩展时域自适应LELICYDSTI控制；和提出的扩展时域预测自适应控制。这一类预测控制算法不DKYSER仅适用于时滞而且适用于非最小相位对象，因为它不但以长时段多步优化取代了经典最小方差控制中的一步预测优化，而且是以辨识模型为基础兼有自校正的预测控制算法，提升了控制系统的性能和模型失配的鲁棒性。第二类，基于结构设计不同的另一类预测控制算法这一类算法比较独特，因它是从其构造的结构上进行研究的一类预测控制。比较典型的有以下几种，分别为等人构造的基于状态空间的模型，等人提出的KWONBROSILW推理控制和等提出的内模控制。GARCI122预测控制的特点从预测控制算法的发展历程可以看出，预测控制算法不但种类繁多，表表示形式也是多种多样。但细心的归纳总结不难发现，预测控制的任何算法形式都离不开以下几个方面分别为预测模型、参考轨迹、在线校正、目标函数为性能指标和在线滚动优化等五个方面，以及以下归纳的几个特征首先是预测模型的多样性。因为在预测控制中，我们注重的是模型功能而不是结构，只要控对象模型具有预测功能，都可以认为是预测模型。由于预测控制算法的运用，决定了预测模型的功能，因此，预测控制算法的多种多样，也致使是预测模型的多样性。其次是滚动优化的时变性。预测控制采用的不是常规的全局优化目标，滚动优化策略。滚动优化不是一次性离线运算，而是对时变不确定性局域优化目标函数不断更新，反复的在线运行，调整修正目标函数，使系统达到满意的控制效果。滚动优化策略的这种时变性，虽然某一时刻得到的只是全局的次优解，但是它却能够及时的修正系统由于时变、干扰和模型失配等引起的不稳定性。确保系统优化的实际效果和稳定性。三是在线校正的鲁棒性。由于预测模型对被控对象描述的不精确性，而实际系统却一般存在模型失配、时变性、非线性和随机干扰等因素。导致预测模型的输出与实际系统输出之间存在偏差，为解决这一问题，采用在线校正修正偏差，而且系统形成了负反馈回路，提高了系统的鲁棒性。现代的工业控制多是复杂系统控制，而复杂系统控制存在不确定性与时变性，有上述的三个特点可知，预测控制更加满足现代工业控制的实际情况。哈尔滨理工大学工学硕士学位论文5更体现出了预测控制在复杂控制系统领域的重要性，也是预测控制为何在在复杂系统的控制上得到广泛应用的根本原因。13现代预测控制及研究方向随着现代科学技术的不断发展，现代工业生产的控制对象不断增加，对控制效果的要求也不断的提高，为适应这一发展现象，预测控制的研究和发展也在不断提升。目前对预测控制的研究已经突破了早期的单调的算法研究模式，进入了不同的先进控制算法与预测控制相结合的一类新型先进预测控制策略的研究。伴随着现代智能控制技术的出现和发展，也就有了智能控制理论与预测控制相结合而产生的智能预测控制。在预测控制研究上不断的创新改进，使预测控制对具有复杂任务、复杂环境和复杂对象的复杂控制系统的控制能力得到提升，开拓了预测控制的应用领域，更能适应现代工业生产控制的需求。131先进预测控制技术及其研究方向先进预测控制技术是一种新型发展的预测控制算法，是基于预测控制最初研究成果的丰富经验和各种现代新兴发展的先进控制策略相融合产生的。1、极点配置预测控制，是由先进控制策略极点配置与预测控制相结合构成的。由于预测控制采用的是在线反馈校正和滚动优化，所以预测控制系统的多个可调参数的选取影响着闭环系统的特征多项式的零、极点位置，但两者又没有什么明显的定量关系。因此，要想控制系统的控制效果和控制性能良好，对系统参数的选择设计非常重要，选择不当还可能影响系统的稳定性。2、解耦预测控制，它的研究的对象多是一些大时滞、非线性、强耦合的多变量系统。而这种预测控制系统的控制参数就比较繁多，为简化这一系统的预测控制参数，降低系统的最优性能，在预测控制的基础上引入了解耦控制理论，形成了一类新的预测控制算法，称这一类预测控制算法为解耦预测控制。这一类相关的理论分别有基于解耦理论的多变量DMC设计方法和广义预测模糊控制等。3、前馈补偿预测控制前馈补偿预测控制系统目前主要有在预测控制系统中，引入前馈补偿器、构成前馈通道，来抑制扰动的具有扰动前馈补偿功能的预测控制算法；哈尔滨理工大学工学硕士学位论文6用前馈补偿器实现系统解耦的前馈解耦广义预测控制算法。4、自适应预测控制，是由自适应控制理论与预测控制相结合而构成的一类新型预测控制算法。由于它是基于预测控制应用自适应控制理论构成的，根据自适应控制理论选取的算法、模型和控制效果的不同，从而使构成的自适应预测控制有着多种不同的方法。如自适应控制可选择的算法和模型就有自适应SIORHC算法、自适应CRHPC算法、广义受控自回归滑动平均模型、状态空间模型、和模型等。15、鲁棒预测控制，是以预测控制引入鲁棒控制的一些方法组合构成的。目前这一类预测控制有鲁棒内模控制算法；和以提高结构型建模误差的鲁棒性为目标，而提出的鲁棒预测控制，它是鲁棒预测控制研究中应用最多的方法之一。如上述介绍的类似，通过对各类现代先进控制与预测控制相结合，而构成一类新型的先进预测控制算法还有很多，这里就不一一列举。上述介绍的是一些常用常见的类型。132智能预测控制策略及研究方向针对复杂的控制系统，为解决这一系统的复杂带来的种种问题，学者们构思出了一种新型的预测控制系统，称其为智能预测控制系统。它是通过采用常规的预测控制算法与某种智能控制策略相结合形成的，它不但兼具了两者的优点，还弥补了相互的不足。因此，它继承了智能控制和预测控制的优点，不但弥补了常规预测控制算法在性能上精度不高的缺点，还解决了常规预测控制算法只能应用于线性系统，鲁棒性不好，缺乏自学习、自组织功能等问题。它满足了现代工业控制日益提高的控制性能要求，因此在工业控制上得到了广泛应用。目前这类应用在复杂控制系统上的智能预测控制，吸引学者研究兴趣的组合结构主要有以下两方面，分别为建立智能型预测模型和高层采用智能控制策略，低层为预测控制算法的多层结构控制系统。目前这类对复杂控制系统能够有效控制的智能预测控制，常用的主要有以下几种一、神经网络预测控制。在复杂控制系统的应用中，通过采用预测控制算法和神经网络理论相结合而形成的一类新型预测算法，我们称这一类新型预测控制为神经网络预测控制。目前这类新型预测控制的方法研究主要有两方面首先，是针对一些具有非线性、强耦合的复杂系统问题，提出的基于神经网络解耦的多变量系统广义预测控制。另一方面，是利用神经网络具有哈尔滨理工大学工学硕士学位论文7的大规模并行、分布式处理、自组织、自学习和对任意复杂非线性函数充分逼近等特殊能力建立神经网络辨识模型，并将其作为预测模型，进一步提高了预测模型的准确性。二、模糊预测控制。在复杂控制系统的应用中，提出的基于预测控制算法的基础上引入模糊控制原理，我们称这一类预测控制为模糊预测控制。如基于广义预测控制算法的基础上，引用智能控制系统的多层结构特点，在系统的高层结构上引进模糊控制器，通过利用多变量模糊控制器的结构解耦控制原理，不但减少了预测控制系统的控制时域长度，也减少了预测控制系统的计算时间，提高了控制系统的实时性和鲁棒性，而且通过模糊控制的自身调节能力，使控制系统具有较好的自学习能力和适应性。此外，新提出的一种基于模糊辨识模型的多变量预测控制方法，它是通过将模糊控制的模糊辨识和广义预测控制相结合形成的。一种含有预测功能的参数自寻优模糊控制，它是以预测模型对系统的控制效果进行实时预报，应用模糊控制理论的模糊决策方法实现在线修正的模糊预测控制算法，在一些特殊的情况下也可以实现同时在线修正预测模型。133多种新型预测控制的研究方向目前，学者们除了致力于上述提及的先进预测控制和智能预测控制的研究以外，还对其他新型预测控制系统如预测函数控制、多速率采样预测控制等多种新型的预测控制理论与应用的研究很感兴趣。目前我国学者们在这些新型预测控制的研究探索也取得不俗的科研成果。14本文研究内容基于小波神经网络而构造出来的广义预测控制，这一预测控制兼备了小波神经网络与广义预测控制的各自优点。在复杂控制系统的应用中，有着其自身具有的优越性和广泛的应用能力。主要的研究内容可分为如下几个部分第一章，简明的叙述了多容水箱系统的研究意义，及现今在国内外研究的现状。并且简要的描述了预测控制的发展现状及其具备的特点，对现代预测控制及其发展方向也作了简要的概述。第二章，简略的介绍常用的小波函数及小波神经网络的特点，研究小波神经网络的几种构造理论，在小波神经网络训练算法上，介绍几种常用的学哈尔滨理工大学工学硕士学位论文8习算法理论。第三章，研究广义预测控制的基础理论，确定小波神经网络的学习算法，并进行了相应的推到。进一步推导出基于小波神经网络的广义预测控制算法，并将推到出的控制理论应用到二容水箱液位控制系统上，并进行仿真研究。第四章，简要的介绍了解耦控制的概况和解耦的作用，描述四容水箱液位控制系统的结构。综合解耦控制和模糊控制两理论，对四容水箱液位控制系统进行解耦设计。将设计好的解耦控制器应用到四容水箱液位控制系统上，并在解耦后进行相关控制研究和仿真研究。哈尔滨理工大学工学硕士学位论文92小波神经网络理论对于信号分解和重构方面，小波分析更优于傅立叶分析，它克服了傅立叶分析中的不足，不但具有良好的时频域局部优化特性，而且还能有效的提取信号中的局部信息。而对于没有一个通用的模式与方法的非线性系统的建模和优化来说，神经网络就能解决这一问题，被广泛地应用与非线性系统中。因为神经网络是一类通用的函数逼近器，具有良好的自组织学习能力、自适应性、非线性和容错性等优点。但是神经网络也存在一些缺点，导致应用过程中面临着一些问题，如对神经网络的网络结构设计的盲目性，还有训练数据时系统参数收敛速度慢、系统参数选择容易陷入局部极小点和出现过拟合等问题。在这样的理论背景下，人们为寻找一种新的理论方法来更好的解决问题，因此就产生了小波神经网络。在20世纪90年代初期，学者们提出了小波神经网络这一新的算法理论研究，小波神经网络（WAVELETNEURALNETWORK,简称），它是在小波分析WN与神经网络的理论研究发展基础上提出的，是小波分析理论和神经网络结合的前馈型神经网络，将小波分析理论的一些概念和方法引入到神经网络中，不但兼备了小波分析理论和神经网络两者的优点，而且更好的弥补了常规神经网络的缺点，在不同领域的应用上有着更大的优势。与常规神经网络相比，小波神经网络的收敛速度快、学习算法简便，而且网络参数的物理意义也更加明确，消除了网络局部极小点的出现，为神经网络的研究带来了新的思路、方向和方法。21常用小波函数与小波神经网络211几种常用的小波函数介绍及仿真1HAAR小波HAAR小波函数是一个正交小波函数，是一分段且不是连续可微的函数。是所有已知小波函数中最简单的一个小波函数，同时也是最早用到的一个正交小波函数。由于该函数的特性，应用比较有限，一般多用于原理说明或示意。哈尔滨理工大学工学硕士学位论文10211,02,HX其他2MORLET小波由于小波具有良好的时频域特性，在对复数信号的分解处理和时MORLET频分析上经常被应用，它的数学函数表达式为，另外，2/751COSXEXF在允许条件上小波是有缺陷的，因为它是不满足允许条件的，只有在LT当时，才能被看成近似的满足允许条件。其函数波形如图21所示。50小波的导数函数表达式ORLET22751SIN751COS2/2/XEXXEFX其函数波形如图22所示2521510500511522504020020406081XEXP1/2X2COS7/4XFX321012315105005115XXEXP1/2X2COS7/4X7/4EXP1/2X2SIN7/4XFX图21MORLET小波函数波形图图22MORLET小波导数函数波形图FIG21WAVEFORMFIGUREOFMORLETWAVELETFIG22WAVEFORMFIGUREOFDERIVATIVEOFMORLETWAVELET3MEXIHAT小波小波函数又叫小波函数，是因为它的函数图像很像墨西哥MEXIHATMAR草帽而得名的，小波函数是由高斯函数的二阶导数取反得出的，其EXIHT函数表达式为。小波具备允许条件的要2/186730XEFIHAT求。当时，小波的时频局域特性良好，但是它不具备正交性。0IT由于其具有的独特特性，在图像边缘提取、基音检测和视觉分析等计算机视觉领域中得到了广泛的应用。图23为其函数波形。对小波函数求导MEXIT哈尔滨理工大学工学硕士学位论文11可得表达式232/22/8673073461XXEEXF其函数波形如图24所示。43210123404020020406081X8673/100008673/10000X2EXP1/2X2FX43210123415105005115X8673/100008673/10000X2XEXP1/2X2FX图23MEXIHAT小波波形图图24MEXIHAT小波导数波形图FIG23WAVEFORMFIGUREOFMEXIHATFIG24WAVEFORMFIGUREOFDERIVATIVEWAVELETOFMEXIHATWAVELET4DOG小波DOGDIFFERENCEOFGAUSSIAN小波函数是由两个尺度差值为一倍的高斯函数相减所得，其函数表达式表示为。不论是在时域或8/2/250XXEF者是频域中，它都具有很好的局部特性。函数的仿真波形如图25所示。对小波函数一阶求导可得出函数表达式DOG248/2/21XXEF一阶求导后的函数仿真波形如图26所示。54321012345020100102030405XEXP1/2X21/2EXP1/8X2FX6420246050403020100102030405XXEXP1/2X21/8XEXP1/8X2FX图25DOG小波波形图图26DOG小波导数波形图FIG28WAVEFORMFIGUREOFDOGWAVELETFIG29WAVEFORMFIGUREOFDERIVATIVEOF哈尔滨理工大学工学硕士学位论文12DOGWAVELET212小波神经网络的优点及存在的问题1、小波神经网络的优点小波神经网络与常规人工神经网络相比较，小波神经网络有着更多的优势，因为小波神经网络是集小波分析理论和人工神经网络两者优点于一身的新型前馈神经网络。它不但具备神经网络的自身特性，也还具备了小波分析的特点，在某些领域上应用就有了更大的优势，所以理论上它就有可能解决常规人工神经网络存在的一些问题。从两者出发综合分析，可以得出小波神经网络优于常规前馈神经网络，具体有如下几点第一，小波神经网络可以以不同的精度要求去逼近任意非线性函数，它有很强的学习能力、非线性逼近能力等优点。因为神经网络采用了小波函数代替激励函数，使网络的逼近能力和收敛速度得到了更大的提高，更好的初始化网络，而且更好的改进了神经网络的实时性能。第二，在网络的数据训练过程中为更好地避免出现网络局部极小等非线性优化的问题出现，可以选择采用正交型小波基，并且在确定学习目标函数和网络权系数线性分布时进行相应的特殊考虑。第三，从小波神经网络的发展历程可以看出，现今的小波神经网络理论发展的非常完善。不管是连续型小波还是离散化的正交基或小波框架，为能够保证以任意精度去逼近属于空间内的任意函数，必须2LR在上有稠密的线性组合。第四，为确定离散小波神经元的选择以及整个2LR网络结构的选择上提供了很好的理论基础。2、小波神经网络存在的问题上面描述了许多的小波神经网络相对常规神经网络的优点，这些优点很好的弥补了一些常规神经网络的不足之处。虽然这些优点对使小波神经网络有了很大的优势，但它也有很多地方需要改进，如以下几条一、离散正交小波神经网络因输入信号的维数多而导致的问题，俗称这一问题为“维数灾”，和系统的复杂性问题都须要进一步的改善。二、由于欠缺对小波神经网络参数初始化的理论研究，所以缺少相关的初始化理论依据，而且连续型小波神经网络在对参数初始值的选取上要求很高。三、还有一些理论如计算复杂度、推广能力、鲁棒性、收敛性等，对于小波神经网络理论来说还须要更深层次的研究。哈尔滨理工大学工学硕士学位论文1322小波神经网络的构造理论基础由小波神经网络理论研究发展的历程可知，其主要特点就是神经网络和小波分析理论组合形成它，从两者组合结构形式上划分可分为以下两类第一类为小波变换与神经网络的结合。小波变换与神经网络的结合是指网络系统由神经网络和小波变换松散形式构成，我们称这种构造形式为松散型结合。这种结合是小波分析通过将构成的小波基与信号的内积进行加权，为神经网络完成数据分类、函数逼近等功能进行前处理，实现了对信号的特征提取，为神经网络提供了输入向量。结构框图如图27所示小波变换常规神经网络输入输出图27小波变换与神经网络松散型结合结构框图第二类为小波变换与神经网络的融合。小波变换与神经网络的融合是目前小波神经网络研究最常用的结构组合形式，我们称这种构造组合形式为紧密型结合。它是由小波分析的尺度参数替代神经网络输入层到隐含层的权值系数、平移参数替代常规神经网络隐含层阈值，也就是用小波函数来替代常规神经网络各隐含层节点上的激励函数。组合结构图如图28所示1GX2X3GX3FX2FX1FX1X2X3X图28小波变换与神经网络紧密型结合结构模型图哈尔滨理工大学工学硕士学位论文14综上所述，由紧密型结合形式可知，小波神经网络的构造的形式主要分为以下几种，其可分为正交小波变换、小波框架和连续小波变换等与常规神经网络进行相应组合的形式。由于其选择的小波函数和构造形式的不同，也就决定了小波神经网络构造理论的复杂性和多样性。221连续小波变换构造小波神经网络理论连续小波变换构造小波神经网络这一形式是最早提出的，并且也得到了相关方面的采用。若采用函数为图28中的1PJIJJJJIXBGAXBA基函数，且其中，网络输出函数为，其1JHHIJJFCG1IQ中，可以采用同一种算法修正网络1JJPJADIAG11JJPJBAB学习中的参数和输出权值。,IJIJC连续小波变换与常规神经网络组合构造的小波神经网络，其基函数采用的是连续型小波变换，因此基函数的定位得到了拓展，不在限制于有限的离散值上获得。采用小波变换代替激励函数，不但提高了网络参数和网络结构的初始化能力，还使网络的收敛速度和函数逼近能力得到提升。但是，目前在各领域应用的不多，是因为小波参数与基函数之间的对应关系不能完全确定，主要是连续性导致网络的构造不易实现所致。222正交小波变换构造小波神经网络理论采用正交小波函数，取2,MNTTN正交基是空间中的一组。对空间的分析，可得以下2MLRWLR2LR闭合子空间，且，1012V2MMVSPANTK，其中对应小波的尺度函数为。对输出函数在空间1MMVTF中进行分解如下式2LR哈尔滨理工大学工学硕士学位论文1525,MNKNKFTFTFKC1K1K2MMT1KK图29存在任一整数，使得02600,MNMNNFTFTF综上可得若给定一组参数和，上述新构造的网络对输出函数的逼MK近可以描述如下27,KTFTC如图29所示，依据上式能准确的够构造出基于正交小波变换导出的小波神经网络。其实际上是基于小波函数多分辨率分析和构造的正DAUBECHIS交紧支型小波函数，利用网络的尺度函数匹配条件，对平移参数和尺寸参数进行选择，得到最优的参数，进而通过对小波神经网络系数的调节得到最优的目标函数“逼近”路线。223小波框架构造小波神经网络理论在不考虑小波函数正交性的情况下，这样就很大程度上扩大了小波函数的选取领域。如可以将网络基函数选取为小波框架，小波框架的,JK,JK表达式如下哈尔滨理工大学工学硕士学位论文16282,JJJKXXKJZ任一函数在下都可以被写为F2LR291,JKJKJKST式中的表示框架算子。在函数中，要达到有效的逼近可以通2FLR过式29中的多项式取有限项之和运算得到。即如下式210,NNJJKJKTBFWTAF1R21W2RT图210如图210所示，图中的为小波神经网络的小波基经平移和伸缩后的个R数总和。依据上式和结构图能够构造出相应的小波框架导出的小波神经网络。其实际上是基于小波时域、频域的局域特性和小波框架理论，利用尺度函数匹配选择最优的平移参数和尺寸参数，达到对小波系数的调节做到对目标函数最佳“覆盖”。虽然小波框架作为网络基函数导出的小波神经网络可以灵活的选取基函数，但在网络的学习算法选择上，应选择优化结构的算法处理过于庞大的网络，这样着重提出，是因为框架的线性相关，会导致确定网络基函数的个数出现冗余现象，构造网络时出现过于庞大的现象。哈尔滨理工大学工学硕士学位论文1723小波神经网络常用学习算法介绍设函数，在满足映射规则下的情况下，给出一组训练2YFXLRF网络的数据再利用小波神经网络逼近函数。则1,NNKTKFXY211TYWGE式中表示模型误差，其；令，表示网络EYTYKWG的输出，表达式中的表示小波函数的输出权值向量，其中表示网络YK隐含层输出向量，它的表示式为，式中是隐含层节点数。12,TLGG按照上一节描述的各种不同的小波神经网络结构理论，对问题需要的网络进行相关设计。设计的小波神经网络变换参数只有输出权值，而且网络参数还与输出误差函数成正比。因此，在网络参数的优化算法选择上，不论非线性或线性方法均可采用。231梯度算法在求解无约束方程的极值问题时，学者们通常采用的是一种叫梯度法的数值方法。由于它使用简便，迭代运算的过程简单，使它成为了一些其它最优方法的理论基础。梯度下降法在小波神经网络的学习算法中有很大的优势，尤其是对单输入型，因为在这一条件下，梯度下降法的最佳算法之一WN就是最速下降法。梯度下降法的原理基础是设无约束极值问题的数学函数表达式如式212所示212MIN,NFXE设上式中的存在一阶连续偏导数，其中表示为极小点。极小点的XX第次近似点用表示，我们利用沿方向做射线来求极小点第KKKPK次近似点，其射线函数式表示如下11X哈尔滨理工大学工学硕士学位论文182130XKP现将在点领域内运用泰勒级数展开，得到泰勒级数展开式为FX214TFXKFKP其中为在点邻域内对充分小的麦克劳林级数，即，XK0LIM只要泰勒级数展开式满足下式2150TFP即可推出。为函数得到更好的目标值，此时FKFKFX可取。1X考虑射线从不同的方向出发。若的模为一不为零的定值时，在PKPK取时（在时，是平稳点），满足式215的0F0FXK有无穷多个，为了尽可能的改善目标函数，必须在无穷多个方向的K中找到的最小值。由线性代数理论可得PTFP216COSKFKP梯度向量与向量的夹角表示为上式中的。当，FX180，表示向量与梯度向量反向，此刻215式成立，COS1PKFXK可知在射线最左端可取得最小值。此时我们可知，在的某一邻域内，射线方向为函数值下降最快的方向，称其为负梯度方向。PKFXK在确定下一个近似极小点时，不但要确定步长，还要确定其搜索方向。当采用取某一值进行试算，判别是否满足不等式217时，我们称这一方法为可接受点算法，不等式217为217FXKFKFXK因为采用负梯度方向时，总是存在某一满足式217的。所以在选取时，满足上不等式，就可继续迭代下去，否则就改变使不等式217成立。哈尔滨理工大学工学硕士学位论文19最速下降算法就是上述描述方法的其中之一，确定使最小的时，FXK是通过在负梯度方向进行一维搜索得到的。目前常用的梯度下降法有两种算法，其分别为递推算法和整批算法。一、递推算法定义单样本无约束误差函数表达式如下218212KEWYK运用下式对误差函数的权值进行修正2191220WKK梯度函数由上式表示，修正步长由表示。从其运EW算的方法可以看出，递推算法的缺点是容易受样本噪声干扰的影响，但对网络参数的在线修正比较方便。二、整批算法定义全局无约束误差函数表达式如下2212112NNKKEWYK为使全局误差满足精度要求，对输入所有样本数据对网络权值进行反复的修正。从梯度算法的全局意义上分析，它对每一个样本数据的梯度进行了平均。梯度算法为得到更好的修正效果，还能对其进行改进，引入一个动量因子，如下式22211WWKK引进的动量因子为上式中的。W232变尺度算法运用变尺度法对无约束极值问题的求解，是以对称正规型矩阵代替误差函数的二阶偏导数，利用全局误差函数式221为优化性能指标对其进行优化运算，得下式2231WLLHLEWL其中表示梯度向量，式中表示第次训练的修正矩阵，ELLL哈尔滨理工大学工学硕士学位论文20表示学习步长。在修正矩阵的计算上，利用的方法是方法，而HLBFGS方法是目前最好的无约束优化方法。BFGS2241TTTTRLLSLSRLHLRSLHLLS上式中的和分别有，。SLR1LWL1REWLL对全局误差函数的权值优化的步骤可以描述如下一、令初始，其中单位矩阵，权初值为随机数，取，0HII01L给定训练次数、学习步长、误差精度；P二、对给定的个样本数据进行训练修正矩阵，计算误差梯度M和误差；EWLL三、若或，则停止训练，否则返回二；P四、利用式224计算；HL五、并且利用式223修正全局误差函数的权值，令，返回一。1L233最小二乘算法由于设计的小波神经网络的网络权值参数与输出呈线性关系，所以WY可以利用最小二乘算法求解网络权值参数。目前学者们常用的最小二乘算法有两种，分别为第一种最小二乘算法为带遗忘因子的递推最小二乘算法，函RLS数表达如下22511TTWKKKYWKGPPGP这种算法收敛的关键是确保上式中的非负定，为协方差矩阵。KPK哈尔滨理工大学工学硕士学位论文21对于常规的算法还可采用分解法和平方根法进行改进，其中分解RLSUDUD法在实际中应用中更有优势且比较广泛，因为它的数值稳定性比平方根法更好，而且计算量也更低。第二种最小二乘算法为基于分解的递推最小二乘算法。即RLS采用分解法将式225中的矩阵进行分解，如下表示UDPK226TPKUD上式中出现的表示对角矩阵；表示上三角矩阵，并且矩阵对角线上元素全为1。确保的非负定性，可以通过在线修正矩阵完成，并且KUK还提高了数值的鲁棒性和参数估计的精确性。运算的具体步骤如下一、给定初始矩阵、，初始化权值和误差精度；0UD二、对向量和的求解，如下式HKQ，2271TGK1QKH三、求解，运算式为IIL22810,IIIIKH四、求解，运算式为K229LUQKK五、求解对角矩阵的对角线元素，运算式为DID2301IIIKD六、求解和，运算式为IVKIJ2311,IIIUKQIL哈尔滨理工大学工学硕士学位论文22232,1,1IJIJIJJVKUKQIJL七、求解的元素，运算式为UIJ233,1110JIJIJIJHKUKV,IJLJI八、计算1TWKKKYWKG九、若以上计算结果满足输出精度要求，则停止运算；反之取，1K返回二。以上介绍的是优化小波神经网络参数常用的三种优化算法。其中非线性优化方法有两种，分别是梯度法和变尺度法，而最小二乘法是线性优化算法。前两种优化算法不存在局部极小点，因为其全局误差函数关于小波神经网络的输出权值是一个凸函数。运用上述介绍的理论，对最小二乘法与梯度法进行比较，最小二乘法的收敛速度更快，而且递推算法简单。特别如方法，不但提高了收敛速度，还在一定程度上克服了数值病态问题，UDRLS更有利于实时控制的应用。24本章小结本章首先对常用的几种小波分析做了简要的介绍，并且概述了小波神经网络的优点和存在的问题。其次是研究了小波神经网络的几种构造理论，对各种不同组合构造的小波神经网络的优缺点也作了相关介绍和对比。最后介绍了几种小波神经网络常用的学习算法，并对这几种算法进行相互比较，得出它们各自所具有的优缺点。为下一章的应用打好理论基础。哈尔滨理工大学工学硕士学位论文233小波神经网络广义预测控制31广义预测控制理论预测控制是一类新型的优化控制算法，并且是以计算机为实现手段的优化控制算法，由于其对模型的要求不高，综合的控制效果良好，因此广泛的应用到了工业生产过程中。其在控制算法的推导上是基于离散时间的，数学模型的建立也是如此。预测控制算法不论它选择各式各样的算法形式，综合归纳起来，都是建立在预测模型、滚动优化、反馈校正这三个基本特征之上的。下面我们就从这三个基本特征出发，在这基础上来讨论说明预测控制的基本原理。预测控制的结构框图如图31所示优化计算参考轨迹模型预测输出被控对象EKUKYKMRYKIMYEKRK图31预测控制的结构框图311广义预测控制算法的实现1预测模型预测模型采用受控自回归积分滑动平均CONTROLLEDAUTOREGRESSIVEINTEGRATEDMOVINGAVERAGE，简称CARIMA模型来描述受到随机干扰的对象31111AZYTBZUTCZWT其中NA110NZBZBZ哈尔滨理工大学工学硕士学位论文24110NCZCZCZ上式中是表示退后一个采样周期后各相应量的后移算子，表1Z示差分算子，是表示一类随机噪声影响的一个随机序列，的某些WTB项元素是表示控制对象相应的时滞数，其中的一些首项元素等的取01,NB值可以为零。方程可以利用模型函数式31推导出，并且对第步后输出DIOPHANTIEJ的预测值进行推导，可得下式YTJ（32）111JJJJJCZEAZFZBGCH,其中表示预测时域长度，1,2JN1DEGMAX1,JCBZN，表DEG1JEZJ1DEGMAX,JCFZNJGJDEG示推导函数式中多项式的阶数。（33）11101110JJJJJNAJJJJJJNBJFZFZFZHGGGHH将31式左乘多项式后把32式代入得1JJEZ1111JJJJCZFYTZZHUTJECZWTJ为了方便书写，利用换元法化简分别用代换，用、C1ZJJFJG分别代换、。换元代入上式得JH1JEZ1JFZ1JGZJ哈尔滨理工大学工学硕士学位论文2511JJJJYTGUTJHUTCEWTFYTC设，代入上式可得1UTCTTCYT（34）1JJJJYUJUTTYT上式中是表示在时刻进行提前预算，得出对时刻的预测输出。TJTT01201JMNNMGGGG其中控制时域为，预测时域为，。由于时刻以后的系统白噪声是，所以要得出最合适的时TJEWTTJ刻的输出的预测值可由下式表示YTJ351JJJGUTJHUTFYT2滚动优化在中，由优化性能指标函数可以得出，在时刻的性能指标函数可PCT由下式表示3621221MIN1NMRJJJTEQYTJTUTJ上式中的表示预测控制系统的期望输出，也就是预测控制的参考轨迹。RYT为得到函数在步以后控制量恒定不变，则，和的条M2J,N0UTJ哈尔滨理工大学工学硕士学位论文26件必须满足。预测控制的最小预测时域长度为式中的，而且通常取，1N1若取为系统时延参数时，则取。最大预测时域长度由表示，通常D1ND2取与控制过程的上升时间差不多或者大于多项式的阶次。未得到更好1BZ的控制效果，控制时域长度的取值通常有。其中、通常取MQJJ值为常数，且输出预测误差由表示，控制增量加权系数序列由表示。QJJ令1,TYTYTN,UTUTM则上式可表示为22MINRJTEYJ将（35）式的预测值代入上式，并推导出为最小时的最优控制律TJJT为3711TTRUGIYFTHUT设1,0TTTDIGRUTYTUT最后得到控制器的输出为（38）1TT3反馈校正采用在线辨识的校正方法，与一般的模型辨识不一样，有着更多的GPC优势。在线辨识的校正方法优势在于，可以通过对系统的输入输出历史信号的在线积累，并反馈到模型的输入，对模型的参数进行不ARIMCARIM哈尔滨理工大学工学硕士学位论文27断的在线修正，对最优控制律的不断重新求解，最后使控制系统能够更好的适应外界的变化，降低外界干扰的影响，不但提高了系统的鲁棒性，也还降低了控制对象对预测模型的依赖性。另外，系统还可以采用在线辨识与反馈校正相结合的方法，即系统基于在线辨识引入模型误差修正的反馈校正进行改进，在这样的改进方法基础上，能够更好的提高系统的随动性能。4参考轨迹的选取RY控制系统的期望输出，是通过根据参考轨迹的取值而设定的，即是参照时实际输出的轨线无限趋近设定值平缓过渡出的一条参考轨迹设定的。T可由参考轨迹的时刻的采样值（）来描述在时刻的参TIRYTI1,2T考轨迹值，它一般可取做一阶指数的形式。即如下式表示39ITRYTITRTE,其中，采样周期由上式中的表示，参考轨迹的时间常数由式中的表示。T5算法总结第一步根据系统最新的输入输出数据，运用建立的预测模型辨识出,参数。1AZB第二步根据上一步已辨识出的系统参数，运用递推法求出方程中的