基于混合学习算法的模糊神经网络控制系统.doc

电子发烧友 电子技术论坛基于混合学习算法的模糊神经网络控制系统* 刘美俊厦门理工学院电子与电气工程系（厦门 361024）摘要：针对复杂非线性系统在控制过程中的不确定性及参数的时变性，设计了一种模糊神经自适应预测控制系统，通过误差补偿以提高预测控制的精度；对模糊神经网络（FNN）的学习算法进行了研究，利用遗传算法的全局搜索能力对FNN控制器参数进行离线优化，并对遗传操作进行了改进，使其最终搜索到全局最优或近似全局最优的附近，再利用BP算法的局部搜索能力和对对象的适应能力，进一步对参数进行在线调整。这样使系统具有更高的学习精度和更快的收敛速度，所得的FNN具有良好的泛化性能。仿真结果证明了本方法的有效性。关键词：模糊控制 神经网络 混合算法 自适应预测控制 仿真A FUZZY NEURAL NETWORK CONTROL SYSTEM BASED ON HYBRID LEARNING ALGORITHMS LIU Mei-jun （Department.of Electronic and Electrical Engineering.,Xiamen University of Technology, Xiamen China 361024）ABSTRACT: For a class of complex nonlinear system with uncertainty and time-varying parameters in the process control,an adaptive predictive control system based on fuzzy neural network has been developed. using the error-compensation ,the accuracy of the system was improved; researching the algorithms of fuzzy neural network(FNN), an optimal or suboptimal spot is found by the optimization of fuzzy network s parameters using the global searching ability of genetic algorithms.the BP algorithms ability of local searching and adaptation to object is used to adjust the parameters further. So the system owns more accurate precision and faster convergent speed ,and the FNN obtained has excellent performance of generalization.A simulation example demonstrates the efficiency of the method.KEY WORDS: Fuzzy control, Neural network, Hybrid algorithms, self-adaptive control. Simulation 1 引言 近年来，非线性动态系统的自适应控制是一个十分活跃的研究领域1,2，模糊神经网络控制作为一个重要的自适应方案得到了广泛研究3。模糊逻辑模仿人脑的逻辑思维，用于处理对象未知或不精确的系统；神经网络模仿人脑神经元的功能，可作为一般的函数估计器，映射系统输入与输出的关系。模糊系统和神经网络相互融合，构造成各种模糊神经网络，作为模糊信息处理单元以实现模糊信息的自动化处理。但常规的模糊神经网络在设计过程中往往存在技术上的困难，其控制精度及学习能力需进一步提高。同时由神经网络设计的控制器往往不是全局最优，这主要是由于BP算法本身存在的易收敛于局部极小值所致4,5。遗传算法是1975年由J.Holland教授提出的一种模仿生物进化原理的随机搜索算法，自问世以来已经在函数优化、模式识别、图像处理、人工智能等许多领域得到了成功的应用。遗传算法的主要特点是群体探索策略和群体中个体之间的信息交换、搜索不依赖于梯度信息，具有较强的自适应性、鲁棒性和全局搜索能力，因而在非线性函数优化问题的应用上受到了广泛重视。但是遗传算法也存在着接近最优解时搜索效率下降以及可能过早进入未成熟收敛的缺点。福建省教育厅A类科技项目 编号JA08218为了克服上述缺点，本文提出了一种结构化的模糊神经网络，并设计了一种自适应预测控制方案，采用遗传算法和BP算法相结合的混合学习算法，取得了较好的控制精度和非线性处理能力。2 模糊神经网络自适应系统的设计 本文提出的模糊神经网络自适应控制系统结合了模糊逻辑和神经网络控制技术，利用一个神经网络辨识器和模糊神经网络控制来解决非线性滚动优化问题，引入辨识器主要是对控制效果进行预测，以使系统在控制点间具有学习能力，从而提高收敛速度，增强系统的稳定性6。系统结构框图如图1所示，图中MR为参考模型，NNI为神经网络辨识（预测）模块，FNNC为模糊神经网络控制模块，TDL为时延环节，e为控制误差，为辨识误差，为预测误差。 图1 控制系统总体结构图Fig1 The structure of control system2.1 模糊神经网络控制器的设计 模糊神经网络控制模型如图2所示。图中两个输入（x1,x2）分别表示误差和误差变化率，而模糊子空间则划分成七个子集PB, PM, PS, ZO, NS, NM, NB, 表示“正大”,“正中”，“正小”，“零”，“负小”，“负中”，“负大”, 输出为y。图2 模糊神经网络结构图Fig2 The structure of the fuzzy-neural network 在图2中，网络的()-()层对应于模糊控制规则的前提“IF-THEN”部分，()层对应模糊逻辑，每个节点输出表示一条规则的触发强度（隶属度），“”表示模糊隶属度取极小运算，（）层对应于规则推理的结论部分“THEN-PART”，完成推理合成，逆模糊运算，整个网络的输入输出映射关系如下： 第（）层：输入层，对应于第j个节点的输入/输出表示为： （1） 其中Wij权值为“1”，和分别表示节点输入和输出。 第（）层：隶属函数层，若用高斯函数作为隶属函数，则有节点的输入/输出关系： （2） （3）其中aij和bij分别表示高斯函数的参数，表示输入语言变量。 第（）层：规则库，这一层主要实现前提匹配，“AND-MIN”操作运算。 （4）其中Wij为连接权值，给定为“1”。 第（）层为输出层，这一层主要实现所有规则的结论组合。 （5）其中netj和fj分别表示网络节点的输入和激发函数7。2.2 神经网络辨识器的设计 当采用BP算法的多层前馈网络进行系统辨识时，单输入、单输出系统（SISO）的非线性动态模型（NARMA）如式（6）所示，其中，u(k), y(k)分别为系统在k时刻的输入、输出，f.为非线性函数。m、n分别表示与前m次输入及前n次输出有关， （6） 为保证整个辨识结构的稳定性，并使模型的输出充分逼近实际对象的输出，一般采用串并联辨识模型。 （7）为使模型更加真实地反映实际对象，并考虑到反馈控制的作用可能会使BIBO(Bounded Input Bounded Output)系统变得无界，因此首先对系统进行离散辨识，然后将网络模型加入控制系统，如系统运行时网络模型的输出与实际输出相差较大时，可利用系统运行时产生的数据对离线训练好的辨识网络进行在线学习，以适应对象参数的时变，得到精确的局部预测模型。 离线学习的教师信号集为 （8）式中：; u(k)为激励信号；A为信号幅值，Rand(1)为-1,1之间的均匀分布随机数，m、n与实际对象的阶次有关，N为训练样本集个数 由于含有一个隐含层的BP网络可以逼近任意有界连续非线性，所以对于非线性系统的辨识采用含有一个隐含层的三层前向网络，各层神经元个数可按如下原则选取：（1）输入层神经元个数为；（2）隐含层神经元个数；（3）输出层的神经元个数为待辨识系统的输出个数，对于单输入、单输出系统。基于BP网络的系统离线辨识可以采用加动态项的修正规则来训练，文献11证明了辨识算法的收敛性，具体算法如下：网络的输入层为： （9）其中, 即输入层的结点个数。令隐含层结点个数，则隐含层可表述为： （10） （11）输出层为： （12）其中为输入层与隐含层间的连接权值，为隐含层与输出层之间的连接权值。 激励函数取 （13）定义用于训练NNI的目标函数为： （14）则目标函数对辨识网络NNI的权值的偏导数如下： (15) (16)根据带动态项的BP算法，得到NNI的权值修正公式如下： (17) (18) 当实际系统输入不固定时，文献12提出一种模糊控制器对系统中未知非线性部分进行辨识，然后再进行控制的方法，从其仿真结果可以看出，系统的输出在稳态后仍有小幅度的振动，这是因为模糊控制技术（算法）本身是将整个论域划分为小的模糊论域，这样只能输出接近零值的输出，不可能精确到输出零值，本文用模糊神经网络来逼近，用神经网络进行辨识，模糊神经网络的控制算法在下节讨论，神经网络离散训练时用上述BP算法，在线训练时用递推最小二乘法（RLS算法）。 将NARMA模型进行简化，已知部分用线性项表示，未知部分用表示，由于是未知的非线性动态部分，不可能直接得到，在无先验知识的情况下，如果完全采用在线训练神经网络的方法，实时性很难满足，所以我们采用离线训练神经网络的方法，使之逼近对象的已知部分，再利用在线辨识的方法辨识受控对象的未知部分，离线辨识时，利用采集白噪声输入对象时得到输入输出数据作为样本，进行辨识；在线辨识时，用实时采集的控制信号（FNN的输出）加入受控对象时得到的输入输出数据作为样本，采用RLS算法进行实时训练8。RLS训练算法如下： (19) (20) (21)式（19）（21）是反向传播的RLS估计算法的通式，当神经网络的层数t取L时（本文为3层），即为输出层： (22)t取其他值时，即为隐含层或输入层时： (23)采用上述算式对神经网络的各权值进行调节，直到性能指标达到要求为止。3 模糊神经网络的混合学习算法3.1 遗传算法的离线参数优化 1）参数的编码与解码 本文采用二值编码法，若参数a被编码成L位的二制码串bL-1b1b0，解码后 （24）在编码时，L增大，最优可能解的误差减少，但是L的增大也导致串空间的增大，到达最优可能解的概率也减少，而且L增加还会导致计算量增大。因此主要考虑在计算过程中动态缩小优化区间。具体做法是：当平均适配值在K (K为事先设定的常数) 代内的变化小于某个较小的数，则基本可以确定算法结果已经收敛，以遗传算法当前最优解为中点，将寻优区间缩小一定的倍数，然后重新在新区间上初始化种群并执行算法。需要注意的是：为得到最优解，每一次缩小区间的倍数不宜过大，通常取510较好。 2）码串的组成 遗传算法中的一个个体可用一个码串表示，本文提出的遗传算法是一种参数优化方法，这种算法主要基于相对独立的生物群体间既有优良个体的互换，又有群体间的互相侵略征服的生物模型。当某一群体的整体适配值低于一定的水平时，就变为进化落后群体，会被整体适配值高的群体所侵略征服，但入侵者并不灭绝落后群体的全部个体，而是保留其中的一些优良个体，淘汰差的个体，形成落后子群体的进化。优良个体互换可以相互取长补短，产生更加优良的模式，因此需要编码的参数有三个：和，将隶属度参数(k=1,2; i=1,2,7)和规则中的输出参数(j=1,2, 49),共计77个参数，按aki, bki，的顺序编成一个码串，从而产生一个个体染色体Ok（k=1,2, N）,N为种群规模9、10、11。 3）控制策略 定义模糊神经网络对训练样本集合的误差指标为： （25） 式中：M为样本个数；01为均衡系数；i是第i个染色体所对应的参数，这里选取误差指标是为了防止平均误差较小而个别样本误差太大的情况。 在训练神经网络控制器时，要用到，若对象的特性已知，即系统参考输入已知，则已知；但大多数情况下，系统参考输入不是固定的，系统特性未知，此时通过2.2节所描述的神经网络辨识器进行辨识，被控对象的动态特性就完全可以由辨识器来代替，因此可以用来代替。适值函数体现出优化对象与遗传算法的外部联系，是算法和对象沟通信息的基本桥梁，它的选取体现了对优化对象和目的的把握程度。算法与对象耦合的紧密程度决定了算法的稳定性和可靠性，应当在最大可能的情况下加强这种联系，这是提高遗传算法效率的最根本途径。在遗传算法中适值函数的选择原则是：适值函数应体现出对优化问题本质的反映；对初始适值函数进行适当构造（不改变最优解的分布），使构造后的新适值函数更加有利于提高遗传算法的效率13、14、15。本文定义个体的适值函数： （26）其中为常数，M为种群规模。这样的适应值函数满足不小于零的条件。个体i的复制概率为： （27）可采用赌盘进行复制，但这样并不能保证子代的最优个体一定不劣于父代的最优个体，从而可能出现所谓的遗传退化问题。为了避免这种情况，提出如下策略：挑选出种群中的最小适配值，将种群中所有个体的适配值都减去该最小适配值，然后根据新的适配值采用赌盘进行选择。该策略在计算过程中动态地改变了每个串的适配值。本文将5适配值最大的个体无条件地复制到下一代，其余个体按0.95pi的概率进行复制，从而保证新一代的最优个体一定不劣于其父代，实现学习过程的单调收敛16、17、18。4）交叉和变异 交叉在遗传算法中的作用是扩展搜索空间，经典遗传算法中的随机交叉容易产生近亲繁殖，导致算法可能陷入局部收敛，因此应尽量将两个基因差异比较大的个体进行交叉。本文采用单点交叉、随机变异操作，同时为了维持群体的多样性和算法收敛，引入自适应交叉与变异率，其控制表达式为：其中，和分别为群体中的最大适应度和平均适应度；是两个待交叉个体中较大的适应度；和分别为交叉率和变异率；体现了群体的收敛程度；，为常数，用上述遗传算法对自适应模糊神经网络的参数进行离线优化，在通过下面的BP算法实时调整19、20。3.2 BP算法实时调整 定义性能指标为，则各参数调整公式为： （28） （29） （30）式中，为学习速率；为动量项系数，加入动量项系数是为了减少学习过程中的振荡，式（16）由下式推出： （31） （32）类似可得到和的递推公式： （33） （34）式中O表示模糊神经网络中各层的输出，通过神经网络辨识器求得。4 仿真研究 为了验证本文提出的算法对非线性系统进行控制的有效性，对下述非线性系统进行仿真实验。 （35）模糊神经网络控制器的输入为误差e和误差变化ec。遗传算法参数为：种群大小为100，交叉率0.9，变异率0.01, K1=0.8, K2=0.1, K3=0.8, K4=0.1, K5=0.5, K6=0.05，NNI为4-6-1结构，在闭环控制前对辨识网络进行1000步的预训练，令系统输出跟踪在2和-2之间呈阶跃变化的设定值，被控量y跟踪设定值yr的曲线如图3所示，控制量u的曲线如图4所示。图3 被控量跟踪设定值的曲线Fig 3 The curve of controlled variable tracking set-point 图4 控制量曲线Fig4 The curve of controlling variable 由图3、图4可知，当设定值yr阶跃变化时，y能很快跟上，而且没有超调，u的变化也比较平滑，并能在不断的在线学习中使用效果越来越好，这说明本文所提的控制算法是实用的。在实际应用中发现，遗传算法中的交叉率和变异率对遗传算法的性能有很大影响，一般选取范围为0.51.0, 为0.0050.1。5 结论 本文提出的FNNC优化控制方法,FNNC的结构是通过对控制过程的模拟,利用遗传算法优化包含控制器性能的指标来实现的,而FNNC的参数是通过遗传算法结合BP算法的混和遗传算法来实现的,它能够提高优化的速度,加快控制器对输入的响应，它无需事先提供控制规则,只需测得被控对象的输入输出数据或已知被控对象的辨识模型,减少了因专家经验不足或不准确带来的影响。它扩大了系统处理信息的范围，可以同时处理精确信息和不确定信息，系统的鲁棒性和自适应能力均有较大提高；系统中通过网络前向运算实现模糊推理，提高了规则查询、推理的实时性；由于将遗传算法用于模糊神经网络控制器的离线优化，对模糊规则和隶属函数的形状进行调整，使系统达到最优或接近最优，能为在线调整确定较好的初始参数，从而使BP算法发挥其局部搜索能力而不至于陷入局部极小。仿真结果表明了本文所提出的算法的有效性，具有一定的实用价值，可以推广到范围更广的优化问题中去。参考文献1李士勇. 模糊控制，神经网络控制和智能控制论M 哈尔滨：哈尔滨工业大学出版社，19962 刘勇，康立中等。非数值并行算法遗传算法M. 北京：科学出版社，19973WANG Jing，Li Yu-1an，CAI Zi-xingAn optimal designapproach for fuzzy system based on genetic algorithmJControl Theory and Applications，1999，16(5)：699704.4胡俊达 基于遗传算法的模糊自适应控制在DTC的应用J 电工技术学报 2004（19）6:78845 R.Ordonez and K.M.Passino. Adaptive control for a class of nonlinear systems with a time-varying structureJ. IEEE Trans.automat.2001.46:1521556 J.Spooner, R.Ordonez, M.Maggiore and K.Passino. Adaptive Control and Estimation for Nonlinear System:Neural and Fuzzy Approximator TechniquesM New York:Wiley. 2001 7Wang yaonan An adaptive control using fuzzy logic neural network and its applicationJ.Control Theory and Application,1995,12(4):4374448Jang J S R. Self-learning fuzzy controller based on temple back propagationJ,IEEE Trans on Neural Network, 1992,3(5):7147239 Jang J S R.ANFIS: Adaptive network based fuzzy inference systemJ,IEEE Trans on System Man and Cybernetic, 1993,23(3):66568510Halgamuge S K, Glesner M. Neural networks in designing fuzzy system for real world applicationsJ Fuzzy Set and System, 1994,71(1):11211Spooner J T, Passino K M. Adptive control of a class of decentralized nonlinear systemsJ. IEEE Trans A C, 1996, 41(2):354364.12Sheikhileslam S, Desoer C A. Indirect adaptive control of a class of interconnected nonlinear dynamical systems J Int J Control. 1993,57(3):74376513Chin Tengline and C.S. Geroge Lee, Neural network based fuzzy logical control and decision systemJ. IEEE Trans. On Computer, 1991,40(12):13201326.14刘勇，康立中等。非数值并行算法遗传算法M. 北京：科学出版社，1997：150Liu Yong, Kang Lizhong etal.Non-value parallel algorithm- Genetic algorithmM,Beijing: science press, 1997：15015 达飞鹏，宋文忠。一类非线性系统的自适应控制研究J。中国电机工程学报， 2002，22(6):2024.Da Feipeng, Song Wenzhong. Study on adaptive control for a class of nonlinear systemJ. Proceedings of the CSEE, 2002，22(6):2024.16李萌，沈炯。基于自适应遗传算法的过热汽温PID参数优化控制仿真研究J. 中国电机工程学报， 2002，22(8):145149.Li Meng, Shen Jiong. Simulating study of adaptive GA-based PID parameter optimization for the control of superheated steam temperatureJ. Proceedings of the CSEE, 2002，22(8):145149.17夏长亮，文德，王娟。基于自适应人工神经网络的无刷直流电机换相转矩波动抑制新方法J. 中国电机工程学报， 2002，22(1):5458.Xia Changliang, Wen De, Wang Juan. A new approach of minimizing commutation torque ripp