（控制理论与控制工程专业论文）基于改进pso的神经网络优化方法及其在热工系统中的应用.pdf

华j 匕电力人学硕十学位论文摘要 摘要 本文首先对粒子群算法的收敛性进行了系统地分析，针对粒子群算法的早熟现 象，将自适应变异、混沌、模拟退火以及小生境等方法引入到粒子群算法中，构成 了混合p s o 算法。通过几个标准测试函数的仿真，表明了改进算法的收敛速度快、 精度高：随后提出p s o b p 混合算法来对神经网络p i d 的权值进行优化，从而实现 了对主汽温系统的动态p i d 控制。仿真结果表明，被控系统具有很好的抗干扰性能 和较强的鲁棒性。最后提出了简化的减法聚类法并与p s o b p 算法结合，完成了对 t - s 模糊模型的结构辨识和参数优化。基于现场主汽温系统数据的t - s 模型建模结 果表明，通过上述方法建立的模型具有较强的辨识精度和泛化能力。 关键词：粒子群算法，智能优化，主汽温系统，神经网络，t - s 模糊模型 a b s t r a c t f i r s t l y t h ep s oa l g o r i t h mi sa n a l y z e ds y s t e m a t i c a u y i no r d e rt oa v o i dp r e m a t l l r e c o n v e r g e n c e ，t h eh y b r i dp s o ( h p s o ) a l g o r i t h mi sp r e s e n t e db yi n t r o d u c e da d a p t i v e m u t a t i o no p e r a t i o n ，c h a o s ，s i m u l a t e da 芏l n e a l i n ga n dn i c h et e c t m o l o g ye t c s i m u l a t i o n r e s u l t ss h o wt h a tt h eh p s oh a sb e t t e rc o n v e r g e n ts p e e da n da c c u r a c yt h a ns t a i l d a r dp s o o nf o u rb e n c l 1 1 a r k如n c t i o no p t i m i z a t i o np r o b i e m s s e c o n d l y ah y b r i da l g o r i 也m c o m b i n i n gp s oa l g o r i t l nw i t hb pa l g o r i t h m ，a l s or e f e r r e dt oa sp s o b pa l g o r i t i n ，i s p r o p o s e dt ot r a i nt h ei n i t i a lw e i g h t so fn e u r a ln e t w o r kc o n t r o l l e r ( n n c ) t h es i m l u t i o n r e s u l t ss h o wt h a tn n cb a s e do np s o b pa l g o f i t h mc a ne f f e c t i v e l yc o n t r o lm a i ns t e a m t e m p e r a t u r es y s t e ma n dm a k et h ec o n t r o l l e do b j e c t i v eh a v eaq u i t eg o o dd i s t l l r b a n c e f e s i s t a n c ea i l das t r o n gr o b u s t n e s s l a s t l y ，t h es i m p l i f i e ds m ) t r a c t i v ec l u s t 嘶n ga n d p s o b pa l g o r i t h ma r ep r o p o s e df o r t a k a g i s u g e n om z z ym o d e l o ns t r u c t u r e i d e n t i f i c a t i o na n d p a r a m e t e r so p t i m i z a t i o n t - sm o d e l i s b u i l ta c c o r d i n gt ot h ef i e l dd a t a o ft h em a i ns t e a mt e m p e r a t u r es y s t e m t h ee x p e r i m e n t a lr e s u l t sd e m o n s t r a t et h a tt s m o d e l i n gb ym e a n so ft h ep r o p o s e dm e t h o d sh a sb e t t e ri d e n t i f i c a t i o na c c u r a c ya n d g e n e r a l i z a t i o na b i l i t y s u im i n g ( c o n t r o lt h e o r ya n dc o n t r o le n g i n e e r i n g ) d i r e c t e db yp r o h a np u k e yw o r d s ：p a r t i c l es w a r mo p t i m i z a t i o n ，i n t e l l i g e n to p t i m j 2 a t i o n ，s u p e r h e a t e d s t e a m1 e m p e r a t u r es y s t e m ，f e e d f o r w a r dn e u r a ln e t w o r l t a k a 酉一s u g e n of u z z ym o d e i 华j 匕电力人学硕十学位论文摘要 摘要 本文首先对粒子群算法的收敛性进行了系统地分析，针对粒子群算法的早熟现 象，将自适应变异、混沌、模拟退火以及小生境等方法引入到粒子群算法中，构成 了混合p s o 算法。通过几个标准测试函数的仿真，表明了改进算法的收敛速度快、 精度高：随后提出p s o b p 混合算法来对神经网络p i d 的权值进行优化，从而实现 了对主汽温系统的动态p i d 控制。仿真结果表明，被控系统具有很好的抗干扰性能 和较强的鲁棒性。最后提出了简化的减法聚类法并与p s o b p 算法结合，完成了对 t - s 模糊模型的结构辨识和参数优化。基于现场主汽温系统数据的t - s 模型建模结 果表明，通过上述方法建立的模型具有较强的辨识精度和泛化能力。 关键词：粒子群算法，智能优化，主汽温系统，神经网络，t - s 模糊模型 a b s t r a c t f i r s t l y t h ep s oa l g o r i t h mi sa n a l y z e ds y s t e m a t i c a u y i no r d e rt oa v o i dp r e m a t l l r e c o n v e r g e n c e ，t h eh y b r i dp s o ( h p s o ) a l g o r i t h mi sp r e s e n t e db yi n t r o d u c e da d a p t i v e m u t a t i o no p e r a t i o n ，c h a o s ，s i m u l a t e da 芏l n e a l i n ga n dn i c h et e c t m o l o g ye t c s i m u l a t i o n r e s u l t ss h o wt h a tt h eh p s oh a sb e t t e rc o n v e r g e n ts p e e da n da c c u r a c yt h a ns t a i l d a r dp s o o nf o u rb e n c l 1 1 a r k如n c t i o no p t i m i z a t i o np r o b i e m s s e c o n d l y ah y b r i da l g o r i 也m c o m b i n i n gp s oa l g o r i t l nw i t hb pa l g o r i t h m ，a l s or e f e r r e dt oa sp s o b pa l g o r i t i n ，i s p r o p o s e dt ot r a i nt h ei n i t i a lw e i g h t so fn e u r a ln e t w o r kc o n t r o l l e r ( n n c ) t h es i m l u t i o n r e s u l t ss h o wt h a tn n cb a s e do np s o b pa l g o f i t h mc a ne f f e c t i v e l yc o n t r o lm a i ns t e a m t e m p e r a t u r es y s t e ma n dm a k et h ec o n t r o l l e do b j e c t i v eh a v eaq u i t eg o o dd i s t l l r b a n c e f e s i s t a n c ea i l das t r o n gr o b u s t n e s s l a s t l y ，t h es i m p l i f i e ds m ) t r a c t i v ec l u s t 嘶n ga n d p s o b pa l g o r i t h ma r ep r o p o s e df o r t a k a g i s u g e n om z z ym o d e l o ns t r u c t u r e i d e n t i f i c a t i o na n d p a r a m e t e r so p t i m i z a t i o n t - sm o d e l i s b u i l ta c c o r d i n gt ot h ef i e l dd a t a o ft h em a i ns t e a mt e m p e r a t u r es y s t e m t h ee x p e r i m e n t a lr e s u l t sd e m o n s t r a t et h a tt s m o d e l i n gb ym e a n so ft h ep r o p o s e dm e t h o d sh a sb e t t e ri d e n t i f i c a t i o na c c u r a c ya n d g e n e r a l i z a t i o na b i l i t y s u im i n g ( c o n t r o lt h e o r ya n dc o n t r o le n g i n e e r i n g ) d i r e c t e db yp r o h a np u k e yw o r d s ：p a r t i c l es w a r mo p t i m i z a t i o n ，i n t e l l i g e n to p t i m j 2 a t i o n ，s u p e r h e a t e d s t e a m1 e m p e r a t u r es y s t e m ，f e e d f o r w a r dn e u r a ln e t w o r l t a k a 酉一s u g e n of u z z ym o d e i 声明尸明 本人郑重声明：此处所提交的硕士学位论文基于改进p s o 的神经网络优化方 法及其在热工系统中的应用，是本人在华北电力大学攻读硕士学位期间，在导师 指导下进行的研究工作和取得的研究成果。据本人所知，除了文中特别加以标注和 致谢之处外，论文中不包含其他人已经发表或撰写过的研究成果，也不包含为获得 华北电力大学或其他教育机构的学位或证书而使用过的材料。与我一同工作的同志 对本研究所做的任何贡献均已在论文中作了明确的说明并表示了谢意。 学位论文作者签名： 孚至堕至 日期： 关于学位论文使用授权的说明 本人完全了解华北电力大学有关保留、使用学位论文的规定，即：学校有权 保管、并向有关部门送交学位论文的原件与复印件；学校可以采用影印、缩印或 其它复制手段复制并保存学位论文；学校可允许学位论文被查阅或借阅；学校 可以学术交流为目的，复制赠送和交换学位论文；同意学校可以用不同方式在不同 媒体上发表、传播学位论文的全部或部分内容。 ( 涉密的学位论文在解密后遵守此规定) 作者签名：配塞丞 日期：以兰趔 导师签名： 华北电力大学硕+ 学位论文 1 1 引言 第一章绪论 电厂、化工及自动化领域的许多控制和决策问题本质上均可归结为优化问题。 美国s i m c o n 公司在炼油厂计算机应用和效益比例的分析报告中指出，实现在线优 化和先进控制占总投资的2 1 ，但其获得的效果占总效益的5 4 。由此可见，优化 问题存在的普遍性以及优化研究的重要性。因此，高效的优化算法研究一直是学术 界和工程界共同关注的重要内容【l 】。 粒子群优化算法作为一种高效的并行搜索算法，非常适于对复杂环境中的优化 问题求解，对其进行理论分析和应用研究具有重要的学术意义和工程价值。本文根 据分析p s o 算法的收敛性以及参数的选择机制，结合前人的研究成果，提出了两种 改进的粒子群优化策略，使得p s o 算法的收敛精度和收敛速度都有了很大的提高， 尤其在高维非线性函数的优化上，具有明显的优势。 目前，粒子群优化算法已经成功地应用于系统辨识、神经网络训练、模糊系统 控制、化工、医疗等各个研究和应用领域。 神经网络p i d 是一种智能控制方法，它能够根据控制系统的输入、输出以及偏 差，为了达到一定的控制性能指标，通过自学习的方式，自适应调整控制器的三个 调节参数。而火电厂热工过程对象的动态特性具有大迟延、大惯性、时变、耦合和 不确定性等特点，用传统的方法很难建立精确的数学模型，从而使得建立在精确受 控对象数学模型基础上的常规控制方法及现代控制方法难以取得满意的控制效果。 尤其是对于主汽温系统而言，目前广泛采用的串级p i d 控制策略难以取得良好的控 制效果，尤其是当工况发生较大变化时，固定参数的串级p i d 控制策略很难保证控 制系统的性能，因此将神经网络p i d 用于对主汽温系统的控制是一种有意义的尝试。 然而神经网络p i d 控制作用好坏的一个决定因素就是网络初始权值的选择。本文提 出将p s o 与神经网络结合用来优化网络的权值，仿真研究表明所控制的主汽温系统 取得了很好的控制品质，具有很强的鲁棒性和抗干扰能力。 针对主汽温对象的模型难以用经典方法确立的问题，本文提出了智能建模的思 想利用t s 糊神经网络对主汽温系统进行建模与辨识。通过简化的减法聚类法 对样本数据进行聚类并提出p s o b p 混合算法来对后件参数进行辨识，并与基于卡 尔曼滤波的最小二乘估计进行比较，体现了混合p s o 算法所建立的模型具有很高的 辨识精度和很强的泛化能力。另外，仿真机的广泛应用为混合p s o 算法在热工过程 建模中的应用提供了广阔的空间。 随着对粒子群优化算法研究热潮的兴起，已有许多有关p s o 的综述文献，本章 华北电力人学硕+ 学位论文 对p s o 的改进方法与应用状况进行了简要概述，并对p s o 于神经网络相结合的方 法做了相应叙述。 1 2 粒子群优化算法的研究与应用概述 粒子群优化算法( p s o ) 是由k e n n e d y 和e b e r h a r t 等【2 3 】于1 9 9 5 年开发的一种演 化计算技术，来源于对一个简化社会模型( 鸟群和鱼群) 的模拟。其中“群( s w a 姗) 符合m i l l o n a s 在开发应用于人工生命的模型时所提出的群体智能的5 个基本原则 ( 即，适用性原则、可靠性原则、收敛性原则、稳定性原则、生物类比原则) 。而“粒 子( p a n i c l e ) 则是一个折中的选择，因为既需要将群体中的成员描述为没有质量、 没有体积的，同时也需要描述它的速度和加速状态【4 】。 由于p s o 算法概念简单，实现容易，短短十几年时间，p s o 算法便获得了很大 的发展，目前已被“国际进化计算会议 ( i e e ei n t e m a t i o n a lc o n f e r e n c e so n e v 0 1 u t i o n a 珂c o m p u t a t i o n ，c e c ) 列为一个讨论的专题。 p s o 算法主要应用于解决复杂的优化问题，因此，本节首先阐述与p s o 算法相 关的优化概念和技术，其次对p s o 的改进算法及应用进行综述。 1 2 1 优化研究的基础 优化是科学研究、工程技术和经济管理等领域的重要研究工具。它所研究的问 题是讨论在众多的方案中寻找最优方案，它是一门应用广泛、实用性很强的科学。 1 2 1 1 最优化问题 最优化问题是寻找最小值问题( 寻找最大值问题可以转化为寻找最小值问题) 。 最优化问题根据其目标函数、约束函数的性质以及优化变量的取值等可以分成许多 类型，每一种类型的最优化问题根据其性质的不同都有其特定的求解方法。不失一 般性，最小化问题可定义为： 血n 仃= 厂( x ) j j x q = xi 蜃( x ) of = 1 ，m s 孵万 其中，仃= 厂( x ) 为目标函数，舒( x ) 为约束函数，q 为约束域，x 为以维优化变 量。通常，对( x ) o 的约束和等式约束可转换为一( x ) o 的约束。 当厂( x ) 、( x ) 为线性函数且x o 时，上述最优化问题即为线性规划，其求解 方法有成熟的单纯形法和k a r n l a r c 法。 当厂( x ) 、舒( x ) 中至少有一个函数为非线性函数时，上述问题即为非线性规划。 非线性规划相当复杂，其求解方法多种多样，但到目前仍然没有种有效的适合所 2 华北电力火学硕十学位论文 有问题的方法。 当优化变量x 仅取整数值时，上述问题即为整数规划，特别是当x 仅能取o 或l 时，上述问题即为o l 整数规划。由于整数规划属于组合优化范畴，其计算量随变 量维数的增长而指数增长，所以存在着“维数灾难”问题。 当舒( x ) o 所限制的约束空间为整个九维欧氏空间时，上述最优化问题为无约 束优化问题。 非线性规划问题( 包括无约束优化问题和约束优化问题) ，由于函数的非线性，使 得问题的求解变得十分困难，特别是当目标函数在约束域内存在多峰值时。常见的 求解非线性问题的优化方法，其求解结果与初值的选择关系很大，也就是说，一般 的约束或无约束非线性优化方法均是求目标函数在约束域内的近似极值点，而非真 正的最小点。 1 2 1 2 局部优化算法 如果存在c ，使得对帆c 有： ( ) 厂( x ) ，x c 成立。其中ccqs 孵”，则称为厂( x ) 在c 内的局部极小点。 常见的优化方法大多为局部优化方法，都是从一个给定的初始点c 开始， 依据一定的方法寻找下一个使得目标函数得到改善的更好解，直至满足某种停止准 则。成熟的局部优化方法很多，如n e w t o n r a p h s o n 法、共扼梯度法、f 1 e t c h * r e e v 销 法、p o l a r r i b i e r e 法、d f p 法、b f g s 法等，还有专门为求解最小二乘问题而发展的 l e v e n b e r g m a r q u a r d t ( l m ) 算法。所有这些局部优化算法都是针对无约束优化问题 而提出的，而且对目标函数均有一定的解析性质要求，如n e w t o n r 印h s o n 法要求 目标函数连续可微，同时要求其一阶导数连续。 对于非线性约束优化问题，除了根据一阶最优化必要条件直接将最优化问题转 换为非线性代数方程组，然后采用非线性代数方程组的数值解法进行求解外，还有 序列线性规划法、可行方向法和拉格朗日乘子法等。最常用的方法是将约束问题通 过罚函数法转换为无约束优化问题，然后再采用无约束优方法进行求解。 1 2 1 3 全局优化算法 如果存在r q ，使得对比q 有： ( x ) 厂( x ) ， x q 成立。其中q 派疗，则称r 为( x ) 在q 内的全局极小点。 华北电力人学硕十学位论文 到目前为止，全局优化问题也已有了许多算法，如填充函数法等，但比起局部 优化问题的众多成熟方法，其间还有很大差距。为了可靠解决全局优化问题，近十 几年来人们模拟自然界的一些现象而发展起来的一系列仿生型智能优化算法，如禁 忌搜索算法，模拟退火算法、进化类算法、群体智能算法等一些真正有效且具有普 遍适应性的随机全局优化方法。 1 2 1 4n of r e el u n c h 定理 最优化理论的发展之一是w o l p e r t 和m a c r e a d y 提出了n of r e el u n c h t h e o r e m ， ( 简称n f l ) ，其简单表述为：任意两个算法a 和b 对所有问题的平均表现度量是完 全一样的。该定理暗指，没有其它任何算法能够比搜索空间的线性列举或者纯随机 搜索算法更优。该定理只是定义在有限的搜索空间，对无限搜索空间结论是否成立 尚不清楚。在计算机上实现的搜索算法都只能在有限的搜索空间实施，所以该定理 对现存的所有算法都可直接使用。 n f l 定理的主要价值在于它对研究与应用优化算法时的观念性启示作用。当我 们所面对的是一个大的而且形式多样的适应度函数类时，就必须考虑算法问所表现 出的n f l 效应，即若算法a 在某些函数上的表现超过算法b ，则在这类的其他适应 度函数上，b 的表现就比a 要好。因此，对于整个函数类，不存在万能的最佳算法， 所有算法在整个函数类上的平均表现度量是一样的。 有了上述讨论，关于优化算法的研究目标就应该从寻找一个大的函数类上的优 化算法转变为： ( 1 ) 以算法为导向，从算法到问题。对于一个小的特定的函数集，或者一个特 定的实际问题，给定一个算法，尽可能通过理论分析，给出其适用问题类的特征， 使其成为一个“指示性”的算法。 ( 2 ) 以问题为导向，从问题到算法。对于一个小的特定的函数集，或者一个特 定的实际问题，可以设计专门适用的算法。 实际上，大多数在进化算法方面的研究工作可以看作是属于这一范畴的，因为 它们主要是根据进化的原理设计的算法，或者将现有算法进行部分改进，以期对若 干特定的函数取得最好的优化效果，这也是本文研究的一个重要基础。 1 2 1 5 进化算法 近十余年来，遗传算法( g e n e t i ca l g o r i t h m ，g a ) 、蚁群算法( a n tc 0 1 0 n y ，a c o ) 、 进化策略( e v o l u t i o n a r ys t r a t e g y ，e s ) 、进化规划( e v o l u t i o n a r yp r o g r a m m i n g ，e p ) 等 进化类算法在理论和应用两方面发展迅速、效果显著，并逐渐走向了融合，形成了 一种新颖的模拟进化的计算理论，统称为进化计算( e v o l u t i o n a 叮c o m p u t a t i o n e c ) 。 进化计算的具体实现方法与形式称为进化算法( e v o l u t i o n a r ya l g o r i t h me a ) 。进化算 4 华北电力人学硕十学位论文 法是一种受生物进化论和遗传学等理论启发而形成的求解优化问题的随机算法，虽 然出现了多个具有代表性的重要分支，但它们各自代表了进化计算的不同侧面，各 具特点。譬如，p j a n g e l i n e 比较了进化算法与基本粒子群算法的性能上的差异， 得到的结论是，粒子群算法比进化算法更快地收敛到全局最优区域，但是进一步地 精确调整到最优解比较困难。 1 2 2 基本p s o 算法描述 粒子群算法是一种基于迭代模式的优化算法，最初被用于连续空间的优化。在 连续空间坐标系中，p s o 算法的数学描述如下： 设群体规模为，粒子f ( f = 1 ，2 ，) 在d 维空间中的坐标位置( 表征问 题的解) 可表示为毛= ( 薯l ，五2 ，劫，勃) ，其速度定义为每次迭代中粒子 移动的距离，用= ( 屹l ，2 ，) 表示。于是，第七次迭代时，粒子f 在第d 维子空间中的飞行速度屹根据下式进行调整更新： 学= 吨+ 刊砌一葛) + ( 砌一碴) ( 1 - l a ) 场= 篓 ，d ( 1 - 1 b ) i = 一双，d ，矿嘞 一觚，d 式( 1 1 a ) 中，p 耐是整个粒子群的历史最优位置( 通过适应度函数求得) ，它与 当前粒子的位置之差被用于改变当前粒子向群体最优值运动的增量分量，此增量还 需进行一定程度的随机化( 吒 o ，1 为随机数) ；砌是当前粒子的历史最优位置， 类似地，它与当前粒子的位置之差也被用于该粒子的方向性随机运动设定( 呸lo ，1i 为随机数) ；w 为惯性权重，c l ，岛为加速常数。 式( 1 1 b ) 中，对粒子的速度进行了最大速度限制。如果当前对粒子的加速将 导致它在某维的速度分量超过该维的最大速度v 眦d ，则该维的速度被限制为最 大速度u 嗽。d 。它决定了粒子在解空间中的搜索精度，如果缸，d 太高，粒子可能会 飞过最优解；如果d 太小，粒子容易陷入局部搜索空间而无法进行全局搜索。 加速常数c 1 和c 2 代表将每个粒子推向个体最优解和全局最优解的统计加速项的 权重。低的值允许粒子在被拉回之前可以在目标区域外徘徊，而高的值则导致粒子 突然的冲向或越过目标区域。 粒子通过方程( 1 2 ) 调整自身的位置： x 箩1 = x 盘+ ，岔1 ( 1 2 ) 粒子的运动由上述两个方程共同作用。粒子的运动速度与其历史飞行经验和群体 5 华北电力人学硕十学位论文 飞行经验相关，并受最大飞行速度的限制。这样的运动模式可被用于各类寻优问题 求解。 从社会学的角度来看公式( 1 1 a ) ，其中的第一部分为粒子先l j 的速度乘一个惯性 权重进行加速，表示粒子对当前自身运动状态的信任，依据自身的速度进行惯性运 动，从而起到了平衡全局和局部搜索的能力；第二部分为“认知 部分，表示粒子 本身的思考，即粒子的运动来源于自身经验的部分，使粒子有了足够强的全局搜索 能力，避免了局部极小；第三部分为“社会 部分，表示粒子间的信息共享与相互 合作，即粒子的运动来源于群体中其他粒子经验的部分，它通过认知不断调整自身 的位置，模仿较好同伴的运动，以期找到问题的最优解。 在寻求一致的认知过程中，粒子个体往往记住它们自身对搜索空间的认知，同时 考虑同伴们的这种认知结果。当个体察觉到同伴的认知较好时，它将进行适应性调 整，从而促进群体向着共同的认知方向靠拢。粒子群的这种依靠自身经验和同伴经 验进行运动决策的行为，与人类的决策也非常相似。人们通常也是通过综合自身已 有的信息和从外界得到的社会信息来进行行为决策的。 1 2 3 粒子群算法的改进综述 粒子群算法是一种新型的优化搜索算法，自提出至今，研究者对该算法进行了大 量的改进研究，主要体现在以下几个方面：算法的离散二进制模型、参数的选择与 设计、领域拓扑结构、群体组织与进化及混合算法等。本节将分别从这几个方面对 粒子群算法的改进研究进行详细综述。 1 2 3 1 离散二进制模型 粒子群算法最初是一种基于实值连续空间的优化工具，然而许多实际的工程应 用问题是组合优化问题，因而需要将粒子群算法在二进制空间进行扩展，构造一种 离散形式的二进制粒子群决策模型。 在二进制空间中，粒子的移动是通过翻转位值实现的，而粒子的速度为每次迭 代改变的位数，或粒子在连续两次迭代取值之间的h 锄m i n g 距离来描述。为了与连 续空间粒子群算法在表述上保持一致性，可忽略式( 1 1 、1 2 ) 中的时刻表示，则离 散二进制模型的速度和位置更新等式可表示为【5 】： ，、，、 2 w + c l ，i 【砌一妇j + c 蔓眨【p 矗一勃 圹( 删( ) s ( ) ) 砌妇= l 如勃= 0 其中，s ( ) = l ( 1 + e x p ( 一) ) 为s i 肿o i d 函数，m n d ( ) 为 o ，1 之间的随机数， 6 华北电力人学硕+ 学位论文 劫 o ，l ，速度分量决定了位置分量嘞取l 或。的概率。越大，则劫取l 的概率越大；反之，越小，则妇取o 的概率越大。在离散二进制模型中，仍保 留了，以使s ( ) 不会太接近。或l ，这可确保群体有快速移动的机会。 二进制p s o 与二进制的遗传算法很相似，都需要对决策变量进行编码和解码。 譬如：通过编码，粒子鼍用一个二进制位串代表参数盯，再通过解码将玉转换成对 应的十进制数，公式如下【6 1 ： 1 ，、 倪= i n + 黄i 觚一i nj -一1 其中，血和q 眦为已知的参数口的最小和最大值。z 表示墨中的二进制位串的 长度，弗是葺的十进制值。 在此基础上，有学者提出了一种基于量子编码的离散粒子群算法。该算法采用量 子个体的表示形式，不再引入非线性的s i 舯o i d 函数，而是将粒子群算法“利用粒 子的最优解引导整个种群逐渐向好解的区域靠拢”策略应用于一种基于量子比特状 态表示的粒子向量，在对o 1 背包问题的求解中，表现出很好的性能。此后，s u n 等【7 1 0 1 从量子力学的角度出发，以d e l t a 势阱为基础，提出了量子粒子群算法 ( q p s o ) 。在量子空间中粒子满足聚集态的性质完全不同，它可以在整个可行解空 间中进行搜索，因而q p s o 算法的全局搜索性能远远优于标准p s o 算法。 1 2 3 2 参数的选择与设计 惯性权重w 可以平衡p s o 算法的全局搜索与局部开发能力，该参数的调整对算 法的性能影响很大。因此对w 的改进研究主要有以下几种方法： 1 )线性调整策略。s h iy 等【1 1 1 人提出了线性递减惯性权重策略，使算法在迭代 初期具有较强的探索能力，可以搜索给定解空间内的多个区域，而在后期收敛到较 小的区域进行深度开发，以加快收敛速度。 2 )非线性调整策略。在多峰值函数的极值求取过程中发现线性调整策略并不 能合理地反映粒子的搜索过程。因而，s h iy 等【1 2 1 人提出了用模糊规则动态调整w 的 方法，通过对当前最好性能评价和当前惯性权重制定相应的隶属度函数和模糊推理 规则，确定w 的增量；c h a t t e r i e e 等【1 3 】提出了一种新的自适应调整方法，该方法选 取不同的，z 值，会得到不一样的收敛速度和精度；陈贵敏等【h 】通过实验验证了凹函 数的w 调整策略优于凸函数，韩江洪等【1 5 1 针对粒子的适应度，分别用三种不同的w 调整策略，该方法很好地平衡了全局搜索和局部开发。 此外，c l e r c 提出了带收敛因子的p s o 算法( c f p s o ) ，e b e r h a r t 等【1 6 】人通过标 7 华北电力人学硕+ 学位论文 准函数测试，比较了该方法与带惯性权重的p s o 算法的性能，结果显示前者优于后 者，同时e b e r h a r t 对前者的方法进行了改进，即采用c f p s o 算法时，将位置与速 度的最大值耿相同值，性能会更佳。 同时c l e r c 【1 7 】还提出了一个简化的p s o 算法，他定义了一个“n o - h o p e 收敛规 则和一个“r e h o p e 方法，以便不时地根据对目标函数的梯度估计和先前的初始化 重新初始化群体位置，其中考虑了群体引力中心。 t h i e m ok 矗1 1 k 【1 8 】等人提出了一种空间粒子扩展模型，其实也是参数的选择研究。 该模型中为每个粒子赋一半径值，用于检测两个粒子是否会碰撞( 意味着粒子开始 聚集) ，如果会，则采用弹离策略使它们分离。作者给出了三种弹离策略：1 ) 随机 弹离以碰撞前的速度向任意方向运动；2 ) 实际物理弹离；3 ) 简单速度直线弹 离沿着原来的速度方向，成比例增加速度或减小速度。在实验中采用了直线弹 离策略，引入了弹跳因子。弹跳因子可正可负，表明弹离速度可与原速度同向也可 反向( 即u 字型转向) ；当弹跳因子大于o 小于1 时，粒子减速，当弹跳因子大于l 时，粒子加速，两者均是为了避免碰撞。对于高维多峰函数，速度的直线弹离显著 改善了算法的性能，当粒子开始聚集的时候，通过增加粒子的多样性使得粒子群可 以持续进化。另外，在算法运行初期并不经常使用弹离，这样可以避免粒子碰撞聚 集而引起的停滞现象。 文 1 9 】在p s o 速度更新公式中，通过引入被动聚集项，实现种群内信息充分共 享，防止了粒子因缺乏足够的信息而判断失误所导致陷入局部极小，但由于附加项 的加入，降低了算法的收敛速度。 文 2 0 】通过引入时变加速因子和时变惯性因子，有效地增强了算法的局部搜索能 力，同时引入自组织递阶概念，粒子只通过认知和社会部分来更新，有效地提高了 算法的收敛速度。 文【2 l 】改进了位置的更新公式，利用k a l m a i l 滤波更新粒子的位置，有效减少算 法迭代次数的同时不损坏p s o 快速的收敛能力。 1 2 3 3 邻域拓扑结构 在全局版的p s o 算法中，每个粒子的速度更新是根据两个因素来变化的，这两 个因素是：1 、粒子本身的历史最优值；2 、群体的全局最优值。如果改变粒子速度 更新公式，让每个粒子的速度按以下两个因素更新：a 、粒子本身的历史最优值；b 、 粒子邻域内粒子的最优值。那么此时的算法就成为局部版的p s o 算法。 一般一个粒子的邻域随着迭代次数的增加而逐渐增加，最后会扩展到整个粒子 群，而变成全局版的p s o 算法。全局舨的p s o 算法收敛速度快，但是容易陷入局 部最优，而局部版的p s o 算法收敛速度慢，但不易陷入局部最优。现在对p s o 算 法的改进大都集中在提高收敛速度和摆脱局部最优两方面。 华北电力人学硕十学位论文 k e n n e d v 测试了几种邻域拓扑结构，如环形、随机环形、轮形和随机轮形。结 果表明，针对多峰函数的寻优，采用轮形拓扑结构效果更好：对于单峰函数，星形 拓扑邻域结构较好。 1 2 3 4 群体组织与进化 依据一定的标准为整个群体或部分粒子进行再组织，可以维持群体的多样性， 使算法能持续进化。据此k e n n e d ，2 2 】结合空间邻域与环形拓扑结构提出了社会趋同 法，通过搜索空间中的微粒簇，并使用簇中心来代替最优值；s u g a n t h a n 通过空间领 域法增加了群体的多样性，提出了基于微粒空间位置划分的方案；f b e 咄等【2 3 1 提出一种协作粒子群算法每一个粒子被分割为多个群体，每一个群体在其他群 体的帮助下对向量不相关联的部分进行最优化，实验表明，当使用恰当的群体数时， 该算法具有很好的性能；x i ex f 等用一个新的粒子替换不活泼的粒子来实现群体 中个体层次上的再组织，来保持群体的多样性；王俊伟等通过引入梯度信息来影响 粒子速度的更新，构造了一种带有梯度加速度的粒子群算法；李爱国提出了一种多 微粒群协同优化算法，该算法具有两层结构：底层用多个微粒群相互独立地搜索解 空间以扩大搜索范围，上层用一个微粒群追逐当前全局最优解以加快算法的收敛。 1 2 3 5 混合粒子群算法 x i ex f 等根据耗散结构的自组织性，将热力学中“熵的概念引入粒子群， 提出一种耗散粒子群算法，该算法通过附加噪声持续为粒子群引入负熵，从而使群 体不断进化。 a n g e l i n e 【2 4 】将进化规划中使用的竞赛选择方法引入粒子群算法。该混合算法根 据个体当前的适应度，将每个个体与其他所有粒子进行比较，然后依据比较结果对 整个群体进行排序，用粒子群中当前位置与速度最好的一半替换群体中差的一半， 同时保留了每个个体所记忆的个体最好位置。 r b r i t s 等【2 5 】将小生境技术引入到粒子群算法中来提高种群的多样性，体现了 算法更好的优化性能。 安伟刚等在多目标粒子群算法的基础上，加入单纯形搜索法，有着很强的局部 搜索能力和较好的鲁棒性能。 张文等【2 6 】提出了一种能够自适应调整种群规模、粒子加速系数以及粒子邻域规 模的自适应粒子群优化算法，该算法具备更强的跳出局部最优解的能力。 高鹰等分别将混沌寻优思想、免疫算法的信息处理机制和模拟退火算法的退火 原理引入到粒子群算法中，这些混合算法的提出主要是通过增加粒子的多样性来摆 脱算法陷入局部最优的概率，提高收敛速度。 文 2 7 】基于改进的自适应惯性权重( a i w f ) 和l o g i s t i c 方程提出了一种新型的 9 华北电力人学硕十学位论文 混沌粒子群优化方法，利用几个经典函数与标准p s o 算法和遗传算法做了仿真比 较，表明该方法有较高的搜索效率，具有跳出局部最优的能力。 文 2 8 】提出了基于t e n t 方程的混沌粒子群优化方法，通过与文【2 7 】中的方法进行 比较，表现了该方法具有较少的收敛迭代次数，并用于经济调度( e c o n o m i cd i s p a t c h ) 问题的优化，进一步降低了发电的成本。 1 2 4 粒子群算法的应用 p s o 算法已在诸多领域得到广泛应用，现简单归纳如下： 一、p i d 控制器参数的优化 王东风等【2 9 】利用改进的粒子群算法对p i d 控制器进行优化，并将p s o p i d 用于 混沌系统的输出反馈控制，拓宽了p i d 控制器的应用范围。方红庆等【3 0 】将粒子群算 法应用于水轮发电机组p i d 调速器参数的优化设计，结果表明利用p s o 优化的p i d 控制规律能有效改善孤网运行条件下水轮机调节系统过渡过程的动态特性。 二、机组组合优化 机组组合优化问题的描述考虑了最小起停时间约束、启动费用和备转容量，可 分为机组调度问题和经济调度问题。文 3 l 】将离散二进制p s o 算法与名迭代方法相 结合应用于机组组合优化问题，能够得到更高质量的解。 三、电力系统无功优化 电力系统无功优化问题是一个多变量、多约束的混合非线性规划问题，文【3 2 】 用p s o 算法对i e e e 3 0 节点系统的无功补偿优化数学模型进行了仿真计算，结果表 明了p s o 算法的可行性和有效性。 四、交通信号优化控制 文献 3 3 】提出了一种新的离散交通信号控制模型，在该模型的基础上，结合自适 应变异p s o 算法来优化交通信号配时方案，结果表明该p s o 算法可以提高交叉路 口通行能力，减少车辆延误，达到交通信号优化控制的目的。 五、训练支持向量机 用p s o 算法解决支持向量机问题需要优化标准，一种是分解二次规划的方法， 一种是演化线性p s o 算法用于优化支持向量机子问题的方法。文 3 4 】利用p s o 算法 来训练s v m ，并应用于u c i 数据集的分类，实验结果显示基于p s o 的s v m 具有 很高的精度，与其他算法相比p s o 算法只是速度慢了些。 此外，p s o 算法在化工系统、机械设计、机器人控制、生物医学、图像处理、 通讯以及运筹学等诸多领域均有运用，在此不一一列举。 l o 华北电力人学硕十学位论文 1 3 粒子群算法优化神经网络的研究 粒子群算法是一种很有潜力的神经网络训练算法。k e n n e d y 等人在提出该算法 的初期，就利用了p s o 训练神经网络来对i r i s 数据集进行分类【引。由于粒子群是全 局性算法，它与b p 算法( 如，梯度下降法、共轭梯度下降法、拟牛顿法、o s s 法、 l e v e n b e r g m a r q u a r d t 法等) 相比，不易陷入局部极小，而且收敛速度比较快【3 5 】。因 此把p s o 算法作为神经网络的学习算法是一种可行的。目前，p s o 主要用于优化神 经网络的两个方面，其一，优化权值、阈值；其二，优化神经网络的结构。 e n g e l b r e c h tap 等【3 6 】运用协同粒子群优化算法训练积单元神经网络( p i ，n n ) ， 由于p u n n 中的乘积项产生了更多的扰动误差曲面，传统的梯度下降法等不能高效 地训练该网络，而采用具有全局优化特性的粒子群算法，并将p i n n 网络用于混沌 时间序列的预测具有很高的精度。 j u a l l gcf 【3 7 】将遗传算法与p s o 结合来设计递归模糊神经元网络。 文 3 8 】利用基于p s o 的神经元网络来预测t i c t a c t o eg a n l e 树叶节点的状态，并 与进化方法比较，其性能优于后者。 文 3 9 】采用离散p s o 算法来合理选择组成神经网络集成的个体，使各个体间保 持较大的差异度，从而提高集成所建模型的仿真精度。 文 4 0 】比较了p s o 算法与b p 算法在训练多层前向神经网络时的性能，并将训练 好的网络用于