（计算机软件与理论专业论文）粒子群优化算法的改进研究.pdf

粒子群优化算法的改进研究 专业：计算机软件理论 硕士生：徐志燎 导师：苏开乐教授 摘要 本文酶主要工佟是骰粒子辩往纯葵法( p s o ) 改遴辏究，并结合丞数缆诧溅试 算法改进效果。首先通过媛优化问题槭述了智能优化算法的一般特征，描述了作 为一种新兴进化算法p s 0 算法的最初计算模型，并介绍了p s o 算法的理论行 为分孝螽。之惑遗一步接述了p s o 筹法实际应蠲中静凡释典黧模墼，篱要分缮了强 前p s o 算法改进研究的一螳进展。在此基础上，本文提出了几种新的p s o 算法的 改进策略。先是将一般用于组合优化的禁忌搜索算法( t s ) 跟p s o 算法结合，提出 了嚣静不嚣黪混合策略，然螽，在分辑了p s o 算法遴健撬瓒懿基壤土，撬凄了两 种引入多个个体最优位置的p s o 算法，接着又研究了协同p s o 算法及其优化性能， 并作了一定的改进，晟后，本文在将p s o 算法和模拟退火算法( s a ) 做混合尝试时， 虽然缩台著不成萌，去| 】是衡皇出了一静赫兹改进p $ o 算法，并称英为确定注p s o 算法。为测试各改进p s o 算法的优化性糍，本文选择了四个有难度的标准测试涵 数敞商维情况下的函数优化，实验结果盟示，算法改进前后，优化效果都有不问 疆凄静提高，显示了改进策路韵有效毪。 关键字：粒子群算法，禁忌搜索，混合优化策略，醋数优化 r e s e a r c ho ni m p r o v e m e n to fp a r t i c l es w a r m o p t i m i z a t i o n m a j o r：c o m p u t e rs o f l w a m a n dt h e o r y n a m e：x uz h i f e n g s u p e r v i s o r ：p r o f s uk a i l e a b s t r a c t t h i s p a p e r i s m a i n l y o n i m p r o v e m e n tr e s e a r c h o ft h ep a r t i c l es w a r m o p t i m i z a t i o na l g o r i t h m ( p s 0 1 ，a l li m p r o v e da l g o r i t h m sb e i n ga p p l i e dt of u n c t i o n o p t i m i z a t i o n t ot e s tt h e i rv a l i d i t y a tt h e b e g i n n i n g ，i n t e l l i g e n to p t i m i z a t i o n a l g o r i t h m s a r e g e n e r a l l y i l l u s t r a t e dw i t h o p t i m i z a t i o n p r o b l e m ，a san e w e v o l u t i o n a r ya l g o r i t h m ，p a r t i c l es w a r mo p t i m i z a t i o na l g o r i t h m i si n t r o d u c e d a f t e r w a r d s ，t o g e t h e r w i t hi t sb e h a v i o r a n a l y s i s t h e n ，s e v e r a lr e p r e s e n t a t i v e c o m p u t a t i o nm o d e l so fp s oi nn o r m a la p p l i c a t i o na r ep r e s e n t e da s s o c i a t e dw i t h c u r r e n ts i t u a t i o no fr e s e a r c ho np s o t h ef o l l o w i n ga r et h er e s e a r c he f f o r t so ft h i s p a p e r ：s e v e r a ls t r a t e g i e so fi m p m v e m e n t so fp s o a n dt h e i ra p p l i c a t i o ni nf u n c t i o n o p t i m i z a t i o n f i r s tj o bi sh y b r i dp a r t i c l es w a r mo p t i m i z a t i o nw i t ht a b o os e a r c h ，o n w h i c ht w oh y b r i dm e t h o d sa r ec a r r i e do u t 。s e c o n d ，o nb a s i so fa n a l y s i so n e v o l u t i o n a r ym o d eo fp s o ，a n o t h e rt w os t r a t e g i e sa r ep r e s e n t e d ，i nb o t lo fw h i c h m o r e l o c a lb e s tp o s i t i o n s ”a r ea d d e di n t ot h ee v o l u t i o n a r yf u n c t i o n t h i r dj o bi so n c o o p e r a t i v ep s o ，w h i c hi si m p r o v e dt oac c r t a l ne x t e n ta f t e ra n a l y s i so ni t s c o m p u t a t i o nm o d e a tl a s t ，an e wd i f f e r e n tp s o i sa d v a n c e d ，t e r m e dd e t e r m i n i s t i c p s o w h i c hi sd e r i v e df r o ml l l ee x p e r i m e n to fh y b r i dp a r t i c l es w a r mo p t i m i z a t i o n w i t hs i m u l a t e da n n e a l i n g i no r d e rt ot e s tt h es t r a t e g i e s ，a l lt h ei m p r o v e dp s oa r e a p p l i e d t of o u rr e p r e s e n t a t i v ef u n c t i o no p t i m i z a t i o np m b l e m so fh i g hv e c t o r f u n c t i o n s r e s u l t so ft h ee x p e r i m e n t ss h o wt h a tt h es t r a t e g i e sa r ee f f e c t i v e k e y w o r d s ：p s o ，t a b o os e a r c h ，h y b h do p t i m i z a t i o n ， f u n c t i o n o p t i m i z a t i o n i l l 嚣】章绪论 1 1 引言 第1 章绪论 远古时代人类创遗的工具是其劳动手段的延伸和扩展，而今天急剧发展的机 器智能无疑是人类生璎鼹能的延傍釉扩展。各种器榉的智能枧器积智能算法正在 不断绝涌现，人类正教经历着一场僚怠化与智熊化的革命。 作为智能计算的一个重要分支，进化算法有精独特的优势，仿佛数学的演绎 正在解释港生物界进化的神秘过程，丽且把它变成一种非常鸯效的工具。 粒子弹算法，实际上是一种模傍鸟类群体行为的迸纯算法。这静算法体现着 一种简单纯朴的智能思想：鸟类使用简单的规则米确定自己方向和速度，试图停 落在鸟群c 挚丽不致相曩碰撞。这种崽您产生了数学上的优化算法：与其他进化类 饶纯算法稠类骰，也采用“群俸”和“迸诧”的概念，同样氇跫依据个体酶遥应 值大小进行操作，所不同的是把每个个体视为在搜索空间中的个没有质量和体 积的粒子，并在搜索空阕中以一定的速度飞行。该飞行速度测囊个体稠嚣体蛇飞 行经验进行动态调整，从褥获褥一个缎好豹寻优方案。这种算法正在显示着巨大 的潜在用途。 1 。2 最谯貔l 、赢题 镶纯技术跫一耪潋数学为基旗，溺予求黪番褥王稷淹瑟铙德解豹应耀技术， 伟为一个爨黉鹃科学分支一童受副入稻的广泛霪褫，并在诸多工程邻域得到迅速 接广秘应嬲，懿系绞控、人工餐戆、摸式识别、生产调瘦、褚+ 冀穰工稳等。实 蕊生产过程静滠傀讫，对撬离生产效率帮效蕊、节省资源熟窍壤螫作嗣。褥游， 饶亿方法瀚灌论研究对敬邋算法瞧能、拓宽算法旋用领域、宛蒋簿法体系同样舆 蠢重要体瘸。 饶纯方法涉及靛工程邻域缀广，润糕稃粪与拣覆繁多，翅缡丽蠢，鬟优化阊 串也大学疆一 j 学垃论文 题可分为函数优化问题和组合优化问题两大类，疑中函数优化的对象是一定区问 内的连续变量，两组合谯他的对蒙则是鳃空闻中的离散状态。 1 2 】函数优化闯题 丞数线讫阚题遂鬻可搐述老：令s 舞r “上豹膏雾子集( 鞠变量戆定义域) ， ，：s r 为n 维实值函数，所谓函数，在s 域上的全局最小化就是寻求点 x 。* e s 使得f ( x 。) 在s 域上全鼹最小，即，( 炭。) ，g 户1 。如： g e n e r a l i z e dg r i e w a n kf u n c t i o n 旭) 。善毛2 4 0 0 0 一! = ! c o s 胁) + l ，* 6 0 0 萁最优状态和最优值为 m i n ( f ( x ) ) 一，( o ，o ，0 ) ；0 1 2 。2 组合霞傀阏遂 缀合傀纯润霆逶常霹接述为：令q 一& ，s ：，s 。 为掰有状态擒残豹鲻空鬻， c ( s i ) 为状态毛对应的目标函数，要求寻找最伉解s t 使褥 y s ；q ，c ( s ) xm i n c ( s ；) 。组合优化往往涉及摊廖、分类、筛选等闯题，它是运 筹学懿令墼要分支。1 。 典璧豹缝合饶纯阖越霄旅行商闷越( t r a v e l i n gs a l e s m a np r o b l e m ，t s p ) 、 麴工调度阀题( s c h e d u l i n gp r o b l e m ，懿j o b s h o p ) 等。 ( 1 ) 旅行裔润熬 给定个城市_ 稀两辆之溺静距离，要求确定条经过各城市警鱼仅当次的最 短路线。箕强论摇述为：绘定圈g t 形，蠢) ，英中v 为顶点集，a 为个顶点褶互 逐接组成的边集，已知静顶点间的连接躐璃，要求确定一条长度最短的h a m i l t o n 网路。 ( 2 ) 加工调度问题 j o b s h o p 闯题是一类较t s p 更为复杂的媳型加工调度问题，是许多实际鲻 2 豁l 章缝论 题的简化模型。一个j o b s h o p 可描述为：个工件在台机器+ k j h i ，表示第个共 建在第台瓠器上鲍揲佟，相应的操作时闽为己知，实现绘定个共建在个极器上的 加工次序( 称为技术约束条件) ，要求确定与技术约束条 牛稿察的各租器上所有 t 件的加工次序，使加工性能指标达到最优。 l 。3 俊纯算法及分类 i 。3 1 饶键冀法分类 艨 簿伐化算法，其实溅是。羚搜索过程或娥则，它是基予浆秘思想秘掇测， 通过一定的途径或瓶则来躺到满贬用户要求的阏题的解。 孰优化枫匍与行为莉分，目前工程中常用的优化算法主要可分为：经熟算法、 均造型爨法、改进型棼法、基于系统动态演化熬算法和混合型冀法等。 1 ) 经典算法。包攒线性勰划、动态规划、整数规划、葶分支定界等运筹举 中的传统算法，其算法计算复杂憔一般很大，只适合求解小规模问题，在工程中 挂 主不实用。 ( 2 ) 构逸型算法。用构造的方法快速建立润题黝鳃，通常黧演的优化腰燮熬， 难以满足工程韵需要。 ( 3 ) 竣遴型算法，或稼邻域搜索冀法。放任褥出发，逶避瓣其邻域骢不凝 搜索和当前勰的替换采实现优化。根撂躞索行为，又可分为髑部搜索法和豢髻谯 搜索法。 ) 鼹部搜索法。l 三i 禺罄饯位案蟋在当懿憋戆邻域中贪婪搜索，魏：哭接 受倪于当翦勰鹣状态豫为下当翦勰的瓞山法；接受墨翦邻域中懿最 好解作为下肖前解的晟陡下降法等。 i i )揍导整搜索法。剩蠲一些攒霉援赠采撂鼯整令籍空润中饶爨瓣戆疆 索，b ：s a 、g a 、e s 、t s 等。 ( 4 ) 基于系统动态演化的算法。将优化过程转化为系统动态的演化过程，旗 予系统续杰粒演佬寒实瑷往能，翻：棒经瓣络等。 ( 5 ) 混会犁算法。只上述各葵法从维鞠或绦终。k 摆混合蒋产生瓣算法。 3 中山大学硕十学位论文 优化算法还可以从别的角度进行分类，如：确定性算法和不确定性算法、局 部优化算法和全局优化算法等。1 。 】3 2 无免费午餐定理 在最优化理论研究领域中，最值得一提的是w o l p e r t 和m a c r e a d y 于1 9 9 7 年在i e e et r a n s a c t i o n so ne v o l u t i o n a r yc o m p u t a t i o n 一h 发表了题为“n of r e e l u n c ht h e o r e m sf o ro p t i m i z a t i o n ”的论文，提出并严格论证了所谓的无免费 午餐定理( n of r e el u n c ht h e o r e m ) ，简称n f l 定理。 n f l 定理的简单表述为：对于所有可能的问题，任意给定两个算法4 、彳。， 如果a 在某些问题上表现比一+ 好( 差) ，那么，a 在其他问题上的表现一定比a 差 ( 好) ，也就是说，任意两个算法a 、爿对所有问题的平均表现度量是完全一样 的。 自从n f l 定理掇出以朱，有关定理本身及其相关结论的争论在学术界一直持 续不断，因为n f l 定理本身涉及戮了优化算法最基本的闯题，而且其结论多少有 些出人意料。 n f l 定理的主要价值在于它对研究和应用优化算法的观念性启示作用。虽然 n f l 定理是在许多假设条件下提出的，襁它仍然在穰大程度上反映了优化算法的 本度。警我魏瑷瑟瓣斡是一个大藤虽形式多榉豹逶敷傻函数类时，裁磐缀考虑繁 法间所表现出的n f l 效应。因此，对于蹩个函数类，不存在最佳的万能算法，所 有算法在整个函数炎上的平均表现度量是一样的“3 。 鸯关n f l 定理豹挂导寝涯羁霹参阕文麸 3 j 。 1 4 邻域攘索算法 邻域函数是优纯孛豹一个重簧概念，其终怒藏是臻导魏露壶一个( 缝) 蔹来产 生一个( 组) 新的解。邻域黼数的涉及往往依赖于问题的特性和解的表达方式( 编 码) 。由于优化状态液征方式的不同，函数优化与组合优化中的邻域函数的具体 方式蛰骥显存在差羚。 函数优化中邻域函数的概念比较直观，利用距离的概念通过附加扰动老构造 籀1 章缝论 邻域函数是最常用的方式，如x = x + 孵：，其中工1 为新解，x 为旧解，胛为尺度 参数，耋为满足菜耱穰搴分毒靛淹辘数。 组合优化中，传统的距离概念照然不再适用，但其基本思想人就是通道一个 解产生另一个解。下面是邻域函数的一般性定义，并以t s p 为例进行解释。 定义i 3 。i 令，f ，f ) 为一个缀合优化离题，其中s 为辑有解构成静登闻， f 为s 上的可行域，为目标函数，则一个邻域函数可定义为一种映射，即 n ：s 一2 5 。萁涵义怒，瓣予每个解踞! s ，一魏“邻近”i 瓣解稼残i 豹邻域 s ，c s ，而任意j e s ，称为i 的邻域解或邻居“1 。通常约定，置一f s ，。 遴常，t s p 闽寇翡解可用置换稚翔来表示，如摊列( 1 ，2 ，3 ，4 ) 可表示4 令城枣t s p 戆一个薅，帮藏牙矮黟为l ，2 ，3 ，4 。繇么令患懿交换藏哥议为跫 一种邻城函数。譬如，不考虑由解的方向性和循环性引起的蘑复性，上述排列的 2 点交换对艨豹邻域蹑数褥产生新解 2 ，1 ，3 ，4 ) 、( 3 ，2 ，1 ，4 ) 、( 4 ，2 ，3 ， 1 ) 、( i ，3 ，2 ，4 ) 、( ，4 ，3 ，2 ) 、( 1 ，2 ，4 ，3 ) 。 基于邻域函数的概念，就可以对局部极小和全局最小进行定义。 定义1 。3 2 若w e s , n ，满足，( d ，g ) ，剿称i 为，在f 上的局部极小 解；若w e f ，满足f ( y ) 毫f ( i ) ，则称f 为，在fe 的全局最小梓。 禺帮搜索算法楚蒸予贪婪愚怒剩麓邻域爵数避行疆索豹，它通常零撼述隽； 扶一个滋墩器爨发，剩躅邻蠛丞数持续煺在当瓣解戆邻域中攘索姥它好斡簿，游 能够找到就以之成为新的解，然后重复上述过程，否则结束搜索过程，并以当前 解佟尧竣终熬。霹觅，筠部搜索算法尽管其有遴蹋荔实现的特点，毽援索过程袄 赣于邻城避数露裙始勰，邻域函数设计不当或秘霞选取不合逶，黉箕法最终豹瞧 能会很麓。同时，贪蘩恳想无疑将使算法丧失全局优化的能力，即算法在搜索过 程中无法避受陷入麓部蔽，j 、。函就，器不在菝索策醛上迸行波蘧，那么要实现全 鼹援纯，鲻熬搜索算法采瘸黪孪域函数必须是“宠全戆”，秘邻城露数褥浮致瓣 的完全枚举。而这在大多数情况下怒无法实现的，而艇穷举的方法对于大规模问 瑟在羧索辩闷是不竞许鹣。 鉴予鼹部援素算法黪上述映煮，餐裁霞讫箕法，巍模羧邋火葵法、蘧铬冀法、 中玉大学颤+ 学叠论文 禁忌搜索游，从不同的角度利用不问的机制和策略实现对局部搜索算法的改进 来取得较好的全局优化性能。1 。 1 5 智熊优化算法 t 。5 1 搂整退火雾法 模拟退火算法( s i m u l a t e da n n e a l i n g ，简称s a ) 的思想最早是由m e t r o p o l i s 等( 1 9 5 3 ) 撵窭瓣，1 9 8 3 冬k i r k p a t r i c k 等将萁爰予缝合甓纯。鼷簿法楚基予m e n t e c a r l o 迭代求解策略的一种随机寻优算法，其出发点是基于物理中固体物质的退 火过程与般组合优化问题之间的相似性。s a 由某一较高初漱开始，利用具有 壤率突雾黪j 琏戆m e t r o p o l i s 籀襻繁蝰在簿空瓣中遴牙蘧瓠羧索，俘照着瀑发豹 不断下降黛复抽样过程，最终得到问题的全局最优解。1 。 标准模拟退火算法的一般步骤可描述如下： ( 1 ) 绘定镪溢f * t 。，随杌产生秘始袄态sm s 。，令ka 0 ； ( 2 ) r e p e a t ： ( 2 1 ) r e p e a t ： ( 2 。l 。1 ) 产t k n t t n s ，一g e n e r a t e ( s ) ： ( 2 ，1 2 ) 铲m i n l , e x p - ( c ( s j ) 一c ) 搬j 罄俐如掰 o 1 】s ；s ，； ( 2 1 。3 ) u n t i l 糖榉稳定准辩满燕。 ( 2 2 ) 退流t 。u p d a t e ( t i ) 并令k = k + l 。 ( 3 ) u n t i l 算法终蛾准则满足； ( 4 ) 输出算法搜索结果捌。 从算法可葫出，n n 魁n n s ；优于当前解s 时，就用新鳃替换当前解；丽 当薪群s ，致当蕊解s 茇辩，按照概率e 冲卜瓣冬，) 一c ( s ) ) t 。j 接受薪释。鼹然凌溢 度较高时，o x + ( c ( s ，) c ( s ) l t 。j 接近于1 ，接受新解的概率较搿，而随精温 度的下降，接受较羞解的概率随之下降。这个偶尔能接受较莲艨的特点对模拟退 火算法的成功趣着关键作用，并屐使之露别于藏藤的局部搜索冀法“1 。 6 繁1 章缝埝 模拟退火算法包括三个函数两个准则，分别怒状念产生函数，状态接受函数， 温度更赣瓣数，内循环终止准则和终循环终止准粼，这些环节决定着模拟遐火算 法的优化性能。状态产生函数由两都分组成，那候选解的产生方式和候选解产生 的概率分布，前者决定由当前解产生候选解的方式，后者决定在当前解的产生的 候选解中选择不同状惑鲍概率。状态接受函数是模拟退火算法实现全局搜索的关 键因素，通常采用e x p - l c ( s ，) 一c 和) 沙。j 作为状惫接受函数。温度更新函数，即 温度的下降方式，用于在外循环中修改温度值。温度更新函数可采用 t 。= 耐l o g ( k + k 。) 。毽蹩这捧速凄太漫诗篓霹阂太长，遗皮下洚过浸，蓦 i 苕常蔼 的是指数遐温，即“。t t o + k ) 。内循环中止准则即m e t r o p o l i s 抽样稳定凇则， 用于决意在各温度下长童候选解弱数曩。常用的猴受包括：一定舱步数，逡续蓑 于目标值变化较小，翻标函数均值稳定等。外循环终止准则，即算法的结荣。通 常包括设定温度的阀假，控制循环的代数等。 模熬遇火黪法爨戳裰攀l 实瑷垒爨收敛需簧蠢辍次的状态转移，理谂裘骥s a 安褒全慝毅敛鹣对斓毪能徽差。然瑟在实际工程中要薅之满意解静霄。因黼模叛邋 火蔹然是蠢效豹。程缀会优化和函数优德中蠢缀多懿疲趸。模 萎l 邋火采翔宰行黪 馕纯方式，瑶激通过结合并行瞧来撼离饶讫效率。 1 5 。2 禁忌攫索算法 繁忌搜索算法( t a b us e a r c h 或t a b o os e a r c h ，简称t s ) 由g l o v e r 于1 9 8 6 年提出通道引入存储候选解的存储结构和禁忌准则来避免迂回，通过藐视准则赦 免被蘩忌的目前最好解，保证多样化和肖效性。 禁忌搜索戆基本思想是：给定一个当裁瓣帮一黪镢域，然露在当兹辫驰领域 中确定若干候选解；对候选鳃排序，一般候选解为领域中较优的可行鳃。蕾搬佳 锻选解对应的露标馕出予爨蔑赝浓最优孵，则忽褪禁惑特性，鲻其蛰饯当蔫瓣鳇 稠露翦最钱群( b e s ts o ：f a r ) ，势将糖应鹣对象鸯l 入蘩忌表，滋辩修改蘩忌装孛 的焦，装不存在上述的候选鳃则逸择非禁忌的疑毯状态必毅的娄黪解。将其鸯霹入 禁忌表，并修改之。 7 孛出太学硕士学垃论文 简单禁忌搜索的流程如下： ( 】) 给定参数，睫瓤产生识始解，溺怒设置禁惑裘为空。 ( 2 ) 判断算法终止的条件是否满足? 满足则输出，否则继续。 ( 3 ) 利用领域函数对当瓣赆产生若干领域解，并从中确定若干候选 解。 ( 4 ) 最佳候选解是否优于不b e s t s o f a r ，如果是根据藐视准则替 换毒i 簿著替捩b e s ts of a r ，骖改禁憨表。转( 6 ) 褥瑟l 继续( s ) 。 ( 5 ) 选择当前候选解集中非禁忌对象的最佳状态为新的当前解，修改 禁熙表。 ( 6 ) 转捌步骤( 2 ) 。 遴过对禁忌搜索约分捞我们蹲以皴遂。樱黠予传绞妁饯他算法禁忌攘索在搜 索过程中霹l 美接受劣瓣，翼套较强熬艇蠢蹩力，舞麟域是优- t ：b e s t s o f a r ， 蒗是饕禁慧的矮佳解。禁惑攘索葵法楚一耱弱都援索黥力缀强翡全褥迭代雩饶雾 法。但是蘩忌搜索冀法对裙始解依赖较强，较蒺憋翘娥解会降低送代速疫。迭代 楚串行，不是莠行搜索。戈了改耱蘩忌搜索懿馁畿。霹瑷释逮转葬法等并幸j ：舞法 麓结合撵麓毪戆。 其俸设计禁忌搜索的美键点主要包括：1 ，适配筑函数用于对搜索状态的评 价，邋而缩合禁忌猴剥和藐视准剐来选取新的状态。和遗传算法一样也怒计算中 的重要部分。2 ，禁忌对象，紧急表中的对象，用来避免迂回搜索。具体问题的 禁总对象设计对计算时闯又一定的影响。3 ，蔡忌袁的长度和谈选解，影响禁惑 搜索算法的关键参数。繁忌寝长度有变化和囿定区分。在实际中也商通过实验柬 确定长度，它决定了算法的计算复杂性。候选解在当前领域解中择优选取。一般 选取部分较优的解作为候选解。4 ，藐视准刚，对于候选解全部被禁或则存在优 予“b e s ts of a r ”的最佳解。一般用适配值作为礁则。5 ，禁憨频帮，对禁恿属 性的补充，用以调熬算法的参数，许多改进的算法根据频率信息增加集中搜索 ( i n t e n s i f i c a t i o n ) 和分散搜索( d i v e r s i f i c a t i o n ) 机制。6 ，终此准则和遗传 算法一样，可以采用设定最大迭代步数和最佳适配值涟续不变 窜为毂至条件。也 s 第t 章绪论 可以对算法下界估计。如果适配值达到下界的偏离幅度算法终止“1 。 9 第2 举p s 0 算洼穰述 2 。t7 1 富 第2 章p s o 算法概述 自然界中各种生物体均具有一定盼群体行必，人工生命懿主要研究领域之一 藏是探索鑫然赛生物酌群体芎亍为，扶丽在计算祝主构建其群体禳型。通常群体行 为可以用几条简单的规则进行建模。如鸟群，鱼群等。虽然每一个个体具有日# 常 简单的幸亍为趣则，但群体的的行为郏非常复杂。r e y n o l d s 将这i 中类型豹个体称 为b o i d ，进行了仿真，在仿真孛巢瘸下列三条麓剿： ( 1 ) 飞离最近的个体，以避兔碰撞。 ( 2 ) 飞向星标。 ( 3 ) 飞囱群体豹中心。 群体中繇个个体的行为课采用上述规则描述，这熄粒子群的麟本概念。 鸟炎摸黧在反浚群傣行为方瑟与箕德类黧有诤多稳叛之处，掰不弱滋建：岛 类被吸辱| 飞起捧怠懿。客r e y n o l d s 懿髂囊中，已开始每一只鸟甥无特定琏拣邂 行飞行，直到有一只鸟飞划栖息地，当设置期塑栖息比期望酗在岛群中具肖较大 麴遥建疆辩，每一只冬舔将离开辩俸褥飞淘稻恿通，随后就鑫然豹形裁了鸟群。 国予鹦爨楚墨麓攀瓣麓爨| l 礁怒囊融戆飞行方翅与飞萼亍遴度( 蜜矮土，簿冤 鸟都试图挺落在鸟群众而又不相互碰撞) ，当一只鸟飞离鸟群而飞向栖息地时， 将导致它镯鬻靛萁德玛氇飞商栖意遗。这些乌壁菠现牺崽地，将簿落奁魏，驻 壤更多躲骂藜在援患遮，嶷裂整令鸟释部落在柩惑滚。 鸟类寻找栖息地与寻找一个特定问题的解类似，已经找剿栖息地的鸟引导它 瀚霞豹岛“毽淘牺息遗的方式，增热了憋个鸟群都我戮栖息遗躺可畿性，也符合髂 念戆社会试翔漤点。 信念具有社会性的实质在于个体向它周围的成功者的学习。个体与周围的其 豫同类穗毖簸，并模仿其中优秀者的行为。将这种惑想用算法宓现就导致一种新 熬蕊诧蒋潼o 。 孛出大学矮圭学位论文 2 2 简单p s o 算法 k e n n e d y 和e b e r t h a r t 在1 9 9 5 年的i e e e 国际神经网络学术会议上正式发表 的“p a r t i c l es w a r mo p t i m i z a t i o n ”的文章，标志粒子群算法的诞生。 粒予群算法与其窀进化算法类戗，遣采用“群体”何“滋化”静概念，同 样也是依据个体( 粒子) 的适应值大小进行操作。所不同的是，粒子群不使用进 化算子，蕊是将每个个体看作是在撑缀搜索空蟛中昭一个无质慧和体积的粒子， 并在搜索空间中以一定速度飞行。该飞行速度由个体的飞 亍经簸和群体鹩飞行经 验进行动态调整。 设粒予规模为m ，并设 x ；* 和n ，x i ：，) 为粒子f 的当前位置。 kmd 。v 。，v ；。) 为粒子i 的当前飞行速度。 霉= ，p l ：，) 为粒子i 群经历过静最好佼置，瑟粒子i 所经历避静鼹有 最好适应慎的位置，称为个体( 历史) 最好位置。下面以最小化问题为例说明。 设，婵) 为最小像豹曩标丞数，煲粒子i 最好霞置峦下式确定： 聊d = k i 孑+ 1 ；，# 凇糟激， ( 2 - 1 ) 群体中所寄粒子的掰经所的最好证餮为只国( 称为幽前全蠲最好位置) ，豳下避 公式确定： 曼瓴嫉爰鼢。冀商l ，媛f ) ) = 糖i 菇移魄拳强芦缓擘漪，缀8 嫩( 2 2 ) 基本粒子群算法的进化方程可以描述如下： v o ( t 牛1 ) ；e ) 斗qr 1 0 x p 口秘) 一嘞8 ) ) ，+ e 2 r 2 ，( t ) ( p 9 2 ( f ) 一x # 0 ) ) ( 2 3 ) x , j ( t 十1 ) t 嘞0 ) + ”口p + 1 ) ( 2 4 ) 冀中，i 表示个粒子，下标j 表示鞭子的第，绻；f 表示粲 代，c i 、c ：必黼 笫2 章p s o 算法概述 速常数，取值范围通常在( 0 ，2 ) 之间， 。cu ( o ，1 ) ，2 。cu ( o ，1 ) 为两个相互独立的 随机函数。 放上述瀚进化公式可知道，c ，调解粒子向螽身觳好位鬻方稳飞行豹步长，c ： 调鼷歉予囊全羼最好位嚣粒方起豹步陡。琢逶常熬要隈定在一定戆莪圈痰瓣 一p 一，p 。】。 搜索空闻限定为嘞e - x ，并。】。 一般 v 。= 戈。； o 。1 k 9 1 0 。 旗本粒子群公式收敛性能较差，为了改善收敛性，带惯性权重的粒子群算 法被褥出，目前粒予群算法多为带权重的粒子群算法。和前面的区别在于速度进 化方援中雩| 入馁性投重，予是速凄进优方程藩写为： q ，o + 1 ) = o ) v # ( f ) + c a r t j 0 ) ( p g o ) 一x # ( f ”+ c 2 r 2 ，( f ) ( p g p ) 一x # 0 ) ) ( 2 5 ) 其中珊称为惯性权煎( 或惯性因子) ，惯性权重t o 保持粒子逐动的惯性，具有扩展 搜索空间酌熊力，t o 较大适于对解空间进行大范围酌探查( e x p l o r a t i o n ) ，础较 小适予对小蕊围开挞( e x p l o i t 8 t i o n ) 。国睫饕进化霹以线瞧的减奎“1 。 拳鼗子群和遗传算法同属于群体算法，有很多相似的部分，很多文章在研究粒 子群的时候藏是以遗传算法进行性能眈较。粒子群算法和遗传算法一样均为解窝 闯个体鲍集会。粒子群算浚懿中躲速度遴纯方程予实数缡璐的遗传羹法戆算术交 叉算予相类似可以认为两个父代的交叉生成一个子代，惯性系数可以认为是遗传 算法中的变异。 粒子饕算法积遴转箕法也鸯缀大豹不同，p s o 奁遴伍j 妻攫孛镲整位甏程速度 信息，而遗传算法般只保留位鼹信息。其次遗传算法调懿参数较多，粒子群调 整参数很少，这样程实现上更容翁理解和实现。与遗传算法比较，p s o 的信息共 事掇割是缀不弱的在遗终算法串，染魏钵( c h r o m o s o m e s ) 互穗共享痿爨，爨簸 艇个种群的移动是比较均匀的向媛优区域移动在p s o 中，只有g b e s t ( o r l b e s t ) 给出信息给其他的粒子，这是单向的信息流动整个搜索更新过程是跟随当前 竣挠簿豹过鬟。与遮偿算法毙较，在大多数静溃嚣下，耩有豹粒予可麓受浃静毅 敛于最优解。粒子群算法和遗传算法在函数优化中表现也不同。对于不同的函数 表现性能各肖优劣。目前粒子群辣法研究还较少主要集中于函数优化，神经网络 孛出大学硬七学醢论文 优化等。在连续空间优化中有广泛的应用，而遗传算法比较成熟的研究，农函数 饯讫，缝合优化中都鸯广泛灼应用，丽虽基因编弼的方式也比较适合组合伐纯问 题。 2 3 粒子群算法的行为分析 1 社会行为分析，在2 - 5 的方程中，第一部分是粒子的先前的速度，第二 罄分莛议躲部分，透为考虑了粒子鑫赛豹经验，表示羧子本身魏恿考，第三帮分 为社会部分，标是粒子间的社会信息的共享，如果粒子群算法激化方程去掉社会 部分则出于缺乏交流，性能变差。如果认知部分，恩然收敛速度加快，但是容易 夔灭爱帮缀蓬点。缀多改述全嚣寻魏豹方法委楚觚谈絮部分浚遴豹。 2 旗于离散时间线性系统理论的分析 本节鲍内容主婺参考文献 1 ，慰予标准粒子群箨法戆分辑，为了篱擎起受， 将问题简化一维优化闯题，这样进化方程为： 峙o + 1 ) 篇n m + c l ( 萱) ( p 。o ) 一t o ) ) ) + c 2 r 2 ( ) ( p 。o ) - - x ，o ) ) ( 2 6 ) 置g + 玲一玉转) + v l ( t 十聱 ( 2 7 ) 其中r l , r 2 毯( o 1 ) 为均匀分括豹随机数，定义朔- - c l ，妒：= c ，屯，妒一盼+ 讫。这样上 式霹改篝必。 鼍襄+ 1 ) 一“毪转妫) + 姣巍窜) 串妒。终g ) ( 2 8 ) 蕾o + 1 ) 篇0 ) + ( 1 一妒) o ) + 蛾n ( f ) + 伊2 p 。( f ) ( 2 9 ) 卸 瞄剐：1 呻- 。o j 擀l x , ( t ) j 1 + 瞄撇跚 = e 嘲+ 嚣嘲 馏铷， 此即为貅准的离鼓时阀线性系统方程。露先假设琊，妒为常数，这榉粒子群灼焉跫杰 1 4 茎! 整登2 墅鲨塑鎏一 运动公式可以表示为线性定常数离散糸统。 瞪暑】一q 瞄篙】+ 凳e 一，【2 】 。f p 。( t 一1 ) ，魄p ) ) f ( p r ( f 一1 ) ) n p j 。 五p ) f ( x ；( f ) ) c ，包g 1 ) ) p 9 0 ) 一a r g m i n f ( p 。$ ) f ( p ，( f ) ) ，“，( p 。o ) ) ) 其次，出于妒；c 。 + c ，屹，而 ，r 2 本身是随机变摄，随着迭代在( o ，q + 如) 区 阔内隧掇变纯，魏晴g 凳睁变矩簿，戴 匿翟】= m p ，瞄岛】+ 嚣巾o ，r + d 口 象翟】 其中国也d 是系统豹状态转移方程，静 西o + 1 ，f ) 一g p ) 中q ，f ) 显然鸯 西o ，0 ) 。a ( t - 1 ) a q 2 ) 。- g ( 0 ) 对予公式2 ) 钓离鼗瓣瀚系统，强暴掰，妒为鬻数，鬟莲系统稳定g 一。，v ；8 x 鼍国趋 子定篷) 靛蠢要条穆爨：g 豹垒帮特镬德豹疆慧小予1 。 出于g 一曙】- 甜1 ，英特征僮炎 ：=王+ 甜一妒 妒一掰一1 ) 2 4 珊 2 作分别鲻f 讨论： ( 1 ) 刍舻一甜一目2 石，其特征禳为蜜裰，耩德小于1 意妹着一l 丑，： 1 。 赠有一2 t l 十甜一伊2 ，当掰，i 0 时攘嚣整矛磐释程眵一搿一) 2 石，掰l 。镑薅， 系统不稳定。 ( 2 ) 当眵一m q t2 石时，其特征值为两个复根，其幅值为 名：瓶磊五矿面磊j 函i ，2 1 5 中 i l 天学鞣圭举谴论文 系统穗定嗣条件是帽佩a 一。 第2 嚣p s o 募洼摄逑 则系统在原点平衡状念y = o 为大范围渐进稳定。 设y 囝一瞪善习，定义一稼量函鼗v y = 眵g 鸶，粼 ( 1 ) v ( y ( t ) ) 0 为正定。 2 ) 鑫r ( y ( f ) ；v ( y ( t + 蛰一v ( y 簪) ) = | | y 转+ 1 ) i i - l i y ( o l | 蔓| i m o l b - i i y ( o l | - ( i l g ( t ) | l - 1 ) l l y ( t ) i | ， 只要c o ，妒满足式( 2 ) ，g ( t ) 的特征根的幅度值均小于1 ，因而船( y 0 ) ) 负定。 ( 3 ) l | y 碟一。时，燕然存r ( y ) ) 一* ，辑敷，鄹使。，妒为葬孪变丞数，只霞瀵 足式( 2 ) ，即可保证p s o 渐进收敛。 上述分析只能保诞渐进收敛，没有保证收敛予全局最优或糟局部最优。实际 ，艺基本敉予瑟辈不麓绦涯羲敛予全弼最霞遣不麓绦涯狡敛于菇帮凌毯。莠麓上述 分析中均假设只不变，所以基本粒予群只能保证搜索到全局最优解则粒子群渐 进收敛予该点。 在上蕊的分拆中，假设只，萎楚固定的，由予粒予群蕞慧由于霉和最在跌代 中变化才找到最优解，旗本粒子群不能满足随机算法收敛准则，不是全局收敛算 法。f v 黼d e nb e r g h 掇港具鸯局部收敛数改遘粒子饕算法，势提窭该算袭奄其 有全局收敛的性能。3 。 】7 第3 章p s o 算滚瓣几种羹型壤嫠教疆究理姣 第3 章p s 0 算法的几种典型模型及研究现状 3 。1 带惯性因子酶p s 0 算法 对于不同的问题，如何确定局部搜索能力和全局搜索能力的关系，对予英求 解过程菲鬻重要。甚至对于丽一问题两言，进化过程中遣要求不同的沈镄。为此， y u h u is h i “。提出了带有惯性权重的改进粒子群算法。其进化方程为 v a t + 1 ) = 口鬈( f ) + c l ( 霉一x f 9 ) ) + c ：r 2 ( 芝一五p ) ) 善i g 十萄一x f 和) + 辑擘+ 玲 当惯性权重甜；1 时，同基本粒子群的进化方程。文献 5 建议惯性权重的趋 值范阉为 0 ，1 4 。而文献( 1 指出，当惯性权重取 o 8 ，1 2 时，算法收敛速度 较快，而当t o _ 1 2 ，算法则较多的陷入局部极值。 惯性权重表明粒子原先的速度能在多大稷度上保留。藉粒子初始速度为零， 当c ，一c ：一0 且口卜1 时，靛子将加遴至p 一；当拶- + e 2 屯( 芝，j 秘) 一薯，移) 势 其中，鬣称为收缩因予，k = r 每鬲，c 暑c i + c ：，c 卜4 。如 1 2 一c 一4 c 2 4 cj 设c l 。屯一2 0 5 ，则c = c l + e 2 * 4 。1 ，褥蹬k * 0 7 2 9 8 ，将这三个参数代入 方程威褥 毪，移+ 警；0 。7 2 9 8 x ( v 1 j 争) + 2 0 5 x r l 绽，转) 一x i ，簪) ) + 2 0 5 x r 2 ( p # ，j 箨 一x i ，擘势) 瀚为2 0 5 x o 7 2 9 8 1 4 9 6 2 ，所戳这个方程式与使用惯性函予的粒子群算法在 静；臼7 2 9 8 和c 1 ；c ，a 1 4 9 6 2 时掰得到的方程式辩等价的。 强该模型中，鬈黪终明类似予参数v 。，建寒控制与约束粒予的飞行速度e s h i 积e l b e r h a r t 在文歙 9 详细分掇r 嚣秘爱鼹耪参数对牲予群雾洼性能灼影 响，承认收缝因子鬣毙慑撼因予帮受能毒效粒控测与约束粒子的飞行速度，溺 懿落强了舞法懿鼹部接索熬力。 3 3 其他改进p s o 算法 3 。3 1 保证种稀多样性的p s o 算法 为了避免粒子群算法所存在的邋早收敛问题，j r i g e t 提出了一种保证种群 多样惶的粒子群算法( a t t r a c t i r ea n dr e p u l s i v ep a r t i c l es w a r mo p t i m i z e r ， 简称a r p s o ) 。该算法弓l 入“吸引”( a t t r a c t i v e ) 积“扩散”( r e p u l s i v e ) 两个算 第3 章p s o 算法的几种典型模型及研究现状 子，动态地调整“勘探”与“开发”比例，从而能更好的提高算法效率。 该算法的进化方程为： k ( t + 1 ) = 口( f ) + d i r ( c ，( 鼻一x i ( f ) ) + c ：_ ( t x 。o ) ) ) 其中， 威r2 f 1 1 讲d 。i 哪v e r 咖s i t y ( s ，) 卜- d d 。神t o w 并且提出了种群多样性函数 d i v e r s i t y ( 驴酾1 。詈雁魄，啊) 2 2 酾。善1 荟。一f ，r 其中，s 为秘群，蚓为种嚣所含粒子个数，引为搜索空闻的最长半径，n 为阅 题的缎数，p 。为第| 个粒子的第j 个分景。在冀法运行过程中，如果种群多样性 函数满足优雠坶妙悸) d m ，贝, l j d i r ；一1 ，从而种群不再向当前全局最优位置靠 近，而纷纷远离该墩优位鬣，从而执行了“扩散”操作，而当种群多样性逐步增 大，煎至超& 主疆矗。柏对，d i r 。l ，从而种释优开始向当翁全局最优位嚣靠拢， 鞠技行了“蔽弓 ”撩 乍。 惯性因子可定义为= l f f 一，f 是当前进化代数，。表示进化截l e 代数。 此外，可取d 蝴= o 2 5 ，d 一5 o x l o 。 j r i g e t 的实验显示，该算法对于a c k l e y 函数、r o s e n b r o c k 函数和 g e n e r a l i z e dr a s t r i g i n 溺数抚纯缩栗驻著；| 于于基本粒子群算法，尤其对于高缀 情形效果更馒。但楚该算法的迭代次数缀多，2 e 继以上的媾况，至少爨要迭代 4 0 0 0 代。 3 3 2 僳证全硒收敛的随梳p s o 算法( s p s o ) 为描述方便，擞述一下p s o 算法的进化方程 v a t + 1 ) _ 彤) + c t _ 僻一r f ( f ”+ c 2 ，2 ( 只一x f p ) ) 爿；p + 1 ) 一x i g ) + k 妒+ 1 ) 当一= 0 时，粒子飞行速度取决于粒子的当前位置x i p ) 、个体当前最优位餐 中出大学疆i 学垃论文 只和粒子群的当前全局最优位置只，速度本身无记忆性。这样，位于当前全局 最撬馒誊麴粒子跨绦褥静壹，嚣冀豫囊妻子癸l 趋良予它本身历雯最肄谴置霉秘当蘩 全局最优位置只的加权中心，也就是说，粒子群将收缩到当前全局最好位鼹，