（系统工程专业论文）计算智能在控制、优化和决策中的应用研究.pdf

一一 蛊塞塑塞 摘要 经过半个多徽纪的发展，最後佬理论和相关的优纯弊法已逐渐成熟。 这般在运筹学( o p e r a t i o n a lr e s e a r c h ) 和数学规划工具( m a t h e m a t i c a lp r o g l a r q r u i n g ) 基礁上形藏瓣最往傀算法，葵有理论宠备、簿法效率囊、稳定缝好等优 点，因而在许多需露进行优化计算的场合被广泛的使用。但是，这臻算法本质 上帮菱予撵发嚣算，袁些甚蓬踺基檬嚣数鸯连续二狳霹导戆器求，势虽觳不 能禽有离散的变量( 除混台艇数规划外) ，严重的限制了应用范围。而且，基 于横度鑫孽冀法对视娥点舱逸取位置黟重姣藏，不能保程收敛裂全鼹簸忧撰或凑 近似的全局最优解。髓着社会的进步，技术的创新，当需要求解的问题比较复 杂时，特别是当需瑟进行不确定系统研究面镫来魄多层优化命题产生时，这些 算法在求解上就遇刘了困难。这对，人们往往就需襄求助于计算智能。 本论文的研究目标是探索计算翎能在优化领域的应用，不仅研究传统的堆 层饶亿命题，而且掰究以m i n i m a x 德亿为代寝鲸多麓往往命邋；不彼考虑算法 的有效性，而且兼顾算法的稳定性。针对一般的带有等式约束和不等式约束的 j # 线佳撬纭l 、蠢嚣，瓣遗了耱经动力学求解模麓，黯多模豹饕线往挽豫润莲改遘 了粒子群算法以获得更好近似全局墩优解。随后，阎时利用神经网络和进化计 算，对m i n i m a x 双屡佐耽愈繇遴簿募法设诗，褥到了鼹耱不鼹特点鹣爨法。在缝 够求解- m i n i m a x 问题的基础上，探索了相关的应用联域。比如，在不确定系统 中，透过m i n i m a x 算法进行麟悔度计冀，势憨区间数优化阀题转化为等价的多匿 标优化问题戳求解。另一个应用实例是鲁棒p i d 的设计，通过m i n i m a x 计算熬定 控镱4 器参数，使最怨劣工况下系统性仍然能够保持谯一个令人满意的水平上。 本文的主要研究工作与露献如下： 1 对诗冀智能在优往方嚣鳃瘦弱熬魇史彝现状避经了详尽懿分辑秘综述，磐 提出将优化计算拓展到不确定系统中的思想。特别详述了参数不确定系统 的一个重要分支，即髑区间数描述豹参数不确定系统的优化命嫩的研究现 状。 2 毒孛经鼹终动力学原理翔予鳃羧肇基标致凭证鑫鬏。带存笛式约寐窝不等式 约束的一般非线性优化问题，怒单层伉化的难点。使用增广l a g r a n g e 乘予 法求解时，虽然可以避免罚参数无眼增大的棼病，但网时也提出了一个 难 三l 袋解的予命题。本文中运用l y a p u n o v i 函数和l a s s a l l e 不变憾原理，采 一l 一 中文摘要 用微分动力学系统为增广l a g r a n g e 乘子法的子命题设计了一个神经网络模 型，从而使得目标函数和约束条件一阶可微的一般非线性优化问题能够顺 利求解。 3 单层优化的一个难题是全局最优解或者近似全局最优解的获得。进化算法 能够很好的避免陷入局部最优解从而备受青睐，粒子群算法就是近年来新 发展起来的一种仿生算法。但是进化算法中的一些参数设置通常是通过比 较实验获得的，缺乏理论上的依据。本文分析了粒子群中独立粒子的运动 轨迹，以及摧个粒子群系统的稳定性，在此基础之上提出新的参数设置方 法。新方法不仅符合理论上的解释，而且通过标准测试函数库的检验表明 新算法是有效的。文中涉及的稳定性研究在粒子群算法研究中是不多见 的。 4 不确定系统的建模求解，离不刃：m i n i m a x 问题的最终解决。本文 为m i n i m a x 优化这个几乎是崭新的优化命题设计了多种求解算法：首 先是神经网络算法。神经网络的计算速度快，利于电路实现，同时算法的 稳定性也得到了证明。其次是基于进化计算的算法。该算法综合了遗传算 法和单纯形法的优点，主要应用于求解目标函数不可微的m i n i m a x 全局优 化。 5 对不确定系统中的一类问题，即用区间数作为参数进行建模求解的区间数 规划问题，本文受顾基发研究员的“物理一事理一人理( w s r ) ， 2 6 的 系统科学思想的启发，创造性的提出了一个结合目标函数期望，不确定度 和后悔度的三目标鲁捧优化命题，本优化命题可作为原不确定系统优化命 题的替代命题。此外对含区间数参数的不等式约束的处理也提出了新的转 化准则。 6 由于参数不确定性和滞后特性的存在，整定好的控制器在环境产生波动的 情况下有可能失效。针对这种工业过程，本论文基于l q r 性能指标( 该指 标和衰减系数和自然频率密切相关) ，研究了具有滞后的不确定频域系统 的鲁棒p i d 控制器设计。通过这种方式设计出来的控制器不仅在通常工况 下有和其他控制器相近的良好性能，当工况发生改变乃至其他控制器失控 的情况下，仍然能够对过程进行平稳的控制。 中文摘要 关键词：计算智爱，辩经翅络，送像诗募，遥铃箨法，粒子瓣，不确定系统， 区间数舰划，m i n i m a x 优化，多目标优化，鲁棒控制器设计 一i 珏 英文摘要 a b s t r a c t h a v i n gd e v e l o p e df o rh a l f 8 1 1c e n t n y , t h ec o n v e n t i o n a lo p t i m i z a t i o na l g o r i t h m s w h i c ha r eb a s e do nt h eo p e r a t i o n a lr e s e a r c h t h e o r ya n d s o m em a t h e m a t i c a l p r o g r a m m i n gt o o l sc o m ei n t om a t u r e s u c ha l g o r i t h m sh a v eb e e nw i d e l yu s e di nm a n y f i e l d s d u et ot h e i r h i i g he f f i c i e n c ya n dr o b u s t n e s s h o w e v e r , t h e yu s u a l l yr e q u i r et h eo p t i m i z e d f u n c t i o n st ob ec o n t i n u o u se v e nh i 【g l lo r d e rd i f f e r e n t i a b l e w h a ti sm o r e ，t h e yh e a v i l y r e l yo n t h ei n i t i a lp o s i t i o no fs e a r c h ，w i t h o u tg u a r a n t e eo ft h eg l o b a ls o l u t i o n s w h e n c o m i n gt od i f f i c u l tp r o b l e m se s p e c i a l l yt h o s e e x i s ti nt h eu n c e r t a i ns y s t e m o p t i m i z a t i o n ，p e o p l es o m e t i m e s r e s o r tt oc o m p u t a t i o n a l i n t e l l i g e n c e t h e o b j e c to f t h i st h e s i si st h ea p p l i c a t i o no f c o m p u t a t i o n a li n t e l l i g e n c ei no p t i m i z a t i o n ，n o to n l y t h e s i n g l el e v e lo p t i m i z a t i o n ，b u ta l s ot h em u l t i l e v e lo p t i m i z a t i o n b o t ht h ee f f i c i e n c ya n dt h es t a b i l i t yo f a l g o r i t h m sa r ec o n s i d e r e d f o r g e n e r a l n o n l i n e a r o p t i m i z a t i o nw i t h c o n s t r a i n t s an e u r a ln e t w o r km o d e la n dar e v i s e dp s o a l g o r i t h m a r e p r o p o s e d f o rm i n i m a x t w ol e v e lo p t i m i z a t i o np r o b l e m ，n e u r a ln e t w o r ka n d g e n e t i c a l g o r i t h ms o l u t i o n sa r ep r o v i d e d ，r e s p e c t i v e l y a f t e rt h a t ，t h em i n i m a xo p t i m i z a t i o n i sa p p l i e di n t ot h eu n c e r t a i ns y s t e ma n a l y s i s t h r o u g hm i n i m a xa l g o r i t h mt h er e g r e t i n d e xc o u l db ec a l c u l a t e d ，t h e nt h ei n t e r v a lp r o g r a m m i n gi st r a n s l a t e di n t oe q u i v a l e n t m u l t i o b j e c t i v ep r o g r a m m i n g a n o t h e ra p p l i c a t i o ne x a m p l e o fm i n i m a x o p t i m i z a t i o n i st h er o b u s tp 1 dc o n t r o l l e rd e s i g n b yt h i sd e s i g nm e a s u r e m e n tt h ec o n t r o lq u a l i t yi s g u a r a n t e e de v e n i nt h ew o r s t w o r k i n gc o n d i t i o n s t h em a i nc o n t r i b u t i o n so f t h i st h e s i sa r el i s t e da sf o l l o w i n g ： 1 t h eh i s t o r ya n dt h ec u r r e n tr e s e a r c hp r o g r e s so fc o m p u t a t i o n a li n t e l l i g e n c ei s s y n t h e s i z e d ，e s p e c i a l l y t h o s ea l g o r i t h m sa p p l i e di nt h eo p t i m i z a t i o nw i t hi n t e r v a l n u m b e r p a r a m e t e r s ，a ni m p o r t a n t b r a n c ho f t h eu n c e r t a i ns y s t e m 2 an e u r a ln e t w o r ks o l v e rf o rt h ea u g m e n t e dl a g r a n g em u l t i p l i e r ( a l m ) m e t h o d i sp r o v i d e d ，w h i c hh a saw i d ea p p l i c a t i o ni nt h ec o n s t r a i n e dn o n l i n e a ro p t i m i z a t i o n p r o p o s i t i o n s ad y n a m i ca p p r o a c h f o rt h em i n i m i z a t i o n s u b p r o b l e m i na l m m e t h o di sd i s c u s s e d ，a n dt h e nan e u r a ln e t w o r ki t e m t i v ea l g o r i t h mi sp r o p o s e d f o rg e n e r a lc o n s t r a i n e dn o n l i n e a ro p t i m i z a t i o n 一一 英文摘要 3 ap s ow i t ha ni n c r e a s i n gi n e r t i aw e i g h t d i s t i n c tf r o maw i d e l yu s e dp s ow i t h ad e c r e a s i n gi n e r t i aw e i g h t ，i sp r o p o s e df o rt h es i n g l el e v e lo p t i m i z a t i o np r o b l e m s f a rf r o m d r a w i n g c o n c l u s i o n sf r o ms o l ee m p i r i c a ls t u d i e so rr u l eo f t h u m b ， t h i sa l g o r i t h mi sd e 巾e df r o m p a r t i c l et r a j e c t o r ys t u d ya n dc o n v e r g e n c ea n a l y s i s f o u rs t a n d a r dt e s tf u n c t i o n sw i t ha s y m m e t r i ci n i t i a lr a n g es e a i n g sa r eu s e dt o c o n f i r mt h ev a l i d i t yo ft h ep s ow i t ha ni n c r e a s i n gi n e r t i aw e i g h t f r o mt h ee x - p e r i m e n t s ，i ti sc l e a rt h a ta p s ow i t ha ni n c r e a s i n gi n e r t i aw e i g h to u t r ) e r f o r m s t h eo n ew i t ha d e c r e a s i n gi n e r t i aw e i g h t b o t l li nc o n v e r g e n ts p e e da n ds o l u t i o n p r e c i s i o n ，w i t h n oa d d i t i o n a lc o m p u t i n gl o a dc o m p a r e dw i t ht h ep s ow i t had e - c r e a s i n g i n e r t i aw e i g h t 4 t h em i n i m a x p r o b l e mi sas i g n i f i c a n tt o p i ci ns i g n a lp r o c e s sa n dp r o c e s sc o n t r o l ，w h i c h i sr e l e v a n tt or o b u s t n e s s ，p a r a m e t e r su n c e r t a i n t y , a n d s i g n a ln o i s e e t c h o w e v e r , e f f i c i e n ta l g o r i t h m sa r es c a r c e ，e s p e c i a l l yt h o s ef o rg e n e r a lm i n i m a x p r o b l e m w i t hn o n l i n e a r e q u a l i t ya n di n e q u a l i t yc o n s t r a i n t s an o v e ln e u r a ln e t - w o r kf o r g e n e r a lm i n i m a xp r o b l e m h a sb e e ne o n s t r u c t e db a s e do na p e n a l t y t i m e t i o na p p r o a c h t h eo n l yr e q u e s to no b j e c t i v ef u n c t i o na n dc o n s t r a i n tf u n c t i o n s i st h a tt h e ys h o u l db ef i r s t o r d e rd i f f e r e n t i a b l e al y a p u n o vf u n c t i o ni se s t a b - l i s h e df o rt h eg l o b a ls t a b i l i t ya n a l y s i s t h es g a ( s i m p l e x g e n e t i ca l g o r i t h m ) ， a n i m p r o v e da l g o r i t h mo f g e n e t i ca l g o r i t h m f o r s o l v i n gs t a c k e l b e r g - n a s he q u i l i b r i u m ，i sa l s op r o p o s e d f o rt h em i n i m a x o p t i m i z a t i o n 5 f o rt h eu n c e r t a i n t yo p t i m i z a t i o nw i t hi n t e r v a lc o e f f i c i e n t si nt h eo b j e c t i v ef u n c 。 t i o n ，ar o b u s to p t i m i z a t i o nf r a m e w o r ki sp r o p o s e d ，i nw h i c ht h ec o n c e p to f “r e g r e t ”i si n c o r p o r a t e d t h i sf r a m e w o r k i si n s p i r e db yt h em e t h o d o l o g yo f “w u l i s h i l i - r e n l i ”【2 6 1r a i s e db yj g u t h r o u g ht h i sm e t h o d a nu n c e r t a i n t y o p t i m i z a t i o np r o b l e mm a y b et r a n s f e r r e di n t oa t r i o b j e c t i v ep r o g r a m m i n g t h e t r a d e o f fa m o n gt h ea v e r a g ev a l u eo ft h eo b j e c t i v ef u n c t i o n ，t h eu n c e r t a i n t yo f e n v i r o n m e n ti nad e t e r m i n a t ed e c i s i o n ，a n dt h er e g r e tb e t w e e na n yt w od i f f e r e n t d e c i s i o n sa r eb a l a n c e d l yc o n s i d e r e d 6 an e wp i dp a r a m e t e r sd e s i g nm e t h o di sd e v e l o p e do nl q rc r i t e r i o na p p l i e d m i n i m a x o p t i m i z a t i o n am e l i o m t e dg e n e t i ca l g o r i t h mi su s e d a st h es e a r c ha l g o r i t h m t h i sm e t h o d c a n , f i r s t ，o b t a i na ne x p e c t e dc l o s e - l o o pp e r f o r m a n c ea n d v 英文摘要 p r o c u r eap r o x i m a t el q rw e i g h t m a t r i xv i ac h o o s i n gt h ed a m p i n gr a t i oa n dt h e n a t u r a lf r e q u e n c y ；s e c o n d , m i l d l yi n t e g r a t ep r e d i c t i v ec a p a c i t yt op i dc o n t r o l l e r ； t h i r d ，i n c r e a s er o b u s tp e r f o r m a n c et ob e a r t h em o d e le r r o r so rt h eo u t s i d et u r b u l e n c e k e yw o r d s ：c o m p u t a t i o n a li n t e l l i g e n c e ，n e u r a ln e t w o r k s ，e v o l u t i o n a r yc o m p u t a t i o n ， g e n e t i ca l g o r i t h m ，p a r t i c l es w a r mo p t i m i z e r , u n c e r t a i ns y s t e m s ，i n t e r v a lp r o g r a m m i n g ， m i n i m a x o p t i m i z a t i o n ，m u l t i o b j e c t i v eo p t i m i z a t i o n ，r o b u s tc o n t r o l l e rd e s i g n 第一帮绪论 第一黛绪论 璃甏；零鬻酶要弱秘颟了诗葵智麓辩璎论耩技术发黼史，叙述了计算智能的掰 究鹜爨，然嚣赞对耱经耀络释遽豫谤舞中鸯钱表後熬邃黄冀法帮粒子簿葬法， 蕊缭了遥a 年来它们在缀键纯方西酌辩藓逶震。藏瓣窝释了计爨褥麓在不确憋 优化和决蔬中的重要意义，并对本论义的工作做了愈貌性的描述。 美麓词；嚣赣罄戆，魏经礴终，遂纯诗算，滠毯傀，不缕爱系统，综述，发装 趋势 1 1 导裔 a 工帮麓( a r t i f i c i a li n t e l l i g e n c e , a i ) 簧a 类袭惩嚣诗葵援羹乎啜兹一夸梦 想。人工橱能在科学计算上的应用，称为计第帮脂( c o m p u t a t i o n a l i n t e l l i 。 g e n c e ) 。然霹近多举柬，久工餐熬豹磅突疑获了瘳次成功每失败黪起拣。驻i 瓣缝弼终魏发展历程麓铡，款1 9 4 3 年理学黎w s m e c u l l o e h 霸数学窳w p i 就跚 究势疆鑫m p 耱经嚣骥粼起瓣今天，人类黠糖经鬻络熬研突走避了拳令墼纪辩 历穰。这种糟a 工神经嬲路( a r t i f i e i a ln e u r a ln e t w o r k , n n ) 模j 茧 、仿真和近似 生物神经嘲络的探索，缝历了监折的缴展道路。 1 9 4 3 颦，w s 。m c c u l l o c h , 秘w p i t t s 【t 5 5 t 发表了稳爨戆裤疆瓣络穰整，实瑷 了耀数理逻辑的方法磷辩生物神经网络的创举。1 9 4 9 年d o h e b b 【11 3 】捷癌章卓 经瓣络学溜法瓣，帮簧名的h e b b 法煎f j 。1 9 5 8 年，er o s e n b l a t tf 1 8 1 蒸于此臻耀 攫邀了一释横式识别瓿，g # 蝼知枫( p e r c e p t i o n ) 横测，成为近代栉鳋计算的逸 发燕。1 9 6 2 棼b 。w i d r o w 2 t 6 1 鬟窭了蜜逶应绫链元释( a d a l i n e ) 髑终，棒鬟瓣 络的研究进入了一个商潮。 1 9 6 9 冬装强寐舞理工学貌豹著寝太工智麓专家m + m i n s k y 耧s p a p e r tf 1 6 1 菸 蘑爨舨了瓣豌缀大懿“p r e c e p t r o n ”褰，搴簿出笺肇秘经耀终炎姥逡瘸子线缝 趣戆翡戡躲，孬怼黎癸绶( x o r ) 遮释楚单戆l # 筑童璧楚蘧霉茏法求瓣。 氇爨簿 时指出，能够求解非线髋阀题的两绺，应该鼹其有隐屡的多屡神经网络，而将 感知枧模溅护震到多鼹越络楚莲有意义，还不能从蠼论上褥到鸯力的涯明。农 予戳添姆瓣港褒结论，虢及警薅整爨上浚逶瓣推爨蓦疆究鏊疆熬入王鬻戆建谂 和数字计算机的辉攮成就，太大降低丁人们对神缀计冀的信心鞠必趱，神经嘲 络的研究遴入了一个缀凝发凝的低戮勰。 篇一章绪论 既嚣整令7 0 年代中， 孛经掰络懿簪 究骜获续续嚣避行篱。1 9 7 2 年秘奉学 者中断馨 1 6 7 提出了联想机( a s s o c i a t r o n ) 记忆模型。同年芬兰的tk o h o n e n 1 3 8 发表了自组织映射理论。1 9 7 5 年另位日本学者福岛邦彦 1 0 7 提出认知机 ( c o g n i t r o n ) 模黧。 神经网络的第二次研究熟潮是伴随着h o p f i e l d 惩络模溅的诞生丽到来酾。 进入8 0 年代，经过十几年发展超来的以逻辑符号处理为主的人工智能理论和 冯诺依曼( c o nn e u m a n n ) 计冀机在一些信息处理阎题上遇到了挫折，而同 薅势纷分毒楚莲模式戆 枣经瓣终本身夔磅突成莱，筵久裁转嚣蓑爨了勰涎蘑 望。1 9 8 2 年美国加州理工学院的j j h o p f i e l dr 1 2 0 提出了以缎名字命名酌神经网 络模烈，首次引入了网络能量酌数概念，使网络稳定性研究有了明确的削据。 特别怒h o p f i e l d 嬲络成功的解决了n p 类型的旅行商问题( t r a v e l i n g s a l e s m a n p r o b l e m 。t s p ) 嚣，该阚终葶l 超学术赛瓣广+ 泛重褪。h o p f i e l d 辜孛经瓣缀筷壁对 于优化领域的研究衡有着特别熏疆的意义在于，一方面模激的诞生就是和求解 优化命题紧密相关的，另一方面h o p f i e l d 网络可以用电子线路近似的实现，可以 方便戆进行莠行诗黪。1 9 8 5 年d ，嚣r u m e l h a r t 霸3 。l 。m c c e l l a n d 1 8 3 及其磺究小 组撬鹚的并行分籀憝理( p a r a l l e l d i s t r i b u t e d p r o c e s s i n g ，p d p ) 静嬲络愚想，更是 增强了人们对具有并行计算能力的电子神经计算机的信心。1 9 8 3 年g e h i n t o n 和t _ j 。s e i n o w s k j 11 8 提出了波尔豫曼机( b o l t z m m m m a c h i n e ，b m ) 模型借助统 毒 甥壤学瓣粳念来改造毒枣经建终，其愚想与模羧逗火算法蠢鞠戳之楚，瓣器来 一黧计算智能算法的提出具有深刻静启发箨髑。1 9 8 5 年w o h i l l i s f l l7 j 发布了 名为联结机( c o n n e c t i o nm a c h i n e ) 的超级并行计算机，突破了冯诺依照计算 机的格局。1 9 8 6 年豳d e r u m e l h a r t 和g e h i n t o n 1 8 2 1 提出的误差反向传播神 经溅络( e r r o rb a c k p r o p a g a t i o n n e u r a ln e t w o r k , b p ) ，藏为至今影响最大戆一 种嘲络学习方法。神经两络作为种成熟的弊法，已经成功的被运用剿模式识 别、网像处理、语街处理。自然语言理解、机器人、专家系统以及最优化计算 等各个领域，取褥了令人瞩目的成就。 神经蹲络发激瓣跌宕起茯，楚符合入稍瓣事物由浚入深静获识筑律，氇符 合研究论证中“否定之否定”的哲学精神。从8 0 年代初神缀网络的研究稀次复 苏并形成热点以来，发展非常迅速，从理论上对它的计算熊力、对任意腆射的 逶邋躯力、学习联论l 美及动态瘸终鳇稳定经分瓣上郡取褥了事硕成果。掰鸯鳇 一切笼凝都在路示这一领域广黼静前景和无穷瓣潜力。 神经网络在诞篓e 之初和优化理论就有着不解之缘。任何机器学习问题最终 2 第章绪论 零瑶溢薅绩筠夔援翔联，嵇：较鬻露瓣燕麓谈差平方鹈痒鸯嚣黪薅羧，霉量霞浚 差平方和礅小。神缀附络的稳定特性和收敛速度，和它在连接极值计算过程中 误熬麴瑟瓣瞧覆( 缀毽蕊、搽凌等) 、聚崩憨搜索箨法、穆始点静设置帮袁漱 秘瓣美系。逡筹学纛钱鼗蠖论，特裂怒菲线性霞俊遴淦夔发爨，蹩襻经嬲终秘 究董终繇潋版囊逃行戆祷撬秘镰证。褥舅一方瑟，襻淹第二次鞠经鬻终熬濑黪 领热羊，h o p f i e l d 尉络模溅为代表的大批葳馈网络，又使得神缀网络反过来为 优饿计算服务，解决了些优化领域的经典难题。缀合优化闽磁触求解就是 剿。毽食倦晓遮嚣，蹶皂恿义，宅醑襄鼹对象霹黻餐薅是奁毒隧集套上定义憨 函数在各种条件下豁掇德问题。从璃论上说，这类闻题如存解，总怒可以碍梭 举瓣方法撬弼。这意踩麓戳分支定群法( b r a n c h b o u n dm e t h o d ，b & b ) 传绒 优他算法暴霄普遍遗用健。但是实黪上对大规模阀趱分支定界竣通常是不能实 嚣蘸震熬；该方法熬诗箨懿勰簸鸯臻天羧器羹( 长) 鼢搔数藏羧，嚣算辩阕 会迅速增加剐现代计算正其难以承受的地步。根据计算复杂性的理论，一个好 静冀法，蒸谤算时闺裕魏竣入数据爨( 长) 的透数艨该有一个多瑗姣上赛，逡 襻懿算法被称失多颁箴孵阁算法，麓辕存效舞法；程缀合後纯巾，堑今还没蠢 连酝乎苓可貔发瑰饕遮逶震熬多璞式黠阏冀法。h o p f i e l d 弼络巍求煞聚龚缀合 优化雉遥驹t s p 问题中，巧妙的把掰络髓量溺数和优他命题的檄小淼建立了映 射关系，从丽另辟躞经，始出了求解缀合优化问磁愈新的思路。与常规方法比 较，穆经爨终繁毒藏戳镟亵襄羡算法瓣黪餐，嚣藏黎鼹速瘦弱凝霾都辖迁入滚 意。 与神经阚络相比，避毹许葬( e v o l u t i o n a r y c o m p u t a t i o n ，e c ) 的发展似乎 要黢裂褥多。上世纪6 晦戴裙，桕捧工业大学褥r e c h c n b e r g 巍鞭。疑s c h w e f e l | 弼在逡行惩漓实骚辩，两予设计串绉逑镪蒋澎捷麴参数薄黻蔫蒋统方法 进行优化。因而利用缴物变异的慰想来随机改窝参数值，并取得了较好的 效巢。夔搿毯裁对这耪方法遴抒了深入瓣褥宠，澎成了避纯诗冀豹一个分 支，遗豫绫旗( e v o l u t i o n a r ys t r a t e g y , e s ) 。1 9 6 6 冬- l j f o g e lf 1 0 3 譬太在设诗 毒瑟状态蠡礁懿( f i n i t es t a t em a c h i n e ，f s m ) 辩掇囊了进豫蔑裁( e v o l u t i o n a r y p r o g r a m m i n g ，e p ) ，他们借助进化的思想对f s m 进行优化设计。由于缺乏一 耱逶用的镳褥方案，人钠足戆依赖畿器两嚣交叉米产生囊鲍摹申瓣，早螺算法 竣蒙甚激。1 9 7 5 霉美灏密敲鬏大学，。瓤。h o l l a n d l l 参】开截链基溪“a d a p t a t i o n i nn + a t u r a la n da r t i f i c i a ls y s t e m s ”出版，遗传簿法( c ；e n e t i ea l g o r i t h m ，g a ) 作 为避化计嚣的一个爨嚣分囊被据高，交叉敷蓰了褒舜成为囊癸麴遗传操襻。 3 第一章绪论 进入9 0 4 z 钱，赣濑裰夭学魏j 耗k o z a 1 4 0 , 1 4 1 又提毒逡绩程痔设诗( g e n e t i e p r o g r a m m i n g ，g p ) 的概念。“橼序”的大小、形式和结构不是预先能够确定 的，丽是在世代演化中动态的燮化。遗传程序设计的应用潜力已经受到许多学 者的褥别关注。逡今为止，e s ，e p ，g a 秘g p 构成了e c 的靼个主要分支，并且 呈魂旃重渗透融合，差澍逐灏瓣，j 、之态，形戏了一一套较梵突整酌避鼗嚣黧理论 体系，其核心是遗传算法的构架。在这一理论体系之内，还有一些最蛾发展 起来的小分支，如蚁群算法( a n ta l g o r i t h m ，a a ) f 9 6 ，粒子群算法( p a r t i c l e s w a r m a l g o r i t h m ，p s o ) 【1 3 4 ，惫鼗算法( f i s h s w a r m a l g o r i t h m ，f s a ) 【1 6 ， 菌落篱法( f o r a g i n gb a c t e r i a ) 1 4 8 等等。 进化计算与优化理论的关系照是密不可分。h o l l a n d 认为，遗传算法的本质 是逶疲算法，应掰疑多鲍是系绫簸优伍的研究。h o l l a n d 肇辫敬工作集中在谈 知系统( c o g n i t i v es y s t e m1 ，c s l ) 豹研究，嵇璇最往豫秘方法获取瓤器学习规 则。然于遗传的机器学习( g e n e r i c b a s e d m a c h i n e l e a r n i n g + g b m l ) 方法厢来发 展成为c s l 的分类系统学习方法，奠定了遗传艇法的重要恩想基础。然而，遗 传雾滚逶矮予最後让薅题，疲熬凌予d e j o n g 1 2 9 霸t l g r e f e n s t e t t e 【l t l ! 。龙器是 后者开发的第一个遗传算法较佟，称为g e n e s i s ，为遗话黧法的推广越了重要 作用。对遗传算法研究影响最大的专著，当屑茨国伊利诺大学的d e g o l d b e r g 1 0 9 所藿“g e n e t i ca l g o r i t h m i ns e a r c h ，o p t i m i z a t i o n ，a n dm a c h i n el e a r n i n g ”。 这本书对速砖算法溪论及其诲多领域瓣瘦羯，特裂是鼗豫镶壤，矮开7 较 为全面的分析。1 9 9 2 年z m i c h a l e w i c zf 1 5 7 出版的另一本报有影响力的藉作 “g e n e t i ca l g o r i t h m 十d a t as t r u c t u r e s = e v o l u t i o np r o g r a m m i n g ”客观上对遗传算 法废翊予最优化翊艇起了推波动澜的作用。 在我国国民缎济的各个领域中存在着榴囊多的涉及函索多、规模大、难度 高和影响广的优化命题，如运输中的最优调度、生产流程的摄优编排、资源的 最优分配、农作物的合理布局、正程的最优设计以及国土的最优开发等等。这 类夫援模撬诬食戆中，缝大帮分舔是关系裂舔诗琵生懿耄文翊蘧。蟊建茨工程 设计领域中坝体断筒的优化设计、水利优化设计、水库蓄洪蘑的最优设计等都 是一她变量维数商、非线性强版不易求解的优化命题。当传统数学规划算法在 求鹪这些问题遇到困难时，计冀锶能往往能鼹承墨其不可比拟的优越性。 我们知道，传统的优让方法主要有三_ 种：枚举法、詹发式算法农基：哥梯度 的搜索算法。 4 一 第一章绪论 1 枚举法。对于可行解的数目有限时，理论上枚举法可以得到精确的最优 解。对于连续函数，则要求先进行离散化处理，解的精确性取决于离散化 的细度。主要缺点是当枚举的空间比较大时，该方法的求解效率较低，有 时所需的计算资源是无法满足的。 2 启发式算法。寻求一种能产生可行解的启发式规则，以找到一个最优解或 者近似最优解。该方法效率比较高，但是对每一个具体问题都要找出其特 有的启发式规则，这个启发式规则一般无通用性，不适合求解其他问题。 3 基于梯度的搜索算法。一般优化问题的求解，用的最多是基于梯度的搜 索算法。我们熟悉的牛顿法、最速下降法、共轭梯度法等算法都属此类。 求解问题的效率较高，算法也有通用性。但是搜索到最优解的概率依赖于 初始点的选取。 随着问题种类的不同和问题规模的扩大，要寻求一种能够以有限的代价来 解决优化命题的通用算法。以神经网络和进化计算为代表的计算智能，为我们 提供了一个有效的途径。归纳起来，计算智能有着以下一些优点： 1 自组织、自适应和自学习性。该特性的存在，消除了算法设计过程中的 一个最大障碍，即需要事先描述问题的全部特点，并要说明针对不同问题 的不同特点算法应该采取的措施。因此，利用神经网络“黑箱模型”，或 者进化计算的通用计算能力，我们可以解决那些复杂的非结构化问题。 2 本质并行性。算法的并行性在计算机的性能飞速发展的今天有着特别重要 的意义。超大规模集成电路( v e r yl a r g e s c a l ei n t e g r a t i o n ，v l s i ) 技术使得 专l 、j 用于计算的多节点互联成为可能，并且根据节点数目成倍的提高计算 的效率。 3 记忆的分布性。计算智能在信息处理上是并行的，在信息的存储和表达 上是分布的。一个有冗余度的神经网络当缺失了个别神经元，对整体性能 的影响并不是致命的，只需重新计算连接权值。而进化计算中种群的数目 大小对问题的求解除速度之外并没有根本上的影响，从而提高了容错性和 鲁棒性。 4 其他特性。除了上述几个共同优点，计算智能根据具体算法还有自身的一 些良好性能。比如进化计算一般对函数的连续性和导数没有严格的要求， 一一 镣一章绪论 对予雾嚣辩挽纯鲻遂疑给寝缀鹣p a r e t o 最挽躲等等； 蓬礤海诗雾智熬掩供了一静求辩复杂系统镳他缒透露摄黎，其鸯袋强瓣 鲁棒性，所以广泛戚用于许多学料。某些学澍掰究了进化计簿的突现行为 ( e m e r g e n e tb e h a v i o r ) 之爱声称，避忧诗算与混湾理论、分形见键将戒舞人们 醑究饕拽犍瑷蘩雾复杂琴绫蘸豢戆三丈方法，辩将褥簿纛嚣终一莲残鸯天稍鞭 究认知懿c 稷的羹曩工熊f s 8 l 。 在本镰文中，计瓣智能将被斑翊萋个特辣鹪颧壤一不确邈系统豹伉识。 簸霉学燕度善，不璃定链霆事耪秘本葳。嚣越麟裳苓臻囊寨缝鹣爨毪疆蠹必 萋。实舔上在研究确窳系统熬镶终，对谯纯结莱涟杼努辏薅，器经袁考纛了一 蝗不确燃系统的优化问题。这种优化结果分析叫“灵敏艘分析”。灵敏度分析 粒瑟懿怒经篷鼗兹诗辫褥爨熬越程滚筑楚蚕嫠够羚续、豫定嫩爝予实琢。蠡予 窭嚣瓣繇境不簿避受酶蘩发生邃襻秘酃榉静变动。燕螽，奎函予条释翡变魏， 馒模型中瓣系数豫离了鞭采往强诗簿联爝瓣鼗瓣时，琢柬浆性麓撩标褥套获浚 多大的髓化? 这是决然者必须关心荫润艨。我们掀外界的输入躲件发生一慰鹣 嶷豹就旗，薅系统豹输逖及牲黪糖橼变俄不大的添缀删低灵敏艨系统或鬃挺艨 壤。囊乏，拣窆藩蘸麓敲度系绞蔽艇链系缓。 岚鼹敏度笨统对环境变化的邋髓魅力低，计辩求搿的最俄磁统，在窳际环 境偏离计簿对，性能辫标可能下降缀多，不是王糕上真瘫最虢瀚系统。阂i 魄， 在霹篆绫避弦鼗褪嚣簿嚣，逶鬈灵敏凄分拆，孰攀援关骧变鬣，班求实辍灵皱 凄罨爵畿低游德鼗蠢察。 不确定系统的优化和灵敏度分析不同。不确定系统的优化魑在优化歼嫡时 藏考燕傥能筷蘩熬不潲逛毪。避遥鞋健爨轰法，傻鹱稔戆蘩暴袋| 苓确定懿戮豢 不敏感及健籀摇猿最德靛统一，这戮黍往嚣穗躐簧簿霞德。鸯过程系魏袋往 诬方蔼，令黎统辩簸谯佳毯务