（控制理论与控制工程专业论文）基于递归神经网络的优化控制问题的研究.pdf

摘要 摘要 神经元控制是智能控制的重点内容，是目前自动控制领域研究的热点之一。 本文主要研究了基于递归神经网络的多变量时变线性系统的动态优化控制问题， 构建了新型的随机递归神经网络，设计了基于递归神经网络的最优预测控制方 案，并将其应用于青霉素发酵过程。论文的主要研究成果如下： 1 本文提出了一种基于b o l t z m a n n 机的求解线性二次型动态优化控制问题 的方法，其基本思想在于，将系统的性能指标转化成b o l t z m a n n 机的能量函数， 将控制序列与网络的神经元相对应，其求解线性二次型的动态优化控制问题的过 程就是运行相应的b o l t z m a n n 机网络从初态至稳态的过程，而b o l t z m a n n 机的稳 态对应的即是最优的控制序列。本文的理论研究表明，对于任意多变量、时变线 性系统，都能够找到一个相应的b o l t z m a n n 机，其能量函数与该系统的线性二次 型性能指标等价。本文对上述理论研究的方法进行了实验研究，取得了与理论分 析一致的结论。 2 模拟退火算法使b o l t z m a n n 机具有了较强的全局优化计算能力，然而， 为了获得全局最优，模拟退火算法又使b o l t z m a n n 机付出了运算速度慢的代价。 针对这一问题，本文设计了一种b o l t z m a n n 机与h o p f i e l d 网络相结合的递归神经 网络b o l t z h o p ，该网络具有与b o l t z m a n n 机相同的能量函数和拓扑结构。 b o l t z - h o p 网络采用h o p f i e l d 网络的工作算法搜索局部极小，采用b o l t z m a n n 机 工作算法搜索全局最优，即：只有在局部极小点附近，b o l t z m a n n 机的模拟退火 算法才发挥作用。b o | t z h o p 网络既避免了h o 面e l d 网络局部极小的问题，同时 也解决了b o l t z m a n n 机全局寻优速度较慢的问题，b o l t z h o p 网络因而具有快速 导向全局最优的特性。本文针对b o l t z - h o p 神经网络的寻优特性的实验研究取得 了良好的结果。 3 本文提出了一种基于b o l t z h o p 神经网络的最优预测控制方法。该方法 将b o l t z h o p 网络作为预测控制中的最优控制器，与被控系统和广义预测模型构 成滚动优化的闭环结构，系统每一离散时刻的优化问题都将转化为b o l t z - h o p 网 络的能量函数并由b o l t z h o p 网络实时求解产生最优控制序列，被控对象在此控 制序列作用下运行，在下一时刻，新的系统状态导致广义预测模型新的预测输出 及优化问题和新的b o l t z - h o p 能量函数，以及新的最优控制序列。如此循环往复， 从而实现了预测控制的三个环节：多步预测、滚动优化、反馈校正。基于该方法， 本文以青霉素发酵过程为对象，设计了青霉素发酵过程的实时优化控制系统，仿 真实验取得了良好的结果，验证了b o l t z h o p 神经网络最优预测控制方法的有效 性和可行性。 本课题的研究结果对于多变量系统、非线性系统以及不确定系统的线性二次 型动态优化控制问题的研究具有参考价值。 关键词b o l t z m a n n 机： b o l t z h o p 网络： 最优控制；预测控制 a b s t r a c t n e u r a lc o n t r o l i sa ni m p o r t a n tc o n t e n to f t h ei n t e l l i g e n tc o n t r 0 1 a n di sa l s oo n eo f t h eh o tp o i n ti nt h ef i e l do fa u t o m a t i cc o n t r 0 1 t h i st h e s i sf o c u s e so nd y n a m i co p t i m a l c o n t r o l p r o b l e mo fm u l t i v a r i a b l et i m e - v a r i a n ts y s t e mb a s e d o nr e c u r r e n t - n e u r a l n e t w o r k ，e s t a b l i s h e san e wt y p eo fr e c u r r e n tn e u r a ln e t w o r k ，d e s i g n sa no p t i m a l p r e d i c t i v ec o n t r o lp r o j e c tb a s e do nr e c u r r e n tn e u r a ln e t w o r ka n da p p l i e st h ep r o j e c tt o t h ep e n i c i l l i nf e r m e n t a t i o np r o c e s s t h em a i nr e s u l t sa sf o l l o w ： 1 t h et h e s i sd e v e l o p sap r o m i s i n ga i t e m a t i v ef o r s o l v i n gl i n e a rq u a d m t i c ( l q l o p t i m a lc o n t r o lp r o b l e mo fd i s c r e t e t i m es y s t e m ，b yw h i c ht h el qp e r f o r m a n c ei n d e x i st r a n s f o r m e di n t ot h ee n e r g yf i m c t i o no fb o l t z m a n nm a c h i n e ，a n dt h ec o n t r o l s e q u e n c e i n t ot h es t a t ev e c t o ro ft h en e u r o n so fb o l t z m a r mm a c h i n e s a sa r e s u l t ，s o l v i n gl qd y n a m i co p t i m i z a t i o np r o b l e mi se q u i v a l e n tt oo p e r a t i n ga s s o c i a t e d b o l t z m a n nm a c h i n e sf r o mi t si n i t i a ls t a t et ot h et e r m i n a ls t a t et h a tr e p r e s e n t st h e o p t i m a lc o n t r o ls e q u e n c e t h e t h e o r e t i c ss t u d yi n d i c a t e st h a tw ea r ea b l et of i n da r e l e v a n tb o l t z n m n nm a c h i n e so fw h i c h e n e r g yf u n c t i o ni sc o r r e s p o n d i n gt ot h el q p e r f o r m a n c ei n d e x a n dr e s u l t so ft h er e l e v a n te x p e r i m e n t a ls t u d yi sc o r r e s p o n d i n g t o t h et h e o r e t i c sa n a l y s e 2 s i m u l a t e da n n e a l i n g ( s a ) a i g o r i t h r n sm a d et h eb o l t z m a n nm a c h i n en o to n l yh a v e t h ec a p a c i t yo fw h o l eo p t i m a c a l c u l a t i n g ，b u tp a yo u tt h ec o s to fl o wc a l c u l a t i n g s p e e d i no r d e rt os o l v et h i sp r o b l e m , t h et h e s i sd e s i g n e dan e wt y p eo f r e c u r r e n t - n e u r a l n e t w o r k - 一b o l t z h o p 也a tb a s e do nb o l t z m a n nm a c h i n e sa n dh o p f i e l dn e t w o r k i th a s t h es a m ee n e r g yf u n c t i o na n ds t r u c t u a lc h a r a c t e r i s t i c a sb o l t z m a n nm a c h i n e s b o l t z h o pa d o p t st h ew o r k - a l g o r i t h m so fh o p f i e l dn e t w o r kt os e a r c hl o c a lo p t i m a l p o i n t ，a n ds aa l g o r i t h m st os e a r c hw h o l eo p t i m a lp o i n t t h a ti st os a y , o n l yn e a rt h e l o c a lo p t i m a lp o i n t ，s aa l g o r i t h m sb r i n gi n t op l a y h e n c e ，b o l t z h o pn e t w o r kn o to n l y a v o i dt h el o c a lo p t i m a lp r o b l e mo fh o p f i e l dn e t w o r k ，b u ts o l v et h el o ws p e e dp r o b l e m o fb o l t z m a n nm a c h i n e s i th a st h ec a p a c i t yo fs e a r c h i n gw h o l eo p t i m a lp o i n ti nh i 曲 s p e e d t h er e l e v a n te x p e r i m e n t a ls t u d yo b t a i n sg o o d r e s u l t 3 n l et h e s i sp r o p o s e sa no p t i m a lp r e d i c t i v ec o n t r o lm e t h o db a s e do nb o l t z - h o p t h r o u g ht h i sm e t h e d b o l t z - h o po f w h i c hi su s e da so p t i m a lc o n t r o lu n i t ，c o m b i n e s c o n t r o l l e dp r o c e s sa n dp r e d i c t i v em o d e l t os n u c t l l r e t h ec l o s e d l o o p o f r o l l i n g o p t i m i z a t i o n a t e a c hd i s c r e t e t i m e ，t h e o p t i m a lp r o b l e m o ft h es y s t e mi s t r a n s f o r m e di n t ot h ee n e r g yf u n c t i o no ft h eb o l t z - h o p ，a n db o l t z - h o ps e e kt h e o p t i m a lc o n t r o ls e q u e n c ew h i c hi sa p p l i e dt o t h ec o n t r o l l e dp r o c e s s a tt h en e x t s a m p l et i m e ，t h en e ws y s t e ms t a t eb r i n g so nn e wo u t p u t so f t h ep r e d i c t i v em o d e l ，n e w e n e r g yf u n c t i o no ft h eb o l t z h o pa n dn e wo p t i m a lc o n t r o ls e q u e n c e a sf o l l o w e d c i r c l e ，t h em e t h e di m p l e m e n t st h em u l t i s t e p sp r e d i c t ，r e c u r s i v eo p t i m i z e ，f e e d b a c k i l e m e n d a t i o n b a s e do nt h i sm e t h e d ，t h et h e s i su s e dt h ep e n i c i l l i nf e r m e n t a t i o np r o c e s s a sa l l o b j e c t ，d e s i g n e d ar e a l t i m e o p t i m a l c o n t r o l s y s t e m o ft h e p e n i c i l l i n f e r m e n t a t i o n t h es i m u l i n ke x p e r i m e n ta c q u i r e sg o o dr e s u l t v a l i d a t e s 也ee f f e e ta n d f e a s i b i l i t yo f 也ed e s i g n e dm e t h o d t h es t u d yr e s u l to ft h i st a s kp o s s e s sr e f e r e n c ev a l u ef o rl i n e a rq u a d r a t i co p t i m a l c o n t r o lp r o b l e mo f m u l t i v a r i a b l es y s t e m ，n o n l i n e a r - s y s t e m a n di n d e f i n i t e s y s t e m k e yw o r d s ：b o l t z m a n nm a c h i n e s ；b o l t z - h o pn e t w o r k ；o p t i m a lc o n t r o l ； p r e d i c t i v ec o n t r o l i i 独创性声明 本人声明所呈交的论文是我个人在导师指导下进行的研究工作及取得的研 究成果。尽我所知，除了文中特别加以标注和致谢的地方外，论文中不包含其他 人已经发表或撰写过的研究成果，也不包含为获得北京工业大学或其它教育机构 的学位或证书而使用过的材料。与我一同工作的同志对本研究所做的任何贡献均 己在论文中作了明确的说明并表示了谢意。 签名：互建鲴日期：鲨堂：z 关于论文使用授权的说明 本人完全了解北京工业大学有关保留、使用学位论文的规定，即：学校有权 保留送交论文的复印件，允许论文被查阅和借阅；学校可以公布论文的全部或部 分内容，可以采用影印、缩印或其他复制手段保存论文。 ( 保密的论文在解密后应遵守此规定) 签名：i 纽导师签名：1 竺塑闩期：型坐：z 第1 章绪论 1 1 课题研究的背景 经典控制理论在处理复杂和精密的系统时，有非常大的局限性；以状态空 间法为基础的现代控制理论适用于多输入多输出、非线性、分布参数控制系统， 应用范围很广，对自动控制技术的发展起到了积极的推动作用，而作为现代控 制理论的一个重要组成部分的最优控制，不论在深度与广度上，都有长足的进 展“3 。但随着科学技术和生产的迅速发展，对大型、复杂和不确定性系统实行 自动控制的要求不断提高，使得现代控制理论的局限性日益明显。一个时期以 来，自动控制工作者面临着如下两个方面的问题：一方面是控制对象愈来愈复 杂，存在着多种不确定性以及难以确切描述的非线性特性，过程的数学模型难 于建立，即使一些对象能够建立起数学模型，其结构也往往十分复杂，难于设 计并实现有效控制；另一方面是对控制系统的要求愈来愈高，迫切要求提高控 制系统的智能化水平。现代工业系统的这种复杂性、不确定性和严要求，已经 不可能采用那些基于定量数学模型的传统控制方法对它实现有效的控制，必须 寻求新一代的控制策略。由于神经网络源于对脑神经的模拟，具有很强的适应 于复杂环境和多目标控制要求的自学习能力，并具有以任意精度逼近任意非线 性连续函数的特性，神经网络的这些特性，正好为解决上述两方面的问题提供 了一条新途径。1 。因此，控制系统引入神经网络是控制学科发展的必然趋势。 它的引入不仅给这一领域的发展带来了生机，也为控制界带来了许多亟待解决 的新课题。 神经元控制是智能控制的重点内容，是目前自动控制领域研究的熟点之 1 2 关于神经元控制 8 0 年代中期以来，人工神经网络以其独特的优点引起了人们的极大关注。其 基本思想是从仿生学角度对人脑的神经系统进行模拟，是极其具有人脑那样的感 北京工业大学工学硕士学位论文 知、学习和推理等智能。对于控制界，神经网络的吸引力在于”1 ： ( 1 ) 能够充分逼近任意复杂的非线性关系； ( 2 ) 能够学习适应不确定性系统的动态特性； ( 3 ) 所有定量或定性的信息都分布储存与网络内的各个神经元，所以有很强的 鲁棒性和容错性； ( 4 ) 采用并行分布处理方法，使得快速进行大量运算成为可能。 这些特点显示了神经网络在求解非线性和不确定性系统控制方面的巨大潜 力，将神经网络引入控制系统是控制学科发展的必然趋势。它的引入不仅给这一 领域的发展带来了生机，也为控制界带来了许多急待解决的新课题。 人工神经网络的研究始于2 0 世纪4 0 年代。半个多世纪以来，它经历了一条 由兴起到萧条、又由萧条到兴盛曲折发展的道路。最早的研究是1 9 4 3 年的心 理学家w m e c u l l o c h 和数理逻辑学家w p i t t s ”1 提出的简单的神经网络模型，其 神经元的输入输出关系为： y ，= s g n ( x ，一b ) ( 卜1 ) 其中输入、输出均为二值量，w 。为固定的权值。利用该简单的网络可以实现一 些逻辑关系。虽然该模型过于简单，但它为进一步的研究打下了基础。 1 9 4 9 年，d 0 h e b b 。1 首先提出了一种调整神经元连接权的规则，通常称为 h e b b 学习规则。其基本思想是，当两个神经元同时兴奋或同时抑制时，则它们 之问的连接强度便增加。用式子表示为： r ” w ：j 荟x r x ，,(1-2) 1 0扛， 该学习规则的意义为，连接权的调整正比于两个神经元活动状态的乘积，连接权 是对称的，神经元到自身的连接权为零，现在仍有不少神经网络采用这样的学习 规则。 1 9 5 8 年f r o s e n b l a t t ”1 设计制作了“感知机”( p e r c e p t i o n ) 。它是一种多层 神经网络，首先将人工神经网络的研究从理论探讨付诸工程实践。 1 9 6 9 年m m i n s k y 和s p a p e r t 发表名为“感知机”1 的专著，他们指出了简 单的线性感知机的功能是有限的，它无法解决线性不可分的两类样本分类问题。 典型的例子如“异或”计算，即简单的线性感知机部可能实现“异或”逻辑关系。 第l 苹绪论 要解决这个问题，必须加入隐层节点。但对于多层网络，如何找到有效的学习算 法尚是难于解决的的问题。因此它使得整个7 0 年代神经网络的研究处于低潮。 美国物理学家j j h o p f i e l d ”1 在1 9 8 2 和1 9 8 4 发表了两篇神经网络的文章， 引起了很大的反响。他提出一种反馈互联网，并定义了一个能量函数，它是神经 元的状态和连接权的函数，利用该网络可以求解联想记忆和优化计算问题。该网 络后来被称为h o p f i e l d 网络，最典型的例子是应用该网络成功地求解了旅行商 最优路径问题。h o p f i e l d 使用能量函数的方法还导出了一个不很有效的联想记 忆模型，这也是神经网络的优化问题研究的开端。h o p f i e l d 网络通过改变权值 以降低存储矢量的能量，因此存储的矢量对应于能量曲线的局部极小点：然而这 种方法因为经常产生不是存储模式的假的局部极小点，所以只能有很小的存储 量。h i n t o n 和s e j n o w s k i 提出了一种利用能量函数的不同的方法，即用问题规 定的固定的边界条件设置全局极小而不是设置最接近的局部极小；这种方法的缺 点是网络会被局部极小所阻塞。幸运的是，这时k i r k p a t r i c k 等人提出了著名的 模拟退火算法，通过增加热噪声以使系统在能量函数上爬坡改进了梯度下降的搜 索方法。进而，通过将h o p f i e l d 和k i r k p a t r i c k 思想相结合就产生了另一个重 要模型：b o l t z m a n n 机，在这种系统中，每个统计单元都有一个由相邻元的状态 和它的连接权决定的能域，它的状态的翻转是以能域的b o l t z m a n n 概率分布进行 的，h i n t o n 等通过b o l t z m a n n 机的研究提出了一种新的学习算法。从而b o l t z m a n n 机克服了h o p f i e l d 网络的缺点，使系统最终向全局最优值的方向收敛。b o l t z m a n n 机可应用到大量的组合优化、知识表达与学习等问题中【8 1 。但是b o l t z m a n n 机自 身存在着运行效率低的问题，这几乎掩盖了它能避免局部极小的优点，影响了他 的实际应用。针对此问题，人们进行了大量的研究，像均场退火算法等算法就是 对b o l t z m a n n 机的一些改进 9 1 。这些方法在解决组合优化问题与图形分割问题中 取得了较好的效果，网络的运行时间大大降低。 接着，在1 9 8 6 年r u m e l h a r t 和m c c l e l l a n d 提出了多层网络的逆推( b a c k p r o p a g a t i o n ) 学习算法( b p ) “，该算法从后向前修正个层之间的权值，并有 很强的运算能力，否定了m i n s k y 等人的错误结论，成为当前应用最为广泛的神 经网络之一。目前提出的神经网络模型已有几十种，其中应用最为广泛且富有成 果的有b p 网络、h o p f i e l d 网络、自适应共振理论( a r t ) 网络、自组织特征映 射网络和小脑模型关节控制器( c m a c - - c e r e b e l l a rm o d e la r t i c u l a t i o n 北京工业大学工学碗士学位论文 c o n t r o l l e r ) 等。 基于神经元的控制器，其控制问题可以看作是一类模式识别问题。要识别的 模式是一些关于受控对象的状态、输出或某个性能评价函数的变化信号。这些信 号经神经网络映射成作用信号，即受控信号，神经网络控制器能够实时地识别出 这些变化信号，并能从过去的经验教训中进行学习，得出变化信号与作用信号间 的内在联系，即使在神经网络输入信息量不充分的情况下，也能够快速的对模式 进行识别，产生出适当的控制信号。控制效果由系统的评价函数来反映，该函数 作为一类变化信号输入神经网络，作为神经网络的学习算法或学习准则。 虽然从认识的角度来看，人工神经网络的思想方法与基于逻辑符号处理的方 法有根本性的区别( 前者用于处理形象思维问题，后者用来解决抽象逻辑思维问 题) ，然而在研究和应用中，两者有机的结合和取长补短己成为神经网络控制研 究的一个好途径。 神经网络的应用己渗透到自动控制领域的各个方面，包括系统辨识、系统控 制、优化计算以及控制系统的故障诊断与容错等。就其在控制系统中所起的作用 而言有如下几种方式： ( 1 ) 为控制系统提供某种模型。 ( 2 ) 充当各类控制器。 ( 3 ) 作为计算部件实现某种优化计算。 因为基于神经网络的控制系统的研究处于研究，探索阶段，还未形成象其它 控制器设计方法那样的比较完善的理论体系和系统化的设计方法，其做法往往是 设计者根据实际要求加上自己的经验和理解进行设计。这样一来，可实现功能上 的灵活性，但也使得基于神经网络的控制器设计方法更加纷繁复杂，同时也成果 众多。就其在控制系统中所起的作用而言，有如下几种方式：为控制系统提供某 种模型，充当各类控制器，作为计算部件实现某种优化计算。 当前人工神经网络及其控制器的研究方兴未艾，主要包括下列三方面：信号 处理与模式识别、知识处理工程与专家系统和运动过程控制等。但是，由于对神 经网络的理论研究和硬件实现还远远未达到完善的地步，此外，由于神经网络用 于控制时出现的一些新问题( 如控制系统的稳定性和在线学习的收敛性等) 需要 进一步的解决，因此，现有的研究大多停留在软件及仿真研究上，付诸应用的不 多，神经网络控制系统的研究还面临十分艰巨的任务。 第l 章绪论 1 3 关于最优控制 最优控制是现代控制理论的一个重要组成部分，早在本世纪5 0 年代初期就 开始出现从工程观点出发研究时间最优控制的文章。美国学者贝尔曼( r 8 e l l e m a n ) 创立的“动态规划”、苏联学者庞特里亚金等创立的“最大值原理” 极大的推动了最优控制的发展“。以状态空间法为基础的现代控制理论从6 0 年 代初期发展以来，对自动控制技术的发展起到了积极的推动作用。在最优控制理 论中，一类重要的优化控制问题就是线性二次型优化控制问题。这类问题的性能 指标具有鲜明的物理意义，最优解可以写成统一的解析表达式，求出的最优控制 是状态变量的线性函数，可以利用反馈方法构成闭环，在工程上易于实现。许多 控制问题可以作为线性二次型问题来处理“。通常，解决线性二次型最优控制问 题的方法是求解r i c c a t i 方程，一般采用反向递推算法，它是一个有限域最优状 态反馈算法“。而无限域线性二次型最优控制问题的研究成为线性二次型理论发 展的一个重要的方面。在上述问题中，除了要解决实现无限域控制的方法，还要 解决计算量和存储量的问题。 同时随着对大型、复杂和不确定性系统实行自动控制的要求不断提高，使得 现代控制理论的局限性日益明显。一般说来实际工业过程常具有非线性、时变性 和不确定性，且大多数工业过程是多变量的，难于建立起数学模型。即使些对 象能够建立起数学模型，其结构也往往十分复杂，难于设计并实现有效控制。为 了克服理论与应用间的不协调现象，随着数字计算机向小型、高速、大容量、低 成本方向的发展，出现了预测控制这类新型的计算机控制算法“。最早应用于工 业过程的预测控制算法有r i c h a l e t 、m e h r a 等提出的建立在非参数模型脉冲响应 基础上的模型启发( m p h c ) ，或称为模型算法控制( m a c ) ，以及c u l t e r 等提出的 建立在非参数阶跃响应基础上的动态矩阵控制( d m c ) 等。由于这类算法用来描 述动态行为的信息是直接从生产线场检测到的过程响应，而不需要事先知道过程 模型的结构和参数有关的先验知识，也不必通过复杂的系统来建立过程的数学模 型，即可以根据某一优化的性能指标设计控制系统，确定个控制量的时间序列， 使未来一段时间内被调量与经过柔化滞后的期望轨迹之间的误差最小。由于预测 控制算法采用不断在线滚动优化，且在优化过程中不断通过实测系统输出与预测 模型输出误差来进行反馈校正，所以能在一定程度上克服由于预测模型误差和某 北京工业大学工学硕士学位论文 些不确定性干扰等的影响，使系统的鲁棒性增强。 预测控制在工业中得到成功应用主要是由于该算法具有预测模型，滚动优化 和反馈校正这三个基本特征。此外，由于它采用了多步预测的方式，扩大了反映 过程未来变化趋势的信息量，因而能克服各种不确定性和复杂变化的影响，使预 测控制能在各种复杂生产过程控制中获得好的应用效果。并具有较高的鲁棒性。 8 0 年代初期，人们在自适应控制的研究中发现，为了增强自适应系统的鲁棒性 有必要在广义最小方差控制的基础上，吸取预测控制中多步预测、滚动优化思想， 以扩大反应过程未来变化趋势的动态信息量，因此产生了基于辨识过程参数模型 且存在自校正机制在线修正模型的预测控制算法，主要有c l a r k e 的广义预测控 制( g p c ) t 5 jl e l i c 的广义预测极点配置控制( g p p ) “”等。基于参数模型的预 测控制算法，依然保留了非参数模型的m a c 和d m c 预测控制算法的三个基本特征， 不过它的预测模型采用具有一定结构和参数的受控自回归积分滑动平均模型 ( c a r i m a ) 或受控自回归滑动平均模型( c a r m a ) 。 预测控制从1 9 7 8 年r i c h a l e t 等人提出模型预测启发式控制算法( m p h c ) 以 来，已经得到了很大发展，先后提出了模型算法控制( m a c ) 、动态矩阵控制( d m c ) ： 广义预测控制( g p c ) 、广义预测极点控制( g p p ) 、内模控制( i m c ) “7 1 和推理控制( i c ) 等几十种，且在实际复杂工业过程控制中得到了成功的应用，受到工程界的欢迎 和好评。但有关的预测控制理论研究仍落后于实际应用。但目前的预测控制算法 普遍存在着模型预测精度不高、滚动优化策略少、反馈校正方法单调等问题。预 测控制的研究主要集中在参数设计、稳定性、鲁棒性及其它控制性能的研究，神 经网络的应用也主要集中在前向型神经网络的设计，神经网络的预测模型等方 面。如何突破原有建模框架，利用所有可能获取的反应过程未来变化趋势的动态 信息，采用诸如模式识别、人工智能、人工神经网络等新技术和新方法，建立高 精度的信息预测模型以及探讨新的滚动优化策略和反馈校正方法，近年来成为人 们研究的热点。 1 4 研究目标、意义及研究内容 1 4 1 研究目标 由于神经网络在自动控制领域的应用是成功的，自动控制中引入神经网络是 6 - 第1 苹绪论 自动控制发展的必然趋势。本课题主要研究了基于递归神经网络的多变量时变线 性系统的动态优化控制问题。同时，本课题将神经网络和现代控制理论相结合， 利用现代控制理论中的优化思想和神经网络运算能力强的特点，设计一种适合于 不易建立精确数学模型的神经网络优化预测控制方案。通过对青霉素发酵过程的 分析与研究，建立青霉素发酵过程的仿真数学模型，并将神经网络应用于此过程 的预估和优化控制，使青霉素发酵过程始终工作在最优状况，达到实时控制的目 的。 1 4 2 课题研究的内容与意义 神经元控制是智能控制的重点内容，是目前自动控制领域研究的热点之一。 线性二次型问题是一类重要的最优控制问题，它在现代控制理论中占有重要的地 位。目前无限域最优控制的研究成为线性二次型理论发展的一个重要方面。而应 用神经网络求解线性二次型最优控制问题为线性二次型理论发展提供了一条新 的途径。 同时，随着生产过程自动化程度的不断提高，对控制系统精度的要求也同样 越来越高，传统的基于精确数学模型的方法在许多情况下，已经难以达到很好的 控制效果，加上许多对象具有时变性、非线性、不确定性，很难获得精确的数学 模型：一些算法由于运算复杂，数据存储量大，难于在线实现。课题的研究正是 针对这些问题，将神经网络和现代控制理论相结合，设计基于神经网络的最优预 测控制方案，对解决大量实际中难于得到精确数学模型系统的控制具有重大的意 义。青霉素发酵过程具有高度非线性、实变性和随机性【l “，将此实时预测控制方 案应用于青霉素发酵过程的预测与控制，对于降低青霉素生产成本和提高青霉索 产量和质量，具有重要意义。 本课题的主要研究内容有： ( 1 ) 基于b o l t z m a n n 机的线性二次型的动态优化控制问题的研究 ( 2 ) 一种新型的递归随机神经网络的研究 ( 3 ) 基于递归神经网络的预测控制系统的设计 ( 4 ) 基于青霉素发酵过程的预测控制系统的实现与实验研究 1 5 论文安排 论文的具体安排如下： ( 1 ) 第1 章绪论：阐述了目前在控制过程中建模与控制问题的不足与难点，提 出了控制中引入神经元控制是必然趋势。概述了最优控制特别是预测控制 的发展概况和成功的应用，以及神经网络在控制中的发展。在此基础上， 阐述了课题研究的目标、内容、意义与主要涉及的工作。 ( 2 ) 第2 章：主要研究了利用递归神经网络实现线性二次型动态优化控制问 题：主要利用b o l t z m a n n 机神经网络的优化计算功能，将网络的性能指标 与线性二次型的目标函数相对应，运行相应的神经网络，当网络运行至稳 定时，b o l t z m a n n 机的稳态对应的即是最优的控制序列。 ( 3 ) 第3 章：通过对递归神经网络h o p f i e l d 网络和b o l t z m a n n 机的研究，提出 了一种基于b o l t z m a n n 机的新型的递归神经网络b o l t z h o p ，并对网络的 拓扑结构、能量函数、工作规则等进行了描述。本文针对b o l t z - h o p 神经 网络的寻优特性的实验证明，该网络对于解决优化问题不论在速度还是在 避免局部极小等问题上均优于h o p f i e l d 网络与b o l t z r n a n n 机。 ( 4 ) 第4 章：研究设计了应用递归神经网络b o l t z h o p 实现预测控制的方法。 首先讨论预测控制方案，然后通过把预测控制和神经网络结合起来，实现 预测控制的三个环节：多步预测、滚动优化、反馈校正。两者结合的方法 分别吸收了各自的优点，使得神经网络控制既有预测控制的效果好、鲁棒 性强，适用于控制不易建立精确数学模型的过程的优点，又有随机神经网 络的优化能力强，易于避免局部极小值点，运算速度快的优点。 ( 5 ) 第5 章：设计实现了青霉素发酵过程的预测控制的实时系统。主要研究了 青霉素发酵的过程，对发酵过程进行了计算机模拟，通过采集的数据建立 了预测模型的，应用m a t l a b 语言编制相应的程序以实现实时控制、滚 动优化，辨识等功能，并对仿真结果进行相应的分析与讨论。实验研究表 明，采用神经网络与优化控制相结合的方案，对于青霉素发酵过程的优化 控制是切实可行的，对于提高青霉素的产量减少物料损失起到了良好的作 用，达到了预期的目标，对实际的应用具有指导意义。 第2 章基于随机神经网络b o l t z m a n n 机的优化控制 第2 章基于随机神经网络b o lt z m a n n 机的优化控制 人工神经网络是生物神经网络的一种模拟和近似，它主要从两方面进行模 拟：一种是从结构和实现机理方面进行模拟，它涉及到许多基础学科。由于生物 神经网络的结构和机理相当复杂，还没有完全认识它们；另外一种是从功能上加 以模拟，即尽量使人工神经网络具有生物神经网络的某些功能特性，如学习、识 别、控制、计算等功能。1 9 8 3 年h i n t o n 等人提出了一种随机神经网络b o l t z m a n n 机“，它将神经网络的运行和学习算法中引进了随机机制。b 0 1 t z m a n n 机被广泛 应用于求解组合优化问题和联想记忆等问题。由于b o l t z m a n n 机是一种随机网 络，它的模拟退火算法可以比较有效的跳出局部极小点而趋于全局最优解。 线性二次型( l i n e a ro u a d r a t i c 简称l q ) 问题在现代控制理论中占有重要位 置，它能够避开求解一般最优控制问题时经常遇到的非线性两点边界值问题。具 有二次型性能指标的线性系统最优控制问题是一类重要的最优控制问题，这类问 题的性能指标具有鲜明的物理意义，最优解可以写成统一的解析表达式，求解出 来的最优控制是状态变量的线性函数，可以利用反馈方法来构成闭环控制，在工 程中易于实现。它在理论上也很重要，许多控制问题可以作为线性二次型问题来 加以处理。尤其是需要综合考虑各种设计参数的关系时，线性二次型问题可以把 一些相互矛盾的要求统一在一个性能指标中，以获得系统的总体最优性。另外， 在理论上，线性二次型最优控制问题是其他许多控制问题的基础，许多控制问题 都可以化为线性二次型最优控制问题来处理，因此线性二次型最优控制问题在理 论上研究比较充分，在实践中得到了广泛而成功的应用。 然而，通常解决线性二次型最优控制问题的方法是求解r i c c a t i 方程，一 般使用反向递推算法，很明显，它是一个有限域最优状态反馈算法，作用在时间 范围 0 ，n 内，需要离线求得控制序列，是有限维最优控制问题。对于实际应用， 它不能实现在线控制，而且当n 值很大时，需要进行大量的计算和消耗大量的存 储空间，而且控制作用是有限维的。 因此，对于线性离散时间系统，无限域最优控制的研究成为l q 理论发展的 一个重要方面。由于问题的复杂性，对于线性离散时间系统无限域最优控制不但 在理论研究上而且在实际应用中都面临着极大的困难。除了要解决实现无限域控 北京工业大学工学硕士学位论文 制的方法，还要解决计算量和存储量的问题。 在本章中，提出了一种基于b o l t z m a n n 机的求解线性二次型动态优化控制问 题的方法，其基本思想在于，将系统的性能指标转化成b o l t z m a n n 机的能量函数， 将控制序列与网络的神经元相对应，其求解线性二次型的动态优化控制问题的过 程就是运行相应的b o l t z m a n n 机网络从初态至稳态的过程，而b o l t z m a n n 机的稳 态对应的即是最优的控制序列。本文的理论研究表明，对于任意多变量、时变线 性系统，都能够找到一个相应的b o l t z m a n n 机，其能量函数与该系统的线性二次 型性能指标等价。在本章中对上述理论研究的方法进行了实验研究，取得了与理 论分析一致的结论。 2 1 模拟退火算法与b o l t z m a n n 机 2 1 1 模拟退火算法综述 在神经网络中，常用某种目标函数的全局极小作为算法搜索和网络运行状态 所要达到的目标。其特点是在学习或运行过程中网络的误差或能量总是按其梯度 下降的方向演化。当梯度趋于0 时，网络的学习或运行就停止了。所以这种算法 往往陷入局部极小点而达不到全局极小值。这种算法被形象的称为贪心算法。即 急于找到最优解，结果却是欲速则不达。 分析以上网络的结构与算法特点，导致网络陷入局部最小点的原因主要有两 点： ( 1 )网络结构上存在输入与输出之间的非线性关系，从而使网络误差或能量函 数所构成的空间是一个含有多个极小点的非线性空间。 ( 2 ) 算法上，网络的误差或能量只能按单方向减小而不能有丝毫的上升趋势。 对于第一点，是为了保证网络具有非线性映射能力而不可少的。那么，解决 网络的全局收敛问题就只能从第二点入手。如果将总是按梯度下降方向演化改为 大多数时间按梯度下降方向演化，即在某些情况下，还容许按梯度上升方向演化， 则网络就有可能跳出局部极小点而向全局极小点收敛。这就是s a 算法的基本思 想，图2 - 1 和图2 - 2 就是s a 算法和贪心算法的形象表示。 第2 章基于随机神经网络b o l t z m a r m 机的优化控制 图2 - 1s a 算法图示 贪心算法 图2 - 2 贪心算法图示 s a 算法的基本思想最早是由m t r o p o l i s 等人于1 9 5 3 年提出的。当时是用于 模拟固体在给定温度下的热平衡过程。1 9 8 3 年，k i r k p a t r i c k 等人把它扩展到温 度变化的情况下，并把它应用于求解组合优化问题。s a 算法将组合优化问题与 统计物理学中的热平衡问题类比，开辟了求解组合优化问题的新途径。s a 算法 是基于m o n t ec a r l o 迭代求解的种启发式随机搜索法。 s a 算法用于求解组合优化问题是基于固体物质的退火过程与组合优化问题 的求解过程的相似性。在对固体物质进行退火处理时，通常先将它加热融化，使 其中粒子可以自由运动。然后逐渐降低温度，粒子的自由运动逐渐减弱，并逐渐 形成低能态晶格。若在凝结点附近温度下降的速度足够慢，则固体物质一定会形 成最低能态的基态，即最稳定的结构状态。实际上，在整个降温过程中，各个粒 子都可能经历了由高能态向低能态，有时有暂时由低能态向高能态，最终趋向于 北京工业大学工学碗士学位论文 低能态的变化过程。由此可以得到这样一种启发：如果把组合优化问题的状态看 作固体内部的粒子，而把目标函数看成粒子所处的能态。在算法中设置一个控制 参数丁，当丁较大时，目标函数值由低向高变化的可能性也