（控制科学与工程专业论文）基于支持向量机的变结构控制方法研究.pdf

摘要 基于统计学习理论的支持向量机因为具有其它学习机器所没有 的优点而得到了广泛的关注，目前已经有利用支持向量机进行黑箱或 灰箱系统辨识与控制的相关研究。交结构控制系统自上世纪五十年代 以来已经得到了深入的研究，但目前仍然没有出现支持向量机与变结 构控制方法相结合的文献。为了发挥支持向量机与变结构控制各自的 优点，本文主要研究基于支持向量机的各类变结构控制算法的设计。 本文主要贡献有： 一、 提出了单输入单输出系统基于支持向量机的变结构基本控制 方法；在此基础上，通过利用变结构控制的降维特性，提出了单输入 多输出系统和多输入多输出系统基于支持向量机的变结构基本控制 方法。 二、 在基于支持向量机的变结构基本控制方法的基础上，引入支 持向量机实现了前馈以及变结构反馈控制，以抑制进入系统的的可测 量扰动，提高了变结构控制系统的鲁棒性。 三、 在介绍了移动滑平面的特点后，提出了基于支持向量机与移 动滑平面的变结构控制方法；在此基础上，为了克服移动滑平面的缺 陷，文中提出了基于支持向量机与组合滑平面的变结构控制方法，较 好地解决了移动滑平面趋近速度与鲁棒性之间的矛盾。 四、研究了与变结构控制系统相关的一些问题。首先讨论了线性 离散时间系统能够跟踪轨迹的条件，其次研究了变结构控制系统逆模 型存在条件，最后分析了变结构滑平面参数选择对系统性能的影响。 最后对全文进行了概括性总结，并指出了基于支持向量机的变结 构控制方法在理论和应用上有待进一步研究的问题。 浙扛大学博士学位论文 关键词：支持向量机，变结构控制系统，线性与非线性系统，逆模型， 滑模函数，移动滑平面，组合滑平面，鲁棒性 h a b s t r a c t s u p p o r tv e c t o rm a c h i n e ( s v m ) ，w h i c hi sb a s e do ns t a t i s t i c a l i _ e a r n i n gt h e o r y ( s l t ) ，h a sd r a w nm o r ea n dm o r ea t t e n t i o ni nr c o 2 1 1 t y e a r sb e _ 【：a u $ eo fi t sa d v a n t a g e st oo t h e rl e a r n i n gm a c h i n e s i th a sb e e n a p p l i e di nb l a c kb o xo rg r a y - b o xs y s t e m s r e c o g n i t i o na n dc o n t r o ln o w v a r i a b l es t r u c t u r ec o n t r o lf v s c ) h a sb e e nr e s e a r c h e df r o m5 0 sl a s t c e n t u r y , b u tt h e r ea r en or e s e a r c h e so na p p l i c 砒i o no fs v mi nv s c 。i n o r d e rt ou t i l i z ea d v a n t a g e so fs v ma n dv s c ，s e v e r a lk i n d so fv s c s c h e m e sb a s e do ns v ma r es t u d i e di nt h i sd i s s e r t a t i o n t h em a i nc o n t r i b u t i o n so f t h i sd i s s e r t a t i o na r eo u t l i n e da sf o l l o w i n g ： f i r s t ，b a s i ca l g o r i t h mf o rs i n g l e - i n p u t - s i n g l e o u t p u t ( s l s o ) s y s t e m b a s e do ns v mi sd i s c u s s e d t h e nb ya d o p t i n gc h a r a c t e ro fr e d u c i n g d i m e n s i o nf o rv s c ，b a s i cv s cs e b e m e sf o rs i n g l e i n p u t - m u l t i o u t p u t ( s r m o ) s y s t e ma n dm u l t i i n p u t - m u l t i - o u t p u t ( m i m o ) s y s t e mb a s e do n s v ma l ep r o p o s e d s e c o n d ，o nt h eb a s i so fb a s i cv s ca l g o r i t h mf o rc o n t r o ls y s t e m b a s e do ns v m , s v mi si n t r o d u c e di nr e a l i z i n gf e e d - f o r w a r da n dv s c f e e d b a c kt e c h n o l o g y s oe f f e c to fe x t e r n a ld i s t u r b a n c ei sr e d u c e da n d r o b u s t n e s so f v s cs y s t e mi sg u a r a n t e e d t h i r d , a f t e rs i m p l yi n t r o d u c i n gc h a r a c t e ro fm o v i n gs w i t c h i n g s u r f a c e ，av s cs c h e m eb a s e do ns v ma n dm o v i n gs w i t c h i n gb n l r f a c ei s b r o u g h tf o r w a r d m o r e o v e r , i no r d e rt oo v e r c o m es h o r t a g e so fm o v i n g s w i t c h i n gs u r f a c e ，av s c s c h e m eb a s e do ns v ma n dc o m b i n e ds w i t c h i n g s u r f a c ei si n t r o d u c e dt or e s o l v ec o n t r a d i c t i o nb e t w e e nr e a c h i n gs p e e da n d r o b u s t n e s sw h e nt h em o v i n gs w i t c h i n gs u r f a c ei sa d o p t e d f o r t h ，s o m ep r o b l e m sr e l a t e dt ov s cc o n t r o ls y s t e m sb a s e do n i r 浙江大学博士学位论文 s v ma r e d i s c u s s e d t r a j e c t o r y - t r a c k i n g c o n d i t i o no fl i n e a r d i s c r e t e - t i m es y s t e mi sp r o p o s e d t h e ne x i s t i n gc o n d i t i o no fi n v e r s e m o d e lf o rv s cs y s t e mi sd i s c u s s e d a n de f f e c to fs w i t c h i n gs u r f a c e p a r a m e t e r so ns y s t e mp e r f o r m a n c ei sa n a l y z e d a tl a s t ，w h o l ep a p e ri ss u m m a r i z e da n do p e np r o b l e m so fv s c s c h e m eb a s e do ns v v li nt h e o r ya n da p p l i c a t i o na r ep u tf o r w a r d k e y w o r d s ：s v m ，v s cs y s t e m , l i n e a ra n dn o n l i n e a rs y s t e m , i n v e r s e m o d e l ，s l i d i n gm o d ef u n c t i o n ，m o v i n gs w i t c h i n gs u r f a c e ， c o m b i n e ds w i t c h i n gs u r f a c e ，r o b u s t n e s s 致谢 值此论文完成之际，首先向我的导师孙优贤院士致以深深的 谢意。孙老师严谨的治学作风、富于远见的学术眼光、渊博的学 识、开拓创新的精神以及优秀的人格魅力，给了我很深的影响。 在此向孙老师表达我最诚挚的敬意和最衷心的感谢l 感谢皮道映教授在博士三年期间，皮老师在课题研究上给予 悉心认真的指导，在生活及我的就业上的真心关怀，他不仅是我 学习上的良师，更是我生活中的益友。皮老师严谨认真的研究态 度是我学习的榜样。 感谢秫庆女士在工作、学习与生活等各方面给予的熟诚周到 的帮助，特别是感谢她在我受伤期间给予的悉心照顾。 在这三年里，我幸运地得到许多老师与同学的关心与帮助， 尤其是实验室的同学们，大家在一起营造了融洽的学术环境，帮 助我完成了博士期间的学业。尤其是钟伟民、毛勇、汪辉、包哲 静、罗艳斌、童昱、王博、徐建国、程鹏、王成群等。 再次对曾给予我帮助的人们致衷心的感谢! v 张益波 2 0 0 6 年4 月于浙江大学求是园 第一章绪论 第一章绪论 支持向量机( s u p p o r tv e c t o rm a c h i n e ，简称s v m ) 是一类基于统计学 习理论的学习机器，目前已经在模式识别、智能建模以及控制理论中 得到了广泛的应用。在控制领域中，s v m 已有在预测控制、自适应控 制等算法中应用的实例。但是，目前仍没有出现s v m 与变结构控制方 法相结合的相关研究。因此，本文研究了s v m 在变结构控制系统中的 应用，讨论了如何实现s v m 与变结构控制系统的结合，以期提出一类 新的基于黑箱建模的变结构控制方法。 1 1 统计学习理论与支持向量机概述 人类与其它生物最重要的区别是人类可以通过对实例的学习，通 过对已知事实的分析总结规律，预测不能直接观测或即将发生事实的 能力。这种能力帮助人类认识现有的世界，并对未知的现象做出正确 的预测和判断。从过去的数据和已掌握的知识中学习并获取规律的能 力被称为学习能力。用获得的规律不仅可以解释已知的实例，而且能 够对未知的现象做出正确的预测和判断，这种能力称为推广能力” 。 在人工智能中，采用计算机来模拟这种学习能力，这就是所谓的 机器学习。机器学习的目的在于设计某种方法和模型，通过学习已拥 有的数据，找到其内在的相互关系，从而对将来未知的数据进行预测 或判断，最终使机器具有人类所特有的推广能力。 统计学是机器学习中最为重要的数学理论基础。常规统计学通常 研究渐近性理论，即当样本趋于无穷大时的统计性质，但在实际中能 够得到的样本数量通常是非常有限的，如果仍以样本无穷大的假设为 前提进行算法的推导和控制系统的建模，会在算法应用中出现很多的 问题。例如在目前常用的神经网络中，样本数过少时学习机器的推广 能力会很差，这就是机器学习中常见的过学习现象。 浙江大学博士学位论文 此类问题从出现开始就始终限制着机器学习理论的发展，直到2 0 世纪7 0 年代v a p n i k 等人建立了新的统计学理论体系，即统计学习理论 ( s t a t i s t i c a ll e a r n i n gt h e o r y , 简称s l d 。统计学习理论系统地研究了机 器学习，尤其是小样本情况下的统计学习问题。统计学习理论为人们 系统地研究小样本情况下的机器学习问题提供了有力的理论基础，并 在此理论的框架体系下，提出了一种新的通用学习机器一支持向量机。 由于s v m 在各方面较其它学习机器都具有更加优良的性能，因此吸引 了大量的研究者。 1 1 1 机器学习理论 机器学习最为重要的特征就是能够从数据中学习得到规律以解释 已知的实例，并能够对未来的或无法直接观测的现象做出正确的预测 和判断。一般地讲，好的学习机器需要具备较好的推广能力。 假设存在给定的函数集f ( x ，口) ，口a ，从该函数集中选择出能 够最好地逼近训练器响应的函数，这种选择是基于训练集的。训练集 是根据分布尸 ，y ) = m ) _ p ( 叫力任意采集的独立同分布的训练样本 扛，y ， i = l 2 ，n 组成。机器学习的目的可以表示为：根据n 个独立同 分布的观测样本扛，y ， f = 1 , 2 ，棚，在一组函数扩( 口) 中求一个最优 函数o ，c r 0 ) 对训练器的响应进行估计，使期望风险 r ) = f l ( y ，( x ，a ) ) d p ( x ，) 最小，其中对于不同类型的机器学习问题 有不同形式的损失函数。 1 1 2 统计学习理论的概念 统计学习理论被认为是目前针对小样本统计估计和预测问题的 最佳理论，主要内容包括四个方面【5 】： ( 1 ) 基于经验风险原则的统计学习过程的一致性理论； 第一章绪论 ( 2 ) 学习过程收敛速度的非渐近理论； ( 3 ) 控制学习过程推广能力的理论； ( 4 ) 构造学习算法的理论。 统计学习理论主要有如下的几个重要概念： 1 、v c 维 v c 维( v a p n i k - c h c r v o n c n k i sd i m e n s i o n ) 理论是统计学习理论最重 要的理论基础嘲。v c 维是一类定量反映函数集学习能力的概念，有界 实值函数的v c 维可以通过使用阈值将函数转化成指示函数来定义【2 】。 在线性空间中，函数集的v c 维定义是：如果存在维数为”的点集可构 造2 种模式，指示函数集能够完全分开所有的可能模式；当点集维数 埘 胛时上述指示集函数将无法把点集2 ”完全分开，若对任意数目的 样本所构成的各种模式都能被函数集分开，则该函数集的v c 维是无穷 大。易知，如果v c 维越大，需要的学习机器将会越复杂，所以，v c 维是对学习机器复杂程度的衡量，例如维实数空间中线性分类器和 线性实函数的v c 维是 + l 。对于一些比较复杂的学习机器，其v c 维 除了与函数集的选择有关外，通常也受学习算法等的影响，这时的v c 维确定将会更加困难。因此，对于给定的学习函数集，如何用理论或 实验的方法计算其v c 维是当前统计学习理论研究中需要解决的一个 问题。 2 、推广性的界 。 在1 9 7 1 年v a p n i k 就指出经验风险的最小值未必收敛于期望风险的 最小值嘲，并且证明了当且仅当足( 五) 依概率一致收敛于r 。) ，同时 当且仅当假设空间以( 力：a a ) 的v c 维是有限的，经验风险的最小值 收敛于期望风险的最小值 6 】 如果统计学习理论关于函数集的推广能力的界可知啊，对于指示 函数集“口) ，如果损失函数q ( z ，口) = f 0 ，口) ) 的取值为0 或1 ， 浙江大学博士学位论文 对所有函数，则经验风险和实际风险之间至少以概率1 一玎满足如下关 系： 月( 口) 五一( 口) + 1 h ( h a ( 2 1 1 h ) i ) - i n ( r 1 4 ) - ( 1 1 ) 其中z 是样本数，h 是学习机器的v c 维。 所以经验风险最小化原则下学习机器的实际风险是由两部分组成 的。其中第一部分为训练样本的经验风险，第二部分称作置信区间， 如图( 1 1 ) 所示。 风险 图1 1 最小化经验风险的界 显然，上式中仅使经验风险r ( 丑) 最小并不能保证期望风险 r ( 五) 最小。因此，v a p n i k 提出了结构风险最小化原理以解决该类矛盾： 为了保证期望风险达到最小，必须使上式右边两项同时最小，i l p v c 维 h 和经验风险r 一( 五) 同时最小，如下式： 尺( w ) 尺。( w ) + 庐( )( 1 2 ) 4 第一章绪论 可以看出，在有限的训练样本情况下，学习机器的v c 维越高，则 其置信范围将会越大，从而增加了真实风险与经验风险之间的差别， 这就是神经网络等学习机器会出现过学习现象的原因。机器学习不仅 要使经验风险最小，并且要使v c 维尽量小，以缩小置信范围，取得较 小的实际风险，这样的学习机器才能对未来样本有较好的推广性。因 此可知，置信区间不但受置信水平l r 的影响，更受函数集的v c 维和 训练样本数目的函数影响，且随着其增加而单调减少。根据经验风险 最小化原则得到的学习机器的推广能力，被称为推广能力的界。 对于一个特定的问题，当样本数目，固定时，学习机器的v c 维越 高，复杂性越大，置信区间就越大，导致真实风险与经验风险之间可 能的差别就越大。因此，在设计学习机器时，要在最小化经验风险的 同时使v c 维也尽量小，这类机器学习中的矛盾进而导致了在一般情况 下选用过于复杂的分类器和神经网络往往无法得到令人满意的效果。 要使训练好的学习机器具有较好的泛化能力，需要在v c 维与训练 集的规模之间取得某种折衷。由于神经网络的v c 维取决于网络结构中 可调参数的数目，而后者又是由网络拓扑结构确定的，网络的v c 维与 网络的拓扑结构之间有必然的联系。因此在训练集已经给定情况下， 如果能得到合适的v c 维，则可由此确定网络的结构。 1 1 , 3 支持向量机 支持向量机是一类基于统计学习理论的通用学习机器，它较好地 实现了统计学习理论结构风险最小化思想。系统中产生一个分类超平 面并移动其直至数据集中不同种类的点正好位于超平面的不同侧面。 s v m 则需要找到一类满足分类要求的超平面，并且使训练集中的点距 离分类面尽可能地远，这样的分类面可以保证其两侧的间隔最大。 图( 1 2 ) 中分别为特征空间中的线性学习机器与s v m 的结构。 浙江大学博士学位论文 特征空同中的线性学习机器结构 1 1 4 回归型支持向量机 图1 2 支持向量机的结构 s v m 目前已经广泛应用于模式识别与函数回归等很多方面。由于 本文主要应用回归型s v m ，因此文中将主要介绍线性可分与线性不可 分情况下的回归型s v m 7 】。 线性回归型支持向量机 为了利用分类s v m 的思想来解决回归问题，v a p n i k 采用了占一不灵 敏损失函数，即： l ( y ，f ( x ，口) ) = z o y - f ( x ，口) i 。) = i y f ( x ，口l 。 ( 1 3 ) y - f ( x , a l , = b 0 计占却一等牡占 这种损失函数描述这样一种情况，如果预测值和实际值之间的差 别小于s ，则损失等于零，如图( 1 3 ) 所示。图中，右边的图是s 一不灵 敏函数示意图，横坐标是拟合误差陟一f ( x ，口) i ，纵坐标表示损失函数 自a l y f ( x ，c 0 1 ；左边的图形表示在s 一不灵敏函数作用下的线性拟合。 6 第一章绪论 jl l 善i 沙 图1 3 占一不灵敏函数 采用线性回归函数，( 工) = ( w z ) + 6 来拟合训练数据 仁，y j l f - l ，r ”，y l r 。如果所有训练数据都可以在精度占下 无误差地用线性函数拟合，即 0 蕊寰y k ， c 椰 【( w x ，) + 6 一，占” 、 总可以找到大于5 的拟合误差，考虑到允许拟合误差的情况，引 入松驰因子最o 和等0 。回归s v m 的优化问题提法如下： 曲，= 如叫| 2 十c 壹( 参+ 舅) ( 1 5 ) ，。【( y 。, - 五( w ) + x 。, ) 一- 儿b a 。e + + 霎z = t ， 上述优化问题的对偶问题是： m a x 缈q ，口) = 一丢杰( 硝一q ) ( 巧一哆) 伍- ) + 乃( 西一q ) 一占 ? + q ) 7 浙江大学博士学位论文 旺善( 旷口扣o 0 s q ，口? c f = 1 ， 取目标函数的负值，可以把优化问题改为最小化问题，进而写成 矩阵的形式如下： 施步口。磁- q q 甜ak 可( 小乃 虹1 7v 杉卜 0 口口c 这里q ，= 伍_ ) ，e = ，l y ，口，口是拉格朗日乘子。 利用二次型规划方法解出口，口，同时利用k k t 条件可以计算出 b 满足在最优点拉格朗日乘子和约柬条件的乘积为零： 或 口j ( 占+ 毒- y i + ( w 墨) + 6 ) = 0 口? 占+ 等+ y f 一暑二囊：。0 ( t s ) ( c 一口，) 毒= ( c 一口? ) = 0 如果口，口( o ，c ) ，则鼻= 等= 0 ，因此： b = y ，- ( w t ) 一sa ，( o ，c ) ( 1 9 ) b = y ，- ( w 工j ) + 占货? ( o ，c ) ( 1 1 0 ) 由此可得所求的回归函数： ，( 功= ( w 刁+ 6 ：圭( 口? q 胁砖+ 6 1 1 第一章绪论 通常情况下，口，1 2 ；只有少部分不为0 ，它们对应的样本就是支持向 量，一般是在函数变化比较剧烈位置上的样本。 非线性回归型支持向量机与核方法 前面介绍了用s v m 来解决线性回归问题，对于非线性回归问题， 可以通过某种非线性变换转化为某个高维特征空间中的线性问题加以 解决，如图( 1 4 ) 所示。 图1 4 特征空同的回归估计 基于非线性回归的s v m 的实现是基于如下的思想：通过非线性函 数妒( t ) 把”维向量映射到高维特征空间。在这个维数足够大的高维特征 空间中，使得原空间数据的像具有线性关系。在构造最优决策函数时， 需要计算内积。而s v m 巧妙地利用原空间的核函数取代了高维特征空 间中的内积运算，即豳矗，x ，) = i p ( x ，) 妒0 ，) ( 也被称为内积的回旋) ， 采用核函数技术实现了输入输出之间的非线性关系，避免了维数灾难。 可知，构造非线性回归型s v m 由构造线性最优决策函数和构造核函数 两个过程组成，在构造这两个过程中无需知道映射妒( ) 的具体形式。 对于个非线性回归问题，首先利用非线性函数( ) 把训练数据 映射到高维特征空间，然后在这个空间中建立一个线性回归函数，即： 9 浙江大学博士学位论文 ，( 工) = ( w - 矽( z ) ) + 6 ( 1 ，1 2 ) 根据结构风险最小化原理，可以得到下列的约束优化问题： m i n 丢卅j 2 + c 妻g + 等) ( 1 1 3 ) l ：l y i w 妒( 五) ) 一b s 占+ 毒 j ，( w 妒( ) ) + 6 一”占+ f 参，占2 0 ，i = l ， 类似地，模仿线性s v m 对偶优化问题的求法，建立l a 铲a n g e 函数： 工= w w + c ( 磊+ 占) 一口，( ( w ( x ，) ) + 6 一y ，+ f + 毒) “ “ (114)i i 、。 一彳，一( w 矿 ) ) 一西+ 占+ 占) 一( t 毒+ 订等) ，2 i j = l k k t 优化条件要求l a 霉a n g e 函数相对于变量w ，b ，茧，等的偏 导为零： 丝a w = 。辛w 。喜 一群磁而) 爹2 。j 喜c 口，一口= 。 。， 善一驴c 喝 u 。叫 嚣一v j = c - a ? 把式( 1 1 5 ) 中各式代入式( 1 1 4 ) 中，把求极大值问题转化为求极小 值问题，根据w o f l ep 删的对偶理论可以把式( 1 1 4 ) 的回归估计问题转 化为它的对偶问题，也就是最大化泛函： m a x 三套砉g ，一口j k ，一a a 庐( _ ) 似工，) + s 杰k ，+ 口；) 一圭只o ，一口j ) ，= 1 ，= li=l。面 ( i 1 6 ) 第一章绪论 。上善b ，一口小o 0 口，西c i = 1 ， 写成矩阵的形式： m i n 步盯。匕苫b 卜9 7 可# ( 1 ，l ， 砒n e 7 # = 。 0 口口s c 其中q f ，= ( 妒( ) 庐吒) ) ，y - - f y ，y ，】r ，e = 【l ，l 】r ，口，c t * 是拉格 朗日乘子向量，所求的拟合函数为： ，o ) = 窆0 ，一口? 矿 。) ( 0 ) ) + b ( 1 1 8 ) 采用核函数方法( k e r n e lf u n c t i o nm e t h o d ) 可以用来计算出高维 特征空间中的内积。核函数方法的基本思想是：在高维h i l b e r t 特征空间 中，两个输入矢量的内积，它的值等于满足m e r c e r 条件的核函数： k ( _ ，_ ) = ( 墨) 矿q ) ) ( 1 1 9 ) 这样通过核函数技术，特征空间中的内积运算可以用原空间的核 函数计算，无需知道交换( 的形式。根据泛函的有关理论，满i g m e r c e f 条件的核函数足( 而，x ，) 就对应某一特征空间中的内积。 利用核函数思想： q i ，= ( 而) 矿( ) ) = k ( 薯，一) ( 1 2 0 ) 式( 1 2 0 ) 可以写为： ，( 功：圭0 ，一口；k k 而) + 6 ( 1 2 1 ) i = l 1 1 浙江大学博士学位论文 或 和线性回归问题一样，参数b 可以用k k t 条件求出： b = y 一窆仁，一口j k “，x j ) 一占q ( o ，c ) ( 1 2 2 ) 埘 b = y ，一窆白，一口；k ( x j ) + 8 口知( o ，o ( 1 2 3 ) 式( 1 2 2 ) d z 斌；( 1 2 3 ) 就是著名的函数核扩展公式，常用的核函数有： ( 1 )线性核：k ( x ，_ ) = x ，工 ( 2 ) 高斯基径向核：石：e x p ( 一1 笋) ( 3 ) 指数基径懒踯 ) - c x p ( - ( 4 )多项式核：k ( x ，) = k x , x ) + q l a = 1 , 2 ，n ( 5 )感知器核：k ( x ，而) = t a n h ( x j 工) + 6 ) c s ， 傅立叶序列核函数：足一，= 塑当簧；j ；! ! 争卫 ( 7 ) 样条核：k ( x ，_ ) = x r x ；+ ( x - y ，) ( - y ，) ( 8 )b 样条核：蜀善，) = b 2 。l ( x - - x ，) 核函数方法避免了非线性映射( 的具体形式，不需要计算特征 空间中的内积。核函数方法已经成为现代机器学习中的一种新方法， 使得在线性学习领域所取得的成果可以自然地推广到非线性学习领 域，使非线性学习问题在概念和计算上与线性学习问题一样简洁。 第一章绪论 1 1 5 支持向量机在控制系统中的应用研究现状 回归型s v m 最为重要的应用领域就是智能建模与智能控制。采用 s v m 的拟合能力，可以对黑箱或灰箱系统进行辨识和控制。 基于s v m 的智能建模研究 利用s v m 超强的非线性拟合能力进行黑箱或灰箱系统参数辨识， 这方面已经有了一些研究。例如：b r o w nm e ta 1 f 9 】把s v m 应用到非 线性建模中，采用a n o v a 核分解技术训练s v m 。d r e z e tp m l e ta 1 f l o 】将s v m 应用到线性和非线性系统辨识中，研究了线性系统参数与 支持向量的关系，得出线性系统的参数实际由支持向量的张量构成， 但并没有分析和讨论系统的鲁棒性等。【1 1 利用最小二乘s v m ( l s s v m ) 建立非线性系统的模型，使用修剪技术使l s - - s v m 的解具有 s v m 的稀疏性，并将其应用到倒立摆的控制中。 1 2 】将s v m 应用到 黑箱系统的辨识，对水压机械臂的行为进行建模。王定成等【13 】将s v m 回归动态建模理论应用于非线性、时变、大时延温室环境温度变化的 建模和预测。李丽娜等f i4 】将支持向量机应用到典型的时变非线性工业 过程一连续搅拌反应釜辨识中，并与b p 神经网络相比较，仿真结果表 明了支持向量机的有效性与优越性。 1 6 】利用支持向量机辨识非线性系 统，并将辨识得到的模型应用到非线性预测控制中，获得了良好的控 制性能。崔万照等 1 6 1 基于小波分解和支持向量核函数的条件提出一种 多维允许支持向量小波核函数，提高了支持向量机的泛化能力，该类 函数应用于最小二乘支持向量机后表明该类支持向量机能够提高对非 线性系统的辨识效果，并且减少了计算量。【1 7 】研究了s v m 在a r m & 系统辨识中的应用，并分析了系统的鲁棒性，尤其是野值( o u t l i e r ) 的影 响，同时还就s v m 方法与经典的最小二乘方法和相关系数法做了数学 上的对比。郑水波等1 1 8 】应用网络搜索和交叉验证的方法选择支持向量 机参数，并将其应用于汽车转向时的非线性动态系统辨识，取得了良 好的辨识效果。何峻峰等口9 埂出了基于支持向量机的逆系统控制方法， 浙江大学博士学位论文 针对最小相位的非线性离散系统利用支持向量机回归方法辨识构造原 系统的口一阶逆系统从而得到了相应的纯延时伪线性系统。以上应用 都是对单输入单输出( s i s o ) 或多输入单输出( m i s o ) 对象的建模， 采用离线式的训练算法。 基于s v m 的控制方法研究概述 基于s v m 的控制方法研究比较广泛，在这里主要对基于s v m 的 模型预钡9 控制方法和基于s v m 的自适应控制器设计所进行的研究进 行简要的概述。 模型预测控制是一种基于模型的闭环优化控制策略，以各种不同 的预测模型为基础，采用在线滚动优化方法和反馈自校正策略，克服 受控对象的不确定性等，达到预期的控制目标脚 1 2 “。m e a d o w se s e t 以和m o r a r im e t 以1 分别对模型预测控制的历史以及工业应用 的情况做了全面的综述。现有的预测控制算法可以较好地解决线性或 弱非线性对象的控制问题，但至今仍然十分缺乏有效的针对复杂非线 性系统的预测控制技术【2 4 】。目前，非线性模型预测控制主要采用模糊 理论和神经网络建立被控对象的非线性模型。然后再依据优化目标求 取控制律。在这方面，取得了一定的成果【”- 2 7 ，但仍然存在很多问题， 这是由于神经网络的本质缺陷造成的f 2 8 1 2 9 】。 滚动时域下的目标函数求解是一个复杂的数学过程，获取全局最 优的解析控制律非常困难。这些致命的不足严重制约了基于神经网络 的非线性预测控制的发展。目前基于s v m 的预测控制算法已经有了 相关的研究。张浩然等1 3 0 】针对未知非线性系统，提出了基于s v m 的 预测控制结构和算法，以s v m 为辨识器同时采用梯度算法求取控制 作用，最后利用弹簧一质体阻尼系统的动力方程进行了仿真；在此基 础上， 3 1 采用随机搜索算法求取控制作用。 3 2 提出了基于s v m 的 非线性模型预测控制的结构，采用数值寻优算法求取控制作用。【3 3 提出了一种利用线性核函数s v m 进行非参数模型辨识以及模型算法 控制的技术；钟伟民等口4 1 提出了基于线性核s v m 的单步模型预测控 1 4 第一章绪论 制算法；3 5 在此基础上，提出了基于二次核s v m 的单步模型预测 控制算法，对c s t r 的控制仿真表明性能优于 2 5 e e 基于r b f 神经网 络的控制器。王宇红等【3 6 】对最小二乘支持向量机用等式约束代替传统 支持向量机的不等式约束，得到了基于最小二乘支持向量机的非线性 预测控制方法，该算法应用于c s t r 过程后证明其具有学习速度快， 具备良好的非线性建模和泛化能力等优点。刘斌等【3 7 】利用r b f 核函 数的l s s v m 离线建立被控对象的非线性模型，然后在系统运行过程 中将离线模型在每个采样周期线性化，并用广义预测算法对被控系统 进行预测控制。 3 8 】提出一种s v m r 预测控制结构，利用s v m r 建 立非线性系统模型，利用遗传算法进行滚动优化，这种预测控制具有 良好的非线性控制效果。 基于最小二乘支持向量机的研究也较为广泛。如 3 9 】将最小二乘 支持向量机应用于一类非线性离散时间系统的自适应控制，通过求解 一系列的线性方程得到了控制量。 4 0 提出了一类利用支持向量机在 线识别a c 伺服系统的参数与负载扰动的方法，实验结果证明采用支 持向量机后可以实现对未知扰动的未知伺服系统的控制。上述研究都 存在一些不足：张浩然等3 0 】【3 1 和m i a oq e ta 1 采用数值寻优算法 求取控制律，无法保证得到全局最优解，寻优算法耗时，无法保证在 线实时性；钟伟民等p 棚和z h o n gw m e ta 1 t 3 3 】只考虑了单步预测的 输出，虽然得到了解析的控制律，但没有解决多步预测控制问题。 s v m 在自适应控制中的应用主要用于对不确定的未知参数进行 估计并将其应用于控制律的设计【4 1 】。多数非线性自适应控制方法仅能 应用于参数线性化的仿射非线性系统，所得到的控制器通常需要系统 局部或者额外的先验知识，这些自适应控制器存在着很多问题，诸如 非线性控制器很难推导、实用性差、计算复杂性随着未知参数的数量 成几何增长趋势等，迫切需要寻求更可行的方法来解决这些问题。 目前，非线性自适应控制主要利用模糊理论和神经网络估计非线 浙江大学博士学位论文 性系统未知部分或者未建模动态，虽然取得了一些成果【4 2 卅，但在实 际应用中，需要一种系统的方法确保整个系统的稳定性、鲁棒性及系 统的其他特性，而且模糊理论和神经网络本身的缺陷严重制约了基于 模糊理论和神经网络的非线性自适应控制的发展。基于s v m 在线训 练算法的研究结果将s v m 与其它控制方法相结合可以形成具有自 适应能力的控制方法，这可以充分利用s v m 泛化能力强、存在全局 最优解等优点。 1 2 变结构控制研究概论 变结构控制( v a r i a b l es m a c t u r ec o n t r o l ，简称v s c ) 最早出现于2 0 世纪5 0 年代，是一种实现线性与非线性系统鲁棒控制的方法，由于 系统的结构在控制的过程中会发生变化，所以被称作交结构控制。变 结构控制是近二十年来研究较多的一类控制方法，尤其近年来该方面 的文献大量出现，取得了丰硕的研究成果。 1 2 1 变结构控制系统的概念 如果存在个( 或几个) 切换函数，当系统的状态达到切换函数值 时，系统从一个结构自动转换成另一个确定的结构，称之为变结构系 统。 通常意义上的变结构控制系统的特殊性在于，系统的控制有切 换，而且在切换面上系统会沿着固定的轨迹滑动。这类变结构系统也 被称作滑动模态变结构系统。 假设存在控制系统： 量= f ( x ，“，f ) 工r “，甜r m , t r 和切换函数向量： j ( 曲5 r ” 寻求变结构控制： 第一章绪论 “，= ：；曷耋：葛：i q t 别j 如l 叫 u 这里的变结构体现在+ c 力1 1 - ( 功，使得切换面以 ) = 0 以外的 相轨迹于有限时间内进入切换面；切换面是滑动模态区；滑动运动渐 近稳定，动态品质良好。 变结构控制系统的切换面称为滑动超平面，简称为滑平面，它是 指由切换函数在相平面上形成的平面。当系统为二阶系统时，滑平面 为直线；当系统为三阶系统时，滑平面成为一个三维平面；当系统高 于三阶时，滑平面成为一个超维平面。 当实现了变结构控制后，滑平面将使系统状态向滑平面运动，星 现出一种“吸引”的现象；当系统状态到达滑平面后，又会使系统状态 沿滑平面向状态零点运动。由于滑动模态是变结构控制所特有的现 象，因此变结构控制也被称为滑模控制。 变结构控制主要有以下几个问题： ( 1 ) 变结构控制的三要素 变结构控制中存在三个主要问题，即：进入切换面的条件，滑动 运动存在的条件，滑动运动稳定的条件。 ( 2 ) 变结构系统的不变性和抖振问题 滑动模态的本质特点是对内部参数的摄动和外部扰动作用具有 不变性，或称不灵敏性，自适应性。 理论上的滑动模态是降维光滑运动，但在具体实现变结构控制 时，理想的开关特性很难实现，主要是由于时间上的延迟和空间上的 滞后等原因使得滑动模态呈抖动形式，从而在光滑的滑动上叠加了自 振，使系统状态在相平面上的轨迹呈现锯齿形状，这种现象被称为抖 振。抖振是变结构控制的突出障碍，它会对实际系统的机械及电子元 件造成破坏，是影响变结构控制技术应用的主要原因。 滑动模态变结构控制主要是针对连续系统模型，因为只有理想的 浙江大学博士学位论文 连续滑模变结构控制，才可由具有切换逻辑的变结构控制产生等效滑 模控制。对于离散系统，变结构控制不能产生理想的等效滑模控制， 只能产生准滑模控制，因此在很长时间里，离散时间系统的变结构控 制方法研究始终未得到广泛的关注。 随着计算机技术的飞速发展和工业自动化等领域的实际需要，经 常采用数字计算机进行仿真研究与实时控制。然而由于采样周期的存 在，使变结构滑动模态的性质、稳定性及到达条件都已经改变，连续 时间系统的变结构控制方法难以直接应用于离散时间系统。因此，研 究适合离散时间系统的变结构控制方法，具有很重要的理论价值和实 际意义。 近年来，国内外学者针对离散时间系统的特点和要求提出了一些 变结构控制方法。这些方法主要以到达条件作为理论研究的出发点， 将连续系统中的s k 0 的到达条件进行简单的离散化后推广到离散时 间系统，其形式为b ( 七+ 1 ) 一j ( t ) - ( j ) 0 ，i s + 1 ) i i s ( 女) i 或者其等价 形式躲茉矧鬻暑；：这种形札复黼充分徘使变 结构控制的求解比较困难，控制算法也相对复杂，有的甚至无法求出； 而一些文献中利用李亚普诺夫渐近稳定的理论，定义李亚普诺夫函数 为v = 冬，根据标量输入离散系统的渐近稳定条件v ( _ i + 1 ) 一“ 0 。 得到的变结构控制则比较复杂且难以推广到多输入情况【蜘。同时，由 于采样周期的存在，使系统状态轨迹以抖动形式沿滑平面运动，因此 离散变结构控制必然存在准滑动区。“准滑动”( q u a s i s l i d i n g ) 描述了离 散系统状态在滑平面附近抖动并最终趋向状态零点的过程。“在到达 条件的制约下，离散系统的运动首先趋近切换面，在进入切换面的一 个邻域后，或者不断地穿越切换面呈抖动的运动，或者转换成切换面 上的运动，这两类运动的总体称为离散变结构控制的准滑动模态，在 第一章绪论 切换面上的运动，称之为理想准滑动模态，而另一类称为非理想准滑 动模态“蜘。如果在离散系统中要达到理想准滑动模态，必须满足两 个条件：第一，状态必须恰好在转换时刻到达滑平面；第二，离散变 结构控制下的受控制系统动态性能必须与理想滑平面的特性相匹配 以保证系统在滑平面上的运动。但在实际中很难满足上述条件，因此 系统状态一般都会围绕滑平面做吱咯一吱嘎( z i g z a g ) 运动。 连续时间系统的状态方程表示了系统状态的变化趋势与状态之 间的关系，而在离散时间系统的状态方程中则表示了两个相邻时刻的 状态之间的联系，二者有很大的差别。连续时间系统中滑平面参数满 足赫尔维茨多项式即可保证系统状态收敛，但该条件不再适用于离散 时间系统。目前研究系统滑平面设计方法的文献较少，虽然s p u r g e o n s k e ta 1 【4 6 】对离散时间系统变结构控制中滑平面参数的选择进行了 研究，并给出了能够保证系统状态渐近稳定的条件，但该条件仅为充 分条件，因此对滑平面参数的选择也相对严格。 h e b e r t ts r 【4 7 】研究了准滑动模态下的离散非线性系统。文中证 明了当且仅当系统输出满足l y ( k + 1 ) y ) l y 2 ) 时准滑模运动存在 流形，并且当非线性系统的相关度大于1 时，可引入输出函数并通过 选取适当的系数使系统局部相关度为l ，系统将以输出函数为流形。 o 口j d 在有扰动的情况下，当且仅当满足匹配条件r a n g e ( 睾) ( 其中 o o ) 为扰动信号) 时，理想准滑动模态可以完全不受扰动信号的影响。 【4 8 在频域内研究了变结构控制系统中常见的非线性函数与系统 抖振现象的关系。文章指出：对于非线性的符号函数，总存在一个极 限环，而该极限环的特性是引起抖振现象的原因；如果非线性函数无 记忆、函数值域在 0 ，2 ) 内并且滑模带足够宽，将可以消除抖振，否则 必然出现抖振现象。文中还以定理形式给出了符号函数、饱和函数及 s i g m o i d 函数的带宽应满足的条件。 浙江大学博士学位论文 1 2 2 离散时间系统变结构控制方法