（控制理论与控制工程专业论文）基于支持向量机的非线性动态系统辨识与控制.pdf

摘要 基于支持向4 1 机的j e 线性动态系统辨识与控制 摘要 支持向量机是一种普适的学习算法，已经广泛地川十模式识别、回归估计、 函数逼近、密度估计等方面。本文将支持向量机应用到非线性动态系统的辨识与 控锖中。针对某些特殊的非线性动态系统，改进了支持向量机的输出模型，得到 更适合于该类系统的支持向量机模型。对多分类问题，提出了类似b a y e s i a n 分类 器的算法。具体的t 作如下： 。、我们首先采用标准支持向量机辨识非线性动态系统的正向模型和逆模型， 并基于估计的系统逆模型来实现对参考模型的跟踪控制。仿真实验验证了在噪声 干扰不太强的情况下，采用标准支持向量机辨识和控制非线性动态系统是可行的， 且具有较好的推广能力和收敛性。 二、针对可分离的非线性动态系统，我们通过修改标准支持向量机的输出模 型，提出了可分离支持向量机回归估计方法，并将它用于可分离非线性动态系统 的辨识和控制。由于在模型表示中引入了可分离的先验知识，避免了辨识过程中 输入变量和输出反馈变量之间的相互影响，从而获得了更高的辨识精度。另外在 可分离非线性动态系统模型中，控制律的求解与输出反馈没有关系也大大简化了 控制律的求解。仿真实验表明，与标准支持向量机方法相比，由于采用可分离的 先验知识，可分离支持向量机具有更好的辨识和控制精度：与同样结构的神经网 络方法相比，可分离支持向量机方法具有更好的推广能力和收敛特性。 三、针对已获得广泛研究的仿射非线性动态系统，我们通过修改标准支持向 量机的输出模型，提出了两种仿射支持向量机回归估计方法，并将它用于仿射非 线性动态系统的辨识和控制，咀及一般非线性动态系统的近似辨识和控制。仿真 实验表明采用仿射支持向量机回归估计方法辨识和控制仿射非线性系统或者近似 辨识和控制一般的非线性系统都是可行的。它与同样结构的神经网络方法相比， 具有更好的推广能力、收敛特性和鲁棒性。 四、对个多分类问题，我们首先将它分解成多个两类问题，分别采用标准 的二分支持向量机进行识别，并为二分支持向量机的输出赋予一个二分后验概率。 由于多类问题和由其分解的两类问题条件概率的一致性，我们进一步根据二分后 验概率计算多分类器输出的总后验概率从而实现分类。如果二分支持向量机的后 验概率估计足够精确，则我们提出的多分类方法将接近最优b a y e s i a n 多分类器。 上海交通大学博士后研究工作报告 我们方法不仅能给出分类结果，同时也能给出分类的后验概率，这对解决实际阅 题是非常有用的。实验结果表明了该方法的可行性和有效性。 关键词支持向量机，神经网络，回归估计，模式识别，非线性动态系统，系统 辨识，自适应控制，参考模型控制，b a y e s i a n 分类器 a 8 s t r a c ti l i d e n t i f i c a t i o na n dc o n t r o lo fn o n l i n e a rd y n a m i c a ls y s t e m u s i n gs u p p o rv e c t o rm a c h i n e s a b s t r a c t s u p p o r tv e c t o rm a c h i n e ( s v m ) a sak i n do fu n i v e r s el e a r n i n gm a c h i n eh a sb e e n w i d e l yu s e di np a t t e r nr e c o g n i t i o n ，r e g r e s s i o ne s t i m a t i o n , f u n c t i o na p p r o x i m a t i o n ， d e n s i t ye s t i m a t i o na n do t h e r s h e r ew ew i l la p p l ys v mo nt h ei d e n t i f i c a t i o na n d c o n t r o lo fn o n l i n e a rd y n a m i c s ls y s t e 吣f o rt w oc l a s s e so fn o n l i n e a rd y n a m i c a l s y s t e m s ，w ei m p m v et h eo u t p u tm o d e lo ft h e $ t a n d l t r ds v mt og e tas e p a r a b l es v m a n dt w oa f f i n es v m s f o rm u l t i - c l a s sc l a s s i f i c a t i o np m b l e m ，w ep r e s e n tac l a s s i f i e r s i m i l 盯t ob a y e s i a nc l a s s i f i e r f i r s t l yw er i s et h es t a n d a r ds v mt oi d e n t i f ya n o n l i n e a rd y n a m i c a lp l a n ta n di t s i n v e r s em o d e la n di m p l e m e n tm o d e lr e f e r e n c ec o n t r o lb a s e do nt h ei d e n t i f i e di n v e r s e p l a n t s i m u l a t i o ns h o w st h a tt h ei d e n t i f i c a t i o na n de n n h v lo fn o n l i n e a rd y n a m i c a l s y s t e m s u s i n gs t a n d a r d s v m i s f e a s i b l e i n t h ec a s e o f l o w n o i s e l e v e l s c o m p a r e d w i t h n n s ，s t a n d a r ds v mh a sab e t t e rp e l f o r m a n e na n daf a s t e rc a n v e r g e n c es p e e d s e c o n d l yw ei m p r o v et h es t a n d a r ds v mf o rt h es e p a r a b l en o n l i n e a rd y n a m i c a l s y s t e m s t h es e p a r a b l es v mi n t r o d u c e st h ep r i o rk n o w l e d g et h a tt h ee n n t r o li n p u ta n d t h es y s t e l l lo u t p u t sa 糟s e p a r a b l e s oi ta v o i d st h ec “璐i n f l u e n c eb d = 1 ) i 怕锄t h ec o n t r o l i n p u t sa n dt h eo u t p u t sa n dc a no b t a i nh i g h e ri d e n t i f i c a t i o np e r f o r m a n c e i na d d i t i o n ， t h ec o n t r o ll a wi si n & p e n & n to ft h eo u t p u t s ，w h i c hr e d u c e st h es o l v i n gp m e 鹪so f c t r o ll a wg r e a t l y e x p e r i m e n t a lr c m l l t ss h o wt h a tt h es e p a r a b l es v mh a sab e t t e r i d e n t i f i c a t i o na n dc o n t r o lp 部f o m m c et h a nt h es t a n d a r ds v m ，a n dh a sab e t t e r g e n e r a l i z a t i o n p c r f o r m l l l l c o a n d a f a s t e r c o u v e r g c n s p e e d t h a n t h e s e p a r a b l e n n s t h i r d l yw eh 瑚玎们圯t h e 砒锄证i b | ：ds v mf o rt h ei d e n t i f i c a t i a n dc o n t r o lo ft h e o u t p u t - a f f i n en o n l i n e a rd y n a m i c a ls y s t e m s t h ea f f m es v ma l s oc a nb ea p p l i e dt o i d e n t i f y i n ga n de o n t r o l u n go t h e rn o n l i n e n rd y n a m i c a ls y s t e m sa p p r o x i m a t e l y e x p e r i m e n t a lr e s u l t ss h o wt h a tt h ea 位i i i es v mi sf e a s 曲l ei nt h ei d e n t i f i c a t i o na n d c o n t r o lo fn o n l i n e a rd y n a m i c a ls y l f g o l l h $ a n dh a sab e t t e rg e n e r a l i z a t i o np e r f o r m a n c e a n daf a s t e rc o n v e r g e n c es p e e dt h a nt h ea f f i n en n s f i n a l l yam u l t i - c l a s sa l g o r i t h mb a s e do nt h ep o s t e r i o rp r o b a b i l i t yo u t p u t sf o r s v m si sp r e s e n t e d o u ra l g o r i t h mr e d u c e sam u l t i - c l a s sc l a s s i f i c a t i o np r o b l e mt o 上海交通大学博士后研究_ t - 作报告 m u l t i d l eb i n a r yo n e st h a ta r es o l v e db yt h eb i n a r ys v m s t h eb i n a r yp o s t e r i o r p r o b a b i l i t i e sf o rt h eb i n a r ys v m sa r co b t a i n e df o rc o m p u t i n gt h et o t a lp o s t e r i o r p r o b a b i l i t i e sa n dm a k i n gt h ef i n a ld e c i s i o n i f t h ee s t i m a t i o no f t h ep o s t e r i o rp r o b a b i l i t y o u t p u t so ft h eb i n a r ys v m sw e r es u f f i c i e n t l ye x a c t ，o u ra l g o r i t h mw o u l da p p r o x i m a t e t ot h eo p t i m a lb a y e s i a nc l a s s i f i e r o u ra l g o r i t h mc a ng i v en o to n l yc l a s s i f i c a t i o nr e s u l t s b u ta l s ot h ep o s t e d o rp r o b a b i l i t yo fc l a s s i f i c a t i o n ，w h i c hi su s a b l ef o rs o l v i n gm a n y p r a c t i c a lp r o b l e m s e x p e r i m e n t a lr e s u l t sc o n f i r mt h ef e a s i b i l i t ya n dt h ev a l i d a t i o no f o u ra l g o r i t h m k e yw o r d ss u p p o r tv e c t o rm a c h i n e ，n e u r a ln e t w o r k ，r e g r e s s i o ne s t i m a t i o n ，p a t t e r n r e c o g n i t i o n , n o n l i n e a rd y n a m i c a ls y s t e m ，s y s t e mi d e n t i f i c a t i o n ，a d a p t i v e c o n t r o l ，m o d e lr e f e r e n c ec o n t r o l ，b a y e s i a nc l a s s i f i e r 第一章绪论 第一章绪论 线性动态系统辨t 和控制在经历了近半个世纪的研究和实践之后获得了大量 的理论成果和实际模型【”，现在般认为线性动态系统的辨识和控制理论已接近 成熟。但是我们知道实际的系统或者过程大多数都是非线性的，f l ：我们日前对非 线性系统的研究与线性系统的发展程度相去甚远。在实际的非线性系统问题处理 中，由于非线性系统非常复杂同时对之又不具备比较有效的方法和理论，我们至 今仍然主要采用线性系统的方法和理论来近似处理。这是因为在系统不太复杂、 精度要求不太高的情况f ，我们可以采用线性系统模型来近似实际的非线性系统。 这种近似处理在非线性系统的局域范围内是合理的，因为这些系统在乎衡点附近 的。个较小领域内基本表现为线性关系。但是随着研究的深入，所研究的实际系 统越来越复杂( 如全球天气系统、生态系统、经济系统等等) ，所要求的精度也越 来越高，现有的研究已经表明一些非线性系统对系统的初始状态和干扰十分敏感， 细微的差别会导致截然不同的演化结果，即所谓的混沌现象；还有其它如稳定性 等方面的要求使得对非线性动态系统的研究日益追切地呈现在了人们的面前。从 w i e n e r 明确提出非线性动态系统辨识，至今对非线性动态系统的研究一直是系统 科学界的一个主要研究热点，同时又是难点。本文主要研究将统计学习理论研究 的最新成果支持向量机方法i ”疑行菲线性动态系统辨识和控制的可能性。简 单地说，就是指基于非线性系统或过程的输入输出数据。采用支持向量机方法建 立非线性系统豹数学模型然后基于所建立的模型来设计系统输入以实现对系统 的状态调节与控制。下面我们首先对非线性动态系统的辨识和控制以及学习系统 的发展作一简要回顾，重点是学习系统特别是神经网络在辨识和控制中的应用， 希望从中获得一些关于采用支持向量机方法进行非线性动态系统辨识和控制的扁 刁 o 1 1 非线性动态系统辨识的早期发展 从1 9 5 8 年w i e n e r 明确提出非线性系统辨识嘲到八十年代中期，人们主要致力 于非线性特征验证和菲线性系统表示与参数辨识的研究 7 - 1 2 】。这些研究为非线性 动态系统辨识和控制的发展奠定了坚实的理论基础，特别是这一时期关于非线性 动态系统表示的研究获得了大量的成果 1 3 _ 。 当时在非线性系统表示方面提出了不下一百种的表示形式，在此我们辛要介 上海交通大学博士后研究工作报告 绍与本文有关的三种表示形式：函数级数方法，方块图方法和回归模型方法。1 8 8 7 年v o l t e r r a 首先引用函数级数研究非线性问题【l 。v o l t e r r a 级数理论可以看成是线 性系统传递函数理论向非线性系统的推广，v o l t e r r a 引入无穷多个非线性函数来表 不非线性系统的传递函数，采用非线性函数与输入的卷秘级数表示系统的输出。 通常我们称这个卷积级数为v o l t e r r a 级数，而其中的非线性传递函数被称为 v o l t c r r a 核。后来f r e c h e t 证明，任何+ 个连续系统都可以用一个具有整数阶次的 v o l t e r r a 阶数表达。w i e n e r 是研究非线性系统辨识的先驱者之，他提出了两类 模型：w i e n e r i 型和w i e n e r i i 型【6 ，“2 ”。w i e n e r i 模型采用f o u r i e r - - h e r m i t e 级数 来表达非线性系统，而w i e n e r i i 模型采用关于w i e n e r 核与输入乘积的正交泛函 级数来表示非线性系统。从理论上讲，一个非线性系统输入和输出之问的关系总 可以采用v o l t e r r a 级数或者w i e n e r 级数来表达，至今v o l t e r r a 级数方法口2 0 6 1 和 w i e n e r 级数方法仍在非线性动态系统表示得到广泛应用。但是不管是v o l t e r r a 级 数中v o l t e r r a 核函数还是w i e n e ri 型中w i e n e r 系数，或者w i e n e r i i 中w i e n e r 核， 其估计都极为困难，至今尚没有有效的方法1 2 h 。为了减轻求解泛函序列参数的巨 大困难，一些学者提出了采用方块图方法来表示非线性系统。方块图表示方法的 原理是根据系统本身的物理结构，很多系统可以用线性动态系统和非线性静态单 i 的组合来描述。方块圈方法主要对以下几种简化模型进行研究 t t , 2 8 ：w i e n e r 模 型、h a m m e r s t e i n 模型【捌和u r y s o n 模型f 蚓等。w i e n e r 模型由。个线性动态系统和 非线性单元级联组成；而h a m m e r s t e i n 模型相反，由非线性单元和线性动态系统 级联生成：进一步采用m 个h e r m i t e 多项式与m 个线性系统级联生成个 h a m m e r s t e i n 模型，然后并联起来就形成了u r y s o n 模型。虽然方块图方法相比于 级数表示方法显得更为简单和直观，但是如果不知道这些系统的中间状态变量， 要估计模型的参数仍是非常困难的口1 捌。在线性系统辨识中我们知道，如果系统 是可观测的，即系统就可以采 ；i ja r n l a x 模型表示，此时线性系统的辨识就等价 于估计a m a r x 方程中线性参数。那么非线性系统能否表示成n a r m x 模型呢， 即系统的输出能否由关于输出迟延以及输入、干扰和它们迟延的非线性函数表 示? 1 9 8 5 年b i l l i n g s 指出在一些不太强的条件下，一般的非线性状态空间表示可 以采用n a r m a x 模型表示。在n a r m a x 模型中对非线性系统的辨识就转化为 对非线性映射的逼近。在已知映射的输入输出数据的情况下估计非线性映射，目 前已有了一些相对有效的算法，如神经网络方法、径向基函数方法、样条逼近方 法、子波逼近方法【3 3 3 4 1 等。关于这一时期参数辨识的方法主要有最小均方误差方 法及其变形f 3 5 3 ，谱方法邸7 】等，特别是高阶谱方法在非线性系统和非g a t t s s i a n 系 统中发挥了重要作用。现在高阶谱方法得到了快速的发展，已经成为非线性级数 表示模型中最为成功的参数辨识方法 3 s - 4 0 1 。由于高阶谱方法与本文关系不大，我 第一章绪论 们在下文中丰要介绍神经辨识和控制，对高阶谱方法不再涉及。 1 2 采用神经网络辨识和控制非线性动态系统 人上神经网络经过了半个世纪的发展，获得了大量的研究成果 4 1 4 3 。神经网 络的发展可以追溯到1 9 4 3 年，m c c u l l o e h 和p i t s f “1 提出神经元的数学模型m p 模型，该神经元模型为一线性闽值模型。1 9 4 4 年，h e b b 4 5 q 提出改变神经，i 连接 强度的h e b b 规则。1 9 5 7 年，r o s e n b l 锄首先提出感知器，试图模拟动物和人脑 的感知和学习能力。从此掀起了广泛机器学习的应用和理论研究，人工神经网络 也得到了长足的发展。1 9 6 2 年，w i d r o w 等【47 j 提出了权值可以连续取值的自适应 方法，它与在m 中占主导地位的顺序离散符号处理不同，引起了很大的兴趣和 争议。受到1 9 6 9 年，m i n s k y 和p a p e r t r 4 s 的p e m e p t r o n ) ) 一书的影响，人t 神经 网络进入了相对发展较缓时期，但在这一期间仍然有一些优秀成果问世：1 9 7 2 年， k o h o n c n h 提出了自组织映射理论；1 9 7 5 年a l b u s 5 0 l 提出了小脑模型神经网络 ( c m a c ) 用于数据存储和控制：f u l m s h i m a t 5 1 骢出了神经认知机网络理论；1 9 7 6 年，g r s b e d ”】提出了自适应共振理论等。上述时期的网络模型由于受到计算机 计算能力的限制，基本都是线性的。随着计算能力的发展和受到7 0 年代动力系统 和非线性研究的影响，在神经网络中也进一步引入了动力系统和非线性函数，使 得神经网络孵处理能力和应用范围大大增强。1 9 8 2 年h o p f i e l d s 3 j 率先提出了h n n 模型，它是单层反馈非线性网络，并引入能量函数的概念，给出了网络稳定性判 据以及网络的电子线路实现，有力地推动了神经网络的研究。1 9 8 4 年，h i n t o n 等 例提出了b o l t z m a n 机模型，借用了统计物理中模拟退化技术，保证学习过程收敛 到全局稳定点。1 9 8 6 年，1 , e c k m s s 与r m n e l h a r t 等嗍同时独立地提出构造感知器 中所有神经元权值矢量的方法扳传算法( b p 算法) 。该算法的思想就是将m p 神经元中符号函数替换成非线性的s i g m o i d 函数，从而可以在算法中采用负梯度 方法修改所有权值矢量。反传算法可以说是感知器的第二次新生。在此后一段时 间里，神经网络得到了较快的发展，提出了丈量酶鼹络模型，并在数学规划求解、 机器人、计算机视觉、系统建模、自动控制、信号处理、特征提取、模式识别和 回归估计等领域获得了广泛的应用。 虽然基于神经网络的系统辨识和控制发展只不过短短十几年的时间，但是目 前在各种期刊和会议上，有关神经网络辨识和控制的文献已不下上千篇 5 7 , 5 s ，所 涉及到的网络模型包括全局和局鄣递归网络、输出反馈多层感知器、p i d 神经网 络、输出反馈前向网络、输出反馈径恕基网络、离散和连续h o p f i e l d 网络、再励 学习网络等。本文作者对这些已提出的方法作了粗略总结，将从下面三个方面予 上海交通大学博士后研究工作报告 以简单介绍。 一、基于神经网络的非线性动态系统模型表示方法； 二、基于神经网络的非线性动态系统参数辨识方法； 三、基于神经网络的非线性动态系统控制方法。 在本文叶1 我们假设所处理的对象都已知是非线性的，因此关于非线性特征检 验的问题本文不作介绍。关十非线性模型评介问题，非线性系统与线性系统基本 是通用的，本文也不再作进。步介绍。在本文后续的实验仿真中一般采用对不包 含训练样本的检验样本集进行检验，不采用更为复杂的交叉验证方法。另外关于 非线性系统辨识的实验设计问题，由于非线性系统持续激励的条件不仅与系统本 身有关而且与非线性表示模型有关，远较线性系统复杂。同前进展较少仪限于某 些特殊的网络模型，我们在此也不作另外介绍。 日前基于神经网络的非线性动态系统表示方法，作者粗略地将其归为两种： 一种是方块图方法，另一种是n a r m a x 模型方法。其实这两种方法在早期的非 线性动态系统辨识研究中就已经提出，但是由于没有有效的参数辨识方法妨碍了 进一步的发展。神经网络的引入使这两种表示方法具有了新的活力。 基于神经网络的方块图方法可以看成是早期方块图方法的推广。它采用非线 性神经元或者神经网络作为系统的非线性部件与线性动态系统进行互联，从而构 成一个完整的非线性动态系统。与早期方块图方法相比，在基于神经网络的方块 图方法中非线性器件与线性动态部件的连接更加自由、更加复杂甚至可以是所有 器件之问的全连接，更为重要的是发展了较为有效的参数训练方法。实现这一方 法的神经网络模型主要有递归神经网络和多个前向网络与线性动态部件的级联。 不管是全局递归网络还是局域递归网络，一般采用单个或多个神经元实现非线性， 采用线性动态反馈作为线性动态部件构成非线性动态系统。而多个神经网络与线 性动态部件的级联相当于递归网络的推广，只不过采用整个神经网丽不是神经元 来实现系统非线性。基于神经网络的方框图方法的理论基础一方面源自早期的方 块图方法得到结论，更主要的另一方面是源自下面一些关于神经网络的结论。早 在六十年代，对于采用硬门限函数作为输出的神经网络，包括递归网络、输出反 馈多层感知器等，m i n s k y 就已经证明只要神经元足够多，这些网络都可以实现有 限状态自动机嗍。而对于采用连续可微函数作为神经元激励函数的全局递归网 络，现已证明至少具有与t u r i n g 机相当的计算能力腓也l 。文献t 6 3 】进一一一步证明了 对于具有有限输出反馈的前向网络、径向基函数网络等同样具有与全局递归网络 相同的计算能力，即它们的计算能力同样与| i 、戚n g 机相当。上述结论为神经网络 方块图方法在系统辨识和控制中的应用奠定了坚实的理论基础。 1 9 8 5 ，l e o n t a r i f i s 和b i l l i n g s “, 6 5 1 证明了在一些不太强的条件下，大部分采用 状态空问模型表示的非线性动态系统都可以由n a r m a x 模型来表示，即非线性 动态系统的输出可以由关于系统输入、输出、噪声干扰及它们的迟延的非线性函 数来表示。在非线性系统阶数已知的假设条件下，b i l l i n g s 给出的条件在平衡点附 近的局部领域中对一般的非线性动态系统总是成立的。有了这一结论之后，剩下 的关键就是非线性函数的表示利辨识。著名的w e i e r s t r a s s 逼近定理指出c ( 1 口，b | ) 上的任意函数都可以由多项式函数以任意精度逼近。也就是说多项式函数在 c f 以b 1 1 上是稠密的。这意味着w e i e r s t r a s s 定理及其多维情况的推论保证了可以 采_ j 多项式函数以任意精度逼近连续函数厂：碾“- 暖”。s t o n e 进一步推广了 w e i e r s t r a s s 定理得到如下的s t o n e - w e i e r s t r a s s 定理l 叫： s t o n e - - - - w e i e r s t r a u 定理：令为一紧测度空间。如果尹为c f ，r ) 上的子 代数，包含了上的常数函数和分离点，我们则称声在c ( ，r 1 上是稠密的。 在此基础上，文献 6 7 - 6 9 同时研究了前向网络的逼近能力，证实了只要网络 隐层节点足够多，多层前向网络可以以任意精度逼近任意的连续函数。此后对于 径向基函数网络和子波网络等也能得到类似的结论。用于实现神经网络 n a r m a x 模型表示的网络模型主要有输出反馈多层前向网络、输出反馈径向基 函数网络、输出反馈子波网络等。这些模型均包含一个或者多个神经网络以及两 组延迟线，神经网络的输入来自系统的输入及其延迟还有鼹络输出及其延迟或者 系统的输出及其延迟，神经网络在其中主要实现一个非线性映射的作用。1 9 9 6 年 进一步发展了b i l l i n g s 的结果，指出只要系统是可观测的或者是局域可观测的， 我们就可以采用神经网络生成系统的一个状态观溅器，然后基于系统的状态估计 来辨识非线性动态系统，这个过程实现了系统状态空间模型的辨识。 1 9 9 0 年n a r e n d r a 发表了采用神经网络辨识和控制非线性动态系统的经典性文 献刑，较为详细地介绍了神经网络辨识和控制的理论基础和参数辨识的算法。至 今该文仍是神经控制领域非常好的入门性文献。此后非线性神经网络辨识和控制 获得了飞速发展，但是至今该文提出的参数辨识方法仍褥到广泛使用，许多其他 方法都是在此基础之上进行改进，以求获得更好的收敛速度口1 ，蚓。在此我们对这 些参数辨识方法作一简要介绍。基于神经网络的非线性动态系统辨识方法依据辨 识模型不同，可分为正向系统辨识和系统逆或者延迟逆辨识。正向系统辨识是指 辨识系统的正向模型，根据系统的输出及其避延和输入及其迟延估计系统当前时 刻的输出。系统逆模型的辨识是措根据系统的输出以及退延和系统以前时刻的输 入辨识系统当前时刻的输入。但是由于系统输出受到系统输入的影晌可能具有延 时性，所以系统的逆模型有可能不存在或是非因果的，对于这种系统我们一般只 能估计系统的延迟逆，即根据系统的k + d 时刻的输出以及延迟和输入及其延迟估 计系统当前的输入。依据辨识算法不同，神经网络辨识方法可分为静态反传算法 上海交通大学博士后研究工作报告 和动态反传算法。静态反传算法中模型参数更新只与当前时刻的系统信息有关， 而动态反传算法中模型参数的更新不仅与当前时刻而且与系统过去时刻的信息有 关 7 0 , 7 2 刀】。依据结构不同，神经网络辨识算法n j 分为串并结构方法和并联结构方 法。串并结构辨汉方法是指辨识模型反馈的输入来源千实际系统的输出及其迟延， 由于此时这些反馈输入为实际系统的真值，所以辨识过程殷采用静态算法。而 并联结构辨识模型的反馈输入来源十辨识模型的输出及其迟延，此时由于这些反 馈输入包含着实际系统与辨识模型之间的误差，所咀一般采用动态算法。具体的 辨识模型和算法我们将在第二章中作为论文的基础知识进行介绍。关于采用神经 网络辨识非线性动态系统的可辨识性，一般认为只要持续激励，且系统是严格因 果的，就可以采用神经网络进行辨识，因为不管是递归网络还是输出反馈网络都 具有与 l u r i n g 机相当的计算性能。鉴于反传算法的特点，基于神经网络的非线性 动态系统的可辨识性还有另外一个要求，就是所引入的神经网络必须与辨识输出 之问必须保持一个反传的通畅性。随着反传算法的发展，这个要求也有所减弱， 如以丰甘对变化量的符号函数代替精确误差来实现的近似反传算法和再励学习算法 等 同样目前基于神经网络的非线性动态系统控制已提出了大量的方法，几乎涉 及各种动态神经网络模型f 律7 6 】。在此我们进行了简要的归纳，将其粗略地分为六 大类： 1 神经网络逆控制器，也称神经网络自校正器，7 。舢1 地15 6 - 1 5 7 1 ； 2 神经网络逆控制器的改进型，包括自适应神经网络逆控制器、稳定鲁棒的 神经网络逆控制器等 8 , 8 1 - 9 7 , 1 4 8 , 1 州； 3 神经网络模型参考控制器f 7 唧删； 4 神经网络模型预测控制器【1 0 0 - 1 0 4 ； 5 神经网络p i e ) 控制器c 7 q ； 6 神经网络再励学习控制器f 1 晦1 蛔： 7 模糊神经网络控制和进化神经控制1 明。 涉及到的神经网络模型主要有时延神经弼络、输出反馈多层前向网络、输出反 馈径向基函数网络、全局和局域递归网络、e l m a n 网络、p i d 神经网络、小脑模 型神经网络( c a r c b d l a rm o d e la r t i c u l a t i o nc o n t r o l l e r ，o 麒l a 瑚1 和再励学习 承e i l l i 研m e mk 柏血g ) 神经网络等【嘲i 。我们知道就跟踪控制而亩关键就是估计 系统的逆模型。如果能精确的估计系统逆模型，则跟踪控制的所有问题都迎刃而 解。但是在实际中要精确估计系统逆模型几乎只是一个理想他的奢求，不仅由于 系统的逆有可能不存在，即使存在也有可能是非因果的、不稳定的；而且系统处 在个复杂的环境中，有各种各样的干扰存在，系统本身也可能是时变的，要精 第一章绪论 确建模非常困难。在实际中控制理论也正是为了解决这些j 口题而达到逐步发艘起 来的。关于非线性动态系统逆是否存在的问题，有许多学者 1 “”采用微分几何 学的方法，给出了一些关于非线性动态系统特别是仿射非线性系统的能观性、能 控性和逆存在性的理论结果。1 9 9 3 年l e v i n 等 1 1 6 j 证明了非线性动态系统局域能控 性条件。这些理论结果为采用神经网络控制非线性动态系统提供了理论基础。针 对系统逆非因果的情况我们不得不转向估计系统d 延时逆，其中d 为系统的相对 时延。针对估计的系统逆不稳定的情况，提出了各种反馈稳定方法，并在反馈环 和控制器输入中加入滤波器这些方法如固定的稳定控制( “”1 9 1 ，稳定的直接自 适应控制器p 。| 1 2 ”，内模控制器 1 2 2 , 1 5 l - t 5 5 1 等。针对系统十扰不丌j 忽略或者系统时 变的情况，提出了许多自适应和干扰对消的神经网络控制器1 1 2 2 4 。 从非线性动态系统辨说和控制近十几年的发展过程，我们可以发现神经网络 以其良好的非线性表示能力、有效的参数估计算法、灵活的网络结构和较强的适 应能力，正获得越来越多的应用【i 矧。 1 3 神经网络辨识和控制的优点和不足 神经网络之所以能在非线性动态系统辨识和控制中发挥如此重要的作用，主 要是因为神经网络具有如下几方面的优势： a 强大的非线性表示能力 目前已经证明多层前向网络、径向基函数网络f 1 2 6 , 强7 1 、子波网络 1 2 1 捌、p i d 神经网络等具有以任意精度逼近任意连续函数的能力，递归网络和输出反馈网络 等具有与帆等价的计算能力。 b 灵活有效的参数辨识算法 神经网络在非线性动态系统辨识和控制中获得应用之前，已经提出了一些非 常好的非线性系统模型表示方法，但是都由于没有有效的辨识算法，使这些模型 没有得到很好的应用。目前在神经网络辨识和控制中获得广泛应用的反传算法， 无论是动态的还是静态的。无论采用串并结构还是并联结构，其应用都非常灵活。 不管辨识模型中采用多少个网络，网络所处的位置在哪，不管参数是线性和还是 非线性的，只要误差反传的途径畅通，算法就能运行。而进一步发展的近似反传 算法更是突破了误差反传路径的限制，使得网络可以在模型的任何地方出现。如 果在误差反传路径上出现了未知的系统，近似反传算法采用一步变化率的符号函 数代替由于未知系统不能计算的导数。反传算法不仅可以实现基于批数据的离线 参数估计也可以实现单步迭代的在线估计。这样迭代反传算法可以根据数据的变 化柬实时修正网络参数，从丽使网络具有能够适应环境变化的自适应性。 上海交通大学博士后研究i 作报告 c 网络结构灵活 上文已经指出，根据实际问题需要，目前有许多神经网络模型可供选择。在 确定模型之后网络结构可以根据所研究系统的规模进行选择调整。特别是对于多 输入多输出的系统可以简单由多个单输入单输出的网络模型构成。同时由于反传 算法的存在，神经网络几乎可以出现系统模型的任何地方，采用网络的数日也不 受限制。 d 信息并行分布处理与存储，具有一定的容错性，单个神经元或者连接权的 出错不至于导致整个系统的崩渍。同时它适于超大规模集成电路和数字计算机的 实现。 采用神经网络辨识和控制非线性动态系统的不足表现在如下的几个方面： a 神经网络容易造成过拟合，推广能力差 我们在实际中经常会遇到神经网络的训练误差可以达到非常小，但是检验误 差却很大，这就是所谓的过拟合现象。神经网络训练过程只强调了对训练样本的 学习。为了在训练样本集上获得最小的误差，训练算法不会顾及网络在训练样本 点附近没有被采样到的点的取值情况。训练结束后采用在训练样本集中没有出现 过的检验样本来检验就会发现检验误差非常大。一一般反传算法均采用均方误差作 为性能指标，然后采用梯度下降法修改网络参数，即所谓的经验风险最小化方法。 根据统计学习理论讳劫，经验风险最小化方法只有在样本趋于无穷多时，才能保证 算法的收敛性，喇在有限样本或者样本较少时收敛性是得不到保证的。统计学爿 理论指出要获得良好的推广能力，需要最小化期望风险。期望风险不仅与经验风 险有关而且与所选模型类韵容量有关，要最小化期望风险必须同时最小化经验风 险和模型类容量。这是一个两难问题，所能做的只能是在最小他经验风险和模型 类容量之间取个折衷。 b 神经网络规模选择困难 我们前面指出神经网络的结构选择非常灵活，但这也带来一个问题就是针对 实际问题，什么样的结构才是最合适的。印网络规模选择问题。模型选择问题是 所有基于输入输出数据归纳性方法所共有的一个问题。模型选择过大，会导致一 个大的估计误差，特别是对受到噪声干扰的系统。模型选择过小会导致个大的 逼近误差。为了获得一个好的辨识和控制性能必须选择一个合适的攒型规模。目 前一般的模型选择算法包括两个方面，一方面根据先验知识和对蔫统样本的分析， 估计系统的模型机构；另一方面通过参数辨识算法来调整模型规模。众所周知， 在线性系统辨识和控制中就已指出模型结构的选择对辨识和控制性能至关重要。 在线性系统中虽然也存在模型选择问题，但并不突出。这是因为线性系统的模型 选择基本已经确定，所要作的就是选择模型的阶次，而关于线性系统模型阶次选 第一章绪论 择“1 时已经发展了一些十分有效的方法。同时通过对线性持续激励的研究，也获 得了一些使线性系统持续激励的试验设计方法。系统持续激励保证了我们可以获 得比较全而几乎包含系统所有模式的样本。这样即使模型选择稍大，由于我们拥 有比较全面的样本，还丌j 以通过参数辨识方法来使多余部分模型的参数趋十o 来 达到删减模型的目的。非线性系统的模型选择不仅要选择合适的模型阶次而且还 要选择非线性表示的模型规模。w e i e r s t r a s s 定理及其推广都告诉我们可以采用多 项式级数来逼近任意的非线性连续函数，但是对于一个具体的非线性系统， w e i e r s t r a s s 定理并没有告诉我们选择一个多少阶次的多项式级数是合适的。 - o r n i k 等人得到的结论告诉我们采用多层前向网络可以逼近任意的非线性连续函 数，但是对于1 个具体系统也没有告诉我们选用多大规模的网络才是最合适的。 目前虽然已提出了一些神经网络选择的方法，但是不是由于算法过于复杂，收敛 速度极慢，就是选择效率太低并不能实现真正的最优选择。州以说神经网络模型 的选择至今仍然是一个非常困难的问题。另外由于非线性动态系统的状态空间远 比线性系统复杂，且持续激励条件与非线性系统的表示模型相关，要做翌f 持续激 励非常困难。目前的研究仅仅对一些简单的具体网络模型给出一些近似的条件【1 5 9 ， 1 6 0 o 所以说即使训练样本再多，如果不是持续激励，要借助通过对训练样本的学 习来自动选择网络模型几乎是不可行的。 c 收敛速度慢，需要大量的训练样本 一般反传算法采用的是基于梯度下降的经验风险最小化准则。我们知道只要 误差反传路径畅通，反传算法的应用非常灵活。但是反传算法一方面由于采用梯 度下降方法，另一方面由于采用经验风险最小他准则，使得算法的收敛速度比较 缓慢，同时也要求大量的训练样本。我们知道即使对手批处理反传算法，梯度下 降法在开始时其有快的收敛速度但是算法后期收敛速蘑极慢；对于在线自适应算 法情况也是如此。另外由于神经i i ! t t 采用经验风险最小化准贝| j ，需要大量且比较 全面的样本才能保证网络具有好的攘广能力。所以结合这嚣方面，目前一般的基 于神经网缳的系统辨识和控制算法少则需要上千的撵本，多则几十万，甚至上百 万。 d 目标函数存在局部极小，收敛特性得不到保证 这是关于非线性参数阿题优化的一个古老闽题。由于参数在系统模型中以非 线性形式出现，使得一般目标函数关于参数不是严格凸的，这样在最优化过程中 就存在所谓的局部极小问题。局部极小问题的存在使得算法并不总是能收敛到全 局最小，这样导致系统并不总是能获得最好的性能。为了解决局部极小的问题， 在一方面尽可能地随机设置网络的初始值，然后采用模拟退火的方法进行训练； 在另。方面，目前已提出了。些不存在局部极小的网络，如径向基函数网络和子 上海爻通大学博士后研究工作报告 波网络，这些网络都获得了很好的应用。 1 4 统计学习理论的发展 目前神经网络作为一种学习系统己在非线性动态系统辨识和控制中获得了良 好应川。其实学习系统在系统辨识和控制中应用，远并不只有神经网络一种学习 方法。早在上世纪六十年代正则技术就已经在线性回归问题r p 得到了成功应用， 如脊回归、脊滤波等。下而我们再从学爿理论的发展来考究 下支持向量机方法 的优势和它在系统辨识和控制中应用的可能性。 1 9