北京交通大学(最优控制理论与算法研究生课程)第五章 线性二次型最优控制

1、线性二次型最优控制线性二次型最优控制(1/12)(1/12)第第5章章 线性二次型最优控制线性二次型最优控制q 对于最优控制问题, 极大值原理很好地描述了动态系统的最优控制解的存在性。 但对于复杂的控制问题,如非线性系统的控制问题、系统模型与性能指标函数对控制量u(t)不为连续可微的控制问题, 其最优控制规律存在性确定有很多困难, 如 非线性常微分方程求解 最优控制的非平凡性问题, 会带来闭环控制系统工程实现时困难性, 难以得到统一、简洁的最优控制规律的表达式。线性二次型最优控制线性二次型最优控制(2/12)(2/12)q 然而，对于线性系统线性系统, 若以状态变量x(t)和控制变量u(t)的

2、二次型函数的积分作为性能指标泛函, 这种动态系统的最优控制问题称为线性系统的最优二次型性能指标的最优控制问题,简称为线性二次型线性二次型问题，则有很多好的性质。 该类问题的优点是能得到最优控制解u*(t)的统一解析表统一解析表达形式达形式和一个简单的且易于工程实现的最优状态反馈律最优状态反馈律。 因此, 线性二次型问题对于从事自动控制研究的理论工作者和工程技术人员都具有很大吸引力。 近40年来,人们对各种最优状态反馈状态反馈控制系统的结构、性质以及设计方法进行了多方面的研究,并且有许多成功的应用。线性二次型最优控制线性二次型最优控制(3/12)(3/12) 线性二次型问题是最优控制理论中发展最

3、为成熟、最有系统性、应用最为广泛和深入的分支。 本节将陆续介绍线性二次型问题及其解的存在性、唯一性和最优控制解的充分必要条件。p 线性系统的二次型性能指标的最优控制问题可表述如下，线性二次型最优控制线性二次型最优控制(4/12)(4/12)q 线性二次型最优控制问题线性二次型最优控制问题 对于线性时变系统的状态方程和输出方程为 式中, x(t)是n维状态向量, u(t)是r维控制向量, y(t)是m维输出向量 假定：A(t)，B(t)和C(t)分别是nn,nr和mn维的分段连续的时变矩阵。 假定系统的维数满足0mrn, 且u(t)不受约束不受约束。 z(t) 表示m维期望期望的输出, 则定义输

4、出误差向量如下 e(t)=z(t)-y(t)00( )( ) ( )( ) ( ),( )( )( ) ( )tA ttB ttttC ttxxuxxyx线性二次型最优控制线性二次型最优控制(5/12)(5/12) 控制的目标是寻找最优控制函数u*(t), 使下列二次型性能指标泛函为最小式中, F为mm 维非负定非负定的常数矩阵; Q(t)为mm 维时变的分段连续的非负定非负定矩阵; R(t)为rr 维时变的分段连续的正定矩正定矩阵, 且其逆矩阵存在并有界; 末态时刻tf 是固定的。011 ()()()( ) ( ) ( )( ) ( ) ( )d22ftfftJtFtt Q ttt R tt

5、tueeeeuu线性二次型最优控制线性二次型最优控制(6/12)(6/12)q 下面对论上述性能指标泛函:1) 性能指标泛函Ju()中的第1项e (tf)Fe(tf),是为了突出对末态目标末态目标的控制误差的要求和限制要求和限制而引进的,称为末端成本函数。 非负定的常数矩阵F为加权矩阵,其各行各列元素的值的不同,体现了对误差向量e(t)在末态时刻tf各分量各分量的要求不同, 重要性不同。 若矩阵F的第第i行第行第i列列元素值较大较大,代表二次项的重要性较大, 对其精度要求较高。线性二次型最优控制线性二次型最优控制(7/12)(7/12)2) 性能指标泛函Ju()中的被积函数中的第1项e(t)Q

6、(t)e(t),表示在系统过渡过程中对误差向量过渡过程中对误差向量e(t)的要求和限制。 由于时变的加权矩阵Q(t)为非负定的,故该项函数值总是为非负的。v 一般情况下,e(t)越大,该项函数值越大,其在整个性能指标泛函所占的份量就越大。因此, 对性能指标泛函求极小化体现了对误差向量误差向量e(t)的大小的大小的约束和限制的约束和限制。v 在e(t)为标量函数时,该项可取为e2(t),于是该项与经典控制理论中判别系统性能的误差平方积分误差平方积分指标一致。0( )11 ()( )( )( ) ( ) ( )( ) (d22)ftfftt QtJt F tt Rtttt eeueueu线性二次型

7、最优控制线性二次型最优控制(8/12)(8/12) 非负定的时变矩阵Q(t)为加权矩阵,其各行各列元素的值的不同,体现了对相应的误差向量e(t)的分量在各时刻的要求不同、重要性不同各时刻的要求不同、重要性不同。v 时变矩阵Q(t)的不同选择, 对闭环最优控制系统的性能的影响较大。线性二次型最优控制线性二次型最优控制(9/12)(9/12)3) 性能指标泛函Ju()中的被积函数的第2项u(t)R(t)u(t),表示在系统工作过程中对控制向量u(t)的要求和限制要求和限制。 由于时变的加权矩阵R(t)为正定正定的,故该项函数值在u(t)为非零向量时总是为正的。v u(t)越大,该项函数值越大,其在

8、整个性能指标泛函所占的分量就越大。v 对性能指标泛函求极小化体现了对控制向量控制向量u(t)的大小的约束和限制的大小的约束和限制。注：注：如u(t)为与电压或电流电压或电流成正比的标量函数时,该项为u2(t),并与功率成正比, u2(t)dt则与在t0,tf区间内u(t)所做的功或所消耗的能量成正比。011 ()()()( ) ( ) ( )d2( ) ( ) (2)ftfftJtFtt Q tttt R ttuuueeee线性二次型最优控制线性二次型最优控制(10/12)(10/12)v 因此,该项是用来衡量控制功率大小的代价（成本）函数。v 正定的时变矩阵R(t)亦为加权矩阵, 其各行各列

9、元素的值的不同, 体现了对相应的控制向量u(t)的分量在各时刻(t)的要求不同、重要性不同。 时变矩阵R(t)的不同选择, 对闭环最优控制系统的性能的影响较大。v 综上所述,可见线性系统的二次型性能指标泛函的最优控制问题的实质在于用不大的控制量,来保持较小的控制误差,以达到所耗费的能量和控制误差的综合最优。011 ()()()( ) ( ) ( )( ) ( ) ( )d22ftfftJtFtt Q ttt R tttueeeeuu线性二次型最优控制线性二次型最优控制(11/12)(11/12)q 现在讨论上述线性二次型问题的几种特殊情况。1) 若令C(t)=I, z(t)=0,则x(t)=-

10、e(t)。这时, 线性二次型问题的性能指标泛函变为 该问题转化成:用不大的控制能量,使状态x(t)保持在零值零值附近, 称为状态调节器状态调节器问题。2) 若令z(t)=0,则y(t)=-e(t)。这时,线性二次型问题的性能指标泛函变为该问题转化成:用不大的控制能量,使输出值y(t)保持在零值附近,称为输出调节器输出调节器问题。011 ()( )( )( ) ( ) ( )( ) ( ) ( )d22ftfftJtF tt Q ttt R ttt uxxxxuufttfftttRtttQttFtJ0d)()()()()()(21)()(21)(uuyyyyu00( )( ) ( )( ) (

11、),( )( )( ), ( )( )( )C ttA ttB tttte tzttx t xxuxxyx线性二次型最优控制线性二次型最优控制(12/12)(12/12)3) 若z(t)0,则e(t)=z(t)-y(t)。 这时,线性二次型问题为:用不大的控制能量,使输出y(t)跟踪期望信号z(t)的变化,称为输出跟踪问题。q 下面将陆续介绍状态调节器问题的求解方法，解的性质以及最优状态反馈实现，具体内容为： 时变状态调节器时变状态调节器 定常状态调节器定常状态调节器时变状态调节器时变状态调节器(1/3)(1/3)5.1 时变状态调节器时变状态调节器q 状态调节器问题为: 用不大的控制能量,使

12、状态x(t)保持在零值附近的二次型最优控制问题。 该问题的描述如下;时变状态调节器时变状态调节器(2/3)(2/3)q 有限时间有限时间LQ调节器问题调节器问题 设线性时变系统的状态方程和初始条件为式中, 控制量u(t)不受约束。 寻找最优控制函数u*(t), 使下列二次型性能指标泛函为最小式中, F和Q(t)为非负定矩阵; R(t)为正定矩阵; 末态时刻tf是固定的。000( )( ) ( )( ) ( ),( ), ,ftA ttB ttttt txxuxxdtttRtttQttFttuJfttff0)()()()()()(21)()(21)(uuxxxx时变状态调节器时变状态调节器(3/

13、3)(3/3)q 由于所讨论的系统为线性系统, 给定的性能指标泛函对状态变量x(t)和控制量u(t)均连续可微, 因此,状态调节器问题可用变分法、极大值原理变分法、极大值原理和动态规划方法动态规划方法中的任一种求解。 本节采用变分法给出最优控制解存在的充分必要条件及最优控制问题解的表达式, 讨论最优控制解的存在性、唯一性等性质及解的计算方法。 内容为： 最优控制的充分必要条件最优控制的充分必要条件 矩阵矩阵P(t)的若干性质的若干性质 最优控制的最优控制的存在性存在性与与唯一性唯一性最优控制的充分必要条件最优控制的充分必要条件(1/10)(1/10)定理定理14141. 最优控制的充分必要条件

14、最优控制的充分必要条件q 定理定理14(有限时间有限时间LQ调节器调节器) 对于有限时间LQ调节器问题,为其最优控制的充分必要条件是相应的最优轨线为状态方程的解,而最优性能值为式中, P(t)为下述矩阵黎卡提微分方程的正定或半正定解:*1( )( )( ),( )( )( ) ( )tK ttK tRt B t P t ux*000( )( )( )( )( ),( ), ,ftA ttB ttttt txxuxx*0001( )(0),02JJtPuxxx011 ( )()()( ) ( ) ( )( ) (2) ( )2ftfftJ u ttRFtt Q tttttdtxxxxuu最优控制

15、的充分必要条件最优控制的充分必要条件(2/10)(2/10)q 证明证明 1 1）必要性证明。若u*(t)是最优控制,需要证明 由于系统性能指标泛函的宗量为x(t), u(t) 和x(tf) 。 将有限时间LQ调节器问题(条件极值问题)化为无条件极值问题。 引入维向量拉格朗日算子拉格朗日算子, 性能指标函数为*1( )( )( ),( )( )( ) ( )tK ttK tRt B t P t ux011()() d22ftfftJtFtQRABtxxxxuuxux 10( )( ) ( )( ) ( )( ) ( )( )( ) ( )( ) ,(),ffP tP t A tA t P tP

16、 t B t Rt B t P tQ ttt tP tF 最优控制的充分必要条件最优控制的充分必要条件(3/10)(3/10) 因而该优化问题就变为对上述相对于求极值问题。 定义哈密顿函数则式(167)可以进一步表示为1( , , )2HQRABx u xxuuxu011()() d(167)22ftfftJtFtQRABtxxxxuuxux0001()()( , , )d21()()( ) ( )|( , , )d2ffftfftttffttJtFtHttFtttHtxxx u xxxxx u x00( )( )( )( )1( )( )( )2(ffftfffffftftftHHJx tt

17、tdtHHtxdtFtFttttxxuxuxxxxuxux最优控制的充分必要条件最优控制的充分必要条件(4/10)(4/10) 根据极值的必要条件J=0,可以求得以及极值条件( )( ) ( )( ) ( )( )( ) ( )( ) ( )()()1()()2()fffffHtA ttB ttHtQ ttA tttFttFtt xxuxxxxxx0()()()ftffftHHJtFttxdtxxuxu( ) ( )( ) ( )0HR ttB ttuu最优控制的充分必要条件最优控制的充分必要条件(5/10)(5/10) 由极值条件(173)得最优控制律为 注意到状态方程状态方程和协态方程协态

18、方程及其终端条件均为线性,因此, (t)和x(t), 之间必定为线性关系线性关系,可以表示为 由上述两式可以得到u(t)的最优解。 其中矩阵P(t)满足规范方程,可由规范方程解出。 求解方法如下：*1( )( )( ) ( )tRt B tt u( ) ( )( ) ( )0(173)HR ttBttuu*( )( )( )tP ttx最优控制的充分必要条件最优控制的充分必要条件(6/10)(6/10) 对方程(175)求导数得 由方程(171), 又有 比较上述两式,可以求得矩阵P(t)是矩阵黎卡提微分方程的对称正定或半正定解。 因此,证明了定理的必要性。1*( )( )( )( )( )(

19、 )( )( ) ( )( )( )( )( ) ( )( ) ( )( )( ) ( )( )( )( )P tP t A tPtP ttP ttP ttP tt B t RA ttP t Bt B t P ttttxxxxux*( )( ) ( )( ) ( )(171)( )( )( )(175)tQ ttA tttP tt xx*( )( )( ) ( )( )( )()( )Q ttA t P ttQ tA t Ptttxxx10( )( ) ( )( ) ( )( ) ( )( )( ) ( )( ) ,( ),ffP tP t A tA t P tP t B t Rt B t P

20、 tQ ttt tP tF最优控制的充分必要条件最优控制的充分必要条件(7/10)(7/10)2)2) 充分性证明。已知,欲证u*(t)为最优控制。 引入如下等式*1*( )( )( ) ( )( )tRt B t P tt ux00000111d( ) ( ) ( )( ) ( ) ( )d222d1d2fftfffttttP ttt P ttttPPtPPxxxxxxxxxxxx最优控制的充分必要条件最优控制的充分必要条件(8/10)(8/10) 进而,利用(160)和(166),上式可以进一步表示为对上述方程进行配方得00000111() () ()( ) ( ) ( )221d21d2

21、ffffftttttP tttP ttA PPPAB PPBtQPB R BPB PPBtxxxxxxuxxuxxuxxu00001111( ) ( ) ( )( ) ( ) ( )221d2fffftttP ttt P ttQRR B PRR B Ptxxxxxxuuxxxx01000( )( ) ( )( ) ( )(160)( )( ) ( )( ) ( )( ) ( )( )( ) ( )( )(166)111() () ()( ) ( ) ( )d222ftfffttA ttB ttP tP t A tA t P tP t B t Rt B t P tQ ttP tttP ttPPP

22、t xxuxxxxxxxxxx最优控制的充分必要条件最优控制的充分必要条件(9/10)(9/10) 由于由于P(tf)=F,可以导出这表明,当u=-R-1BPx时,性能指标将取最小值即u*=-R-1BPx为最优控制。 于 是 , 定 理 的 充 分 性 得 以 证 明 。 001100011 ( )()()2211( ) ( ) ( )d22fftfftttJttFtQR dttP ttR B PRR B Ptuxxxxuuxxuxux*0001( )( ) ( ) ( )2J u tt P ttxx最优控制的充分必要条件最优控制的充分必要条件(10/10)(10/10)q 上述具有充分必要的

23、最优控制实际上是一个线性状态反馈,因此,可以将线性系统最优状态调节器的最优控制表示成如图6所示的状态反馈形式,其闭环系统的状态方程为图图6 线性系统最优状态调节器线性系统最优状态调节器q 上述结论是线性时变系统的结论, 当系统是线性定常的时候,上述结论仍然成立, 而且计算还要简单。矩阵矩阵P(t)的若干性质的若干性质(1/3)(1/3)2. 矩阵矩阵P(t)的若干性质的若干性质q 对黎卡提微分方程的解P(t),有如下性质。1) P(t)是黎卡提微分方程末值问题的解, 与初始状态无关。 当在区间t0,tf内, A(t)、B(t)、R(t)和Q(t)为分段连续的时间函数, R(t)为正定且其逆矩阵

24、有界, Q(t)矩阵为非负定时,则根据微分方程解的存在性和唯一性理论, vP(t)的解在区间t0,tf内唯一存在。矩阵矩阵P(t)的若干性质的若干性质(2/3)(2/3)2) 对于任意tt0,tf, P(t)是对称矩阵。 事实上,将黎卡提微分方程和边界条件的两边作转置,并考虑到R(t), Q(t)和F都为对称矩阵, 则有 因此,矩阵P(t)及其转置P(t)满足同一个矩阵微分方程和边界条件。 根据微分方程解的存在性和唯一性理论,则对任意tt0,tf,有P(t)=P(t),即P(t)是对称的。1( )( )( ) ( )( ) ( )( ) ( )( )( ) ( )( )()()ffP tP t

25、P t A tA t P tP t B t Rt B t P tQ tP tP tF 矩阵矩阵P(t)的若干性质的若干性质(3/3)(3/3)3) 于矩阵P(t)的对称性,则nn维的黎卡提矩阵微分方程实质上是一个由n(n+1)/2个非线性标量微分方程组成的微分方程组。 因此, 求解P(t), 只要求解n(n+1)/2个非线性微分方程即可。最优控制的存在性与唯一性最优控制的存在性与唯一性(1/13)(1/13)定理定理15153. 最优控制的存在性与唯一性最优控制的存在性与唯一性q 对于一般的最优控制问题,论证最优控制解的存在性是很困难的,但对于最优状态调节器问题,可以证明最优控制解的存在性和唯

26、一性。 对此,有如下定理。q 定理定理1515 对线性时变系统的最优状态调节器问题,当tf 0。试求其最优控制和最优状态轨线。q 解解 由定理14,可以求出该问题的最优控制为式中, p(t)是如下黎卡提微分方程及边界条件的解000222( )( )( ),( )11()( )( )d22ftftx tax tu tx txJfx tqx trutt1( )( ) ( )u tp t x tr 21( )2( )( ),()fp tap tp tqp tfr 最优控制的存在性与唯一性最优控制的存在性与唯一性(6/13)(6/13) 由上述微分方程可知, p(t)的解满足 积分上式,可得 其中()

27、( )2d ( )d12( )( )ffp ttp ttp ssap spsqr2()2()/(- )/-( )/1/-fft tt tfraaaefrap trfraefra21( )2( )( ),()fp tap tp tqp tfr 2arq最优控制的存在性与唯一性最优控制的存在性与唯一性(7/13)(7/13) 最优状态轨线为下列一阶时变微分方程的解 于是得( )( )( )p tx tax tr00( )( )expdtp sx txasrq 最优状态轨线为对上述线性定常系统线性定常系统的最优状态调节器问题,其最优状态反馈律和闭环系统状态方程都呈现时变时变的性质。最优控制的存在性与

28、唯一性最优控制的存在性与唯一性(8/13)(8/13) p2(t)/r p(t) - x =ax+bu 1/r x(t) u(t) p(0) 2a 2ap(t) p (t) + - q - + 图图7 状态最优调节器结构图状态最优调节器结构图 这是最优状态调节器在tf的一个重要性质。 图7是例11的最优状态调节器的结构图。 图中信号p(t)是对黎卡提微分方程进行电子电路模拟的结果,其初始信号p(0)是对黎卡提微分方程的解在t=0时的值。最优控制的存在性与唯一性最优控制的存在性与唯一性(9/13)(9/13)q 图8(a)表示在a=-1,f=0,tf=1,x(0)=1和q=1时,以r为参数的一组

29、最优状态轨线x(t)。 当r很小时，即控制的价值在性能指标中不太重要,状态x(t)（比重大）将迅速被控制到零值; 当r很大时，即控制的价值较重要,状态x(t)（比重小）将由于控制量投入得小, 则衰减得很慢。图图8 不同不同r值最优状态调节器各变量变化轨迹值最优状态调节器各变量变化轨迹 最优控制的存在性与唯一性最优控制的存在性与唯一性(10/13)(10/13)q 图8(b)表示以r为参数的一组最优控制u(t)的曲线。 可见随着r的减小,在控制区间0,1的开始阶段, 控制量u(t)增大 当 r0 时,控制将逐渐变成在 t=0 时刻的脉冲信号图图8 不同不同 r 值最优状态调节器各变量变化轨迹值最优状态