自适应第一章预备知识

1、第一章 预备知识范数（研究算法收敛性、稳定性的重要工具）稳定性理论（模型参考自适应的理论基础）平稳随机过程（随机自适应控制）1.1 范数一、向量的范数欧氏范数：若 （n维实向量空间），nxR12( ,)Tnxx xx则2222121nniixxxxx范数的基本性质（充分必要条件）非负性：若 ，则 ；0 x 0 x 00 奇次性：对任何实数和任意向量x，有 xx三角不等式：对任意向量x和y，恒有xyxy范数的几何意义：向量的长度（向量终点到原点O的距离）（两边之和大于第三边）性质：xyxy（两边之差小于第三边）向量范数收敛性：设 12(,)Tkkkknxxxx1,2,k 是 中的向量序列，有限向

2、量nR12(,)Tnnxx xxR，则称 收敛于x,记为 。如果当 时，k 0kxxkxx kx收敛的充要条件：limkiikxx(1,2, )in证：1122(,)Tkkkknnxxxx xxxx2221122()()()kkkknnxxxxxxxx,0kkxx 要求11220,0,0kkknnxxxxxxlimkiikxx即例：求向量序列111(1)2kkkxk，k=1,2, 的收敛性向量1lim11kk解：1lim(1)kkeklim22k12xe P范数（记为 ）：px11121()nppppppinpixxxxx其中p1三种：2x，欧氏范数，简记为x1x121nxxxxx，可证明ma

3、xiixx22211222limlim()()()?kkkknnkkxxxxxxxx11221limlim()0kkkknnkkxxxxxxxx kx向量范数收敛一致性：如果向量序列 对某一种范数收敛，且极限为x，则对于其它范数，这个序列仍然收敛，并且有相同的极限。例：若则pL范数（时间函数u(t)）:10( )( )pppu tu tdt1,p三种：p=2，若1( )u t ，称L1存在，u(t)为绝对可积，记为u(t) L110( )( )u tu t dtp=1，12220( )( )u tut dt若2( )u t ，称L2存在，u(t)为平方可积，记为u(t) L2p=，0( )su

4、p( )tu tu t（极值）若( )u t ，称L存在，u(t)为有界，记为u(t) L1( )u t 2( )u t ( )u t 200( )( )( )ut dtu tu t dt定理：若 ， ，则证：00( )sup( )tu tu t dt0( ( )sup( )tu tu t00sup( )( )tu tu t dt1( )( )u tu t1( )u t ( )u t 20( )ut dt 12220( )( )u tut dt 截尾函数：( )sf t ( ),f t0,tsts基本性质（充分必要条件）非负性：若 ，则 ；0A 0A 00 奇次性：对任何实数，有 AA三角不等

5、式：对任意A和B，恒有ABAB二、矩阵的范数定义：1Amax Axpppx其中A为m*n矩阵，x为任意n*1向量矩阵范数相容性：若某矩阵范数对任意m*n矩阵A和n*l矩阵B恒有 ，则称该矩阵范数是相容的。A BABppp三种矩阵范数：列和范数：1111Amax Axx 11max()mijj nia 可证明列向量绝对值和的最大者行和范数：1Amax Axx11max()niji mja 行向量绝对值和的最大者谱范数：2221Amax AxxTA ATA A表示矩阵 的最大特征值TA A例：验证列和范数的相容性。解：任取3*3211123133A 3*2342211B9510361AB 1?AB

6、17A17B1112549ABAB25回忆：特征值、特征向量Axx：方阵A的特征值x：对应于特征值的特征向量其中A为n*n方阵，x为n维非零向量求特征值的方法：()0AE x0AEi()0iAE x代入x正交矩阵：TAAE1TAA特点：正半定矩阵：若 ，对任意向量x，有n nAR0Tx Ax 则称A为正半定矩阵，记为0A正定矩阵：若 ，对任意不为0的向量x，有n nAR0Tx Ax ，则称A为正定矩阵，记为0A 特点：00A00A0AA 称 为负定0AA 称 为负半定对称矩阵A为正定的充要条件：A的各阶主子式为正。111212122212nnnnnnaaaaaaAaaa110a11122122

7、0aaaa1112121222120nnnnnnaaaaaaaaa例：判断矩阵522260204A 的正定性。解：1150a5226026522260800204A 0A矩阵分解定理： 设A为n阶实对称矩阵，则必有正交矩阵P，使121nPAP 为对角矩阵12,n 其中 是A的特征值1.2 动态系统的稳定性理论系统状态方程：( ) ( ), x tf x t t0()tt其中：x(t)为n维状态向量（即状态方程 的解）0tt已知： 为初始时间 的初始值00( )x tx0t简写为( , )xf x t系统分类：时变：时不变： 与时间无关( , )f x t非线性：线性：( , )( )( )f

8、x tA tx t线性时不变：( , )f x tAX其中A为常数矩阵系统的平衡点：( , )ex xxf x t(, )ef x t00t 对任意一般取： （原点）0ex (0, )0ft 任意一个平衡状态 可以通过坐标变换转移到坐标原点。ex无外力作用于系统，系统将永远处于这个平衡状态，如果有外力作用于系统，系统是否还能处在这个平衡状态附近？还是偏离平衡状态愈来愈远？这就是下面要讨论的平衡状态的稳定性问题一、稳定性定义李雅普诺夫意义下： 的平衡点为 ，( , )xf x t0ex 00t 如果对于所有 和 ，都存在一个实数 00( , )0t 0 x使得当 时，恒有 ，则称0( )()x

9、ttt0ex 是稳定的。 所谓稳定，即当系统受到较小的初始扰动后，系统的运动轨线不会偏离平衡点很远。李雅普诺夫稳定性示意图渐进稳定： ，恒有 。0 xlim( )0tx t, ( )etx tx 即全局渐进稳定：对所有 ，恒有 。0nxRlim( )0tx t一致稳定： 的选择不依赖于 ，稳定性和时间初值无关。0t指数稳定性： 有0m、0()0( )t tx tmex其中： （ 为以原点为圆心，以h为半径的球体），0hxBhB为收敛速率( , )0v x t 二、李氏稳定性定理1、函数正定性正半定函数：某些状态为零，其他状态0(0)0 xv 处有且在（为0状态唯一）0( , )0 xv x t

10、恒有( , )v x t正定函数：连续函数 对任意（为0状态非唯一）局部正定：(0, )0( , )0hvtxBv x t且时（有范围）特点： -v(x)正定 v(x)负定称 -v(x)正半定 v(x)负半定称例：分析函数正定性2212121( ) ,Tv xxxxx x、，其中221231232( )() ,Tv xxxxxx x x、，其中解：3( )Tv xx Px、，其中P00( )0 xv x恒有0( ) 0 xv x且时=正定22221212124( )()(1,Tv xxxxxxx x、)，其中解：22121( )0 xxv x时0( ) 0 xv x 时=(,1)hxB h局部

11、正定2、李氏稳定性定理( , ),(, )(0, )0exf x tf x tft设系统状态方程为其中( , )v x t如果存在，满足()x t1、v, 为正定()x t2、-v, 为正定ex则 为一致渐进稳定。x e若随有v(x,t)，则x 为全局一致渐进稳定。V(X,t)称为李氏函数（选取并非唯一）例：已知系统的状态方程为222112()xx xx1x221212()xxxx 2x试分析其平衡状态的稳定性。解：1、求平衡点。令01x02x01x02x为唯一平衡点2、选取李氏函数：2212()xxv(x)正定3、求导：1 12222x xx xv(x)代入化简12222()xx 1222(

12、 )2()v xxx正定x 又时v(x)为全局一致渐进稳定3 线性时不变系统稳定性定理xAx线性定常系统 在平衡状态 处为全局渐进稳定0ex 的充要条件是：给定一个正定实对称矩阵P，有一个正定实TA PPAQ 成立证：1、选 为李氏函数，其中P0且实对称。( )Tv xx Pxx0时v(x)0正定。2、求导( )TTv xx Pxx Px()()TTAxPxx P AxTTTx A Pxx PAx()TTxA PPA x对称矩阵Q存在，使( )()TTv xxA PPA x要使-正定)0TA PPA则要使-()0()TTA PPAQA PPAQ 取-(即得证构造李氏函数方法：( )Tv xx

13、Px判断稳定性方法：2、判断P的正定性。TQIA PPAQ 1、设定，代入中求P3、P0，则稳定。例：设线性时不变系统的状态方程为2x1x12xx 2x试分析系统稳定性。解：1112121222aaxaax12xx=x)Ax(x=0111ATQIA PPAI 11121222PP选，设P=则有PP010110111101 1112111212221222PPPPPPPP1221P 1112220PPP1222221PP 113/2P 121/2P 221P 3/2 1/21/21P3/2 1/21/21P3/21/25/401/213/200P系统全局渐进稳定。李氏函数：( )Tv xx Px

14、11223/2 1/21/21xxxx2211221(322)2xx xx验证一下：1 11212221( )(6224)2v xx xx xx xx x2212( )()v xxx 2212( )v xxx正定代入化简得：三、正实函数和有关定理 （正实性概念源于电路中的无源网络）定义：M(s)正实须满足1、M(s)在开的右半平面上没有极点2、对任意 ，ReM(j ) 0严正实函数：1、M(s)在闭的右半平面上没有极点2、对任意 ，ReM(j ) 0例：分析函数正实性11( )0w sasa、，其中解：0sa0sa 1()w jja()()ajajaj22aja220aaRew(j )严正实2

15、12( )01w sasas、，其中解：21()()1w jjaj21(1)ja222(1)(1)(1)jajaja2222(1)(1)()jaa2222(1)(1)()aRew(j )20当1时，Rew(j )不是正实最小实现：已知系统状态方程TxAxBuyc x其中A、B完全可控，A、c完全可测，此状态方程对应的传函1( )TM sc sIAB，则称 是M(s)的最小实现。 , ,TA B c正实引理：若 为M(s)的最小实现，则M(s)为严正实函数的充要条件是存在对称正定矩阵P、Q，使得 , ,TA B cTA PPAQPBc 成立。巴巴拉定理：若f(t)一致连续，且 存在且有界，0li

16、m( )ttf t dt则当t时，f(t) 0。2( )( )( ), ( )0g tg tLg tLtg t推论：若、且，则1.3 平稳随机过程 (01)kkpp Xxk， ，随机变量：离散型：连续型：( )p x()( )baP axbp x dx12kXxxx12kPppp概率分布：特点：0;1kkkpp特点：( )1p x dx分布函数：( )() ()F xP XxX为随机变量连续型：( )( )xF xp t dt( )( )F xp x数学期望（均值）：记为E(x)离散型：kkx p连续型：( )xp x dx性质：1. ( )E cc()( )E kxkE x2.()( )E

17、xbE xb3.()( )E kxbkE xb4.0120.10.60.3XP已知概率分布表：( )kkE xx p( )( )E xxp x dx( )1p x dx例：求期望E(x)。解：0*0.1 1*0.62*0.31.2例：均匀分布,( )0,axbp x其他求期望E(x)。解：12babaxdxba1badx1ba函数的期望：已知X的概率密度离散型：pi连续型：p(x)，Y是X的函数，Y=f(x)，( )() ( )( ) ( )iif x pE f xf x p x dx离散则（连续）随机过程X(t)：随时间而变化的随机变量，即123( )( )( )( )nx tx tx tx

18、 t， ，的集合构成了随机过程。( )ix t每个时间函数叫做样本函数。1( )x t2( )x t( )nx t1t( )X t某接收机的噪声电压X(t)不同情况下意义：1. t、i可变：一个时间函数族。2. t可变，i固定：一个时间函数。3. t固定，i可变：一个随机变量。4. t、i固定：一个确定值。随机过程的分布函数：一维分布函数：随机过程在t1时刻随机变量X(t1)的分布函数，只能描述随机过程在各个孤立时刻的统计特性。11( ; )XFx t11( )P X tx二维分布函数：1212( ,; , )XFx x t t1122( )( )P X txX tx，n维分布函数：1212(

19、 ,; , , )XnnFx xx t tt， ，t1、t2时刻随机变量 的分布函数，表示两个时刻的统计关系。12( )( )X tX t（、）t1、t2 、 、 tn时刻随机变量 的分布函数； ，全面反映统计特性。12( )( )( )X tX tX tn（、 、）1,0iint t 时时间间隔随机过程的概率密度：一维概率密度：11( ; )Xpx t111( ; )XFx tx二维概率密度：1212( ,; , )Xpx x t t2121212(,; ,)F x x t tx x n维概率密度：1212( ,; , , )Xnnpx xx t tt， ，121212( ,; , , )n

20、XnnnFx xx t ttx xx ， ，一、平稳随机过程（简称平稳过程）定义：如果X(t)的n维分布函数不随时间起点的选择的不同而改变，即对于任意的n和h，有1212( ,; , , )XnnFx xx t tt， ，1212( ,;,)XnnFx xx th thth， ，则X(t)是平稳随机过程。平稳过程性质：1111( ; )( )XXFx tFx、平稳随机过程的一维分布函数与时间无关。证：11111:( ; )( ;)XnFx tF x th11( ;0)( )XXFxFx令h=-t11112( ; )( )XXpx tpx、1212123( ,; , )( ,; )XXFx x

21、t tFx x、21tt其中为时间间隔二维分布函数只与 有关证：n=2:12121212( ,; , )( ,;,)XXFx x t tFx x th th1221( ,;0,)XFx xtt1ht 取12( ,; )XFx x1212124( ,; , )( ,; )XXpx x t tpx x、随机过程的数字特征：1( ) ( )( ; )XtE x txpx t dxx、均值函数：意义：随机过程X(t)的所有样本函数在时刻t的函数值均值。2222( )( )( ; )XXtE x txpx t dx、二阶原点矩：（均方值函数）222( ) ( )( )( )( ; )XXXXtE x t

22、txtpx t dx二阶中心矩：（方差函数）意义：随机过程X(t)的诸样本函数对于均值的偏离程度。均值和方差是描述随机过程在各个孤立时刻的数字特征。用 来定义。( ; )Xpx t3、二阶原点混合矩（自相关函数）12121 2121212( , )( )( )( ,; , )XXRt tE X t X tx x px x t t dxdx 1212,( )( )t tX tX t意义：描述随机过程两个不同时刻状态、之间的相关程度。12ttt若取 ，则2212( , )( , )( )( )( )XXXRt tRt tE X t X tE x t例：若一个随机过程由图所示的四条样本函数组成，并且

23、每条样本函数出现的概率相同，求 、 。1( )E X t12( , )XRt t1( )ix t2( )ix ti 1 2 3 4 1 2 6 3 5 4 2 1解：4111( )( )iiiE X tx t P11111*2*6*3*3444441212121( , ) ( ) ( )( ) ( )XiiiiRt tE x t x tx t x tp1(1*52*46*23*1)744、二阶中心混合矩（自协方差函数）121122( , )( )( )( )( )XxxCt tEX ttX tt121212( , )( , )( )( )XXxxCt tRt ttt性质 ：证 ：1212121

24、2( )( )( )( )( )( )( )( )xxxxE X t X tX ttt X ttt12121212( )( )( )( )( )( )( )( )xxxxE X t X tE X ttEt X tEtt12211212( )( )( ) ( )( ) ( )( )( )xxxxE X t X ttE X tt E X ttt1212( , )( )( )XxxRt ttt 若t1=t2=t，则2212( , )( , )( )( )( )XXxXCt tCt tE X ttt平稳过程的数字特征特点：1 ( )E x tx、常数1111 ( )( ; )XE x txpx t d

25、x证：111( ; )( )XXpx tpx111( )( )XE X txpx dx=常数222( ) ( )( )E x tE x ttx、为常数1212113( , )( )( )( )()( )XXRt tE X t X tE X t X tR、21tt只是的单变量函数,且不随时间推移而改变。1212121212( )( )( ,; , )XE X t X tx x px x t t dx dx 证：121212( ,; )Xx x px xdx dx ( )XR宽平稳过程：1 ( )E x tx、常数1212212( , )( )( )( )XXRt tE X t X tRtt、，其

26、中严平稳过程：1212( ,; , , )XnnFx xx t tt， ，1212( ,;,)XnnFx xx th thth， ，判断以下说法正确与否：宽平稳过程一定是严平稳过程。严平稳过程一定是宽平稳过程。二、各态历经性（对平稳过程而言）时间均值：1( )lim( )2TTTx tx t dtT（对一个样本函数而言）均值各态历经性：( ) ( )xx tE x t ( )E x t ：统计均值（对随机过程（很多样本函数）而言）例：在稳定状态下工作的一个噪声二极管，在较长时间T内观察它的电压，我们将T分成k等分（这个k相当大），测量每个时间分点上的电压值，得到k个电压值，这k个值的算术平均值

27、近似等于电压关于时间的平均值。 又假设另有k个完全相同的二极管，工作在完全相同的条件下，我们任意选择某一个固定时刻，测得这些二极管在该时刻的电压，并求出其统计平均值。若T，k：时间均值统计均值，则为各态历经性。时间相关函数：1( ) ()lim( ) ()2TTTx t x tx t x tdtT自相关函数各态历经性：,( ) ()( ) ()( )Xx t x tx t x tR有=E平稳随机过程的各态历经过程：均值和自相关函数都具有各态历经性。物理意义：一个样本函数几乎必须经历其它样本函数所具有的各种状态，一个样本函数可以代表整个随机过程。即( ) ( )xx tE x t趋近于代替( )

28、 ()( )Xx t x tR代替趋近于三、平稳过程的相关函数及其性质221(0)( )XXRE Xt、常数0( )( ,)( )()XXRRt tE X t X t证：220(0)( )XXRE Xt令 = ：意义：平稳过程的均方值可以由自相关函数令 时得到。0=( )()XXRR2、( )( )()XRE X t X t证：()( )E X tX t()XRtt()XR( )(0),( )(0)XXXXRRCC3、4、周期平稳过程的自相关函数必是周期为T0的函数。( )X t0即若平稳过程满足：X(t)=X(t+T )XX0则：R ( )=R ( +T )00()( )()XRTE X t

29、 X tT证：( )()E X t X t( )XR四、谱密度函数及其性质傅氏积分定理：若连续函数x(t)有 (绝对可积)( )x t dt 则x(t)的傅氏变换：( )( )j txFx t edt傅氏逆变换：1( )( )2j txx tFed单位脉冲函数（）：( ) t0,0t 1, 0t （其中0）0, t性质：1、( )1t dt2( ) ( )(0)t f t dtf、（筛选性质） 的傅氏变换：( )( )j txFt edt0j tet=01e意义： (t)和1是一对傅氏变换对。即有：1( )12j tted1、总能量的谱表示式（巴赛瓦等式）221( )( )2xx t dtFd

30、2( )( )x t dtx t表示在（- ,+ ）上总能量2( )( )xFx t称为的能谱密度。( )( )j txFx t edt2、平均功率的谱表示式 平均功率（有限值） ：21lim( )2TTTx t dtTX(t)的截尾函数：（绝对可积）( )TXt ( ),X t0,tTtT对随机过程来说，x(t)无限延伸，总能量是无限的，且X(t)不是绝对可积的。( )( , )Txx tFT的傅氏变换为：()( )j txTFTx t edt，( )Tj tTx t edt22( )( );Tx tx t取代( , )( )XXFTF取代巴赛瓦等式中用221( )( , )2Txxt dtFTd得：22111lim( )lim( , )222TxTTTx t dtFTdTT平均功率的谱表示式：21lim( )( )2TTTx t