第02讲 理论知识准备.ppt

第二讲知识准备(1/1),第二讲理论知识准备本节介绍在参数估计和自适应控制中所需要的关于随机过程控制理论等方面的理论知识,1.随机过程知识准备(1/2),1.随机过程知识准备正如在第一讲系统辨识概论中指出的，系统辨识主要是考虑在有噪声污染或随机因素干扰的情况下，通过观测到的系统输入输出数据来辨识建模。因此,概率论与随机过程理论在系统的模型描述信号的采集与预处理辨识算法的设计与推导等领域中为至关重要的理论基础。,1.随机过程知识准备(2/2),下面就分别简介随机过程随机过程的统计特性随机过程的数字特征平稳随机过程随机过程通过线性系统白噪声与有色噪声离散时间随机过程控制系统辨识常用的输入激励信号,1.1随机过程(1/7),1.1随机过程自然界中事物的变化过程可以大致分成为两类：一类是其变化过程具有确定的形式，或者说具有必然的变化规律，用数学语言来说，其变化过程可以用一个或几个时间t的确定函数来描述,这类过程称为确定性过程。例如,电容器通过电阻放电时，电容两端的电位差随时间的变化就是一个确定性函数。而另一类过程没有确定的变化形式，也就是说,每次对它的测量结果没有一个确定的变化规律，用数学语言来说,这类事物变化的过程不可能用一个或几个时间t的确定函数来描述，这类过程称为随机过程。,1.1随机过程(2/7),下面我们给出一个例子:设有n台性能完全相同的接收机，并在相同的工作环境和测试条件下记录各台接收机的输出噪声波形。这也可以理解为对一台接收机在一段时间内持续地进行n次观测。测试结果将表明，尽管设备和测试条件相同，记录的n条曲线中找不到两个完全相同的波形。这就是说，接收机输出的噪声电压随时间的变化是不可预知的，因而它是一个随机过程。,1.1随机过程(3/7),由此我们给随机过程下一个更为严格的定义:定义设Sk(k=1,2,)是随机试验每一次试验都有一条时间波形(称为样本函数或实现),记作xi(t),所有可能出现的结果的总体x1(t),x2(t),xn(t),就构成一随机过程,记作(t).简言之,无穷多个样本函数的总体叫做随机过程.随机过程如图1所示.,1.1随机过程(4/7),图1样本函数的总体,1.1随机过程(5/7),显然，上例中接收机的输出噪声波形也可用图1表示。我们把对接收机输出噪声波形的观测可看作是进行一次随机试验。每次试验之后，(t)取图1所示的样本空间中的某一样本函数，至于是空间中哪一个样本，在进行观测前是无法预知的，这正是随机过程随机性的具体表现。其基本特征体现在两个方面:其一，它是一个时间函数,因此随机过程有时亦称为随机函数;其二,在固定的某一观察时刻t1，全体样本在t1时刻的取值(t1)是一个不含t变化的随机变量。,1.1随机过程(6/7),因此，我们又可以把随机过程看成依赖时间参数的一族随机变量。可见，随机过程具有随机变量和时间函数的特点。下面将会看到，在研究随机过程时正是利用了这两个特点。,1.1随机过程(7/7),随机过程按照时间形态分，可分为连续时间随机过程其样本空间在时间轴上是连续的，习惯上记为x(t).在控制领域，对应的存在于随机连续时间系统中.离散时间随机过程(有时亦称为随机序列)其样本空间在时间轴上是离散的，如采样系统中所研究的随机因素，习惯上记为x(k).在控制领域中，对应的存在于采样系统、随机离散时间系统中.,1.2随机过程的统计特性(1/5),1.2随机过程的统计特性随机过程的两重性使我们可以用与描述随机变量相似的方法,来描述它的统计特性.下面分别介绍描述随机变量统计特性的分布函数和概率密度函数.,1.2随机过程的统计特性(2/5),定义设x(t)表示一个随机过程,在任意给定的时刻t1T,其取值x(t1)是一个一维随机变量.而随机变量的统计特性可以用分布函数或概率密度函数来描述.我们把随机变量x(t1)小于或等于某一数值x1的概率Px(t1)x1简记为F1(x1,t1),即F1(x1,t1)=Px(t1)x1(A1)式(A1)称为随机过程x(t)的一维分布函数.如果F1(x1,t1)对x1的偏导数存在,即有,则称f1(x1,t1)为x(t)的一维概率密度函数.,1.2随机过程的统计特性(3/5),类似地,可以定义Fn(x1,x2,xn;t1,t2,tn)=Px(t1)x1,x(t2)x2,x(tn)xn(A2)为随机过程x(t)的n维分布函数.定义,为随机过程x(t)的n维概率密度函数.,显然，随机过程的n维分布函数与概率密度函数描述了随机过程在不同时刻取值之间的内在联系。n越大，对随机过程统计特性的描述就越充分，但问题的复杂性也随之增加.在一般实际问题中，掌握二维分布函数就已经足够了。,1.3随机过程的数字特征(1/1),1.3随机过程的数字特征分布函数或概率密度函数虽然能够较全面地描述随机过程的统计特性,但在实际工作中，有时不易或不需求出分布函数和概率密度函数，而用随机过程的数字特征来描述随机过程的统计特性，更简单直观。常用的主要数字特征有:数学期望函数方差函数相关函数下面分别作简单介绍.,1.3随机过程的数字特征-数学期望函数(1/1),(1)数学期望函数随机过程的数学期望函数的定义为定义设随机过程x(t)的一维概率密度函数为f1(x,t)，则x(t)的数学期望函数为,上述定义的为时间轴上的随机过程数学期望函数，对具体给定时刻t1，计算期望函数Ex(t)，即可求出随机量x(t1)的数学期望。此外，对于离散时间随机过程,其数学期望函数定义为,1.3随机过程的数字特征方差函数(1/2),(2)方差函数随机过程的方差函数的定义为定义设随机过程x(t)的一维概率密度函数为f1(x,t)，则x(t)的方差函数为,1.3随机过程的数字特征方差函数(2/2),方差函数Dx(t)常记为2(t)，其意义为随机过程与数学期望函数之差的平方数学期望函数。亦恰为随机过程的均方函数与数学期望函数的平方之差.它表示随机过程在时刻t对于均值a(t)的偏离程度。均值和方差都只与随机过程的一维概率密度函数有关，因而它们描述了随机过程在各个孤立时刻的特征。为了描述随机过程在两个不同时刻状态之间的联系，还需利用二维概率密度引入新的数字特征。,1.3随机过程的数字特征相关函数(1/4),(3)相关函数衡量随机过程在任意两个时刻获得的随机变量之间的关联程度时，常用协方差函数B(t1,t2)和相关函数R(t1,t2)来表示。协方差函数B(t1,t2)的定义为,1.3随机过程的数字特征相关函数(2/4),相关函数R(t1,t2)的定义为,由于B(t1,t2)和R(t1,t2)是衡量同一过程的相关程度的,因此,它们又常分别称为自协方差函数和自相关函数。若t2t1，并令t2=t1+，则相关函数R(t1,t2)可表示为R(t1,t1+)这说明，相关函数依赖于起始时刻t1及t2与t1之间的时间间隔，即相关函数是t1和的函数。,1.3随机过程的数字特征相关函数(3/4),对于两个或更多个随机过程，可引入互协方差及互相关函数.设x(t)和y(t)分别表示两个随机过程，则互协方差函数定义为Bxy(t1,t2)=Ex(t1)-ax(t1)y(t2)-ay(t2)(A3)而互相关函数定义为Rxy(t1,t2)=Ex(t1)y(t2)(A4)对多个随机过程，可采用向量的符号来表示随机过程与互协方差函数矩阵和互相关函数矩阵，如:随机过程向量:x(t)=x1(t),x2(t),xn(t)互协方差函数矩阵:B(t1,t2)=Ex(t1)-a(t1)x(t2)-a(t2)互相关函数矩阵:R(t1,t2)=Ex(t1)x(t2),1.3随机过程的数字特征相关函数(4/4),在信号处理领域，我们有时称自相关函数R(t1,t2)为时间相关函数；互相关函数Rxy(t1,t2)为空间相关函数。自相关函数R(t1,t2)表示了随机过程其在时间坐标上前后随机量的相关性；而互相关函数Rxy(t1,t2)表示了空间中分布的2个不同的随机过程的相关性。,1.4平稳随机过程(1/1),1.4平稳随机过程随机过程的形态各异，目前讨论得相对成熟的为一类称之为平稳随机过程。实际上，现实中的许多随机过程可以用平稳随机过程来加以描述。在系统辨识与自适应控制领域，也多采用平稳随机过程来描述随机现象。下面简单介绍平稳随机过程的定义各态历经性自相关函数性质,1.4平稳随机过程定义(1/6),(1)定义所谓平稳随机过程，是指它的统计特性不随时间的推移而变化，其定义为:定义设随机过程x(t),tT，若对于任意n和任意选定t1t22A=3or5(mod8)A不能太小。初值x0取正奇数。Step2：xi=xi/M,i=1,2,3,可以证明xi是伪随机数,循环周期为2k-1。计算机上的简便实现：令L(x)为取数的小数部分,则有xi=L(Axi-1),i=1,2,3,;x0=x0/M,1.6白噪声与有色噪声-白噪声(5/5),产生高斯分布白噪声主要根据概率论中的大数定律，将通过所产生的多个均匀分布白噪声求和来产生高斯分布白噪声.,1.6白噪声与有色噪声-有色噪声(1/1),B.有色噪声有色噪声是指每一时刻的噪声和另一时刻的噪声相关，因而其谱密度也不再是常数.在工业生产实际中，白噪声在物理上是不存在的，常见的往往是有色噪声.有色噪声的表示定理:设平稳噪声序列e(t)的谱密度Se()是的实函数，则必定存在一个渐近稳定的线性环节，使得在输入为白噪声序列的情况下，环节的输出是谱密度为Se()的平稳噪声序列e(t)。对离散时间平稳序列，也有类似的有色噪声的表示定理.,1.8控制系统辨识常用的输入激励信号(1/3),1.8控制系统辨识常用的输入激励信号在对控制系统进行系统辨识建模时，需要在被控系统的输入端施加预先设计并产生好的输入激励信号，以使被控系统产生输出响应并测取之。由于系统辨识是基于所测取的系统输入输出数据而展开的，因此所测取的输入输出数据要能充分反映系统的静力学与动力学特性，即数据要充分丰富。输入输出数据充分丰富，关键是所设计的输入激励信号要充分丰富。信号充分丰富在频域里可以解释为信号的频带要足够宽，在时域里可以解释为信号排列成的Hankel矩阵、Fish信息矩阵的秩与系统的阶次成一定关系。,1.8控制系统辨识常用的输入激励信号(2/3),输入激励信号可以为确定性信号，也可以为随机信号。常用的确定性输入激励信号阶跃信号方波信号三角波信号单频/多频正弦信号单频正弦信号的频带较窄，信号一般不满足充分丰富这一辨识的基本原则/条件。脉冲信号,1.8控制系统辨识常用的输入激励信号(2/2),常用的随机输入激励信号白噪声信号相关（有色）噪声信号上述2种随机信号的常用的概率分布模型有高斯分布均匀分布伪随机（M）序列,2控制理论知识准备(1/2),2控制理论知识准备本节介绍在参数估计和自适应控制中所讨论的被控系统的数学模型表示和一些有关稳定、能控能观性的结论.由于建模的对象、目的、手段和应用的环境等不同,导致所采用的数学模型各不同.按不同的角度,其分类有线性的或非线性的,连续的或离散的,确定的或随机的,集中参数的或分布参数的,2控制理论知识准备(2/2),时变的或定常的频率域或时间域的的等等.下面将简单介绍本课程中需用到的如下数学模型及相关需用到的结论.确定性连续系统的状态空间表达式确定性连续系统的输入输出方程表示确定性离散系统的状态空间表达式确定性离散系统的输入输出方程表示随机离散系统的输入输出方程表示,2.1确定性连续系统的状态空间表达式(1/4),2.1确定性连续系统的状态空间表达式定常确定性的连续系统的状态空间表达式可表示成,其中u,x和y分别为m维分段连续的输入向量,n维状态向量和r维输出向量;A,B,C和D分别为适宜维数的常数矩阵.对于上述系统,可以给出以下定理.,2.1确定性连续系统的状态空间表达式(2/4),定理1(能控性定理)线性定常连续系统(1)状态完全能控的充要条件为能控性矩阵P=BAB.An-1B的秩为n.定理2(能观性定理)线性定常连续系统(1)状态完全能观测的充要条件为能观性Q=C(CA).(CA)(n-1)的秩为n.,2.1确定性连续系统的状态空间表达式(3/4),定理3(最小实现定理)对线性连续系统(1),若C(sI-A)-1B+D=G(s)则线性定常连续系统(1)是传递函数矩阵G(s)的一个最小实现的充要条件是系统(1)能控且能观.定理4(Lyapunov稳定性定理)对线性定常连续系统(1),若存在正定函数V(x,t),且其对时间的全导数V(x,t)负定,则该系统为Lyapunov意义下渐近稳定的.若其对时间的全导数V(x,t)非正定(半负定),则该系统至少为Lyapunov意义下稳定的.,2.1确定性连续系统的状态空间表达式(4/4),定理5(线性系统Lyapunov定理)对线性定常连续系统(1),若对任意给定的正定矩阵Q,存在正定矩阵P使得PA+AP=-Q成立,则该系统为Lyapunov意义下渐近稳定的.,2.2确定性连续系统的输入输出方程表示(1/2),2.2确定性连续系统的输入输出方程表示定常确定性的单输入单输出(SISO)连续系统的输入输出方程表示为y(n)+a1y(n-1)+.+any=b0u(m)+.+bmu(2)或N(p)y=M(p)u(3)其中p=d/dt为微分算子,2.2确定性连续系统的输入输出方程表示(2/2),对于系统(2),有如下关于稳定性的一个定理.定理6若特征多项式N(p)的根均具有负实部,则线性定常连续系统(2)稳定.,2.3确定性离散系统的状态空间表达式(1/2),2.3确定性离散系统的状态空间表达式定常确定性的离散系统的状态空间表达式可表示成,其中u(k),x(k)和y(k)分别为第k步(或称第k次采样周期)时的m维分段连续的输入向量,n维状态向量和r维输出向量;A,B,C和D分别为适宜维数的常数矩阵.对于线性定常离散系统(4),亦有类似于定理1定理3的关于线性离散系统结构性质的定理,读者可参阅相应的线性系统理论或现代控制理论方面的教科书.,2.3确定性离散系统的状态空间表达式(2/2),下面是关于线性定常离散系统(4)的稳定性的定理.定理7(Lyapunov稳定性定理)对线性定常离散系统(4),若存在正定函数V(x,k),且前向差分V(x,k+1)-V(x,k)负定,则该系统为Lyapunov意义下渐近稳定的.定理8(线性系统Lyapunov定理)对线性定常离散系统(4),若对任意给定的正定矩阵Q,存在正定矩阵P使得APA-P=-Q成立,则该系统为Lyapunov意义下渐近稳定的.,2.4确定性离散系统的输入输出方程表示(1/3),2.4确定性离散系统的输入输出方程表示定常确定性的SISO离散系统的输入输出方程表示成,或A(z-1)y(k)=B(z-1)u(k)(6)其中z-1为如下定义的时滞算子,2.4确定性离散系统的输入输出方程表示(2/3),对于线性定常离散系统(5),有如下关于稳定性的一个定理.定理9若时滞算子z-1的多项式A(z-1)的根均位于z-1平面单位圆外,则线性定常离散系统(5)稳定.值得指出的是,在系统辨识和自适应控制领域,习惯用时滞算子(后向差分符)z-1来记离散系统模型,因此上述稳定性判据是在z-1平面上的,与自动控制原理中的习惯讨论的z平面表述上略有不同.,2.4确定性离散系统的输入输出方程表示(3/3),前面讨论的4种系统模型在一定条件下可以相互转换,它们之间的转换关系可由下图所示.,2.5随机离散系统的输入输出方程表示(1/10),2.5随机离散系统的输入输出方程表示正如在第一讲系统辨识概论中指出的,系统辨识主要是考虑在有噪声污染或随机因素干扰的情况下,通过观测到的系统输入输出数据来辨识建模.因此,受到噪声污染或随机因素干扰的被控对象与检测/测量环节组成的辨识系统的结构图如下图所示。,2.5随机离散系统的输入输出方程表示(2/10),从该结构图可知,在系统辨识中,被辨识对象受到的噪声及干扰不仅来源于被控对象的内部过程,还来自于对系统的输入输出的检测/测量环节。,2.5随机离散系统的输入输出方程表示(3/10),实际上,对于仅输入输出可测量的被辨识对象,由于其所受到的过程噪声和测量噪声的统计特性难于分离及分别讨论,因此,一般将被辨识对象所搜到的所有过程噪声和测量噪声等效并合并到被控对象的输出端,如下图所示。,2.5随机离散系统的输入输出方程表示(4/10),对如上图所示的SISO定常随机连续线性系统的输入输出方程可表示为,或A(z-1)y(k)=B(z-1)u(k)+v(k)(8)其中v(k)为系统所受的所有内外扰动和测量误差等在输出端的综合反映,并用一随机过程来加以建模.对于随机离散系统(8)中随机扰动项v(k),在系统辨识和自适应控制领域,一般有如下假定:,2.5随机离散系统的输入输出方程表示(5/10),假设1在系统辨识和自适应控制,一般都假设随机扰动为零均值的平稳随机序列.因此,根据随机过程理论,对随机离散系统(8)及平稳随机序列v(k),有如下结论:结论1任一平稳随机序列都可由一平稳白噪声序列和一有限阶的,稳定的线性滤波器生成.结论2若随机离散系统(8