系统辨识基础

第四讲系统辨识基础

一、自校正控制与系统辨识

1、自校正控制

自校正控制是一类重要的自适应控制方案。自校正的概念最早是由Kalman

在1958年首先提出的，主要用于信号去噪。而自校正控制是由瑞典学者阿斯特

罗姆（K.J.Astrom）和威特马克（B.Wittenmark）在1973年首次提出的，并在工

业上得到了广泛的应用。

在自校正控制系统中，被控对象的参数被在线地辨识，然后经过控制器的在

线设计过程，对控制器参数进行在线调整，使其始终能适应被控对象模型的变化。

必须注意的是：自校正调节过程是一个迭代优化的过程，通过边辨识、边综合，

使得控制器参数能够逐步趋向于最优值。

自校正控制的实现需要满足以下假定：

•被控对象的模型时变速度缓慢

•被控对象可辨设

•由控制器和被控对象构成的系统是稳定的

因此，可认为在自校正调节过程中，被控对象的模型是不变的，在此条件下,

自校正控制的过程为：

（1）在,时刻根据〃⑺和丁切估计被控对象参数占⑺；

（2）根据知）设计控制器参数。⑺；

（3）由&⑺和”什1）,可计算出什1时刻的控制量〃（什1）；

（4）根据什1时刻的〃（什1）和）*+1）再次估计被控对象参数执，+1）；

（5）返回步骤2,继续进行递推，直至波控对象参数估计值4f）收敛

到其真值8。

2、系统辨识

由自校正控制的原理可知，系统辨识是自校正控制的基础。

系统辨识是根据一个系统的输入/输出数据建立系统最优数学模型的理论和

方法，它不能确保获得系统“真实”的数学模型，但可以在输入/输出关系，也

即系统动态响应的意义上获得一个与系统等价的最优的数学模型，而“最优”需

要有确定的准则来评判。

系统辨识的内容冗■以划分为以下三个层次：

层次一：模型结构的选择

层次二：系统阶次的确定

层次三：系统参数的估计

由于系统的输入/输出信息都只能依靠测量技术采集，而采集到的数据总是

包含各种干扰因素的影响，所以系统辨识是一个“不确定”的过程，具有随机性

特征，只能用统计方法来进行研究。

3、分离性原理和确定性等价原理

由于自校正控制中，只是用被控对象参数的估计值。而不是真值。来进行

控制器设计，由此带来的随机性使得自校正控制系统成为典型的“随机控

制系统”。而对于随机控制系统，有两条重要的原理：

(1)分离性原理

所谓分离性原理，是指在随机控制系统的设计中，可以将随机部分和

确定部分分离开来，单独进行处理。

例如在自校正控制中，被控对象的参数估计是一个具有随机性的部分，

而控制器的设计则是确定性的部分，如果这两部分任务可以分离进行，同

时得到的控制器参数是最优的，则称自校正控制系统的设计过程是可分离

的。

遗憾的是，只有少量系统，例如采用线性二次型为控制器设计的性能

指标的自校正控制系统，满足分离性原理。

(2)确定性等价原理

在分离性原理的基础上，需要有确定性等价原理才能实现自校正控制系统。

确定性等价原理是指采用参数估计得到的被控对象参数儿来设计出的控

制器参数。，与用被控对象真实参数8来设计的控制器参数4是完全等价

的，都是使性能指标能取得最优值的最优控制律。即随机变量。在控制器设

计中的作用确定性地等价于对象真实参数0。

同样的，确定性等价原理并未得到一般性的证明，目前只证明了对于白

噪声、可叠加的测量噪声和具有线性二次型性能指标的自校正控制系统中，

确定性等价原理成立，

二、随机过程基础

因为系统辨识是在采样系统输入/输出信息的基础上估测系统的模型，又因

为系统输入/输出信息的采集值是具有随机性的序列，所以需要首先学习了解描

述序列性的随机信号的随机过程的有关知识。

1、随机变量及其分布

(1)随机变量

定义：设随机试验E的样本空间S={e},若对每个试验结果e,都有

确定的实数X(G)与之对应，则称实值变量X(c)为随机变量，简记为X。

随机变量就是定义在随机样木空间上的变量。

(2)分布函数

设X是随机变量，对于任意实数先令

F(x)=P[X<x}

则称FM为X的分布函数，即F(x)是X在区间(-8,灯内取值的概率。

(3)概率密度函数

设随机变量X的连续的分布函数为尸(外，若存在非负函数/(x),使得:

b(x)=J：fU)dl

则称/*)为X的概率密度函数。

概率密度反映了X在某个区间内取值的概率大小，即

P{Xe[a,h]}=^fMdx

但/(幻不一定存在。

(4)常见概率分布

(0-1)分布：P{X=\}=p,P{X=0}={1-p)

二项分布：P{X=k\=C：p、i,p+q=LA=0,l,...〃

泊松分布：P{X=k}=^—k=0』，...〃

k\

1

均匀分布:/W=<b-a

0

7rs,O

指数分布：f")='

0,x<0

正态分布:/(4)=bjzJ21记为Na，/)

2、随机变量的数字特征

(1)数学期望

离散随机变量：E(X)=W>,.pj

f=l

连续随机变量：E(X)=[yf{x}dx

数学期望是随机变量可取的各值的加权平均值，权值系数是各值的取

值概率，也称为概率均值。

(2)方差

设随机变量X的数学期望是E(X),若E[X-E(X)]2存在，则称为X的

方差，记为O(X),，XX)称为标准差或均方差。

2

离散随机变量：D(X)=£[xf-E(X)]p,.

1-1

连续随机变量：D(X)=^[x-E(X)]2f(x)dx

也可用此公式计算方差：D(X)=E[X-E(X)]2=E(X2)-[E(X)f

方差是随机变量取值分布的分散程度的度量。

(5)常见概率分布的数字特征

(0-1)分布：E(X)=p,D(X)=p(l—p)

二项分布：E(X)=叩,D(X)=np([-p)

泊松分布：E(X)=4D(X)=2

均匀分布：E(X)=—,O(X)="21

212

指数分布：E(x)=J,o(x)=!

AA

正态分布：E(X)=%D(X)=(y2

3、随机过程及其数字特征

(1)随机过程的概念

定义：设有定义在样本空间S={e}上的无穷多个随机变量序列，按

参数1UTU(YQ,XO)排列，称[XQ),fuT)为随机过程。

，一般是时间，如不是时间，则称X⑺为随机函数；如/离散，则称为

随机序列。

例如：对一系列产品进行抽样检查，其合格性构成一个随机序列(随

机函数)；江河的水位变化构成一个随机过程；对人每小时测一次体温，其

值构成一个随机序列，

对于每个时刻乙£丁，对应的x(G是一个随机变量，称为随机过程x⑺

在『二八时刻的状态；当在一系列连续试验中x⑺取得一系列具体值时，这些

值构成一个仅依赖于t的确定性函数x(f),称为随机过程X⑺的•一条样本函

数，也称为样本曲线，

若一个随机过程x⑺中任意两个时刻《山€丁，都有x(G、X(一相互独

立，则称x⑺为独立随机过程。

(2)随机过程的数字特征

定义1：设(X(，)je7}是一个随机过程，对于任意给定的，wT,随机过

程在该点的状态X(r)的数学期望构成一个t的函数，称为XQ)的均值函数，

记为m(t)o

对于连续的随机过程，均值函数

m(t)=E[X(t)]=Vxf(x\t)dx

/(x；/)是/时刻XQ)的概论密度函数。

定义2：设是一个随机过程，对于任意给定的小丁，随机过

程在该点的状态X(f)的方差构成一个/的函数，称为XQ)的方差函数，记为

。⑺。

对于连续的随机过程，方差函数

D(t)=E{[X(t)-m(t)]2]=JJx(f)-,z?(r)]2/(x;t)dx

定义3：设{X(Z),Z£T}是一个随机过程，对于任意给定的％山6丁，X&)、

X«2)之间的协方差构成一个的函数，称为X⑺的协方差函数，记为

r(r,,r2)o

对于连续的随机过程，协方差函数

-=cov[X(4),X(t2)]=£{[%(/,)-)][X(r2)-m(t2)]}

=J：J_[X(八)一刀亿)】〔MG僧(J)]/2a,当；讨2

其中&a，8消冉)是X(G、x«2)的二维联合概论密度函数。

协方差表示了两个随机变量之间的线性相关程度，当协方差为0时,

两个随机变量不相关。独立的随机变量一定不相关，但不相关的随机变量

不一定互相独立。

方差函数是协方差函数的特例。

定义4：设(X(/),Z£T}是一个随机过程，对于任意给定的4/£丁，X&)、

x(幻之间的自相关函数(简称为相关函数)是％)的函数,记为/?G，G，

定义为

及&也)一应x-)x(幻]

「■KOp+00

=LL-'2).a，w；出)(收但

也可将相关函数表示为：R(y)=ETXQ)XQ+/)]。

协方差函数、均值函数和相关函数之间有如下关系：

r(r1,r2)=E{[X(0-/n(zI)][Xa2)-m(r2)J}=E[XaI)X(r2)]-E[X(/1)]£[X(/2)]

=/?(r1,r2)-m(AX^2)

对于不相美的随机过程，有

-)=RQi,L)一皿枷«2)=o

即有

/?(讨2)=皿6)加«2)

4、平稳过程及各态遍历性

(1)矩的概念

矩就是指随机变量的各种数字特征，其中E(x")称为随机变量X的攵

阶原点矩，E{[X-E(X)力称为随机变量X的k阶中心矩。

显然：数学期望是一阶原点矩，方差是二阶中心矩。

如随机过程的均值函数和方差函数均存在，则称该过程为二阶矩过程。

(2)平稳过程

若随机过程XQ)有

F(X，/，…也"1，J，，，““)=尸(为,左，一。“"1+汇,，2+汇，••"〃+丁)

即XQ)的有限维概率分布与I无关，则称X⑺为严平稳过程，简称平稳

过程。

若二阶矩过程X(f)有

/?(r1,r2)=/?(r2-r1)=/?(r),r=t2-tx>0

即X⑺的均值为常数，相关函数仅与工有关，则称X")为宽平稳过程。

平稳过程表示随机过程的概率分布情况和数字特征与所研究的时间点

无关，因此可以从平稳过程中任取一段来进行研究和分析。

注意：

严平稳过程不一定是宽平稳过程，因为二阶矩不一定存在；

宽平稳过程不一定是严平稳过程，因为其条件仅是严平稳过程的必要

条件。

(3)各态遍历性

随机过程X⑺的数字特征，可以用〃个样本函数否(。，为⑺，…,乙⑺去计

算，例如求均值函数和相关函数，即

1n

R(八,)二仇X(Gx4)]k—2以QMS)]

依据大数定律，当〃―8时，就得到了准确的均值函数和相关函数，这

称为随机过程的空间均值和空间相关函数。

但有许多随机过程的样本函数是无法重复取得的，因此，只能从单个

的样本函数去试求随机过程的数字特征。

当随机过程X(力不是平稳过程时，从单个的样本函数无法获得随机过

程的数字特征。

当随机过程X(/)是平稳过程时，其均值函数〃2⑺是与t无关的常数m,

相关函数R&W)是只与时间间隔工有关的函数R(r)。如果有如下极限存在：

<X(/)>=lim-l-fX(/W/

ttb2/J-T

<X(r)X(r+r)>=lim—「+r)dt

7->oc27J-T

则称其为随机过程X⑺的时间均值和时间相关函数，它们都是随机变

量。

如果随机过程X")的时间均值概率为1地等于空间均值，时间相关函

数概率为1地等于空诃相关函数，则称该随机过程具有各态遍历性。即

m=<X(t)>,(as.)7?(r)=<X(t)X(t+r)>(as)

as.的意思是allmostsure,几乎可以确定。

具有各态遍历性的随机过程，随时间的延续各种取值都可能取到，并

且取值分布也几乎与单个时间点上的状态的取值分布一致，因此可以用一

条或者几条样本曲线来计算随机过程的数字特征。

5、随机过程的谱分解

(1)平稳随机过程的谱分解

设R5)为平稳随机序列｛X(Z)X=0,±l,±2,…｝的相关函数,则可表示为:

R(n)=「f(co)ejn°dco

J-/T

称为R(〃)的谱分解，其中/(。)称X(用的谱密度函数。

设R⑺为平稳随机过程｛X()/w7｝的相关函数，则可表示为：

R(T)=1/(⑼入口

J-3C

称为/?«)的谱分解，其中/(。)称XQ)的谱密度函数。

随机过程的谱分解是按谐波分量的频率将随机过程的功率进行分解发

(傅立叶分解)，因此也称为功率谱。

谱密度函数的计算方法为

1y

/(⑼=—YR⑺随机序列

2万“…

f(⑼=；J：R(i)e-jwdT,随机过程

(2)白噪声

若随机序列X(6满足

a2,n=0

m=0,R(〃)=〈

0,〃工0

则称X(Q为白噪声。

白噪声是平稳过程，同时具有各态遍历性，其谱密度函数为：

1-2

f(co)=——yR(n)ejnta=—,-7i<(o<7i

2乃=2几

因此，白噪声的功率在各个频率上是均匀的，类似于“白光”，因此称

为“白”噪声。

白噪声是最理想的纯随机信号，也是考查系统干扰影响的基础。不符

合白噪声特点的噪声称为有色噪声，它可以由白噪声的函数来表达。

三、最小二乘法参数估计的原理

1、离散系统的输入输出模型

根据对系统辨识的分析，它是在测量得到的离散的系统输入输出数据的基础

上来进行系统结构和参数辨识的，因此首先要研究离散系统的数学描述。

设单输入单输出系统的差分方程为：

)，“)+%y(f—1)+…+4y(t-na)=bQu(t-k)+如(I-1)+…+bnu(t-k-nh)

攵是输出延时。

设单位后移算子为Z-L即有

zb⑺=y(i)

则可令

l,，a

A(z)=l+a,1z~+•••+«"az~

B(z)=bo+biZ”+…-b“z"6

则单愉入单饰出系统的差分方程可表示为：

A(z)y(f)=B(z)〃(i)

也可写为：

B(z)

W-k)

词

当系统受噪声干扰时，假定噪声源是白噪声，则可将噪声引起的输出

扰动定义为：

则含有单输入单输出系统的差分方程可表示为:

y⑺=等-Q+Mr)

A(z)A(z)

也可写为：

A(z)y(f)=-k)-vC(z)w(0

其中

A(z))，")表示输出y")的历史值对当前值的影响，称为自回归部分，AR

B(z)〃(f-Z)表示输入〃⑺对输出)，⑺当前值的影响，称为受控部分,C

C(Z)H”)表示干扰对输出)，(/)的影响，称为滑动平均部分，MA

因此，上述模型称为：受控自回归滑动平均模型，CARMA

其它的单输入单输出系统模型还有：

A(z)y(t)=B(z)u(t-k)+y^t),受控自回归模型，CAR

A(z)y⑺=8(z)四一旬+—!—Mf),动态模型,DA

D(z)

对于多输入多输出时变离散系统，可用差分状态空间模型表示为:

x(t+1)=AQ)x。)+B(/)w(O+DQ)必)

y(r)=C(r)x(r)+w")

2、最小二乘法参数估计的原理

设有一待辨识的系统模型为

y=f(x)+w

x和)，是可测量的输入输出数据

卬是白噪声

待辨识的参数为0

X

若有一系列输入输出的测量值JpXj；%，/；%工3；…;yn>n

则称能使准则函数

J⑹=£[/一/(幻]2

1=1

取得最小值的参数估计值。为最小二乘法参数估计，简记为LS估计。

最小二乘法参数估计本质上是求测量点到估计模型的欧氏距离和最小的参

数估计结果。

3、参数估计的评价指标

对于不同的参数估计算法，其估计结果的评价有以下常用指标：

(1)无偏性

设。是参数。的估计值，若

E(0)=0

则称。为参数。的无偏估计。无偏估计是参数估计的基本要求，即估计

值以真值为中心波动，如果重复多次估计，则依据大数定律，估计值的均

值会趋近于真值。

(2)均方误差

设。是参数夕的估计值，均方误差定义为

均方误差反映了估计值波动的幅度大小。

若。是参数。的无偏估计，则均方误差就是估计值。的方差；若。不是

参数6的无偏估计，则均方误差为

MSE(0,0)=E[Ce-0)2]

=E{[4-E(3)+E(4)一例2}

=E[[d-E(0)]2]+2E{[0-E(O)][E^)-0]}+E{lE(0)-O]2]

=E{[3-E@]2}+[E(3)-6]2

=Q(0)+[E(J)—02

(3)收敛性

如f—>8时，有lim@=£,a.s.

则称。收敛于夕。

四、基本最小二乘法参数估计

1、系统模型

设系统模型为CAR模型(受控自回归)，且无输出延时

A(z)yQ)=B(z)u(r)+W),W)是白噪声

-1na

A(z)=1+d,*z+•••+〃z~

B(z)=bo+"z"+…+"%z〃b

且%>%

也可将模型写为：

其中

6=lai,a2，…，。&；瓦，4也，…力“J,称为参数向量

/(，)=[-y("l),-y("2),…，-y(一%);〃⑴,〃("D,〃("2),・・・,〃(…%)]，称为信息向量

2、辨识算法

在，时刻，有/个测量结果，表示为：

X=H0+叱

其中

y=[y⑴,y(2),…,yQ)F，=["⑴,/(2),…,，'⑺F,吗=[例1),以2),…，以

设最小二乘准则函数为

/(。)=%>(。-西)。]2

J=1

则参数估计值。应能使该准则函数取得极小值。

设人。）在。处可微，则

坐「0

do上。

因为

OJ（d）_i=0____________________

1

dee*~~db10”

二8（一-”。（》-必）

d0.

=-2-日一郎）一

所以有

H：（y「H,0）=O

即

H；%=H：H,0

0=（H„y,

条件是“J/非奇异，可以求逆。

可以证明，当输入信号是是％阶持续激励信号，当，―8时，

/»na+nh+\fH：H,非奇异。

•持续激励信号

持续激励信号是指能够持续激励待辨识系统的动态特性，以获得充分的信息

来进行辨识的输入信号。对于无输出延时的受控自回归（CAR）模型，需要辨识的

参数有%+%+1个，因此输入信号至少要包含殳土产」个线性无关的频率成份，

才能够获得足够的数据进行辨识。

白噪声和有色噪声都是持续激励信号，因此用白噪声作为输入来进行系统辨

识是最理想的，但一般系统对白噪声都不能做出有效的响应，且白噪声也难以在

物理上实现。

Os=1H：HTH：y,

就是基本最小二乘法参数估计公式，它是离线估计算法，需要一次采

集足够多的输入输入信号，计算量比较大，并且需要对高阶矩阵进行求逆

计算。

3、估计质量评价

（1）无偏性

TT

E(0ls)=E[(HtHyH,yt]

WEKH：乩尸小]

•・・叫由白噪声构成，与用之间线性不相关

.・.娟(“见)””』止司(叱)=0

.*.E(9IS)=0

所以，基本最小二乘法参数估计是无偏估计。

(2)均方误差

基本最小二乘法参数估计的均方误差为

MSEa、.,，)=。电)

TlT

=DlO+(HlH[YHlwt]

TiT

=D[O]+D[(HlHl)-Htwl]

TlT

=D[(HlHl)-Hlwl]

TiT2

=E{[(HlHiyHlwt]]

=EKH：乩尸乩「叫叫丁乩(H：乩尸1

(3)收敛性

hmMSE(0^)=hmE[(HTHy'HTwwTH(HTHYl]

LS/->X>lrlllrll

=1Hm(H：H#H：H小：

Jfoo

If8

若=Ra.s.存在

sf

则limMSE(^^)=cr2lim-<-H/H,r，=o-2lim-/?_,=0

r-xcv/->«>ffz->xi

则有1心石[(猷-。)2]=()

Too

即limA,=0,a.s.

可以证明，当输入信号是是〃〃阶持续激励信号，=Ras.

Ifaf

条件满足。

五、递推最小二乘法参数估计

1、基本最小二乘法参数估计的问题

・计算量大

•需要求大型矩阵的逆

•不能实现在线参数估计

•不能无法预估所需的数据量

2、最小二乘法参数估计递推公式

递推最小二乘法利用逐渐采集到的输入输出数据来递推估计系统参数。时

刻的，即求取f时刻的参数估计值。⑺与/-I时刻的参数估计值"—1)和，时

刻的信息向量/⑺之间的关系。

设Pp)=

1=1

贝IJ尸也)=尸(-1)+9(/)，")

,.・0=(H：H)7H：X

.・.。⑴=PQ)H：y,

二也)闻必+。《)刈]

=尸尸(£-1)”2y小+*(—

=P(r)[p-,(/-lW-l)+^(r)X/)]

=p⑺{[K(0-叭I)d(ZW-D+-

=0{t-1)+P(/)/(3y⑴-/(rW-1)]

即递推最小二乘法公式为：

标⑴=3(/—1)+尸⑺飘川丁⑺一/(t)d(t-1)J

其中

朋-1)是上一时刻的参数估计值

)，")-"⑺i(r-l)是利用上一时刻参数估计值得到的输出偏差

。⑺。⑺为修正因子

为避免矩阵求逆运算，可对以上递推最小二乘法参数估计进行进一步改进。

•・•(A+〃c)T=A-1-A^bd+cA^by^cA^

2/)=[2一(-1)+夕(/)“⑺『

=P(—阿[/+(pT(f)P(f-1)/)-/(t)P(t-1)

•・•一(f)P(f-1)/)是1x1维的标量

T.1

,,[/+^WP(z_1W)r'=__

l+夕(t)P(t-V)(p(t)

⑴二PJD-P「吁加⑺小7）

-----：（/-1）刖_

1+/（，）*1）8。）

同时，有

1+(pr(r)P(/-lW)-阿，([)P"1)

户⑺*)=P(I)9。)

1+"⑺尸(f-1)0。)

8(。+(p(t)(p'(t)P(t-1)8。)-(p(。/(t)P(t

二尸（—）

l+/(/)P(r-l)^(r)

PQ-DS⑴

i+/a）p（"i）9（f）

设〃”厂次）

则递推最小二乘法参数估计公式可写为

加）=加-1）+小心。）-，（川。-1）］

P("1)*Q)

L(t)=

1+，Q)PQ-1泄⑺

P")=[/—〃/)/⑺]P(I)

3、递推最小二乘法参数估计的算法过程

第一步：选取，（0）和P（O）的初值，一般4（0）取很小的实向量，p（0）取

。为充分大的正数，一般取i（）6~10）勺］

第二步:增加一组测量数据，获得

第三步:求L(t)；

第四步:求。⑺，若满足精度要求|，⑺-。"-1）|<£，则停止递推;

第五步:计算?⑺，，加1,返回第一步。

课后作业：

设待辨识系统为

（1+3z-'+4z“）刈=（2z-,+3z"）〃⑺+w"）,田。是白噪声

在Matlab中编程，用伪随机序列作为持续激励的输入〃（/）产生信息向

量，然后用递推最小二乘法对参数进行估计。

六、其它最小二乘法参数估计

1、遗忘因子递推最小二乘法参数估计

当采用递推最小二乘法时，已有的所有信息向量都会在递推过程中发挥作

用，因此随着时间的推移，新采集到的信息向量对参数估计值的修正作用会逐渐

减弱，称为“数据饱和”现象，也就是说递推算法的计算效率逐渐降低。当被辨

识的系统参数缓慢时变时，递推最小二乘法参数估计不能很好地实现系统辨识。

遗忘因子递推最小二乘法参数估计是在递推公式中加入遗忘因子，逐渐减小

旧信息向量在参数估计中的权重，以加强新信息向量的作用，跟随系统参数为时

变。

令-7«)=犷Si)+e(M(f),%为遗忘因子，一般取0.95工义＜1。-越

大，遗忘作用越小，参数估计的精度越高；/越小，遗忘作用越大，参数估

计的跟踪能力越强。

遗忘因子递推最小二乘法参数估计公式为

加)=加-1)+

尸(1)。⑺

1r

A

2、增广最小二乘法参数估计

⑴系统模型

增广最小二乘法针对受控自回归滑动平均模型(CARMA),

A(z)yQ)=8(z)〃⑺+C(z)wV)

其中

-1，，a

A(z)=1+6Z,1Z4----4-a"aZ~

B(z)=%+4z"+…+%z%

C(z)=l+cH+…+C“-F

令噪声干扰为e(r)=C(z)K(r)

则待辨识系统模型为

A(z)yQ)=B(z)〃⑺+e⑴

定义参数向量为：

优=［《，4，…，4；瓦，4也，…，%］，4=L，。2,…，，1，

信息向量为:

d⑴=[一)收一1),-2),…，一y"一?);〃(/),〃。一1),u(t-2),一nh)1，

d(D=T)，Mf-2),…,

则系统模型可写为：

rH

yt=[.4]A+叱

其中

MDd⑴武⑴卬⑴

y⑵d⑵媒⑵例2)

x=，匕=，L=,wt=

•**

_da)_w")

⑵一次完成算法

由最小二乘法参数估计的原理可得，

但该公式是无法直接计算的，因为L无法测量。为解决这一问题，可

采用迭代的方法进行计算。

将参数估计公式写为：

g=(H：乩尸心「⑺:乩尸乩］。

A.=D'L：My,

其中

TlT

M=I-Hl(H,HfyHl

D=L：ML,

再利用

e,=L,On+wt

就可迭代求取。和。，具体步骤如下:

第一步：设。二(""/,尸耳〜，。=0；

第二步：计算残差：'”/

W,=Lqi

第三步：利用叱，求得4和M,。；

第四步：求从他=3工"</

第五步：求&0=尸”,乜以阳；返回第二步。

⑶递推算法

定义参数向量为

=回。2,…,4沁由也，…,b/qg,…,CnJ，

定义信息向量为；

9/«)=[—)，«—一y(f—2),…，一)，(/一〃");〃(/),〃(/一1),“«—2),一、〃(，一〃〃)；卬(f一1),漳«_2),

则系统模型可写为

)1。)=/«)。+巩”)

由递推最小二乘法参数估计算法可得递推公式为

%«)=[(—)+小心⑺-/⑴友一)]

小P(/-1W)

L(t)=---7-------------

l+dQ)PQ-l)次)

P(r)=[7-L(/)^r(r)]P(r-l)

由于信息向量中vi<r)不可测，在递推过程中用残差位⑺=y(t)-/任汝”)

代替。

3、广义最小二乘法参数估计

⑴系统模型

考虑动态(DA)模型

A(z))«)=6(z)〃Q)十二7H⑴

八⑶

其中

A(z)=1+qz"+…+a%z-%

8(z)=d+Az-+…+%z",

_,_rtrf

D(z)=l+f/1z+...+^z

令噪声干扰为：式r)=—!一以/)

D(z)

即有

D(z)e(t)=3)

其物理意义为待辨识系统中的噪声可通过一个滤波器变为白噪声，因

此"z)又称为“白化滤波器”。因为在广义最小二乘法中，D(z)的参数在辨

识过程中是动态变化，逐步趋于最优的，因此系统模型称为“动态”模型。

定义参数向量为:

改=ci%;b(”b也，…,

信息向量为：

«)=[一)'。一1),-y。-2),•••，—y(r一%〃。一1),"(f-2),•••,〃(r一勺,)],

弁Q)=[-e(t-1),-e(t-2),•••,-6*(/-nd)],

则系统模型可写为：

分=出乙]:+叱

其中

>(1)_卬⑴

y⑵短⑵以2)以(2)

»=，%=»L=,叱=

*•

y(t)H1(0

⑵一次完成算法

由最小二乘法参数估计的原理可得,

A

色H：H,

A

仇

与增广最小二乘法一样，L无法测量，需利用残差通过迭代的方法进行

⑶递推算法

将DA模型变形为

A(z)D(z)y(r)=B(z)£)(z>(r)+以，)

设

>>(/)=。⑶y(/),uf(t)=D(z)u(t)

则有

A(z)力。)=B[z}uf(t'\+w(t)

由递推最小二乘法参数估计可得递推公式为

。⑺二。(/-1)+力⑺[力⑺—娟⑺。Q—1)]

7,・)_号(I)%⑺

L\t)—7

r1+令⑺4