资源目录
压缩包内文档预览：
编号：10288720
类型：共享资源
大小：1.66MB
格式：RAR
上传时间：2018-07-14
上传人：hon****an
认证信息
个人认证
丁**（实名认证）
江苏
IP属地：江苏
2.4
积分
- 关 键 词：
-
系统
辨识
讲稿
- 资源描述：
-
系统辨识讲稿,系统,辨识,讲稿
- 内容简介：
-
1系统辨识第 17 讲要点第 8 章 极大似然法和预报误差方法8.1 引言 方法：构造似然函数，通过极大化似然函数获得模型的参数估计 要求的先验知识：模型输出量的条件概率密度函数 优点：此方法所获得的参数估计具有良好的渐近性质 缺点：此方法的计算量较大 预报误差方法本质上是极大似然法的一种推广8.2 极大似然参数估计辨识方法8.2.1 极大似然原理设 是随机变量，已知条件概率密度函数 ，观测序列为z )(zp，记为向量形式 ，则 的联合Lk,21);( ,2),1LLzLz条件概率密度函数为 ，那么参数 的极大化似然估计就是使)(Lp的参数估计值。即有：max)(zLp或 0 zML)( 0 zMLp)(log给定一组数据 ，此时 只是 的函数，)(,2,1z 我们称为 的似然函数，记为 。因此极大似然原理可表示为：L（A）0 ML)(2或（B）0 zML)(log其中 称为对数似然函数。 称作极大似然参数估计值。)(logzL 物理意义：对一组确定的随机序列 ，设法找到参数估计值 ，使LzML 得随机变量 在 条件下的概率密度函数最大可能地逼近随机变量 在ML z（真值）条件下的概率密度函数，即有：0 )()(0max zpzpML 可以证明：（A）或（B）式是实现上式的条件。KullbackLeibler 信息测度：我们称 )(log)(log)(log),( 000 zpEzpEzpEI为 KullbackLeibler 信息测度。可以证明： ),(0I8.2.2 动态过程模型参数的极大似然估计考虑以下模型：（C）)()( )(1kvzDkekeuBA其中： 是均值为零，方差为 的服从正态分布的白噪声。令：)(kv2 nzdzdzbbBaa 211)(且假定过程是渐近稳定的，即 、 和 没有公共因子，且)(A)(1B)(1D和 的零点都位于 平面的单位圆内。)(1zA)(1D3 噪声模型已知的情形（ 已知）e将模型（C）写成最小二乘格式： LLHz其中： )()1()()1( 22)()0()0(,21)(,),(1 nLuunLzLzzzHbaeezLnnL 因为： 1kvdkvdken则有： )0(;1)(0 2nlorldjeElivj记噪声 的协方差阵为 ，则由 的正态性，可知：)(keLe(k),(eHNz因此，有： )()(21xp)(det)2( 121 zzz LeLLL Hp 对应的对数似然函数为： )()(21)log(det21)l(og)( 1zz LeLLLl 由极大似然原理可得：LeLeMLH 11)( （D）4并且 0 zMLl2)(因此（D）式给出了参数 的极大似然估计值。此时的 恰好是参数 ML 的 Markov 估计。如果 ，则Ie2LLMHz 1)(此时，参数 的极大似然估计和最小二乘估计是等价的。对噪声方差的极大似然估计： )()(12 MLLMLe zz对噪声方差的最小二乘估计： )()(dim2 LSLSe H 注意两者的区别。 噪声模型未知的情形（ 未知）e此时，令 , 212121 nnndba我们有： Lk kukzzpuLuLzzpuLz1 ),1(,)2,1(),)2(,)(0 ),1(,)2,1()(,)2,1()( , 根据考察的模型（C），有：5 ninini ikvdikubkzakz 111 )()()()(将此式代入到上式，我们有： ),1(,)2,1(),)2(,1),(,),(),(), kukzz ivdibiakvpLLLk ninini 由于当观测至 时刻时， 时刻以前的 、 和 都已经确z(定，且 与 及 无关，因此上式)(kv )(,),(),)(,u 可以写成： constkvtconstkvpLuLzzLLvvLkk 1222211 )(exp)()( ,1,1记： )(,)2,1(LuzzLu则有对数似然函数：（E）constkvpl LvL122111 )(log)2l( ,l,( z其中 满足：)(kv（F） ninini ikvdkubkzaz 111 )()()()(利用极大似然原理，由60),(21vvLluz得噪声方差 的极大似然估计：2vLkv122)(将此式代入（E），可得： constvLl kL 121 )(log),(uz再次利用极大似然原理，参数 的极大似然估计 必须使得： ML max),(1MLLl令：（G）kvV12)()(则这等价于使得（H）min)()(12MLLkM其中 满足（F）的约束条件。)(kv结论：在 未知的情形下，求模型（C）的参数的极大似然估计等价e于以下带有约束条件的优化问题：优化的目标函数为（G），约束条件为（F）。同时噪声方差 的极大似然估计值为 。2v)(MLV（1） Lagrangian 乘子法：根据以上得到的结论，求解带有约束条件的优化问题。引入Lagrangian 乘子 ，构造 Lagrangian 函数：Lnnk,2,1),(7nkinkiLkkiLk zazubvdv1112 )()()(由此，上述优化问题转化为 Lagrangian 函数 对 、 和 的求Lv)(k最小值问题。第一步：取 Lnnj ijdjjvvLniM,21 0)()(1)()( 1并令： nj,2,0)(得到下面的方程组：（I） nLjjvvijdni ,21,0)( ,)(1第二步：就 Lagrangian 函数 对 求导，并令其为零，得：)(Lk（J） ninini ikubzakzidk 111 )()()(因此，当给定 和 的初始值 及输入输出数据，ML v,2(,vv则由（J）可以计算得到 ，再利用)(),Ln由（I）式可以计算得到)(,2(),1nv。由于 和 与 有关，对 不能以线性kk(v 的形式进行估计，因此必须对8nj jkvLdubjkzaLnkMLkj nkMj,21)()()1)()(1 进行搜索，方可求得 ，使得 。L mi)(L具体的搜索过程参见 P238。（2） NewtonRaphson 法注意： NewtonRaphson 法求解以上优化问题，本质上是一种递推算法，每得到 L 次观测数据递推一次的算法。优化问题见上面。设 是利用第 批输入输出数据 N )(,kzu，所求得的极大似然估计值，它使得),1)(NkNLkvV1)(2)(或 NLkNvJ1)(2)(达到最小。当我们进一步获得一批新的输入输出数据 )(,kzu，由此可以求得 ，使得)1(,(LNLk 1N（K）LkNvJ)(21)达到最小。根据 NewtonRaphson 原理，我们有：9（P）NNNJS 111 )(其中 为 Hessian 矩阵。21)( NJS将（K）式写成递推形式，即： )1(2)1,(),(1 LvkJkJNN 则可以求得： LNkLNkvkvJ N)1( )1(1 )(2, ),),( 及 22121 )1
- 温馨提示:
1: 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
2: 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
3.本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
人人文库网所有资源均是用户自行上传分享，仅供网友学习交流，未经上传用户书面授权，请勿作他用。
川公网安备: 51019002004831号