资源目录
压缩包内文档预览：
编号：10288720
类型：共享资源
大小：1.66MB
格式：RAR
上传时间：2018-07-14
上传人：hon****an
认证信息
个人认证
丁**（实名认证）
江苏
IP属地：江苏
2.4
积分
- 关 键 词：
-
系统
辨识
讲稿
- 资源描述：
-
系统辨识讲稿,系统,辨识,讲稿
- 内容简介：
-
系统辨识第 19 讲要点第 9 章 线性动态模型参数辨识Bayes 法9.1 Bayes 估计设总体的分布为 ，其中 为未知参数，问题是用观察到的),(xf样本 对参数 作出某种估计。以前我们所讨论的极大似然估计nX,1中，假设未知参数 只是简单的一个未知数，在抽取样本之前，我们对参数 没有任何了解，所有的信息完全来自样本。贝叶斯估计的思想： 把未知参数 看作是随机变量（或随机向量），且在抽样之前，对已有一定的知识（包括合理的猜想与准则），称其为先验知识。这种先验知识用 的某种概率分布表达出来，记为 。这种概率分布)(h叫做 的“先验分布”或“验前分布”。这个分布反映了在试验之前对未知参数 的所把握的信息 将原来含有参数 的样本 分布 定义为在给nX,1 ),(),(1nxff定 值时， 的条件分布。因而 的联合分布),(1nX X密度为： ),(),(1nxffh由此联合分布密度可得 的边缘分布密度为：X dffxpnn ),(),(),(11 我们可以得到在给定 的条件下， 的条件分布密度为：n,（A） dxffhxpffxgnnn ),(),(,)()(),(111 称（A）式为 的“后验分布密度” 。这个条件密度代表了我们现在（即在取得样本 后）对 的知识，它综合了 的先验信息nX,1 （ 所反映的信息）与由样本带来的信息。)(h 利用后验分布密度（A）作出对参数 的估计或检验。贝叶斯学派认为：在有了后验分布（A）后，对参数的估计，必须建立在这个后验分布的基础上推出，具体可结合使用者的某种要求（准则）来处理。比较常用的两种处理方法为：（a）若取后验分布（A）的（条件）均值作为参数 的估计，则称此为Bayes 条件期望估计；（b）若取 满足：后验分布（A）达最大的 的作为 ，称 为 Bayes 最大后验估计。例：设总体 ，其中 已知，而 为未知参数， 的先验),(2NX分布为 ，其中 为已知的常数， 为取自总体),(200 nX,1的简单样本，试求参数 的Bayes条件期望估计。X解：此时： 200)(exp21)(h2)(),(xf由（A）式可得： 21201 )()(1exp),( nkn xKxg其中 是一个与 无关，只与 有关的数，Knx,10记： ，将上式右端方括号中的式子化简为：nxnk1cnxnxnk 210202202120 1)()( 其中 是一个与 无关，只与 有关的数，故：c n,1 210202201exp),( nxnKxgn注意上式说明 是正态分布，且其（条件）期望为：),(1n 12020nx故参数 的Bayes 条件期望估计为 ：12020x可以写成： 0220)/()/( nxn注意：上面式子的解释。贝叶斯估计的性能分析：在 Bayes 估计中，更多的是以估计产生的效果（可以是性能方面，也可以是经济方面的）来衡量估计的优良性准则。损失函数：设 为参数 的一个估计量，称二元函数 为损),(L失函数。最常用的有两种： 和 。他们表2)(),L),(示若用 去估计 的效果越差，其损失函数就越大。注意：损失函数是一随机变量。风险函数：称 为估计量 的风险函数。它是评价估),(),(ER计量效果好坏的一个准则，风险小估计的效果越好。后验风险函数：给定样本 ，称：nX,1,),(),(11 nnXLEXr 为估计量 的后验风险函数。后验风险函数是估计量 的条件平均损失。由条件期望的性质，显然有： 。),(),(1nrR在 Bayes 统计中，如何从后验分布出发进而给出参数的估计呢？前面我们给了两种常用的方法，他们是从直观的定义出发来构造参数的估计量的。下面给出另一种基于从估计的效果出发提出适当的准则来寻求参数估计量的方法，即最小风险估计方法。定义：设 为参数 的一个估计量， 为损失，),(L为估计风险，若 为 的一个估计量，满足：对 的),(),(ELRb 任一估计 ，有： ),(),(Rb则称 为 的最小风险估计。我们通常把最小风险估计称为 Bayes 估计。b可以证明，后验风险最小估计等于风险最小估计。因此，上面定义的Bayes 估计就是后验风险最小估计。若取 ，则 Bayes 估2)(),L计为： ,1XEb例：设 ，其中参数 未知，简单样本为 ，取),1(pBXpnX,1的先验分布为 上的均匀分布，损失函数取 ，求p0 2)(),pL的 Bayes 估计。解：由于 与 的联合概率分布为：n,1 1,0,)(11 ppnkiki xx记： ，则后验分布为：nkx1 xnxn pnxg )()1(),(1因而：2)1(),(,1011 nxdpxpgxpEnnb 9.2 Bayes 参数辨识方法前面一节我们讨论了 Bayes 估计的基本原理和方法，下面考虑利用Bayes 参数估计方法对最小二乘模型参数的辨识问题。考虑如下最下二乘模型： )()()(11 kvuzBkzA式中 和 分别为过程的输入和输出变量， 是均值为零、)(ku)(z 方差为 的服从正态分布的白噪声序列， 和 为阶次分别为2v)(1A)(1zB和 的迟延算子多项式，即：anb banzzbzBaA 211)(令： , )(,)1()()(2121bann bakukk h则有： )()()(kvkzh记 表示 时刻以前的输入输出数据集合，则有)1(kD( ),()1()( kkDu利用 Bayes 公式： )(,),()(,(),( cbpacbpacbp )(,ca我们可得关于参数 的后验概率函数：（A）)()()( 1()()( kkkDzpDp设参数 在数据 条件下的验前概率分布是均值为 、协方差阵 )0(D)0(为 正态分布，即：)0(P )()(021exp)0(dt2) 1/0( - PPpN其中 。dimN由上一节的例子可知，参数 在数据 条件下的后验概率分布是正 )(kD态分布，其均值和协方差分别记为 和 ，于是有： )1()()1(2exp)1(dt2)(/1 kPkPDpNk - 由 及 ，我们有：,0vvkvzh，即：)()(2kzh 2221( )(1exph kzkzpvvk 将此两式代入（A） ，我们有：（B )1()()1(2)(21exp)( kkPkzCDvk -h ）其中： 与参数 无关，且： )1(det2)(1(/kPDkzpCvN下面以后验分布（B）为基础，进行 Bayes 估计。（1） Bayes 条件期望估计：由于： )1()()(1)(2 )1()()1(2)(1 1222 kPkzkPkkPkzvvv h- -h 其中： )()()(211vh化简上式有：（C ）)()()()21 kPIkPv由此我们可得 Bayes 条件期望估计为： )1()()()( 12)( kzDEkvk h 利用（C）式，我们可得： )()()(1)()2kzPkv h 令： ，则我们可得 Bayes 条件期望估计递推算法：1(2PkKvh)1()()( (1)1()()() 22kPKIkPkzvv hh此结果和 Markov 估计是一致的。（2） Bayes 最大后验估计对（B ）式两边取对数，我们有： )1()()(1 (2 )1)()1(2)(1)(log 1222 kPkzkPPconst kkPkzconstDpvvvk h- -h 利用（C ） ，将上式化简，有： )()(log1- constDpk
- 温馨提示:
1: 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
2: 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
3.本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
人人文库网所有资源均是用户自行上传分享，仅供网友学习交流，未经上传用户书面授权，请勿作他用。
川公网安备: 51019002004831号