【ch09】平稳过程与遍历理论初步_第1页
【ch09】平稳过程与遍历理论初步_第2页
【ch09】平稳过程与遍历理论初步_第3页
【ch09】平稳过程与遍历理论初步_第4页
【ch09】平稳过程与遍历理论初步_第5页
已阅读5页，还剩1页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

第九章平稳过程与遍历理论初步1.2.略3.4.略5.6.7.8.要证明对有限个元素的集合上的测度μ，其相对熵h(v,μ)对μ是连续的，我们可以利用相对熵的定义和连续性的性质进行证明。首先，对于两个概率分布p和q，它们的相对熵定义为：h(p,q)=Σp(x)log(p(x)/q(x))其中，Σ表示求和运算。这里我们将p和q分别替换为μ和v，得到相对熵为：h(v,μ)=Σv(x)log(v(x)/μ(x))现在，我们将证明相对熵h(v,μ)对μ是连续的。证明思路如下：首先，我们注意到相对熵是一个求和运算。对于有限个元素的集合上的测度μ和另一个测度ν，它们的相对熵可以表示为：h(v,μ)=Σv(x)log(v(x)/μ(x))我们可以将相对熵根据测度μ展开为：h(v,μ)=Σv(x)log(v(x))-Σv(x)log(μ(x))我们需要证明的是，当μ趋向于某个测度μ0时，相对熵h(v,μ)也趋向于相对熵h(v,μ0)。通过观察上述公式，我们可以发现相对熵的每一项都是关于μ(x)的连续函数。因为μ是一个测度，它可以视为一个分布函数。对于每个元素x，μ(x)在μ0附近是连续的。由于v是另一个概率分布，log(v(x))也是连续函数。根据连续函数的性质，我们知道在μ趋向于μ0时，每一项log(μ(x))都会连续地趋向于log(μ0(x))。因此，在μ趋向于μ0时，相对熵h(v,μ)的每一项都会连续地趋向于相对熵h(v,μ0)的每一项。因此，相对熵h(v,μ)对μ是连续的。综上所述，对于有限个元素的集合上的测度μ，其相对熵h(v,μ)对μ是连续的。9.略10.略11.略12.要证明一切不可约平稳马氏链都是遍历的（ergodic），我们需要分别证明马氏链是可约的（irreducible）和平稳的（stationary）。首先，证明马氏链是可约的。不可约性意味着从马氏链的任意状态i可以通过一系列转移概率到达另一个状态j。如果一个马氏链是可约的，则存在一个正整数n，使得在n步之后，从任意状态i可以到达状态j。这意味着从状态i出发，在有限步内可以到达状态j。根据可约性的定义，马氏链的所有状态都是可比的，从而是可约的。接下来，证明马氏链是平稳的。平稳性是指在马氏链中的任意时间步的状态分布与初始状态分布无关。假设状态空间为S，马氏链的转移概率矩阵为P，初始状态分布为π。如果对于任意的时间步n，都有πP^n=π，即初始状态分布与概率转移矩阵的n次幂的乘积等于初始状态分布本身，则称马氏链是平稳的。这意味着在马氏链的演化过程中，状态分布会趋于稳定，不再随时间变化。结合可约性和平稳性，我们可以得出结论：一切不可约平稳马氏链是遍历的。遍历性意味着马氏链的状态在长时间内会等概率地访问所有的状态。因为可约性保证了状态之间的可达性，而平稳性

人人文库> 全部分类> 教育资料 > 课件下载

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论