马尔可夫过程及其应用.doc_第1页
马尔可夫过程及其应用.doc_第2页
马尔可夫过程及其应用.doc_第3页
马尔可夫过程及其应用.doc_第4页
全文预览已结束

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

马尔可夫过程出自 MBA智库百科(/)马尔可夫过程(Markov Process) 什么是马尔可夫过程 1、马尔可夫性(无后效性) 过程或(系统)在时刻t0所处的状态为已知的条件下,过程在时刻t t0所处状态的条件分布,与过程在时刻t0之前年处的状态无关的特性称为马尔可夫性或无后效性。 即:过程“将来”的情况与“过去”的情况是无关的。 2、马尔可夫过程的定义 具有马尔可夫性的随机过程称为马尔可夫过程。 用分布函数表述马尔可夫过程: 设I:随机过程X(t),tin T的状态空间,如果对时间t的任意n个数值: (注:X(tn)在条件X(ti) = xi下的条件分布函数) (注:X(tn)在条件X(tn 1) = xn 1下的条件分布函数) 或写成: 这时称过程具马尔可夫性或无后性,并称此过程为马尔可夫过程。 3、马尔可夫链的定义 时间和状态都是离散的马尔可夫过程称为马尔可夫链, 简记为。 编辑马尔可夫过程的概率分布 研究时间和状态都是离散的随机序列:,状态空间为 1、用分布律描述马尔可夫性 对任意的正整数n,r和,有: PXm + n = aj | Xm = ai,其中。 2、转移概率 称条件概率Pij(m,m + n) = PXm + n = aj | Xm = ai为马氏链在时刻m处于状态ai条件下,在时刻m+n转移到状态aj的转移概率。 说明:转移概率具胡特点: 。 由转移概率组成的矩阵称为马氏链的转移概率矩阵。它是随机矩阵。 3、平稳性 当转移概率Pij(m,m + n)只与i,j及时间间距n有关时,称转移概率具有平稳性。同时也称些链是齐次的或时齐的。 此时,记Pij(m,m + n) = Pij(n),Pij(n) = PXm + n = aj | Xm = ai(注:称为马氏链的n步转移概率) P(n) = (Pij(n)为n步转移概率矩阵。 特别的, 当 k=1 时, 一步转移概率:Pij = Pij(1) = PXm + 1 = aj | Xm = ai。 一步转移概率矩阵:P(1) 编辑马尔可夫过程的应用举例 设任意相继的两天中,雨天转晴天的概率为1/3,晴天转雨天的概率为1/2,任一天晴或雨是互为逆事件。以0表示晴天状态,以1表示雨天状态,Xn表示第n天状态(0或1)。试定出马氏链的一步转移概率矩阵。又已知5月1日为晴天,问5月3日为晴天,5月5日为雨天的概率各等于多少? 解:由于任一天晴或雨是互为逆事件且雨天转晴天的概率为1/3,晴天转雨天的概率为1/2,故一步转移概率和一步转移概率矩阵分别为: 故5月1日为

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论