（系统工程专业论文）渐近循环马氏链的强极限定理.pdf

江 苏大学硕士学位论文 摘要 概率论是有着广泛应用的一门学科，足许多应用学科的理论基 础。强极限定理一直以来是概率论研究的- - 心问题之一，其中许多 相关领域有着极为广阔的应用背景。马尔科夫过程足一类重要的随 机过程，它有极为深厚的理论基础，又有广泛的应用空间。马尔科 夫链的极限理论是马尔科夫过程研究的基本领域之一。有关齐次马 氏链的极限理论已有了相当成熟的结果，并形成了完整的理论体系。 关于非齐次马氏链的极限理论的研究，人们一直在陆续进行中。近 年来，许多学者在非齐次马氏链的极限理论上做了大量的研究，并 取得了许多成果，如杨卫国、刘文等对非齐次马氏链的极限定理的 研究。考虑到在实际应用中，非齐次马氏链的转移矩阵足渐近循环 的情形经常出现，所以渐近循环马氏链强极限定理的研究具有非常 重要的理论意义和实践意义。本文主要研究实际生活中更为常见的 一类非齐次马氏链一渐近循环马氏链的强大数定律及渐近循环马氏 链的渐近均分割性。 本文首先引进了渐近循环马氏链的概念，然后利用非齐次马氏 链二元函数的极限性质，得到了渐近循环马氏链关于状态出现频率 的强极限定理，然后得到了渐近循环马氏链关于状态出现频率的强 大数定律，最后研究了渐近循环马氏链的渐近均分割性，为渐近循 环马氏链在实际生活中的应用提供了理论依据。 关键词：渐近循环马氏链；状态出现频率；强大数定律；熵密度； 遍历；不可约；渐近均分割性 江苏大学硕士学位论文 a b s t r a c t p r o b a b i l i t yt h e o r yi s aw i d e l y a p p l i c a b l ed i s c i p l i n e i t i st h ef r a m e w o r k f o u n d a t i o n so fm a n ya p p l y i n gs u b j e c t s t h es t r o n gl i m i tt h e o r e mi so n eo ft h ec e n t r a l q u e s t i o n sf o rs t u d y i n gp r o b a b i l i t y m a r k o vp r o c e s s i sa ni m p o r t a n ts t o c h a s t i cp r o c e s s i th a sp r o f o u n dt h e o r e t i c a lf u n d a m e n ta n de x t e n s i v ea p p l i e da r e a t h el i m i tt h e o r y f o rm a r k o vc h a i n si so n eo ft h eb a s i ca r e a so nm a r k o vp r o c e s s e s r e s e a r c h f o rt h e l i m i tt h e o r yf o rh o m o g e n e o u sm a r k o vc h a i n s ，m a n yr e s u l t sh a v eb e e no b t a i n e d ， w h i c ha r em a t u r ee n o u g ht of o r mac o m p l e t et h e o r e t i c a ls y s t e m f o rt h el i m i tt h e o r y f o rn o n h o m o g e n e o u sm a r k o vc h a i n s ，r e s e a r c h e r sh a v ed o n em u c hw o r ki nr e c e n t y e a r s ，s u c ha sy a n ga n dl i u sw o r ko nt h el i m i tt h e o r e m sf o rn o n h o m o g e n e o u s m a r k o vc h a i n s s i n c et h ec a s et h a tt h et r a n s i t i o nm a t r i c e so fn o n h o m o g e n e o u s m a r k o vc h a i n sa r ea s y m p t o t i cc i r c u l a ro f t e na p p e a r si np r a c t i c a lu s e ，t h er e s e a r c ho n t h es t r o n gl i m i tt h e o r e m sf o ra s y m p t o t i cc i r c u l a rm a r k o vc h a i n sh a sg r e a tt h e o r e t i c a l a n dp r a c t i c a ls i g n i f i c a n c e s t h ep u r p o s eo ft h i sp a p e ri st os t u d yt h es t r o n gl a wo f l a r g e n u m b e r sf o r a s y m p t o t i c c i r c u l a rm a r k o vc h a i n sa n dt h e a s y m p t o t i c e q u i p a r t i t i o np r o p e r t yf o ra s y m p t o t i cc i r c u l a r m a r k o vc h a i n s ，w h i c hi sam o r e c o m m o nc a s eo fn o n h o m o g e n e o u sm a r k o vc h a i n si nr e a ll i f e i nt h i sp a p e r , w ef i r s ti n t r o d u c et h ed e f i n i t i o no fa s y m p t o t i cc i r c u l a rm a r k o v c h a i n s t h e nb ya p p l y i n gt h el i m i tp r o p e r t yf o rd u a lf u n c t i o n so fn o n h o m o g e n e o u s m a r k o vc h a i n s ，t h es t r o n gl i m i tt h e o r e mo nt h ef r e q u e n c i e so fo c c u r r e n c eo fs t a t e s f o ra s y m p t o t i cc i r c u l a rm a r k o vc h a i n si se s t a b l i s h e d ，a n dt h es t r o n gl a wo fl a r g e n u m b e r so nt h ef r e q u e n c i e so fo c c u r r e n c eo fs t a t e sf o ra s y m p t o t i cc i r c u l a rm a r k o v c h a i n si so b t a i n e d f i n a l l yw eg i v et h ea s y m p t o t i ce q u i p a r t i t i o np r o p e r t yf o r a s y m p t o t i c c i r c u l a rm a r k o vc h a i n s t h e s eo f f e rat h e o r e t i c a lb a s i s f o rt h e a p p l i c a t i o n so fa s y m p t o t i cc i r c u l a rm a r k o vc h a i n si nr e a ll i f e k e y w o r d s ：a s y m p t o t i cc i r c u l a rm a r k o vc h a i n s ；o c c u r r e df r e q u e n c yo fs t a t e s ； s t r o n gl a wo fl a r g en u m b e r s ；e n t r o p yd e n s i t y ；s t r o n ge r g o d i c ； i r r e d u c i b l e ；a s y m p t o t i ce q u i p a r t i t i o np r o p e r t y 学位论文版权使用授权书 本学位论文作者完全了解学校有关保留、使用学位论文的规定，同意学 位保留并向国家有关部门或机构送交论文的复印件和电子版，允许论文被查 阅和借阅。本人授权江苏大学可以将本学位论文的全部内容或部分内容编入 有关数据库进行检索，可以采用影印、缩印或扫描等复制手段保存和汇编本 学位论文。 本学位论文属于 保密口，在年解密后适用本授权书。 不保密口。 学位论文作者签名：名声葶等 2 0 0 9 年，猬2 口日 指导教师签名： 2 明年2 月2 口日 面聊 独创性声明 本人郑重声明：所呈交的学位论文，是本人在导师的指导下，独 立进行研究工作所取得的成果。除文中已注明引用的内容以外，本论 文不包含任何其他个人或集体已经发表或撰写过的作品成果。对本文 的研究做出重要贡献的个人和集体，均已在文中以明确方式标明。本 人完全意识到本声明的法律结果由本人承担。 学位论文作者签名：乞声僻 日期：2 0 0 9 年7 2 月2 0 日 江苏大学硕士学位论文 第一章绪论 马尔可夫过程是一类重要的随机过程，它有着极为深厚的理论基础，如拓扑 学、函数论、泛函分析、近世代数和几何学，又有着广泛的应用空间，如物理、 化学、生物、天文、计算机、通信、经济管理等众多领域。正由于马尔可夫过程 在物理学、生物科学、信息理论、自动控制、工程技术及数值计算等方面起到的 异乎寻常的作用，使得人们越来越重视马尔可夫过程的理论及其应用的研究。有 关齐次马氏链的研究，已经形成了较完整的理论体系；关于非齐次马氏链的研究， 人们一直在陆续进行中。在概率论的发展史上，强极限理论的研究一直占有很重 要的地位。概率论是研究大量随机现象的规律的，所谓“大量”，从数学角度来 讲，就是当对随机现象的观测次数趋向无穷时，它的“极限呈现出来的某种规 律性。因此，强极限定理在概率论中有着极其重要的地位。前苏联数学家 k o l m o g o r o v 和格涅坚科曾说过，“概率论的认识论的价值只有通过极限定理才能 被揭示，没有极限定理就不可能去理解概率论的基本概念的真正含义 。概率论 的真正历史开始于b e m o u l l i j ( 假设的艺术，1 7 1 3 年) 的大数定律。从那时起 概率论的研究中心之一就是“极限理论。所以对马氏链的极限性质的研究是一 个比较传统的课题，历年来一直成为诸多学者研究的热点。近些年来，刘文和杨 卫国在概率论极限定理方面做了大量的研究工作，尤其是对非齐次马氏链性质的 研究取得了大量突出的成果( 文1 6 1 一文 2 0 1 ) ，这些成果使得大家对非齐次马氏 链的性质有了更进一步的认识，并且日趋完善。 1 1 研究背景 1 1 1 马尔可夫链的直观背景 马尔可夫链( 简称马氏链) 是一种特殊的随机过程。自1 9 0 7 年苏联数学家 a a m a r k o v 弓i 出马尔可夫链概念以来，人们对马尔可夫链的研究可以说盛久不 衰。如研究有限或可数马尔可夫链【1 _ 3 1 ，研究马尔可夫链及随机稳定性【4 1 ，研究 马尔可夫链的基础及应用 s - 6 l ，以及对马尔可夫链基础知识的研究 7 - 1 1 1 。它的直 江苏大学硕士学位论文 观背景如f 设想有一个随机运动的体系( 例如运动着的质点等) ，它可能处的状态( 或 位置) 记为s o ，墨，鼠，总数共有可列多个或有穷个，这体系只可能在时刻 t = 1 ，2 ，n ，上改变它的状态。随着的运动过程，定义一列随机变量 x 。，n = o ，1 2 ，其中 x 。= 七，如在，= ，z 时，位于 一般地， x 。，n o ) 未必是相互独立的。 实际中常常碰到具有下列性质的运动体系，如果已知它在t = , 时的状态， 则关于它在刀时以前所处的状态的补充知识，对预言在, 时以后所处的状态不 起任何作用。或者说，在已知“现在”的条件下，“将来 与“过去 是独立的。 这种性质，就是直观意义上的“马尔可夫性 ( 简称“马氏性 ) ，或称“无后 效性 。具有这种特性的随机过程称为马尔可夫过程，简称马氏过程。若马尔可 夫过程弘( f ) ，t r ) 的状态空间s 为尺中的可列集，则称i x ( t ) ，t z ) 为马尔可夫 链。若t 为可列离散集，则称弘( f ) ，t z ) 为离散参数马尔可夫链；若r 为连续的， 则称【x ( f ) ，t 丁) 为连续参数马尔可夫链。 为了更加形象的了解马尔科夫链，我们在此举一个马尔科夫链的例子。 ( 分支过程) 为了定量地描写粒子在核反应中不断分裂的过程，不妨假设初 始恰有一个粒子，记作凰= 1 ，经过一次核反应后，分裂产生出第一代粒子，其 个数记作墨，显然墨是一随机变量，其分布记为 p f = p = f ) ，f = 0 ，1 。 ( 1 1 1 ) 除非墨= 0 ，否则第一代的每个粒子再经过一次核反应后，都将以同样的概率分 布( 1 1 1 ) 分裂产生出第二代粒子，而且假定第一代中的各个粒子分裂与否或分 裂出多少粒子都是相互独立的。如果确知第一代的粒子数为k ，这k 个粒子各 自分裂产生第二代的粒子数分别依次记为k ，e ，砭，那么x ，e ，砭便是k 个 相互独立的具有相同分布( 1 1 1 ) 的随机变量，而且第二代粒子的总数为 2 江苏大学硕士学位论文 x ：= k + + k = x + + k ，如此经过多次核反应多次分裂，一般地第n + 1 代粒 工。 子总数应是以+ ，= k + + k = 匕，厅= o ，1 ，。一旦知道了以的确切取值，不 j - 1 论过去历代裂变粒子数目：x o ，墨，x 。 的演变情况如何，下一代粒子总数石。钉 的分布完全由目前这一代粒子总数x 。所决定，因此随机序列 e ，万= o ，1 ) 具有 马氏性，又因为从一代裂变到下一代粒子都遵循着同样的统计规律，即佤，k ，) 是独立同分布的，于是 x 。，咒= o ，1 ，) 是齐次马氏链。 1 1 2 马尔可夫链强极限问题的研究进展 在实践中所遇到的马尔可夫随机系统，它的转移概率矩阵常常是随时间而异 的，为了更加如实的描述客观现象，获得更逼真的结果，必然导致非齐次情形的 研究，这便大大地增加了研究对象的复杂程度与解决问题的难度，因此与齐次马 氏链已取得的丰硕且深刻的成果相比，显得相当不足，故非齐次马氏链至今仍是 有待深入研究的重要论题。 在马氏链强极限理论的研究领域中，马氏链的强大数定律一直是饶有趣味 并富有意义的课题。大数定律是阐明大量随机现象平均结果的稳定性的理论，是 概率论中的主要内容之一。由于其在理论与实践中有着广泛的应用和重要意义， 受到诸多学者的关注，如文【8 】，【9 】中讨论了强大数定律在数理统计、数论、古典 分析中的应用，c h u n gk l 、叶中行等讨论了强大数定律在信息论中的应用。 关于非齐次马氏链的强大数定律己有不少研究。朱成熹、刘国欣等人研究了 可列非齐次马氏链一元函数的强大数定律【1 2 小】；九十年代初，刘文、杨卫国研 究了可列非齐次马氏链状态和状态序偶出现频率的强大数定律 1 5 q s l ；刘文、杨 卫国还研究了有限马氏链的相对熵密度和随机条件熵的一类极限定理；之后他们 又研究了有限非齐次马氏链的渐进均分割性。近几年来，刘文、杨卫国将分析方 法巧妙地引入到树上马氏链场极限定理的研究，得出齐次树图上马氏链场具有 口e 收敛意义的强大数定律和s h a n n o n - m c i l l a n 定理1 2 1 - 2 3 j 。此外，隐马尔可夫 模型的强大数定律也已有不少研究，如杨卫国、吴小太研究了有限状态下隐非齐 3 江苏大学硕士学位论文 次马氏链的强大数定律。在随机环境中，人们也研究了马氏链的强大数定律，如李 炜、郭先平研究了随机环境中马氏链的强大数定律；郭明乐也研究了随机环境中 马氏链的强大数定律等。 在实际应用中，非齐次马氏链的转移矩阵是渐近循环的情形经常出现，所以 渐近循环马氏链强极限定理的研究具有非常重要的理论意义和实践意义。本文主 要研究渐近循环马氏链的强大数定律和关于渐近循环马氏链的渐进均分割性。 1 2 本文的研究方法和主要解决的问题 本论文共分五章，第一章为绪论，第二章为预备知识，介绍一些与本论文相 关的基本概念及相关性质。第三章研究渐近循环马氏链的强大数定律。首先引进 了渐近循环马氏链的概念，然后利用非齐次马氏链二元函数的极限性质，得到了 渐近循环马氏链关于状态出现频率的强极限定理，最后得到了渐近循环马氏链 关于状态出现频率的强大数定律，作为推论得到了循环马氏链关于状态出现频率 的强大数定律。第四章进一步研究了渐近循环马氏链的渐近均分割性。第五章为 结束语。 4 江苏大学硕士学位论文 第二章基本理论与概念 2 1 鞅的定义及基本概念 为了引进鞅的概念，首先给出条件期望的概念和性质。 2 1 1 条件期望的定义和性质 涉及的问题都将固定在完备的概率空间( q ，多，p ) 上进行。 1 条件期望的定义 定义2 。1 1 ( 见文 7 p 1 4 5 ) 设国为多的子盯一域，石为( 准) 可积随机变量， y 为满足下列条件的随机变量： ( i ) y 为国可测的； ( i i ) 对每一个召毋，p 卯= p 御， 则称】，为x 关于国的条件期望，记为y = e ( x i a a ) 。特别地，当国= 仃( z ) 时，也 称y 为x 关于z 的条件期望，记为e 悸i z ) 。 注2 1 1 ：e ( xl z ) 是盯( z ) 可测的。 2 条件期望的性质： 以下观墨，琏等都是多的子d r 一域。 引理2 1 1 ( 见文1 7 p 1 4 6 ) ( i ) - 若x ，y 为可积随机变量，口，为任意常数，则 e ( a x + i 国) = a e ( x i 国) + f i e i 国) a s ( 2 1 1 ) ( i i ) e ( 15 b ) = 1 a s ( 2 1 2 ) ( i i i ) 若x y ，则e ( x 1 国) e ( y l 国) a s ( 2 1 3 ) 特别地，当x o 时，e ( xi 国) 0 。 e j i t 里2 1 2 ( 见文 7 p 1 4 7 ) 设y 为可积随机变量， 以，胛l 为随机变量序 列，则 s 江苏大学硕 士学位论 文 ( i ) ( 条件期望的l e v i 引理) 若l ，z 。l x ，则 l i 。m e ( xi 国) = e ( xl 岛j ) a s ( 2 1 4 ) 若y x 。j ，x ，则( 2 1 4 ) 式也成立。 ( i i ) ( 条件期望的f a t o u 引理) 若x 。y ，则 e ( 1 i m i n fx 。i 毋) l i m i n fe ( x 。l 国)( 2 1 5 ) 若x 。y ，则 e ( 1 i m s u p x 。l 国) ) ，则称 瓦，乏，n 0 ) 为上( 下) 鞅。 引理2 1 4 ( 见文 7 p 1 5 9 ) ( i ) 对于鞅，有以。= 肠。；对于上( 下) 鞅，有 e x 。( ) 麟o ； ( i i ) j 。) 为上鞅的充要条件是 0 。 为下鞅； ( i i i ) x n ) 为鞅的充要条件是 x 。) 既为上鞅又为下鞅； ( i i i i ) _ k ( 下) 鞅为鞅的充要条件是麟。= e x o ，v n ，a s 2 1 3 鞅差序列的定义和性质 定义2 1 4 ( 见文 7 p 16 0 ) 设 e ，乏，靠o ) 为随机适应序列，如果 ( 匕h 悔) = oa s ，则称 k ，焉，n o ) 为鞅差序列。 引理2 1 5 ( 见文 7 p 16 0 ) 如果 k ，乏，疗o ) 为鞅差序列， 则 仁。= 善k ，焉，万q 为鞅； 反之， 设 x 。，鼋，厅o ) 为鞅， 令 e = x 。一x 纠o 1 ) ，r o = 凰，则 k ，焉，聆o ) 为鞅差序列a 7 江苏大学硕士学位论文 2 1 4 鞅基本收敛定理 引理2 1 6 ( 见文 7 p 1 7 0 ) ( d o o b 鞅收敛定理) 设x = x 。，n 田为下鞅，若 s u p e x 。+ 0 ，总有 p ( x 。h = + l l x 。= i o ，五= ，j 0 = ) = e ( x 。h = + 。i x 。= )( 2 2 1 ) 成立，则称x 为离散参数的马尔可夫链。若s 为可列集或有限集，则称x 分别 依次为离散参数的马尔可夫链和有限马尔可夫链。 下面我们给出马氏链的等价性质( 见文 5 p 2 - 6 ) ： 设x = x 。，n = o 工，是定义在概率空间( q ，f ，p ) 上的随机序列，x 的状态 空间s 是可列集或有限集，则下列陈述互相等价： ( i ) x 是离散参数的马氏链，即式( 2 2 1 ) 成立。 ( ii ) 对任何正整数”，任何非负整数列：0 t o t l o ，下面不再一一说明。 ( i i i ) 对任何正整数行及任何f o ，he s ，恒有 p = i o ，墨= ，以“= + 。) = e ( x 。= 毛) p ( 墨= i 五乙= 乇) e ( x 。h = 屯h i x 。= )( 2 2 3 ) ( i v ) 对任何正整数刀，任何非负整数列：0 气 f 1 t 。+ l 以及任何i o ，i 1 ，”， 屯+ 1 s ，恒有 p 呼b = o ，x 。= ，= ，h = t h ) = 尸( 民= 乇) 尸( 一= l 氐= 乇) j p ( _ “= + ，l 五= 乇) = z ；心e ( x o2 f 妒( 五2 z o l x o2 f ) j p ( 置。= + - l _ 2 屯) ( 2 2 4 ) ( v ) 对任何正整数聆、m ，任何非负整数列0 t o f 1 t 。 t 州 f 。协以 及任何i 。，i l ，”，i 。，i 。+ l ，i 。+ 。s ，恒有 尸( h = 小，。= t + 。 ：p ix t 、 i l + i i k = f o ， = “，。= + ，i = ) = ， = 1 ( 2 2 5 ) ( v i ) 对任何正整数n 、聊，任何非负整数列0 t o t l 厶“ f 。+ 辨以 及任何f o ，i 。，屯h ，l + 。s ，恒有 p ( 饩= f o ，五q = q ，h = ，。= + 。i 五= 1 = p ( x , o = 乇，一。= 一l l - = ) 尸( - 。= + ，_ 。= 乇+ 。i 五= ) ( 2 2 6 ) ( v i i ) 对任何正整数n 、m ，任何非负整数列0 t o t 。 t 。+ 1 f 。协 以及任何f o ，i l ，“，i 。，i 。+ 1 ，i s ，恒有 尸( 五= i d ，q = o i = ，h = + 1 ，一，。= + 。) 9 江苏大学硕士学位论文 = p ( 扎= o ，q = t 一。l = t ) ( 2 2 7 ) ( v i i i ) 对任何正整数珂以及任何f s ，i 已f x i ，0 七n - 1 是由x o ，x 。- 1 生 成的最小盯一代数，即包含q 及一切形如【缈：x t ( 缈) = j , o k n - 1 , j s ) 的 c o 集，并对取余及可列并运算封闭的最小集类，y i e f ( x 。，k n + 1 ) 是由 工州，x 棚， 生成的最小盯一代数，则对任何 a f ( x i ，0 k n - 1 ) ，b f ( x t ，k 咒+ 1 ) ，恒有 p ( ba ，以= f ) = 尸( b l 以= ，) ( 2 2 8 ) ( i x )对任何正整数 刀 ，任何fs以及任何 a f ( x t ，0 k n - 1 ) ，b f ( x t ，k n + 1 ) ，恒有 p ( a 8x o = f ) = p ( 么i 以= f ) 尸( b i 鼍= f ) ( 2 2 9 ) ( x )对任何正整数 聆 ，任何fs以及任何 a f ( x i ，0 k n - 1 ) ，b f c y t ，k 厅+ 1 ) ，恒有 尸( 彳i 墨= f ，b ) = p ( 彳l 以= f ) ( 2 2 1 0 ) 注2 2 1 在上述等价性质中，除了定义形式( ii i ) 与( i v ) 是用随机序列的 有限维联合分布来表述的之外，其它定义形式都是通过条件概率来刻画马氏性 的，尽管这十种定义从表面形式上来看有强有弱，但是实际上都是等价的，具体 使用时，应当针对不同的场合选择适宜的定义形式。 注2 2 2 由马氏链定义及等价定义的( i i ) ，( v ) ，( v i i i ) 知，在已知x 。= f 的条件下，系统过去的历史与它的下一步是独立的，及对它的将来的任何转移都 是独立的。 注2 2 3 定义形式( v i ) 与( i x ) 具有对称性，由等价定义的( v i i ) ，( x ) 知， 如果随机序列 x 。，x ，x 。，x 州，是马氏链，那么 ，x 槲，x 。，x 。，x o 仍 是马氏链。 定义2 2 2 ( 见文 5 p 6 ) 设x = x 。，n = 0 ，1 ，是马氏链，其状态空间s 不 妨取为 1 , 2 ，) 或 1 ，2 ，n ) ，x 在时刻n 处于状态f 的条件下，经过m 步转移， 1 n 江苏大学硕士学位论文 在时刻刀+ 聊到达状态j 的条件概率p ( x 。+ m = j i x 。= f ) 称为x 的m 步转移概率， 记为 p a n ，n + m ) 或。岛舢、 。p ”= ( 。既”) 称为x 的m 步转移概率矩阵列。 m = l 时，。鳓m 、。p o ) 分别记为岛a ，j ) 、，则称 以( f ，歹) ，刀1 ) 为马氏链 弘。，n 田的一步转移概率，简称转移概率。若随着刀的变化e 也变化，则称 弘。，n 吣为非齐次马氏链， 只，n 1 ) 为其一步转移概率矩阵列，简称转移概率 矩阵列；若随着玎的变化只不变化，恒为p ，则称弘。，n 吣为齐次马氏链，p 为其一步转移概率矩阵，简称转移概率矩阵。 定义2 2 3 ( 见文1 5 p 4 9 ) 设石= 留。，n = o 工) 是状态空间为s 、一步转移 概率矩阵为 既 的齐次马氏链，如果有一概率分布k ，f s ) 满足 万，= 乃p ，j s ( 2 2 1 1 ) i e s 则称 万；，f s ) 是x 的一个平稳分布。 定义2 2 4 ( 见文 5 p 1 0 1 ) 设a 是nx n 随机矩阵，如果a 的各行均相同， 则称q 是稳定的，也q 称为常数随机矩阵。 定义2 2 5 ( 见文 5 p 3 3 ) 设x = 弘。，n = 0 ，1 ， 是马氏链，如果除整个空 间外，没有别的闭集，则称该马氏链是不可约的。有时，也称其转移矩阵是不可 约的。 我们下面给出有限非齐次马氏链各种遍历性的定义： 定义2 2 6 ( 见文 5 p 1 0 4 ) 称有限马氏链 只，n q 是( 在柯尔莫哥洛夫意 义下) 弱遍历的，当且仅当 l i m im ( ，竹，m + 厅) 一p 雄( ，卵，m + ，1 ) l = 0 ( 2 2 1 2 ) 一l 。 j 对任何m = o ，1 ，以及任何i ，j ，k s 都成立。 定义2 2 7 ( 见文 5 p 1 1 2 ) 称有限马氏链【只，n q 是强遍历的，当且仅当 江 苏大学硕 士学位论文 对所有肌= 0 ，1 ，以及任何f ，j s ，存在极限。l i + m 。毋( 所，聊+ 胛) ，而且它不依赖 于l s ，记为万j ( m ) ，即 ! i m p ( m ，聊+ ，2 ) 2 乃( 朋) f ，_ s ，m = o ，” ( 2 2 1 3 ) 在此我们给出后续章节定理证明经常要用到的有关马氏链的一些性质。 性质2 2 1 ( 见文 5 p 6 )对任何正整数m ，z 及非负整数n ，马氏链的转移概 率矩阵。p 删，。p ，。+ 。p n ，满足下列方程： 。p ( m + o = 。p ( 。+ 。p 7 ( 2 2 1 4 ) 即 。矽“) _ 。以硝 f ， e s ( 2 2 1 5 ) 量s 称式( 2 2 1 4 ) 或式( 2 2 1 5 ) 为切普曼一柯尔莫哥洛夫方程，简称nc k 方程。 设弘。，万0 ) 是定义在s = 1 ，2 ，n ) 上的非齐次马氏链，其转移矩阵列为 假= ( 见( f ，助n x n 厅- - - 1 1 ，其中 p 。o ，j ) = p ( x 。= j l x 。d = f ) f ，j s ，t l 1 ( 2 2 1 6 ) 记 m = 己+ 。己+ ：( 2 2 1 7 ) 若马氏链是齐次的，则 只，以1 ) 简记为p ，f “卅“简记为p “。 性质2 2 2 设q 为n x n 的常数随机矩阵，p 为任一随机矩阵，其 中n = l 2 ，则 p q = a 证明：令 a = o ia 2 q 口2 q 口2 p = 1 2 p 1 1p n a p 2 1p 2 2 p 2 p np 吨p 。 一 口 口 口 江苏大学硕士学位论文 则定理得证。 则 e l le 1 2 n 。 办1p 2 2 见。 q 口2 q 口2 a 以1 见2 八口l 口2 a 。 一 口1 n j j = l 口。a j - 1 口2 a ， j = l 口2 e p , ， = l 再 a n j = 1 a l p l a 2 a ，a n - 1j = lj = l 性质2 2 3 随机矩阵的乘积仍为随机矩阵。 a a h a n = q 证明：不妨只证a 、刀为门n f f ：意随机矩阵，a b 仍为随机矩阵。令 a = a l la 1 2 口l 口2 1a 2 2 口2 n a 1a 2 口m a 曰= n一 岛，岛：九 。k 吃。 吃，吃：6 肼 口“红。a u b i ： a b 的第k 行( 1 k n ) 行和为 口矗= j = li = 1 i = 1 i = l 冉 e a 复b i ：玩 z a 矗( ) 】 i = l j = l 则仰为随机矩阵。定理得证。 i = l 玩 i = l 得可以 0 ，对所有的f ，| s ，使得( 2 3 8 ) 成立； 则 掣肋喜静 鹏 护刊= 。v 淄； 下面的极限存在： l i m ( 1 n ) s , , ( i ，g o ) = 只a e ，v i s ( 2 3 1 3 ) ( 2 3 1 4 ) 江苏大学硕士学位论文 l i m e ( = p i g ( i ) n_=- ( 2 3 1 5 ) 定理2 3 4 设 x 。，n o ) 是以( 2 3 3 ) 为初始分布，( 2 3 4 ) 为转移矩阵列的 非齐次马氏链，设g ( x ) 是定义在区间( 0 ，1 】上的一个连续函数，且满足 ，l 州i mx g ( x ) = a ( f i n i t e ) ( 2 3 1 6 ) 设p 是一个遍历转移矩阵，( 1 ) 1 ，肌) 是由p 确定的平稳分布。令 c ( 缈) = ( 1 船) g p k ( x k d ，置) 】 ( 2 3 1 7 ) 如果 ( a ) 存在口 0 ，使得 l i m s u p ( 1 行) 皇9 2 仇( f ，j ) p k ( i ，咖咖f ) 】| o ，使 e 最( 瓦q ，噩) i t l 0 ，有 熙( 1 扩1 言 五( 也一- ，置) 一砸以( 也小x k ) x k 一， ) = 。a e ( 2 3 2 4 ) 推论2 3 1 设 x 。，刀o ) 是如前定义的一个非齐次马氏信源，( x ，y ) 是定 义在sx s 上的任意一个函数。则 舰( ，肋啦竹) 喜 ( 鼍p 以) 一芸厂( 五巾，) 鼽( 五，) = 。a e ( 2 a 2 s ) 推论2 3 2 设 x 。，咒o ) 是如前定义的一个非齐次马氏信源，j s ，设 鼠( j ，咖是序列石。( 缈) ，墨( 缈) ，石。q ( 国) 中，出现的次数，即 则 s 。( j ，功= 4 僻。( 缈) ) 舰( 桫2 1 卜捌一喜仇( d - 0 a e ( 2 3 叨 推论2 3 3 设 x 。，以o ) 是如前定义的一个非齐次马氏信源，i ，_ s ，设 邑( f ，j ，叫是序偶序列( x o ，x 1 ) ，( 置，彳：) ，a 。4 ，邑) 中( f ，歹) 出现的次数，即 则 鼠( f ，j ，0 - 9 = 谚q 鹚( 五)( 2 3 2 8 ) ! 骢( 1 2 竹) 最( “，缈) 一喜点( 鼍q ) 见( “) = 。a e ( 2 3 2 9 ) 推论2 3 4 设 x 。，l o ) 是如前定义的一个非齐次马氏信源，则 熙c肪l2，窆-。g既ck4，以，一否nk=l仇c 置q ，川。g 见c 置。棚) = 。a e ( 2 3 3 0 ) i，：1 定理2 3 7 设 x 。，n o ) 是以( 2 3 3 ) 为初始分布，( 2 3 4 ) 为转移矩阵列的非 1 7 江苏大学硕士学位论 丈 齐次马氏信源，( c o ) ，s 。( f ，c o ) 和s 。( f ，j ，缈) 如前定义，设p = ( p ( i ，助是另一个 转移矩阵，且j p 是不可约的。如果 则有 慨丢喜沪p ( f ，圳_ 0 ，v “ ( 2 3 3 1 ) ( i ) l i m 盟丝：乃 a e ( i i ) l i m 刿：巧p ( 旧a e ( i i i ) l i mf 一( 妒一善曩否p ( “) 1 。g p ( “) 1 8 购 卿 讲 _ 王 孙 陬 以 g 江苏大学硕士学位论文 第三章渐近循环马氏链的强极限定理 大数定律是阐明大量随机现象平均结果的稳定性的理论，是概率论中的主要 内容之一。由于其有着广泛的应用，受到诸多学者的关注。文 8 】，【9 】9 中讨论了 强大数定律在数理统计、数论、古典分析中的应用，c h u n gkl 、叶中行等讨论 了强大数定律在信息论中的应用。近几年来，刘文、杨卫国对马氏链的强大数定 律进行了深入的研究，并研究了信息论中著名的s h a n n o n m c m i l l a n 定理( 也称 为信源的渐近均分割性) ，得到了非齐次马氏信源满足渐近均分割性的充分条件 ( 文1 8 1 、1 9 1 等) 。同时他们研究了齐次树图上马氏链场关于状态和状态序偶出 现频率的强大数定律，并由此得到了齐次树图上马氏链场的s h a n n o n m c m i l l a n 定理。本章主要讨论渐近循环马氏链的强大数定律。 3 1 引言与定义 设 j 。，甩- 0 是在字母集s = 扎2 ，on ) 中取值的随机变量序列，其联合分 布和熵密度分别为 p ( x o = x o ，以= 而) = p ( ，毛) ，t s ，0 i = l i m l ! 胛s + 2 ( 如) 一i 1 蕃n 啪叫( q 如) ( f 卅 _ o 伽 ( 3 3 2 ) 由归纳法可证 l i r a l l 刀s ：+ d ( 如) 一土n i = 1 缈) ( q 卧q q q 舶七) j 0 伽 ( 3 3 3 广 11 又由引理3 2 3 及( 3 1 9 ) 即得 l i m l 1 以s ：( 砌) 一i 他, - r - o ( 细) 嘶 _ o 伽 ( 3 3 4 ) 再次由归纳法可证 l i m l 1 刀s ：( 咖) 音善啪叫( f ，七) - o 伽 ( 3 3 5 ) 由于 l i m 碍叫( f ，尼) = ，( 3 3 6 ) j 抖 a 。 并注意到 兰盟型一一1 ，n - - ) o o (337)d 智 疗 7 、7 由( 3 3 5 ) ，( 3 3 6 ) 和( 3 3 7 ) 即得( 3 3 1 ) 式成立。证毕。 推论3 3 1 设 石。，刀o ) 是以( 3 1 3 ) 为初始分布，( 3 1 4 ) 为转移矩阵列的 循环马氏链，( z ，缈) 如前定义，设r 由引理3 2 3 定义，1 = 1 ，d ，并且墨遍历， 则 溉掣= 手伽 ( 3 3 8 ) n _ o 刀口 其中( ，盛) 是由r 唯一确定的平稳分布。 证明：循环马氏链是渐近循环马氏链的特例，定理3 3 1 成立即得推论3 3 1 成立。 推论3 3 2 在定理3 3 1 条件下，设 x 。，甩0 1 是如上定义的渐近循环马氏 江苏大学硕士学位论文 链，ie s ，令瓯( f ，c o ) 是序列x 。( 彩) ，x 。( c o ) ，x 。q ( ) 中i 的个数，则 口p ( 3 3 9 ) 证明： 因为瓯( f ，) = s o ( f ，缈) + + 群( f ，缈) ，由式( 3 3 1 ) 即得式( 3 3 9 ) 。 彰一d d m =、l ，一 缈一 一万 最一 m h p 江苏大学硕士学位论文 第四章渐近循环马氏链的渐近均分割性 本章研究渐近循环马氏链的渐近均分割性。首先利用非齐次马氏链二元函数 的极限性质，得到了渐近循环马氏链关于状态出现频率的强极限定理，接着得到 了渐近循环马氏链关于状态出现频率的强大数定律。最后证明了渐近循环马氏链 的渐近均分割性。 4 1 引言 ( 国) 的极限性质，即信源的渐近均分割性，简称a e p ，是信息论的一个重 要的问题。s h a n n o n ( 见文【3 0 】) 首先证明了在齐次遍历马氏链中 ( 国) 依概率收敛 到一个常数。m c m i l l a n ( 见文