（应用数学专业论文）关于有限m重非齐次马氏链的强大数定律.pdf

江苏大学硕士学位论文 摘要 马氏链作为描述一类实际问题的数学模型，在经济学、生命科学、 随机服务系统、计算科学、随机分形等邻域中取得了极为丰硕的成果。 马尔可夫链的极限理论是马尔可夫过程研究的最基本领域之一，有关 齐次马氏链的极限定理已取得了相当完备的研究结果。近几十年来， 人们对非齐次马氏链的极限定理和遍历性展开了大量研究。多重马氏 链的概念是一般马氏链概念的自然推广，随着马尔可夫链理论的不断 发展和应用，人们对多重马尔可夫链的理论研究和应用也越来越感兴 趣。信息论中的多重马氏信源是一种很重要的信源，如实际生活中的 语声、图象、电视信号等等都是二重及多重马氏信源。因此对多重马 氏链进行更进一步的理论方面的研究具有十分重要的意义口刘文教授 和杨卫国教授在研究马氏链的强极限定理方面做了许多工作，并取得 了丰硕的成果。 本文主要利用杨卫国教授独创的鞅方法和分析方法继续这方面的 研究。本文共分为五章。第一章是绪论部分，介绍了本论文的选题背 景，使用的主要方法及研究的主要内容，并对已有的工作做了扼要的 介绍；第二章主要介绍些相关的理论基础知识，如鞅及鞅差序列的 定义与性质，条件期望的定义与性质，马氏链的定义与性质等等；第 三章至第五章为主要内容，第三章将关于二重马氏链的二元状态及其 状态序偶出现频率的强极限定理进行推广，推广到任意k 元状态的情 况；第四章再将前面得到的结论进行推广，推广到高阶马氏链中去， 并得到一系列相关推论；第五章是结束语。 关键词：鞅；鞅差序列；非齐次马氏链；强大数定律；状态序偶出现 频率 江苏大学硕士学位论文 a b s t r a c t m a r k o vp r o c e s s e si sa l l i m p o r t a n tp r o b a b i l i s t i cp r o c e s s e s i th a s p r o f o u n dt h e o r e t i cf o u n d a m e n t ，s u c ha st o p o l o g y , t h e o r yo ff u n c t i o n s ， f u n c t i o n a la n a l y s i s ，m o d e ma l g e b r aa n dg e o m e t r y ，a n di th a se x t e n s i v e a p p l i e da r e a ，s u c ha sp h y s i c s ，c h e m i s t r y , b i o l o g y , a s t r o n o m y , c o m p u t e r , c o m m u n i c a t i o n ，m a n a g e m e n to fe c o n o m ya n ds oo n t h es t u d yo fl i m i t t h e o r e m si st h em a i nt a s ki n p r o p a b i l i t yt h e o r y t h e r e s e a r c h a b o u t h o m o g e n e o u sm a r k o vc h a i n sh a sf o r m e di n t e g r a t e dt h e o r e t i cs y s t e m n o w a d a y sm o r ea n dm o r er e s e a r c h e sa b o u tl i m i tt h o r e m sa n de r g o d i co f n o n h o m o g e n e o u sm a r k o vc h a i n sh a v eb e e nd o n e t h ed e f i n i t i o no fm t h o r d e rm a r k o vc h a i n si st h e g e n e r i z a t i o no fm a r k o vc h a i n s a st h e d e v e l o p m e n ta n da p p l i c a t i o no fm t ho r d e rm a r k o vc h a i n s ，r e s e a r c h e r s b e c o m em o r ea n dm o r ei n t e r e s t e di ni t st h e o r e t i c a lr e s e a c ha n df u r t h e r a p p l i c a t i o n p r o f e s s o rl i uw e na n dp r o f e s s o ry a n gw e i g u od om u c hw o r k i ns t u d i n gt h es t r o n gl i m i tf u n c t i o n so fm a r k o vc h a i n sa n do b t a i nf r u i t f u l r e s u l t s t h ea r t i c l em a i n l yu s e st h em e t h o do fm a r t i n g l ew h i c hi sc r e a t e db y p r o f e s s o ry a n ga n dt h em e t h o do fa n a l y s i st oc o n t i n u et h ew o r ko nl i m i t t h e o r e m so fm a r k o vc h a i n s t h ea r t i c l ei n c l u d e sf i v ec h a p t e r s i nt h ef i r s tc h a p t e r , w ei n t r o d u c e t h er e l a t i v eb a c k g r o u n do nt h i sp a p e r , t h em a i nm e t h o d su s e di nt h i sp a p e r a n dw h a tw i l lb es t u d i e di nt h i s p a p e r ，a n dt h e ng i v e s o m es i m p l e e x p r e s s i o n so ft h ew o r kw h i c hh a v eb e e nd o n e i nt h es e c o n dc h a p t e r , w e i n t r o d u c et h eb a s i ct h e o r yw h i c hn e e d st ou s ei nt h es u b s e q u e n tc h a p t e r s ， f o re x a m p l e ，t h ed e f i n i t i o na n df u n c t i o n so fm a r t i n g l e ，o ft h ed i f f e r e n c eo f m a r t i n g l e ，o fc o n d i t i o n a le x p e c ta n dm a r k o vc h a i n s f r o mt h et h i r d c h a p t e rt ot h ef i f t hc h a p t e ri st h em a i np a r to ft h ep a p e r i nt h et h i r dc h a p t e r , w ew i l lp r o v es o m es t r o n gl i m i tt h e o r e m so ff r e q u e n c yo fo c c u r r e n c eo f 江苏大学硕士学位论文 a r b i t r a r y ks t a t e sf o rt w oo r d e rm a r k o vc h a i n s t h ef o u r t hc h a p t e rw i l l g e n e r i z et h e s er e s u l t st om t ho r d e rm a r k o vc h a i n sa n do b t a i nas e r i e so f c o r o l l a r i e s w ew i l lg i v et h es i m p l es u m - u pa b o u tt h i sp a p e ri nt h el a s t c h a p t e r k e yw o r d s ：m a r t i n g a l e ；d i f f e r e n c eo fm a r t i n g l e ；n o n h o m o g e n e o u s m a r k o vc h a i n s ：l a wo fl a r g en u m b e r s ：f r e q u e n c yo f o c c u r e n c eo fs t a t e s 掇 江苏大学硕士学位论文 a s 。 a 。e r v i 。i 。d 。 p 巧 e x 嚣f 蜀| 磊，】 缩写与符号说明 几乎必然地 几乎处处 随机变量 相互独立地 概率 万一域 夕韵子疗一域 随机变量x 的数学期望 随机变量盖。的条件期望 学位论文版权使用授权书 本学位论文作者完全了解学校有关保留、使用学位论文的规定，同意学位 保留并向国家有关部门或机构送交论文的复印件和电子版，允许论文被查阅和 借阅。本人授权江苏大学可以将本学位论文的全部内容或部分内容编入有关数 据库进行检索，可以采用影印、缩印或扫描等复制手段保存和汇编本学位论文。 本学位论文属于 保密口，在年解密后适用本授权书。 不保密既 学位论文作者签名：刮惫 加萨j 明f7 日 指导教师签名：参剀留 撕年j 月f 罗同 独创性声明 本人郑重声明：所呈交的学位论文，是本人在导师的指导下，独 立进行研究工作所取得的成果。除文中已注明引用的内容以外，本论 文不包含任何其他个人或集体已经发表或撰写过的作品成果。对本文 的研究做出重要贡献的个人和集体，均已在文中以明确方式标明。本 人完全意识到本声明的法律结果由本人承担。 学位论文作者签名：疹j 鸯、 日期：加夕年f 月f7 日 江苏大学硕士学位论文 1 1本课题的研究背景 第一章绪论 在概率论的发展史上，极限理论一直占有非常重要的位置。概率论是研究大 量随机现象的规律的，所谓“大量 ，从数学角度来讲，就是当对随机现象的观测 次数趋向无穷时，它的“极限呈现出来的某种规律性。因此，强极限定理在概 率论中有着极其重要的地位。前苏联数学家k p l m o g o r o v 和格涅坚科曾说过，“概 率论的认识论的价值只有通过极限定理才能被揭示，没有极限定理就不可能去理 解概率论的基本概念的真正含义”。概率论的真正历史开始于b e r n o u l l i j ( 假设 的艺术，1 7 1 3 年) 的大数定律。从那时起概率论的研究中心之一就是“极限”理 论。所以对马氏链的极限性质的研究是一个比较传统的课题，历年来一直成为诸 多学者研究的热点。而强大数定律由于其在理论与实践中有着广泛的应用和重要 意义，也一直是概率极限理论中研究的主要课题之一。 2 0 世纪7 0 年代末，刘文教授在研究实数展开式的概率性质和马尔科夫链的 强大数定律时，提出了一种研究强极限定理的分析方法。该方法的要点是用区间 剖分法在概率空间( 0 ，1 ) ，只力( 其中尸为 0 ，1 ) 中的l e b e s g u e 可测集的全体， 尸为l e b e s g u e 测度) 中给出随机变量序列的一种实现。再构造一个依赖于一个参 数的单调函数，并应用l e b e s g u e 关于单调函数可微性的定理证明某些极限几乎必 然存在，然后通过纯分析运算来证明所需的结论。在其后的研究过程中，刘文教 授与杨卫国教授合作，将这种方法和母函数、矩母函数、条件矩母函数、l a p l a c e 变换等工具，以及测度的网微分法和鞅方法结合起来，扩大了方法的应用范围， 在此基础上得到了一种新的研究概率论强极限定理方法，其要点是通过构造含参 数的似然比或鞅，利用似然比几乎处处收敛或鞅收敛定理来证明某些极限几乎处 处存在。利用该方法，杨卫国、刘文对任意随机变量序列的局部强极限定理、非 齐次马氏链强大数定律、m a r k o v 随机场的强大数定律及信息论中的熵定理进行了 深入的研究( 文献 1 ， 2 ， 3 ， 4 ) ，并通过引进似然比作为随机变量序列 相对于不同测度的差异的一种度量，建立了一类新型定理一强偏差定理( 也称为 小偏差定理) 。将概率论中的极限定理推广到用不等式表示的情形，开拓了极限 江苏大学硕士学位论文 定理研究的新领域。 刘文教授和杨卫国教授利用纯分析方法在极限理论的研究方面做了大量的工 作，得到了一些广泛而深刻的结果，详见 3 、 1 1 、 1 6 等。杨卫国教授及其合 作者一直继续马氏链强极限理论方面的研究，同样也取褥了丰硕的成果。本文在 杨卫国教授研究马氏链的强极限定理的基础上继续这方面的研究。希望这些研究 结果能够使马尔可夫链本身的性质更加完备，从而能够更好地为经济，金融，计 算枫等领域服务。 1 。2 本课题研究的现状与发展趋势 在概率论的极限理论发展的历史过程中，十九世纪二十年代以前，中心极限 定理是概率论研究的中心课题。十九世纪中叶，切比雪夫的古典工作为概率论发 展开创了新纪元。他所创立的方法成功的解决了如下问题： 在什么条件下，大数法则成立? 即对任给孝 0 的，当嚣- - yo o 时，有 嚣抖 、 置一e x k t 。l k - - l 嚣 善 专0 其中 五，栉l 为具有有穷的数学期望与方差的随机变量序列。 在二十世纪2 0 年代至6 0 年代，以k o l m o g o r o v 、l e o v e 、c h u n g 等为代表的一 批概率论学者对独立随机变量序列的强收敛性和强大数定律进行了细致研究，借 助于截尾法、对称法、中心化法等手段，得到了较为完善的结论。之后，各种混 合随概变量序捌的极限理论又有了很大发展。其中我国学者，诸如陈希孺、林正 炎、苏淳等做了大量工作。期间，由美国概率论学者d o o b 于1 9 5 3 年详细介绍了 其对鞅论的研究后，由于鞅论在理论与应用上的广阔前景，使得近几十年鞅理论 得到了突飞猛进的发展。 马尔科夫过程是随机过程巾历史最悠久且充满活力的一类随机过程，也是一 种十分重要的随机过程。自1 9 0 7 年苏联数学家a a m a p k o b 引出马尔科夫链概念， 并开始进行研究以来，经过世界各国几代数学家的相继努力，其中特别是b 攘p o ma 兹ob ok1 4 热、a h koj imoropob 、w d o e b l i n 、j l d o o b 、p l 2 江苏大学硕士学位论文 6 v y 、餮f e l l e r 、钟开莱、王梓坤等著名学者的代表性工作与卓越贡献，使 ! 导马尔 科夫链目前已成为内容十分丰富理论上比较完整的数学分支，呈现出一派根深叶 茂生机勃发的景象。有关齐次马氏链的研究已经形成了较完整的理论体系，关于 鼍基齐次马氏链的研究，人们一直在陆续进行，但至今这些主要工侔仅限于研究离 散时间离散状态的非齐次马氏链，例如：文献 1 1 1 2 研究了非齐次马氏链的强 大数定律，文献 6 1 4 1 5 研究了非齐次马氏链一元函数的强大数定律，文献 1 6 王? 3 研究了非齐次马氏链二元蘧数的强大数定律，文献 1 8 薹9 】 2 0 】研究了 各种随机变量和马氏链的强偏差定理，以上这些研究所用方法不同，结果各异。 在科学研究、发展生产、改进技术、社会服务等各个方面，在信息科学、管 理科学以及金融决策等各个领域，马尔科夫链理论已经成为强有力的数学工具， 广泛地被应用于物理、化学、生物、天文、气象、地质、控制计算机、通信、随 机服务、经济、管理、教育等等众多领域之中，而本课题所研究的时间离散状态 连续的马尔科夫链在退火算法、遗传算法、用迭代系统方法处理圈像等方面有着 广泛的应用。 实际生活中所遇到的马尔可夫随机系统的转移概率矩阵常常是随时间而异 的，隽了更麓如实建描述客观现象，获褥更逼真的结果，必然导致对菲齐次情形 的研究，这就增加了研究对象的复杂程度与解决问题的难度，因此与齐次马氏链 所取得的深刻成果相比，显得相当不足，所以非齐次马氏链至今仍是有待深入研 究的重要课题。 关于非齐次马氏链的强大数定律已有不少研究朱成熹、刘国欣等人研究了非 齐次马氏链一元函数的强大数定律( 见 5 6 1 2 等) 九十年代初，刘文、杨卫国研 究了菲齐次马氏链状态和状态序偶出现频率的强大数定律( 7 】 1 1 等) 在一定意义下，基于其它更多具体模型的分析，依据稳定性给模型分类是首 要的最基本操作，且马氏链理论适用于几乎所有领域，因此对马氏链稳定性的研 究也尤为重要。同时，初始分靠和转移概率矩阵列决定了嚣齐次马氏链，两裙始 分布是千变万化不可控制的，所以研究马氏链的稳定性，即研究转移概率矩阵的 各种收敛性，亦即马氏链的各种遍历性是极其重要的。d i s a a c s o l l ，r m a d s e n 等 人在二十世纪七十年代提出的马氏链的弱遍历性、强遍历性、c e s a r o 平均收敛( 叉 称c 一强遍历) 就是转移矩阵列以各种形式收敛( 2 3 ) 。因此，对马氏链的极限性 3 江苏大学硕士学位论文 质及遍历性的研究一直以来成为各学者争先研究的主要对象。 。3 本课题主要解决的问题 近年来，随羞马氏链理论酶发展及其在实际生活中的应用及离阶马氏链与实际 生活的密切联系，人们对多重马氏链的研究也越来越感兴趣，于是对脚重马氏链 的某些性质特别是极限性质展开了大量的深入的研究。本文研究的主要目的是一 方面完善已有的高阶马氏链的极限理论，另一方面为估计高阶马氏链的阶数徽一 些理论方面的准备。在统计学中高阶马氏链的阶数的估计是一个十分有意义的问 题，故本论文的选题也是十分有意义的。 本文主要利用了鞅论中有关性质及结论，如鞅及鞍差序列的某些性质；条件 期望的某些性质，如j e n s e n 不等式等；及马氏链的相关性质及结论等。 本文主要将马氏链的关于状态及状态序偶出现频率的强大数定律从两个方面 进行推广：一方面是将二重马氏链中的二元状态序偶出现频率的极限定理进行推 广，推广到任意k 元的情况；另一方面将所得的关于二阶马氏链的任意状态序偶出 现频率的强极限定理进行推广，推广到高阶马氏链中去，并得到一系列相关推论。 本文主要分力五大部分。第一部分是绪论部分，介绍了本论文的选题背景， 意义及使用的主要方法，得到的主要结论，并对已有的工作做了扼要的介绍。第 二部分主要介绍了一些相关的理论基础知识，如鞅及鞅差序列的定义及性质，条 件期望的概念及性质，马氏链的概念及性质等。第三部分至第五部分为本论文的 主要内容，第三章主要给出了关于二重马氏链的任意k 元确数一类平均值的极限定 理和关于任意k 元状态序偶出现频率的强大数定律。第四章将上一部分得到的结论 进行推广，推广到m 重马氏链中去，并得到一系列相关推论。第五章是结束语， 对本文做一个简单的总结。 4 江苏大学硕士学位论文 第二章基本概念与理论 2 1条件期望的定义和性质 本文涉及到的问题都将在固定的完备概率空间( q ，9 ，p ) 上进行。 在给出条件期望的定义和性质之前，我们先给出研究条件期望所需要的两个 重要引理： 下面给出的两个引理的证明过程参见【2 4 】。 引理2 1 1 设( q ，乎，p ) 为概率空间，x ，y 为两个准可积l v ，如果v a 多， 有 则 i y d p - e ( y i 茹) a , s 。 特别地，当x 0 时，有 e ( xib ) - 0 ，le ( xl 国) l e ( 1xl 国) a s 弓l 理2 1 4 设y 为可积随机变量， 鼍，n 1 ) 为随机变量序列，则 i ) ( 条件期望的l e v i 弓| 理) 若y j 己卞x ，贝i j l i 。r a e ( x ol 国) = e ( x l 国) a s ” 若y 以占x ，则( 2 1 1 2 ) 式也成立。 i i ) ( 条件期望的f a t o u 弓| 理) 若x 。y ，则 e ( 1 i m i n f x i b ) _ l i m i n f e ( x b ) 。 若x 。y ，则 ( 2 1 。8 ) ( 2 1 9 ) ( 2 1 1 0 ) ( 2 1 1 2 ) ( 2 1 1 3 ) 豆( 1 守s u p 鼍| b ) l i m s u p e ( 瓦l b ) 。 ( 2 1 1 4 ) i i i ) ( 条件期望的l e b e s g u e 控制收敛定理) 若l x o l - ) ，则称 ，毒，n 田为上( 下) 鞅。 下面四个引理的证明过程参见文献 2 5 。 引理2 2 1i ) 对于鞅，有 e x 。= e x o 。 ( 2 2 4 ) 7 江苏 大学硕士学位论文 对于上( 下) 鞅，有 麒。( 芍歪o 。 ( 2 2 5 ) i i ) k ) 为上鞅的充要条件是 喝) 为下鞅。 i i i ) 五) 为鞅的充要条件是 鼍 既为上鞅又为下鞅。 i i i i ) 上( 下) 鞍为鞅的充要条件是歙。= e x o ，v n ，露& 定义2 。2 3 设 艺，鼋，箨o 为随机适应序列，如果 露( k + ，l 巴) = oa s ，( 2 2 6 ) 则称 虼，焉，珂0 ) 为鞅差序列。 引理2 2 - 2 如果 k ，焉，z o ) 为鞅差序列，则 邑= 盏k ，焉，拧o 为鞅；反 之，设 以焉，栉o 为鞅，令 k = 邑一邑一t 积功k = x o ， ( 2 2 7 ) 则 鬈，蕞，斑o 为鞅羞序列。 引理2 2 3 设y = 艺，刀n 为鞅差序列， 1 ) 若。洳珥，则，功k 在a 及意义下收敛； 2 ) 若恤。，彪为递增趋于无穷的数列，又一卸u n 一2 e 障 o ，有 l i m 斋萎吣忒 ( 2 2 ” 引理2 2 。4 ( d o o b 鞅收敛定理) 设x = x 。，靠吼为下鞅，s u p e x + 0 0 ， 或等价地s u p e | e i ，则 溉x 。= e 船 ( 2 2 1 0 ) 且e l 以l 。 下西的弓| 理2 2 5 的证翡过程见【3 2 】。 8 江苏大学硕士学位论文 孳l 理2 。2 5 设，磊，嚣毋楚一随机序列， 霰，箨嗡是一列定义在r 上的 墨# 负偶函数，使当蚓增加时，热i x ) i x l 个，婊( x ) x 2 上， 阮，栉啦是一列单增的正 实数列，且玩个0 0o _ o o ) ，如果 争鱼丝f 墨 o ，总有 p ( 疋“= 屯+ l | x o = 如，置= i ，邑= ) = 曩疋蒯= 厶+ li 邑= 鼓) ( 2 3 i ) 成立，则称石为离散参数的马尔科夫链。若s 为可列集或有限集，则分别称x 为 离散参数的马尔科夫链和有限马尔科夫链。本文仅研究有限马尔科夫链，以后简 爹 江苏大学硕士学位论文 称为马氏链。 下面我们给出马氏链的等价性质： 定理2 3 1 2 8 1 设x = e ，n 0 ) 是定义在概率空间( q ，厂，p ) 上的随机序列， x 的状态空间s 是可列集或有限集，则下列陈述互相等价： i ) x 是离散参数的马氏链，即式( 2 3 1 ) 成立。 i i ) 对任何正整数露，任何非负整数列：0 t o t l o ，以后不再一一声明。 i ii ) 对任何正整数n ，任何非负整数列：0 t l t 州以及任何 毛，i l ，”乙s ，恒有 p ( 民2 南，x t , = ，x h = 厶+ ) = p ( x t o = 毛) 联邑= 毛l 戈= 毛) p ( t 。= 屯+ - i = 乇) ( 2 3 3 ) = p = f ) p 眠= 乇l j 。= p p 暇。= 训= 厶) ( 2 3 4 ) i v )对任何正整数n 、m ，任何非负整数列： 0 - t o 乙 乙+ 1 乙+ 研以及任何 i o ，i i ，z 。，+ l ，屯+ 。s ，恒有 p ( 丑_ “= 乇+ ，x t 。= 屯+ 。i x , o = o ，盖i = 乇) = p ( x 。2 屯+ l ，x 。= 厶+ mi x = 厶) ( 2 3 5 ) v ) 对任何正整数n 、m ，任何非负整数列： 0 t o 毛 乙 乙+ l 厶+ 。以及任何 f 0 ，f 1 ，“，乙+ l ，+ 。s ，恒有 尸( 民2 i d ，x 4 = 书x 。h = 屯小，x t 。2 + 晰l x t = ) = p 0 气2 瓦，x t _ = 一- i x t = 屯) p ( x 。= 屯+ t ，石。= 屯+ 。l x 。= 屯) ( 2 3 6 ) v i )对任何正整数刀、m ，任何非负整数列： 0 - t o 乙 厶+ l 0 时，总有 j p ( 以= l ；c o = x o ，墨一鼍，以一l = x n 1 ) = p ( 咒一以l 以一2 = 书e l = 心一1 ) ( 3 1 圭) 成立，则称 疋，n o ) 为二重有限马氏链若条件( 3 。1 。1 ) 与拧无关，则称 e ，n o 为二重有限齐次马氏链；反之称 五，押0 ) 为二重有限非齐次马氏链 记 q ( i o ，) = 尹五= o ，墨= 毛) ， ( 3 圭2 ) 魏( 歹| ，之) = 夕鼍= 歹| 鼍一：裟，五一，= 乏) ， ( 3 王3 ) 称呶，蠢) 为二维初始分布，热( 歹l 式，2 ) 为二阶转移概率；称 只= ( 见( 北，i 2 ) ) ( 3 1 4 ) 为二阶转移矩阵这时易知其联合分布 p ( x o = ，墨端墨，以= ) = q ( x o ，墨) 盛n 挠( 双l - 2r 。x k - 1 ) ( 3 1 5 ) 定义3 1 2 1 2 6 l 设 p = ( p ( t l i ，瑚，i , j ，t e s ( 3 量国 为一二阶转移矩阵定义二维转移矩阵如下： = ( p ( ( ) ) ) ) ，o j ) ，( s ，t ) s 2 ， ( 3 l 7 ) 其中 p ( ( s f ) l ( 场) ) = 仨西巧 三三量 e 3 ，。8 ， 称p 一为由二阶转移矩阵p 所确定麴二维转移缒阵 定义谚( 的为s 上的k r o n e c k 函数，即 1 4 江苏大学硕士学位论文 4 = 盅烹 溆， 令最g ，之) 表示状态序偶“，f 2 ) 在序列( ，五) ，( 五，置) ，( 咒印咒一。) 中出现 的次数，即 & g ，1 2 ) = 4 ( x 瑚) 一。) ( 3 1 1 0 ) t = 2 同理令( ，之9o 0 0 9 ) 表示状态序偶“，如，丘) 在序列x k - i 石? ，x 。n _ 七- i 中出现的次数， 即 最g ，之，t ) = 巧。隅 ) ( 置+ 。) g h ) ( 3 1 ii ) t = k 记碟= 仁。，x 历小，邑 ，x ”= 弘。，x ，邑，i 2 = ( ，如) ，i t , = ( j l ，t ) 为j 卜回的证i ! i j ，我们百先给出卜囱的引理3 1 1 引理3 1 1 的证明过程参见 2 6 。 引理3 1 1 设 瓦，刀o ) 是具有分布( 3 1 5 ) 的二重非齐次马氏链，最( ) 如前定义设 p = ( p ( 1 l i , j ) 1 ( 3 1 1 2 ) 为另一二阶转移矩阵，假设p 所确定的二维转移矩阵是遍历的如果对 v i , j ，l s 奄 喊匀t = 2 忍( ，l i , ) 一p ( 啦洲= o ，( 3 1 1 3 ， 则有 嗨n 墨连 丛= 万( ) ， a e ， ( 3 。1 4 ) 刀 咒 其中 万( ) ，砖是芦所确定的平稳分布 3 2 关于二重有限非齐次马氏链的强大数定律 定理3 2 1 设 咒，聆0 ) 是具有分布( 3 1 5 ) 的二重非齐次马氏链， 江苏大学硕士学位论文 z ( x l , - - , x k ) ( n 2 ) 是定义在s 毒上的k 元函数列， ，n 2 是一歹| 单调递增趋于 无穷大的数列如果 乏o o 酽e 露( 瓒3 ) 2 是一鞅差序列由条件期望的j e n s e n 不等式有 e e z ( 硭一3 ) l 置彩置一。 2 e e z 2 、1 y t + ：k 。) l 墨巾鼍一1 = 露 z ( 础一3 ) 2 ( 3 2 4 ) 由( 3 。2 1 ) 和( 3 2 4 ) 知 薹2 e e z ( 础q ) l 毛巾e ， 2 薹砰e 睇( 础q ) 2 2 时，有 证由于 ( 3 2 1 0 ) ( 3 2 1 1 ) 1 割n 邱k - 2b 训( k k 。) 一p ( k l 乙，。) ) | = o c 3 2 1 2 ， 1 7 江苏大学硕士学位论文 ：! ：萋k ( 她，之) 风之，弓) ”( 吱l 如，如) 叫乐f i 乏) ”以l k ，讧) l = 兰k ( 如，之) 鳓( l 之，毛) 。辫州( b l 诌，如) ( 毫l k ，) 瑁( 如，之) 鳓( 啦，弓) 舳( 如i b ，如) d 毫l 如，h ) 幅( 酏，之) 髟( 啦，啦拐州( “l 如，如) d 岔i 如，“) 噌( 啪，之) ( f 之，毒) 。扳( 如f “，b ) 反钿l 心，如) 以曩l k ，稿) 屯帽( 编，乏) d 盍| 之，专) 矗毒| k ，) 叫珠，曩) 曩毫l 之，毒) 毫k ，) l 三萎| ( 囊| 诌，“) 叫泰l 如，k ) | 弓萋l ( 钿l 稿，如) | 毛，如) l 一丢喜p 之) ( 3 2 。1 3 由( 3 1 1 3 ) 和( 3 2 1 3 ) 可知( 3 2 1 2 ) 成立证毕 定理3 。2 。2 设 k ，雄o ；是具有分布( 3 1 5 ) 的二重j 齐次马氏链， 最( 毒，。，曩) = 最( 产) 如( 3 1 。1 1 ) 定义设 p = 吲 ( 3 2 。1 4 ) 为另一二阶转移矩阵，假设p 所确定的二维转移矩阵尹是遍历的。如果对 v 产g s 2 ，j e s ：莓 峄三訇露一p ( 删= q ( 3 2 1 5 ， 则有 ( 1 ) 当七2 时，有 争专竽= 荟万( ，如) = 善万( z 2 ) ；( 3 2 1 6 ) t 睁掣邓) ，( 3 2 1 7 ) 1 8 江苏大学硕士学位论文 ( 2 ) 当k 2 时，有 掣刊p k - 2 ( k ) ，a e ， 2 其中 万( 产) ，产酽) 是p 所确定的平稳分布 证( 1 ) 当k = 1 时，由于 n - i n - 2 瓯( f 1 ) = 哦( 置) = 哦( 置) 巧：( 置+ 。) + 瓯( 以一。峨( 以) t = o 岛st = o如e s = s ( 1 l ，f 2 ) + 或( 以一。) i 2 e s = e s o ( i 2 ) + 戈( 以一) 屯e s 则由( 3 1 1 4 ) 和( 3 2 1 9 ) 知( 3 2 1 6 ) 成立 当k = 2 时，由( 3 1 1 4 ) 知( 3 2 1 7 ) 显然成立 ( 2 ) 当k 2 时，由于 怯1 厶一 8 。( 置一：) ( 五一。) 尸( 五= 3 ，五诎一，= l f l ，f 2 ) i ，t = 2 一言善哦( 五一：) 吒( 置一，归( 毛h 2 ) p ( 磊k z ，& 一t ) l ，= i 兰n 壹t = 2 哦( 五一z ) 谚：( 置一) 易( 岛i ，之) b 卅( f 4 l f 2 ，毛) b + t 一，( 不i 磊一：，t t ) 一圭哦( 置一：骖：( 置一。) p ( i 3i , ，之) p ( 攻i 攻彩一，) i ，t = 2 艟只( f 3 ( 讹乩n t 。( 啦： 一寺萎p ( 毛i ，f 2 ) p ( & i t 一：，磊一。) f 由( 3 1 1 2 ) ，( 3 1 1 5 ) 和( 3 2 2 0 ) 并注意到( 3 1 1 0 ) 有 i k 一掣娟k “印“意。) 一- i 。m ，。l 凡t 国4 , ( x , 一：) 嚷( 五一。) 尸( 置= 毛，置咖，= 屯l ，2 ) 1 9 ( 3 2 1 9 ) ( 3 2 2 0 ) 江苏大学硕士学位论文 专砉戈( k ) 气( b ) p 啦p ( 她) 地a c ( 3 2 2 1 ) 由( 3 1 1 4 ) 和( 3 2 2 1 ) 知( 3 2 1 8 ) 显然成立证毕 推论3 。2 。2 设 瓦，n o 是具有分布( 3 。1 。5 ) 酶二重鼍 齐次马氏链，最( 产) 如前定义设 尸= ( p ( 歹吲 ( 3 2 2 2 ) 为另一二阶转移矩阵，假设p 所确定的二维转移矩阵是遍历的如果对 v i 2 s 2 ，j s 有 成立，则当露 2 时，有 心n n 匀t _ - - 7 只( 舻) p l = 0 l ( 3 2 2 3 ， - 争黼叫“k 矗) 证由( 3 2 1 8 ) 知( 3 2 。2 4 ) 显然成立 ( 3 2 2 4 ) 推论3 2 。3 设 以，n o ) 是一二重齐次马氏链，最( 矿) 如前定义设 p = ( p ( ( 3 2 2 5 ) 为其二阶转移矩阵，假设p 所确定的二维转移矩阵是遍历的则当k 2 时，有 - 驴踹叫“k 蕊) 成立。 证由定理2 立即可得本推论成立 ( 3 2 2 6 ) 江苏大学硕士学位论文 第四章关于7 重有限非齐次马氏链的强大数定律 多重马尔可夫链的概念是一般马尔可夫链概念的自然推广，随着马尔可夫链 理论的不断发展和应用，人们对多重马尔可夫链的理论研究和实际应用越来越感 兴趣。信息论中的多重马氏信源是一种很重要的信源，如实际生活中的语声、图 象、电视信号等等都是二重及多重马氏信源：再如文献 2 9 中利用二重马氏链的 数学模型来研究地震的迁移规律。因此，对高阶马氏链进行进一步的研究具有十 分重要的意义。极限理论历来都被认为是概率论中的主要内容之一。由于其有着 广泛的应用，因此受到诸多学者的关注。有些学者讨论了强极限定理在数理统计、 数论、古典分析中的应用；有些学者如c h u n gkl 、叶中行等讨论了强极限定理在 信息论中的应用。近几年来，刘文、杨卫国对马氏链的强极限定理进行了深入的 研究，并研究了信息论中著名的s h a n n o n - m c m i l l i a n 定理( 也称为信源的渐进均 分割性) ，得到了非齐次马氏信源满足渐进均分割性的充分条件( 文 2 6 、 2 7 等) 。 关于非齐次马氏链的强大数定律在文献 1 1 、 1 2 、 1 8 、 1 9 、 2 1 等中 已有不少研究，方法不同，结果也各异。本文主要是将前面得到的有关二重非齐 次马氏链的结论进行推广，推广到高阶马氏链中去，使其能更好地应用到语声、 电视信号等多重马尔可夫信源的研究中去。 4 1 聊重有限非齐次马氏链的定义及有关符号标记 设x = 弘。，n 0 ) 是定义在完备概率空间( q ，互d 上的随机变量列， 曩，n 1 是俨的自然仃域流，即啄= a ( x 。，邑) ，约定写= ，q 。下面首先给出优重有 限非齐次马氏链的定义。 定义4 1 1 【2 7 l 设 石。，n 0 ) 是在状态空间s = l ，2 ，n 中取值的随机变 量序列，如果对任意整数刀m 及氓s ，0 z n ， 当p ( x 。= x 0 x 。= 置，x 川：矗一，) 0 时，总有 尸( 以= i = x o ，五= 一，以。= 一。) = p ( 以= 矗i 一所= 胛，以一。= 一。) ( 4 1 - 1 ) 成立，则称 x 。，n 0 ) 为m 重有限马氏链若条件( 4 1 1 ) 与刀无关，则称 2 1 江苏大学硕士学位论文 鼍，嚣o 为m 重有限齐次马氏链：反之称 鼍，摊o 为m 重有限菲齐次马氏链 记 q ( i