（应用数学专业论文）时间离散状态连续非齐次马氏链的强极限性质.pdf

江苏大学硕士学位论文 摘要 概率论是有着广泛应用的一门学科，是许多应用学科的理论基 础。诸如信息论、数学风险论、保险精算理论等均是建立在概率论 基础上的。强极限定理一直以来是概率论研究的中心问题之一，其 中许多相关领域有着极为广阔的应用背景。马尔科夫过程是一类重 要的随机过程，它有极为深厚的理论基础，如拓扑学、函数论、泛 函分析、近世代数和几何学，又有广泛的应用空间，如物理、化学、 生物、天文、计算机、通信、经济管理等众多领域。有关齐次马氏 链的研究已经形成了较完整的理论体系，关于非齐次马氏链的研究， 人们一直在陆续进行，但至今这些主要工作仅限于研究时间离散状 态离散的非齐次马氏链，本文主要研究时间离散状态连续非齐次马氏 链的一些极限性质。 本文共分四章。第一章是绪论部分，主要介绍马氏链的相关研 究及进展。第二章介绍后续章节所需用到的基本理论知识。定义了 时间离散状态连续的马氏链，引入了二元函数的范数。第三章研究 时间离散状态连续非齐次马氏链的强极限性质。利用近年来研究离 散状态马氏链泛函的强大数定律的方法，根据连续状态下数学期望 的定义及一些特殊不等式等，研究了时间离散状态连续非齐次马氏 链的收敛性，得到了时间离散状态连续非齐次马氏链二元函数的强 大数定律，而后得到s h a n n o n m c m i l l a n 定理。在第四章研究关于时 江苏大学硕士学位论文 间离散状态连续非齐次马氏链的强偏差定理。 本文所得结论均以转移概率密度存在为前提。 关键词：时间离散状态连续非齐次马氏链；遍历；转移概率密度； 强大数定理；强偏差定理 江苏大学硕士学位论文 a b s t r a c t p r o b a b i l i t yt h e o r yi s aw i d l ya p p l i c a b l ed i s c i p l i n e i ti st h ef r a m e w o r k f o u n d a t i o n so fm a n ya p p l y i n gs u b j e c t s ，s u c ha si n f o r m a t i o nt h e o r y ， m a t h e m a t i c sr i s kt h e o r ya n di n s u r a n c et h e o r yf o ra c t u a r i e se t c t h es t r o n g l i m i tt h e o r e m si so n eo f t h ec e n t r a lq u e s t i o nf o rs t u d y i n gp r o b a b i l i t y m a r k o v p r o c e s s i sa ni m p o r t a n ts t o c h a s t i cp r o c e s s e s i th a sp r o f o u n dt h e o r e t i c a l f u n d a m e n t ，s u c ha st o p o l o g y ，t h e o r yo ff u n c t i o n s ，f u n c t i o n a la n a l y s i s ， m o d e ma l g e b r aa n dg e o m e t r y 。a n di th a se x t e n s i v ea p p l i e da r e a ，s u c ha s p h y s i c s ，c h e m i s t r y ，b i o l o g y ，a s t r o n o m y ，c o m p u t e r ，c o m m u n i c a t i o n ， m a n a g e m e n to fe c o n o m y t h er e s e a r c ha b o u th o m o g e n e o u sm a r k o vc h a i n s h a sf o r m e di n t e g r a t e dt h e o r e t i cs y s t e m ，t h er e s e a r c ha b o u tn o n h o m o g e n e o u s m a r k o vc h a i n sh a sb e e nr e s e a r c h i n g ，b u tt h e s e s t u d ya r e l i m i t e dt o d i s c r e t e t i m ea n dd i s c r e t e s t a t en o n h o m o g e n e o u sm a r k o vc h a i n s t h i sa r t i c l e i s g o i n g t o s t u # t h es t r o n g l i m i t p r o p e r t i e s f o rd i s c r e t e - t i m ea n d c o n t i n u o u s s t a t en o n h o m o g e n e o u sm a r k o vc h a i n s i nt h ef i r s tc h a p t e r ，w ei n t r o d u c et h er e s e a r c ha n dp r o g r e s s e sa b o u t m a r k o vc h a i n s i nt h es e c o n dc h a p t e r ，w ei n t r o d u c et h eb a s i ct h e o r yw h i c h n e e d st ou s ei nt h es u b s e q u e n tc h a p t e r s t h ed e f i n i t i o no fd i s c r e t e t i m ea n d c o n t i n o u s s t a t em a r k o vc h a i n sa n dt h en o r mo ft h ef u n c t i o n a l so ft w o v a r i a b l e si sg i v e n i nt h et h i r dc h a p t e r ，w es t u # t h es t r o n gl i m i tp r o p e r t i e s f o rd i s c r e t e - t i m ea n dc o n t i n u o u s s t a t en o n h o m o g e n e o u sm a r k o vc h a i n s b y a p p l y i n gt h e m e t h o do fs t u d y i n gt h e s t r o n gl a wo fl a r g en u m b e r sf o r f u n c t i o n a i so fd i s c r e t e s t a t em a r k o vc h a i n si nr e c e n ty e a r s ，a d o p t i n gt h e d e f i n i t i o no fm a t h e m a t i c a le x p e c t a t i o ni nc o n t i n u o u s s t a t ea n ds o m es p e c i a l i n e q u a l i t i e s ，e t c t h ec o n v e r g e n c eo fd i s c r e t e t i m ea n dc o n t i n u o u s s t a t e n o n h o m o g e n e o u sm a r k o vc h a i n sa r es t u d i e d t h es t r o n gl a w o fl a r g e i i i 江苏大学硕士学位论文 n u m b e r sf o rf u n c t i o n a l so f t w ov a r i a b l e so fd i s c r e t e t i m ea n dc o n t i n u o u s s t a t e n o n h o m o g e n e o u sm a r k o vc h a i n sa r eo b t a i n e d ，t h e ng e ts h a n n o n m c m i l l a n t h e o r e m t h es t r o n gd e v i a t i o nt h e o r e m sf o r t h e d i s c r e t e t i m ea n d c o n t i n u o u s s t a t en o n h o m o g e n e o u sm a r k o vc h a i n sa r eg i v e ni nt h ef o u r t h c h a p t e r a l lt h ec o n c l u s i o n sd r a w ni nt h i sp a p e ra r eo nt h eb a s i so ft h ee x i s t e n c e o f t r a n s i t i o np r o b a b i l i t yd e n s i t y k e y w o r d s ：d i s c r e t e t i m e a n dc o n t i n u o u s - s t a t en o n h o m o g e n e o u sm a r k o v c h a i n s ；e r g o d i c ；t r a n s i t i o np r o b a b i l i t yd e n s i t y ；s t r o n gl a wo f l a r g en u m b e r s ；s t r o n gd e v i a t i o nt h e o r e m s 学位论文版权使用授权书 本学位论文作者完全了解学校有关保留、使用学位论文的规定， 同意学校保留并向国家有关部门或机构送交论文的复印件和电子版， 允许论文被查阅和借阅。本人授权江苏大学可以将本学位论文的全部 内容或部分内容编入有关数据库进行检索，可以采用影印、缩印或扫 描等复制手段保存和汇编本学位论文。 保密口，在年解密后适用本授权书。 本学位论文属于 不保密咣 学位论文作者签名：五筵 沙5 年z - 月j p 日 指导教师签名：毛食r 州 弘6 年胡心扫 独创性声明 本人郑重声明：所呈交的学位论文，是本人在导师的指导下，独 立进行研究工作所取得的成果。除文中已注明引用的内容以外，本论 文不包含任何其他个人或集体已经发表或撰写过的作品成果。对本文 的研究做出重要贡献的个人和集体，均已在文中以明确方式标明。本 人完全意识到本声明的法律结果由本人承担。 学位论文作者签名：王饪 日期：矽6 年胡旷e l 江苏大学硕士学位论文 第一章绪论 1 1 本课题的研究背景 概率论是研究大量随机现象和规律的，所谓“大量”，从数学角度讲，就是 当对随机现象的观测次数趋向无穷时，它的“极限”呈现出来的某种规律性。 因此，强极限定律在概率论中有着极其重要的地位。前苏联数学家k o l m o g o r o v 和格涅坚科曾说过：“概率论的认识论的价值只有通过极限定理才能被揭示，没 有极限定理就不可能去理解概率论的真正概念的真正含义”。概率论的真正历史 开始于b e r n o u l l i j 的大数定律。从那时起概率论的研究中心之一就是“极限” 理论。而马氏链的收敛性与强大数定律由于在理论与实践中有着广泛的应用和 重要意义，一直是概率极限理论中研究的主要课题之一。 2 0 世纪7 0 年代末，刘文教授在研究实数展开式的概率性质和马尔科夫链的 强大数定律时，提出了一种研究强极限定理的分析方法。该方法的要点是用区 间剖分法在概率空间红o ，1 ) ，f ，p ) ( 其中，为f o ，1 ) 中的l e b e s g u e 可测集的全体， p 为l e b e s g u e 测度。) 中给出随机变量序列的一种实现。再构造一个依赖于一 个参数的单调函数，并应用l e b e s g u e 关于单调函数可微性的定理证明某些极限 几乎必然存在，然后通过纯分析运算来证明所需的结论。在其后的研究过程中， 刘文教授与杨卫国教授合作，将这种方法和母函数、矩母函数、条件矩母函数、 l a p l a c e 变换等工具，以及测度的网微分法和鞅方法结合起来，扩大了方法的应 用范围，在此基础上得到了一种新的研究概率论强极限定理方法，其要点是通 过构造含参数的似然比或鞅，利用似然比几乎处处收敛或鞅收敛定理来证明某 些极限几乎处处存在。利用该方法，杨卫国、刘文对任意随机变量序列的局部 强极限定理、非齐次马氏链强大数定律、m a r k o v 随机场的强大数定律及信息论 中的熵定理进行了深入的研究( 文献 1 4 】， 1 7 ， 2 5 】，【2 6 】) ，并通过引进似然 比作为随机变量序列相对于不同测度的差异的一种度量，建立了一类新型定理 一强偏差定理( 也称为小偏差定理) 。将概率论中的极限定理推广到用不等式表 示的情形，开拓了极限定理研究的新领域。 江苏大学硕士学位论文 1 2 本课题的研究现状和趋势 在概率论的极限理论发展的历史过程中，十九世纪二十年代以前，中心极 限定理是概率论研究的中心课题。十九世纪中叶，切比雪夫的古典工作为概率 论发展开创了新纪元。他所创立的方法成功的解决了如下问题： 在什么条件下，大数法则成o r ? 即对任给的占 0 ，当珂斗o o 时，有 斗o 其中 x 。，刀l 为具有有穷的数学期望与方差的随机变量序列。 在二十世纪2 0 年代至6 0 年代，以k o l m o g o r o v 、l e o v e 、c h u n g 等为代表 的一批概率论学者对独立随机变量序列的强收敛性和强大数定律进行了细致研 究，借助于截尾法、对称法、中心化法等手段，得到了较为完善的结论。之后， 各种混合随机变量序列的极限理论又有了很大发展。其中我国学者，诸如陈希 孺、林正炎、苏淳等做了大量工作。期间，由美国概率论学者d o o b 于1 9 5 3 年 详细介绍了其对鞅论的研究后，由于鞅论在理论与应用上的广阔前景，使得近 几十年鞅理论得到了突飞猛进的发展。 马尔科夫过程是随机过程中历史最悠久且充满活力的一类随机过程，也是 一种十分重要的随机过程。自1 9 0 7 年苏联数学家a a m a p k o b 引出马尔科夫 链概念，并开始进行研究以来，经过世界各国几代数学家的相继努力，其中特 另4 是b n p o ma 蟊o b o k h n 、a h k o r i m or o p0 b 、w d o e b l i n 、j l d o o b 、p l 6 v y 、w f e l l e r 、钟开莱、王梓坤等著名学者的代表性工作与卓越贡献，使得马 尔科夫链目前已成为内容十分丰富理论上比较完整的数学分支，呈现出一派根 深叶茂生机勃发的景象。有关齐次马氏链的研究已经形成了较完整的理论体系， 关于非齐次马氏链的研究，人们一直在陆续进行，但至今这些主要工作仅限于 研究离散时间离散状态的非齐次马氏链，例如：文献 1 1 2 0 】研究了可列非齐次 马氏链的强大数定律，文献 1 2 1 3 】【1 8 】研究了可列非齐次马氏链一元函数的强 大数定律，文献 1 4 1 9 1 研究了可列非齐次马氏链二元函数的强大数定律，文献 2 ri【引ifl 江苏大学硕士学位论文 【2 2 】 2 3 】【2 4 】研究了各种随机变量和马氏链的强偏差定理，以上这些研究所用方 法不同，结果各异。 在科学研究、发展生产、改进技术、社会服务等各个方面，在信息科学、 管理科学以及金融决策等各个领域，马尔科夫链理论已经成为强有力的数学工 具，广泛地被应用于物理、化学、生物、天文、气象、地质、控制、计算机、 通信、随机服务、经济、管理、教育等等众多领域之中，而本课题所研究的时 间离散状态连续的马尔科夫链在退火算法、遗传算法、用迭代系统方法处理图 像等方面有着广泛的应用。 江苏大学硕士学位论文 第二章基本理论与概念 2 1马氏链的定义及相关性质 马尔科夫过程是随机过程中历史最悠久且充满活力的一类随机过程。这一 类随机过程的特点是，当过程在气时刻所处的状态已知，则过程在r 。以后所处 状态与过程在“以前所处状态无关，这个特性叫无后效性，也叫做马尔科夫性。 通俗地说，就是“已知现在，将来和过去无关”。例如，生物基因遗传从这一代 到下一代的转移中仅有赖于这一代而与以往各代无关。 相对于一随机实验，设q 是所有样本点扫 构成的样本空间，f 是q 上的 所有随机事件构成的事件集合称为盯代数，p 是定义f 在上的概率测度。称定 义在概率空间( q ，p ) 上的随机变量族z = 置( 缈) ，t t 为一随机过程，其中 r 为时间参数，一个随机过程所有可能取值的集合称为该过程的状态空间，记 为s 。若马尔科夫过程 x o x r r 的r 为可列离散集，状态空间s 离散，则称 o ) f r ) 为时间离散状态离散马尔科夫链；若r 为可列离散集，状态空间s 连 续，则称留( f l f r 为时间离散状态连续马尔科夫链。 定义2 1 1 设 z ，栉2o ) 为时间离散状态连续的马氏链，其初始分布密度 与转移概率密度分别为“( x ) ，工r 和p 。= p 。( x ，y ) ，雕1 ，其中对任意b o r e l 集 口 p ( x o b ) = e “ ) d x p ( k 。君f 五= 工) = l 以o ，y ) 匆 易知融，疗o ) 的有限维分布密度为 p ( x o ，) = u ( x o ) p 1 ( 工。，一) p ( x n m ) 定义2 1 2 设f ( x ，y ) 是定义在r r 上的二元函数，我们定义f ( x ，y ) 的范数 4 江苏大学硕士学位论文 为例 = s u p 1 1 ( t y ) 陋 这样的范数满足范数三公理。对任给的二元函数厂，g ，定义 店= 厂( 工，y ) g ( y ，z ) d y 显然0 磨l i l 州蚓i 成立。 定义2 1 3 设实值随机序列 以，刀o 为时间离散状态连续的非齐次马氏 链，其转移概率密度为只( x ，y ) ， 令 p 押4 + m ( 薯y ) = l l p 。( 工，z 。) p 。( z 1 , z 2 ) p 。+ ，( z 。，少) 矗z ，d z 。 易知 p ( k 。b i 以= 石) = l p 4 ( x , y ) d y 若马氏链是时齐的，则见( j ，y ) = p ( x ，j ，) ，( 见( x ，j ，) ， 2 l 简记为p ，p 枷4 + 毒 简记为p 。 定义2 1 4 嘲设p = p ( x ，j ，) 为某一转移概率密度，则定义它的d o b r u s h i n 数 为 c ( p ) = 三2s x u , y j 1 p ( x ，z ) 一p ( y ，z ) l 出 定义2 1 5 1 9 1 具有转移密度的连续状态的时齐m a r k o v 链称为强指数遍历 的，若存在分布密度h ( x ) ，使 ! 骢妙( ) ，z ) 一矗( 工) i = 0 其中 p “( y ，力= l l p ( y , z 1 ) p o ，z ：) p ( z 。, x ) d z ，砬 是此m a r k o v 链的h 步转移概率密度。 引理1 1 9 1 具有转移密度的连续状态的时齐m a r k o v 链，若存在竹。1 ，使 其步转移概率密度p “( 五y ) 的d o b r u s h i n 数c ( p “) 0 挚p 卧x i s ) = o 引理证明见 4 】。 推论2 2 1 如果v 占 0 ，有 艺尸慨一x l - 占 0 ，那么e 中任一随机变量序列的 以概率收敛性蕴含着a s 收敛性的充要条件是q 为可列个互不相交的原子之并。 引理2 2 4 ( 1 ) 设k 山z ，则有子列，一z a s ( 2 ) 设以与x ，则有以与x ( 3 ) x 。与c 等价于以与c ，其中c 为常数。 引理证明见 4 】。 7 江苏大学硕士学位论文 2 2 4 。收敛( 平均收敛) 对o p o o ，令，= x ：x 是随机变量且e l z j 9 0 ，存在简单随机变量y = 吼上，使 e i x 一卅9 f 。这就是说，对任一p 次可积的简单随机变量序列慨阶平均 收敛于x 。 引理2 2 5 若疋! q ，则有x 。与x 。 引理证明见 4 】。 应用测度论中关于极限号与积分号交换的有关定理，可得下面的三个重要 的定理。 l e b e s g u e 控制收敛定理设以与x ，随机变量y l l 使得 i 玩l - l y l a s q 1 ) ，那么瓦，z 厶且以山z 。这时有e k _ 厨 单调收敛定理设。l 1 , 彳。0 且以个x a s ( 1 ) 我们有l 髀e k = e x 。因此，如果1 睁甄 o o ，则有x 厶。 ( 2 ) 反之，若x 厶，则每一以厶且1 睁胱。= 尉。 f a t o u 引理设x 厶( 挖1 ) 是非负随机变量，使得l i 唧i l f 甄 o 。，则 l i m i n f x 。厶，且 e l i m i n f x 。) - o 1 e 伍i b 】0 x b ) a s 性质2 设y 为可积随机变量， z ，l 1 ) 为随机变量序列，则： ( 1 ) ( 条件期望l e v y 引理) 若y 以个x ，则： 1 i m e ( x 1 e ) = e 伍l 占) a s 若y 以上z ，则( 2 3 4 ) 式也成立。 ( 2 ) ( 条件期望的f a t o u 引理) 若x 。y ，则： 9 ( 2 3 1 ) ( 2 3 2 ) ( 2 3 3 ) ( 2 3 4 ) 江苏大学硕士学位论文 若e y ，则 0 i n i n f x 。i b ) _ l i m i n fe ( x b ) ( 2 3 5 ) e ( 1 i m s u p x b ) _ l i m s u p e ( x , , l b ) ( 2 ) ( 条件期望的l e b e s g u e 控制收敛定理) 若l 以i l 以一x a s 则： l i m e ( x , , 陋) = e 伍j b ) 月 ( 2 3 6 ) ( 2 3 7 ) 性质3 ( 1 ) 若y 为b 可测的随机变量，且z ，x y 为可积随机变量，则： e ( x y l b ) ：r e ( x l b ) ( 2 3 8 ) ( 2 ) b l 为b 的子盯一域，x 为可积的随机变量，则： e 陋伍l 且】b ) 亍e 伍i 蜀) = e 仁伍陋】b 。) ( 2 3 9 ) ( 3 ) 若x 为可积的随机变量，仃似) 与b 独立，则：e ( x l b ) ：e x 特别地，当z 与y 相互独立时，e ( x l r ) ：e x 以上三个性质的证明见【2 。 2 4 鞅的定义和性质 定义2 4 i 设( q ，f ，户) 是完备的概率空间，= o ，i ，2 是非负整数全体 如果f 的子仃一域族f = 以，丹 满足下列条件： ( 1 ) 瓦包含f 中的一切可略集； ( 2 ) 对每一个甩n ，只c e + lc f ，即只个 则称f = c ，珂) 为盯域流。( q ，f ，f ，尸) 称为带流概率空间。 以下的概念和性质都是在带流概率空间( q ，f ，f ，p ) 上讨论。 定义2 4 2 随机变量序列z = 忆，咒n ) ，若满足： ( d x 是f 适应的，即对每个n ，以e ( 此时称 以，只，”o 为随机适应序列) 1 0 江苏大学硕士学位论文 且对每个行，z 是可积的； ( 2 ) 对每个珂n ，e ( 以+ 。l c ) = 以 ( 2 3 1 0 ) 则称慨，只，咒o ) 为f 鞅或鞅，如果将( 2 3 1 0 ) 式中的等号换成( 2 ) ，则称 仪。，e ，抑o ) 为上( 下) 鞅 命题2 4 1 ( 1 ) 对于鞅，有j 邑墨l - e x o ：对于上( 下) 鞅，有麟。( ) e 碥； ( 2 ) 慨，胛 为上鞅的充要条件是 _ z 。) 为下鞅； ( 3 ) 慨，z 为鞅的充要条件是慨，行 既为上鞅又为下鞅 ( 4 ) 上( 下) 鞅为鞅的充要条件是e x = e ，v n ，a s 命题证明参见 2 。 2 5 鞅差序列的定义和性质 定义2 5 1 设戤，c ，行o 为随机适应序列，如果e 眈+ 。l e o ) = o a s 则称 e ，只，咒o ) 为鞅差序列。 引理2 5 1 如果亿，e ，疗o ) 为鞅差序列，则 以 = 砭，e ，行o 为鞅； - 0 反之，设也，只，以o ) 为鞅，令= 瓦一以一1 ) ，晶= x o ，则 匕，e ，z o 为 鞅差序列。 引理证明参见【2 】。 2 6 d o o b 鞅收敛定理 定理2 6 1 ( 1 ) o o b 鞅收敛定理) 设z = 阢，”) 为下鞅，- 若s u p e x ： o o ， 月 或等价地s u p e l x 。l o o ，则当珂斗。o 时，伍。) 扎s 收敛于可积随机变量x 。 定理证明见 2 】。 推论2 6 1 若 以，”o ) 为非负鞅，则x 。乱s 收敛于可积的随机变量。 江苏大学硕士学位论文 证明若( x 。，n 0 为非负鞅，n - 尉。= e i x 小：e i x 。i o 为时间离散状态连续的非齐次马氏链， 其转移概率密度序列为 见( 工，力，咒1 p ( x ，y ) 是另一转移概率密度，若 则对m ，v 有 l i m l 。到p , - p l l = 。 ( 3 1 ) 。l i m l 疗科窆l l 一圳= 。 ( 3 2 ) 证明l p 伸+ 4 “一p 2 i i - l l p 。+ 。p 。+ k + 2 - - p _ + 。p 0 + l i p + 。p p 2 0 - - i ) 设 ( 石，) ，) ，月2 1 是定义在r r 上 的函数序列p ( x ，j ，) 是另一转移概率密度，且存在使c b ) 1 ，令 g 。( 工) 。i f o ( x , y ) p 。( x ，y ) 痧 ( 3 5 ) g ( x ) 是定义在r 上的一个有界函数，若 ( 1 ) 专e 露( 弼+ 以) o o ( 3 6 ) 月 l ， ( ”l i r a l h 刭 p , - p l l = 。 ( 3 ) 。l i m l 。窆面s f i 啪) 一蒯l = 。 ( 3 7 ) ( 3 8 ) 江苏大学硕士学位论文 则 ! 受丢耋厶( 瓦m 瓦) = g ( x 顺x ) 出 a s 其中h ( x ) 由定义2 1 5 给出。 证明令推论3 2 2 中a n = n ，由( 3 6 ) 知v k 1 ( 3 9 ) 牌去粪k ( z 。m 以) 一e 阮( 以m 以) 1 以一t b = 。a s ( 3 1 0 ) 设k 1 ，由条件期望的j e n s o n 不等式，有 e 匡高毗舭。驯w e 瞎两旨町触驯叫 我们有 = 砉石去产 丘t ( 以姗- ，托。 m ( 3 1 1 ) 熙熹砸z + t ( 瓦一t ，以+ ) i 以一- = o a - s 由于规定x 。1 ) 为常数，故当n k 时， e z ( 以+ 瓦) i 以一d = e 【z ( 以+ 瓦) 】 是常量。由( 3 1 0 ) ，( 3 1 2 ) 知，v k 有 溉仁薹厶( 瓦+ 以) 一去砉e 厶。( 以。以。) l 以 ) = 。 由于 吉萎e i s 一- ( 瓦一以一- ) i 瓦 = i 1 萎n f 厶一- ( 训) “( 训) p ( ”( 以，z ) 撇 = 吉砉k “( 咖协) 出 1 6 ( 3 1 2 ) a s ( 3 1 3 ) ( 3 1 4 ) 江苏大学硕士学位论文 b 耋e k 。，c 以。z 。阻】一去薹g c x ，p c 以出f = l 去耋f g 。+ 。+ 。c 石，p _ 月+ t c z 。，工，岔r 一言薹l g c x ，p c r 。，x ，叫 去砉恒g 。m t ( x ) p 枷m ”( 瓦出一l g ( 石印汩m ( 以) 出i + 丢薹f g ( 石) p 佃月“( x ，工) 出一g ( x ) p 。( - ，历，工) 出i = 丢批扩”气k x ) k 一“垆9 9 蚓 + 去耋幢g ( 工) 咕忡m 幻( 以内_ p k ( 以棚k i 丢耋s u p i 岛m 心) 一g ( x ) 卜去s u p g ( z ) | 荟n 忖”州一p i l ( s 朋) 由( 3 7 ) 及引理3 1 1 有 舰i 1 孕n ( ) 一p 。旧 由( 3 1 6 ) ，( 3 8 ) ，( 3 1 5 ) 和( 3 1 3 ) 知v k ，有 由于 熙丢耋k ( 瓦一以) l g ( d p 。( 以，石) 威 = o 瞧胁沙c 址胁g ( x ) h ( x ) d x l 丢耋胁) b 馏m 】出 吉耋s u p l g ( x ) i s u p 眇 一 ( x ) b = s u p l g ( 刮l i p 一 0 j ( 3 1 6 ) ( 3 1 7 ) 因存在使c - “) o ，当尼充分大时， 1 7 江苏大学硕士学位论文 有p 一磊 ，恧g ( z ) 为r 上的有界函数，故 l i m l 。i - - 窆。g c x ，烈z ，出一g ( x ) h ( x ) d x = 。 c s - s ， 由( 3 1 7 ) ，( 3 1 8 ) 得( 3 9 ) 成立，证毕。 3 3s h a n n o n - m c m iii a n 定理 已知时间离散状态连续的马氏链 以，z 1 的联合分布密度为 p ( x o ，韩) = p ( = x o ，以= ) = 厶兀p k ( x k + x a ( 3 1 9 ) 因此马氏链的相对熵密度为 z ( 国) ：一去l 。g p ( k ，以) ：一丢1l o g 氏+1 。g p k ( x k - l ，五) i ( 3 2 0 ) ” 胛l 。 i - l j 信息论中的一个重要问题是相对熵密度的极限性质。s h a n n o n 于1 9 4 8 年首 次证明了平稳遍历的马氏链：l ( ) 以概率收敛于一常数，m c m i l l a n ( 1 9 5 3 ) 和 b r e i m a n ( 1 9 5 7 ) 分别证明了如果阮 是平稳遍历的，那么z ( 口) 分别以厶收敛 与a s 收敛到一常数，这就是著名的s h a n n o n m c m i l l a n 定理。而马氏链的 s h a n n o n - m c m i l l a n 定理更具有重要的意义。本文利用定理3 2 1 可得到时间离散 状态连续的马氏链的一个s h a n n o n m c m i l l a n 定理。 定理3 3 1 设实值随机序列 以，阼2 0 ) 为时间离散状态连续的马氏链，其 转移概率密度序列为 见y ) ，聍2 1 。p ( x ，y ) 是另一转移概率密度，且存在 使c - m ) 0 为常数，令 h k ( x k - l x k ) = - b 一，( ) a s 于d 2 ( 4 6 ) ，秒。- 一p 一【( 】一l ，x ) l + ( ) l + ( ) l 瓢b k 以一t ( 工，0 一- ( x “，以) 出( 4 7 ) p ( x h ，) 五一l ( x i i ，x k ) p 一1 ( 工t l ，z i ) a x i x k 正反 易知兀h k ( x k + 孔) 是二元密度函数，令 ，0l 江苏大学硕士学位论文 t 。( 丑，) = n u ( x 。) 兀( 五+ x 。) 工( x 。，x l 以) ( 4 8 ) 易知r 。( a ，c o ) 是非负上鞅，由引理4 1 知，存在爿( a ) f ，p ( 4 ( 五) ) = 1 ，使得 l i m s u p 三l n ( 五，c o ) 04 以) h + n 在( 4 9 ) 中令兄= 1 ，得 l i m s u p 三l n ) o 由此有 r ( c o ) 00 9 4 ( 1 ) 由( 4 7 ) 有 黔n “ ，2 冉意嚣羔激 ( 4 9 ) ( 4 1 0 ) ( 4 “) = 石“ _ h “ “! ，了：1 j i = _ 石1 ：了： i ：i ； ：i ：i ：= _ i 磊i c 4 - z ， 由( 4 1 ) ( 4 2 ) 及( 4 1 2 ) 矢h n i n t 。( 旯，c o ) = 么( 以) 一。( 以+ ) l i l 旯 i t i 一喜l n 1 + ( 五一1 ) 以- l ( 以一- ，也) p 纠( 以m x k ) d x k + l n r ( ) ( 4 1 3 由( 4 9 ) 和( 4 1 3 ) 有 l i i n s u p 亡i 气( 以) 以一。( 以+ k ) l n 2 + i n t ( c o ) 螂，。l 一喜l n 1 + ( 旯一1 ) 五- l ( 五m 坼) 见- l ( 以一- ，砌妣 。国爿以) ( 4 1 4 ) ( 1 ) 令a 1 ，将( 4 1 4 ) 两边同除以l n 2 ，得 1 1 罂i 1 ( 善n 州以必x k - i ，x k ) + 訾 江苏大学硕士学位论文 - z t = l 由( 4 1 5 ) 和( 4 1 ) ，有 l i l 五 t 粤去阻c 嚆坐坐掣 。趔 l i l 五 由( 4 1 6 ) ，( 4 3 ) 及上极限的性质 l i m s u p ( a 一6 。) d l i m s u p ( a 一6 ) l i m s u p ( b 一已) + d 和不等式o l i l ( 1 + 工) s z g 2 0 ) 有 l i 罢p 去砉 _ ( 丘) 以1 ( 托m 以) 一以一( x “，以) p “( 以m 札) 出t ( 4 1 6 ) 唑嵯i 坐坐掣小弛c 一，吨 剑 蛐攀矧型坐警坐生些小溉，叫 剑 6 f 坐一1 + 掣 4 0 ) ll n 2i n a 一 利用不等式1 一_ 1 o ) ，由( 4 1 7 ) 希f l l i = ，i 1 荟n 么( 以) 以- l ( 以一以) 一l - l ( 丘m h ) p “( 以一以) 威 6 ( 2 - 1 ) + 辔 彳o ) 设q 表示区间( 1 ，+ o 。) 中一切有理数的集，令 ( 4 1 7 ) ( 4 1 8 ) )5l4( 、l ，以 4缈o 。，易知当， 。时，g 以，) ( 作为五的函数) 在见= l + ；处达到它 在g 佃) 上的最j 、值g t +