已阅读5页,还剩42页未读, 继续免费阅读
版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
江苏大学硕士学位论文 摘要 概率论是有着广泛应用的- - i 3 学科,是许多应用学科的理论基础。诸如信息 论、金融数学、保险精算理论等均是建立在概率论基础上的而强极限定理一直 以来都是概率论研究的中心问题之一 本文主要研究强偏差定理。强偏差定理又称小偏差定理( 即用不等式表示的 强极限定理) 是借助于似然比而引进的一种度量,进而建立的一种新型定理。刘 文教授于1 9 8 9 年首次采用分析方法得到一类随机变量序列的强偏差定理。近十 年来,刘文教授、杨卫国教授、汪忠志与刘国欣教授等巧妙地将纯分析运算方法 与母函数、矩母函数、条件矩母函数、l a p l a c e 变换等工具与鞅方法结合起来, 研究了强偏差定理,s h a n n o n m e m i l l a n 定理,赌博系统,任意相依随机变量序 列的强极限定理等领域。 本论文包含四章:第一章,介绍本论文的选题背景,并对已有的工作进行扼 要的介绍;第二章,引进极限相对对数似然比的概念,作为离散相依随机变量序 列与独立随机变量序列的偏差,来研究离散相依随机变量序列的强偏差定理;第 三章,利用相对马氏参考分布的相对熵密度的概念建立任意随机变量序列的一类 强偏差定理;第四章,通过概率空间上的任意随机变量的分布与独立分布的比较, 来建立任意随机变量序列的强偏差定理,其结果将可以包含某些连续及离散随机 变量序列的强偏差定理。 关键词:强偏差定理,离散随机变量序列,连续型随机变量序列,任意随机变 量序列,极限相对对数似然比,样本相对熵率,鞅收敛定理,a e 收敛 江苏大学硕士学位论文 a b s t r a c t p r o b a b i l i t yt h e o r yi sab r a n c ho fm a t h e m a t i c sd e a l i n gw i t l lc h a n c ep h e n o m e n a a n dh a sc l e a r l yd i s c e r n i b l el i n k sw i t ht h er e a lw o r l d i ti st h ef r a m e w o r kf o u n d a t i o n s o fm a n ya p p l y i n gs u b j e c t s s u c ha si n f o r m a t i o nt h e o r y , m a t h e m a t i c sr i s kt h e o r y , a n d i n s u r a n c et h e o r yf o ra c t u a r i e se c t t h es t r o n gl i m i tt h e o r e mi so n eo ft h ec e n t r a l q u e s t i o n sf o rs t u d y i n gp r o b a b i l i t y t 1 1 i s p a p e rm a i n l y s t u d i e s s t r o n g d e v i a t i o n t h e o r e m s s 打o n g d e v i a t i o n t h e o r e m s ( a l s oc a l l e ds m a l ld e v i a t i o nt h e o r e m s ) a r eat y p eo f n e wt h e o r e m se s t a b l i s h e d b yu s i n gt h en o t i o no f t h el i k e l i h o o dr a t i o i n1 9 8 9 p r o f e s s o rl i u w j nf i r s ta p p l i e d a r t a n a l y t i ct e c h n i q u ei nt h es t u d yo fac l a s so fs t r o n gd e v i a t i o nt h e o r e m sf o ras e q u e n c e o fr a n d o mv a r i a b l e s i nt h er e c e n tt e ny e a r s ,p r o f e s s o rl i u w e na n dy a n gw e i g u o c o m b i n et h ep u r ea n a l y t i c a lm e t h o d sw i t ht h et o o l so ft h eg e n e r a t i n gf u n c t i o n s ,t h e m o m e n tg e n e r a t i n gf u n c t i o n s ,t h ec o n d i t i o n a lm o m e n tg e n e r a t i n gf u n c t i o n s ,l a p l a c e t r a n s f 0 1 t n m a r t i n a g l ew a y sa n d 廿l ed i f f e r e n t i a t i o no f t h em e a s u r eo nan e tt os t u d yt h e s 廿o n gd e v i a t i o nt h e o r e m s ,s h a n n o n m c m i l l a nt h e o r e m s ,t h es 订o n gl i m i tt h e o r e m so f t h eg a m b l i n gs y s t e ma n da r b i t r a r ys e q u e n c eo fd e p e n d e n tr a n d o mv a r i a b l e s t h i sp a p e rc o n t a i n sf o u r c h a p t e r s ,i nc h a p t e r1 , w e i n 拄o d u c et h er e l a t i v e b a c k g r o u n do nt h i sp a p e ra n dg i v es o m es i m p l ee x p r e s s i o n so ft h ew o r kw h i c hh a v e b e e ns t u d i e d i nc h a p t e r2 ,t h en o t i o no fl i m i tr e l a t i v e l o g - l i k e l i h o o dr a t i o i s i n t r o d u c e dt oi n v e s t i g a t et h es t r o n gd e v i a t i o nt h e o r e m sf o r t h es e q u e n c eo f d e p e n d a n td i s c r e t er a n d o mv a r i a b l e s i nc h a p t e r3 ,w ei n t r o d u c et h en o t i o no fs a m p l e r e l a t i v ee n t r o p yr a t e ,a sam e a s u r eo ft h ed i f f e r e n c eb e t w e e nt h es e q u e n c eo fr a n d o m v a r i a b l e sa n dm a r k o vc h a i n s ,t os t u d yac l a s so fs t r o n gd e v i a t i o nt h e o r e m sf o r s e q u e n c eo fa r b i t r a r yr a n d o mv a r i a b l e s i nc h a p t e r4 ,a c l a s so fs m a l ld e v i a t i o n t h e o r e m sf o rf u n c t i o n a lo fs e q u e n c eo fa r b i t r a r yr a n d o mv a r i a b l e sa r ed i s c u s s e db y c o m p a r i n gb e t w e e nt h es e q u e n c eo fa r b i t r a r y d i s t r i b u t i o n sa n dt h es e q u e n c eo f i n d e p e n d e n td i s t r i b u t i o n s ,a sc o r o l l a r i e s ,s o m es t r o n gd e v i a t i o nt h e o r e m s f o rt h e c o n t i n u o u sa n dd i s c r e t ea r ee x t e n d e d k e yw o r d s :s t r o n gd e v i a t i o nt h e o r e m ,d i s c r e t ed e p e n d e n tr a n d o mv a r i a b l e s e q u e n c e , c o n t i n u o u sr a n d o mv a r i a b l e s e q u e n c e , a r b i t r a r y r a n d o mv a r i a b l es e q u e n c e ,l i m i tr e l a t i v e l o g l i k e l i h o o d ,s a m p l e e n t r o p yr a t e ,m a r t i n g a l ec o n v e r g e n c et h e o r e m n 学位论文版权使用授权书 本学位论文作者完全了解学校有关保留、使用学位论文的规定,同 意学校保留并向国家有关部门或机构送交论文的复印件和电子版,允许 论文被查阅和借阅。本人授权江苏大学可以将本学位论文的全部内容或 部分内容编入有关数据库进行检索,可以采用影印、缩印或扫描等复制 手段保存和汇编本学位论文。 保密口,在 年解密后适用本授权书。 本学位论文属于 不保密耐 学位论文作者签名:孑够 硎年i f 月膨日 指导教师签名 沙否年彳月日 独创性声明 本人郑重声明:所呈交的学位论文,是本人在导师的指导下,独立 进行研究工作所取得的成果。除文中已注明引用的内容以外,本论文不 包含任何其他个人或集体已经发表或撰写过的作品成果。对本文的研究 做出重要贡献的个人和集体,均已在文中以明确方式标明。本人完全意 识到本声明的法律结果由本人承担。 , 学位论文作者签名: 日期:硼年占月,弘e t 江苏大学硕士学位论文 第一章绪论 1 1 研究背景 概率论是研究大量随机现象的规律的,所谓“大量”,从数学角 度来讲,就是当对随机现象的观测次数趋向无穷时,它的“极限”呈 现出来的某种规律性。因此,强极限定理在概率论中有着极其重要的 地位。前苏联数学家k p l m o g o r o v 和格涅坚科曾说过,“概率论的认 识论的价值只有通过极限定理才能被揭示,没有极限定理就不可能去 理解概率论的基本概念的真正含义”。概率论的真正历史开始于 b e r n o u l l i j ( 假设的艺术,1 7 1 3 年) 的大数定律。从那时起概率论 的研究中心之一就是“极限”理论。而tv 序列的强收敛性与强大数 定律由于在理论与实践中有着广泛的应用和重要意义,一直是概率极 限理论中研究的主要课题之一。 对于r v ,序列的收敛,有多种意义下的收敛。研究的较多的有几 乎处处收敛( ”收敛) ,即强收敛、依概率收敛、按分布收敛、平方 平均收敛等。对于任意r v 序列,上述各种收敛恒有如下关系: a s 收敛j 依概率收敛j 按分布收敛 介 平方平均收敛 一般来说,上述关系是不可逆的。 刘文教授在强极限的研究中,首先利用纯分析方法,在极限定理 的研究方面作了大量的工作,后来,杨卫国教授与刘文教授合作,将 此分析方法进一步发展得到了一种研究概率论强极限的新方法。本论 江苏大学硕士学位论文 文是在以上方法的基础之上对一些问题作的一些推广。 强偏差定理又称小偏差定理( 即用不等式表示的强极限定理) 是 借助于似然比而引入的一种度量,进而建立的一种新型定理。刘文教 授于1 9 8 9 年首次采用分析方法得到一类随机变量序列的强偏差定 理,而后许多作者又结合母函数方法,矩母函数方法,l a p l a c e 变换 方法,阿贝尔变换法,鞅方法等研究了概率论中离散型,连续型随机 变量序列的许多强偏差定理,后来,刘文教授,杨卫国教授等作者又 把分析方法用于信息论中s h a n n o n - - m c m i l l a n 定理的研究,得到了关 于相对熵密度的若干强偏差定理。 1 2 研究现状 自9 0 年代中叶以来,刘文教授 8 1 2 与杨卫国教授 1 4 2 0 , 刘国欣 1 0 ,刘玉灿 2 1 ,王玉津 1 1 ,王丽英 2 2 等同志利用上述 的方法分别研究了在s h a n n o n m c m i l l a n 定理,赌博系统,任意相依 随机变量序列与马尔可夫链及马尔可夫链场等领域的强偏差定理。得 到了一系列的极有意义的结果。 1 3 本文的研究工作 本论文沿用以上提到的分析方法研究任意随机变量序列的强偏 差定理。第二章利用钟开莱关于独立随机变量序列的强大数定律的条 件,研究了任意离散随机变量序列相对于独立随机变量序列的一强偏 差定理,其结论可以包含某些非常经典的关于独立随机变量序列的强 江苏大学硕士学位论文 大数定理。第三章,引入样本相对熵率作为任意随机变量序列相对于 可列非齐次马氏链的强偏差的一种度量,通过限制样本相对熵率给出 了样本空间的一个子集,继而在此集上得到了任意随机变量序列的一 类强偏差定理,其推论可以包含某些可列非齐次马氏链的强大数定 律。第四章,通过概率空间上任意随机变量的分布与独立分布的比较, 研究了实数域上任意随机变量序列泛函的强偏差定理,从而将已有的 某些连续及离散随机变量序列的强偏差定理加以推广。 江苏大学硕士学位论文 第二章关于任意离散随机变量的一类强偏差定理 刘文教授在文献 7 中为研究随机变量的强收敛性提供了一种全 新的分析方法文献 8 采用这种分析方法,利用钟开莱关于独立随 机变量序列的强大数定律的条件( 参见文献 4 p 2 4 1 定理9 条件b ) , 研究了离散相依随机变量序列的一类强偏差定理。 本文的目的是要利用文献 4 p 2 4 1 定理9 ( 即本章引理2 1 4 ) 关于独立随机变量序列的强大数定律的条件a ,c ,研究相依离散随机 变量序列的极限性质,给出一类用不等式表示的强偏差定理从而与 文献 8 一起,就离散随机变量的情况,将文献 4 p 2 4 1 定理9 推广 2 1 定义和基本定理 定义2 1 1 设x ,e ,即1 是概率空间( q ,f ,p ) 上的随机变量。如 果存在集彳e f ,尸( 彳) = 0 ,使当a 。时,有l i m 五( ) = 爿( 圆) ,则称 z 。,月1 几乎必然收敛于r v x 。简称 z 。,胛1 收敛于x ,记为 l i m x 。= xa s m 定义2 1 2 设 瓦,f 。,n o ) 为随机序列,如果 i ) v n ,e 为可积的 i i ) 对于每个m 0 ,研瓦+ 。i f 。 = x o 伽 则称 只,f 。,诈o ) 为鞅。如果上述定义中的i i ) ) b e l & 。i f 】置娜, 则称 以,只,n o ) 为下鞅;如果上述定义中的i i ) 为e x o 。i f 。 x o 嬲, 则称忸。,只,n o ) 为上鞅。 江蔓垄堂堡主堂堡垒查 引理2 1 1 ( d o o b 鞅收敛定理,文 1 ) 设: z 。,h o 为下鞅,若s u p e x : m ,或等价地s u p e x 小:m 。则 1 i m 以= x 。口 且e l 工。i + 。 引理2 1 2 ( b o r e l 。c a n t e l l i 引理,文 1 】, 2 】, 3 ) 设 。) 是任意的事件列,若妻尸( 4 。) m ,则有尸( 4 ,f - 0 ) = o n = l 引理2 1 3 ( k r o n e c k e r 引理,文 2 ) 设) 是实数的一个序列,奴 是满足o o 上非降; p 。【xj b ) l 和墨掣均在区间x o 上非增,且有甄= o ; g 。( x ) x c ) 虽罂在区间x o 上非增,且五具有对称分布。 又设慨) 为正数序列如果 兰塾呸2 是定义在概率空间( q ,f ,p ) 上在一中取值的随机变量序列,其联合分布与边缘分布分别为 尸( 五= x 1 ,爿l = x 2 ,- 一,x n = x n ) = p 。( x l ,屯,。一,x 。) ,魄a ,1 k 疗 只( ) = p ( 五= 坼) ( 2 2 1 ) ( 2 2 2 ) 为了表征 x 。n 1 ) 的联合分布“( 葺,x :,矗) 与乘积分布盘最( 气) 之间 的差异,引进如下的似然比和对数似然比: 乙( 出) = 密丑( 五) z ( 置,五,瓦) 乙( 出) _ n 丑( 五) 见( 置,五,瓦) t 1, r a m ) = i n 乙( c o ) ( 2 2 3 ) ( 2 2 4 ) 定义2 2 1 设 吒,n 1 是一列正值随机变量序列,且吒1 、o d 伽, t o ( c o ) 由( 2 2 4 ) 定义, 巾卜u 蝉怒 ( 2 2 5 ) ”。吒( 缈) r ( ) 称为关于慨( ) ,肝1 ) 的极限相对对数似然比 由定义显然可知,当 x 。n 1 相互独立时,( ) ;0 ,而由后面的 ( 2 3 2 3 ) 的证明可知,在一般情况下恒有,( 功0 纰,因此,( 出) 可以 看作当行斗c 。时,度量五,行1 的联合分布p n ( x 1 ,x :,) 与乘积分布 n n 最( 稚) 之间的偏差的一种随机变量,( 国) 越小,偏差越小 江苏大学硕士学位论文 2 3 本章的主要结果 定理2 3 1设 x 。n 1 ) 是具有分布( 2 2 1 ) 的随机变量序列, c r ( c o ) ,n 1 是一列正值随机变量序列,且o - ( c o ) 1 、o o 伽,( 曲) 由( 2 2 5 ) 定义, a n ,n 1 ) 是递增的正数列令 d = :,( 国) 吼) o 。 ( 2 3 + 3 ) 且 l i m s u p 上窆蜊:仃( 甜) 。舢( 2 3 4 ) 吒智g a a k ) 一 、 均成立则 。 v l i m s u p 1 乏:k 卢p ( 彩) ,盯( 国) ) + 仃( ) 口卫于d ( 2 3 5 ) h m o a 葛o k 1月v l i m i n f 土了? :兰土口p ( ) ,盯( 缈) ) 一仃( ) 9 1 e 于d ( 2 3 6 ) 一“o 。气三a k 其中 妒( ,x ,_ y ) = 主+ 三丑e ”- o x ,y m 五o ( 2 - 3 7 ) g ( x ,力= s u p 妒( 2 ,z ,y ) ,2 o ,0 工,y o ) ,0 x ,y o o ( 2 3 9 ) 而目有 江苏大学硕士学位论文 则 证明令 设咒为常数,令 口( z ,_ y ) 0 ,0 z ,y 0 0 , 卢( x ,_ y ) 0 ,0 x ,y o o , g ( o ,_ y ) = 口( x ,0 ) = 0 ,0 x ,y , p ( o ,y ) = p ( x ,o ) = 0 ,0 z ,y o ) , y k a k 1 ) 与p 。一卜x i x 2 e l 。l 及 上极限的性质 有 l i m s u p ( a 。一6 。) d j l i m s u p ( a 。一c n ) l i m s u p ( b 。一c 。) + d ( 2 3 2 6 ) l i m s u p 上自盟一e ( 盟) 】s u p l 二= 盐一e ( 二= 兰) 】 d qk 目0 ka k l i r a s u p 1n z l n 研e x p ( 盟) 卜e ( 兰马) + r ( ) e e x p ( 二二二上) 一e ( 二二二蔓) ) + r ( ) mo jo 】 a ka k 1 掣糟1n 脚( 盟a t r ) 】_ m ( 争一( 彩)仃。女一1吼 l i r a s u p 土5 “2 e e x p ( 玛一1 一盟】) + r ( c o ) l 二= 三生) 一一二:生】) 吒“ 吒唧 毋叩糟e t 筹唧c 脚 9 弛百 。m 江苏大学硕士学位论文 ,挚去等e x p ( i 帕e c 孙a k 凇, 由( 2 3 2 ) 的两个不等式可知 望 魁 丛耻 o ) e ( i x 。l 吒) ( 2 3 3 6 ) q 由( 2 3 3 6 ) 及( 2 3 3 ) 可知 量p ( 区型 o ) o ,f 。) :o 故 由k r o n e c k e r 引理得 口e r 2 3 3 7 ) ( 2 3 3 8 ) ( 2 3 3 9 ) 学 。m 江苏大学硕士学位论文 ! i 墨上壹巨型:o 伽 ( 2 3 4 0 ) 一。o n 篇吼 、 记以的分布函数为e ,则由( 2 3 2 ) 可得 掣= 掣ki - 犁d f k ( x ) l b 游掣( 2 3 4 1 , 由( 2 3 41 ) 及( 2 3 4 ) 可知 - i 霉毒喜掣,粤毒喜掣叫功,黜( 2 3 4 2 , 由( 2 3 1 8 ) ,( 2 3 3 4 ) ,( 2 3 4 0 ) 及( 2 3 4 2 ) 可得 1月y t i m s u p 二二蔓卢( ,( 国) ,叮( ) ) + 盯( ) 口矗于d ( 2 3 4 3 ) m o - 篇a k 即( 2 3 5 ) 成立 类似可证( 2 3 6 ) 成立 根据口们与口阢y ) 的定义f 2 3 1 2 卜f 2 3 1 5 ) 成立是显然的 定理2 3 2 设随机变量 以,一1 满足定理2 3 1 的条件,且具有 对称分布其中( 2 3 2 ) 用如下条件代替:当闪增加时 北) 个 学山 ( 2 3 4 4 ) 则 成立 l i r a s u p 上窆益删m ) ,盯( 缈) ) n m o n 篇吼 l i m i n f ! 主x e a p ( ) ,盯( ) ) n - - + 。o nt :ia k 证明由( 2 3 4 4 ) 的第二个式子可知, 黜于d ( 2 3 4 5 ) a , e 于d ( 2 3 4 6 ) 江苏大学硕士学位论文 e c k 和叱黜叫裂,( 2 3 4 7 ) 由( 2 3 4 7 ) 及定理2 3 1 证明过程中的( 2 3 2 7 ) 可知 l i r a s u p 上量芦一e ( 盟) # g n k = 1 a kq t 引i m s u p l 2 _ 2 二2e 酬) 舡裂州) 等e x p ( 帅盯( 彩) 州彩) e 4 ( n d ( 2 3 - 2 9 ) 成立故( 2 3 3 4 ) 成立 由于 x 。n 1 ) 具有对称性分布,所以暇,胆1 也具有对称性分布, 故 蹦:o f 2 - 3 4 s ) 唧 由( 2 3 1 8 ) ,( 2 3 3 4 ) ,( 2 3 4 0 ) 及( 2 3 4 8 ) 可知,( 2 3 4 5 ) 成立 同理可i , i e ( 2 3 4 6 ) 成立 推论( 参见文献1 4 j p 2 4 1 定理9 条件a ,b ) 设在( - o o ,一) 上的一列 连续正值偶函数, z 。行1 ) 是独立随机变量序列 慨,n 1 ) , ,”1 ) ,r ( c o ) 与d 均如定理2 3 1 中所定义,如果 薹g a 铲 o ,总有 尸( _ + t2 + - i 蚤2 f o ,五。,以2 ( 3 1 1 ) = p ( + t = 0 “爿。2 乇) 成立则称x 为离散参数的马尔科夫链若s 为可列集或有限集,则称 x 分别依次为离散参数的可列马氏链和有限马氏链 定义3 1 2 ( 文 5 ) 设x = 以,一= o ,l ,1 ) 是马氏链,其状态空间s 不妨取为 1 二,2 ) 或 1 ,二,2 ,x 在时刻n 处于f 状态的条件下,经过m 步 转移,在时刻”+ m 到达j 状态的条件概率p ( 疋+ 。i 置= f ) 称为x 的m 步转 移概率,记为功( n ,”+ m ) 或。p f ,以。b ,( f ,e s ) 作为第f 行第,列的元 素排成的矩阵尸c m 口 。p 。( “】称为x 的朋步转移概率矩阵 江苏大学硕士学位论文 马氏链的转移概率。p 。( “不仅依赖于状态i ,及正整数聊,一般还 依赖于非负整数n 如果对一切f ,j e s ,p u 都与押无关,即 。日= 1p = 2p f :一岛,j ,s ( 3 1 2 ) 。p = ,p = :p 一一p ( 3 1 3 ) 则称此马氏链是时间齐次的,否则称为非齐次的 定理3 1 1 ( 存在定理) 任给一概率分布 g f ,i e 研及随机矩阵列 。岛】,”= 0 , 1 ,则必存在一概率空间( q ,z p ) 及定义在其上状态空间为s 的马氏链 瓦,n = o ,1 ,2 ,使得p ( 岛= f ) = g l ,p ( 蜀+ 。= + 。阮= ) = 。弓对 一切f ,s ,h = o “1 都成立 在存在定理所述的意义下,马氏链完全由它的初始分布及一步转 移概率矩阵列所决定 3 2 关于样本相对熵率 设 瓦, o 是定义在概率空间( q ,f ,p ) 上且在可列实数集 s = 乇) 中取值的随机变量序列,其联合分布为 尸( j f j = x 0 ,一,爿j = ) = p ( ,x 。) , 工s ,0 i 以 ( 3 2 1 ) 设q 是( q ,f ) 上另一概率测度,令 q ( 瓦= x o ,五= ) = q ( x o ,- _ ) , t s ,0 蔓f s 珂 ( 3 2 2 ) 如果 毛,”o ) 在概率测度q 下是非齐次马氏链,则存在s 上的初始分 布 ( g “) ,q ( c ,) ( 3 2 3 ) 和转移矩阵 江苏大学硕士学位论文 e = ( b ( f ,) ) , ( 3 2 4 ) 使得 ,矗) :) 1 7 ”p k + )(2q(xo q ( x o ) p k ( x k 32 5 ) ,矗) =_ 1 ,) ( j 一 此处以( i ,d = g 瓦= ,l 弘一,= ) 为避免技术性的问题,以下不妨假设g ( f ) ,见( f ,n p ( x o ,) 皆取正 值。 定义设 o - o ( c a ) , o ) 是一列正值随机变量,满足条件 吒( ) 个0 。,口矗,b q 由( 3 2 1 ) ,( 3 2 2 ) 所定义,令 悱,粤丽1h 我等鬻 z e , 称,( ) 为关于帆( 脚) ,珂o 的样本相对熵率。 引理3 2 1r ( c o ) 如( 3 2 6 ) 所示,则 幛“罂高h 裟等嵩巩 2 7 , 证明 参见文献 9 的引理,令乙:爱囊端,由文献 9 的引 理证明可知,亿,一1 ) 是一p 上鞅,且满足耳( 乙) 1 ,其中b ( 瓦) 是 由概率测度pi , t $ g n g z 学n n ,于是乙p - 删收敛于某一随机变量z , 并由f a t o u 引理有廓( z ) l ,于是有 l i i t l s u p 土l i l 乙o p 一日矗 h 斗o _ 所以,( 3 ,2 6 ) 成立 本文将通过样本相对熵率的限制而给定样本空间的一个子集,而后 在此子集上考虑一类用不等式表示的强极限定理。 江苏大学硕士学位论丈 一,一 3 3 主要足理 定理3 3 1设 五,m o ) 是定义在概率空间( q ,f ,p ) 上具有分布 ( 3 2 。1 ) 的随机变量序列, 丘0 。) ,推o 是定义在s 上的实函数列, ( 吒( 国) ,冗o ) 是一列正值随机变量序列,且瓯( 国) 个m ,a e ,( ) 由( 3 2 6 ) 定义,溉,z o ) 是常数递增正数列。设q 为( q ,f ) 上另一概率测度, 蜀,n o 在q 下为具有初始分布( 3 2 ,3 ) 和转移矩阵( 3 2 4 ) 的马氏 链。设概( z ) ,m 1 是定义在( 一o o ,+ 。) 上一列非降连续正值偶函数序列, 且当h 增加时, 背个,学。 ( 3 3 d 令 北1 凹雨1 丕n 坐鬻掣刊 吼) 。o ( 3 3 4 ) 则 l i m s u d l 兰五堕! 二鱼! 型剑茎出( c ,仃( ) ) + 仃( 口) p - a , e , 于d ( c ) r i d 一_ * 叮。( 彩) k = la k ( 3 。3 5 ) l壹墨堕!二鱼堕竺业盟球(叩(国)一仃(国)p-aezd(1irairtt 。) n 拶 一上一“p u k w ,v 、w ,。, 江苏大学硕士学位论文 其中 妒( 五,x ,_ y ) :a e 2 1 。l y + 要 l 口( 五,x ,y ) = s u p a e :悼l y + ,a o ) o x ,y o ) o z ,y 1 ( 3 3 6 ) ( 3 3 7 ) ( 3 3 8 ) ( 3 3 9 ) ( 3 3 1 0 ) ( 3 3 1 1 ) ( 3 3 1 2 ) :五! 互2 二蔓! 兰2 + 墨! 墨! 二鱼竖! 墨! l 兰二! l 墨呸! 墨! ! 兰:! 上鱼竖! 墨! l 墨二! ! a ka ka k 五f 墨! 二蔓( 兰2 + 蔓f 墨2 二墨:f 墨= ,! + 垒:! 互= ;! 二蔓f 墨= ! ! a k a ka k 设五是非零常数,令 g ( ,一。) = e o e x p ) y i ( x k ) - b k ( 1 ) 】吼 l 瓦一。= 一。) 由于 = e p k ( x k 一,x ) e x p a y k ( x , ) 一b k ( t 1 ) 】q 砘s ( 3 3 1 4 ) 唯 毗x k _ 1 , x k ,= 型墼鼍裂掣 删( 3 3 1 5 , 毒。“。(x。一。,x。)=毒。!:!【!ijll5i!:;:;!;:!幽 1 9 啦 一缫五 仉 丘 心 蚴 警 江苏大学硕士学位论文 一暑。x p a y k ( x k ) 一b k ( 坼一) 吼) 仇( 砟m 坼) g ( 见,一,) :堡坚! 立= 1 2 :1 q ( 五,坼一,) ( 3 3 1 6 ) 由( 3 3 1 6 ) 及( 稚+ x k ) 的非负性可知,蜥( + ) 是s 上的密度函数。 则g ( ) 磊( + ) 是n + 1 元乘积密度函数,令 c 五,= ! ;j 妻宝辫爿j s s ( 3 3 1 7 , 由引理可知,存在爿( 五) f ,户( 一( 五) ) = 1 ,使得 l i r a s u p j h ( 五,卯) o爿( 五) ( 3 3 1 8 ) 一o j 由( 3 3 1 5 ) ,( 3 3 1 7 ) 可知 去,n c 五,功,= i 1 n ! ;妻宝辫 :土1 1 11 1 墨! 直! 竺堕兰! 兰! 二塾! ! 羔:! ! ! 丝! 垒! 羔:! :苎! 吒 盎q(五,x。)p(xo,墨,瓦)1b 。1 7。7”7 = 去 五盖n 吸( 五) 一酢( 以_ 1 ) 】乒t 由( 3 2 1 8 ) ,( 3 2 1 9 ) 可知 l l m s u p _ 1t “抖nk ( 五) 一瓦+ ( 五一,) 】厶 1 1 罢i “高瞰( 五) 一瓦+ ( 五一,) 】肛 由( 3 3 3 ) ,( 3 3 2 0 ) 可知 矗nh 必刖也箍等带 ( 3 3 1 9 ) 妻h 鲫刖岫甓等骞剐 一( a ) ( 3 3 2 0 ) 辫坐 江苏大学硕士学位论文 1 i m 。一s u p 互铲。隧警剑鲥警妄q ) + c c oe a ( 五) f h o - k = l d ( c ) n m 盯。p 。瓯 ( 3 3 2 1 ) 由( 3 3 1 0 ) ,( 3 3 1 2 ) 及条件期望的性质,得 岛 ( 耳( 五) 一饥+ ( 五一,) ) 心l 以一。 _ 0 l 兰盥2 二蔓! f 互= :2 l 2 吼l 一 由( 3 3 1 4 ) ,( 3 3 2 2 ) ,( 3 3 2 3 ) 和不等式 得 ( 3 3 2 2 ) ( 3 3 2 3 ) o e 1 1 - 茁蔓x 2 , l z | f ( 3 3 2 4 ) 0 q ( a ,爿:一1 ) 一i = e q e x p ( a ( y k ( x k ) 一钆+ ( 五一,) ) 他) 一1 一( 名( 耳( 五) 一钆+ ( 五一。) ) 厄) | 五一。) 鲥e 2 h 训避导盟引如) 鲋s 2 川 掣引硝 ( 3 3 2 5 ) 由( 3 3 1 ) 式,当h 个时,纯( z ) x 2 士,得 当h a k ( 3 3 2 6 ) 塑型 :丛幽丝丛盟业 ( 3 3 2 7 ) 8 k9 k k )妒k ( a k ) 由( 3 3 2 5 ) ,( 3 3 2 ) 和( 3 3 2 7 ) ,得 2 1 器 一 ! 审 得 个 x 纯 舍蕴t ,一 纵啊 由 江苏大学硕士学位论文 0 l i m s u p :一互 q ( 兄,爿:一i ) 一1 】 o - 4 1 2 2 e 2 i a i l i m 。u d 墨墨堕竺! 兰塑! 墨:! !o ) e d * ( 3 3 2 8 ) 1 k = i ( 吼) z 2 e 2 1 2 | 盯r 扪 利用不等式0 玉l n x x l ( x 1 ) ,由( 3 3 2 8 ) 式得 o l i m s u p l i l n q k ( z ,五一i ) 丑2 p 2 盯( 缈) d ( 3 3 2 9 ) n - - - t o u 。t 1 由( 3 3 2 1 ) 及( 3 3 2 9 ) 式,有 l 曲s u p 三量隧坠逊蒯z l 盯( 国) + c 4 ( ) n d o ) f q d ( 3 3 3 0 ) 仃。r “a 设r 为正有理数集,令。2 。q 4 ( 五) ,则,( ) = l ,由( 3 3 - 3 0 ) 有 l i m s u p 上星魁垃坳弛z h 仃( ) + 了c r d ( c ) r d ( 3 3 3 1 ) 盯。f a “ 因为妒( 丑,x ,y ) 关于五连续,故由( 3 3 9 ) 可知,对每个e a 0 d ( c ) n d + , 存在五( 国) r + ,即1 ,使得 ! 鳃p ( 五( ) ,c ,盯( 脚) ) = 夕 ,o - ( c o ) ) ( 3 3 3 2 ) 由( 3 3 3 1 ) 与( 3 3 7 ) ,有 t i m s u p l 。e m 吒“ 区盟玉垫趔茎似以( 岔如仃( 甜) ) a k 由( 3 3 3 2 ) 与( 3 3 3 3 ) ,有 彩a 。n d ( c ) o d ( 3 3 3 3 ) i i ms u p 上宣隧型垫墼趔s 盹盯( ) ) 国。n d ( c ) n d ( 3 3 3 4 ) h - + 。u 一1咏 因为p ( a ) = 1 ,故 l i m s u p 土置隧塑丝墼趔舭盯( ) ) p - a e 于j d ( c ) l i d ( 3 3 3 5 ) u 月嘶 由式( 3 3 4 ) 及( 3 3 1 0 ) 可知, 正( 置) ,七1 ) 与 e ( 墨) ,1 在测 江苏大学硕士学位论文 度p 下是等价随机变量序列,于是由吒( ) 斗o 。一e 及个可得 1 i m 士兰丛型些! 型:0p 吨。( 3 3 3 6 ) o - ( 国) k = t 吼 由( 3 3 1j 及( 3 3 2 ) 司知 ,l导1(兰一,)一玩+(五一,)fliras u p上1 j o i 【j “1 a k :l i m 。三一曼i 鱼坚五! 墨! 二兰! 墨刿墨二! i o n t 彩,“1 吼 鲥攀高喜【掣刈肥炒i 训 鲥紫去兰c 挚 :l i ms u p 熹量壁监缨叫国) 埘“( 3 3 3 7 ) 吒( 缈) “ 纯( 吼) 、7 由( 3 3 1 3 ) ,( 3 3 3 5 ) ,( 3 3 3 6 ) ,( 3 3 3 7 ) 可知 l i m s u p 了。a ( x , ) - e d f a x t ) l x , - , ( c ,盯( ) ) + 盯( ) _ m d jl jk = l以 p 一口置于d ( c l n d ( 3 3 3 8 ) 即式( 3 3 5 ) 成立。 同理可证( 3 3 6 ) 成立。定理证毕。 定理3 3 2 如果在定理3 3 1 中,将条件( 3 3 1 ) 用如下的条 件来代替: 吼( x ) 个蝉上 ( 3 3 3 9 ) 可+ 则有如下结论成立 l i 鼍p 高砉五岩辆( ) ) 吲) p 于d ( c ) n d ( 3 - 3 4 0 ) 江苏大学硕士学位论文 l i m i n f 土兰z j ! :! 奠口( c ,盯( ) ) 一盯( ) p - a e 于d ( 。) n d ( 3 3 4 1 ) “。d 二( ) k = la k 证明易知 趔:五! 互2 二五! 互! + 蔓f 互2 二鱼。! 互= ! 一生。( 互= ! !( 3 3 4 2 ) a k a ka k嚷 从定理3 3 1 的证明可知,在条件( 3 3 3 9 ) 下,仍有式( 3 3 3 5 ) 成立由( 3 3 3 9 ) 及( 3 3 2 ) 可知 l i 。l 出堕二! i :l i i l
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 初中八年级物理跨学科实践教学设计:基于核心素养的“飞天科幻故事”创作指导
- 高三历史开放探究型非选择题解题技法教学设计
- 高三英语一轮复习教学设计-北师大版必修一Unit 1 Life Choices单元整合复习
- 小学三年级英语词汇专项训练教学设计:基于湘少版新教材的语境化建构与迁移实践
- 高三物理“带电粒子在立体空间的运动”专题复习教学设计
- 八年级物理上册“运动的描述”教学设计
- 高二英语选择性必修第四册Unit 12核心知识整合迁移复习教学设计
- 初中七年级数学《截一个几何体-切割木料情境》教学设计
- 高一劳动技术教学设计:穗状狐尾藻的辨识采集与药用价值探究
- 小学六年级劳动课《储藏大白菜》教学设计
- 北京科技大学辅导员招录考试真题与答案2026
- 2026年环保中级工程师模拟试题(含答案)
- 2026-2030年中国出租车行业发展趋势及发展前景研究报告
- 2023年自考03709马克思主义基本原理概论重点笔记
- 2027届高三语文10月名校模拟试题汇编之修改病句题(学生版+教师版)
- 2026中国新能源汽车保险产品创新及理赔风险控制与大数据定价模型报告
- 耳鼻喉科临床诊疗指南(2025版)
- 2026年中国电信笔试题库
- 小学四年级英语沪教牛津版上册期末综合复习教案
- (2026年)米格列醇与阿卡波糖比较分析课件
- 青海盐湖集团2026笔试历年真题及模拟卷完整答案
评论
0/150
提交评论