（概率论与数理统计专业论文）两种混合随机变量序列的收敛性及应用.pdf

浙江大学硕士学位论文内容提要 内容提要 本文是在攻读硕士学位期间完成的在实际问题中，我们研究的随机变量或随机过程通 常是不独立的在非独立系统建模中混合相依是广泛应用的概念混合相依是指系统中随 机变量间的相依关系是以时间或空间的距离衰退的，也就是说，混合相依是指我们所考虑 的随机变量是渐近独立的有许多描述非独立随机变量相依情况的混合概念，如。一混合， 卢一混合，p _ 混合，妒混合等等本文考虑两种混合相依随机变量：p 混合随机变量和p 4 混合随机变量伊混合随机变量这一概念的提出已有很长的历史，许多学者对它进行过研 究随机变量序列加权和的收敛性质在统计理论中有广泛的应用，如线性模型的大样本性 质本文首先研究p 混合组列加权和的收敛性质矿- 混合的概念是在1 9 9 0 年提出来的 从定义看，p + - 混合比我们已熟知的p - 混合稍强然而，由于在研究矿混合随机变量序 列的极限定理时对混合系数的收敛速度几乎不要加什么条件，实际上许多旷混合序列也是 矿一混合序列p + 一混合序列的性质已经引起了许多学者的注意。本文接下来要研究的是p l 混合随机变量序列加权和的收敛性及平稳p + 一混合序列部分和估计的大样本性质 全文共分三章 第一章是关于pt 昆合随机变量序列的收敛性质自从d o b r u s h i n ( 1 9 6 5 ) 对马氏过程引入了 p 混合的定义之后，有许多学者对p 混合随机变量序列的性质作了研究i b r a g i m o v ( 1 9 6 2 ) 给出了妒- 混合序列的中心极限定理，h e r r n d o f f ( 1 9 8 3 ) ，p a l i g r a d ( 1 9 8 5 ) ，s h a o ( 1 9 9 3 ) 和杜初午 ( 1 9 9 3 ) 等研究了它的弱不变原理，邵启满( 1 9 8 8 ) 研究了完全收敛性关于p 混合随机变 量序列的极限定理的更多细致结果参见陆传荣和林正炎( 1 9 9 7 ) 的专著本文的第一章主要 考虑逐行妒一混合随机变量组列的加权和h u 和t a y l o r ( 1 9 9 7 ) 对于逐行独立的随机变量组 列 ，1si n ，n 1 ) 给出了强大数律的结果，在第一章的第二节，我们在比h u 和 t a y l o r ( 1 9 9 7 ) 中更广的一类函数妒( 定义见1 2 3 ) 下给出了逐行p 混合序列加权和的上1 收 敛，a s 收敛，依概率收敛及完全收敛性之间的等价关系，并在另一组条件下证明上述几种 收敛性对于p 混合序列总成立，从而推广了i - i u 和t a y l o r ( 1 9 9 7 ) 的结果 定理o 1令。- 。是正整数列( 蜀m 15i ，n 1 ) 为逐行p 混合随机变量组 列，是1 妒( n ) 。， o 礼l ，1 z k 。，n 1 ) 为常数数组，m a x l kl o 。“0 假设 。长刀妒( j 瓦i l ) ， 刍刍丽磊f 可吗 o 。 k n ( o 毛ej ：盯 0 ， 浙江大学硕士学位论文内容提要 则下列结论等价 ( i ) 釜。溉马o ； h ( 叫f f 马o ； t = 1 ( i i ) o 州蜀；马o ； = 1 ( i v ) 釜与o i = 1 定理o 2令k - - 4o o 是正整效列t 矗t ，1 is ，n 1 为述行p 观合i 疆机变量组 列，墨1 妒( n ) ( o 。， n 。f ，1 sk ，n 兰1 ) 为常数数组，m a x l 茎 。i l _ + 0 假设 耋叁渊 1 ，若 对2 兰p 1 ，存在s ( ；，l j ，对p 2 ，存在s ( ；，l j ，使得 1 m 2 若存在s ( + ，l 】，使 l 2 ， s u p i 1e l x i l o o ，若存在s ( ；+ ，1 】，使 1 m 。渤a x = d ( n 1 ) ， 则 岛= a n i x i 与0 i = 1 定理0 6设 五。n 1 ) 是p 一混合随机变量序列，丑墨= 0 ，i = 1 ，2 ，s u p 洲e i x , i 2 ) ，使得 燃 l 。m 1 2 e x ；i ( x i l 堍) ) i = o ( n 1 ) l m 。a 。x 。 i o 州| r e l x d ( i x , d 魄) ) = d ( n 1 2 ) 则 n 岛= f a n d x i 马0 i = l 作为定理0 3 - 0 6 的应用，我们在第二章第四节研究了具有p + 一混合相依误差的线性回归 模型的回归参数估计和非参数回归模型的权函数估计的强相合性定理2 4 1 给出了线性回 归模型参数卢的最小二乘估计的强相合性定理2 4 2 给出了非参数回归模型的权函数估计 的强相合性 对于平稳序列 k ；n 1 ) ，令= 2 ：1 甄为其部分和过程在一些适度的条件下， v a r ( s 。) n 收敛到一个常数o - 2 p a l i g r a d 和8 h a o ( 1 9 9 5 ) 定义了口的两个样本估计量岛，p 和 磊，( 定义见( 3 1 2 ) 和( 3 1 3 ) ) ，并对于p 混合随机变量序列研究了它们的渐近性质在第三 章我们研究它们关于p + 一混合随机变量序列的性质，得到了相合性及渐近正态性 浙江大学硕士学位论文内容提要 定理o 7设 矗，n 1 ) 为严平稳p + 混合随机变量序列，e x l = 0 ，e x ；。 1 时，有 ( 0 1 ) e x l = 0 ej x i 2 p 1 都成立，从而推广了 p e l i g r a d 和s h a o ( 1 9 9 5 ) 的结果 浙江大学硕士学位论文 a b s t r a c t a b s t r a c t t h i st h e s i si sf i n i s h e dd u r i n gm yg r a d u a t es t u d e n tp r o g r a mt om a s t e rd e g r e eo fs c i e n c e t h er a n d o mv a r i a b l e so rs t o c h a s t i cp r o c e s s e st h a tc o m ef r o mp r a c t i c a lp r o b l e m sa r e u s u a l l yn o ti n d e p e n d e n t t h em i x i n gd e p e n d e n c ei saw i d e l yu s e dc o n c e p ti nm o d e l l i n gn o n i n d e p e n d e n ts y s t e m s t h em i x i n gd e p e n d e n c em e a n st h a tt h ed e p e n d e n c ea m o n gr a n d o m v a r i a b l e si nas y s t e md e c a y sw i t hd i s t a n c eo ft i m eo rs p a c e ，i e ，t h em i x i n gd e p e n d e n c e m e a n st h a tt h ec o n s i d e r e dr a n d o mv a r i a b l e sa r ea s y m p t o t i ci n d e p e n d e n t t h e r ei sal o t o fc o n c e p to fm i x i n gt om e a s u r et h ed e p e n d e n c eo fn o n - i n d e p e n d e n tr a n d o mv a r i a b l e s ，f o r e x a m p l e ，a m i x i n g ，卢一m i x i n g ，p - m i x i n g ，妒- m i x i n g ，e t c t h i st h e s i sc o n s i d e r st w ok i n d so f m i x i n gd e p e n d e n tr a n d o mv a r i a b l e s ，( p - m i x i n ga n dp * - m i x i n gr a n d o m v a r i a b l e s t h ec o n c e p t o f 一m i x i n gh a sal o n gh i s t o r ya n dh a ss t u d i e db ya l o to fs c h o l a r s t h et h e s i sp u to u rm a j o r a t t e n t i o nt ot h ec o n v e r g e n c eo ft h ew e i g h t e ds n n l so fa n 妒一m i x i n ga r r a y t h ec o n v e r g e n c eo f t h ew e i g h t e ds u m sh a sa p p l i c a t i o n si nt h et h e o r yo fs t a t i s t i c s ，f o re x a m p l et h el a r g es a m p l e p r o p e r t i e so fl i n e a rm o d e l s t h ec o n c e p to fp * - m i x i n gi si n t r o d u c e di n1 9 9 0 s p * - m i x i n gi s al i t t l em o r er i g i dt h a nt h ew e l l s t u d i e dp - m i x i n g h o w e v e r ，s i n c ea l m o s tn oc o n d i t i o no n t h em i x i n gr a t ei sn e e d e di nt h es t u d yo ft h el i m i tt h e o r yo ft h i sk i n do fm i x i n gd e p e n d e n t r a n d o mv a r i a b l e sa n d ，m a n yp - m i x i n gr a n d o mv a r i a b l e sw h i c ha p p e a ri np r a c t i c ea r ea l s o p * - m i x i n g ，t h i sk i n do fm i x i n gh a v ed r a w nm a n ys c h o l a r s a t t e n t i o n s t h i st h e s i sm a j o r a l l ys t u d i e st h ec o n v e r g e n c eo fw e i g h t e ds u m so fp * - m i x i n gr a n d o mv a r i a b l e s ，a n dt h el a r g e s a m p l ep r o p e r t i e so ft h ee s t i m a t o r so ft h ep a r t i a ls u mo fas t a t i o n a r yp * - m i x i n gs e q u e n c e t h et h e s i sc o n s i s t so ft h r e ec h a p t e r s c h a p t e rii so nt h ec o n v e r g e n c ep r o p e r t i e sa b o u tc p m i x i n gr a n d o mv a r i a b l e s s i n c ed o b r u s h i n ( 1 9 5 6 ) f i r s tp u tf o r w a r dt h ec o n c e p to f 妒一m i x i n gr a n d o mv a r i a b l e sa b o u tm a r k o v p r o c e s s ，al o to fs c h o l a r sh a ds t u d i e dt h ep r o p e r t i e so ff ，o - m i x i n gr a n d o mv a r i a b l e s i b r a g i m o v ( 1 9 6 2 ) g o tt h ec l t ，h e r r n d o f f ( 1 9 8 3 ) a n dp a l i g r a d ( 1 9 8 5 ) ，s h a o ( 1 9 9 3 ) a n dd u ( 1 9 9 3 ) e t c s t u d i e dt h ew e a ki n v a r i a n c ep r i n c i p l e ，a n ds h a o ( 1 9 9 8 ) s t u d i e dt h ec o m p l e t ec o n v e r g e n c e f o r m o r ea n dd e t a i lr e s u l t so i lt h el i m i tt h e o r e m s ，o n ec a nr e f e rt ot h eb o o ko fl i na n dl u ：l i m i t t h e o r yf o rm i x i n gd e p e n d e n tr a n d o mv a r i a b l e s s c i e n c ep r e s s & k l u w e ra c a d e m i cp u b l i s h e r s ( 1 9 9 7 ) t h ec h a p t e rio ft h et h e s i sm a j o r a l l yc o n s i d e r st h ew e i g h t e ds u m so fa na r r a y 浙江大学硕士学位论文a b s t r a c t o fr o w w i s e ，o - m i x i n gr a n d o mv a r i a b l e s h ua n dt a y l o r ( 1 9 9 7 ) g a v et h es t r o n gl a wo fn u m b e r s o fa na r r a yo fr o w w i s ei n d e p e n d e n tr a n d o mv a r i a b l e s i nt h es e c o n ds e c t i o no fc h a p t e ri ，w e g e tt h ee q u i v a l e n c eb e t w e e nt h ec o n v e r g e n c ei nl 1 ，t h ec o n v e r g e n c ei np r o b a b i l i t y , a l m o s t s u r ec o n v e r g e n c ea n dc o m p l e t ec o n v e r g e n c eo fw e i g h t e dr o w w i s e 妒一m i x i n gr a n d o mv a r i a b l e s u n d e rt h ef u n c t i o n 妒( f o rd e f i n i t i o ns e e ( 1 2 3 ) ) w i d e rt h a ni nh ua n dt a y l o r ( 1 9 9 7 ) ，a n d s h o wt h a tt h e s ec o n v e r g e n c e sa r ea l w a y st r u ef o r 一m i x i n gr a n d o mv a r i a b l e su n d e ra n o t h e r g r o u po fm i l dc o n d i t i o n s ，w h i c hg e n e r a l i z e st h er e s u l t si nh ua n dt a y l o r ( 1 9 9 7 ) t h e o r e m0 il e tk _ 。b eas e q u e n c eo fp o s i t i v ei n t e g e r s a n dl e t ( 蜀i ，1 i k n ，n 1 ) b ea na r r a yo fr o w w i s e 妒一m i x i n gr a n d o mv a r i a b l e ss a t i s f y i n g 墨1 妒 ( 佗) 。， a n d a n i ，1 i n ，n 1 ) a na r r a yo fc o n s t a n t sw i t hm a x l l 。i a n i l _ 0 a s s u m et h a t 薹叁裂措 o 。 a n d 薹( 叁蛔础) 5 0 t h e nt h ef o l l o w i n gs t a t e m e n t sa r ee q u i v a l e n t ( i ) k nn m 蜀 马o l = 1 ( i i ) 矗i 与o ； i = 1 n ( i v ) o 。t f 与0 i = 1 t h e o r e m0 2 l e t _ 0 0b eas e q u e n c eo fp o s i t i v ei n t e g e r s a n dl e t j 乙i ，1 i k n , 佗1 ) b ea l la r r a yo fr o w w i s el ，。- m i x i n gr a n d o mv a r i a b l e ss a t i s f y i n g 器1 p ( 礼) o 。， a n d ( o n i ，1 兰isk n ，n 1 ) a na r r a yo fc o n s t a n t sw i t hm a 1 t 七。l o i 叶0 a s s u m et h a t 薹叁裟器 o o a n d 曼( 釜l r e l i n 5 1 s u p e l 五1 9 l f o r2 p 1t h e r ei ss ( ；，1 1a n df o rp 2t h e r ei ss ( j ，1 s u c ht h a t 1 m 。a ! x 。a n i = 0 ( n 8 ) ， t h e n 叉= n 。i 置与0 i = i t h e o r e m0 4 l e t 弱，n 兰1 ) b eas e q u e n c eo fp * - m i x i n gr a n d o mv a r i a b l e s a s s u m e t h a te 五= 0a n dl 五i da l m o s ts u r e l y ，w h e r edi sa p o s i t i v ec o n s t a n ta n dr 2 i ft h e r e i ss ( + ，1 】s u c h t h a t l m 、。a x a “i _ o ( n 1 ) ， t h e n & = n 。置与0 ；= 1 t h e o r e m0 5 l e t k ，n21 b eas e q u e n c eo fp * - m i x i n gr a n d o mv a r i a b l e s a s s u m e t h a te 五= 0f o ri = 1 ，2 ，t a n ds u p i i _ g x t l 7 2 i f t h e r ei s 8 ( ；+ j 1 ，1 】s u c h t h a 上 t h e n 1 m l e t x d 2 ) s u c ht h a t 。m 、a x l a 戚1 2 e x ? i ( i x d k ) ) = o ( 竹1 ) 。m 、；a 、x 。 l a n l i e i x , i i ( i x , i 6 i ) = = 0 ( n 一8 2 ) t h e n n s n = a n t 五马0 = i a sa na p p l i c a t i o no ft h e o r e m s0 3 0 6 ，i ns e c t i o n2 4 ，w eg i v et h es t r o n gc o n s i s t e n c yo f b o t ht h el e a s ts q u a r e se s t i m a t e so ft h er e g r e s s i o np a r a m e t e r 口i nal i n e a rm o d e la n dt h e e s t i m a t e so fw e i g h t e df u n c t i o ni nan o n p a r a m e t r i cr e g r e s s i o nm o d e lw h e nt h ee r r o r sa r ep + m i x i n g i nt h e o r e m2 4 1w eg i v et h es t r o n gc o n s i s t e n c yo ft h el e a s ts q u a r e se s t i m a t e so ft h e r e g r e s s i o np a r a m e t e r 口i nal i n e a rm o d e la n di nt h e o r e m2 4 2w eg i v et h es t r o n gc o n s i s t e n c y o ft h ee s t i m a t e so fw e i g h t e df u n c t i o ni na n o n p a r a m e t r i cr e g r e s s i o nm o d e l f o ras t a t i o n a r ys e q u e n c e 瓦；礼21 ) ，l e ts n = ；1 甄b ei t sp a r t i a ls u mp r o c e s s u n d e rs o m em i l dc o n d i t i o n s ，t h ea v e r a g ev a r i a n c ev a t ( & ) 肪w i l lc o n v e r g et oac o n s t a n to - 2 p a l i g r a da n ds h a o ( 1 9 9 5 ) d e f i n e dt w os a m p l ee s t i m a t o r sb n ，pa n d 臼n po f 盯( f o rd e f i n i t i o n s e e ( 3 12 ) a n d ( 3 1 3 ) ) ，a n ds t u d i e dt h e i ra s y m p t o t i cp r o p e r t i e sf o rp - m i x i n gr a n d o mv a r i a b l e s i nc h a p t e r1 1 1w es t u d yt h e i rp r o p e r t i e sf o r 卢+ 一m i x i n gr a n d o mv a r i a b l e sa n dg e tt h e c o n s i s t e n c ya sw e l la st h ea s y m p t o t i cn o r m a l i t y t h e o r e m0 7 l e t 墨，礼1 ) b eas t a t i o n a r y 矿一m i x i n gs e q u e n c eo fr a n d o mv a r i a b l e s s a t i s f y i n ge x i = 0a n de x ；v p 1 ，w h i c hg e n e r a l i z e st h er e s u l t si np a l i g r a da n ds h a o ( 1 9 9 5 ) 浙江大学硕士学位论文5 1 1 定义及回顾 第一章妒一混合随机变量序列的收敛性 1 1 定义及回顾 定义1 1 1随机变量序列 h ，n 1 ) 称为是p 混合的，若 妒( n ) = s u ps u pl p ( b i a ) 一p ( b ) l 叫0 ， n _ o o k e na e 霉，b e 礤。，p ( ) o 其中理= 口( 恐，o s l 6 ) ，n 是全体正整数集 d o b r u s h i n ( 1 9 5 6 ) 首先对马氏过程引入了妒混合的定义i b r a g i m o v ( 1 9 6 2 ) 给出了如下两 个关于铲混合序列的中心极限定理： 定理1 1 1设 矗，n 1 ) 是强平稳p 混合序列，e x l = 0 ，f x 0 0 若 。o o ：l 妒1 2 ) 0 时， 塑三( o ，1 ) o n 定理1 1 2设( j ，n 1 ) 是强平稳p 混合序列，e x l = 0 ，e x l l 2 + 6 0 ， 且2 = e 碟2 - o o ，那么 塑马n ( 0 ，1 ) e r n h e r r n d o f f ( 1 9 8 3 ) 在不需要混合速度约束的情况下给出了2 阶矩有限时的弱不变原理： 定理1 1 3设 ，n 1 ) 是强平稳妒- 混合序列，e x l = 0 ，e x 0 ，l i m n _ o op m a x l _ i _ nf x i l e “ = 0 ， ( i i i ) ( 笋，m o ，n 1 ) 一致可积 那么 w n 彬 p e l i g r a d ( 1 9 8 5 ) 减弱了h e r r n d o f f ( 1 9 8 3 ) 的条件并给出了下述定理： 定理1 1 4设 ，n 1 ) 是p 混合序列，e x 。= 0 ，e 碍 霸) = 0 那么 考w ( 1 1 5 ) c h o w 和t e i c h e r ( 1 9 7 8 ) 对于独立随机变量组列 粕，1 墨j k ) 给出了服从弱大数律的 充要条件杜午初( 1 9 9 3 ) 将这一结果推广到了p 混合情形，证明了如下定理： 定理1 1 5设 ，1 j5 。_ 。) 是行内c p - 混合的随机变量序列，晶= 整1 x 可， 存在实数a 。使得 晶一厶二0 ，n _ o 。， 且对魄 0 - 3 且仅当对垤 0 p 哪n l a ! x 。l 硝i 5 ) _ o ，“。+ 。0 k ” p i x j l e ) _ 0 ，n - 0 0 ， j = l 此时可令 a 。= e 蜀j 川 1 ) ) + o ( 1 ) j = l 对于同分布的p 混合序列，有下列m a r c i n k i e w i c z 强大数律( 见【2 9 1 ) ： 定理1 1 6设 矗，n 1 ) 是同分布的p 混合序列，对于某1 墨r 2 ，e l x l 7 。且 满足。o o ：l 妒1 2 ( 2 “) o o 那么 ：( 噩一e x o = 。( n - ( 1 - 1 r ) ) 完全收敛性的概念是由h s u 和t o b b i n s ( 1 9 4 7 ) 提出的他们证明：如果 ，n 1 ) 是一 i i d 随机变量序列，e x l = 0 ，e x 0 ， p i s 。l e n ) 1 ，1st 2 ，e i x l _ i 什 0 0 当且仅当 一 no_ 0 ，f ( z ) ，母( 。) 加8 ( 某 p o ) 和z 2 卢( z ) 都是单调不减的，记a ( 。) = m 卢( z ) ，n 1 ) 是同分布的p 混合序 列，砜= 0 ，假设 e 卢i ) 2 ( 夏1 ) ) o 。 如果满足下列条件之一 i ) 芦( 。) f ( 芦( 。) ) z1 ，卢( 。) l 泸 ) ) z 2k 且存在常数r 2 ，使得 薹南 2 ，使得卢扛) z 扛) ) 肛。z4 ， 薹掣( 焉) 乱e 咖气z ，卜 那么，对v e 0 ， 掣p ( 隰觚) 独) 0 ， 蓥坠掣p 吣s u 。p 挈 e ) o o 以上是对妒混合随机变量序列的中心极限定理，弱不变原理，弱大效律，m a r c i i l l 【i e w i c z 强大数律及完全收敛性作了一个简要的回顾，关于这方面系统的结果，参见陆传荣和林正炎 ( 1 9 9 7 ) 的专著以前的学者对于妒- 混合随机变量序列牧敛性的研究住往是对各种收敛性分 浙江大学硕士学位论文 5 1 1 定义及回顾 4 别进行的，在第二节中，我们考虑在一定条件下p 混合序列加权和的工1 收敛，依概率收 敛，a 息收敛及完全收敛性之间的等价关系( 定理1 2 1 ) ，并在另一组条件下证明上述几种收 敛性对于妒一混合序列总成立( 定理1 2 2 ) ，推广了h u 和t a y l o r ( 1 9 9 7 ) 的结果 浙江大学硕士学位论文1 2p 混合随机变量序列加权和的收敛性 1 2p 混合随机变量序列加权和的收敛性 1 2 1主要结果 前面我们已经给出了p 混合随机变量序列的定义现在对于随机变量组列f 墨t ，l i k ，n 1 ) ，若每一行都是p 混合的，则称此随机变量组列是逐行p 混合的下面要研究的 是逐行妒混合序列加权和的一些收敛性之间的等价关系 对于独立随机变量序列，c h u n g ( 1 9 4 7 ) 给出了如下的强大数律( s l l n ) ： 定理1 2 a设 k ，n 1 】为独立随机变量序列，e 矗= 0 ，n 1 ，且 n 量= l 糍竽 o o ， 厶妒( n ) 、 其中妒是正的连续偶函数，满足当十时 等t ，等l ( 1 2 t 1 ) ”阡“ ”一” 则 ；五_ 0 m s h u 和t a y l o r ( 1 9 9 7 ) 对于逐行独立的随机变量组列 赫i ，1 i n ，n 1 ) ，证明了c h u n g 型的s l l n ，即蒜1e l l 蜀 _ 0 ，a s ，其中 8 。，n21 ) 为实数列，且0 0 ，对某p 1 ， “”jg i 器。等 ( 1 z 。) 眇 uj p 注 本文所给出的函数妒是比h u 和t a y l o r ( 1 9 9 7 ) 中的妒更广的一类函数，这是因为 ( 妒( 。) z ) t 及( 妒( g ) 。9 ) 当且仅当c = d = i 浙江大学硕士学位论文 1 2p 混合随机变量序列加权和的收敛性 6 为方便起见，在本节及以后各节中，把随机变量序列 孤，n 1 ) 完全收敛于0 ，o a 收 敛于0 ，工1 收敛于0 ，依概率收敛于0 相应地记为与0 ，马0 ，与0 ，与0 c 为常数， 在不同的地方可代表不同的值 定理1 2 1令k 一。是正整数列 矗t ，1 墨i 墨k 。n 1 ) 为逐行妒一混合随机变量 组列，墨1 妒 ( n ) o 。， a n i ，1 i k n , n 1 ) 为常数数组，m a x l _ i _ k 。1 0 n d _ + 0 假设 薹叁矧一， z 固 急鲁妒( 1 0 。l ” 则下列结论等价 ( i