（概率论与数理统计专业论文）线性过程的若干极限理论及其应用.pdf

文中部分缩写及符号说明 随机变量 几乎必然 互相独立且同分布 随机变量x 的数学期望 随机交量x 的方差 随机变量x 与y 的协方差 随机变量序列 矗) 几乎必然收敛于随机变量x 随机变量序列 k ) 依概率收敛于随机变量x 随机变量序列 x 。) 依分布收敛于随机变量x 测度序列 h ) 弱收敛干测度“ u 与y 等价，即u 引有相同的有限维分布 集合a 的示性函数 集合a 中元素的个数 实数集 整数集 非负整数集 正整数集 l i r as u p n b n 0 0 n - o o n 。= , l i j i 奠b 0 n0 0 表示不大于a 的整数 仅表示一个正常数，其值在上下文中可以不同 表示一个标准w i e n e r 过程 l o g n = l o g ( n v 曲 l o g l o g n = l o g l o g ( n ve 。1 m m j耋哺懈&一m删胆r z矿n一一删g删咖一 叭一矗 o o 产 沪：互 k c n c n 矿 序言 概率论是从数量上研究随机现象的规律性的学科它在自然科学、技术科学、 管理科学中都有着广泛的应用，因此从上个世纪三十年代以来，发展甚为迅速，而 且不断有新的分支学科涌出概率极限理论就是其主要分支之一，也是概率统计学 科中极为重要的理论基础前苏联著名概率论学者g n e d e n k o 和k o l m o g r o v 曾说过： “概率论的认识论的价值只有通过极限定理才能被揭示，没有极限定理就不可能去 理解概率论的基本概念的真正含义”经典极限理论是概率论发展上的重要成果， 而对时间序列中最具代表性的模型之一一一线性过程各类极限性质的研究是近代概 率极限理论研究中的方向之一，本文就是对线性过程的弱极限性质、强极限性质以 及在变点中的应用进行了深入的研究 线性过程在时间序列分析中具有非常重要的地位，有大量文献都讨论了线性过 程的各种性质，它对于经济、工程及物理学科都有着极其广泛的应用因此很多学 者致力于研究线性过程的误差项满足不同条件时线性过程的极限定理例如当误差 项为鞅差随机变量序列( f a k h r e z a k e r i ( 1 9 9 7 ) ) ，误差项为强混合随机变量序列( b i r k e l ( 1 9 9 3 ) ) 以及误差项在线性坐标正相依( l p q d ) 条件限制下( t a e - s u n g ( 2 0 0 1 ) ) ，已经得 到7 相应的关于线性过程的中心极限定理( c l ) 和泛函中心极限定理( f c l t ) 在一 些适当的条件下，对于线性过程还有很多极限结果比如，b u r t o n 和d e h l i n g ( 1 9 9 0 ) 得到了线性过程的大偏差原理，y a n g ( 1 9 9 6 ) 建立了中心极限定理以及重对数律， l ie ta l ( 1 9 9 2 ) 和z h a n g ( 1 9 9 6 ) 都得到了完全收敛性方面的结果 本文主要是对由各种相依随机变量产生的线性过程的各类极限性质进行了讨 论众所周知，现实生活中发生的事情大多并不是互不相干的，而是彼此之间具有 某糟联系的正确地用数学方法描述这种相关性，就可以用数学一这一精确的工 具采对事物进行精确地研究由此可见，研究非独立的随机变量序列有着十分深刻 的理论和实际意义其实，关于相依随机变量的极限性质的研究可以追溯到二十世 纪二、三十年代，当时就有b e r n s t e i n ( 1 9 2 7 ) 、h o p f ( 1 9 3 7 ) 和r o b b i n s ( 1 9 4 8 ) 等学者 相继对其进行研究一直到现在，仍有新的相依变量类型及其结果层出不穷 本文的第一章就线性过程弱收敛方面的结果进行了深入的讨论其中第二节主 要讨论了由渐近线性坐标负相依( a l n q d ) 随机变量序列产生的平稳线性过程，获 得了一个泛函中心极限定理第三节则是证明了只要满足其中一个关键的不等式， 线性过程的误差项在很多种相依条件的假设下，都可使与第二节相同的泛函中心极 限定理成立并且第三节还叙述了一个简单应用，就是将此结果应用于计量经济中 儿 一种很常用过程一一单位根过程检验中统计量的极限分布然而往往在许多实际问 题中，误差项不是一个简单的实值随机变量，常常是一个过程第四节讨论的就是 一列由p - 混合的过程序列产生的线性过程，得到了部分和的弱收敛性、两参数随机 过程的弱收敛性以及随机足标和的弱收敛 在第二、三章中，我们讨论了关于线性过程的强极限性质在第二章中，主要 研究由两种较为常见的相依随机变量序列产生的线性过程的强极限性质完全收敛 性的概念是由h s u 和r o b b i n s ( 1 9 4 7 ) 引入的，e r d 6 s ( 1 9 4 9 ，1 9 5 0 ) 和s p i t z e r ( 1 9 5 6 ) 也作了相应的研究到了二十世纪六十年代，x a t z ( 1 9 6 3 ) 及b a u m 和k a t z ( 1 9 6 5 ) 推广了他们的结果，得到如下结论：设x l ，为i i d 随机变量序列，记 品= 饕l 玛令p e n 珈) 0 n = 1 戚立的充要条件为e i x l l 7 0 。l o g ，。? z 冁i 兰e 何面) o 。 成立的充要条件为e x l = 0 且e 2 。随后，又产生了各种各样的上述结果的推 广形式最近，c h e n ( 1 9 7 8 ) 及g u t 和s p f i t a r u ( 2 0 0 0 a ) 司论了当e 0 时i id 随 机要量b a u m k a t z 及d a v i s 大数律的精确渐近性( 定理2 t 3 ) 国内，王岳宝、张立 新等在精确渐近性方面也取得了很多成果而对于线性过程，z h a n g ( 1 9 9 6 ) 得到了 b a u m k a t z 大数律形式的完全收敛性的结果( 定理2 a ) ，关于线性过程精确渐近性 方面的结果非常之夕因此我们在第二章的第二节中，证明了定理2 b 类型的完全 收敛性的精确渐近结果对于在妒一混合或n a 两种相依条件下的线性过程也同样成 立另一方面，重对数律是概率极限理论中极为深刻的结果，它是强大数律的精确 化，对它的研究一直为众多的学者所关注和重视，并已经得到了许多经典的结论最 近，g u t 和s p a t a r u ( 2 0 0 0 b ) 还发表了一篇关于j id 随机变量序列的重对数律的精 确渐近性质的文章，结果见定理2 c 而线性过程若于重对数律的精确渐近性方面的 结果也非常之少因此第三节中，我们将证明线性过程在一混合或n a 两种相依条 件下关于类似定理2 c 的重对数律的精确渐近性结果也同样成立将、佤面可砸瓦替 换成、元硒后，本节同时证明了类似定理2 d 的对数律的精确渐近结果也成立 最后，矩完全收敛性问题是由c h o w ( t 9 8 8 ) 提出的，并讨论了i i d 随机变量序列的 矩完全收敛性( 定理2 e ) 王定成和苏淳( 2 0 0 2 ) 讨论了b 值独立同分布随机变元序 i i i 列的矩完全收敛性则第四节中我们讨论了由n a 随机变量序列产生的线性过程关 于矩的完全收敛性 由于在c h o w 等人的启发下，蒋烨的博士论文( 2 0 0 4 ) 讨论了i i d 随机变量序列 关于矩的完全收敛及重对数律方面的精确渐近性质那么在蒋烨的博士论文( 2 0 0 4 ) 的启发下，第三章中我们主要考虑矩形式的精确渐近结果对线性过程是否也同样成 立第二节中我们得到了由i i d 随机变量序列产生的线性过程关于矩形武完垒收 敛的精确渐近结果第三节则得到了关于矩的重对数律的精确渐近结果 在第四章中，我们主要讨论了线性过程在变点方面的一点应用一般地说，变 点就是“模型中的某个或某些量起突然变化之点”这种突然变化往往反映事物的某 种质的变化，在自然界、社会及各种领域中很常见且具有重要性，虽然从统计学发 展的角度看，变点的统计分析这个课题还不能说已发展得很充分成熟了( 它迄今只 有四十余年的历史) ，但变点问题在许多应用中都非常重要，因此针对一些常见的问 题发展了若干行之有效的方法，对应用家来说不失为一个有用的工具一旦交点被 合适定位后，原始模型就需要修改，以便得到更好的数据解释以及更精确的预测 因此，趸点估计在经济建模中起了很重要的作用。许多统计与经济文献中都包含了大 量关于变点问题的著作近期比较全面的文献可以参见c s 6 r 9 6 和h o r v a t h ( 1 9 9 7 ) 单 交点均值变动估计的问题是其中一个热门的研究方向，引起了学术界的长期关注 s e n 和：s r i v a s t a v a ( 1 9 7 5 a ，b ) ，h a w k i n s ( 1 9 7 7 ) ：w o r s l e y ( 1 9 7 9 ，1 9 8 6 ) ，j a m e se cd t ( 1 9 8 7 ) 以及s r i v a s t a v a 和w o r s l e yf 1 9 8 6 ) 都考虑的是对一列正态序列提出单变点均值变动 的检验h i n k l e y ( 1 9 7 0 ) ，b h a t t a c h a r y a ( 1 9 8 7 ) ，y a o ( 1 9 8 7 ) 和其他很多学者考虑的是 一列独泣变量的单变点估计对于序列相关的数据，p i c a r d ( 1 9 8 5 ) 对阶已知的高斯 自回归过程进行了估计以上这些作者考虑的都是极大似然估计( r l e ) ，本章主要 是由最小二乘估计( l s ) 方法来讨论线性过程未知变点估计的极限性质线性过程 的l s 方法是由b e d ( 1 9 9 4 ) 提出来的这个方法不同于m l e ，无须对模型中的随机误 差的分布有特定的假设，而且计算相对简便 b e d ( 1 9 9 4 ) 用l s 方法考虑了由一id 随机变量序列产生的线性过程的单变点估计然而对相依随机交量序列变点的研究 无疑是学术界更加感兴趣的问题第二节就是考虑在相依假设下线性过程单交点估 计的极限性质在两方面改进了b e d ( 1 9 9 4 ) 的结果：( i ) 将条件罂o l 。，i o 。减 弱到器。协i o o ，( i i ) 在更多的相依假设下用l s 估计得到了类似的极限性质，许 多早期的努力都致力于单一变点的估计相对而言，涉及到多变点的文献则较少 当交点数目未知时多交点问题更加复杂，因此更少的文章致力于此问题、许多作者 只考虑独立随机变量序列的特殊情况特别的，y a o ( 1 9 8 8 ) 由s c h w a r z 准则估计了 独立正态序列均值的交点数目但是近期相依观测方面的研究也引起了学术界的广 j v 泛关注例如b a i ( 1 9 9 4 ) ；d a v i se ta 1 ( 1 9 9 5 ) ；h o r v g l _ t h ( 1 9 9 3 ；1 9 9 7 ) ；p i c a r d ( 1 9 8 5 ) ；e p p s ( 1 9 8 8 ) 以及b a i 和p e r r o n ( 1 9 9 8 ) 等第三节就是讨论了各种相依假设下线性过程 多要点的相合性以及相合速度当交点数日已知时，主要运用了b a i ( 3 9 9 4 ) 提出的 l s 方法来估计，趸点而变点数目未知的情况下，则是通过惩罚最小二乘方法来估 计的此万法根据惩罚性可以视为模型选择问题( 参见s c h w a r z ( 1 9 7 8 ) ) 利用弱或强 不变原理对观测序列进行逼近检验是交点分析中一种很重要的工具当弱不变原理 成丑时，h o r v & t h ( 2 0 0 0 ) 讨论了变点估计的逼近c u s u m 检验第四节的主要目的 就是在弱不变原理成立的条件下，对长程记忆过程进行均值和方差的基于最小二乘 残差的逼近c u s u m 检验 值得一提的是，本文所涉及的关于重对数律的精确渐近性质以及长程记忆过程 的极限性质的课题是近几年极限理论中的热门课题且文中有些结果所需的条件已 经达到与独立同分布序列相关已知结果对等的程度，如第二章中的关于由妒一混合、 n a 序列产生的线性过程的结论大多达到了最一般的独立情形完全对等的程度而 所加条件在独立情形时是充分必要的，因此在我们讨论的情形中，这些条件也是不 可减弱的，关于线性过程的条件也是一般性的然而，限于个人的学识能力，文中 仍有一些结果还没达到最佳的程度 另外，本文的所有结果都已分成独立的文章投稿到国内外的各种刊物上，其中 的一部分巴被发表或正式录用，详细情况可参见文末附表最后，田子作者的学识 浅薄，文中难免会存在不当以至谬误之处，敬请各位不吝批评、指正 p r e f a c e v t h e o r yo fp r o b a b i l i t yi sas c i e n c eo fq u a n t i t a t i v e l ys t u d y i n gr e g u l a r i t yo fr a n d o m p h e n o m e n a ) w h i c hi se x t e n s i v e l ya p p l i e di nn a t u r a ls c i e n c e ，t e c h n o l o g i c a ls c i e n c e ，s o c i a l s c i e n c ea n dm a n a g e r i a ls c i e n c ee t eh e n c e ，i th a sb e e nd e v e l o p i n gr a p i d l ys i n c e1 9 3 0 sa n d m a n yn e wb r a n c h e sh a v ee m e r g e df r o mt i m et ot i m e l i m i tt h e o r yi so n eo ft h eb r a n c h e s a n da l s o8 1 1i m p o r t a n tt h e o r e t i c a lb a s i so fs c i e n c eo fp r o b a b i l i t ya n ds t a t i s t i c s ，a ss t a t e d i nt h ec l a s s i c a lb o o k ”l i m i td i s t r i b u t i o n sf o rs u n l so fi n d e p e n d e n tr a n d o mv a r i a b l e s ”( 1 9 4 9 ) b yb vg e n d e n k oa n dan k o l m o g r o v ”t h ee p i s t e m o l o g i c a lv a l u eo ft h et h e o d ro fp r o b a b i l i t yi sr e v e a l e do n l yb yl i m i tt h e o r e m s w i t h o u tl i m i tt h e o r e m si t i si m p o s s i b l et o u n d e r s t a n dt h er e a lc o n t e n to ft h ep r i m a r yc o n c e p to fa uo u rs c i e n c e s t h ec o n c e p to f p r o b a b i l i t y c l a s s i c ml i m i tt h e o r yi st h es i g n i f ya c h i e v e m e f f ti nt h ep r o g r e s so fp r o b a - b i l i t y t h el i n e a rp r o c e s s e sa r ct h em o s tr e p r e s e n t a t i v em o d e li nt i m es e r i e s s t u d b d n g v a r i o u sl i m i t i n gp r o p e r t i e so fl i n e a rp r o c e s s e si so n eo fo r i e n t a t i o n so ft h ec u r r e n ts t u d y o fl i m i tt h e o r y s o m es i g n i f i c a n tr e s u l t so ft h el i n e a rp r o c e s s e sa b o u tw e a kl i m i tp r o p e r - t i e s ，s t r o n gl i m i tp r o p e r t i e sa n da p p l i c a t i o ni nc h a n g e - p o i n t sp r o b l e mh a v eb e e nr e a c h e d t h r o u g hd e e pr e s e a r c hi nt h i sd i s s e r t a t i o n t h el i n e a rp r o c e s s e s & r eo fs p e c i a li m p o r t a n ti nt i m es e r i e sa n a l y s i sa n dt h e ya r i s ei n aw i d ev a r i e t yo fc o n t e x t s a p p l i c a t i o n st oe c o n o m i c s ，e n g i n e e r i n ga n dp h y s i c a ls c i e n c e s a r ee x t r e m e l yb r o a da n dav a s ta m o u n to fl i t e r a t u r ei sd e v o t e dt ot h es t u d yo ft h el i m i t i n g t h e o r e m sf o rt h el i n e a rp r o c e s s e su n d e rv a r i o u sc o n d i t i o no ne r r o r sf o re x a m p l e ，u n d e rt h e m a r t i n g l ed i f f e r e n c ea s s u m p t i o no ne r r o r ，u n d e rt h es t r o n gn f i x i n gc o n d i t i o no ne r r o ra n d u n d e rl p q dc o n d i t i o no ne r r o r ，t h ec e n t r a ll i m i tt h e o r e m ( c l t ) a n dt h ef u n c t i o n a lc e n t r a l l i m i tt h e o r e m ( f e l t ) o ft h el i n e a rp r o c e s s e sa r ep r o v e du n d e rs o m es u i t a b l ec o n d i t i o n s ， o t h e rl i m i t i n gr e s u l t sh a v eb e e no b t a i n e df o rt h el i n e a rp r o c e s s e sf o re x m n p l e ，b u r t o n a n dd e h l i n g ( 1 9 9 0 ) h a v eo b t a i n e dal a r g ed e v i a t i o np r i n c i p l ef o rt h el i n e a rp r o c e s s e s ，y a n g ( 1 9 9 6 ) h a se s t a b l i s h e dc l ta n dt h el a wo ft h ei t e r a t e dl o g a r i t h m ( l i l ) ，l is ta l ( 1 9 9 2 ) a a dz h a n g ( 1 9 9 6 ) h a v eo b t a i n e dt h er e s u l t so nt h ec o m p l e t ec o n v e r g e n c ee t c s o m ek i n d so fl i m i t i n gp r o p e r t i e so ft h el i n e a rp r o c e s s e su n d e rv a r i o u sd e p e n d e n c e a s s u m p t i o n sa r ed i s c u s s e di nt h i sp a p e ra si sk n o w nt oa l l ，e v e r y t h i n gh a sc o r r e l a t i o n s b e t w e e no n ea n o t h e ri nt h ew o r l d i fw ec a np r o p e r l yd e s c r i b et h e s ec o r r e l a t i o n sb ym a t h e i n a t i e s ，w ec a na n a l y z es u b j e c t sa c c u r a t e l yb yt h ep r e c i s et o o l 一一m a t h e m a t i c sh e n c e v i o n ec a l ls e et h a t ，t h es t u d , o nd e p e n d e n tr a n d o mv a r i a b l e sh a sm o m e n t o u ss i g n i f i c a n c e i nf a c t ，t h es t u d ) , o nt h el i m i tp r o p e r t i e so fd e p e n d e n tr a n d o mv a r i a b l e sm a yb ed a t e d b a c kt o1 9 2 0 sa n d1 9 3 0 s a tt h a tt i m e ，s c h o l a r ss u c ha sb e r n s t e i n ( 1 9 2 7 ) ，h o p f ( 1 9 3 7 ) a n dr o b b i n s ( 1 9 4 8 ) h a dc a r r i e do ns t u d i e so nt h i st o p i ct i l ln o w ，n e wk i n d so fd e p e n d e n t r a n d o mv a r i a b l e sa n dt h e i rc o r r e s p o n d i n gc o n c l u s i o n sh a v ee m e r g e di nae n d l e s ss t r e a m t h ef i r s tc h a p t e rp r e s e n t sai n s i g h t f u ld i s c u s s i o no v e rt h er e s u l t sa b o u tw e a kc o n v e r g e n c eo ft h el i n e a rp r o c e s s e s i nt h es e c o n ds e c t i o no ft h i sc h a p t e r ) t h es t a t i o n a r yl i n e a r p r o c e s s e sg e n e r a t e db ya s y m p t o t i c a l l yl i n e a rn e g a t i v eq u a d r a n td e p e n d e n t ( a l n q d ) a r e c o n s i d e r e da n dt h ef c l ti so b t m n e dt h et h i r ds e c t i o nc o n s i d e r sam o r eg e n e r a ll i n e a rp r o c e s sw i t hd e p e n d e n te r r o r s i ti ss h o w nt h a ti ft h ed e p e n d e n te r r o r ss a t i s f yak e y i n e q u a l i t y ，t h ef c l ti sa l s ot r u e a sas i m p l ea p p l i c a t i o n lt h el i m i td i s t r i b u t i o no ft h e s t a t i s t i c si nt e s t i n gt h eu n i t r o o tp r o c e s si so b t a i n e dt h eu n i t r o o tp r o c e s si sai m p o r t a n t p r o c e s si nt h e o r yo fe c o n o m e t r i c sh o w e v e r jt h ee r r o ri n v o l v e di nm a n yp r a c t i c a lp r o b l e m si su s u a l l yap r o c e s sr a t h e rt h a nas i n p i er e a lr a n d o mv a r i a b l et h ef o r t hs e c t i o n c o p e sw i t hs u c hal i n e a rp r o c e s si nq u e s t i o n ，w h i c hg e n e ia t e df r o mas e q u e n c eo fp - r r t i x i n g p r o c e s s e s ，a n do b t a i n st h ew e a kc o n v e r g e n c ea b o u tt h cp a r t i a ls u m so ft h i sp r o c e s s t w o p a r a m e t e r ss t o c h a s t i cp r o c e s sa n dt h er a n d o ms l i m t h es e c o n da n dt h i r dc h a p t e r sa r ea b o u tt h es t r o n gl i m i tp r o p e r t i e so ft h el i n e a r p r o c e s s e s ，a n dt h es e c o n do n em a i n l yc o n s i d e r st h es t r o n gl i m i tp r o p e r t i e so ft h el i n e a r p r o c e s s e sg e n e r a t e db yt w oc o m m o nd e p e n d e n tr a n d o mv a r i a b l e st h er e s u l t so nt h i s t w oc k a p t e r sa r er e l a t e dt ot h ew e l l k n o w nc o m p l e t ec o n v e r g e n c e e r d s s ( 1 9 4 9 ，1 9 5 0 ) a n ds p i t z e r ( 1 9 5 6 ) h a v ec a r r i e do u tt h er e l e v a n tr e s e a r c ho nt h ec o n c e p to ft h ec o m p l e t e c o n v e r g e n c e ，i n t r o d u c e df i r s tb yh s ua n dr o b b i n s ( 1 9 4 7 ) ，a n d 1 a t e ri nt h e1 9 6 0 s ，x a t z ( 1 9 6 3 ) a n db a n t ua n dk a t z ( 1 9 6 5 ) p o p u l a r i z e dt h eo u t c o m ea n dc a m et ot h ef o l l o w i n g c o n c l u s i o n ，l e t l 曼p m 1 加) 0 t = 1k ；1 h o l d s ，i fa n do n l y 讦引x 1i t 0 l o g n p i 地l r 湎g n o 。 n = l 。 k = l h e m s ，i fa n do n l yi fe x l = 0a n de x 2 o 。b a ie ta 1 ( 1 9 8 5 1e s t a b l i s h e dam o r eg e n e r n r e s u l to nt h i st o p i c s u b s e q u e n t l yf o l l o w e db yav a r i e t yo fw a y st op o p u l a r i z ef u r t h e r - n l o r e ，c h e n ( 1 9 7 8 ) a n dg u ta n d $ p a t a r u ( 2 0 0 0 a ) h a v es t u d i e dt h ep r e e n ea s y m p t o t i c s v 儿 o fiidr a n d o mv a r i a b l e si nt h eb a n m k a t za n dd a v i sl a w so fl a r g en u m b e r s e 0 ( t h e o r e m2b ) s o m ec h i n e s es c h o l a r sh a v ea l s os t u d i e dt h ep r e c i s ea s y m p t o t i c s a st o t h el i n e a rp r o c e s s e s z h a n g ( 1 9 9 6 ) h a v eo b t a i n e dt h er e s u l to ft h ec o m p l e t ec o n v e r g e n c ei n t h ef o r mo fb a n m - k a t za n dd a v i sl a w s ( t h e o r e m2a ) h o w e v e r ，t h ep r e c i s ea s y m p t o t i c s r e s u l t sa b o u tt h el i n e a rp r o c e s s e sa r ev e r yf e wi ns e c t i o n2 ，c h a p t e r2 t h ep u r p o s ei st o s h o wt h a tt h ek i n do fp r e c i s ea s y m p t o t i c sr e s u l ts u c ha st h e o r e m2 ba l s oh o l d sf o rt h e l i n e a rp r o c e s su n d e rl ，o - m i x i n ga n dn ad e p e n d e n c ea s s u m p t i o n so nt h eo t h e rh a n d ，i ti s w e l l - k n o w nt h a tl i li sav e r yp r o p o u n d i n gr e s u l ti np r o b a b i l i t yl i m i tt h e o r yi t i st h e p r e c i s ep h e n o m e n o no ft h es t r o n gl a wo fl a r g en u m b e r sm a n ) , s c h o l a r sh a v ea l w a y sp a i d c l o s ea t t e n t i o nt ot h es t u d ) ro fl i la n dal o to fc l a s s i c a lc o n c l u s i o n sh a v eb e e n & a t r n r e c e n t l y ，c u ta n ds p g t a r u ( 2 0 0 0 b ) p u b h s h e da na r t i c l er e g a r d i n gt h ep r e c i s ea s y m p t o t i c s i nl i lo fi idr a n d o mv a r i a b l e s ( s e et h e o r e m2 c ) b u tf e wr e s u l t sf o rt h ep r e c i s ea s m y p - t o t i c si nl i la b o u tt h el i n e a rp r o c e s s e sa r ek n o w n i ns e c t i o n3 ，w es h a l lp r o v et h a tt h e k i n do fp r e c i s ea s y m p t o t i c sr e s u l to nl i ls u c ha st h e o r e m2ca l s oh o l d sf o rt h el i n e a r p r o c e s sb o t hu n d e ri | o - m i x i n ga n dn ad e p e n d e n c ea s s u m p t i o n sb yr e p l a c i n gv 铜两i 丽 b y nl o gn ，t h i ss e c t i o na l s og i v e st h er e s u l tf o rt h ep r e c i s ea s y m p t o t i c so nt h el a wo ft h e l o g a r i t h ms u c ha st h e o r e m2 d t h em o m e n tt y p ec o n v e r g e n c eo ft h ec o m p l e t ec o n v e r g e n c ew a si n t r o d u c e df i r s tb y c h o wc _ 1 9 s 8 ) 1a n d t h i sc o n v e r g e n c eo f l idr a n d o m v a r i a b l e s w a s d i s c u s s e d ( t h e o r e m2 e ) t h e nw a n ga n ds u ( 2 0 0 2 ) e s t a b l i s h e dt h em o m e n tc o n v e r g e n c eo fi idr a n d o me l e m e n t s o nb a n a c hs p a c ei ns e c t i o n4 ，t h em o m e n tc o n v e r g e n c eo ft h el i n e n rp r o c e s su n d e r n ad e p e n d e n c ea s s u m p t i o nw i l lb es t u d i e d e n l i g h t e n e db yc h o w sr e s u l t j i a n g ( 2 0 0 4 ) d i s c u s s e dt h ep r e c i s ea s y m p t o t i c sp r o p e r t i e so nm o m e n tc o n v e r g e n c ea n dl i la b o u ti id r a n d o mv a r i a b l e s t h e n ) w i t ht h eh e l po fj i a n g sr e s e a r c h w em a i n l yc o n s i d e rw h e t h e r t h ep r e c i s ea s y m p t o t i c so nm o m e n ta b o u tt h el i n e a rp r o c e s s e sa l s oh o l di nc h a p t e r3 i ns e c t i o n2 ：w eo b t a i nt h er e s u l to ft h ep r e c i s ea s y m p t o t i c so nm o m e n tc o n v e r g e n c ef o r t h el i n e a rp r o c e s s e so fiid r a n d o mv a r i a b l e si ns e c t i o n3 ，t h ep l e c i s ea s y m p t o t i c so n m o m e n tl i li sa l s os t u d i e d t h ef o u r t hc h a p t e ri so nt h ea p p l i c a t i o n so ft h el i n e a rp r o c e s s e si nc h a n g e - p o i n t p r o b l e m sg e n e r a l l ys p e a k i n g ，c h a n g e - p o i n ti s “t h ep o i n tw h i c hs o m eq u a n t i t i e ss u d d e n l yc h a n g ei nt h em o d e l s ”s u c has u d d e nc h a n g ei su s u a l l yaq u a l i t a t i v ec h a n g eo f t h i n g s ，w h i c hi sc o m m o nb u ti m p o r t a n ti nn a t u r e ，s o c i e t ya n dv a r i o u sf i e l d s a l t h o u g h ， f r o mt h es t a t i s t i c a lv i e w p o i n t ，t h ep r o j e c to fs t a t i s t i c a la i a l y s i so fc h a n g c - p o i n t sc a nn o t v 儿l b ec o n s i d e r e dt h em o s td e v e l o p e d ，i ti sv i t a li nm a n ya p p l i c a t i o n sa sar e s u l t ，s e v e r a l e f f e c t i v ew a y st oc o m m o np r o b l e m sa r ee m e r g e d w h i c hi su s e f u lf o rt h ea p p l i c a t i o n so n c e ac h a n g ep o i n ti sp r o p e r l yl o c a t e d ，t h eo r i g i n a lm o d e ls h o u l db em o d i f i e da c c o r d i n g l yt o p r o v i d eb e t t e ri n t e r p r e t a t i o no fd a t aa n dm o r ea c c u r a t ef o r e c a s t s t h e r e f o r ec h a n g ep o