大数定理与中心极限定理的关系

1、大数定律与中心极限定理的关系 延川中学 白江平1 引 言概率论中关于独立随机变量序列的极限理论,已相当完整,各种问题已有了令人满意的回答.但由于一般教材中,特别是工科教材,只介绍了几个最简单的基本定理.至于大数定律的几个常见定律之间有什么关系;中心极限定理的几个常见定理之间有什么关系;以及大数定律的几个常见定律与中心极限定理的几个常见定理之间又有什么关系?还未得到系统地总结.本文将对以上提出的问题进行详细的探讨,最后总结出大数定律与中心极限定理的一般关系.2 大数定律与中心极限定理的关系2.1 大数定律与中心极限定理的概念大数定律: 设为随机变量序列, 存在,记: ,若依概率收敛于零,即对于任

2、意的,有 .则称服从大数定律（弱大数定律）. 中心极限定理: 设为随机变量序列,存在,记.若依概率收敛于标准正态分布的随机变量,即对于任意实数,有 .则称服从中心极限定理.了解了大数定律与中心极限定理的概念,容易产生这样的问题:大数定律与中心极限定理之间究竟有什么关系?下面将通过讨论来回答这个问题.2.2 大数定律与中心极限定理的关系首先给出三个定理:定理1(格涅坚克) 设有相互独立的随机变量序列.则对0,的充要条件是.定理2(马尔科夫) 随机变量序列.若,则对，有.定理3（费勒）对相互独立随机变量序列,若常数,使,且,().则服从中心极限定理.设为相互独立的随机变量序列.以下在中,令取不同的

3、值,以说明不同的情形.2.2.1 服从大数定律，但不服从中心极限定理令=0,即,则,可知.因.由马尔科夫定理知,大数定律成立,但中心极限定理不成立.这是因为 若服从中心极限定理,则取,有.当充分靠近0时,.这就出现了矛盾,所以中心极限定理不成立. 服从中心极限定理，但不服从大数定律取,可知,又,即，得,又.则由费勒定理知中心极限定理成立,但不服从大数定律.这是因为 为凸函数,由琴生不等式得,而，由格涅坚克定理知,不服从大数定律. 大数定律与中心极限定理都不服从取,可知,当充分大时,有,即,则,得,故.可知不服从中心极限定理.又 .由格涅坚克定理知不服从大数定律. 大数定律和中心极限定理都服从

4、若为同分布且有有限期望及大于零的方差,则由大数定律和中心极限定理的概念可知两者都服从.这时有.但括号中的事件概率究竟多大?大数定律未能回答.而根据中心极限定理有，其中,这样看来在所假定的条件下,中心极限定理比大数定律更精确. 下面对三个常见的大数定律与三个常见的中心极限定理的关系进行探讨. 3 三个常见的大数定律与三个常见的中心极限定理的关系定理4(切比雪夫定理) 设独立随机变量序列的数学期望与方差,都存在，并且方差是一致有上界的,即存在某一常数,使得.则对于任意的正数,有.定理5(辛钦大数定理) 设独立随机变量序列是独立同分布的随机变量序列,若期望存在.则对于任意的,有成立.定理6(伯努利定

5、理) 在独立实验序列中,设事件的概率,则事件在 次实验中发生的频率为,当实验的次数时,按概率收敛于的概率;即对于,有.定理7(林德伯格定理) 设独立随机变量,满足林德伯格条件:对于任意的正数,有,其中是随机变量的概率密度,.则当时,有,其中z是任何实数.定理8(列维定理)  设相互独立,服从同一分布,并且具有数学期望和方差：，则当时,它们和的极限分布是正态分布,即,其中z是任意实数.定理9(棣莫弗拉普拉斯定理) 设在独立实验序列中,事件在各次实验中发生的概率为,随机变量表示事件在次实验中发生的次数,则有. 下面就以上几个常见定理的关系加以说明.根据以上定理的内容,可以得到下图:（:表

6、示A能推出B.没有线和箭头表示二者由于条件不同,无法推出）切比雪夫定理Chebyshev 林德伯格定理Linderbery3.3 3.123.53.111辛钦大数定理列维定理Levy 3.83.73.999993 3.43.103.23.1 拉普拉斯定理 Laplace伯努利定理Bernoulli 3.6 下面将对以上图表中成立的关系加以证明或说明.3.1 切比雪夫定理推出伯努利定理证明 设随机变量表示事件在第次实验中发生的次数（）.则在课本中,已知这些随机变量相互独立,服从相同的“”分布,并且有数学期望与方差: 存在,由切比雪夫定理的推论得 （1） 易知就是事件在次实验中发生的次数,由此可知

7、.所以由（1）得.3.2 辛钦大数定理推出伯努利定理说明 根据辛钦大数定理的内容和伯努利定理的内容可知,伯努利定理是辛钦大数定理的特殊情况.故辛钦大数定理可以推出伯努利定理.3.3 林德伯格定理推出列维定理证明 由于独立随机变量服从相同的分布,我们有 .因为方差存在,所以显然有 （2）由（2）就证明了林德伯格条件成立.于是,由林德伯格定理可知,等式 成立.3.4 列维定理推出拉普拉斯定理证明 设随机变量表示事件在第次实验中发生的次数,则这些随机变量相互独立,服从相同的“”分布,并且有数学期望及方差：,.显然,事件在次实验中发生的次数,所以由列维定理得,等式 成立.3.5 林德伯格定理推出拉普拉

8、斯定理说明 因为林德伯格定理可以推出列维定理,而列维定理又能推出拉普拉斯定理.所以林德伯格定理可以推出拉普拉斯定理.3.6 伯努利定理与拉普拉斯等价说明 二者条件等价,所以可以相互推出.3.7 列维定理推出伯努利定理说明 列维定理可以推出拉普拉斯定理.而拉普拉斯定理与伯努利定理等价,故列维定理可以推出伯努利定理.3.8 林德伯格定理推出伯努利定理说明 林德伯格定理可以推出列维定理,而列维定理可以推出伯努利定理.故林德伯格定理可以推出伯努利定理.3.9 切比雪夫定理推出拉普拉斯定理说明 切比雪夫定理可以推出伯努利定理,而伯努利定理与拉普拉斯等价.故切比雪夫定理可以推出拉普拉斯定理.3.10辛钦大

9、数定理推出拉普拉斯定理说明 辛钦大数定理可以推出伯努利定理,而伯努利定理与拉普拉斯等价.故辛钦大数定理可以推出拉普拉斯定理.3.11 列维定理推出辛钦大数定理说明 拉普拉斯定理可以推出辛钦大数定理,而列维定理可以推出拉普拉斯定理.故列维定理可以推出辛钦大数定理.3.12 林德伯格定理推出辛钦大数定理说明 林德伯格定理可以推出列维定理,而列维定理可以推出拉普拉斯定理.故林德伯格定理推出辛钦大数定理.4 结论总结大数定律是大量的随机变量平均值的概率收敛,而中心极限定理是大量相互独立的“均匀小”的随机因素平均值标准化后的分布.总结起来分别得到以下几种情况:4.1 大量的随机变量平均值的概率收敛于某个常数,但大量相互独立的“均匀小”的随机因素的和标准化后不服从正态分布.即 成立,而 不成立.4.2 大量的随机变量平均值的概率收敛于某个常数,但大量相互独立的“均匀小”的随机因素的和标准化后服从正态分布.