Chap5大数定律和中心极限定理

第5章极限定理第一节大数定律第二节中心极限定理第一节大数定律我们已经知道，一个随机事件发生的频率随试验的次数n的增大而呈现出稳定性。事实上，大量的随机现象的平均结果也具有稳定性。概率论中用来阐明大量随机现象平均结果的稳定性的一系列定理，称为大数定律（lawoflargenumber).

设Y为连续型随机变量，概率密度函数为f(y).

因为y只取非负值，则当y<0时，有f(y)=0.对任意正数ε，有证明：引理1（马尔科夫Markov不等式）若Y为只取非负值的随机变量，则对任意的正数ε，有当Y是离散型随机变量时同理可证。

在马尔科夫不等式中，令Y=(X-μ)2,ε换成ε2，则有证明：引理1（马尔科夫Markov不等式）若Y为只取非负值的随机变量，则对任意的正数ε，有定理1（切比雪夫Chebyshev不等式）设随机变量X具有期望E(X)=μ，方差D(X)=σ2,则对任意的正数ε，有说明：常用切比雪夫不等式的等价形式上式说明：当X的方差越小时，事件{|X-E(X)|<ε}发生的概率就越大，即X的取值就基本集中在它的期望附近。无论X的分布已知还是未知，只要其期望μ和方差σ2

已知，即可估计概率值P(|X-μ|<ε)或P(|X-μ|≥ε).例如

以X表示1000次重复独立试验中事件A发生的次数，则X~B(1000,0.5).因此解：例1设在一次试验中事件A发生的概率是0.5，利用切比雪夫不等式估计：在1000次重复独立试验中A发生的次数在400至600之间的概率。由切比雪夫不等式可得即在1000次重复独立试验中，A

发生的次数在400至600之间的概率至少为0.975.定义1若对于任意自然数n>1,X1,X2,…,Xn相互独立，则称随机变量序列X1,X2,…,Xn,…是相互独立的。注：上式的一个等价形式为定义2设X1,X2,…,Xn,…是相互独立的随机变量序列，若对任意正数ε，均有则称随机变量序列{Xn}依概率收敛于随机变量X，记为或定理2（马尔科夫Markov大数定律）设X1,X2,…,Xn,…是一个随机变量序列，若对所有的n≥1,方差D(Xi)存在，且则对任给的正数ε，有注：若令即有证明：由可知，对任给正数ε，由切比雪夫不等式可得即推论2（切比雪夫大数定律）设X1,X2,…,Xn,…是相互独立的随机变量序列，若存在常数C，使得Xi的方差有公共上界，即则对任给的正数ε，有特别地，如果X1,X2,…,Xn,…有相同的期望E(X),则有由独立性和有界性可知证明：再由定理2即得证。推论3（泊松大数定律）设X1,X2,…,Xn,…是相互独立的随机变量序列，Xi有分布律则对任给的正数ε，有由于证明：再由推论2即得证。推论4（伯努利大数定律）设μn是n次伯努利试验中事件A发生的次数，p是事件A在每次试验中发生的概率，则对任给的正数ε，有记证明：再由推论3即得证。则Xi的分布律是说明：该定律表明事件A发生的频率依概率收敛于事件A的概率p.它以严格的形式表达了频率的稳定性，表明在实际应用中可通过多次重复一个试验，用频率近似作为事件A的概率p.说明：上式的一个等价形式为此定律表明：在相同的条件下重复观测n次X，当n充分大时，“观测值的算术平均值接近于期望”是一个大概率事件。推论5（辛钦大数定律）设X1,X2,…,Xn,…是独立同分布的随机变量序列，若它们的数学期望E(X)存在，则对任给的正数ε，有证明：略。第二节中心极限定理客观背景：客观实际中，许多随机变量是由大量相互独立的偶然因素的综合影响所形成，每一个微小因素，在总的影响中所起的作用是很小的，但总起来，却对总和有显著影响，这种随机变量往往近似地服从正态分布。概率论中有关论证独立随机变量的和的极限分布是正态分布的一系列定理称为中心极限定理。定理1（林德伯格-列维Lindeberg-Levy定理）设X1,X2,…,Xn,…是独立同分布的随机变量序列，且它们具有有限的期望E(Xi)=μ和方差D(Xi)=σ2>0，i=1,2,…,则对任何实数x，随机变量满足如下极限式证明：略。说明：此定律表明：随机变量序列Y1,Y2,…,Yn,…的分布函数序列F1(x),F2(x),…,Fn(x),…的极限分布函数是Φ(x),即Yn的极限分布是N(0,1).对于独立随机变量序列X1,X2,…,Xn,…，不管Xi(i=1,2,…)

服从什么分布，只要它们同分布，且有有限的期望和方差，那么当n充分大时，X1+X2+…+Xn近似地服从正态分布

N(nμ,nσ2).由于Xi的分布在一定程度上可以是任意的，一般来说，X1+X2+…+Xn

的分布难以确切求出。但是只要n很大，就能通过Φ(x)给出X1+X2+…+Xn

的分布函数的近似值。这也是正态分布在概率论中占有重要地位的一个基本原因。由于“正态分布的线性函数仍然服从正态分布”，因此对上述{Xn}近似地有例1

设一批产品的强度服从期望为14，方差为4的分布，每箱装有该产品100件，问：（1）每箱产品的平均强度超过14.5的概率是多少？（2）每箱产品的平均强度在14至14.5之间的概率是多少？解:

n=100可以认为比较大。设Xi是第i件产品的强度，E(Xi)=14,D(Xi)=4,i=1,2,…,100.并记则每箱产品的平均强度根据定理1，近似地有例1

设一批产品的强度服从期望为14，方差为4的分布，每箱装有该产品100件，问：（1）每箱产品的平均强度超过14.5的概率是多少？（2）每箱产品的平均强度在14至14.5之间的概率是多少？续解:由于

于是定理2（棣莫弗—拉普拉斯DeMoivre-Laplace定理）设X1,X2,…,Xn,…是相互独立的随机变量序列，且都服从参数为p的两点分布，即P(Xi=1)=p,P(Xi=0)=1-p,0<p<1,i=1,2,…,则对任何实数x，有证明：由于E(Xi)=p,D(Xi)=p(1-p),i=1,2,…,则由定理1得证。注意：此定理表明,若Xi(i=1,2,…)服从两点分布，则

X1+X2+…+Xn

服从二项分布B(n,p).二项分布的极限是正态分布，即当n很大时，二项分布也可以用正态分布近似表示。一般地，如果则近似地有且有如果n较小，通常采用修正公式

例2

某高校有400名教师参加全国职称外语考试，按历年资料统计，该考试的平均通过率为0.8.试计算这400名教师中至少有300人通过的概率？解:记则这400名教师通过考试的人数X1+X2+…+X400

服从B(400,0.8),根据棣莫弗-拉普拉斯定理，近似地有因此有即这400名教师中至少有300人通过考试的概率为0.9938.例3现有一大批种子，其中良种占1/6，今在其中任选6000粒，试问在这些种子中良种所占的比例与1/6之差小于1%的概率是少？解:记选一粒种子可以看成是一次伯努利试验，若以X表示6000粒种子中的良种粒数，则X~B(6000,1/6),根据棣莫弗-拉普拉斯定理,近似地有因此有例3*