第五章大数定理与中心极限定理

第五章大数定理与中心极限定理第一页，共四十九页，2022年，8月28日“概率是频率的稳定值”。前面已经提到，当随机试验的次数无限增大时，频率总在其概率附近摆动，逼近某一定值。大数定理就是从理论上说明这一结果。正态分布是概率论中的一个重要分布，它有着非常广泛的应用。中心极限定理阐明，原本不是正态分布的一般随机变量总和的分布，在一定条件下可以渐近服从正态分布。这两类定理是概率统计中的基本理论，在概率统计中具有重要地位。第二页，共四十九页，2022年，8月28日例2

测量一个长度a,一次测量的结果不见得就等于a,量了若干次,其算术平均值仍不见得等于a,但当测量的次数很多时,算术平均值接近于a几乎是必然的.例1

掷一颗均匀的正六面体的骰子,出现么点的概率是1/6,在掷的次数比较少时,出现么点的频率可能与1/6相差得很大.但是在掷的次数很多时,出现么点的频率接近1/6几乎是必然的.§5.1大数定律的概念第三页，共四十九页，2022年，8月28日这两个例子说明：在大量随机现象中,不仅看到了随机事件的频率具有稳定性,而且还看到大量测量值的平均结果也具有稳定性。这种稳定性就是我们要讨论的大数定律的客观背景。即无论个别随机现象的结果如何,或者它们在进行过程中的个别特征如何,大量随机现象的平均结果实际上与每一个别随机现象的特征无关,并且几乎不再是随机的了。第四页，共四十九页，2022年，8月28日

大数定律以确切的数学形式表达了这种规律性,并论证了它成立的条件,即从理论上阐述了这种大量的、在一定条件下的、重复的随机现象呈现的规律性即稳定性.由于大数定律的作用,大量随机因素的总体作用必然导致某种不依赖于个别随机事件的结果.第五页，共四十九页，2022年，8月28日§5.2切贝谢夫不等式

一个随机变量离差平方的数学期望就是它的方差,而方差又是用来描述随时机变量取值的分散程度的.下面研究随机变量的离差与方差之间的关系式.第六页，共四十九页，2022年，8月28日切比雪夫不等式

(P104)若随机变量ξ的期望和方差存在，则对任意0，有这就是著名的切比雪夫(Chebyshev)不等式。它有以下等价的形式：第七页，共四十九页，2022年，8月28日

切贝谢夫不等式的证明:

证:如果ξ是离散型的随机变量,那么把概率转化为求和把求和因子放大把求和范围放大第八页，共四十九页，2022年，8月28日解第九页，共四十九页，2022年，8月28日所以例2设ξ是掷一颗骰子所出现的点数,若给定

并验证切贝谢夫不等式成立.解:因为ξ的概率函数是Eξ=7/2Dξ=35/12P(│ξ-7/2│≥1)=2/3P(│ξ-7/2│≥2)=P(ξ=1)+P(ξ=6)=1/3ε=1:Dξ/ε2=35/12>2/3ε=2:Dξ/ε2=1/4×35/12=35/48>1/3可见,ξ满足切贝谢夫不等式.第十页，共四十九页，2022年，8月28日例3设电站供电网有10000盏电灯,夜晚每一盏电灯开灯的概率都是0.7,而假定开关时间彼此独立,估计夜晚同时开着的灯数在6800与7200之间的概率.解:令ξ表示在夜晚同时开着的灯的数目,它服从参数n=10000,p=0.7的二项分布.若要准确计算,应该用贝努里公式:如果用切贝谢夫不等式估计:Eξ=np=10000×0.7=7000Dξ=npq=2100第十一页，共四十九页，2022年，8月28日

可见,虽然有10000盏灯,但是只要有供应7200盏灯的电力就能够以相当大的概率保证够用.事实上,切贝谢夫不等式的估计只说明概率大于0.95,后面将具体求出这个概率约为0.99999,切贝谢夫不等式在理论上具有重大意义,但估计的精确度不高.第十二页，共四十九页，2022年，8月28日例4已知某种股票每股价格ξ的平均值为1元，标准差为0.1元，求a,使股价超过1+a元或低于1-a元的概率小于10%。解:由切比雪夫不等式令第十三页，共四十九页，2022年，8月28日

定义5.1若存在常数a,使对于任何§5.3切贝谢夫定理一、依概率收敛则称随机变量序列{ξn}依概率收敛于a第十四页，共四十九页，2022年，8月28日设{ξn}为随机变量序列，ξ为随机变量，若任给>0,使得则称{ξn}依概率收敛于ξ.可记为第十五页，共四十九页，2022年，8月28日如意思是:当a而意思是:时,ξn落在内的概率越来越大.,当第十六页，共四十九页，2022年，8月28日1.切贝谢夫大数定律的特殊情况

设{ξk,k=1,2,...}为相互独立的随机变量序列，且具有相同的数学期望，及方差2>0，则即若任给>0,使得这说明：在定理成立的条件下，n个随机变量的算术平均值，当n无限增加时，将几乎变成一个常数。第十七页，共四十九页，2022年，8月28日证明:由切贝谢夫不等式这里故0第十八页，共四十九页，2022年，8月28日定理5.1(切贝谢夫定理)设ξ1,ξ2…是相互独立的随机变量序列,各有数学期望Eξ1,Eξ2…及方差Dξ1,Dξ2…

并且对于所有k=1,2,…都有Dξk<ι,其中ι是与k无关的常数,则任给ε>0,有随机变量的算术平均值随机变量期望的算术平均值第十九页，共四十九页，2022年，8月28日将比较密地聚集在它的数学期望的附近.它与数学期望之差,当时n→∞,依概率收敛到0.这就是大数定律.切贝谢夫定理为这一定律作出了精确的数学公式.它也称为切贝谢夫大数定律.切贝谢夫定理的一个推论通常称为贝努里大数定律.切贝谢夫定理说明:在定理的条件下,当n充分大时,n个独立随机变量的平均数这个随机变量的离散程度是很小的.这意味,经过算术平均后得到的随机变量第二十页，共四十九页，2022年，8月28日定理5.2(贝努里大数定律)在独立试验序列中,当试验次数n无限增加时,事件A的频率ξ/n(ξ是n次试验中事件A发生的次数),依概率收敛于它的概率P(A).即对于任意给定的ε>0,有第二十一页，共四十九页，2022年，8月28日即：

设进行n次独立重复试验，每次试验中事件A发生的概率为p，记fn为n次试验中事件A发生的频率，则证明:设第i次试验事件A发生第i次试验事件A不发生则由切比雪夫大数定理第二十二页，共四十九页，2022年，8月28日如果事件A的概率很小,则正如贝努里定理指出的,事件A的频率也是很小的,即事件A很少发生.例如P(A)=0.001,则在1000次试验中只能希望事件A发生一次.在实际中概率很小的随机事件在个别试验中几乎是不可能发生的.因此,人们常常忽略了那些概率很小的事件发生的可能性.这个原理叫作小概率事件的实际不可能性原理(简称小概率原理).它在国家经济建设事业中有着广泛的应用.至于

“小概率”小到什么程度才能看作实际上不可能发生,则要视具体问题的要求和性质而定.从小概率事件的实际不可能性原理容易得到下面的重要结论:如果随机事件的概率很接近1,则可以认为在个别试验中这事件几乎一定发生第二十三页，共四十九页，2022年，8月28日定理5.3（辛钦大数定律）如果ξ1,ξ2…是相互独立并且具有相同分布的随机变量.有Eξk=μ(k=1,2,…),有推论:若{ξi,i=1.2,...}为独立同分布随机变量序列,E(ξ1k)=<,则第二十四页，共四十九页，2022年，8月28日是不完全相同的.这些结果可以看作是服从同一分布并且期望值为μ的n个相互独立的随机变量ξ1,ξ2…ξn的试验数值。由定理3可知,当n充分大时,取这一定理使算术平均值的法则有了理论依据.假使要测量某一个物理量μ,在不变的条件下重复测量n次,得到的观测值作为的μ近似值,可以认为所发生的误差是很小的,即对于同一个随机变量ξ进行n次独立观察,则所有观察结果的算术平均数依概率收敛于随机变量的期望值.第二十五页，共四十九页，2022年，8月28日大数定律告诉我们两个结论:随机变量序列依概率收敛1.随机变量的算术平均值2.随机事件的频率第二十六页，共四十九页，2022年，8月28日

P1121、3、6、7作业第二十七页，共四十九页，2022年，8月28日§5.4中心极限定理

在客观实际中有许多随机变量,它们是由大量的相互独立的随机因素的综合影响所形成的。而其中每一个别因素在总的影响中所起的作用都是微小的。这种随机变量往往近似地服从正态分布，这种现象就是中心极限定理的客观背景。第二十八页，共四十九页，2022年，8月28日正态分布在随机变量的各种分布中,占有特别重要的地位.在某些条件下,即使原来并不服从正态分布的一些独立的随机变量,它们的和的分布,当随机变量的个数无限增加时,也是趋于正态分布的.

在概率论里,把研究在什么条件下,大量独立随机变量和的分布以正态分布为极限这一类定理称为中心极限定理.第二十九页，共四十九页，2022年，8月28日一.依分布收敛

设{ξn}为随机变量序列，ξ为随机变量，其对应的分布函数分别为Fn(x),F(x).若在F(x)的连续点，有则称{ξn}依分布收敛于ξ.可记为第三十页，共四十九页，2022年，8月28日

一般说来,如果某些偶然因素对总和的影响是均匀的,微小的,即没有一项起特别突出的作用,那么就可以断定描述这些大量独立的随机因素的总和的随机变量是近似的服从正态分布.这是数理统计中大样本的理论基础,用数学形式来表达就是李雅普诺夫定理.二.几个常用的中心极限定理第三十一页，共四十九页，2022年，8月28日1.定理5.4（李雅普诺夫定理）设ξ1,ξ2…是相互独立的随机变量,有期望及方差二.几个常用的中心极限定理（5.5）第三十二页，共四十九页，2022年，8月28日这个定理的实际意义是:如果一个随机现象由众多的随机因素所引起,每一因素在总的变化里起着不显著的作用,就可以推断,描述这个随机现象的随机变量近似的服从正态分布.由于这些情况很普遍,所以有相当多一类随机变量遵从正态分布,从而正态分布成为概率统计中最重要的分布.这个定理对离散的和连续的随机变量都适用第三十三页，共四十九页，2022年，8月28日2.独立同分布中心极限定理

设{ξn}为独立同分布随机变量序列，若Eξk=<，Dξk=2<，k=1,2,…,则{ξn}满足中心极限定理。根据上述定理，当n充分大时在一般情况下,很难求出n个随机变量之和的分布函数，根据中心极限定理，当n充分大时，可以通过正态分布给出其近似的分布。第三十四页，共四十九页，2022年，8月28日例1.将一颗骰子连掷100次，则点数之和不少于500的概率是多少？解:设 ξk为第k次掷出的点数,k=1,2,…,100,则ξ1,…,ξ100独立同分布.由中心极限定理标准化变换第三十五页，共四十九页，2022年，8月28日设随机变量ξn(n=1,2,...)服从参数为n,p(0<p<1)的二项分布，则3.德莫佛-拉普拉斯中心极限定证明:设第i次试验事件A发生第i次试验事件A不发生则由中心极限定理,结论得证第三十六页，共四十九页，2022年，8月28日第三十七页，共四十九页，2022年，8月28日4.定理5.5（拉普拉斯定理）（1）局部极限定理：当n→∞时（2）积分极限定理：当n→∞时～第三十八页，共四十九页，2022年，8月28日解设一盒重量为ξ,盒中第i个螺丝钉的重量为

ξi(i=1,…100).ξ1,…

ξ100相互独立,例1.一个螺丝钉重量是一个随机变量,期望值是1两,标准差是0.1两.求一盒(100个)同型号螺丝钉的重量超过10.2斤的概率.根据中心极限定理,有第三十九页，共四十九页，2022年，8月28日解令第i次轰炸命中目标的次数为ξi,100次轰炸命中目标次数例2对敌人的防御地段进行100次轰炸,每次轰炸命中目标的炸弹数目是一个随机变量,其期望值为2,方差为1.69.求100次轰炸中有180颗到220颗炸弹命中目标的概率.第四十页，共四十九页，2022年，8月28日(1)直接计算:(2)的计算结果与(1)的相差较大,这是由于n不够大.一般要求n至少为50,有时也放宽到n≥30使用.例310部机器独立工作,每部停机的概率为0.2.求3部机器同时停机的概率解10部机器中同时停机的数目(2)若用局部极限定理近似计算:～第四十一页，共四十九页，2022年，8月28日例4用拉普拉斯积分极限定理计算:设电站供电网有10000盏电灯,夜晚每一盏电灯开灯的概率都是0.7,而假定开关时间彼此独立,估计夜晚同时开着的灯数在6800与7200之间的概率.～第四十二页，共四十九页，2022年，8月28日解10000件产品中的废品数ξ服从二项分布,正态分布和普哇松分布虽然都是二项分布的极限分布,但普哇松分布以n→∞,同时p→0,np→λ为条件,而正态分布则只要求n→∞这一条件.一般说来,对于n很大,p(或q)很小的二项分布(np≤5)用正态分布来近似计算不如用普哇松分布计算精确.例5产品为废品的概率为P=0.005,求10000件产品中废品数不大于70的概率～第四十三页，共四十九页，2022年，8月28日解设ξ为500发炮弹命中飞机的炮弹数目(1)用二项分布公式计算:例6每颗炮弹命中飞机的概率为0.01,求500发炮弹命中5发的概率(2)用普哇松公式计算,直接查附表(3)用拉普拉斯局部极限定理计算:下面用三种方法计算并加以比较:～P5(5)≈0.175467第四十四页，共四十九页，2022年，8