第五章 大数定律及中心极限定理

1、第五章第五章 大数定律及中心极限定理大数定律及中心极限定理概率论与数理统计概率论与数理统计频率稳定性频率稳定性大量实验证实，当重复试验的次数逐渐增大时，频率呈大量实验证实，当重复试验的次数逐渐增大时，频率呈现出稳定性，逐渐稳定于某个常数。现出稳定性，逐渐稳定于某个常数。当当n足够大时，足够大时， n(A ) P(A)P(A)由于事件发生的频率表示由于事件发生的频率表示A A发生的频繁程度。频率大，发生的频繁程度。频率大，事件事件A A发生就频繁，这意味着发生就频繁，这意味着A A在一次试验中发生的可能性就在一次试验中发生的可能性就大。大。 当当n n增大时，频率在概率附近摆动。因此，每一个从独

2、增大时，频率在概率附近摆动。因此，每一个从独立重复试验中测得的频率，都可以作为概率立重复试验中测得的频率，都可以作为概率P(A)P(A)的近似值。的近似值。问题的提出问题的提出在第一章提出，人们在长期实践中发现，虽然个别事件在某次实验中可以出现也可以不出现，但是在大量重复试验中却呈现明显的规律性，即一个随机事件出现的概率在某个固定数的附近摆动，即所谓“频率稳定性”，对于这一点，我们将在本章给予理论上的说明。1 大数定律大数定律切比雪夫不等式切比雪夫不等式22222()()XE XD XP XP X设随机变量 具有数学期望，方差，则对于任意正数 ，不等式或成立。依概率收敛依概率收敛),(),()

3、,(),(,bagYXgbayxgbYaXpnnpnpn则则连续，连续，在点在点，又设函数，又设函数设设设设 aYaYYYaYPaYYYpnnnnn ，记为，记为依概率收敛于依概率收敛于则称序列则称序列，有，有若对于任意正数若对于任意正数是一个常数，是一个常数，是一个随机变量序列，是一个随机变量序列，设设,1lim,2121 依概率收敛的性质依概率收敛的性质切比雪夫定理切比雪夫定理 1)(1lim0), 2 , 1()(), 2 , 1()()(,121 niiiniiinXEXnPiCXDiXDXEXXX，有，有，则对任意给定的，则对任意给定的，且，且都存在都存在和方差和方差数学期望数学期望

4、序列，序列，是相互独立的随机变量是相互独立的随机变量设设定理定理切比雪夫定理的特殊情况切比雪夫定理的特殊情况 pniiniinXXnPiXDXEXXX 即即，有，有。则对任意给定的。则对任意给定的差，差，有相同的数学期望和方有相同的数学期望和方序列，序列，是相互独立的随机变量是相互独立的随机变量设设定理定理11lim0), 2 , 1()(,)(,1221切比雪夫定理的特殊情况的证明切比雪夫定理的特殊情况的证明112221122211111()111()111lim/11nnkkkknnkkkkniininiEXE XnnnnDXD XnnnnPXnPnXnn 证明由于由切比雪夫不等式可得从而

5、有依概率收敛的意义依概率收敛的意义101nnnXanxaxa依概率收敛即依概率 收敛。随机变量序列依概率收敛于 ，说明对于任给的，当 很大时，事件“”的概率接近于 ，但正因为是概率，所以不排除小概率事件“”发生。所以说依概率收敛是不确定现象中关于收敛的一种说法。例 设在每次试验中,事件A发生的概率为1/4.(1)300次重复独立试验,以X记A发生的次数.用切比雪夫不等式估计X与E(X)的偏差不大于50的概率;(2)问是否可用0.925的概率,确信在1000次试验中, A发生的次数在200到300之间. 解:(1)由Xb(300,1/4)知,E(X)=np=75, D(X)= npq =300*

6、1/4*3/4=225/4.所以所求概率为:9975. 0504225150| )(|2XEXP (2)由Xb(1000,1/4)知, E(X)=250, D(X)=375/2.所以2375200300|()| 501500.9252PXPXE X 即,在1000次试验中,可以确信A发生的次数在200到300之间的概率大于0.925伯努利大数定理伯努利大数定理0lim1lim0 pnnPpnnPApAnnAnAnA或或，有，有率，则对于任意正数率，则对于任意正数在每次试验中发生的概在每次试验中发生的概是事件是事件发生的次数，发生的次数，次独立重复试验中事件次独立重复试验中事件是是设设定理定理了

7、频率的稳定性。了频率的稳定性。的概率这一结论，证明的概率这一结论，证明依概率收敛于依概率收敛于发生的频率发生的频率很大时，很大时，当当伯努利大数定理给出了伯努利大数定理给出了AnnAnA伯努利大数定理的证明伯努利大数定理的证明1lim1)(1lim), 2 , 1)(1()(,)()10(,212121 pnnPpXXXnPkppxDpxEpXXXXXXnAnnnkknnA即即有有理理，则由切比雪夫大数定，则由切比雪夫大数定分布，因而分布，因而的的数为数为相互独立，且都服从参相互独立，且都服从参，其中，其中，因为因为证明证明 伯努利定理说明,当试验在不变的条件下重复进行很多次时,随机事件的频率

8、在它的概率附近摆动. 如果事件A的概率很小, 则正如伯努利定理所指出的,事件A的频率也是很少的,或者说,事件A很少发生.例如:设P(A)=0.001,则在1000次试验中只能希望事件A发生一次. 小概率事件的实际不可能性原理小概率事件的实际不可能性原理: 概率很概率很小的随机事件在个别试验中是不可能发生的小的随机事件在个别试验中是不可能发生的. 在实际生活中, 常常忽略那些概率很小的事件发生的可能性;如:虽然人骑自行车在公路上行驶时被汽车撞伤的概率不等于零,但人们还是坦然地在公路上骑自行车. 问:随机事件的概率究竟应怎样小,才可以看作实际上不可能发生的? 概率论中不可能给出答案. 在实际问题中

9、,必须考虑随机事件的本质. 例如,假设自动车机床加工一批零件出现废品的概率等于0.01, 如果零件的重要性不大而价格又低,则完全可以允许不必对全部加工出来的零件进行了全面检查;这就是说,可以忽略一百个零件中出现一个废品的可能性.但是,如果制造一批降落伞出现废品(例如:在跳伞时降落伞不能张开)的概率等0.01,显然,在这种情况下忽略百分之一的废品是绝对不允许的,因为直接危及百分之一的跳伞者的生命. 最后强调一点: 所谓小概率事件事件的实际不可能性原理仅仅适用于个别的或次数极少的试验仅仅适用于个别的或次数极少的试验,当试验次数较多时就不适用了.例如:工厂生产某种产品时,出现废品的概率为0.0001

10、,也就是说,一万个产品只有一个废品;检查产品质量时,如果只从其中任取一个产品来检查,则取出废品的概率为0.0001,显然是很小的,因而几乎可以肯定不会发现废品;但是,如果逐一检查每个产品,则总有一次会发现这个废品. 辛钦定理辛钦定理。是辛钦定理的特殊情形是辛钦定理的特殊情形显然，贝努里大数定理显然，贝努里大数定理，有，有正数正数，则对任意，则对任意服从同一分布，且具有服从同一分布，且具有序列，序列，是相互独立的随机变量是相互独立的随机变量设设定理定理11lim), 2 , 1()(,121 niinknXnPkXEXXX大数定律在概率论中的意义大数定律在概率论中的意义大数定律给出了在试验次数很

11、大时频率和平均值的稳定性，从理论上肯定了用算术平均值代替均值，用频率代替概率的合理性。它既验证了概率论中一些假设的合理性，又为数理统计中用样本推断总体提供了理论根据，所以说，大数定律是概率论中最重要的基本定律。2 中心极限定理中心极限定理独立同分布的中心极限定理独立同分布的中心极限定理2122112,(),()0(1,2,)()( )1lim( )lim2(0,1)niinniiiinntxnnnnXXXE XD XkxXXnYnnF xF xP YxedtXnNn近似的定理设是相互独立，：，则对任意实数 ，随机变量的分布函数满足服从同一分布且具有数即当 充分学期大时，望和方差李雅普诺夫中心极

12、限定理李雅普诺夫中心极限定理122221221,(),()0(1,2,)10nkkkknnkknkkknXXXE XD XkBnE XB 定理设是相互独立，它们具有数学期望和方差：，记若存在正数 ，使得当时，则随机变量李雅普诺夫中心极限定理李雅普诺夫中心极限定理)1 , 0(21lim)(lim)()()(211111112NZndtexBXPxFxxFBXXDXEXZntxnniiniinnnnnniiniiniiniiniin近似的近似的充分大时，充分大时，即当即当，满足，满足对任意的对任意的的分布函数的分布函数 德莫佛德莫佛拉普拉斯定理拉普拉斯定理 xtnnndtexpnpnpPxppn

13、n2221)1(lim)10(,), 2 , 1( ，有，有意意的二项分布，则对于任的二项分布，则对于任服从参数为服从参数为设随机变量设随机变量定理定理德莫佛德莫佛拉普拉斯定理的证明拉普拉斯定理的证明二项分布的极限分布。二项分布的极限分布。定理说明，正态分布是定理说明，正态分布是特殊情形。特殊情形。同分布中心极限定理的同分布中心极限定理的可见，上述定理是独立可见，上述定理是独立限定理知限定理知由独立同分布的中心极由独立同分布的中心极。分布，有分布，有服从服从其中其中的二项分布，则令的二项分布，则令服从参数为服从参数为由于由于定理定理 xtnnkkknkknndtexpnpnpPppXDpXEX

14、Xppnn21221)1(lim)1()(,)()10()10(,), 2 , 1( 中心极限定理的意义中心极限定理的意义 我们知道，正态分布是现实生活中使用最多、最广泛、最重要的一种分布。许多随机变量本身并不属于正态分布，但它们的极限分布是正态分布。中心极限定理阐明了在什么条件下，原来不属于正态分布的一些随机一些随机变量其总和分布渐近地服从正态分布变量其总和分布渐近地服从正态分布。为我们利用正态分布来解决这类随机变量的问题提供了理论依据。大数定律与中心极限定理的异同大数定律与中心极限定理的异同它们的相同点是，都是通过极限理论来研究概率问题，研究对象都是随机变量序列，解决的都是概率论中的基本问

15、题，因而在概率论中有重要的意义。所不同的是，大数定律研究的是，概率或平均值的极限，而中心极限定理则研究随机变量总和的分布的极限。在随机变量的一切可能分布中, 正态分布占有很重要的地位.实践中遇到的大量的随机变量都是服从正态分布的.问:为什么正态分布如此广泛地存在,从而在概率论中占有如此重要的地位?应该如何解释大量随机现象中的这一客观规律?在进行某种观测(试验)时,不可避免地有许多地引起观测误差的随机因素影响着观测结果.其中,有些误差是由观测仪器精度引起的,有些误差是由观测者自身引起的,等等. 这些因素中的每个都可能使观测结果产生很小的误差,然而由于所有这些误差共同影响观测结果,因此,我们得到的

16、观测值是一个包含”总误差”的结果.因此,可以将观测得到的误差看成一个随机变量 ,它是很多数值微小的独立随机变量的总和,按中心极限定理,这个随机变量应服从正态分布.此外,还有很多类似的例子,自动车床加工的零件尺寸的偏差,射击时击中点与目标中心的偏差,一个城市的耗电量(是大量用户耗电量的总和)等.习题习题1 据以往经验,某种电器元件的寿命服从均值为100小时的指数分布.现随机地取16只,设它们的寿命是相互独立的.求这16只元件的寿命的总和大于1920小时的概率.解解: 设Xi表示第i只元件的寿命,依题意可知X1, X2, , X16相互独且服从均值为100小时的指数分布.从而有E(Xi)=100,

17、 D(Xi)=1002, (i=1,2,16)由同独立分布中心极限定理知:) 1 , 0(4001600)()(161161161161NXXDXEXiiiiiiii从而有:1616111600192016001920400400iiiiXPXP16116000.8400iiXP161160010.8400iiXP 1(0.8) 10.7881 0.2119 例例 试分别用切比雪夫不等式和中心极限定理确定, 当掷均匀铜板时,需投多少次,才能保证得到正面出现的频率在0.4及0.6之间的概率不少于90%.解解: 设需投n次才能满足要求. 令铜板出现正面的次数为X, 则:111 ( , ),(),()224Xb nE XnD Xn正面出现的频率为 ,故Xn0.40.6XPn(1)由切比雪夫不等式有:10.12XPn0.1XXPEnn2()100110.90.14XDnn 解得:250n 即:至少要投250次才能满足要求. 例例 试分别用切比雪夫不等