大数定律及中心极限定理

1、第五章 大数定律及中心极限定理【基本要求】1、了解切比雪夫不等式；2、了解切比雪夫大数定律，Bernoulli大数定律和辛钦大数定律成立的条件及结论；3、了解独立同分布的中心极限定理（列维一林德伯格定理）和德莫佛一拉普拉斯 中心极限定理（二项分布以正态分布为极限分布）的应用条件和结论，并会用 相关定理近似计算有关随机事件的概率。【本章重点】切比雪夫不等式，切比雪夫大数定理及 Bernoulli大数定理。【本章难点】对切比雪夫大数定理及独立同分布的中心极限定理的理解。【学时分配】2学时【授课内容】 5.1 大数定律0.前言在第一章我们提到过事件发生的频率具有稳定性，即随着试验次数的增加，事件发生

2、的频率逐渐稳定于某个常数，这一事实显示了可以用一个数来表征事件发生的可能性大小，这使人们认 识到概率是客观存在的，进而由频率的三条性质的启发和抽象给出了概率的定义，而频率的稳定 性是概率定义的客观基础。在实践中人们还认识到大量测量值的算术平均值也具有稳定性，而这 种稳定性就是本节所要讨论的大数定律的客观背景，而这些理论正是概率论的理论基础。下面介绍三个定理，它们分别反映了算术平均值及频率的稳定性。一、切比雪夫大数定律LL事件的频率稳定于概率，能否有lim二P ,答案是否定的。而是用nP_pz吕tO( nTo)依概率收敛来刻划(弱)。或者用p叫一匕刍p=1a.e.收敛来 nn刻划(强)。1.定义

3、：设XX2,，Xn，是一个随机变量序列，a是一个常数，若对于任意正数:，有lim P Xn -a ： ； -1，n_.则称序列Xi，X2，,Xn，依概率收敛于a.记为Xn p a.2 切比雪夫不等式设随机变量具有有限的期望与方差，则对-；0,有P( E( 工司兰或 P( E(C) c 町 Ki zz证明：我们就连续性随机变量的情况来证明。设 p(x)，则有P(CE()Ke)= J p(x)dx 兰 J(x _()p(x)dxx _E( ) :x_E( )| ：.：4 二2D()一飞(x-E( ) p(x)dx = 该不等式表明：当D()很小时，P-E)；)也很小，即 的取值偏离E()的可能性很

4、小。这再次说明方差是描述取值分散程度的一个量。切比雪夫不等式常用来求在随机变量分布未知，只知其期望和方差的情况下，事件EE列色砒概率的下限估计；同时，在理论上切比雪夫不等式常作为其它定理证明的工具。3.定理1 (切比雪夫大数定律)设 n是相互独立的随机变量序列，每一随机变量都有有限的方差，且一致有界，即存在常数C，使D( J乞C i =1,2，则对任意的0，有 nim：P-；=0即1 nii p E( i) (n：) n i jn i证明：由切比雪夫不等式知：-；.0,有:n1,10兰P-险一一瓦E（G兰越兰pD（瓦U）nDiccy . nC C 2 2 Tn ； n ； n ；0(n:)该定

5、理表明：当 n很大时，随机变量1,；的算术平均值1 n丄a i接近于其数学期望n i -41 nE（- ），这种接近是在概率意义下的接近n i 4通俗的说，在定理的条件下,n个相互独立的随机变量算术平均值，在n无限增加时将几乎变成一个常数。推论：设n是相互独立的随机变量，由相同的数学期望和方差= 1,2,，贝则-； 0,有1 nn_):limfV1送勺-4兰s=0 （即-Z 以概率收敛于4）n y这个结论有很实际的意义：人们在进行精密测量时，为了减少随机误差，往往重复测量多次,1 n测得若干实测值1,；，然后用其平均值i来代替。 n i 二切比雪夫大数定律是最基本的大数定理，作为切比雪夫大数定

6、律的特殊情形有Bernoulli大数定理和辛钦大数定律。、Bernoulli 大数定律定理2:设Jn是n重Bernoulli试验中事件A出现的次数，而p （0 ： p 1）是事件A在每次试验中出现的概率，则对-；0，r unp n=0lim Pn证明：令 =1第i次试验中A出现吕2.n.0第i次试验中A不出现1 n1 n1则 i, 2l, n 相互独立且二 -i , E(i) = P , E(v J 二 p , Di) = P(1-P), n n yn y4i=1,2, ,n故由切比雪夫大数定律立刻推出贝努里大数定律。或者，直接由切比雪夫不等式，对 - ；0，有1 n ,P送-E 送 I兰 |

7、n y乙n0 EP丿亠Pi n兰丄D 1兔=1 2 P)T 0 (n T 0 )即n P (nT 0)。故二服从大数定律。 z ：:时，n不至于发生趋向于0或：这种情形，这时讨论它的分布才有意义。下面研究；的分布：中心极限定理有多种不同的形式，下面我主要讲 独立同分布的中心极限定理及其一特殊情形:、定理1: （Levy-Lindeberg极限定理）独立同分布的中心极限定理设代是独立同分布的随机变量序列，且 2=卩，。2=坊2 （= 0 ），i=1,2,，均存在,|八-n 则- “r，有 nmPfx1X -2U2J证：（略）n Z q - n该定理也可改写为：对a :b，有lim Pa ：心-b

8、二门（b） - （a）Yv1 na在一般情况下，很难求出n个随机变量之和的分布函数，该定理表明：当n充分大时,可以通过叮(x)给出其近似分布，这样就可以利用正态分布对 a I作理论分析或作实际计算，其好处是明显的。二、定理2( De Moivre-Laplace极限定理)(定理1的特殊情形)设 (n是n重Bernoulli试验中成功的次数，已知每次试验成功的概率为L2dt 二：xnp该定理也可改写为： Wa cb，有lim Pa ：兰b = O(b) (a)fJnpq证明：令耳“彳第i次试验出现成功0第i次试验不出现成功9 i为独立同分布的随机变量序列,且E i = p ,D i = p(1

9、- p)均存在n|_1_ np显然：叫八i，此时厂n pi 4npq该定理为上定理的一个特殊情形，故由上定理该定理得证。中心极限定理表明：在相当一般的条件下，当独立随机变量的个数增加时，其和的分布趋于正态分布。因此，只要和式中加项的个数充分大，就可以不必考虑和式中的随机变量服从什么分 布，都可以用正态分布来近似，这在应用上是有效的和重要的。作为以上两个定理的应用，我们给出下面例子：例1： 一加法器同时收到20个噪声电压Vk(k=1,2,，20)，设它们是相互独立的随机变量，且都20在区间(0，10)上服从均匀分布。记V =為Vk，求P(V - 105)的近似值解：E(VQ =5,D(VQ =1

10、0012(k =1,2,20)，由定理 1,得= P(_V二100乜 0.387)(10 12)20V -100亠 P(1站.387)：1 - 门(0.387)= 0.348即有 P(V 105)0.348例2: 一船舶在某海区航行，已知每遭受一次波浪的冲击，纵摇角大于3的概率为p=1 3，若船舶遭受了 90000次波浪冲击，问其中有2950030500次纵摇角大于3的概率是多少？解：设A =纵摇角大于3 ，P(A)二p = 1 3，X表示在90000次波浪冲击中A发生的次数。则X B (90000,13)，由定理 2 得29500- np X-np 30500-np、P (2950X 空 30500 二 P(vnp