第五章大数定律及中心极限定理PPT课件

1、概率论概率论 第一节第一节 大数定律大数定律大数定律大数定律依概率收敛定义及性质依概率收敛定义及性质小结小结第五章第五章 大数定律及中心极限定理大数定律及中心极限定理概率论概率论 大量随机试验中大量随机试验中大数定律的客观背景大数定律的客观背景大量抛掷硬币大量抛掷硬币正面出现的频率正面出现的频率字母使用频率字母使用频率生产过程中的生产过程中的废品率废品率 事事件件发发生生的的频频率率稳稳定定于于某某一一常常数数测测量量值值的的具具有有稳稳术术值值定定性性算算平平均均概率论概率论 一、大数定律一、大数定律定理定理1（切比雪夫大数定律的特殊情况切比雪夫大数定律的特殊情况）切比雪夫切比雪夫 则对任意

2、的则对任意的0，有，有学期望和方差：学期望和方差：独立，且具有相同的数独立，且具有相同的数相互相互，设随机变量设随机变量,21nXXX21 2(),()(, ,).kkE XD Xk1|1|lim1 niinXnP|lim XPn11=nkkXXn 做前做前 n 个随机变量的算术平均个随机变量的算术平均概率论概率论 证证 nkkXnE11由于由于 nn1 nkkXEn1)(1 nkkXnD11 nkkXDn12)(1nnn2221 由切比雪夫不等式由切比雪夫不等式22111 nXnPnkk 上式中令上式中令 n得得1|1|lim1 niinXnP概率论概率论 说明说明1121X1 2nniki

3、X ,XXXEnk,n. 、 定定理理以以数数学学形形式式证证明明了了随随机机变变量量的的算算术术平平均均接接近近数数学学期期望望 （）（），这这种种接接近近说说明明其其具具有有的的稳稳定定性性. 1|1|11于于时，这个事件的概率趋时，这个事件的概率趋当当是指一个随机事件，是指一个随机事件，、定理中、定理中 nXnnii 3、这种稳定性的含义说明、这种稳定性的含义说明算术平均值是从概率算术平均值是从概率意义上逼近某一常数。意义上逼近某一常数。概率论概率论 二、二、依概率收敛定义及性质依概率收敛定义及性质 定义定义，有，有若对于任意正数若对于任意正数一个常数一个常数是是是一个随机变量序列，是一

4、个随机变量序列，设设 .,21aYYYnlim |1nnP Ya.,21aYaYYYPnn记为记为依概率收敛于依概率收敛于则称序列则称序列性质性质).,(),(),(),(,bagYXgbayxgbYaXPnnPnPn连续，则连续，则点点在在又设函数又设函数，设设概率论概率论 请注意请注意 : 0.1nnnXXanXaa 依依概概率率收收敛敛于于 ，当当 充充分分大大时时，事事件件的的概概意意味味着着对对任任意意给给定定的的，；，而而只只是是说说他他发发生生的的可可能能性性很很小小并并不不排排除除事事件件的的发发生生率率很很大大，接接近近于于 .定性定性弱些，它具有某种不确弱些，它具有某种不确

5、中的普通意义下的收敛中的普通意义下的收敛依概率收敛比高等数学依概率收敛比高等数学概率论概率论 的另一种叙述形式的另一种叙述形式定理定理1.1), 2 , 1()(,)(,1221 PnkkkknXXnXkXDXEXXX，即，即依概率收敛于依概率收敛于，则序列，则序列差：差：有相同的数学期望和方有相同的数学期望和方相互独立，且具相互独立，且具，设随机变量设随机变量概率论概率论 问题问题 :伯努利伯努利 设设nA是是n重重伯努利伯努利试验中事件试验中事件A发生发生的次数，的次数，p是事件是事件A发生的概率，发生的概率，nnA是事件是事件A发生的频率发生的频率.事事件件发发生生的的频频率率能能否否近

6、近似似代代替替事事件件的的概概率率，频频率率是是否否具具有有稳稳定定性性呢呢？概率论概率论 设设 nA 是是n次独立重复试验中事件次独立重复试验中事件A发发生的次数，生的次数，p是事件是事件A在每次试验中发生在每次试验中发生的概率，则对于任意正数的概率，则对于任意正数 0 ，有，有 定理定理2（伯努利伯努利大数定律大数定律）1|lim pnnPAn或或 伯努利伯努利0|lim pnnPAn证明证明12 ( , ),AAnnb n pnXXX因因为为由由此此可可表表示示为为概率论概率论 即得即得由定理由定理11|)(1|lim21 pXXXnPnn|lim pnnPAn 证毕证毕注注伯努利伯努利

7、大数定律表明，当重复试验次数大数定律表明，当重复试验次数n充分大时，充分大时，事件事件A发生的频率发生的频率nA/n与事件与事件A的概率的概率p有较大偏差有较大偏差的概率很小的概率很小.0|lim pnnPAn或或.事事件件发发生生的的频频率率可可以以近近似似代代替替事事件件的的概概率率),1()()(.10ppXDpXEpkk ，因而因而分布分布）以为参数的（以为参数的（从以从以其中相互独立，且都服其中相互独立，且都服概率论概率论 下面给出的独立同分布下的大数定律，下面给出的独立同分布下的大数定律，不要求随机变量的方差存在不要求随机变量的方差存在. 设随机变量序列设随机变量序列X1,X2,

8、相互独立，相互独立，服从同一分布，具有数学期服从同一分布，具有数学期E(Xi)=, i=1,2,， 则对于任意正数则对于任意正数 ，有，有定理定理3（辛钦大数定律辛钦大数定律）1|1|lim1 niinXnP辛钦辛钦概率论概率论 1、辛钦大数定律为寻找随机变量的期望、辛钦大数定律为寻找随机变量的期望值提供了一条实际可行的途径值提供了一条实际可行的途径.注注2、伯努利大数定律是辛钦定理的特殊情况、伯努利大数定律是辛钦定理的特殊情况.3、辛钦定理具有广泛的适用性、辛钦定理具有广泛的适用性. 要估计某地区的平均亩产量要估计某地区的平均亩产量 ，要收割某些有代表性块，例如要收割某些有代表性块，例如n

9、块块地地. 计算其平均亩产量，则当计算其平均亩产量，则当n 较较大时，可用它作为整个地区平均亩大时，可用它作为整个地区平均亩产量的一个估计产量的一个估计.概率论概率论 例例1 在一个罐子中在一个罐子中,装有装有10个编号为个编号为0-9的同样的球，的同样的球，从罐中有放回地抽取若干次，每次抽一个，并记下号从罐中有放回地抽取若干次，每次抽一个，并记下号码码. 否则次取到号码第001kXk 设设，k=1,2, 问对序列问对序列Xk能否应用大数定律？能否应用大数定律？nkknXnP11| 1 . 01|lim 即即对对任意的任意的0,解解: ,9 . 01 . 001kXk=1,2, E(Xk)=0

10、.1, 诸诸Xk 独立同分布，且期望存在，故能使用大独立同分布，且期望存在，故能使用大数定律数定律.概率论概率论 三、小结三、小结大大数数定定律律 大数定律以严格的数学形式表达了随机现大数定律以严格的数学形式表达了随机现象最根本的性质之一：象最根本的性质之一：平均结果的稳定性平均结果的稳定性 2)()( kkXDXE )(kXE),(pnbnA大数定律大数定律伯努利伯努利1|lim pnnPAn大数定律大数定律切比雪夫切比雪夫1|1|lim1 niinXnP大数定律大数定律辛钦辛钦1|1|lim1 niinXnP 概率论概率论 切比雪夫大数定律切比雪夫大数定律则对任意的则对任意的0，1(),(

11、1,2,),().nkkkXXKXXXkED 设设随随机机变变量量， ，相相互互独独立立，且且他他们们的的期期望望都都存存在在，方方差差存存在在并并且且有有共共同同的的有有限限上上界界：2 21|1|lim1 niinXnP1111lim|() |1nnkknkkPXEXnn ()kkXE X 特特别别地地，若若的的期期望望都都相相同同：，则则有有有有概率论概率论 第二节第二节 中心极限定理中心极限定理中心极限定理中心极限定理例题例题小结小结练习练习 布置作业布置作业概率论概率论 中心极限定理的客观背景中心极限定理的客观背景 在实际问题中许多随机变量是由相互独立随机在实际问题中许多随机变量是由

12、相互独立随机因素的综合（或和因素的综合（或和)影响所形成的影响所形成的.例如：炮弹射击的例如：炮弹射击的落点与目标的偏差，落点与目标的偏差，就受着许多随机因就受着许多随机因素（如瞄准，空气素（如瞄准，空气阻力，炮弹或炮身结构等）综合影响的阻力，炮弹或炮身结构等）综合影响的.每个每个随机因随机因素素对弹着点（随机变量和）对弹着点（随机变量和）所起的作用都是很小的所起的作用都是很小的.那么那么弹着点服从怎样分布哪弹着点服从怎样分布哪 ？概率论概率论 如果一个随机变量是由大量相互独立的随机因如果一个随机变量是由大量相互独立的随机因素的综合影响所造成，而每一个别因素对这种综合素的综合影响所造成，而每一

13、个别因素对这种综合影响中所起的作用不大影响中所起的作用不大. 则这种随机变量一般都则这种随机变量一般都服服从或近似服从正态分布从或近似服从正态分布. 自从高斯指出测量误差服从正态自从高斯指出测量误差服从正态分布之后，人们发现，正态分布在分布之后，人们发现，正态分布在自然界中极为常见自然界中极为常见. 现在我们就来研究独立随机变量之和所特有现在我们就来研究独立随机变量之和所特有的规律性问题的规律性问题.高斯高斯 当当n无限增大时，这个和的极限分布是什么呢？无限增大时，这个和的极限分布是什么呢？概率论概率论 由于无穷个随机变量之和可能趋于由于无穷个随机变量之和可能趋于，故我们，故我们不研究不研究n

14、个随机变量之和本身而考虑它的标准化的随个随机变量之和本身而考虑它的标准化的随机变量机变量. nkknknkkknXDXEXY111)()(nY讨讨论论的的极极限限分分布布是是否否为为标标准准正正态态分分布布? ? 在概率论中，习惯于把在概率论中，习惯于把和的分布和的分布收敛于正态分收敛于正态分布这一类定理都叫做布这一类定理都叫做中心极限定理中心极限定理. nkkkXnkX1), 1(的和的和即考虑随机变量即考虑随机变量概率论概率论 一、中心极限定理一、中心极限定理 xnnXPxFniinnn 1lim)(lim定理定理4（列维列维-林德贝格中心极限定理林德贝格中心极限定理-独立同分布下独立同分

15、布下），则随机变量之和，则随机变量之和方差方差布，且具有数学期望和布，且具有数学期望和相互独立，服从同一分相互独立，服从同一分设随机变量设随机变量), 2 , 1()(,)(:,221 kXDXEXXXkkn nnXYnkkn 1满足满足对于任意对于任意的分布函数的分布函数xxFn)(的标准化变量的标准化变量 nkkX1 x-2t -dte212 )(x 概率论概率论 注注2111(0,1)(,;1).,nnnkkkkkkXnNnXnXNnn 近近近近似似地地似似地地、定定理理表表明明，独独立立同同分分布布的的随随机机变变量量之之和和当当 充充分分大大时时，随随机机变变量量之之和和与与其其标标

16、准准化化变变量量分分别别有有 22,(0,1)()XXnNNn 近近似似地地近近似似地地、独独立立同同分分布布中中心心极极限限定定理理的的另另一一种种形形式式可可写写为为或或 nkkXnX11其中其中 3、虽然在一般情况下，我们很难求出、虽然在一般情况下，我们很难求出 的分的分布的确切形式，但当布的确切形式，但当n很大时，可以求出近似分布很大时，可以求出近似分布. nkkX1概率论概率论 定理定理5（李雅普诺夫李雅普诺夫(Lyapunov)定理定理), 2 , 1( ,)(,)(,221 kXDXEXXXkkkkn 有数学期望和方差：有数学期望和方差：相互独立，它们具相互独立，它们具设随机变量

17、设随机变量 nkknB122 记记 nkkknXEBn12201 时，时，使得当，使得当若存在正数若存在正数的标准化变量：的标准化变量：则随机变量之和则随机变量之和 nkkX1概率论概率论 11111()()nnnnkkkkkkkknnnkkXEXXZBDX ，满足，满足对于任意对于任意的分布函数的分布函数xxFn)( xBXPxFnnknkkknnn11lim)(lim x-2t -dte212 )(x 概率论概率论 请注意请注意 :分别近似服从分别近似服从很大时很大时在在及其标准化变量及其标准化变量、定理中随机变量之和、定理中随机变量之和,11nZXnnkk 211(,);(0,1)nnk

18、knkknNXNBZ近近似似地地近近似似地地 12.knkkXXn 、随随机机变变量量无无论论服服从从什什么么分分布布，只只要要满满足足定定理理条条件件，随随机机变变量量之之和和，当当 很很大大时时，就就近近似似服服从从正正态态分分布布，这这就就是是为为什什么么正正态态分分布布在在概概率率论论中中所所占占的的重重要要地地位位的的一一个个基基本本原原因因概率论概率论 定理定理6( (棣莫佛拉普拉斯棣莫佛拉普拉斯（De LaplaceDe Laplace定理）定理）)1(limxpnpnpPnn 设随机变量设随机变量 (n=1,2,)(n=1,2,)服从参数服从参数n,p(0p1)的二项分布，则对

19、任意的二项分布，则对任意x，有，有n dtext2221)(x 证证之和，之和，分布的诸随机变量分布的诸随机变量服从同一服从同一个相互独立、个相互独立、分解成为分解成为由第四章知识知可将由第四章知识知可将nnXXXn,)10(21 nkknX1 即有即有 1 , 0,)1(), 2 , 1(1 ippiXPnkXiikk的分布律为的分布律为其中其中概率论概率论 定理表明定理表明，当，当n很大，很大，0p1920)设第设第i只元件的寿命为只元件的寿命为Xi , i=1,2, ,16例例1解答：解答：E(Y)=1600,D(Y)=160000由中心极限定理由中心极限定理,近似近似N(0,1)4001600YP(Y1920)=1-P(Y 1920) =1- (0.8)40016001920( 1-=1-0.7881=0.