数理统计之大数定理

1、大数定律及中心极限定理,一、问题的引入,二、大数定律,三、中心极限定理,四、小结,一、问题的引入,概率论与数理统计是研究随机现象统计规律性的学科. 随机现象的规律性只有在相同的条件下进行大量重复试验时才会呈现出来. 也就是说，要从随机现象中去寻求必然的法则，应该研究大量随机现象.,研究大量的随机现象，常常采用极限形式，由此导致对极限定理进行研究. 极限定理的内容很广泛，其中最重要的有两种:,契比雪夫不等式,切比雪夫不等式,定理 设随机变量X具有数学期望E(X)=， 方差D(X)= ,则对于任意正数 ,不等式,成立.,二、大数定律,设X1,X2, 是相互独立的随机变量 序列，且E(Xi)= ，D

2、(Xi)= ， i=1,2, 且方差有共同的上界M，则对任给 0,定理一（契比雪夫定理）,证明,由契比雪夫不等式可得,并且概率不能大于1, 则,关于定理一的说明:,（这个接近是概率意义下的接近）,当n很大时，随机变量X1,X2,Xn的算术平均接近于数学期望的算术平均值,定理二（伯努利大数定理）,证明,引入随机变量,显然,根据定理一有,关于伯努利定理的说明:,故而当 n 很大时, 事件发生的频率与 概率有较大偏差的可能性很小. 在实际应用 中, 当试验次数很大时, 便可以用事件发生 的频率来代替事件的概率.,伯努利大数定律表明，事件A发生的频 率nA/n依概率收敛于事件A的概率p. 这个定 理以

3、严格的数学形式表达了频率的稳定性.,定理三（辛钦定理）,关于辛钦定理的说明:,(1) 与定理一相比, 不要求方差存在;,(2) 伯努利定理是辛钦定理的特殊情况.,例,解,由辛钦定理知,三、中心极限定理,中心极限定理的客观背景:,在实际问题中，常常需要考虑许多随机 因素所产生的总影响.,例如：炮弹射击的落点与目标的偏差，就受 着许多随机因素的影响.,空气阻力所产生的误差，,对我们来说重要的是这些随机因素的总影响.,如瞄准时的误差，,炮弹或炮身结构所引起的误差等等.,观察表明，如果一个量是由大量相互独 立的随机因素的影响所造成，而每一个别因 素在总影响中所起的作用不大. 则这种量一 般都服从或近似

4、服从正态分布.,自从高斯指出测量误差服从正 态分布之后，人们发现，正态分布 在自然界中极为常见.,现在我们就来研究独立随机变量之和所特有的规律性问题.,当n无限增大时，这个和的极限分布是 什么呢？,在什么条件下极限分布会是正态的呢？,由于无穷个随机变量之和可能趋于， 故我们不研究n个随机变量之和本身，而考虑 它的标准化的随机变量,的分布函数的极限.,可以证明，满足一定的条件，上述极限分布是标准正态分布. 这就是下面要介绍的,中心极限定理,在概率论中，习惯于把和的分布收敛于正态分布这一类定理都叫做中心极限定理.,我们只讨论几种简单情形.,定理四（独立同分布的中心极限定理）,它表明，当n充分大时，

5、n个具有期望和方差 的独立同分布的随机变量之和近似服从正态分布.,设X1,X2, ,Xn , 是独立同分布的随机 变量序列，且E(Xi)= ，D(Xi)= ， i=1,2,n，则,定理四的说明：,于是有,或者,这说明均值为，方差为2 的独立同分布的随机变量的算术平均近似服从均值为，方差为2 /n的正态分布.,这一结果是数理统计推断中大样本统计推断的基础.,定理五（李雅普诺夫定理）,则,定理五表明无论各个随机变量服从什么分布，只要满足定理的条件，那么它们的和当n很大时，近似服从正态分布. (如实例中射击偏差服从正态分布),定理六(棣莫佛拉普拉斯定理),定理六表明正态分布是二项分布的极限分布, 当

6、n充分大时, 可以利用该定理来计算二项分布的概率.,证明,根据定理四得,例3,解,由定理四, 知：,一加法器同时收到20个噪声电压,，设它们是相互独立的随机变,上服从均匀分布.记,，求,的近似值.,量，且都在区间,例4,一船舶在某海区航行, 已知每遭受一次海浪的冲击, 纵摇角大于 3 的概率为1/3, 若船舶遭受了90 000次海浪冲击, 问其中有29 50030 500次纵摇角大于 3 的概率是多少？,解,将船舶每遭受一次海浪的冲击看作一次试验,并假设各次试验是独立的,在90 000次海浪冲击中纵摇角大于 3 的次数为 X,则 X 是一个随机变量,所求概率为,分布律为,直接计算很麻烦，利用棣莫佛拉普拉斯定理,例5,某保险公司的老年人寿保险有1万人参加,每人每年交200元. 若老人在该年内死亡,公司付给家属1万元. 设老年人死亡率为0.017,试求保险公司在一年内的这项保险中亏本的概率.,解,设 X 为一年中投保老人的死亡数,由棣莫佛拉普拉斯定理知,保险公司亏本的概率,四、小结,三个大数定理,契比雪夫定理,伯努利大数定理,辛钦定理,频率的稳定性是概率定义的客观基础, 而伯努利大数定理以严密