第5章 大数定律及中心极限定理.doc

第五章 大数定律与中心极限定理l 随机现象的规律只有在大量随机现象的考察中才能显现出来。l 研究大量的随机现象，常常采用极限形式。l 极限定理的内容很广泛，其中最重要的有二种：大数定律与中心极限定理。1 大数定律l 事件发生的频率具有稳定性；l 大量测量值的算术平均值也具有稳定性。大数定律就是从这种稳定性的研究中得出的。定理一（契比雪夫大数定律）设随机变量序列相互独立，且具有相同的数学期望和方差：前n个随机变量的算术平均：对于任意正数，有 =则称Xn服从大数定律。证：由于由契比雪夫不等式可得：在上式中令并注意到概率不能大于1，即得：l 定理一给出了关于平均值稳定性的科学的描述。l 上式的意义：是一个随机事件，等式表明，当时，这个事件的概率趋于1。即对于任意正数，当n充分大时，不等式成立的概率很大。l 还表明，当n很大时，随机变量的算术平均接近于数学期望.这种接近是在概率意义下的接近。l 说明平均结果渐趋稳定性。即单个随机现象的行为对大量随机现象共同产生的总平均效果E()几乎不发生影响。即尽管某个随机现象的具体表现不可避免地引起随机偏差，然而在大量随机现象共同作用时，这些随机偏差相互抵消、补尚与拉平，致使总平均结果趋于稳定。例如在分析天平上称量一质量为的物品，以表示n次重复测量结果，经验告知，当n充分大时，其平均值对的偏差是很小的。定义：设是一个随机变量序列，a是一个常数。若对于任意正数，有：则称序列依概率收敛于a，记为：依概率收敛的序列还有以下的性质：设又设函数g(x,y)在点(a,b)连续，则:定理一又可叙述为：设随机变量相互独立，且具有相同的数学期望和方差：则序列前n个随机变量的算术平均依概率收敛于，定理二（伯努利大数定理）设nA是n次独立重复试验中事件A发生的次数，p是事件A在每次试验中发生的概率，则对于任意正数有 或： 证：因为nAb(n,p)，引入随机变量： 由于X1,X2,Xn相互独立，又知Xk,k=1,2,n服从同一（01）分布：Xk0 1Pk1-p p已知 由定理一得：即伯努利大数定理表明：l 事件发生的频率依概率收敛于事件的概率P，这个定理以严格的数学形式表达了频率的稳定性。l 就是说当n很大时，事件发生的频率与概率有较大偏差的可能性很小。l 由实际推断原理，在实际应用中，当试验次数很大时，便可以用事件发生的频率来代替事件的概率。切比雪夫大数定律的证明要求随机变量具有方差。但进一步的研究表明，方差存在这个条件有时并不是必要的，定理三就是这种情况。定理三（辛钦大数定理）：设随机变量相互独立，服从同一分布，且具有数学期望，则对于任意正数，有： （证明略）显然，伯努利大数定理是辛钦定理的特殊情况。大数定理以严格的数学形式表达了随机现象最根本的性质之一：平均结果的稳定性，它是随机现象统计规律的具体表现。在理论和实际中有广泛的应用。l 例如，要测量一个圆柱形工件的直径，由于仪器的测量误差、读数的偏差以及温度的变化等各种原因，使每次测量的结果是随机的。如果测量n次，得到，其算术平均值为，当n较大时，此平均值就可作为直径的一个估计，其理论依据是大数定理。l 例如，要估计某地区水稻的平均亩产量，只要收割一部分有代表性的地块，比如n块，计算它们的平均亩产，在n比较大的情况下，n块的平均亩产量就可以作为全地区的平均亩产量。其理论依据也是大数定理。例：设随机变量序列相互独立，且均服从（a,b）区间上的均匀分布，问平均值依概率收敛于何值？解：因为XkU(a,b),k=1,2,n,则由辛钦大数定理知 。 例：设随机变量序列相互独立，且均服从泊松分布，试问当n很大时，可用何值估计？ 解：因为由辛钦大数定理知 即当n很大时，可用值代替。具体的，若有的一组观察值。2 中心极限定理l 在实际问题中，常常需要考虑许多随机因素所产生的总的影响。例如，炮弹射击的偏差，受许多随机因素的影响：瞄准的误差、空气阻力所产生的误差、炮弹或炮身所产生的误差等。我们所关心的是这些随机因素的总影响。l 自从高斯指出测量误差服从正态分布之后，人们发现，正态分布在自然界中极为常见。观察表明，如果一个结果是由大量相互独立的随机因素的影响所造成，而每一个别因素在总影响中所起的作用不大。则这种量一般都服从或近似服从正态分布。中心极限定理就是研究独立随机变量之和所特有的规律性问题。即，当n无限大时，这个和的极限分布是什么？在什么条件下极限分布是正态的？由于无穷各随机变量之和可以取为值，故这里不研究n个随机变量之和而考虑它的标准化的随机变量的分布函数的极限。可以证明，在满足一定的条件，上述极限分布是标准正态分布。定理四（独立同分布的中心极限定理）设随机变量相互独立，服从同一分布，且具有数学期望和方差： ，则随机变量之和的标准化变量：的分布函数对于任意x满足 （证明略）这就是说，均值为，方差为的独立同分布的随机变量之和的标准化变形量，当n充分大时，有： l 中心极限定理不仅提供了计算独立随机变量之和的近似概率分布的简单方法，而且有助于解释为什么很多自然群体的经验频率呈现出钟形曲线这一事实。l 在一般情况下，很难求出n个随机变量之和的分布函数，上式表明，当n充分大时，可以通过给出其近似的分布。这样，就可以利用正态分布对作理论分析或作实际计算，其好处是明显的。将上式左端改写成，这样，上述结果可以写成：当n充分大时， 或 这是独立同分布中心极限定理结果的另一个形式。这就是说，均值为，方差为的独立同分布的随机变量的算术平均，当n充分大时近似地服从均值为，方差为的正态分布。这一结果是数理统计中大样本统计推断的基础。定理五（李雅普诺夫定理）设随机变量相互独立，它们具有数学期望和方差：记，若存在正数，使得当时，则随机变量之和的标准化变量：的分布函数Fn(x)对于任意x，满足（证明略）定理五表明，在定理的条件下，随机变量当n很大时，近似地服从正态分布N（0.1），由此，当n很大时，近似地服从正态分布。这就是说，无论各个随机变量服从什么分布，只要满足定理的条件，那么当n很大时，就近似地服从正态分布。在很多问题中，所考虑的随机变量可以表示成很多个独立的随机变量之和，例如，在任一指定时刻，一个城市的耗电量是大量用户耗电量的总和；一个物理实验的测量误差是由许多观察不到的，可加的微小误差所合成的，它们往往近似地服从正态分布。定理六（棣莫弗拉普拉斯定理）（定理四的特殊情况），设随机变量服从参数为n,P(0P0于是可得b0由此可得出死亡人数 Y10000从上解出b10000由此得出死亡人数故若使保险公司期望盈利超过1万元等价于Y20000由此推得 a12元（7） 仍设随机变量Y为2500中死亡人数，则YB（25