概率论与数理统计第四章极限定理

第四章极限定理

一、教材说明

本章内容包括常用的儿个大数定律与中心极限定理。大数定律涉及的是一种依概率收

敛，中心极限定理涉及按分布收敛。这些极限定理不仅是概率论研究的中心议题，而且在

数理统计中有广泛的应用。

1、教学目的与教学要求

本章的教学目的是：

（1）使学生深刻理解和掌握人数定律，会熟练运用几个大数定律证明题目；

（2）使学生理解并熟练掌握独立同分布下的中心极限定理。

本章的教学要求是：

（1）深刻理解并掌握大数定律，能熟练应用大数定律证明题目；

（2）深刻理解与掌握中心极限定理，并要对之熟练应用。

2、重点与难点

本章的重点是讲清人数定律与中心极限定理的条件、结论，难点是人数定律和中心极限

定理的应用。

二、教学内容

本章共分大数定律、中心极限定理两节来讲述本章的基本内容。

§4.1大数定律

一、大数定律的意义

1.引入

在第一章中引入事件与概率的概念时曾经指出，尽管随机事件A在一次试验可能出现

也可能不出现，但在大量的试验中则呈现出明显的统计规律性一一频率的稳定性。频率是概

率的反映，随着观测次数”的增加，频率将会逐渐稳定到概率。这里说的“频率逐渐稳定于

概率”实质上是频率依某种收敛意义趋于概率，这个稳定性就是“大数定律”研究的客观背

景。

详细地说：设在一次观测中事件A发生的概率PAp,如果观测了，次（也就是

71

一个〃重贝努利试验），A发生了〃次，则A在〃次观测中发生的频率为—”典当充分大

n

时，频率一〃逐渐稳定到解。若用随机变量的语言表述，就是:X设j表示第次观测中

n

事件A发生次数，即

0,第漱试嚓中力不麦生i1,2,,〃

n

则X,*2,,¥”是〃个相互独立的随机变量，显然“X。

i1

从而有二L“%

〃〃“

因此“一〃稳定声”，又可表域为次观测结果的平均值稳卒于。

n

现在的问题是:“稳定”的确切含义是什么？”稳格于是否能写成

lim-p（1）

„n"

亦即，是否对0,N,当〃M寸，有\_p?（2）

n

对〃重贝努里试验的所有样本点都成立？

实际上，我们发现事实并非如此，比如在〃次观测中事件A发生〃次还是有可能的,

此时〃%f1,从而对0Ip,不论N多么大，也不可能得到

当〃N时，有」p成立。也就是说，在个别场合下，事件（」）还是有

可能发生的，不过当"很大时，事件（

）发生的可能性很小。例如，对上面的

不P

"有'丁1"0

72

显然，当〃时，P—1pn0,所以“4-稳定于p”是意味着对

0,有

limO（|〃p）0

--\Oz

"n

（概率上“一”稳定声”还有其他提法，如波雷尔建立网出力二p）1,从而

n"〃

开创了另一形式的极限定理-一强大数定律的研究）

沿用前面的记号，（3）式可写成lim^L"Xp）0

"〃H

一般地，设Y,¥2,,X”，是随机变量序列，〃为常数，如果对0,有

1«

limP（|一Xa）0（4）

即

limP（\\-nX,a）1

则称L"X稳定于a。

〃/i

概率论中，一切关于大量随机现象之平均结果稳定性的定理，统称为大数定律。

2.定义

若将（4）式中的。换成常数列①，，。“，，即得大数定律的一般定义。

定义4.1若名,X2,,X〃，是随机变量序列，如果存在常数列⑦，Q2,,a,.

便对0,有

lim尸(|-'Xian)1

“n,i

成立，则称随机变量序列线服从大数定律。

若随机变量X•具有数学期望七”,i1,2,，则大数定律的经典形式是:

对0,有

73

]“In

limP（|一*上EXi）1

〃〃ii〃”

证明：因为｛X｝为独立随机变量列，且由它们的方差有界即可得到

0。（,Xi）"DXinc

I1i1

从而有

1”

-DX0,n

n't\i

满足马尔可夫条件，因此由马尔可夫大数定律，有

1n1«

limP（|iX1EX）1#

"n-n

注：切比雪夫大数定律是马尔可夫大数定律的特例。

例4.1设2,为独立同分布随机变量序列，均服从参数为的泊松分布，则由独立

性及EX,DXt,/1,2,知其满足定理4.2的条件，因此有

limP（\；X）I

nnZ1

注：此例题也可直接验证满足马尔可夫条件。

定理4.3（贝努利定理或贝努利大数定律）设”是〃重贝努利试验中事件A出现的次数，

又A在每次试验中出现的概率为p,0p1,则对0,有

limP（|2P）1

证明：令X1,第歆试验中4发生

0,第i次试验中4不发生'1'2,‘〃

显然〃"X

由定理条件，Xii1,2,，〃独立同分布（均服从二点分布）。

且EXip,DXip1p都是常数，从而方差有界。

由切比雪夫大数定律，有

75

limP(|—p)limP—Xip1井

w1nnni\

贝努利大数定律的数学意义：贝努利大数定律阐述了频率稳定性的含义，当〃充分大时

可以以接近1的概率断言，——“将落布以为中心的内。贝努利大数定律为用频率估计概

n

率(p

——)提供了理论依据。

注1:此定锂的证明也可直接验证满足马尔可夫条件。

注2：贝努利大数定律是切比雪夫大数定律的特例。它是1713年由贝努利提出的概率极限

定理中的第一个大数定律，

以上大数定律的证明是以切比雪夫不等式为基础的，所以要求随机变量的方差存在，

通过进一步研究，我们发现方差存在这个条件并不是必要条件。

定理4.4(辛钦大数定律)设X,X2,是一列独立同分布的随机变量，且数学期望存在

EXiaj1,2,，则对0,有

limP(|Xia)1

成立。

注：贝努利人数定律是辛欧人数定律的特例。

辛钦大数定律的数学意义：辛钦大数定律为实际生活中经常采用的算术平均值法提供

了理论依据。它断言：如果诸刀是具有数学期望、相互独立、问分布的随机变量，则当〃充

YX2Xn

分大时，算术平均值_________________一定以接近1的概率落在真值的任意小的邻域内。

〃a

据此，如果要测量一个物体的某指标值4,可以独立重第地测量〃次，得到•组数据：

XI^2,,X",当，充分大时，可以确信aXIX2Xn且把XIX2X”作

nn

1〃

为。的近似值比一次测量作为。的近似值要精确的多，因EX.a,E-Xi〃：但

ni

DXi2,D-"X,―，即L”X关于。的偏差程度是一次测量的偏差程度的

«1〃〃“

〃越大，偏差越小。

n

76

辛钦大数定律也是数理统计学中参数估计理论的基础，通过第六章的学习，我们对它

会有更深入的认识。

例4.2见书p98例1。

例4.3设随机变量X,X2，…,Xn,…相互独立同分布，且EXn=O,求HmP("Xi〃)

nri

解由辛钦大数定律有(£=1)

0|1)1即])]

“ni\"n,,

显然有QJ."X,|1)(i"XiI)(/n)

nfi〃“/i

故"1w

limP(Xi〃)limP(\-X”1)1。

"/I"〃“

n

从而有limP(Xin)L

n

iI

例4.4设｛X｝独立同分布，且EXn

存在,则｛%“｝也服从大数定律。

证明：｛X”卜独立同分布，所以｛%4也独立同分布；又.在，故由辛钦大数定律知

｛X｝服从大数定律。

k

注：例4.4是统计学中矩估计法的理论依据，

§4.2中心极限定理

第二章介绍正态分布时，我们一再强调正态分布在概率统计中的重要地位和作用，为

什么实际上有许多随机现象会遵循正态分布？这仅仅是一些人的经验猜测还是确有理论依

据，“中心极限定理”正是讨论这一问题的。在长达两个世纪的时间内成为概率论讨论的中

心课题，因此得到了中心极限定理的名称。

一、中心极限定理的概念

77

设X为一独立随机变量序列，且EX〃,OX0,〃1,2,均存在，称

XkEXk

DXk

i

为人的规范和。

概率论中，一切关于随机变量序列规范和的极限分布是标准正态分布的定理统称为中心

极限定理，即设％的规范和匕,有

1

X~dt

h*

limPY

则称”服从中心极限定理。

XkE

中心极限定理实质上为一近似服从标准正态分布NO』。

DXk

二、中心极限定理

大数定律仅仅从定性的角度解决了频率〃稳定于概率P，Mp,为了定最

地估计用频率—”估计概浑的误差，历史上DeMoivrc-Laplac。给出了概率论上第一个

n

中心极限定理，这个定理证明了〃的标准化随机变量渐近于M0」)分布。

定理4.5(德莫佛一拉普拉斯)极限定理

在〃重贝努里试验中，事件A在每次试验中出现的概率为〃(0〃1),〃为〃次试

验中事件A发生的次数，则

1

lim尸二雪x2dt

注：定理4.5说明”一N(np,npq),又〃服

.近似服从N(0,l)，

从而”近似度从

二项分布Bgp),所以定理4.5也称为二项分布的正态近似或二项分布收敛于正态分布。

78

在第二章，泊松定理也被说成是“二项分布收敛于泊松分布”。同样一列二项分布，一个定

理说是收敛于泊松分布，另一个定理又说是收敛于正态分布，两者不是说有矛盾吗？诗仔细

比较两个定理的条件和结论，就可以知道其中并无矛盾之处。这里应该指出的是在定理4.5

中印，而泊松定理中则要求〃口，（）1,所以在实际问题中作近似计算时，如

果〃很大，叩不大或〃夕不大（即〃很小或q1p很小），则应该利用泊松定理；反之,

若〃,他,〃夕都较大，则应该利用定理4.5。

定理4.6（林德贝尔格-勒维）极限定理

设Xi,X……是一列独立同分布的随机变量，且

EXka,DXk220k1,2,

则有

Xtna,,

I_

limP_u-----------x------2出

〃石厅X

注：德莫佛一拉普拉斯极限定理是林德贝尔格-勒维极限定理的特例。

证明：略。

Xkna

注：定理4.6表明：当〃充分大时,Ynz厂的分布近似于MOJ）,从而

XiXnna最有近似分布N（nayn

分布且存在方差的随机变量之和近似服从正态分布。该结论在（数籥聚慌美罩/露法中"

广泛应用，同时也提供了计算独立同分布随机变量之和的近似概率的简便方法。

三、应用

德莫佛一拉普拉斯中心极限定理是概率论历史上的第一个中心极限定理，它有许多重要

的应用。下面介绍它在数值计算方面的一些具体应用。

1、二项概率的近似计算

设〃是〃重贝努里试验中事件4发生的次数，则”〜B,r,p,对任意ab有

PanbCnkpk\pn

k<b

79

当〃很大时，直接计算很困难。这时如果不大（即P较小接近于0）或〃1P不

大（即P接近于1）则用泊松定理来近似计算（〃夕大小适中）；

当P不太接近于0或I时，可用正态分布来近似计算（对?较大）：

npqnpqnpq

例4.5在一家保险公司里有10000个人参加保险，每人每年付12元保险费。在一年内一个

人死亡的概率为0.006,死亡时其家属可向保险公司领得1000元，问:

（1）保险公司亏本的概率多大?

（2）保险公司一年的利润不少于40000元的概率为多大?

解：保险公司一年的总收入为120000元，这时

（1）若一年中死亡人数120,则保险公司亏本;

（2）若一年中死亡人数80,则利润40000元。

1,翁•个人套一室生死立

0,就个人花一年内活着

则P（X1）0.006p,记““10000己足够大，于是由德莫佛一拉普拉

rI

斯中心极限定理可得欲求事件的概率为

«120)1P(np120npb)1

(n而

（其中力四)

7.723

同理可求得

(2)P(n80)0.995(对应的b2.59)。

例4.6某单位内部有260架电话分机，每个分机有蜴的时间要用外线通话。可以认为各个

电话分机用不同外线是相互独立的.问：总机需备多少条外线才能以95%的把握保证各个分

机在使用外线时不必等候？

解：由题意，