5.1 大数定律（课件）- 《概率论与数理统计》同步教学（机工版第4版）

《概率论与数理统计》

第五章大数定律与中心极限定理

本章要解决的问题答复

1.为何能以某事件发生的频率

作为该事件的概率的估计？大数

2.为何能以样本均值作为总体定律

期望的估计？

3.为何正态分布在概率论中占

有极其重要的地位？中心极

4.大样本统计推断的理论基础限定理

是什么？

§5.1大数定律

一、契比雪夫(chebyshev)不等式

定理1设r.v.X的数学期望为E(X)=，方差为

DX=2，则对于任意实数>0,有

D(X)

P(X)

2

2

X

证I(X)

2

XD(X)

P(X)E

2

或D(X)当2D(X)

P(|XE(X)|)1

2无实际意义,

推论1——马尔可夫(Markov)不等式

设随机变量X的k阶绝对原点矩E(|X|k)

存在，则对于任意实数>0,

E(|X|k)

P(|X|)

k

例5－1已知随机变量X的期望E(X)＝14,方差

D(X)=35/3,试估计P{10＜X＜18}的大小.

解

P{10＜X＜18}=P{10－E(X)＜X－E(X)＜18-E(X)}

＝P{－4＜X－14＜4＝＝P{│X－14│＜4}

由契比雪夫不等式,得

P{│X－14│＜4}≥1－35/3/42≈0.271,

所以P{10＜X＜18}≥0.271.

解:由契比雪夫不等式

0.01

P{|X1|a};

a2

令0.01

0.1

a2

a20.1a0.32

例5－3设每次试验中，事件A发生的概率为

0.75,试用Chebyshev不等式估计,n多大

时,才能在n次独立重复试验中,事件A出

现的频率在0.74~0.76之间的概率大于0.90?

解设X表示n次独立重复试验中事件A

发生的次数,则

X~B(n,0.75)

E(X)0.75n,D(X)0.1875n

X

要使P0.740.760.90，求n

n

即P0.74nX0.76n0.90

即P|X0.75n|0.01n0.90

由Chebyshev不等式，=0.01n,故

0.1875n

P|X0.75n|0.01n12

令(0.01n)

0.1875n

10.90

(0.01n)2

解得n18750

二、大数定律

设序列，

定义1X1,X2,,Xn,是r.v.若0

存在一常数，满足

ClimPXnC0

n

(或limPXnC1)

n

则称r.v.序列X1,X2,,Xn,依概率收敛于

常数C,记作

P

XnC

n

推论1PP

XnaXnb

则a=b.

这与经典高等数学中极限性质是一致的。

设X1,X2,…,Xn,…是随机变量序列，若

nnn

1P1P1

(Xii)0,orXii

ni1ni1ni1

称随机变量序列满足(弱)大数定律。

{Xn}

定理1.(Chebyshev大数定律)

相互独立，

设r.v.序列X1,X2,,Xn,

(指任意给定n>1,X1,X2,,Xn相互独立)

22

E(Xk)k,D(Xk)k,k1,2,

则0有

1n

limP(Xkk)0

n

nk1

或1n

limP(Xkk)1

n

nk1

推论2(辛钦大数定律)设随机变量X1,X2,…,Xn,…

D(X)2

相互独立且服从同一分布,E(Xi)=μ,i

则n

1P

Xi

ni1

即n个相互独立同分布的随机变量的算术平均值依

概率收敛于随机变量的期望值。

需要指出的是辛钦大数定律可以去掉2

D(Xi)

这个条件.

推论3(贝努里Bernoulli大数定律)

设n是n次独立重复贝努里试验中事件A发

生的次数,p是每次试验中A发生的概率,则

0有

limPnp0

nn

或

limPnp1

nn

证引入r.v.序列{Xk}

1,第k次试验A发生

Xk

0,第k次试验A发生

设则

P(Xk1)p,E(Xk)p,D(Xk)pq

n

相互独立，X

X1,X2,,Xnnk

k1

记1npq

YnXk,E(Yn)p,D(Yn)

nk1n

由Chebyshev不等式

0Pnp

n

n

Xk

Pk1E(X)

nk

1pq

PYnE(Yn)

2n

故limPnp0

nn

贝努里(Bernoulli)大数定律的意义

在概率的统计定义中,事件A发生的频率

n/n“稳定于”事件A在一次试验中发生

的概率是指：频率n/n与p有较大偏差

n

Ap是小概率事件,因而在n足够

n

大时,可以用频率近似代替p.

在Bernoulli定理的证明过程中，Yn是

相互独立的服从0-1分布B(1,p)的r.v.序列

{Xk}的算术平均值,Yn依概率收敛于其数

学期望p.

结果同样适用于服从其它分布的独立

r.v.序列。

推论4(Poisson大数定律)设μn是前n次独立重复试

验中事件A发生的次数,pn是事件A在第n次试验中事

件A发生的概率,则有

n

nP1

pi

nni1

推论5(Markov大数定律)设X1,X2,…,Xn,…为随机

变量序列,且E(Xi)i

1n

2D(Xi)0Markov条件

ni1

nn

则1P1

Xii

ni1ni1

1n

其中称为Markov条件。

2D(Xi)0

ni1

定理2(格涅坚科大数定律)随机变量序列{Xn}满

足弱大数定律的充分必要必要条件为:

(Ya)2

limEnn0

n2

1(Ynan)

其中1n1n

YnXi,anEXi

ni1ni1

相互独立具有

设r.v.序列X1,X2,,Xn,

相同的分布，且

k

E(Xi)k,i1,2,

则0有

n

1k

limPXik0

n

ni1

记

n

1k

XiMk

ni1

P

则M11

n

P

M22

n

P

Mkk

n

若g(x1,x2,,xk)连续，则

P

g(M1,M2,,Mk)g(1,2,,k)

n