实变函数中依测度收敛的定义精

1、复习教材 P14频率与概率的关系：只要 n 相当大，频率 3(1)与概率P(1)是会非常靠近的，频率是概率的一个近似；(2)教材普哇松定理：当np很大时怎么办呢？；(3)教材 P115:一个变量如果受到大量微小的、独立的随机因素的影响，那么这个变量一般是一个正态变量，在下一章中我们将讨论这个问题；契贝晓夫不等式：P(|E|)匕；实变函数中依测度收敛的定义：对0,有linnmE|fnf|0,则称函数列fn(x)依测度斗便敛于 f(x),记作 fn(x)f(X)。第四章人数定律与中心极限定理极限定理是概率论与数理统计学中最重要的理论结果。本章简单地介绍两类极限定理-“大数定律”和“中心极限定理”。

2、通常， 把叙述在什么条件下一随机变量序列的算术平均值 （按某种意义） 收敛于某数的定理称为“大数定律”；把叙述在什么条件下大量的随机变量之和近似服从正态分布的定理称为“中心极限定理”。本教材只介绍极限定理的经典结果。分布函数、矩和特征函数是解决经典极限定理的主要工具。一、教学目的与要求1.掌握四个大数定律的条件、结论及数学意义；2.理解随机变量序列的两种收敛性的定义及其关系，了解特征函数的连续性定理；3.掌握独立同分布中心极限定理的条件、结论，并会用来解决一些实际问题。二、教学重点和难点教学重点是讲清大数定律的条件、结论和中心极限定理的条件、结论。教学难点是随机变量序列的两种收敛性及大数定律和

3、中心极限定理的应4.1大数定律一、大数定律的意义在第一章中引入事件与概率的概念时曾经指出，尽管随机事件A在一次试验可能出现也可能不出现， 但在大量的试验中则呈现出明显的统计规律性一一频率的稳定性。 频率是概率的反映，随着观测次数 n 的增加，频率将会逐渐稳定到概率。这里说的“频率逐渐稳定于概率”实质上是频率依某种收敛意义趋于概率，这个稳定性就是“大数定律”研究的客观背景。详细地说：设在一次观测中事件A发生的概率 PAp,如果观测了 n 次（也就是一个 n 重贝努里试验），A发生了n次，则A在 n 次观测中发生的频率为二,当 n 充分大时，频率逐渐稳定到概率p。若用随机变量的语言表述，就是：设i

4、表示第i次 n观测中事件A发生次数，即1,第i次试验中A发生i12ni0,第i次试验中A不发生,n则1,2,口是门个相互独立的随机变量，显然nioi1一，n1n从而有inni1因此“稳定于 p，又可表述为 n 次观测结果的平均值稳定于 p0n现在的问题是：“稳定”的确切含义是什么？J稳定于p是否能写成 n亦即，是否对0,N,当nlim-pnnN时，有p对 n 重贝努里试验的所有样本点都成立?实际上，我们发现事实并非如此,nn,(1)(2)比如在 n 次观测中事件A发生 n 次还是有可能的,1p,不论N多么大，也不可能得到当nN时，有成立。也就是说，在个别场合下，事件（）还是有可能发生的，不过当

5、 n 很大时，事件）发生的可能性很小。例如，对上面的nn,有 P显然，当 n时,pn0,所以“稳定于p”是意味着对n0,（概率上“工稳定于 n开创了另一形式的极限定理沿用前面的记号，（3）般地，设limnP(|n(3)还有其他提法，如博雷尔建立了 P（limn强大数定律的研究）,一,1式可写成 limP（一是随机变量序列,a 为常数，如果对p)1从而0,有1nlimP(inni1(4)一，1n一则称-i稳止于 aoni1概率论中，一切关于大量随机现象之平均结果稳定性的定理，统称为大数定律。对0,有limP(n二、四个大数定律Ei,i1,2,存在。首先看一课后题 P222的 T4.23（马尔可夫

6、大数定律）limP(n若将（4）式中的 a 换成常数列a1,a2,an,即得大数定律的一般定义。定义4.1:若是随机变量序列，如果存在常数列 a1,a2,an,使对0,有成立，则称随机变量序列若随机变量1limP(ann服从大数定律。i具有数学期望 Ei,i1,2,则大数定律的经典形式是:这里常数列 an1Ei,nni11,2,本段介绍一组大数定律,是一随机变量序列，我们总假定如果随机变量序列n,当 n 时,有4Dn0(*)证明：n服从大数定律。证明：对0,由契贝晓夫不等式，有P(P(E(1nni)i1服从大数定律。们的方差有界，即存在常数C0,使有因此limP(0,nlimP(此大数定律称为

7、马尔可夫大数定律,式称为马尔可夫条件。定理4.2（契贝晓夫大数定律）设1,2,是一列两两不相关的随机变量，又设它则随机变量序列n服从大数定律，即对limP(nC,i1,2,0,有证明：因为i两两不相关，且由它们的方差有界即可得到n0D(i1i)nDinci1从而有1二Dn0,n满足马尔可夫条件，因此由马尔可夫大数定律,limP(n注：契贝晓夫大数定律是马尔可夫大数定律的特例。例4.1设为独立同分布随机变量序列，均服从参数为的普哇松分布，则由独立一定不相关，且 Ei,Di,i1,2,1limP(nni1注：此例题也可直接验证满足马尔可夫条件。limP(n显然n由契贝晓夫大数定律，有贝努里大数定律

8、的数学意义：贝努里大数定律阐述了频率稳定性的含义，当 n 充分,因而满足定理4.2的条件，因此有定理4.1（贝努里定理或贝努里大数定律）:设n是 n 重贝努里试验中事件A出现的次数,又A在每次试验中出现的概率为 p,00,有证明：令i1,0第i次试验中A发生第i次试验中A不发生1,2,n由定理条件,i1,2,n 独立同分布（均服从二点分布）且 Eip,D都是常数，从而方差有界。limP(n1n)limP-大时可以以接近1的概率断言,上将落在以p为中心的 n内。贝努里大数定律为用频率估计概率（p）提供了理论依据。n注1:此定理的证明也可直接验证满足马尔可夫条件。注2:贝努里大数定律是契贝晓夫大数

9、定律的特例。它是1713年由贝努里提出的概率极限定理中的第一个大数定律。以上大数定律的证明是以契贝晓夫不等式为基础的，所以要求随机变量的方差存在，通过进一步研究，我们发现方差存在这个条件并不是必要条件。定理4.3（辛钦大数定律）设1,2,是一列独立同分布的随机变量，且数学期望存在a,i1,2,，则对 0,有limP(n成立。此定理的证明将在42随机变量序列的两种收敛性中给出。注：贝努里大数定律是辛钦大数定律的特例。辛钦大数定律的数学意义：辛钦大数定律为实际生活中经常采用的算术平均值法提供了理论依据。它断言：如果诸i是具有数学期望、相互独立、同分布的随机变量，则当 n 充分大时，算术平均值二一2

10、n一定以接近1的概率落在真值 a 的任意小的n邻域内。据此，如果要测量一个物体的某指标值 a,可以独立重复地测量 n 次，得到一组数据：X1,X2,Xn,当 n 充分大时，可以确信 a22且把n1n作为 a 的近似值比一次测量作为 a 的近似值要精确的多，因 Eia,Eini1c1n21n1Di2,D-i，即-i关于a的偏差程度是一次测量的偏差程度的-，ni1nni1nn 越大，偏差越小。再比如要估计某地区小麦的平均亩产量，只要收割一部分有代表性1n，/的地块，计算它们的平均亩产量，这个平均亩产量就是-i,在 n 比较大的情形下它ni1可以作为全地区平均亩产量，即亩产量的期望 a 的一个近似。

11、这种近似或“靠近”并不是我们数学分析中的极限关系，而是42中的依概率收敛辛钦大数定律也是数理统计学中参数估计理论的基础，通过第六章的学习，我们对它会有更深入的认识。P222223T4.24,4.30,4.31X1X2Xnn作业:4.2随机变量序列的两种收敛性、依概率收敛在上一节上，我们从频率的稳定性出发，得出下面的极限关系式:1n)=0,其中n一ini1这与数学分析中通常的数列收敛的意义不同。在上式中以随机变量代替常数 a 便得到新的收敛概念。Plimnn从定义可见，依概率收敛就是实变函数中的依测度收敛。由定义可知，nPnP0(n)有了依概率收敛的概念，随机变量序列n服从大数定律的经典结果就可

12、以表示为nn1P1EiEini1ni1特别地，贝努里大数定律可以描述为-Pp(n)n1n羊钦大数止禅描述为-ia(n)ni110nimP(n或等价于limP(n1、定义4.2(依概率收敛)设有一列随机变量1,2,0,有limP(nlimP(nn则称随机变量序列n依概率收敛于，记作(n设n是独立同分布的随机变量序列，且 Eia,D2,证明:3nkn(n1)k1证:2nEkn(n1)k12n(n1)nkEk12an(n1)P(0,由契贝晓夫不等式3nkkan(n1)k141n(n1)(2n(n1)21)limn2n(nD(n(n1)k)2(n1)k1k2DkP(1)2、性质1）、若则 P(证明:于

13、是即对0,P()P(0,有222n132n(n2n(n1)k1111)(n(n”至少有一个成立，即P(-)0(n)P()1这表明，若将两个以概率为1相等的随机变量看作相等时，依概率收敛的极限是唯一.1 一.，于是对 0,当 n-时，有从而有P(|2)、设n,n是两个随机变量序列，a,b为常数，若Pa,nb且 g(x,y)在点(a,b)连续,Pg(n,n)g(a,b)(n3)、若(na,a0 是常数，且2)、3)的证明方法类似于1)。、按分布收敛我们知道，分布函数全面地描述了随机变量的统计规律，那么当P时，其相应的分布函数 Fn(x)与 F(x)之间会有什么样的关系呢？是不是对所有的X,有 Fn

14、(x)F(x)(n 一)成立呢？答案是否定的。例4.2设n(n1)及都是服从退化分布的随机变量，且P(P(1)n0 1,n1,2,所以又n的分布函数为PnP|(n12nl0limFn(0)lim110F(0)nn上例表明，一个随机变量序列依概论收敛到某随机变量，相应的分布函数列不是在每一点都收敛于这个随机变量的分布函数的。但如果仔细观察一下这个例子，发现不收敛的点正是 F(x)的不连续点。要求 Fn(x)在每一点都收敛到 F(x)是太苛刻了，可以去掉 F(x)的不连续点来考虑。1、定义4.3设 F(x),F1(x),Fz(x),是一列分布函数，如果对 F(x)的每个连续点 x,都有limFn(

15、x)F(x)n成立，则称分布函数列 Fn(x)弱收敛于分布函数 F(x),并记作Fn(x)WF(x)(n)若随机变量序列n(n1,2,)的分布函数 Fn(x)弱收敛于随机变量的分布函数F(x)也称n按分布收敛于，并记作nL(n)2、依概率收敛与按分布收敛(弱收敛)之间的关系定理4.4若随机变量序列1,2,依概率收敛于随机变量，即nP(n)则相对应的分布函数列 F1(x),F2(x),弱收敛于分布函数 F(x),即13的分布函数为显然，当x0时，有但当x0时,0,xFn(X)1,xF(x)1n1n0,x01,x0“mFn(x)F(x)定理4.4也可表示成如下形式:证明：对任意的 X,X从而有显然

16、，如果 x 是 F(x)的连续点，就有注意：这个定理的逆命题不一定成立，即不能从分布函数列的弱收敛肯定相应的随机变量序列依概率收敛。14Fn(X)F(x)(n)(n(n)(X)X,X,X)(nX,X)P(所以有同理可证，当x时,P(X)F(X)就有X,P(Fn(X)X)P(F(x)F(x)X)P(P(X,X)X)0,n于是对XXF(x)令 XX,XX,即得F(x0)血Fn(x)nlimFn(x)nlimFn(x)nlimFnF(x)nlimFn(x)nlimFnF(x0)nlimFn(x)nF(x)反面”，则1P(1)P(2)2令1,1,因()是一个随机变量，其分布函数为1,x11F(x)，1

17、x120,x1(),则显然()与()有相同的分布函数 F(x)。再令n分布函数记作 Fn(x),故 Fn(x)=F(x),于是对任意的xR,有limFn(x)limF(x)F(x)所以 Fn(x)WF(x)成立，而对任意的02,包有P(|n|)P(2|)1即不可能有nP成立。但在特殊情况下，它却是成立的Fn(x)WF(x)(n定理4.5也可表示成如下形式：nPc(n)nLc(n)证明：必要性已由定理4.4给出，下面只要验证充分性。对任意白0,有这里 F(x)是c 的分布函数，也就是退化分布F(x)1,xc0,xc例4.3抛掷一枚均匀的硬币，有两个可能的结果:产“出现正面”，2=出现这时，若()

18、定理4.5随机变量序列nPc(c 为常数)的充要条件是15证明：已知的特征函数为(t)-j=-的特征函数为g(t)(e1)1Jtet22!16PnCP(nC)P(nC)1Fn(C)Fn(C0)1100,n定理4.5得证。本章将要向大家介绍的大数定律实际上就是随机变量列依概率收敛于常数的问题，由定理4.5知，它可归结为相应的分布函数列弱收敛于一退化分布， 而中心极限定理就是随机变量的分布函数列弱收敛问题，可见分布函数列的弱收敛在本章讨论中占重要地位。然而，要直接判断一个分布函数列是否弱收敛是很困难的，上一章我们就知道，分布函数与特征函数一一对应，而特征函数较之分布函数性质优良很多，故判断特征函数

19、的收敛一般较容易，那么是否有?FnxWF(x)相应的n(t)(t)答案是肯定的。即下述的特征函数的连续性定理。三、特征函数的连续性定理定理4.6分布函数列 Fn(x)弱收敛于分布函数 F(x)的充要条件是相应的特殊函数列n(t)收敛于 F(x)的特征函数(t)。证明：整个证明比较冗长(略)例4.4若是服从参数为的普哇松分布的随机变量，证明:limP(t2xe2dti-e(e,故下面我们利用定理4.6来证明上一节的定理4.3（辛钦大数定律）。证明：因1,2,同分布，故有相同的特征函数（t）,又 Ea将i在t0处展开，有(0)(0)to(t)1iato(t),，一一1n由1,2,相互独立，行n-k

20、的特征函数为nk1tnttgn(t)(-)1ia-o(-)nnn对于任意取定的t,有lim1ia-o(-)neiatnnn由例题3.26已知 eiat是退化分布的特征函数，相应的分布函数为.、一，1n由定理4.6知-i的分布函数弱收敛于 F（x）,再由定理4.5得ni1于是it(e,1、。从而对任意的点列nlimgn(t)t2e2t2又 e 亍是 N（0,1）分布的特征函数，由定理4.6即知有limP(nx)t22dt因n是可以任意选取的，所以limP(x)t2e%t注：此例说明普哇松分布（当参数时） 收敛于正态分布。limgn(t)nF(x)1,xa0,xa17故辛钦大数定律成立。我们曾经指

21、出特征函数在求独立和的分布时所具有的特殊威力，而本节所叙述的特征函数连续性定理(定理4.6)“如虎添翼”， 更增加了特征函数在解决独立和的分布的极限问题时的效能，使之成为无与伦比的锐利工具。在下一节中将利用这一工具专门讨论独立和的分布的极限问题。最后了解如下的斯鲁茨基定理：定理4.7设in,2n,kn是k个随机变量序列，并且Pinai,n(i1,2,k)又 R(xi,x2,xk)是k元变量的有理函数，并且 R(ai,a2,ak)，则有PR(in,2n,kn)日 0,)，n成立。掌握斯鲁茨基定理的如下几个特例：如果n,n是两个随机变量序列，并且当 n 时有PPna,nb其中 a,b 是两个常数，

22、这时有P(1)nnab,n；P(2)nnab,n(若 b0)成立。作业：P220222T4.7,4.9,4.i3,4.i4,4.i9i84.3中心极限定理前一章介绍正态分布时，我们一再强调正态分布在概率统计中的重要地位和作用，为什么实际上有许多随机现象会遵循正态分布？这仅仅是一些人的经验猜测还是确有理论依据， “中心极限定理”正是讨论这一问题的。 在长达两个世纪的时间内成为概率论讨论的中心课题，因此得到了中心极限定理的名称。一、中心极限定理的概念设n为一独立随机变量序列，且 En,Dn1,2,均存在，称nnkEkk1k1n;nDkk1为n的规范和。概率论中，一切关于随机变量序列规范和的极限分布

23、是标准正态分布的定理统称为19中心极限定理，即设n的规范和n,有、独立同分布中心极限定理大数定律仅仅从定性的角度解决了频率稳定于概率 P,即PP,为了定量 nn地估计用频率估计概率p的误差，历史上DeMoivreLaplace给出了概率论上第一 n个中心极限定理，这个定理证明了n的标准化随机变量渐近于 N(0,1)分布。定理4.8(彳惠莫佛-拉普拉斯)极限定理在 n 重贝努里试验中，事件A在每次试验中出现的概率为 p(0p1),n为 n 次试验中事件A发生的次数，则.t2nnp1x行limPxe2dtn.npq-2注：定理4.8说明十近似服从 N(0,1),从而n近似服从 N(np,npq),

24、又n服从二npq项分布 b(n,p),所以定理4.8也称为二项分布的正态近似或二项分布收敛于正态分布。在第二章，普哇松定理也被说成是“二项分布收敛于普哇松分布”。同样一列二项分布，一个定理说是收敛于普哇松分布，另一个定理又说是收敛于正态分布，两者不是说有矛盾吗？请仔细比较两个定理的条件和结论，就可以知道其中并无矛盾之处。这里应该指出的是在定理4.8中np,而普哇松定理中则要求 npn()。所以在实际问题中作近似计算时，如果 n 很大，np不大或nq不大(即p很小或 q1p 很小),则应该利用普哇松定理；反之，若n,np,nq都较大，则应该利用定理4.8。20则称n服从中心极限定理t2limPn

25、xnx一e2dt近似服从标准正态分布 N0,1中心极限定理实质上为定理4.9（林德贝尔格-勒维）极限定理设1,2,是一列独立同分布的随机变量，且22Ek,Dk0k1,2,则有nknt21xlimPk1xe2dtn.n2注：德莫佛一拉普拉斯极限定理是林德贝尔格-勒维极限定理的特例。证明：设ka 的特征函数为（t）,则nknak1,n的特征函数为又因为所以E(ka)0,D(a)于是特征函数为有展开式(t)(0)(0)t从而对任意固定的t,有t*nt_2又 e2是 N（0,1）分布的特征函数,(0)由定理0,(0)(0)t-2o(t2)222to(t)t22nt2o()n4.6有21knt2limP

26、-x-=XeTdtn、n2nkna注：定理4.9表明：当 n 充分大时，n口一 l 的分布近似于 N（0,1）,从而.n12nnaVnn具有近似分布 N（na,n2）。这意味大量相互独立、同分布且存在方差的随机变量之和近似服从正态分布。该结论在数理统计的大样本理论中有广泛应用，同时也提供了计算独立同分布随机变量之和的近似概率的简便方法。三、应用德莫佛一拉普拉斯中心极限定理是概率论历史上的第一个中心极限定理，它有许多重要的应用。下面介绍它在数值计算方面的一些具体应用。1、二项概率的近似计算设n是 n 重贝努里试验中事件A发生的次数，则nbn;p,对任意ab有kknkPanbCnp1pakb当 n

27、 很大时，直接计算很困难。这时如果np不大（即p较小接近于0）或 n1p 不大（即p接近于1）则用普阿松定理来近似计算（np大小适中）；当p不太接近于0或1时，可用正态分布来近似计算（np较大 P219）：anpnnpbnp,npq、npqnpq例1、（P223的丁4.34）在一家保险公司里有10000个人参加保险，每人每年付12元保险费。在一年内一个人死亡的概率为0.006,死亡时其家属可向保险公司领得1000元，问：（1）保险公司亏本的概率多大？（2）保险公司一年的利润不少于40000元的概率为多大?解：保险公司一年的总收入为120000元，这时22bnpanpnpq.npq1,第i个人在一年内死亡0,第i个人在一年内活着,n1000