概率2.3_大数定理与中心极限定理

1、概率论基础（）2009年3月山西大学数学科学学院山西大学数学科学学院大数定律大数定律&中心极限定理中心极限定理1知识拓展知识拓展山西大学数学科学学院山西大学数学科学学院大数定律大数定律&中心极限定理中心极限定理2一、多维随机变量（随机向量）二、多维随机变量的特征数三、大数定理四、中心极限定理相关概念相关概念山西大学数学科学学院山西大学数学科学学院大数定律大数定律&中心极限定理中心极限定理3n维随机变量（随机向量）的形式：n维随机变量的联合分布函数：二维离散型随机变量的联合分布列：二维连续型随机变量的联合分布函数：12()(),(),()nXXXX121122(,)(,)

2、nnnF x xxP Xx XxXx(,),1,2,ijijpP Xx Yyi j，( ,)( , )xyF x yp u v dvdu 二维随机变量的特征数二维随机变量的特征数山西大学数学科学学院山西大学数学科学学院大数定律大数定律&中心极限定理中心极限定理4u 协方差u 相关系数二维随机变量的二维随机变量的协方差协方差山西大学数学科学学院山西大学数学科学学院大数定律大数定律&中心极限定理中心极限定理5设（X，Y）是一个二维随机变量，如果存在，则称其为X与Y的协方差，或称为X与Y的相关（中心）矩，并记为 特别地：协方差 0，称X与Y正相关，即同增同减；协方差 0，Var(Y)

3、0。则称为X与Y的相关系数。相关系数与协方差是同符号的，即同正同负，所以从相关系数的取值也可以反映X与Y的（线性）相关性。相关系数可以看做是X与Y标准化后的协方差。(, )(, )(, )()( )XYCov X YCov X YCorr X YVar XVar Y 二维随机变量的二维随机变量的相关系数相关系数山西大学数学科学学院山西大学数学科学学院大数定律大数定律&中心极限定理中心极限定理8相关系数的性质：1. 有界： ;2. 不等式关系： ；3. 相关系数为 的充分必要条件是X与Y几乎处处有线性关系，即存在a(不为0)和b，使得P(Y=aX+b)=1。其中当Corr(X,Y)=1时

4、，有a0 ；当Corr(X,Y)=1，有a0。222(, )XYCov X Y 1(, )1Cov X Y 1独立与不相关独立与不相关山西大学数学科学学院山西大学数学科学学院大数定律大数定律&中心极限定理中心极限定理9一般场合，独立必然导致不相关，但不相关推不出独立。但在正态场合下两者等价。TH. 在二维正态分布 场合，不相关与独立是等价的。221212(, )N 伯努利伯努利大数定律大数定律山西大学数学科学学院山西大学数学科学学院大数定律大数定律&中心极限定理中心极限定理10设 为n重伯努利试验中事件A发生的次数，p为每次实验中A出现的概率，则对任意的 ，有注解：只要试验次数

5、足够大，事件A发生的频率 就会与其概率真值相当的接近，偏离的机会很小，可以认为是0。lim1nnPpnn0nn大数定律大数定律的一般形式的一般形式山西大学数学科学学院山西大学数学科学学院大数定律大数定律&中心极限定理中心极限定理11设有一随机变量序列Xn，若对任意的 ，有则称该随机变量序列服从大数定律。注解：只要n充分大，随机变量“平均值”与理论“期望”可以无限接近。01111lim()1nniiiinPXE Xnn大数定律大数定律的不同形式的不同形式山西大学数学科学学院山西大学数学科学学院大数定律大数定律&中心极限定理中心极限定理121、 切比雪夫大数定律设Xn为一列两两不相

6、关的随机变量序列，若每个Xi的方差存在，且有共同的上界，则Xn服从大数定律。2、 马尔科夫大数定律（条件）随机变量序列Xn，若满足3、 辛钦大数定律设Xn为一独立同分布的随机变量序列，若Xi的期望存在，则Xn服从大数定律。211()0,()niiVarXnn 中心极限定理中心极限定理&大数定律大数定律的关系的关系山西大学数学科学学院山西大学数学科学学院大数定律大数定律&中心极限定理中心极限定理13大数定律讨论的是多个随机变量的平均(1)的渐进性质，中心极限定理讨论的是随机变量和(2)的极限分布。(1)(2)11niiXn1nniiYX独立同分布的独立同分布的中心极限定理中心极限

7、定理山西大学数学科学学院山西大学数学科学学院大数定律大数定律&中心极限定理中心极限定理141、 林德贝格-勒维中心极限定理设Xn是独立同分布的随机变量序列，且记则对任意实数y，有注解：独立随机变量和序列标准化后的分布是渐进正态的。2()()0E XiVar Xi，*12nnXXXnYn2*21lim()( )2tynnP Yyyedt 二项分布的二项分布的正态近似正态近似山西大学数学科学学院山西大学数学科学学院大数定律大数定律&中心极限定理中心极限定理152、棣莫弗-拉普拉斯极限定理设n重伯努利试验中，事件A在每次实验中出现的概率是p(0p1)，记 为n次试验中事件A出现的次数

8、，且记则，对任意实数y，有注解：二项分布（n个独立同分布事件和）是渐进正态的。n*nnnpYnpq2*21lim()( )2tynnP Yyyedt 林德贝格林德贝格条件条件山西大学数学科学学院山西大学数学科学学院大数定律大数定律&中心极限定理中心极限定理16林德贝格条件设Xn是一个相互独立的的随机变量序列，他们具有有限的数学期望和方差： ，则随机变量的和 的期望方差分别为：若诸Xi为连续随机变量时，记其密度函数为pi(x)。如果对任意的 ，有 *2()()iiiiE XVar X，1nniiYX1222212()()():nnnnnnE YYVar YB0222|11lim()( )0inniixBninxpx dxB 独立不同分布的独立不同分布的中心极限定理中心极限定理1山西大学数学科学学院山西大学数学科学学院大数定律大数定律&中心极限定理中心极限定理173、林德贝格中心极限定理设Xn是相互独立的的随机变量序列，如果满足林德贝格条件，即对任意 ，有则对任意的x，有 注解：n个独立不同分布事件的和是渐进正态的，只要它们有有限均值和方差，且满足林德贝格条件。0222|11lim()( )0inniixBninxpx dxB 22111lim()2tnxiininPXxedtB独立不同分布的独立不同分布的中心极限定理中心极限定理2山