《数学数理统计》PPT课件.ppt

-1-,第五讲,一、大数定理,二、随机变量的收敛性,三、中心极限定理,-2-,一大数定律,要解决的问题,为何能以某事件发生的频率作为该事件的概率的估计？,为何能以样本均值作为总体期望的估计？,为何正态分布在概率论中占有极其重要的地位？,大样本统计推断的理论基础是什么？,答复,大数定律,中心极限定理,-3-,和方差,1)切比雪夫不等式,2)A.L.CauchySchwarz不等式.,准备工作,-4-,设事件,在每次试验中出现的概率为p,在n次重复独立试验中出现的频率为,且,贝努里（Bernoulli）大数定律,证引入r.v.序列Xk,设,则,-5-,记,由Chebyshev不等式,相互独立，,-6-,故,-7-,在概率的统计定义中,事件A发生的频率,“稳定于”事件A在一次试验中发生的概率是指：,小概率事件,因而在n足够大时,可以用频率近似代替p.这种稳定称为依概率稳定.,贝努里(Bernoulli)大数定律的意义,-8-,大数定律,设r.v.序列,或,是常数序列，,则称服从大数定律,-9-,Chebyshev大数定律,或,两两不相关的随机变量,又设,-10-,两两不相关,且方差有界，则可得到,-11-,辛钦大数定律,为一列相互独立同分布的,随机变量，且具有相同的数学期望,设,在定理一中,去掉方差存在的条件而加上相同,分布的条件，则有：,注,（Markov）大数定律,-12-,如果对于任意的有，,二随机变量的收敛性,定义1,设,为一列随机变量，如果,记为,定义2,设,为一列随机变量,X是随机变量,记为,-13-,定义:设是一列分布函数,如果,对F(x)每个连续点x，都有,则称分布函数列弱收敛于分布函数F(x)，,记为,定义：如果,则称,依分布收敛于X，记为,-14-,可以证明：（）若则，,（）设C为常数，则,充分性：,F(x)是X=C的分布函数，即,-15-,：r阶收敛,定义：设对随机变量Xn及X，r0为常数，如果,且，,则称r阶收敛于X,记作,特别：阶收敛为平均收敛，阶为均方收敛,-16-,：以概率收敛,定义：若存在一随机变量X,使,我们称随机序列以概率为收敛于X,或说几乎处处收敛于X，并记为,四种收敛关系：以概率收敛或r-阶收敛依概率收敛,依分布收敛,-17-,中心极限定理讨论：随机变量序列,对应的分布函数序列收敛于标准正态分布函数的定理,三、中心极限定理,-18-,的随机变量，且具有数学期望和方差，,定理1（独立同分布的中心极限定理）,任意实数,有,设,为一列相互独立相同分布,则对于,-19-,若一随机变量可以表示成数量很多的相互独立相,同分布的随机变量的和，则该随机变量可近似服从,正态分布，标准化后就服从标准正态分布。,近似,近似服从,-20-,对任意有，,-21-,中心极限定理的意义,前面讲过有许多随机现象服从正态分布,若联系于此随机现象的随机变量为X，则,是由于许多彼此没有什么相依关系、对随机现,象谁也不能起突出影响，而均匀地起到微小作,用的随机因素共同作用(即这些因素的叠加)的,它可被看成为许多相互独立的起微小作用的因,素Xk的总和，而这个总和服从或近似服从,正态分布.,结果.,-22-,对此现象还可举个有趣的例子,高尔顿钉板试验加以说明.,钉子层数,-23-,表示某一个小球在第k次碰了钉子后向左或向右落下这一随机现象联系的随机变量，,满足中心极限定理条件，,独立投入个小球，,-24-,有,这个定理表明，二项分布的极限分布是正态分布,项分布的概率。,定理2（德莫佛拉普拉斯）,则对于任意实数,设,-25-,对任意有，,-26-,某单位有200台电话分机，每台分机有5%的时间要使用外线通话。假定每台分机是否使用外线是相互独立的，问该单位总机要安装多少条外线，才能以90%以上的概率保证分机用外线时不等待？,解：设有X部分机同时使用外线，则有,设有N条外线。由题意有,例,-27-,由德莫佛-拉普拉斯定理有,查表得,故N应满足条件,即,-28-,对随机现象进行观测、试验，以取得有代表性的观测值,对已取得的观测值进行整理、分析,作出推断、决策,从而找出所研究的对象的规律性,第2章数理统计的基本概念,-29-,参数估计(第3章),假设检验(第4章),推断统计学,方差分析(第6章),回归分析(第5章),-30-,总体研究对象全体元素组成的集合所研究的对象的某个(或某些)数量指标的全体,它是一个随机变量(或多维随机变量).记为X.,X的分布函数和数字特征称为总体的分布函数和数字特征.,2.1基本概念,-31-,样本从总体中抽取的部分个体.,称为总体X的一个容量为n的样本观测值,或称样本的一个实现.,用表示,n为样本容量.,样本空间样本所有可能取值的集合.,个体组成总体的每一个元素即总体的每个数量指标,可看作随机变量X的某个取值.用表示.,-32-,则称为简单随机样本.,若总体X的样本满足:,(1)与X有相同的分布,(2)相互独立,简单随机样本,它可以用与总体独立同分布的n个相互独立的随机,变量X1,X2,Xn表示。,若总体的分布函数为F(x)，则其简单随机样本的联合分布函数为,F(x1)F(x2)F(xn),-33-,设是取自总体X的一个样本,为一实值连续函数,且不含有未知参数,称,定义,-34-,例是未知参数,若,已知,则为统计量,是一样本,是统计量,其中,则,-35-,常用的统计量,为样本均值,为修正样本方差,为修正样本标准差,-36-,为样本的k阶原点矩,为样本的k阶中心矩,例如,-37-,注样本方差与样本二阶中心矩的不同,-38-,常见统计量的性质：,-39-,2）,-40-,顺序统计量与极差,为样本值,且,定义r.v.,其中,-41-,1）样本的经验分布函数,样本值,样本值小于x的个数，作,样本的经验分布函数,非降，左连续；,-42-,若子样为n维r.v，那么对于每一样本值,就可作一个经验分布函数，故,是随机变量,-n次独立重复试验中，事件,发生的频率。,由大数定律，,-43-,这就是我们可以由样本推断总体的基本理论依据.,格列汶科进一步证明了：当n时，Fn(x)以概率1关于x一致收敛于F(x)，即,这就是著名的格列汶科定理.,定理告诉我们，当样本容量足够大时，对所有的x,Fn(x)与F(x)之差的绝对值都很小，这件事发生的概率为1.,-44-,直方图,离散型,为n次独立重复样本,则,-45-,定义函数：当,称为在区间a,b)的图形为a,b)的频率直方图,-46-,-47-,-48-,-49-,.抽样分布,定理：,则,为两随机向量，且,-50-,-51-,那么也是正态随机变量,若为正交矩阵，那么：随机变量,也是相互独立且均值为的正态随机变量,-52-,几个重要的抽样分布定理,取自正态总体,的样本,则有,定理1(样本均值的分布),设X1,X2,Xn是,-53-,定理2.(样本方差的分布),设X1,X2,Xn是取自正态总体,样本,分别为样本均值和修正样本方差,则有,的,和相互独立。,证明：设,