数理统计第一讲.ppt

第四节 随机变量的函数及其分布,一 单个随机变量函数的分布,1 离散型,注：1、设,互不相等时，则事件,由,2、当,则把那些相等的值合并起来。,并根据概率的可加性把对应的概率相加得到Y的分布律。,2 连续型,（1）分布函数法,（2）公式法,设X为连续型随机变量，其分布密度为p (x),其中,是连续型随机变量，其分布密度在相应区间内为,一般地,y, xn,二 随机向量函数的分布,（1）离散型,以二维随机向量为例，多维随机向量的情况类似。,(2)连续型,设(X,Y)是二维连续型随机变量，其联合概率密度,为,分布函数为,则,.,的分布,引例.（一般情况的推导）,已知( X , Y )的概率密,度为,解,的分布函数为,将以上二重积分化成累次积分,由X与Y的对称性又可得,特别地,当X 与Y 相互独立时,有,上式称为,的卷积公式,记为,例4,两个独立的二项分布随机变量,当它们的第二个参数相同时,其和也服从二项分布-二项分布的可加性,特别 当 相互独立且具有相同,分布函数 时，,设 相互独立，,其分布函数为,则,的分布函数分别为：,补充结论：,连续型随机变量商的分布,商的分布,本节的解题步骤,其它的分布,返回主目录,均为随机变量，也构成了一个二维随机向量,如何求（Y1,Y2 ) 的联合密度函数,三 随机向量的变换,的联合分布函数：,称为变换的Jocobi 行列式。,换元必换积分区域,其中,例,解,因此得,即,例1.4.3 见书 P21,对此二重积分作换元，令,变换的Jocobi行列式,此变换把区域D变换为区域,由二重积分的换元公式得,第五节,随机变量的数字特征,定义1,设离散型随机变量的分布律为,如果级数,绝对收敛，,称为随机变量X的数学期望，,记为,即,的和,则级数,简称期望或均值。,1.5.1 矩,若 不绝对收敛，则X的数学期望不存在。,一、 随机变量的数学期望,定义2,设连续型随机变量X 的概率密度为,若积分,绝对收敛，则称该积分值为随,机变量X 的数学期望或平均值，简称期望或均值,记为,即,离散型和连续型随机变量的期望可以用一个式子表示,当X为离散型时，其分布函数是阶梯函数，该积分成为求和的形式。,当X为连续型时，成为积分形式。,2、 随机变量函数的数学期望,定理 设随机变量Y 是随机变量X 的函数，,1) 设X 为离散型随机变量，其分布律为,若级数,绝对收敛,则有,2) 设X 为连续型随机变量，其概率密度为,若积分,绝对收敛,则有,设X 服从 N (0，1) 分布，求E (X2), E (X3), E (X4),例3,解：,结论,3 二维随机向量函数的数学期望,这里要求广义二重积分是绝对收敛的。,这里要求 绝对收敛。,(1). 设C 是常数，则E(C )=C ;,(2). 若C 是常数，则E(CX )=CE(X );,(3).,4、数学期望的性质,(4). 设X、Y 独立，则 E(XY )=E(X )E(Y );,（当Xi 独立时）,注意:由E(XY )=E(X )E(Y )不一定能推出X,Y 独立,方差刻划了随机变量的取值,若X 的取值比较集中，则方,差较小；若X 的取值比较分,散则方差较大 .,对于其数学期望的离散程度,方差的算术平方根,为X 的方差。,定义 设X 是一个随机变量，若,存在，则称,称为均方差或,标准差。,二、方差的概念,离散型 已知X 分布律,连续型 已知X 的概率密度,注意：,(1),是关于随机变量X 的函,数,的数学期望。,计算方差的简便公式：,(2)方差描述了随机变量X 的取值与其均值的偏离程度。,方差的性质,可推广为：若X1,X2,Xn相互独立,则,(1)（0-1）分布 参数为p,6常见分布的方差,(2)二项分布,其中,，且,相互独立。,则由方差的性质可得,(3)泊松分布,分布律为,参数为,密度函数,（4）均匀分布,参数为,密度函数,（5） 指数分布,参数为,（6）正态分布,参数为,密度函数,注：服从正态分布的随机变量完全由它的数学,期望和方差所决定。,特别，当,时,称Y 是随机变量X 的标准化了的随机变量。,注：为了方便计算，,EX, DX 均为常数。,常对X进行标准化。,即当X的期望,和方差都存在时，考虑它的标准化。,则,解 记,则,故,定义 设二维随机变量,则称它为,与,的协方差，记为,即,若,存在，,三、协方差和相关系数的定义,1、协方差的性质,（1）,Pf:,（2）（协方差的计算公式）,（3）,若X ,Y 相互独立，则,（4）,（5）,为常数,（6）,协方差的大小在一定程度上反映了X和Y相互间的关系，但它还受X与Y本身度量单位的影响. 例如：,Cov(kX, kY)=k2Cov(X,Y),为了克服这一缺点，对协方差进行标准化，这就引入了相关系数 .,四、相关系数,为随机变量 X 和 Y 的相关系数 .,在不致引起混淆时，记 为 .,相关系数的性质,说 明,，X 与Y 的线性关系越显著；,，X 与Y 的线性关系越不显著；,四个等价命题：,2）,3）,4）,1）相关系数,不相关： X 与Y 之间没有线性关系，并不表示它们之,间没有任何关系。,所以，当X 和Y 独立时，Cov (X , Y)= 0.,故,独立： X 与Y 之间没有任何函数关系。,X，Y独立 =0X，Y不相关。,注意独立与不相关并不是等价的.,当(X,Y)服从二维正态分布时，有,若,存在，称它为,五、 矩、协方差矩阵,协方差矩阵的定义,将二维随机变量（X1,X2）的四个二阶中心矩,排成矩阵的形式:,称此矩阵为（X1,X2）的协方差矩阵.,类似定义n维随机变量X=(X1,X2, ,Xn) 的协方差矩阵.,为(X1,X2, ,Xn) 的协方差矩阵,i, j=1,2,n,若,也常记为DX或者Cov(X,X).,协方差矩阵的性质,对于任一n元实列向量,有,2）是一个非负定矩阵,1）是一个对称矩阵,3）设,为n元随机向量，,有,a)对于,定义,b),设,，求,的协方差矩阵.,p (x1,x2, ,xn),则称X服从n元正态分布.,其中B是(X1,X2, ,Xn) 的协方差矩阵.,|B|是它的行列式， 表示B的逆矩阵，,X和 是n维列向量， 表示X的转置.,设 =(X1,X2, ,Xn)是一个n维随机向量, 若它的概率密度为,六、下面给出n元正态分布的概率密度的定义.,n元正态分布的几条重要性质,1. X=(X1,X2, ,Xn)服从n元正态分布,2. 若 X=(X1,X2, ,Xn)服从n元正态分布，,Y1,Y2, ，Yk是Xj（j=1,2,n）的线性函数，,则(Y1,Y2, ，Yk)也服从多元正态分布.,这一性质称为正态变 量的线性变换不变性.,3. 设(X1,X2, ,Xn)服从n元正态分布，则,“X1,X2, ,Xn相互独立”,等价于,“X1,X2, ,Xn两两不相关”,或,对任意,不等式,成立，,七、两个重要的不等式,切比雪夫不等式. 对任意具有有限方差的随机变量X,都有,证明,对任意实数,证：,2) A.L.CauchySchwarz不等式.,考虑函数,即,运用A.L.CauchySchwarz不等式证明结论,相关系数的性质,定义:,1.5.2 随机变量的条件数学期望,回顾：,连续型,离散型,条 件 期 望,定理1: 若y=g (x)是连续函数, 且E g (X) |Y=y存在, 则,(1) 若(X, Y)为二维离散型随机变量, 则,(2) 若(X, Y)为二维连续型随机变量, 则,定理2: 把 g(y)=EX|Y=y看成是y的函数, 进一步的，,可以看作是随机变量Y的函数，,g(Y)=,EX|Y,则EX|Y 本身也是一个随机变量, 且有E E ( X |Y ) = E(X) .,当Y=y时这个函数取值为EX|Y=y,定理: 设X, Y, Z均为随机变量, f (x)连续, 且E(X), E(Y), E(Z)及 E f (Y ) X 均存在, 则,(1)当X, Y 独立时, EX|Y=y=E(X) ;,(2)E f(Y) X |Y = f (Y) E X|Y ;,(3)E f(Y) X =E f (Y) EX|Y ;,(5) E f (Y) |Y = f (Y );,(4)若aXb, 则EX |Y=y存在, 且aEX | Y=y b, 特别, 当C是一个常数时, EC|Y=y=C;,(6)若k1、k2是两个常数, 又E Xi |Y=y (i=1,2)存在, 则有 Ek1X1+k2X2 |Y=y= k1EX1 |Y=y+k2EX2 |Y=y.,条件数学期望的性质,算出罪犯的身高. 这个公式是,公安人员根据收集到的罪犯脚印，通过公式,由脚印估计罪犯身高,如何推导出来的?,显然，两者之间是有统计关系的，故,设一个人身高为 ,脚印长度为 .,由于影响人类身高与脚印的随机因素是大量的、相互独立的，且各因素的影响又是微小的,可以叠加的. 故,应作为二维随机变量 来研究.,由中心极限定理知 可以近似看,成服从二维正态分布,其中参数 因区域、,民族、生活习惯的不同而有所变化 ，,但它们都能通过统计方法而获得.,密度为,现已知罪犯的脚印长度为 , 要,估计其身高就需计算条件期望 , 条件,的密度函数, 因此,这正是正态分布,如果按中国人的相应参数代入上式，即可得出以脚印长度作自变量的身高近似公式.,例4: 设电力公司每月可以供应某工厂电力XU(10, 30)(单 位:104kw)，而工厂每月实际需求电力YU(10, 20)(单位:104kw) ，如果工厂能从电力公司得到足够的电力，则每104kw电可创 造30万元的利润，若工厂从电力公司得不到足够的电力，则不 足部分通过其他途径解决，由其他途径得到的电力每104kw电 力只有10万元的利润，试求工厂每个月的平均利润.,解：设每月工厂利润为Z 万元，则,当Xx给定时，Z仅是Y的函数，于是,当,（方法二）,当,总结归纳：,独立：,七 极限定理,一 随机变量的收敛性 二 大数定律与中心极限定理,1、依概率收敛,一 随机变量的收敛性,2、依分布收敛,可以证明,3、r-阶收敛,1-阶收敛又称为平均收敛，2-阶收敛即为均方收敛。,4、以概率1收敛,四种收敛关系：,以概率1收敛或r-阶收敛,依概率收敛,依分布收敛,二、大数定律与中心极限定理,研究两类问题：,（大数定律）,（中心极限定理）,为相互独立的随机变量序列,（2）n充分大时， 服从什么分布？,（1）,如何解决下面问题,为何能以某事件发生的频率 作为该事件的 概率的估计？,为何能以样本均值作为总体 期望的估计？,为何正态分布在概率论中占 有极其重要的地位？,大样本统计推断的理论基础 是什么？,答复,大数 定律,中心极 限定理,定义,1、大数定律,定理一,（切比雪夫大数定律）,量，且具有相同的数学,设,为一列相互独立的随机变,即,定理二（辛钦大数定律）,为一列相互独立同分布的,随机变量，且具有相同的数学期望,即,设,在定理一中,去掉方差存在的条件而加上相同,分布的条件，则有：,定理三（伯努利大数定律）,设事件,在每次试验中出现的概率为 p,在n次重复独立试验中出现的频率为,即,且,理论上给出了在大量重复实验下,事件A的频率依概率收敛于它的概率p.,例1 如何估计一大批产品的次品率？,解,抽取n件产品， 为其中次品的件数。,设A为事件“任取一件为次品”，记,由伯努利大数定律知,当n很大时，可取 作为次品率 的估计值。,-105-,中心极限定理的意义,前面讲过有许多随机现象服从正态分布,若联系于此随机现象的随机变量为X ，则,是由于许多彼此没有什么相依关系、对随机现,象谁也不能起突出影响，而均匀地起到微小作,用的随机因素共同作用(即这些因素的叠加)的,它可被看成为许多相互独立的起微小作用的因,素Xk的总和 ，而这个总和服从或近似服从,正态分布.,结果.,对此现象还 可举个有趣 的例子,高尔顿钉板 试验, 钉子层数,表示钉在板上的一颗钉子，它们彼此的距离均相等，上一层的每一颗的水平位置恰好位于下一层的两颗正中间。从入口处放进一个直径略小于两颗钉子之间的距离的小圆玻璃球，当小圆球向下降落过程中，碰到钉子后皆以1/2的概率向左或向右滚下，于是又碰到下一层钉子。如此继续下去，直到滚到底板的一个格子内为止。把许许多多同样大小的小球不断从入口处放下，只要球的数目相当大，它们在底板将堆成近似于正态 的密度函数图形（即：中间高，两头低，呈左右对称的古钟型），其中n为钉子的层数。,-108-,