多元正态分布及参数估计ppt课件

1、第二章多元正态分布及参数第二章多元正态分布及参数的估计的估计 2.1 2.1 随机向量随机向量 本课程讨论多变量总体。把p个随机变量放在一起得 为一个p维随机向量，如果同时对p个变量做一次观测，得观测值： 它是一个样品，观测n次得n个样品： 而这n个样品就构成一个样本),(21pXXXX,),()1(11211Xxxxdefp),(21)(ipiiixxxX,2, 1ni是一个随机阵。据阵维随机向量，而样本数观测，在观测前是一个次个变量的列表示第的第维随机向量。矩阵是一个测前，它个样品的观测值，在观行表示第的第矩阵记为：矩阵，称为样本数据阵个样品排成一个常把或XnnjjXpiiXXXXXXXx

2、xxxxxxxxXpnpdefndefnpnnpp).,(n21)()2()1(112222111211 非降的右连续函数；随机向量的联合分布，边缘分布，条件分布随机向量的联合分布，边缘分布，条件分布 一、多元概率分布1、联合分布函数随机向量 的联合概率分布函数定义为),(21 pxxxx121122(,)(,)pppF a aaP xa xaxa 2、分布函数的性质121122(,)(,)pppF a aaP xa xaxa 分布函数的取值范围为0，1，即 120(,)1pF a aa 分布函数当变量取值为无穷大时，函数值收敛到1，即( ,)1F 二、两个常用的离散多元分布 1、多项分布有如

3、下分布若),(21 mxxxxmkmkmmmppkkknkxkxkxP11212211!),( ，其中10 ipmi, 2 , 1 nkkkm 21121 mppp 则称 服从多项分布。),(21 mxxxx 2、多元超几何分布有如下分布若),(21 mxxxx nNkNkNkxkxkxPmmmm112211),(),min(, 1 , 0iiNnk 那么 服从多元超几何。mi, 2 , 1 nkkkm 21NNNNm 21),(21 mxxxx 三、联合概率密度 1、定义随机向量 的联合分布函数可以表示为),(21 pxxxx),(),(221121pppaxaxaxPaaaF ppaadx

4、dxxxxfp121),(1 则称 为连续型随机向量。称为的联合概率密度函数。 ),(21pxxxf),(21 pxxxx假设 在点 延续，那么),(21pxxxf),(21pxxx),(),(212121ppppxxxFxxxxxxf 0),(121 pxxxF且有1),(1211 ppdxdxxxxf 四、边缘分布 设有连续随机向量 ),(21 pxxxx不妨设 是 的q个分量组成。那么 的分布为 ),(21)1(qxxxx),(21pxxxx),(21)1(qxxxx),(),(221121)1(qqqaxaxaxPaaaF),(12211pqqqxxaxaxaxPppaadxdxxxx

5、fq121),(1qpqpaadxdxdxdxxxxfq1121),(1所以 的边际密度为),(21)1(qxxxxpqpqdxdxxxxfxxf1211)1(),(),(例 随机向量 有联合概率密度函数),(21xxx)sinsin1 (21),(212212221xxexxfxx 试分别求 的边际密度。21,xx22111),()(dxxxfxf221211)sinsin1 (21)(2221dxxxexfxx2212211)sinsin1 (2121)(2221dxxxeexfxx2221222211sinsin212121)(32212221dxxexedxeexfxxxx22121x

6、e1x2222221)(xexf同理1x五、条件分布 1、问题的引入 若A和B是任意两个事件，且 ，则称为在B事件发生的条件下，事件A发生的条件概率。0)(BP)(/ )()/(BPABPBAP考虑随机向量 ，其中 表示人的身高单位：米）， 表示人的体重单位：公斤），在身高为1.9米的人群中，体重 的分布就再也不是原来的分布了。而是在 的条件分布。),(21xxx1x2x90. 11x2x 2、条件分布 连续随机向量 ),(21 pxxxx 不妨设 是 的q个分量组成。 是余下的p-q个分量组成。 ),(21)1(qxxxx),(21pxxxx),(21)2(pqqxxxx),(),(),|,

7、(1)2(2111pqppqqxxfxxxfxxxxf是 条件下， 的分条件密度函数。),(21)2(pqqxxxx),(21)1(qxxxx 例 设X=(x1,x2)有概率密度函数其它010 , 10) 1(56),(21212121xxxxxxxf试求条件密度函数f(x1/x2和f(x2/x1）。)(),()|(112112xfxxfxxf)(),()|(222121xfxxfxxf因为所以先求 102212111) 14(56)(dxxxxxf1022121) 14(56dxxxx212156512xx 5256)(222xxf同理10121456512) 14(56)(),()|(2,

8、 112121222121222112xxxxxxxxxxxfxxfxxf13) 14(35256) 14(56)(),()|(1212122121222121xxxxxxxxxfxxfxxf六、 独立性 1、定义设 和 是两个随机向量，假设 对一切 、成立，则称 和 相互独立。y)()(),(yxyxyFFFxxxyxy 2、设 和 是两个连续随机向量， 和 相互独立，当且仅当 或对一切 、 成立。)()(),(yxyxyFFFx)()|(xyxxffxyxyxy3、设 是 个随机向量，假设 对一切 成立，那么 相互独立。n21xxx,n)()()(),(21mmmFFFFxxxxxx212

9、1nm n21xxx,n21xxx,数字特征 一、数学期望1、定义pqppqqxxxxxxxxx212221212111X 是有随机变量构成的随机矩阵，定义X的数学期望为)()()()()()()()()()(212221212111pqppqqxExExExExExExExExEEX特别当时 ，便可得到随机向量 的数学期望为1q),(21pxxxx) )(,),(),()(21pxExExEEx 2、性质 1） 设为常数，那么 ； )()(XXaEaE2设 分别为常数矩阵，那么CBA,CBXACAXB)()(EE 3设 为 个同阶矩阵，那么n21XXX,n)(n21XXXEn21XXXEEE

10、 二、协方差矩阵 1、定义：设 和 分别为 维和 维随机向量，则其协方差矩阵为),(21pxxxx),(21qyyyypq)()()()()()(22112211qqppyEyyEyyEyxExxExxExE),cov(),cov(),cov(),cov(),cov(),cov(),cov(),cov(),cov(),cov(212221212111YXyxyxyxyxyxyxyxyxyxqpppqq的协方差矩阵为),(21pxxxx)var(),cov(),cov(),cov()var(),cov(),cov(),cov()var()(2122121211pppppxxxxxxxxxxxxx

11、xxVarx2、性质 1假设(x1,x2,，xp) 和(y1,y2,，yp)相互独立。那么反之不成立0),cov(),cov(),cov(),cov(),cov(),cov(),cov(),cov(),cov(212221212111qpppqqyxyxyxyxyxyxyxyxyx 假设(x1,x2,，xp)的分量相互独立, 则协方差矩阵，除主对角线上的元素外均为零，即)var(000)var(000)var()(21pxxxVarx 2随机向量X的协方差矩阵是非负定矩阵。 证：设a为任意与X有相同维数的常数向量，那么axxEaaa)()(axxaE0)(2xaE 3设A是常数矩阵，b为常数向

12、量，则V(AX+b)=AV(X)A ； )(bAX V)()(bAbAXE )()(bAbAXAxxA)(EAxA)(V 4、假设(x1,x2,，xp) 和(y1,y2,，yp)分别是p和q维随机向量，A和B为常数矩阵，那么 ByxAByAx),(),(CovCov),(ByAxCov证 )()(xBBxxAAxEEEBxxA)(E 5、假设(k1,k2,，kp)是n个不全为零的常数， (x1,x2,，xp) 是相互独立的p维随机向量，那么)(21n21xxxnkkkV)()()(22221n21xxxVkVkVkn0,000000, 0, 621112LLLLLLppp，使得正交矩阵证明：由

13、于为非负定矩阵。其中 三、相关系数矩阵 假设(x1,x2,，xp) 和(y1,y2,，yp)分别是p和q维随机向量，则其相关系数矩阵为),(),(),(),(),(),(),(),(),(),(212221212111qpppqqyxyxyxyxyxyxyxyxyxyx，两随机向量不相关。若0yx),( 随机向量的变换随机向量的变换 一、一元随机变量的变换 设x具有概率密度函数fx(x)，函数y=(x)严格单调，其反函数x=(x)有连续导数，则y的概率密度函数为| )(|)()(yyfyfxy 其中y的取值范围与x的取值范围相对应。例 设随机变量x服从均匀分布U(0,1),即密度函数 其他0101)(xxfx的密度函数。求)0(ln1xyyeyx)(解y的取值范围为(0,),那么| )(|)()(yyfyfxy|)( |1|)( |)(yyyxeeefye 二、多元随机向量的变换 假设(x1,x2,xp) 有密度函数f (x1,x2,xp),有