一、多元正态分布定义和性质

1、第一章第一章 多元正态分布多元正态分布 n随机向量的有关概念随机向量的有关概念 n多元正态分布定义多元正态分布定义 n多元正态分布的性质多元正态分布的性质 n多元正态分布的参数估计多元正态分布的参数估计第一节第一节 随机向量的有关概念随机向量的有关概念n随机向量及随机向量的数学期望（均值）随机向量及随机向量的数学期望（均值）n随机向量的协方差矩阵随机向量的协方差矩阵 n随机向量的相关矩阵随机向量的相关矩阵 随机向量随机向量定义：定义：设设 为为 个随机变量，个随机变量，由它们组成的向量由它们组成的向量 称作随机向量。称作随机向量。p21X,.,X,Xp)X,.,X,(Xp211.1.随机向量的

2、数学期望随机向量的数学期望。数学期望（均值）的维随机向量，则为设)()()()( 2121ppxExExEXEXpxxxX 1.1.1定义定义随机矩阵的数学期望随机矩阵的数学期望111212122212 qqpppqzzzzzzZpqzzz设为阶随机矩阵 ，1.1.2定义定义( )ZE Z则 的数学期望（均值）为111212122212()()()()()()( )()()()qqpppqE zE zE zE zE zE zE ZE zE zE z随机向量期望的性质随机向量期望的性质1.1.1 Xp性质（线性性）设为维随机向量， B Aqpq为阶常数矩阵 ，为 阶常数向量，则()()BE AX

3、BA E X。随机向量期望的性质随机向量期望的性质()()E AXBAE X B1.1.2 ()()( )XYpE XYE XE Y性质（可加性）设 、 为 维随机向量，则。1.1.3 , ,XpqAmpBqn性质设 是阶随机矩阵为阶常数矩阵，为阶常数矩阵 则有2 2随机向量的协方差矩阵随机向量的协方差矩阵 1212(,)(,)pqXx xxYyyy设和均为随 1.1.3定义定义(, )()( )COV X YEXE XYE Y111111221122112222221122()()()()()()()()()()()()()()()()()()qqqqppppppqqxyxyxyxyxyxy

4、Exyxyxy1212 ()(,)( )(,) pqE XE YXY 机向量，和则和的协方差矩阵为 )()()()()()()()(11111111qqppppqqyEyxExEyEyxExEyEyxExEyEyxExE1111( ,)( ,)(,)(,)qppqCov x yCov x yCov xyCov xy) )()(),( XEXXEXEXXCOV )()()()()()()()(11111111ppppppppxExxExExExxExExExxExExExxExE)(),(),()(111pppxDxxCOVxxCOVxDppij )( 协方差矩阵的性质协方差矩阵的性质CYXCO

5、VAdCYbAXCOVsrdbCAqpYXqspr ),(),( 1.1.4则则阶常数向量，阶常数向量，和和分别为分别为、为常数矩阵，为常数矩阵，、维随机向量，维随机向量，维和维和分别为分别为、设设性质性质协方差矩阵的性质（续）协方差矩阵的性质（续）aaXaDpaaaaXCOVpXp)( )X,( 1.1.521维常数向量，则是为正定矩阵，若可逆时，且当为对称且是半正定矩阵则，维随机向量，为设性质3.3.随机向量的相关矩阵随机向量的相关矩阵 4 . 1 . 1定义定义的相关矩阵。的相关矩阵。为为维随机向量，则称维随机向量，则称为为设设XpXpppp 11121221112 。的相关系数，的相关

6、系数，和和为为其中，其中，jiijjiijxx jjiiijij相关矩阵与协方差矩阵的关系相关矩阵与协方差矩阵的关系2121 DD 21212111ppD 其中，其中，第二节第二节 多元正态分布定义多元正态分布定义 一元正态分布密度函数一元正态分布密度函数222)(21)( xexf一元正态分布密度函数图形一元正态分布密度函数图形)(xfO x5 . 0 1 2 121 图图二元正态分布密度函数二元正态分布密度函数 2222222211121211222121)(2)()1(21exp121),( xxxxxxf二元正态分布密度函数图形二元正态分布密度函数图形一元正态分布密度函数变形一元正态分

7、布密度函数变形 )()(21exp)()2(1221221 xx222)(21)( xexf多元正态分布定义多元正态分布定义1 1的的概概率率密密度度函函数数为为维维随随机机向向量量若若Xp )()(21exp)2()(1212xxxfp。维维多多元元正正态态分分布布，记记为为服服从从则则称称),( pNXpX pxxx21X p 21ppij )( 这里，这里， 1.2.1定义定义多元正态分布定义多元正态分布定义2 2定义定义1.2.21.2.2 若若 维随机向量维随机向量 的的任何线性组合均服从一元正态分布，任何线性组合均服从一元正态分布，则称则称 服从多元正态分布。服从多元正态分布。 p

8、XX二元正态分布的两种表示方法二元正态分布的两种表示方法),(222121 NX方法一：方法一：),(2 NX方方法法二二： 其其中中， 21 22212121 思考题思考题若若 表示男性成人的身高，表示男性成人的身高， 表示男性成表示男性成人的体重，现有甲、乙两地区，且两地区人的体重，现有甲、乙两地区，且两地区均有，均有， ， ，对于甲地，对于甲地区来说，区来说， ，对于乙地区来说，对于乙地区来说， ，你如何评价甲、乙两地区男性成人的体形。你如何评价甲、乙两地区男性成人的体形。 1x2xcm1701 kg652 9 . 0 9 . 0 第三节第三节 多元正态分布的性质多元正态分布的性质b:,

9、b)(2 xccNx为任一非零常数，那么为任一非零常数，那么，假设假设 ),b(22 ccN ), b(bbr),(CCCNCXCprNXrp均有维常数向量，以及常数矩阵阶那么，对于任一若1 . 3 . 1性质性质:)(XbpbNXp 那那么么维维常常数数向向量量，为为，假假设设 ),(bbbN 1 . 3 . 1例例多元正态分布的边缘分布多元正态分布的边缘分布的相应子矩阵。子向量，协方差矩阵为的相应值为也服从正态分布，其均的任一子向量则若XXXNXp),( 1.3.2性质性质n但反过来成立但反过来成立吗？吗？。布，即：分量都服从一元正态分的任一，则特别地，若),(),(iiiipNxXNX一

10、元正态分布的可加性一元正态分布的可加性 均均有有：全全为为零零的的常常数数个个不不，则则对对任任何何相相互互独独立立，且且，若若,),(, 2 , 1212nrrrraaanNxnrx nrrrnrrrnrrraaNxa12211, 多元正态分布的可加性多元正态分布的可加性 均有：均有：阶常数矩阵阶常数矩阵个个则对任何则对任何，相互独立，且相互独立，且，维随机向量维随机向量若若,),(, 2 , 121nrrprrAAApmnNXnrXp nrrrrnrrrmnrrrAAANXA111)(, 性质性质1.3.31.3.31211,( ,),11,2,., ,11( ,)nprpnnrrrpir

11、XXXNAIrnnA XXNnn独立同分布于，则。2 . 3 . 1例例1111( ,)nnrrprpirA XI XNnn。nrrrrnrrrpnrrrAAANXA111)(,。)1,(11nNXInpnrrp思考题：思考题： 独立与不相关之间的关系独立与不相关之间的关系n二元正态分布二元正态分布随机向量的两个分量之间随机向量的两个分量之间的独立性与不相关性。的独立性与不相关性。02121 xxxx 独独立立和和独立与不相关之间的关系（续）独立与不相关之间的关系（续）：性质性质4 . 3 . 1rr等等价价。即即：独独立立性性与与不不相相关关性性，独独立立等等价价于于则则，srpXXNXXX

12、 0,0),(1221222112112121 rsss等等价价。即即：独独立立性性与与不不相相关关性性，独独立立等等价价于于则则，srpXXNXXX 0,0),(1221222112112121 如果正态随机向量如果正态随机向量 的协方差阵的协方差阵 是对角阵，是对角阵，则则 的各分量是相互独立的随机变量。的各分量是相互独立的随机变量。 pxxxX21 X例题例题1.3.31.3.3：条件分布条件分布的的条条件件分分布布：时时，则则给给定定，：性性质质1222221121121210),(5 . 3 . 1XxXNXXXp ),(12122121122122121 xNrrr等等价价。即即：

13、独独立立性性与与不不相相关关性性，独独立立等等价价于于则则，srpXXNXXX 0,0),(1221222112112121 rsss：性质性质5 . 3 . 1),(12122121122122121 xNr解：解：)11,x(NXXX213231312231312213323132321 第四节第四节 多元正态分布的参数估计多元正态分布的参数估计 则常见的样本统计量有，其中的样本为来自于多元正态总体设piiiipnxxxXNXXX2121, 0,),(,样本均值样本均值niiXnX11piiiixxxX21样本离差矩阵样本离差矩阵 niiiXXXXV1)(样本协方差矩阵样本协方差矩阵 Vn

14、sSppij11)(niiiXXXXn1)(11样本相关矩阵样本相关矩阵 其中：其中：2121)( ssppijSDDrR 21212111ppsssDjjiiijijsssr 2121)( ssppijSDDrR一元正态一元正态总体参数估计的回顾总体参数估计的回顾的的随随机机样样本本，则则：是是来来自自于于正正态态总总体体设设),(,221 Nxxxn;)2(2相互独立相互独立和和sx，),()3(2nNx )1()1(222 nsn ;)1(22的无偏估计的无偏估计和方差和方差总体均值总体均值分别是分别是和样本方差和样本方差样本均值样本均值 sx一元正态总体一元正态总体参数的极大似然估计参

15、数的极大似然估计的的极极大大似似然然估估计计。和和方方差差总总体体均均值值分分别别是是和和的的随随机机样样本本，则则：是是来来自自于于正正态态总总体体设设2221),(, Nxxxnx2)1(snn 的一个随机样本，则：总体是来自于多元正态设),(,21pnNXXX;)1(的无偏估计的无偏估计和总体协方差矩阵和总体协方差矩阵总体均值总体均值分别是分别是和样本协方差矩阵和样本协方差矩阵样本均值样本均值 SX;)2(相互独立相互独立和和 SX，)1,()3( nNXp ), 1() 1(nWVSnp1 . 4 . 1定理定义：设定义：设 分别来自协方差阵相等的分别来自协方差阵相等的P维正态总体维正态总体 ，则则 维随机矩阵维随机矩阵遵从非中心维希特分布，记为遵从非中心维希特分布，记为 。其中，其中， 。当。当 时称为中心维希特分布，时称为中心维希特分布，记为记为 。)p,.,2 ,