第13讲协方差与相关系数太原理工大学工程硕士概率论与数理统计

1、1协方差与相关系数协方差与相关系数 对于二维随机向量对于二维随机向量(X,Y)， 除了其分量除了其分量X和和Y 的期望与方差之外的期望与方差之外, 还有一些数字特征还有一些数字特征, 用以刻画用以刻画X与与Y之间的相关程度，其中最主要之间的相关程度，其中最主要的就是协方差和相关系数。的就是协方差和相关系数。 定义定义1：若：若 E X- -E(X)Y- -E(Y) 存在，存在，则称其为则称其为X 与与Y 的协方差，记为的协方差，记为Cov(X,Y), 即即一一 协方差协方差Cov(X, Y) = E X- -E(X)Y- -E(Y) . (1)第十三讲第十三讲2(3) Cov(X1+X2, Y

2、)= Cov(X1, Y) + Cov(X2, Y) ；(1) Cov(X, Y) = Cov(Y, X)；协方差性质协方差性质(2) 设设 a, b, c, d 是常数，则是常数，则 Cov( aX+b, cY+d ) = ac Cov(X, Y) ；(4) Cov(X, Y) =E(XY)-E(X)E(Y) ，(5) Var(X+Y)=Var(X)+Var(Y)+2Cov(X, Y) . 当当 X 和和 Y 相互独立时，相互独立时，Cov(X, Y)=0；3若若 X1, X2, , Xn 两两独立，则两两独立，则性质性质(5)可推广到可推广到 n 个随机变量的情形：个随机变量的情形：. )

3、 ,(2)()(11jininijiiiXXCovXVarXVar. )()(11niniiiXVarXVar4 协方差的大小在一定程度上反映了协方差的大小在一定程度上反映了X 和和Y相互间的关系，但它还受相互间的关系，但它还受X 和和Y 本身度量单位本身度量单位的影响。的影响。 例如：例如：Cov(aX, bY) = ab Cov(X, Y). 为了克服这一缺点，对协方差进行标准为了克服这一缺点，对协方差进行标准化，这就引入了化，这就引入了相关系数相关系数 。5二二 相关系数相关系数为随机变量为随机变量X 和和Y 的相关系数的相关系数 。 定义定义2: 设设Var(X) 0, Var(Y)

4、0, 则称则称)( )() ,(YVarXVarYXCovXY在不致引起混淆时，记在不致引起混淆时，记 为为 。XY 6相关系数性质相关系数性质; 1| ).1 (证：证：由方差与协方差关系，由方差与协方差关系，对任意实数对任意实数b, 有有0Var(Y- -bX)=b2Var(X)+Var(Y)- -2b Cov(X,Y ),)(),(XVarYXCovb 令令则有则有Var(Y- -bX) = )(),()(2XVarYXCovYVar)()(),(1)(2YVarXVarYXCovYVar,1)(2YVar由方差由方差Var(Y)0, 知知 1- - 2 0, 所以所以 | |1。7由于

5、当由于当 X 和和 Y 独立时，独立时，Cov(X, Y)= 0 .请看下例：请看下例：(2). X 和和Y 独立时独立时, =0，但其逆不真；，但其逆不真；但但=0 并不一定能推出并不一定能推出 X 和和 Y 独立。独立。 0)()(),(；YVarXVarYXCov所以，所以，8证明证明:例例 1：设设 (X,Y) 服从单位服从单位 D= (x, y): x2+y21上的均匀分布，证明：上的均匀分布，证明： XY = 0。 .),( , 0 ,),( ,/1),(DyxDyxyxf,00 /)(111111112222dydydxxdxdyxXEyyyx9所以，所以，Cov(X, Y)=

6、E(XY)- -E(X) E(Y) = 0 .同样，得同样，得 E(E(Y)=0,)=0,. 0 0 )y/()(111111112222dydyxdxydxdyxXYEyyyx此外，此外，Var(X) 0, Var(Y) 0 .所以，所以， XY = 0，即即 X 与与 Y 不相关。不相关。但是，前面已计算过但是，前面已计算过: : X与与Y不独立。不独立。10存在常数存在常数a, b(b0)， 使使 P Y = a+bX = 1 ，即，即 X 和和 Y 以概率以概率 1 线性相关线性相关。(3). |=111但对下述情形，独立与不相关是一回事：但对下述情形，独立与不相关是一回事：前面前面,

7、 我们已经看到：我们已经看到： 若若X 与与Y 独立，则独立，则X 与与Y 不相关；但由不相关；但由X与与Y 不相关，不一定能推出不相关，不一定能推出X与与Y独立。独立。 若若(X, Y )服从二维正态分布，则服从二维正态分布，则X 与与Y 独独立的充分必要条件是立的充分必要条件是X与与Y不相关。不相关。12 定义定义1：设：设X是随机变量是随机变量, 若若E(Xk) 存在存在(k =1, 2, ), 则称其为则称其为X 的的 k 阶原点矩；若阶原点矩；若 EX-E(X)k 存在存在(k = 1,2, ), 则称其为则称其为X的的 k 阶中心矩。阶中心矩。矩与协方差矩阵矩与协方差矩阵一一 矩矩

8、 易知：易知：X 的期望的期望 E(X) 是是 X 的一阶原点的一阶原点矩，方差矩，方差Var(X) 是是 X 的二阶中心矩。的二阶中心矩。13 定义定义2：设：设X和和Y是随机变量是随机变量, 若若 E(XkYm) 存在存在(k, m=1, 2,), 则称其为则称其为X与与Y的的 k+m 阶阶混合原点矩；若混合原点矩；若 EX-E(X)k Y-E(Y)m存在存在(k, m=1,2,，则称其为，则称其为X与与Y的的 k+m 阶混合中阶混合中心矩。心矩。14二二 协方差矩阵协方差矩阵 将随机向量将随机向量 (X1, X2) 的四个二阶中心矩的四个二阶中心矩)(),()(),()(,)(22222

9、11222122111221111XEXEcXEXXEXEcXEXXEXEcXEXEc排成一个排成一个22矩阵矩阵 ，则称此矩阵为则称此矩阵为(X1, X2)的方差与协方差矩阵，的方差与协方差矩阵，简称协方差阵。简称协方差阵。22211211cccc15 类似地，我们也可定义类似地，我们也可定义n 维随机向量维随机向量 (X1, X2, , Xn) 的协方差阵：若随机向量的所有的的协方差阵：若随机向量的所有的二阶中心矩二阶中心矩为为(X1, X2, , Xn) 的协方差阵。的协方差阵。njiXEXXEXEcjjiiij, 2 , 1, ),()(存在，存在，nnnnnncccccccccC21

10、2222111211则称矩阵则称矩阵16,)()(21exp|)2(11212XCXCnf (x1, x2, , xn)则称则称X服从服从n元正态分布。元正态分布。其中其中C是是 (X1, X2, , Xn) 的协方差阵，的协方差阵，|C|是是C的行列式，的行列式， 表示表示C的逆矩阵，的逆矩阵，1CX和和 是是n维列向量，维列向量， 表示表示X的转置。的转置。 X 设设 =(X1,X2, ,Xn)是一个是一个n维随机向量维随机向量,若其概率密度若其概率密度X17n元正态分布的几条重要性质：元正态分布的几条重要性质：(1) X =(X1, X2, , Xn) 服从服从 n 元正态分布元正态分布

11、对一切不全为对一切不全为 0 的实数的实数 a1, a2, , an， a1X1+ a2 X2+ + an Xn 服从正态分布。服从正态分布。(2) 若若 X=(X1,X2, ,Xn)服从服从n 元正态分布，元正态分布，Y1,Y2,Yk 是是 Xj (j=1, 2, n)的线性组合的线性组合,则则(Y1,Y2, , Yk)服从服从k 元正态分布。元正态分布。这一性质称为正态变量的线性变换不变性。这一性质称为正态变量的线性变换不变性。18 (3) 设设(X1,X2, ,Xn)服从服从n元正态分布，则元正态分布，则“X1,X2, ,Xn两两不相关两两不相关”。“X1, X2, , Xn 相互独立相

12、互独立” 等价于等价于19例例2 设设X和和Y相互独立，且相互独立，且XN(1, 2), YN(0, 1)。求求 Z = 2X- -Y+3 的概率密度。的概率密度。 知知 Z=2X-Y+3 服从正态分布，且服从正态分布，且解解: 由由XN(1,2), YN(0,1)，且，且X与与Y相互独立相互独立,Var(Z) = 4Var(X)+Var(Y) = 8+1 = 9, E(Z) = 2E(X)- -E(Y)+3 = 2- -0+3=5 ， 故，故，ZN(5, 32) . Z 的概率密度为的概率密度为. ,231)(18)5(2zezfzZ20例例),9 , 2(),4 , 1 (,) 1 (NY

13、NXYX独立，设的分布；求：YX 2解：的分布；求：YX 202)2() 1 (EYEXYXE259444)2(DYDXYXD)25, 0(2NYX 则：13 32214254-25 ),(224)2()2(XYDYDXYXCOVDYDXYXD)13, 0(2NYX 则：)5 . 0 ; 9 , 4 ; 2 , 1 (),()2(NYX21小结小结 本讲首先介绍二维随机向量本讲首先介绍二维随机向量 (X,Y) 的分量的分量X与与Y 的协方差及相关系数的概念、性质和计的协方差及相关系数的概念、性质和计算；然后介绍随机变量的各种矩算；然后介绍随机变量的各种矩(k 阶原点矩、阶原点矩、 k 阶中心矩

14、、阶中心矩、k+m 阶混合原点矩、阶混合原点矩、k+m 阶混阶混合中心矩合中心矩)，n 维随机向量的协方差阵的概念、维随机向量的协方差阵的概念、性质和计算；最后简单介绍了性质和计算；最后简单介绍了n 元正态分布元正态分布的概念和三条重要性质。的概念和三条重要性质。22例 设 的分布列为XX-202p0.40.30.3求 2(),()E XE X解 2222 (-2)0.400.320.3(),()0.2(2)0.4+00.3+20.3=2.8E XE X 补充 23例 已知 服从 0,2上的均匀分布，求 2(),(sin)E XEX解 X的概率密度( )f x1 022 0 x，其他，3222

15、220202114()( )dd02233211(sin)( )sin dsin dcos0022xE Xx f x xxxEXf xx xx xxX24例 设在规定的时间段内，某电气设备用于最大负荷的时间X（单位：min）是一个随机变量，其概率密度为22101501501( )300 150300 1500 xxf xxx， ， ，其他，求 ()D X1503002201501()( )dd300 d150,150150 xE Xxf x xxxxxx15030022222201501()( )dd300 d26250015,0150 xE Xx f xxxxxxx222()()()262

16、50015026 1 0.0D XE XE X解 25例 设随机变量 (10,0.1)XB35YX求( )( )E YD Y， 解 10 0.1 10.9npp，()100.11()(1)100.1 0.90.9E XnpD Xnpp，( )(35)3 ()53 152E YEXE X ，2( )(35)3()90.98.1D YDXD X补充 26例 已知随机变量XY，相互独立且分别服从(10,0.1)B和2( 1,2 )N ，求32ZXY的方差解 ()100.1 0.90.9D X 2( )24D Y 所以( )(3)( 2 ) 9 ()4 ( ) 90.944 24.1.D ZDXDYD XD Y27的密度函数为设二维随机变量例),(YX),(),(21),(21yxyxyxf. 13131),(),(21方差都是量的数学期望都是零，度函数所对应的随机变，它们的边缘密和系数分别为的二维随机变量的相关，且它们对应都是二维正态密度函数和其中yxyx求随机变量 和 的密度函数 和 ，及 和 的相关系数(2)问 和 是否独立？为什么？XY)(xfX)(yfYXYYX解 （1）由于二维正态密度函数的两个边缘密度都是正态密度函数，因此有28dyyxdyyxdyyxfxfX),(),(21),()(21;212121212