第4.3节_随机变量的协方差和相关系数

1、第三节第三节 随机变量的协方差和相关系数随机变量的协方差和相关系数协方差协方差相关系数相关系数协方差矩阵协方差矩阵相关系数矩阵相关系数矩阵原点矩、中心矩原点矩、中心矩 前面我们介绍了随机变量的数学期望和方差，前面我们介绍了随机变量的数学期望和方差，对于二维随机变量（对于二维随机变量（X，Y），我们除了讨论），我们除了讨论X与与Y的数学期望和方差以外，还要讨论描述的数学期望和方差以外，还要讨论描述X和和Y之间之间关系的数字特征，这就是本讲要讨论的关系的数字特征，这就是本讲要讨论的协方差和相关系数协方差和相关系数 E X-EXY-EY称为随机变量称为随机变量X和和Y的协方的协方差差,记为记为cov

2、(X,Y) ，即即 一、协方差一、协方差cov(X,Y)=EX-EXY-EY=EXY-EXEY1.定义定义 1) 当当(X,Y)是离散型随机变量时是离散型随机变量时, 2) 当当(X,Y)是连续型随机变量时是连续型随机变量时, .),()(),cov(dxdyyxfEYyEXxYX,)( )(),cov(ijjijipEYyEXxYX(6) cov(X1+X2,Y)= cov(X1,Y) + cov(X2,Y) (5) cov(aX, bY) = ab cov(X,Y) a, b 是常数是常数(7) D(XY)=D(X)+D(Y)2cov(X,Y)(4) cov(aX+b, Y) = a co

3、v(X,Y) a, b 是常数是常数2.简单性质简单性质(3) cov(X,Y)= cov(Y,X)(2) cov(X,X)= D(X)(1) cov(X,C)= 0, C为常数；为常数； 协方差的大小在一定程度上反映了协方差的大小在一定程度上反映了X和和Y相互间相互间的关系，但它还受的关系，但它还受X与与Y本身度量单位的影响本身度量单位的影响. 为了克服这一缺点，对协方差进行标准化，这为了克服这一缺点，对协方差进行标准化，这就引入了就引入了相关系数相关系数 .二二、相关系数、相关系数 为随机变量为随机变量 X 和和 Y 的相关系数的相关系数 .定义定义: 设设D(X)0, D(Y)0,)()

4、(),(covYDXDYXXY称称在不致引起混淆时在不致引起混淆时，记记 为为 .XY 相关系数的性质：相关系数的性质：11 | . 证证: 由方差的性质和协方差的定义知由方差的性质和协方差的定义知,对任意实数对任意实数 b, 有有0D(Y-bX)= b2D(X)+D(Y)-2b cov(X,Y )令令，则上式为，则上式为 D(Y- bX)= )(),(cov)(2XDYXYD)()(),(cov1)(2YDXDYXYD1)(2 YD由于方差由于方差D(Y)是正的是正的,故必有故必有1 0, 所以所以 | 1。2|)(),(covXDYXb 2.1XY存在常数存在常数 a,b(b0)， 使使

5、PY= a + b X=1，即即 X 和和 Y 以概率以概率 1 线性相关线性相关.3. X和和Y独立时，独立时， =0，但其逆不真，但其逆不真 .由于当由于当X和和Y独立时，独立时，cov(X,Y)= 0, 故故)()(),(covYDXDYX= 00但由但由并不一定能推出并不一定能推出X和和Y 独立独立.例例1 设设XN(0,1), Y=X2, 求求X和和Y的相关系数。的相关系数。证证:4. 若若 ，则，则称称X和和Y（线性）不相关。（线性）不相关。0XY定理：定理：若随机变量若随机变量X与与Y的数学期望和方差都存的数学期望和方差都存在，且均不为零，则下列四个命题等价：在，且均不为零，则下

6、列四个命题等价：0XY（1） ； （2）cov(X ,Y) = 0； （3）E(XY)=EXEY；（4）D(X Y)=DX+DY。 注：注： 反应了反应了X与与Y的线性关系密切程度；的线性关系密切程度；X与与Y不相关不相关 表明两者没有线性关系，但不等于说没有其他关系。表明两者没有线性关系，但不等于说没有其他关系。XY但可以证明对下述情形，独立与不相关等价但可以证明对下述情形，独立与不相关等价若若(X,Y)服从二维正态分布，则服从二维正态分布，则X与与Y独立独立X与与Y不相关不相关若若 X 与与 Y 独立，则独立，则X与与Y不相关，不相关，但由但由X与与Y不相关，不相关，不一定不一定能推出能推

7、出X与与Y独立独立.独立与不相关的关系：独立与不相关的关系：三、三、协方差矩阵协方差矩阵将二维随机变量（将二维随机变量（X1,X2）的四个数量指标）的四个数量指标)(21111XEXEv)()(221112XEXXEXEv排成矩阵的形式排成矩阵的形式:)()(112221XEXXEXEv)(22222XEXEv称此矩阵为称此矩阵为（X1,X2）的协方差矩阵）的协方差矩阵.这是一个非这是一个非负定对称矩阵负定对称矩阵22122111vvvv 类似定义类似定义n 维随机变量维随机变量(X1,X2, ,Xn) 的协方差矩阵的协方差矩阵.为为(X1,X2, ,Xn) 的的协方差矩阵协方差矩阵.都存在都

8、存在, 则称则称 ( i, j=1,2,n ),(covjijiXXv若若)()(jjiiXEXXEXEnnnnnnvvvvvvvvv212222111211V矩阵矩阵这是一个非这是一个非负定对称矩阵负定对称矩阵为为(X1,X2, ,Xn) 的的相关系数矩阵。相关系数矩阵。都存在都存在, 则称则称 ( i, j=1,2,n )()(),(covjijijiXDXDXX若若jjiiijvvvnnnnnn212222111211R矩阵矩阵四、相关系数四、相关系数矩阵矩阵这是一个非这是一个非负定对称矩阵负定对称矩阵, 1)()(),(coviiiii iXDXDXX由于由于故相关系数矩阵的主对角元素

9、均为故相关系数矩阵的主对角元素均为1.五、五、 原点矩和中心矩原点矩和中心矩 定义定义 设设X和和Y是随机变量，若是随机变量，若 , 2 , 1),(kXEk存在，称它为存在，称它为X的的k阶原点矩阶原点矩，简称，简称 k阶矩阶矩. , 3 , 2,)(kXEXEk若存在，称它为存在，称它为X的的k阶中心矩阶中心矩.注：注：均值均值 E(X)是是X一阶原点矩一阶原点矩, 方差方差D(X)是是X的二阶中心矩的二阶中心矩.注注:协方差协方差cov(X,Y)是是X和和Y的的二阶混合中心矩二阶混合中心矩.称它为称它为 X 和和 Y 的的 k+l 阶混合原点矩阶混合原点矩.若若)()(lkYEYXEXE

10、存在，存在，称它为称它为X 和和 Y 的的 k+l 阶混合中心矩阶混合中心矩. )(lkYXE设设 X 和和 Y 是随机变量，若是随机变量，若 k,l=1,2,存在，存在，1、相互独立，且设设YXNYNX),(),(22是不全为零的常数）。，其中的相关系数和试求(21YXZYXZ1、解、解2)()(YDXD222221)()()()()(YDXDYXDZD222222)()()()()(YDXDYXDZD22222121)()(),(cov21ZDZDZZZZ),cov(),(cov21YXYXZZ),cov(),(cov22YYXX22()( )D XD Y 222() 解解 . ),( , 0, 20, 10),21(76),( ),( 2数数的协方差矩阵及相关系的协方差矩阵及相关系求求其他其他函数为函数为的联合密度的联合密度设二维连续型随机变量设二维连续型随机变量YXyxxyxyxfYX yxyxfxXEdd),()( xyxyxxdd )21(7610202 xxxd767121023 ,75 2.yxxyxxXEdd )21(76)(1020222 ,7039 ,49023757039)( 2 XD故故xyxyxyYEdd )21(76)(10202 因因为为,78 xyxyxyYEdd )21(76)(1020222 ,2134 ,1474