协方差与相关系数

1、概率统计概率统计下页结束返回4.3 协方差和相关系数协方差和相关系数1. 协方差协方差4.4 4.4 矩和协方差矩阵矩和协方差矩阵2. 相关系数相关系数下页 前面我们介绍了随机变量的数学期望和方差前面我们介绍了随机变量的数学期望和方差, ,对对于多维随机变量，反映分量之间关系的数字特征中，于多维随机变量，反映分量之间关系的数字特征中，最重要的，就是本讲要讨论的最重要的，就是本讲要讨论的“协方差和相关系数协方差和相关系数”. .概率统计概率统计下页结束返回 任意两个随机变量任意两个随机变量X和和Y的协方差的协方差,记为记为Cov(X,Y), Covariance 定义为定义为 Cov(X1+X2

2、,Y)= Cov(X1,Y) + Cov(X2,Y) Cov(X,Y)= Cov(Y,X)一、协方差一、协方差2.简单性质简单性质 Cov(aX,bY) = ab Cov(X,Y) a,b是常数是常数Cov(X,Y)=E X-E(X)Y-E(Y) 1.定义定义下页概率统计概率统计下页结束返回 Cov(X,Y)=E(XY) -E(X)E(Y) 可见，若可见，若X与与Y独立，独立， Cov(X,Y)= 0 .3. 计算协方差的一个简单公式计算协方差的一个简单公式由协方差的定义及期望的性质，可得由协方差的定义及期望的性质，可得Cov(X,Y)=E X-E(X)Y-E(Y) =E(XY)-E(X)E(

3、Y)-E(Y)E(X)+E(X)E(Y) =E(XY)-E(X)E(Y)即即下页概率统计概率统计下页结束返回若若X1,X2, ,Xn两两独立两两独立,，D(X+Y)= D(X)+D(Y)+ 2Cov(X,Y)4. 随机变量随机变量和的方差与协方差的关系和的方差与协方差的关系niniiiXDXD11)()(下页概率统计概率统计下页结束返回二二、相关系数、相关系数为随机变量为随机变量X和和Y的相关系数的相关系数 .定义定义: 设设D(X)0, D(Y)0,)()(),(YDXDYXCovXY 称称在不致引起混淆时，记在不致引起混淆时，记 为为 .XY 下页当当 = 0时，称时，称X与与Y是不相关的

4、是不相关的.概率统计概率统计下页结束返回 例例1. 设设(X,Y)的联合分布的联合分布如右表，求如右表，求Cov(X,Y) ,XY .解：解：计算得计算得 E(X) = 2 , E(Y) = 2 ,E(X2) = 9/2 , E(Y2) = 9/2 ,D(X) =1/2 , D(Y) = 1/2 ,Cov(X,Y) = 23/6 4 = - 1/6 ,.31212161)()(),(YDXDYXCovXY1/4 1/2 1/4 Y 1 2 31 0 1/6 1/122 1/6 1/6 1/63 1/12 1/6 0X1/41/21/4,623)(ijjijipyxXYE1）相关系数的计算）相关

5、系数的计算下页于是得于是得概率统计概率统计下页结束返回 例例2.2. 设随机变量设随机变量X的方差的方差D(X)0, 且且Y= =aX+ +b( (a0),),求求X和和Y的相关系数的相关系数XY . .解：解：2( )()().D YD aXba D X(, )()( )Cov X YEXE XYE Y()()EXE XaXbE aXb2()aE XE X().aD X)()(),(YDXDYXCovXY2()()()aD XD Xa D X|aa1,0.10aa下页概率统计概率统计下页结束返回2. X和和Y独立时，独立时， =0，但其逆不真，但其逆不真.由于当由于当X和和Y独立时，独立时，

6、Cov(X,Y)= 0.故故)()(),(YDXDYXCov= 00但由但由并不一定能推出并不一定能推出X和和Y 独立独立.请看下例请看下例.2）相关系数的性质及其与独立性的关系）相关系数的性质及其与独立性的关系11 | . 下页概率统计概率统计下页结束返回 例例3. 设设X服从服从(-1/2, 1/2)内的均匀分布内的均匀分布,而而Y=cos (X)，求求X，Y的相关系数的相关系数.因而因而 =0，即即X和和Y不相关不相关 .但但Y与与X有严格的函数关系，有严格的函数关系， 即即X和和Y不独立不独立 .解：解：显然显然E(X)=0, 而而相关系数刻划了相关系数刻划了X和和Y间间“线性相关线性

7、相关”的程度的程度.下页()()E XYE XCos X 1/21/2cos( ) ( )0 .xx f x dx 概率统计概率统计下页结束返回但对下述情形，独立与不相关等价但对下述情形，独立与不相关等价.显然显然，若，若X与与Y独立，则独立，则X与与Y不相关，不相关，但由但由X与与Y不相关，不一定能推出不相关，不一定能推出X与与Y独立独立.下页概率统计概率统计下页结束返回221,1( ,).0,xyf x y其它()( , )E Xxf x y dxdy 121210.xx dx(, )()() ( )Cov X YE XYE X E Y22111110,xxxdxydy证明：证明：(1)

8、因为同理同理 E(Y) = 0 .于是于是 XY= 0 ，所以，所以 X与与Y不相关不相关.2211111xxxdxdy( , )xyf x y dxdy ()E XY下页 例例4设随机向量设随机向量(X,Y)的概率密度如下的概率密度如下,试证试证X与与Y既不相关既不相关也不相互独立也不相互独立.概率统计概率统计下页结束返回221,11( )( , ),0,Xxxfxf x y dy 其它221,11( ).0,Yyyfy 其它下页221,1( ,).0,xyf x y其它 例例5设随机向量设随机向量(X,Y)的概率密度如下的概率密度如下,试证试证X与与Y既不相关既不相关也不相互独立也不相互独

9、立.证明：证明：(2) 因因fX(x)fY(y)f(x,y)，故故X与与Y不相互独立不相互独立.概率统计概率统计下页结束返回4.4 4.4 矩和协方差矩阵矩和协方差矩阵设设X是随机变量，若是随机变量，若 k=1,2, 存在，存在，)(kXE称它为称它为X的的k阶原点矩阶原点矩.)(kXEXE k=1,2,存在，存在，若若称它为称它为X的的k阶中心矩阶中心矩.显然，期望是显然，期望是X的一阶原点矩，方差是的一阶原点矩，方差是X的二阶中心矩的二阶中心矩.下页概率统计概率统计下页结束返回协方差协方差Cov(X,Y)是是X和和Y的二阶的二阶称它为称它为X和和Y的的k+L阶混合（原点）矩阶混合（原点）矩

10、.若若)()(LkYEYXEXE存在，存在，称它为称它为X和和Y的的k+L阶混合中心矩阶混合中心矩. )(LkYXE设设X和和Y是随机变量，若是随机变量，若 k,L=1,2,存在，存在，可见，可见，下页混合中心矩混合中心矩.一、矩的定义一、矩的定义概率统计概率统计下页结束返回二、协方差矩阵的定义二、协方差矩阵的定义 将二维随机变量将二维随机变量(X1,X2)的四个二阶中心矩的四个二阶中心矩)(21111XEXEc)()(221112XEXXEXEc排成矩阵的形式排成矩阵的形式:)()(112221XEXXEXEc)(22222XEXEc称此矩阵为（称此矩阵为（X1,X2）的协方差矩阵）的协方差矩阵.22211211cccc这是一个这是一个对称矩阵对称矩阵下页概率统计概率统计下页结束返回 类似定义类似定义n维随机变量维随机变量(X1,X2, ,Xn) 的协方差