概率论与数理统计：5.3协方差和相关系数

1、 5.3 协方差和相关系数协方差和相关系数 问题问题 对于二维随机变量(X ,Y ): 已知联合分布边缘分布 这说明对于二维随机变量，除了每个随机 变量各自的概率特性以外，相互之间可能还有 某种联系. 问题是用一个什么样的数去反映这 种联系. )()(YEYXEXE数 反映了随机变量X ,Y 之间的某种关系 定义定义 称)()(YEYXEXE 为X ,Y 的协方差. 记为 )()(),cov(YEYXEXEYX 称 )(),cov( ),cov()( YDYX YXXD 为（X , Y ）的协方差矩阵 可以证明协方差矩阵为半正定矩阵 协方差和相关系数的定义协方差和相关系数的定义 若D (X )

2、 0, D (Y ) 0 ,称 )()( ),cov( )()( )()( YDXD YX YDXD YEYXEX E 为X ,Y 的 相关系数，记为 )()( ),cov( YDXD YX XY 事实上，),cov( YX XY 若 , 0 XY 称 X ,Y 不相关. 利用函数的期望或方差计算协方差 q 若 ( X ,Y ) 为离散型， ij ij ji pYEyXExYX 11 )()(),cov( q 若 ( X ,Y ) 为连续型， dxdyyxfYEyXExYX),()()(),cov( 协方差和相关系数的计算协方差和相关系数的计算 q )()()(),cov(YEXEXYEYX

3、)()()( 2 1 YDXDYXD 求 cov (X ,Y ), XY 1 0 p q X P 1 0 p q Y P 例例1 已知 X ,Y 的联合分布为 X Y pij 1 0 1 0 p 0 0 q 0 p 0, D(Y ) 0 时，当且仅当 1)()( 0 XEXtYEYP 时，等式成立 Cauchy-Schwarz不等式 协方差和相关系数的性质协方差和相关系数的性质 证 5 令 2 )()()(XEXtYEYEtg )(),cov(2)( 2 XDtYXtYD 0)(tg对任何实数 t , 0)()(4),(cov4 2 YDXDYX 即 )()(| ),cov(| 2 YDXDY

4、X 等号成立 0)(tg 有两个相等的实零点 )( )( )( ),cov( 0 XD YD XD YX t 0)( 0 tg 0)()( 2 0 XEXtYEYE 即 又显然0)()( 0 XEXtYEYE 0)()( 0 XEXtYEYD 10)()( 0 XEXtYEYP 10)()( 0 XEXtYEYP 即 1)()( 0 XEXtYEYP 即Y 与X 有线性关系的概率等于1，这种线性 关系为 1 )( )( )( )( XD XEX YD YEY P 完全类似地可以证明 )()()( 222 YEXEXYE 当E(X 2) 0, E(Y 2 ) 0 时，当且仅当 1)( 0 XtY

5、P 时，等式成立 相关系数的性质 q q 1| XY 1| XY Cauchy-Schwarz不等式 的等号成立 即Y 与X 有线性关系的概率等于1， 这种线性关系为 1 )( )( )( )( XD XEX YD YEY P 1 XY 0),cov(YX 1 )( )( )( )( XD XEX YD YEY P 1 XY 0),cov(YX 1 )( )( )( )( XD XEX YD YEY P 1 XYP 1 XYP 若X , Y 是两个随机变量，用X 的线性函数去 逼近 Y 所产生的平均平方误差为 2 )(baXYE 当取 ）（XE XD YD YE XEaYEb XD YX a

6、XY )( )( )( )()( , )( ),cov( 平均平方误差最小. q 0 XY X , Y 不相关 0),cov(YX )()()(YEXEXYE )()()(YDXDYXD X , Y 相互独立 X , Y 不相关 若 X , Y 服从二维正态分布， X , Y 相互独立 X , Y 不相关 在例1中已知 X ,Y 的联合分布为 X Y pij 1 0 1 0 p 0 0 q 0 p 1 p + q = 1 ,)(,)(,)(,)(pqYDpqXDpYEpXE ,)(,)(pqXYDpXYE 1,),cov( XY pqYX , pq pY Y pq pX X 1)( YXP 在

7、例3中 设 (0,2) , X = cos , Y = cos( + ), 是给定的常数，求得 cos XY , 0若1 XY XY , 若 1 XY XY 1| XY YX,有线性关系 , 2 3 , 2 若0 XY YX, 不相关， YX,没有线性关系, 但有其他关系1 22 YX 例例5 设 ( X ,Y ) N ( 1,4; 1,4; 0.5 ), Z = X + Y , 求 XZ 解解, 4)()(, 1)()(YDXDYEXE 2),cov(, 2 1 YX XY 6),cov(),cov(),cov(YXXXZX 12),cov(2)()( )()( YXYDXD YXDZD 2

8、 3 122 6 XZ 例例6 设随机变量 X 的概率密度函数为 xexf x , 2 1 )( | (1) E(| X |), D(| X |) (2) 求cov( X ,| X |), 问X 与| X |是否不相关. (3) 问X 与| X | 是否独立？为什么？ 解解 (1) 1 2 1 |)(| | dxexXE x 2 2 1 2 2 1 2 1 |)|(| 0 2 2|22 dxex dxexdxexXE x xx 1|)(|XD (2) 0 2 1 2 1 2 1 |)|( 0 2 0 2 | dxexdxex dxexxXXE xx x 0 2 1 2 1 2 1 )( 0 0

9、 | dxxedxxe dxexXE xx x 0|)(|)(|)|(|)| ,cov(XEXEXXEXX X 与| X |不相关. (3) 0) 1| , 2(XXP 2 )()2(dxxfXP 2 2 2 1 2 1 edxe x 1 1 )() 1|(|dxxfXP 1 1 0 1 2 1 2 edxe x 显然) 1|(|)2() 1| , 2(XPXPXXP 因而 X 与| X | 不独立 例例7 设A ,B 为随机试验 E 的两个事件， 0 P (A) 1, 0 P (B) 1, 令 发生 发生 A A X , 0 , 1 发生 发生 B B Y , 0 , 1 证明：若 XY = 0, 则随机变量 X ,Y 相互独立. 证证 设 ( X ,Y ) 的联合分布为 X Y pij 1 0 1 0 p1 p2 p3 p4 pi p1+ p3 p2+p4 p j p1 + p2 p3 + p4 1 4 1 i i p )()( 31 APppXE )()( 21 BPppYE )()( 1 ABPpXYE 0)()( 4231 ppppXD 0)()( 4321 ppppYD 由0 XY )()()(YEXEXYE 即)()()(BPAPABP 即 ) 1()