概率论与数理统计

1、4.3 协方差协方差与相关系数与相关系数当当X与与Y相互独立相互独立有有. 0)()( YEYXEXE当当0)()( YEYXEXEX与与Y一定不相互独立，一定不相互独立，这这说明量说明量)()(YEYXEXE 在在一定程度上反映了随机变量一定程度上反映了随机变量X与与Y之间的关系之间的关系.定义定义1 设设Y)(X,为二维随机向量为二维随机向量, 若若)()(YEYXEXE 存在存在, 则称其为随机变量则称其为随机变量X和和Y的的协方差协方差, 记为记为),(YXCov即即 ),(YXCov)()(YEYXEXE 按定义按定义, 若若Y)(X,为离散型随机向量为离散型随机向量, 其概率分布其

2、概率分布为为), 2 , 1,(, jipyYxXPijii则则ijjijipYEyXExYXCov ,)()(),(一、协方差一、协方差的定义的定义若若Y)(X,为连续型随机向量为连续型随机向量, 其概率密度为其概率密度为),(yxf则则dxdyyxfYEyXExYXCov ),()()(),(计算协方差的简化公式计算协方差的简化公式:).()()(),(YEXEXYEYXCov 特别地特别地, 当当X与与Y独立时独立时, 有有. 0),( YXCov ),(YXCov)()(YEYXEXE 二、二、协方差的基本性质协方差的基本性质(1);(),(XDXXCov (2);,(),(XYCov

3、YXCov (3),(),(YXabCovbYaXCov 其中其中ba,是是常数常数;(4), 0),( XCCovC为任意常数为任意常数;(5);,(),(),(2121YXCovYXCovYXXCov 2. 随机变量和的方差与协方差的关系随机变量和的方差与协方差的关系Y),2Cov(X,D(Y)D(X)Y)(X D特别地特别地, 若若X与与Y相互独立相互独立, 则则D(Y).D(X)Y)(X D例例1已知离散型随机向量已知离散型随机向量),(YX的概率分布如右表的概率分布如右表, ,求求).,cov(YX1 . 0015. 021 . 005. 03 . 0102 . 01 . 00201

4、 XY解解容易求得容易求得X的概率分的概率分, 3 . 00 XP,45. 01 XP;25. 02 XPY的概率分布为的概率分布为,55. 01 YP,25. 00 YP, 2 . 02 YP布为布为例例1已知离散型随机向量已知离散型随机向量),(YX的概率分布如右表的概率分布如右表, ,求求).,cov(YX1 . 0015. 021 . 005. 03 . 0102 . 01 . 00201 XY解解计算得计算得0202 . 0001 . 0)1(0)( XYE1 . 0215 . 0013 . 0)1(1 1 . 02200215. 0)1(2 . 0 2 . 0225. 0055.

5、0)1()( YE.15. 0 于是有于是有25. 0245. 013 . 00)( XE,95. 0 于是于是)()()(),cov(YEXEXYEYX .1425. 015. 095. 0 例例2 设连续型随机变量设连续型随机变量),(YX的密度函数为的密度函数为, 010,8),( 其它其它yxxyyxf求求),cov(YX和和).(YXD 解解由由),(YX的密度函数可求得其边缘密度函的密度函数可求得其边缘密度函数分别为数分别为: :, 010),1(4)(2 其它其它xxxxfX, 010,4)(3 其它其它yyyfY例例2 设连续型随机变量设连续型随机变量),(YX的密度函数为的密

6、度函数为, 010,8),( 其它其它yxxyyxf求求),cov(YX和和).(YXD 解解 于是于是 dxxxfXEX)()( 102)1(4dxxxx,15/8 dyyyfYEY)()( 1034dyyy, 5/4 dxdyyxxyfXYE),()( 1108xdyxyxydx, 9/4 例例2 设连续型随机变量设连续型随机变量),(YX的密度函数为的密度函数为, 010,8),( 其它其它yxxyyxf求求),cov(YX和和).(YXD 解解 于是于是)(XE,15/8 )(YE, 5/4 )(XYE, 9/4 从而从而)()()(),cov(YEXEXYEYX ,225/4 又又

7、dxxfxXEX)()(22 1022)1(4dxxxx, 3/1 dyyfyYEY)()(22 10324dyyy, 3/2 所以所以22)()()(XEXEXD ,225/11 例例2 设连续型随机变量设连续型随机变量),(YX的密度函数为的密度函数为, 010,8),( 其它其它yxxyyxf求求),cov(YX和和).(YXD 解解 于是于是)(XE,15/8 )(YE, 5/4 )(XYE, 9/4 从而从而)()()(),cov(YEXEXYEYX ,225/4 又又)(2XE, 3/1 )(2YE, 3/2 所以所以22)()()(XEXEXD ,225/11 故故),cov(2

8、)()()(YXYDXDYXD . 9/1 ,75/2)()()(22 YEYEYD定义定义 设设),(YX为二维为二维随机向量，随机向量，, 0)( XD, 0)( YD称称)()(),cov(YDXDYXXY 为为随机变量随机变量X和和Y的的相关系数相关系数， 有时也记有时也记XY 为为. 特别地，特别地，当当0 XY 时，时，称称X与与Y不不相关相关.三、相关系数的定义三、相关系数的定义注注：相关系数刻画了相关系数刻画了X和和Y间间“线性相关线性相关”的的程度程度.XY 的值越的值越接近于接近于1，Y与与X线性相关程度越高；线性相关程度越高；XY 的值越的值越接近于接近于0，Y与与X线性

9、相关程度越弱；线性相关程度越弱；1 XY 时，时，Y与与X有有严格线性关系；严格线性关系；0 XY 时，时，Y与与X无线性关系；无线性关系；注意注意：只只说明说明Y与与X没有线性没有线性关系关系. 并不能说明并不能说明Y与与X之间没有其它函数关系之间没有其它函数关系.与与从而不能推出从而不能推出YX独立独立.0 XY 时，时，当当四、相关系数的性质四、相关系数的性质1.; 1 XY 2. 若若X和和Y相互独立，相互独立，; 0 XY 则则例例3 设设),(YX的分布律为的分布律为14/14/14/14/12/14/1004/142/104/14/1012112iixYPyYPYX 易知易知,

10、0)( XE, 2/5)( YE, 0)( XYE于是于是, 0 XY YX,不相关不相关. . 这表示这表示YX,不存不存在线性关系在线性关系, , 但但,1201, 2 YPXPYXP例例3 设设),(YX的分布律为的分布律为14/14/14/14/12/14/1004/142/104/14/1012112iixYPyYPYX 这表示这表示YX,不存在线性关系不存在线性关系, 但但,1201, 2 YPXPYXP知知YX,不是相互独立的不是相互独立的.事实上事实上, ,X和和Y具有关系具有关系: :,2XY Y的值完全可由的值完全可由X的值所确定的值所确定. .例例4 设设 服从服从, 上

11、的均匀分布上的均匀分布, , 且且,sin X cos Y判断判断X与与Y是否不相关是否不相关, , 是否独立是否独立.解解 由于由于, 0sin21)( dXE, 0cos21)( dYE而而. 0cossin21)( dXYE因此因此),()()(YEXEXYE 从而从而X与与Y不相关不相关. . 但由于但由于X与与Y满足关系满足关系: :122 YX所以所以X与与Y不独立不独立.例例6 设二维随机变量设二维随机变量),(),(2121 NYX.)()(),cov( YDXDYXXY若若),(YX服从二维正态分布服从二维正态分布, , 则则X与与Y相互独立相互独立,当且仅当当且仅当X与与Y

12、不相关不相关. .五、矩五、矩的的概念概念定义定义 设设X和和Y为为随机变量，随机变量，lk,为正整为正整数，数，)(kXE为为k阶阶原点矩原点矩 (简称简称k阶阶矩矩);)(kXEXE 为为k阶阶中心矩中心矩)(kXE为为k阶阶绝对原点矩绝对原点矩；)(kXEXE 为为k阶阶绝对中心矩绝对中心矩；称称)(lkYXE为为X和和Y的的lk 阶阶混合矩混合矩;)()(lkYEYXEXE 为为X和和Y的的lk 阶混合中心矩阶混合中心矩.六、协方差矩阵六、协方差矩阵将二维将二维随机变量随机变量),(21XX的四个二阶的四个二阶中心矩中心矩,)(21111XEXEc ,)(22222XEXEc ),()

13、(221112XEXXEXEc ).()(112221XEXXEXEc 排成排成矩阵的形式：矩阵的形式： 22211211cccc对称矩阵对称矩阵称此称此矩阵为矩阵为),(21XX的的协方差矩阵协方差矩阵.类似定义类似定义n维维随机变量随机变量),(21nXXX的协方差的协方差矩阵矩阵. 若若),cov(jiijXXc njiXEXXEXEjjii, 2 , 1,)()( 都都存在，存在， nnnnnncccccccccC212222111211为为),(21nXXX的的协方差矩阵协方差矩阵.称称4.4 大数定理与中心极限定理大数定理与中心极限定理1. 在大量随机现象的平均结果是一个与个别随机

14、现象在大量随机现象的平均结果是一个与个别随机现象的特征无关的结果的特征无关的结果, 并且几乎没有随机性特征；并且几乎没有随机性特征；2. 大数定律以确定的形式表达了这种规律性大数定律以确定的形式表达了这种规律性,并论证了并论证了其成立的其成立的, 即从理论上阐述了这种大量的、在一定条即从理论上阐述了这种大量的、在一定条件下的、重复的随机现象呈现的规律性件下的、重复的随机现象呈现的规律性, 揭示了在事揭示了在事物表象后面的本质特征。物表象后面的本质特征。大数定律从理论上解决下面两个问题大数定律从理论上解决下面两个问题: (1)用频率近似代替概率问题用频率近似代替概率问题P(A)=m/n; (2)

15、讨论讨论n个随机变量的平均值的稳定性。个随机变量的平均值的稳定性。一、切比雪夫一、切比雪夫(Chebyshev)不等式不等式定理定理1 随机变量随机变量 满足满足E = ,D = 2, 则对任给则对任给 0有有.122 XP.22 XP)( xfxy O ,111. 09322 XP如如取取,3 则有则有例例1 是掷一颗骰子出现的点数是掷一颗骰子出现的点数,给定给定 =1,2, 计算计算P(| -E |),并验证切比雪夫不等式。并验证切比雪夫不等式。解解: 123456p1/61/61/61/61/61/6E =3.5, D =35/12,P| -3.5| 1=P4.5+P2.5=2/3 35

16、/12=D /12;P| -3.5| 2=P5.5+P1.5=1/3 35/48=D /42.例例2 已知正常男性成人每毫升血液中白细胞数平均是已知正常男性成人每毫升血液中白细胞数平均是7300, 均方差是均方差是700, 利用切比雪夫不等式估计每毫升利用切比雪夫不等式估计每毫升血液中白细胞数在血液中白细胞数在52009400之间的概率。之间的概率。解解: 设每毫升血液中白细胞数为设每毫升血液中白细胞数为 , 则则 =7300, =700,所求概率为所求概率为52009400P5200730094007300P 21002100P2100P2281.(2100)9 例例3 有有1000盏电灯盏

17、电灯,夜晚每盏灯开灯的概率均为夜晚每盏灯开灯的概率均为0.85,各各电灯开和关相互独立。估计同时开着的灯的数量在电灯开和关相互独立。估计同时开着的灯的数量在800至至900之间的概率。之间的概率。解解: 设设 表示同时开着的灯的数量表示同时开着的灯的数量, 则则 B(1000, 0.85), E =np=850, D =npq=1000 0.85 0.15=127.5,P(800 900)=P(| -850|0, 有有11lim1.niniPn证明证明由由,/)(,)(2nYDYEnn 根据切比雪夫根据切比雪夫等式即得等式即得221 nYPn 令令, n再再注意到概率不可能大于注意到概率不可能

18、大于1， 即证即证得结果得结果.注注： 定理表明：定理表明：对对任意任意, 0 事件事件 nY发生的概率很大，发生的概率很大，从从概率意义上指出了，概率意义上指出了，时，时，nY逼近逼近 的的确切含义确切含义.在在概率论中，概率论中，当当n很大很大收敛于收敛于, 记为记为 PnY把把 (*)式式表示的收敛性称为随机变量序列表示的收敛性称为随机变量序列nY依概率依概率11lim1.niniPn推论推论 设设An是是n重伯努重伯努试验中事件试验中事件A发生的次数，发生的次数，p是是事件事件A在在每次试验中发生的概率，每次试验中发生的概率，则对则对任意的任意的, 0 有有. 1lim pnnPAn(*)证明证明因为因为),(pnbnA所以所以,21nAXXXn 其中其中nXXX,21相互独立，相互独立， 且都且都服从以服从以p为参数为参数10 分布，分布，的的因而因而nippXDpXEi