概率论与数理统计-第四章

协方差和相关系数§4.3对于二维随方差，还要量(X

,Y

),除要

X与Y的均值和X与Y之间的相互关系的数字特征。回忆在第二节中证明方差的性质E(X

E(X

))(Y

E(Y

))

0D(X

Y

)

D(X

)

D(Y

)

2已看到如果X与Y独立，则E(X

E(X

))(Y

E(Y

))

0于是意味着X与Y

不独立,说明X与Y

存在一定的关系。用上式给出刻划两个随

量间相互关系的一个重要数字特征：协方差，相关系数1.协方差和相关系数1.定义设有二维随

量(X,Y),它的分量的数学期望为E(X),

E(Y)，若E[(X-E(X))(Y-E(Y))]存在，则称它为X,Y的协方差，记为cov(X,Y),

即cov(

X

,Y

)

E(X

E(X

))(Y

E(Y

))

协方差的计算若(X

,Y

)为离散型，cov(

X

,Y

)

E[(

X

E(

X

))(Y

E(Y

))]

(

xi

E(

X

))(

y

j

E(Y

))piji1

j1若(X

,Y

)为连续型，cov(

X

,Y

)

E[(

X

E(

X

))(Y

E(Y

))]

(x

E(

X

))(

y

E(Y

))

f

(

x,

y)dxdy3cov(

X

,Y

)

E(

XY

)

E(

X

)E(Y

)证明:cov(

X

,Y

)

E[(

X

E(

X

))(Y

E(Y

))]

E[

XY

E(

X

)

Y

E(Y

)

X

E(

X

)E(Y

)]

E(

XY

)

E(

X

)

E(Y

)

E(Y

)

E(

X

)

E(

X

)E(Y

)

E(

XY

)

E(

X

)

E(Y

)可见，若X与Y独立，cov(X,Y)=

0.45协方差的性质cov(

X

,Y

)

cov(Y

,

X

)

E(

XY

)

E(

X

)E(Y

)cov(aX

,bY

)

ab

cov(

X

,Y

)cov(

X

Y

,

Z

)

cov(

X

,

Z

)

cov(Y

,

Z

)cov(

X

,

X

)

D(

X

)g(t)

0对任何实数t,4cov2

(

X

,Y

)

4D(

X

)D(Y

)

0即|

cov(

X

,Y

)

|2

D(

X

)D(Y

)6|

cov(

X

,Y

)

|2

D(

X

)D(Y

)—Cauchy-Schwarz不等式证明:

令g(t)

E[(Y

E(Y

))

t(

X

E(

X

))]2

D(Y

)

2t

cov(

X

,Y

)

t

2

D(

X

)D(X+Y)=

D(X)+D(Y)+

2Cov(X,Y)随量和的方差与协方差的关系n

ni1

i1i

jD(

Xi

)

D(

Xi

)

2

Cov(

Xi

,

X

j

)n

ni1

i1若X1,X2,…,Xn两两独立，上式化为D(

Xi

)

D(

Xi

)协方差的大小在一定程度上反映了X和Y相互间的关系，但它还受X与Y本身度量单位的影响.例如：cov(kX,

kY)=k2cov(X,Y)为了克服这一缺点，对协方差进行标准化，这就引入了相关系数.9定义:若D(X

)>0,

D(Y

)>0,称D(

X

)

D(Y

)D(

X

)

D(Y

)

E

(

X

E(

X

))(Y

E(Y

)

cov(

X

,Y

)为X

,Y

的相关系数，记为XY

cov(

X

,Y

)

D(

X

)

D(Y

)若

XY

0,

称

X

,Y

不相关.无量纲的量在不致引起时，记XY

为

.相关系数的意义考虑以X的线性函数a+bX来近似Y，近似的误差为e

E[Y

(a

bX

)]2

E(Y

2

)

a2

2abE(

X

)

b2

E(

X

2

)

2aE(Y

)

2bE(

XY

)e可以用来衡量虑a+bX近似表达Y的好坏程度，e的值越小,表示a+bX与Y的近似程度越好.问题:求a，b使e最小.令

2bE(

X

2)

2E(

XY

)

2aE(

X

)

0beae

2a

2bE(

X

)

2E(Y

)

00D(

X

)解得

b

Cov(

X

,Y

)a0

E(Y

)

b0

E(

X

)00XY

(1

2

)D(Y

)

b

X

)]2

}将a0，b0代入e，则最小误差为min

E{[Y

(a

bX

)]2

}

E{[Y

(aa,b说明:当

|

XY

|较大时,e较小,表明X与Y的线性联系较紧密.当

|

XY

|较小时,X与Y线性相关程度较差.(1).

|

|

1)D(Y

)

0

E{[Y

(a

b

X

)]2

}

(1

20

0

XY |

XY

|

1相关系数的性质(2)

1存在常数a,b(b≠0），使P{Y=a+bX}=1，注:

1时,

X与Y完之间具有线性关系.XY

=

1

P(Y=aX+b)=1(a>0)这时称X与Y完全正相关；XY

=

-1

P(Y=aX+b)=1(a<0)这时称X与Y完全负相关。完全正相关和完全负相关统称为完全相关，当X与Y完全相关时，(X,Y)可能取的值以概率1地集中在一条直线上。p

q1

0p

qX

1

0

YP

P例1.已知X

,Y

的联合分布为YpijX

1

010p00q0

<

p

<1p

+

q

=

1求

cov

(X

,Y

),

XY解:1

0p

qX

YP1516D(

X

)D(Y

)cov(

X

,Y

)E(

X

)

p,

E(Y

)

p,D(

X

)

pq,

D(Y

)

pq,E(

XY

)

p,cov(

X

,Y

)

E(

XY

)

E(

X

)E(Y

)

pq,XY

1.17

例2.

设

(

X

,Y

)

~

N

(

1,

1

,2,2

,),

求

XY2

2解:

cov(

X

,Y

)

(x

1

)(

y

2

)

f

(x,

y)dxdydsdtstet

2212

1

2

(s

t

)2

1

2(1

)

2y2

t

令x1

s1dudt2u

212

t2(1

2

)

2

t(

t

u)e2

1

2

1

21

2令s

t

ut

e

dtdueu21

22

t22(1

2

)2

1

21

2

定理：若

(

X

,Y

)

~

N

(

1,

1

,

2,

2

,

),2

2则X

,Y

相互独立X

,Y

不相关18

1

2

因此，

XY

0XYX,Y

不相关cov(

X

,Y

)

0E(

XY

)

E(

X

)E(Y

)D(

X

Y

)

D(

X

)

D(Y

)关键点：XYcov(

X

,Y

)

E(

XY

)

E(

X

)E(Y

)D(

X

)

D(Y

)

D(

X

)

D(Y

)

D(

X

Y

)

D(

X

)

D(Y

)

2

cov(

X19

,Y

)不相关的充分必要条件20X,Y

不相关随量X,Y

独立与X,Y

不相关的关系X,Y

相互独立若X,Y

服从二维正态分布，X,Y

相互独立

X,Y

不相关(证明:X,Y

相互独立E(

XY

)

E(

X

)E(Y

)X,Y

不相关

)21例3.设~U(0,2),X=cos

,Y=cos(

+

),

是给定的常数，求XY解:

1

,0

t

2

,其他f

(t)

200dt

0,cos(tE(Y

)

dt

0,cos

t

E(

X

)

12

)

122222cos121220dt

cos(t)

cos(t

)

E(

XY

)

2cov(

X

,Y

)

1

cos022022dt

,E(Y

)

dt

,cos

t

E(

X

)

1

12

2cos

(t

)

1

12

22222D(Y

)

1

,D(

X

)

1

,XY

cos由E(

X

2

)

2E(Y

2

)

2E(

X

)

E(Y

)

0,D(

X

)

D(Y

)

2cov(U

,V

)

(a2

b2

)

2例4

设X

,Y

相互独立，且都服从N

(0,

2),

U=aX+bY,V=

aX-bY,a,b

为常数，且都不为零，求UV解:cov(U

,V

)

E(UV

)

E(U

)E(V

)

a2

E(

X

2

)

b2

E(Y

2

)

aE(

X

)

bE(Y

)aE(

X

)

bE(Y

)23而D(U

)

a2

D(

X

)

b2

D(Y

)

(a2

b2

)

2D(V

)

a2

D(

X

)

b2

D(Y

)

(a2

b2

)

2故UVa2

b2

a

b2

22425例5.设(X

,Y

)~

N

(1,4;

1,4;

0.5),Z=X+Y,

求

XZ解:E(

X

)

E(Y

)

1,

D(

X

)

D(Y

)

4,2XY

1

,

cov(

X

,Y

)

2cov(

X

,

Z

)

cov(

X

,

X

)

cov(

X

,Y

)

6D(Z

)

D(

X

Y

)

D(

X

)

D(Y

)

2

cov(

X

,Y

)

122

12

26

3XZ

XY=1/2,

求例6：设XN(0,4),

YP(2),E(X+Y)2

.注意到D(

X

)

D(Y

)cov(

X

,Y

)

XY解:由题设知:EX=0,D(X)=4,

EY=2,

D(Y)=2,XY

=1/2,

而E(X+Y)2

=[E(X+Y)]2+D(X+Y)=[EX+EY)]2+D(X)+D(Y)+2cov(X,

Y)把条件代入即得

E(X+Y)2

=10

2

226,21设

和

YX是随

量

若

(,

k

),

kXE1.定义存在,

称它为

的

kX阶原点矩,简称

k

阶矩.若

E{[

X

E

(

X

)]k

},

k

2,3,存在,称它为X

的k

阶中心矩.若

E

(

X

kY

l

),

k l

1,,2,存在,

称它为

X

和

Y

的k

l

阶混合矩.若

E{[

X

E

(

X

)]k

[Y

E

(Y

)]l

},

k

,

l

1,2,存在,

称它为

X

和

Y

的

k

l

阶混合中心矩.§4.4矩，协方差矩阵2.说明)(是XX的E一阶原)是,CoXvY((2)

随 量

X

的数学期望点矩,方差为二阶中心矩,协方差与Y

的二阶混合中心矩;(1)以上数字特征都是随机变量函数的数学期望;(3)在实际应用中,高于4

阶的矩很少使用.三阶中心矩

{[

(

XE)]X3

}E主要用来衡量随量的分布是否有偏.四阶中心矩

E{[

X

E

(

X

)]4}

主要用来衡量随量的分布在均值附近的陡峭程度如何.例1.设X服从N(,

2)，求的2阶,3阶原点矩以及3阶,4阶中心矩。

E(

X

3

)

x32

E(

X

2

)

D(

X

)

E2

(23

3

32y12

22

(

x

)2ef

(

x)

解:X的密度为2930E(

X

EX

)3

E(

X

)3

e

2

dy

0

;e

dx

y22

(y)32

(x

)32

2(

x

)2E(

X

EX

)4

E(

X

)4e

2

dy

y2e

dx

2

(y)42

(x

)42

2(

x

)22

42

3

4

e

2

dy

3

4

.y22

(3y2

)e

2

dy

y3e

y2

y2

y23.协方差矩阵设

n

维随

量

21

XXn

)X的,,,(二阶混合中心矩cij

Cov(

X

i

,

X

j

)

E{[

X

i

E(

X

i

)][

X

j

E(

X

j

)]都存在,则称矩阵nn

c

c

c

n1

n2c2n

C

c21c1n

c11i j

21n,,,,c12c22量的

协方差矩阵

.为n

维随协方差矩阵为例如

二维随XX21),的(

c21

c22

量

c11

c12

C

其中

c11

E

{[

X

1

E

(

X

1

)]

},2

E

(

X