方差与协方差

随机变量的数学期望(均值),它表达了随机变量取值的平均水平,是随机变量的一个重要的数字特征.但是在很多场合,仅仅知道平均值是不够的.§2随机变量的方差例如,某零件的真实长度为a,现在用甲、乙两台仪器各测量10次,并将测量结果X用坐标上的点表示如图：问:哪台仪器的测量效果好一些？

甲仪器测量结果乙仪器测量结果较好因为乙仪器的测量结果更集中在均值附近.测量结果的均值都是

a

为此需要引进另一个数字特征,用它来度量随机变量在其中心(即均值)附近取值的离散程度(或集中程度).这个数字特征就是:方差.再如:考察某车床加工轴承的质量时,假设最关键的指标为长度,那么不但要注意轴承的平均长度,同时还要考虑轴承长度与平均长度的偏离程度(即加工的精度);等等.我们该用怎样的量去度量这种偏离程度呢?

X−E(X)?

E[X−E(X)]?

E[|X−E(X)|]?E{[X−E(X)]2

}

一、方差(variance)的定义随机变量X的平方偏差[X−E(X)]2的均值记作或Var(X),叫做X的方差.而记作叫做X的标准差或均方差.方差刻划了随机变量取值的离散程度:假设X的取值比较集中,那么方差较小；假设X的取值比较分散,那么方差较大.如:据以往记录,甲乙两射手命中环数X、Y的分布律为X678910P0.10.20.40.20.1Y678910P0.20.20.20.20.2及可以算出:两人命中环数的平均水平相同,从中看不出两人射击技术的上下;但

说明甲的命中环数比乙的更集中,即甲的射击技术比乙的稳定.二.方差的简化计算公式即:方差等于平方的期望减期望的平方.证明:例:

设X的概率密度为且D(X)=1/18,求a,b及E(X).而解:由归一性得故解得

b=0,a=2,E(X)

=2/3或b=2,

a=−2,

E(X)

=1/3

.例:设(X,Y)

的概率密度为试求D(X),D(Y).解:xy01y=x三.常见分布的期望与方差(3)那么(2)那么(1)那么(4)那么(5)那么四.方差的性质(1)对任意常数k与c

有:D(kX+c

)=k2D(X).(2)设X与Y相互独立,那么进一步,假设X1,…,Xn相互独立,那么对任意常数c1,…,cn有:

D(X+Y)=D(X)+D(Y),

D(X−Y)=D(X)+D(Y).

D(c1X1+…

+cn

Xn

)=c12

D(X1

)+…

+

cn2

D(Xn

).(3)D(X)=0的充要条件是X以概率1取常数C,即P{X=C}=1.例:则解:X表示n重伯努利试验中“成功〞的次数,

p为每次试验成功的概率,那么X~B(n,p);引入1,假设第i次试验成功,0,假设第i次试验失败.i=1,2,…,n,那么X1,X2,…,Xn相互独立,且而Xi

的分布律为

Xi

01

P

q

p故E(Xi)=p,

E(Xi2)=p,

D(Xi)=E(Xi2)−[E(Xi)]2=pq,从而例:

有限个独立正态变量的线性组合仍然服从正态分布,若且它们相互独立,则解:五.

随机变量的标准化设X具有为X的标准化随机变量.E(Y

)=0,D(Y)=1.那么叫六.

切比雪夫(Chebyshev)不等式对X,假设E(X),D(X)都存在,那么对或(1)方差确实能衡量随机变量取值的离散程度.(2)该不等式能在X的分布未知的情况下对的概率的下限作一估计,假设记那么等等.

一、协方差随机变量X和Y的协方差前面我们介绍了随机变量的数学期望和方差,对于多维随机变量，反映分量之间关系的数字特征中,最重要的就是协方差和相关系数.§3协方差(Covariance)和相关系数1.定义:(1)Cov(X,Y)=Cov(Y,X)(2)Cov(aX,bY)=abCov(X,Y),a,b是常数(3)Cov(X1+X2,Y)=Cov(X1,Y)+Cov(X2,Y)2.简单性质:3.协方差的简化计算公式:

Cov(X,Y)=E(XY)−E(X)E(Y)可见，假设X与Y独立,那么Cov(X,Y)=0.4.随机变量和的方差与协方差的关系

D(X+Y)=D(X)+D(Y)+2Cov(X,Y)二、相关系数1.定义:设D(X)>0,D(Y)>0,称为随机变量X和Y的相关系数.注:相关系数也叫标准协方差,其实是标准化随机变量的协方差.与2.相关系数的性质:存在常数a,b使即X和Y以概率1线性相关.可见相关系数刻划了X和Y间“线性相关〞的程度.的值越接近于1,Y与X的线性相关程度越高;的值越接近于0,Y与X的线性相关程度越弱;则Y与X有严格线性关系;若若则Y与X无线性关系,叫做X与Y不相关.注意:假设X与Y独立,那么Cov(X,Y)=E(XY)−E(X)E(Y)=0,但由X与Y不相关,不一定能推出X与Y独立.而对下述情形,独立与不相关等价:假设(X,Y)服从二维正态分布,那么X与Y独立X与Y不相关.从而X与Y不相关;例:

设X在(−1/2,1/2)内服从均匀分布,而Y=cosX,试考察X与Y的相关性及独立性?解:而Y与X有严格的函数关系,因此Cov(X,Y)=E(XY)−E(X)E(Y)=0,故X和Y不相关.即X和Y不独立.

一、矩为X的k阶原点矩,可见:X的期望是X的1

阶原点矩;在随机变量的数字特征中,更一般的是矩.§4矩、协方差矩阵为X的k阶中心矩,为X和Y的k+l阶混合原点矩,为X和Y的k+l阶混合中心矩.X的方差是X的2

阶中心矩;X和Y的协方差是X和Y的2

阶混合中心矩.二、协方差矩阵

对n维随机变量(X1,X2,…,Xn),称矩阵为(X1,X2,…,Xn)的协方差矩阵.因对所有i,j成立cij=cji,记

i,j=1,2,…,n,故CT

=C,C为对称矩阵.引入(X1,X2,…,Xn)的协方差矩阵,可更好地处理多维随机变量.比方,我们可从二维正态随机变量的概率密度推广出n维正态随机变量的概率密度