讲协方差,相关系数,矩,正态分布.ppt

,概率论与数理统计 第十三讲,主讲教师：张冬梅副教授,浙江工业大学理学院,4.3 协方差与相关系数,对于二维随机向量(X,Y)， 除了其分量X和Y 的期望与方差之外, 还有一些数字特征, 用以刻画X与Y之间的相关程度，其中最主要的就是协方差和相关系数。,定义1：若 E X-E(X)Y-E(Y) 存在，则称其为X 与Y 的协方差，记为Cov(X,Y), 即,4.3.1 协方差,Cov(X, Y) = E X-E(X)Y-E(Y) . (1),(3). Cov(X1+X2, Y)= Cov(X1, Y) + Cov(X2, Y) ；,(1). Cov(X, Y) = Cov(Y, X)；,协方差性质,(2). 设 a, b, c, d 是常数，则 Cov( aX+b, cY+d ) = ac Cov(X, Y) ；,(4). Cov(X, Y) =E(XY)-E(X)E(Y) ，,(5). Var(X+Y)=Var(X)+Var(Y)+2Cov(X, Y) .,当 X 和 Y 相互独立时，Cov(X, Y)=0；,若 X1, X2, , Xn 两两独立，则,性质(5)可推广到 n 个随机变量的情形：,协方差的大小在一定程度上反映了X 和Y相互间的关系，但它还受X 和Y 本身度量单位的影响。 例如：,Cov(aX, bY) = ab Cov(X, Y).,为了克服这一缺点，对协方差进行标准化，这就引入了相关系数 。,4.3.2 相关系数,为随机变量X 和Y 的相关系数 。,定义2: 设Var(X) 0, Var(Y) 0, 则称,在不致引起混淆时，记 为 。,相关系数性质,证：由方差与协方差关系，,对任意实数b, 有,0Var(Y-bX)=b2Var(X)-2b Cov(X,Y ) +Var(Y ), 利用韦达定理得到,1- 2 0, 所以 | |1。,由于当 X 和 Y 独立时，Cov(X, Y)= 0 .,反例：,(2). X 和Y 独立时, =0，但其逆不真；,但=0 并不一定能推出 X 和 Y 独立。,所以，,证明:,例 1：设 (X,Y) 服从单位 D= (x, y): x2+y21 上的均匀分布，证明： XY = 0。,所以，Cov(X, Y)= E(XY)-E(X) E(Y) = 0 .,同样，得 E(Y)=0,此外，Var(X) 0, Var(Y) 0 .,所以，XY = 0，即 X 与 Y 不相关。,但是，X与Y不独立。,存在常数a, b(b0)，,使 P Y = a+bX = 1 ，即 X 和 Y 以概率 1 线性相关。,(3). |=1,但对下述情形，独立与不相关是一回事：,前面, 我们已经看到：,若X 与Y 独立，则X 与Y 不相关；但由X与Y 不相关，不一定能推出X与Y独立。,若(X, Y )服从二维正态分布，则X 与Y 独立的充分必要条件是X与Y不相关。,定义1：设X是随机变量, 若E(Xk) 存在(k =1, 2, ), 则称其为X 的 k 阶原点矩；若 EX-E(X)k 存在(k = 1,2, ), 则称其为X的 k 阶中心矩。,4.3 矩与协方差矩阵,4.3.1 矩,易知：X 的期望 E(X) 是 X 的一阶原点 矩，方差Var(X) 是 X 的二阶中心矩。,4.4 n元正态分布的几条重要性质：,(1). X =(X1, X2, , Xn) 服从 n 元正态分布,对一切不全为 0 的实数 a1, a2, , an， a1X1+ a2 X2+ + an Xn 服从正态分布。,(2). 若 X=(X1,X2, ,Xn)服从n 元正态分布，,Y1,Y2,Yk 是 Xj (j=1, 2, n)的线性组合,则(Y1,Y2, , Yk)服从k 元正态分布。,这一性质称为正态变量的线性变换不变性。,(3). 设(X1,X2, ,Xn)服从n元正态分布，则,“X1,X2, ,Xn两两不相关”。,“X1, X2, , Xn 相互独立” 等价于,例2: 设随机变量X和Y相互独立，且XN(1, 2), YN(0, 1)。求 Z = 2X-Y+3 的概率密度。,知 Z=2X-Y+3 服从正态分布，且,解: 由XN(1,2), YN(0,1)，且X与Y相互独立,Var(Z) = 4Var(X)+Var(Y) = 8+1 = 9,E(Z) = 2E(X)-E(Y)+3 = 2-