讲协方差相关系数矩正态分布课件

1、 概率论与数理统计概率论与数理统计第十三讲第十三讲主讲教师：张冬梅副教授主讲教师：张冬梅副教授浙江工业大学理学院浙江工业大学理学院4.3 协方差与相关系数协方差与相关系数 对于二维随机向量对于二维随机向量(X,Y)， 除了其分量除了其分量X和和Y 的期望与方差之外的期望与方差之外, 还有一些数字特征还有一些数字特征, 用以刻画用以刻画X与与Y之间的相关程度，其中最主要之间的相关程度，其中最主要的就是协方差和相关系数。的就是协方差和相关系数。 定义定义1：若若 E X- -E(X)Y- -E(Y) 存在，存在，则称其为则称其为X 与与Y 的协方差，记为的协方差，记为Cov(X,Y), 即即4.3

2、.1 协方差协方差Cov(X, Y) = E X- -E(X)Y- -E(Y) . (1)(3). Cov(X1+X2, Y)= Cov(X1, Y) + Cov(X2, Y) ；(1). Cov(X, Y) = Cov(Y, X)；协方差性质协方差性质(2). 设设 a, b, c, d 是常数，则是常数，则 Cov( aX+b, cY+d ) = ac Cov(X, Y) ；(4). Cov(X, Y) =E(XY)-E(X)E(Y) ，(5). Var(X+Y)=Var(X)+Var(Y)+2Cov(X, Y) . 当当 X 和和 Y 相互独立时，相互独立时，Cov(X, Y)=0；若若

3、 X1, X2, , Xn 两两独立，则两两独立，则性质性质(5)可推广到可推广到 n 个随机变量的情形：个随机变量的情形：. ) ,(2)()(11jininijiiiXXCovXVarXVar. )()(11niniiiXVarXVar 协方差的大小在一定程度上反映了协方差的大小在一定程度上反映了X 和和Y相互间的关系，但它还受相互间的关系，但它还受X 和和Y 本身度量单位本身度量单位的影响。的影响。 例如：例如：Cov(aX, bY) = ab Cov(X, Y). 为了克服这一缺点，对协方差进行标准为了克服这一缺点，对协方差进行标准化，这就引入了化，这就引入了相关系数相关系数 。4.3

4、.2 相关系数相关系数为随机变量为随机变量X 和和Y 的相关系数的相关系数 。 定义定义2: 设设Var(X) 0, Var(Y) 0, 则称则称)( )() ,(YVarXVarYXCovXY在不致引起混淆时，记在不致引起混淆时，记 为为 。XY 相关系数性质相关系数性质; 1| ).1 (证：证：由方差与协方差关系，由方差与协方差关系，对任意实数对任意实数b, 有有0Var(Y- -bX)=b2Var(X)- -2b Cov(X,Y ) +Var(Y ),利用韦达定理得到利用韦达定理得到1- - 2 0, 所以所以 | |1。由于当由于当 X 和和 Y 独立时，独立时，Cov(X, Y)=

5、 0 .反例：反例：(2). X 和和Y 独立时独立时, =0，但其逆不真；，但其逆不真；但但=0 并不一定能推出并不一定能推出 X 和和 Y 独立。独立。 0)()(),(；YVarXVarYXCov所以，所以，证明证明:例例 1：设设 (X,Y) 服从单位服从单位 D= (x, y): x2+y21上的均匀分布，证明：上的均匀分布，证明： XY = 0。 .),( , 0 ,),( ,/1),(DyxDyxyxf,00 /)(111111112222dydydxxdxdyxXEyyyx所以，所以，Cov(X, Y)= E(XY)- -E(X) E(Y) = 0 .同样，得同样，得 E(E(

6、Y)=0,)=0,. 0 0 )y/()(111111112222dydyxdxydxdyxXYEyyyx此外，此外，Var(X) 0, Var(Y) 0 .所以，所以， XY = 0，即即 X 与与 Y 不相关。不相关。但是，但是，X与与Y不独立。不独立。存在常数存在常数a, b(b0)，使使 P Y = a+bX = 1 ，即，即 X 和和 Y 以概率以概率 1 线性相关线性相关。(3). |=1但对下述情形，独立与不相关是一回事：但对下述情形，独立与不相关是一回事：前面前面, 我们已经看到：我们已经看到： 若若X 与与Y 独立，则独立，则X 与与Y 不相关；但由不相关；但由X与与Y 不相

7、关，不一定能推出不相关，不一定能推出X与与Y独立。独立。 若若(X, Y )服从二维正态分布，则服从二维正态分布，则X 与与Y 独独立的充分必要条件是立的充分必要条件是X与与Y不相关。不相关。 定义定义1：设设X是随机变量是随机变量, 若若E(Xk) 存在存在(k =1, 2, ), 则称其为则称其为X 的的 k 阶原点矩；若阶原点矩；若 EX-E(X)k 存在存在(k = 1,2, ), 则称其为则称其为X的的 k 阶中心矩。阶中心矩。4.3 矩与协方差矩阵矩与协方差矩阵4.3.1 矩矩 易知：易知：X 的期望的期望 E(X) 是是 X 的一阶原点的一阶原点矩，方差矩，方差Var(X) 是是

8、 X 的二阶中心矩。的二阶中心矩。4.4 n元正态分布的几条重要性质：元正态分布的几条重要性质：(1). X =(X1, X2, , Xn) 服从服从 n 元正态分布元正态分布对一切不全为对一切不全为 0 的实数的实数 a1, a2, , an， a1X1+ a2 X2+ + an Xn 服从正态分布。服从正态分布。(2). 若若 X=(X1,X2, ,Xn)服从服从n 元正态分布，元正态分布，Y1,Y2,Yk 是是 Xj (j=1, 2, n)的线性组合的线性组合,则则(Y1,Y2, , Yk)服从服从k 元正态分布。元正态分布。这一性质称为正态变量的线性变换不变性。这一性质称为正态变量的线

9、性变换不变性。 (3). 设设(X1,X2, ,Xn)服从服从n元正态分布，则元正态分布，则“X1,X2, ,Xn两两不相关两两不相关”。“X1, X2, , Xn 相互独立相互独立” 等价于等价于例例2: 设随机变量设随机变量X和和Y相互独立，且相互独立，且XN(1, 2), YN(0, 1)。求。求 Z = 2X- -Y+3 的概率密度。的概率密度。 知知 Z=2X-Y+3 服从正态分布，且服从正态分布，且解解: 由由XN(1,2), YN(0,1)，且，且X与与Y相互独立相互独立,Var(Z) = 4Var(X)+Var(Y) = 8+1 = 9, E(Z) = 2E(X)- -E(Y)+3 = 2- -0+3=5 ， 故，故，ZN(5, 32) .Z 的概