概率论与数理统计PPT教学课件-第13讲.ppt

,概率论与数理统计 第十三讲,北京工业大学应用数理学院,4.3 协方差与相关系数,对于二维随机向量(x,y)， 除了其分量x和y 的期望与方差之外, 还有一些数字特征, 用以刻画x与y之间的相关程度，其中最主要的就是下面要讨论的协方差和相关系数。,定义1：若 e x-e(x)y-e(y) 存在，则称其为x 与y 的协方差，记为cov(x,y), 即,4.3.1 协方差,cov(x, y) = e x-e(x)y-e(y) . (1),(3). cov(x1+x2, y)= cov(x1, y) + cov(x2, y) ；,(1). cov(x, y) = cov(y, x)；,协方差性质,(2). 设 a, b, c, d 是常数，则 cov( ax+b, cy+d ) = ac cov(x, y) ；,(4). cov(x, y) =e(xy)-e(x)e(y) ，,(5). var(x+y)=var(x)+var(y)+2cov(x, y) .,当 x 和 y 相互独立时，cov(x, y)=0；,若 x1, x2, , xn 两两独立，则,性质(5)可推广到 n 个随机变量的情形：,协方差的大小在一定程度上反映了x 和y相互间的关系，但它还受x 和y 本身度量单位的影响。 例如：,cov(ax, by) = ab cov(x, y).,为了克服这一缺点，对协方差进行标准化，这就引入了相关系数 。,4.3.2 相关系数,为随机变量x 和y 的相关系数 。,定义2: 设var(x) 0, var(y) 0, 则称,在不致引起混淆时，记 为 。,相关系数性质,证：由方差与协方差关系，,对任意实数b, 有,0var(y-bx)=b2var(x)+var(y)-2b cov(x,y ),var(y-bx) =,由方差var(y)0, 知 1- 2 0, 所以 | |1。,由于当 x 和 y 独立时，cov(x, y)= 0 .,请看下例：,(2). x 和y 独立时, =0，但其逆不真；,但=0 并不一定能推出 x 和 y 独立。,所以，,证明:,例 1：设 (x,y) 服从单位 d= (x, y): x2+y21 上的均匀分布，证明： xy = 0。,所以，cov(x, y)= e(xy)-e(x) e(y) = 0 .,同样，得 e(y)=0,此外，var(x) 0, var(y) 0 .,所以，xy = 0，即 x 与 y 不相关。,但是，在例3.6.2已计算过: x与y不独立。,存在常数a, b(b0)，,使 p y = a+bx = 1 ，即 x 和 y 以概率 1 线性相关。,(3). |=1,但对下述情形，独立与不相关是一回事：,前面, 我们已经看到：,若x 与y 独立，则x 与y 不相关；但由x与y 不相关，不一定能推出x与y独立。,若(x, y )服从二维正态分布，则x 与y 独立的充分必要条件是x与y不相关。,定义1：设x是随机变量, 若e(xk) 存在(k =1, 2, ), 则称其为x 的 k 阶原点矩；若 ex-e(x)k 存在(k = 1,2, ), 则称其为x的 k 阶中心矩。,4.3 矩与协方差矩阵,4.4.1 矩,易知：x 的期望 e(x) 是 x 的一阶原点 矩，方差var(x) 是 x 的二阶中心矩。,定义2：设x和y是随机变量, 若 e(xkym) 存在(k, m=1, 2,), 则称其为x与y的 k+m 阶混合原点矩；若 ex-e(x)k y-e(y)m存在(k, m=1,2,，则称其为x与y的 k+m 阶混合中心矩。,4.4.2 协方差矩阵,将随机向量 (x1, x2) 的四个二阶中心矩,排成一个22矩阵 ，,则称此矩阵为(x1, x2)的方差与协方差矩阵，简称协方差阵。,类似地，我们也可定义n 维随机向量 (x1, x2, , xn) 的协方差阵：若随机向量的所有的二阶中心矩,为(x1, x2, , xn) 的协方差阵。,存在，,则称矩阵,f (x1, x2, , xn),则称x服从n元正态分布。,其中c是 (x1, x2, , xn) 的协方差阵，,|c|是c的行列式， 表示c的逆矩阵，,x和 是n维列向量， 表示x的转置。,设 =(x1,x2, ,xn)是一个n维随机向量, 若其概率密度,n元正态分布的几条重要性质：,(1). x =(x1, x2, , xn) 服从 n 元正态分布,对一切不全为 0 的实数 a1, a2, , an， a1x1+ a2 x2+ + an xn 服从正态分布。,(2). 若 x=(x1,x2, ,xn)服从n 元正态分布，,y1,y2,yk 是 xj (j=1, 2, n)的线性组合,则(y1,y2, , yk)服从k 元正态分布。,这一性质称为正态变量的线性变换不变性。,(3). 设(x1,x2, ,xn)服从n元正态分布，则,“x1,x2, ,xn两两不相关”。,“x1, x2, , xn 相互独立” 等价于,例2: 设随机变量x和y相互独立，且xn(1, 2), yn(0, 1)。求 z = 2x-y+3 的概率密度。,知 z=2x-y+3 服从正态分布，且,解: 由xn(1,2), yn(0,1)，且x与y相互独立,var(z) = 4var(x)+var(y) = 8+1 = 9,e(z) = 2e(x)-e(y)+3 = 2-0+3=5 ，,故，zn(5, 32) .,z 的概率密度为,小结,本讲首先介绍二维随机向量 (x,y) 的分量x