第三章 多元正态分布.ppt

第三章多元正态分布 第一节一元统计分析中的有关概念一 随机变量和概率分布函数 一 随机变量随机变量是随机事件的数量表现 用X Y Z表示有两个特点 二 概率分布函数 随机变量 的概率分布函数 简称分布函数 定义为 1 离散型随机变量的概率分布 若随机变量X在有限或可列个值上取值 记 且 则称X为离散型随机变量 并称 为离散型随机变量X的概率分布 它具有两个性质 2 连续型随机变量的概率分布 对于随机变量X的分布函数 若存在一个非负函数f x 使得对 一切实数x有 则称X为连续型随机变量 称f x 为X的分布密度函数 它具有两个性质 二 随机变量的数字特征 一 离散型随机变量的数字特征 若X为离散型随机变量 其概率分布为 则X的数学期望 或称均值 和方差分别定义为 二 连续型随机变量的数字特征若X为连续型随机变量 其密度函数为f x 则X的数学期望 或称均值 和方差分别定义为 数学期望有如下的数学性质 1 设C是常数 则E C C2 设X是随机变量 C是常数 则E CX CE X 3 设X Y是任意两个随机变量 则E X Y E X E Y 4 设X Y是两个相互独立的随机变量 则E XY E X E Y 方差有如下数学性质 1 设C是常数 则D C 02 设X是随机变量 C是常数 则D CX C2D X 3 设X Y是两个相互独立的随机变量 则D X Y D X D Y 三 一些重要的一元分布 1 正态分布连续型随机变量X的概率密度函数为 则称X服从正态分布 2 卡方分布 设X N 0 1 为抽自总体的一个样本 其平方和 服从自由度为n的 分布 记为 3 t分布设x N 0 1 且x与y相互独立 则随机变量 的分布称为t分布 记为 4 F分布 设随机变量 且x与y相互独立 则随机变量 服从自由度为 n m 的F分布 记为 一 随机向量及概率分布 一 随机向量 将p个随机变量 的整体称为p维随机向量 记为 第二节多元统计分析中的基本概念 在多元统计分析中 仍将所研究对象的全体称为总体 如果构成总体中的个体是由p个需要观测指标的个体 称这样的总体为p维总体 或p元总体 由于从p维总体中随机抽到一个个体 其p个指标观测值是不能事先精确知道 它依赖于被抽到的个体 因此 p维总体可用p维随机向量来表示 这里的维或元表示共有几个分量 例如 要研究某类企业的三项经济效益指标 则所有这类企业的三项经济效益指标就构成了一个三元总体 对随机向量有连续型和离散型两类 二 概率分布 设 是维随机向量 它的多元分布函数定义为 记为 其中 1 离散型随机向量的概率分布 定义 若 是p维随机向量 若存在有限或可列个p维随机向量 记 且 则称X为离散型随机向量 并称 为离散型随机变量X的概率分布 它具有两个性质 2 连续型随机向量的概率分布 定义 设 若存在一个非负函数 使得对一切 有 则称X为连续型随机向量 称 为分布密度函数 它具有两个性质 二 随机向量的数字特征 设 若 存在且有限 则称 为X的均值向量或数学期望 均值向量有以下性质 1 E AX AE X 2 E AXB AE X B3 E AX BY AE X BE Y 其中 X Y为随机变量 A B为适合运算的常数矩阵 1 随机向量的数学期望 设 称 为X的方差阵或协差阵 2 随机向量的协方差矩阵 3 随机向量X和Y的协差阵 当X Y时 即D X 4 随机向量的相关系数矩阵 若 的协差阵存在 且每个分量的方差都大于0 则随机向量的 相关阵为 5 协方差阵和相关系数矩阵的关系 设标准离差阵为 则 协差阵有如下数学性质 即X的协差阵为非负定阵 对于常数向量a 有D X a D X 设A为常数矩阵 则 其中 a A B为大小适合运算的常数向量和矩阵 第三节多元正态分布的定义及基本性质 一 多元正态分布的定义 定义1 若p维随机向量 的密度函数为 其中 是p维均值向量 是p阶正定阵 则称X服 从p元正态分布 记为 当p等于1时 即为一元正态分布 当 时 也有正态分布的定义 二 多元正态变量的基本性质 1 若 是对角阵 则 相互独立 2 A为s p阶常数阵 d为s维常数向量 则 即正态随机向量的线性函数还是正态的 3 将 做如下剖析 则 多元分析中的许多方法 大都假定数据来自多元正态总体 但要判断已有的一批数据是否来自多元正态总体 是很困难的 可是反过来要肯定数据不是来自多元正态总体 比较容易 即如果 则它的每个分量必服从一元正态分布 因 此把每个分量的n个样品值作成直方图 如果断定不是正态分布 就可以 断定随机向量 不服从正态分布 一 多元样本的概念 第四节多元正态分布的参数估计 多元分析研究的总体是多元总体 从多元总体中随机抽取n个个体 若 相互独立 且与总体同分布 则称 为该总体的一个随机样本 每个 称为一个样品 为第a个样品对第j个指标的观测值 显然每个样品都 是一个随机向量 将n个样品对p个指标都进行观测 得到如下一个随机矩阵 观测矩阵 样本资料阵 值得注意的是 1 多元样本中的每个样品 对p个指标的观测值往往是有相关关系的 但不同样品之间的观测值一定是相互独立的 2 多元分析所处理的多元样本观测数据一般都属于横截面数据 即在同一时间不同空间上的数据 二 多元样本的数字特征 定义 设 为来自p元总体的样本 其中 则 样本均值向量定义为 因为 样本离差阵的定义为 因为 样本协差阵定义为 样本相关阵定义为 其中 三 的最大似然估计及基本性质 设 来自于正态总体 的样本 样本容量为n 每个样品为 样本资料阵为 则用极大似然估计法可求出 的估计量 的估计量同样具有以下的优良性质 第五节 的抽样分布 一 样本均值向量 的分布 一 正态总体 设 是从总体中抽到的一个样本 则样本均值 的分布服从正态分布 即 二 非正态总体 中心极限定理 是来自总体的一个样本 该总体有均值 和有限协方差阵 则当样本容量n很大且n相对于p也很大时 样本平均数的分布近似于正态分布 二 样本离差阵 的分布 Wishart分布 定义 设 分别来自于协方差阵相等的p 维正态总体 则 维随机矩阵 的分布遵从非中心Wishart分布 记为 其中 时