多元回归分析与协方差分析1.ppt

第 章多元线性回归分析 第 节多元线性回归分析的概述回归分析中所涉及的变量常分为自变量与因变量 当因变量是非时间的连续性变量 自变量可包括连续性的和离散性的 时 欲研究变量之间的依存关系 多元线性回归分析是一个有力的研究工具 但从科学性角度来说 回归问题也应从试验设计入手考虑 因为这样做不仅可以减少回归分析中可能遇到的很多麻烦 而且 可用较少的试验次数取得较多的信息 多元线性回归模型 Y 0 1X1 2X2 pXm 其中X1 X2 Xm为 个自变量 即影响因素 0 1 2 m为 1个总体回归参数 也称为回归系数 为随机误差 当研究者通过试验获得了 X1 X2 Xm Y 的 组样本值后 运用最小平方法便可求出上式中各总体回归参数的估计值b0 b1 b2 bm 于是 多元线性回归模型变成了多元线性回归方程式 Y b0 b1X1 b2X2 bpXm 回归分析的任务 多元回归分析的任务就是用数理统计法估计出各回归参数的值及其标准误差 对各回归参数和整个回归方程作假设检验 对各回归变量 即自变量 的作用大小作出评价 并利用已求得的回归方程对因变量进行预测 对自变量进行控制等等 标准回归系数及其意义 因为各bi的值受各变量单位的影响 为便于比较 需要求出标准化回归系数 消除仅由单位不同所带来的差别 设 与一般回归系数bi对应的标准化回归系数为Bi 则Bi biSXi SY式中的SXi SY分别为自变量Xi和Y的标准差 一般认为标准化回归系数的绝对值越大 所对应的自变量对因变量的影响也就越大 但是 当自变量彼此相关时 回归系数受模型中其他自变量的影响 解释标准化回归系数时必须采取谨慎的态度 当然 更为妥善的办法是通过回归诊断 了解哪些自变量之间有严重的多重共线性 从而 舍去其中作用较小的变量 使保留下来的所有自变量之间尽可能互相独立 自变量为定性变量的数量化法 设某定性变量有 个水平 如ABO血型系统有 个水平 若分别用 代表 个水平的取值 是不够合理的 因为这隐含着承认各等级之间的间隔是相等的 其实质是假定该因素的各水平对因变量的影响作用几乎是相同的 比较妥当的做法是引入 个哑变量 DummyVariables 每个哑变量取值为 或 现以ABO血型系统为例 说明产生哑变量的具体法 当某人为A型血时 令X1 1 X2 X3 0 当某人为B型血时 令X2 1 X1 X3 0 当某人为AB型血时 令X3 1 X1 X2 0 当某人为O型血时 令X1 X2 X3 0 变量筛选 研究者根据专业知识和经验所选定的全部自变量并非对因变量都是有显著性影响的 故筛选变量是回归分析中不可回避的问题 然而 筛选变量的方法很多 详见本章第 节 这里先介绍最常用的一种变量筛选法 逐步筛选法 模型中的变量从无到有 根据F统计量按SLENTRY的值 选变量进入方程的显著性水平 决定该变量是否入选 当模型选入变量后 再根据F统计量按SLSTAY的值 将方程中的变量剔除出去的显著性水平 剔除各不显著的变量 依次类推 这样直到没有变量可入选 也没有变量可剔除或入选变量就是刚剔除的变量 则停止逐步筛选过程 回归诊断 自变量之间如果有较强的相关关系 就很难求得较为理想的回归方程 若个别观测点与多数观测点偏离很远或因过失误差 如抄写或输入错误所致 它们也会对回归方程的质量产生极坏的影响 对这两面的问题进行监测和分析的法 称为回归诊断 前者属于共线性诊断问题 后者属于异常点诊断问题 第 章协方差分析 什么是协方差分析协方差分析是将回归分析与方差分析结合起来使用的一种分析法 在这种分析中 先将定量的影响因素 即难以控制的因素 看作自变量 或称为协变量 建立因变量随自变量变化的回归方程 这样就可以利用回归方程把因变量的变化中受不易控制的定量因素的影响扣除掉 从而 能够较合理地比较定性的影响因素处在不同水平下 经过回归分析手段修正以后的因变量的总体均数之间是否有显著性的差别 这就是协方差分析解决问题的基本思想 协方差分析的模型 设定性的影响因素为A B C等 它们之间的交互作用为A B A C等 定量的影响因素为X或X1 X2 定量的观测结果 即因变量 为Y 则有 1 单因素 水平设计的协方差分析模型为 MODELY XA SS3 2 配伍组设计的协方差分析模型为 MODELY XAB SS3 3 两因素析因设计的协方差分析模型为 MODELY XABA B SS3 协方差分析的应用条件 理论上要求各组资料都来自方差相同的正态总体 各组的总体直线回归系