应用统计学多重线性回归模型

重庆交通大学管理学院 *多重线性回归模型多重线性回归模型重庆交通大学管理学院 *v 内容提要模型简介简单实例分析逐步回归残差分析模型进一步诊断与修正小结重庆交通大学管理学院 *模型简介v 生活中发生的许多现象都不是独立的，而是相互作用、相互影响的。一种结果的出现往往是多个因素、多个环节共同作用的结果。抛开其他因素，仅考察其中一个影响因素对结果的影响，所得出的结论是片面的，甚至可能是错误的。v 本章所要讨论的问题是如何同时考虑多个因素对同一结果的影响。此时，因变量只有一个，也称反应变量，常用 y表示。自变量也称解释变量，有多个。重庆交通大学管理学院 *模型简介v 多重线性回归模型其中， j是偏回归系数（ Partial regression coefficient），它表示在其它自变量固定不变的情况下，Xj每改变一个测量单位时所引起的应变量 Y的平均改变量， p为自变量的个数， 为残差，独立服从 N（ 0， 2）分布。重庆交通大学管理学院 *自变量与因变量之间存在线性关系，可以通过绘制 “散点图矩阵 ”予以考察；各观测间相互独立； 残差服从正态分布；方差齐性。模型简介应用条件v 多重线性回归模型使用最小二乘法来解决方程的估计和检验问题。重庆交通大学管理学院 *简单分析实例例 1 为研究男性高血压患者血压与年龄、身高、体重等变量的关系，随机测量了 32名 40岁以上男性的血压 y、年龄 x1、体重指数 x2, 试建立多重线性回归方程。数据文件见mreg2.sav。重庆交通大学管理学院 *简单分析实例初步分析初步分析：与简单线性回归相类似，先绘制散点图，以便在进行回归分析之前了解各变量之间是否存在线性关系。本例有两个自变量与一个反应变量，绘制散点图矩阵，如下。重庆交通大学管理学院 *v 绘制散点图矩阵简单分析实例初步分析重庆交通大学管理学院 *简单分析实例重庆交通大学管理学院 *简单分析实例重庆交通大学管理学院 *简单分析实例 结果分析v 给出了自变量进入模型的方式，此处尚未涉及变量筛选问题，因为两个变量是被强行纳入模型的（ Method为Enter），当然就不存在剔除变量的事情了。重庆交通大学管理学院 *简单分析实例 结果分析v 模型拟合优度情况的检验，结果显示，复相关系数为0.840，决定系数为 0.706，调整的决定系数为 0.686，还输出了剩余标准差。重庆交通大学管理学院 *简单分析实例 结果分析v 回归模型的假设检验结果，显示 F 34.808， P0.001，说明所建立的回归模型是有统计学意义的，至少有一个自变量的回归系数不为 0。重庆交通大学管理学院 *简单分析实例 结果分析v 给出了模型的常数项以及两个自变量的偏回归系数及其检验结果，可以写出回归方程如下：Y 54.798 +1.379x1 +4.513x2主要结果重庆交通大学管理学院 *v SPSS 结果中输出偏回归系数的同时，也输出了各自的标准偏回归系数。年龄的标准化偏回归系数为 0.664，体重指数的标准化偏回归系数为 0.247，因此，可以认为，年龄对血压的影响比体重指数对血压的影响大。简单分析实例 结果分析重庆交通大学管理学院 *例 2 仍以例 1的资料为例， 试作逐步回归分析。数据文件见 mreg2.sav。逐步回归重庆交通大学管理学院 *逐步回归重庆交通大学管理学院 *逐步回归重庆交通大学管理学院 *逐步回归v 输出 SPSS在逐步回归过程中拟合的步骤中，每一步引入模型的变量情况 ,此处只有一个变量引入。结果分析重庆交通大学管理学院 *逐步回归 结果分析v 分别输出拟合的模型中，拟合优度情况的检验结果：复相关系数、决定系数、调整的决定系数以及剩余标准差。本例只有一步，故结果很简单，仅拟合一个模型。重庆交通大学管理学院 *逐步回归 结果分析v 给出各个拟合模型的常数项以及各自变量的偏回归系数、95可信区间及其检验结果（此处为仅有一步的结果）。重庆交通大学管理学院 *逐步回归 结果分析v 给出拟合模型过程中被剔除的变量情况及其检验结果（此处为仅有一步）。重庆交通大学管理学院 *残差分析非标准化残差（原始残差）标准化残差（ Pearson残差）学生化残差剔除残差学生化剔除残差v 残差种类重庆交通大学管理学院 *残差分析v 模型适用条件的检验 因变量与自变量之间存在线性关系的检验（以例 1为例：年龄）重庆交通大学管理学院 *残差分析v 模型适用条件的检验 因变量与自变量之间存在线性关系的检验（以例 1为例：体重指数）重庆交通大学管理学院 *残差分析v 模型适用条件的检验 独立性的检验通过 Linear Regression过程的 statistics按钮中的Durbin-Watson检验进行判断。若自变量数少于 4个，统计量接近 2，基本上可以肯定残差间相互独立。仍以例 1为例，结果如下 。重庆交通大学管理学院 *残差分析v 模型适用条件的检验 方差齐性的检验重庆交通大学管理学院 *残差分析v 模型适用条件的检验 正态性的检验绘制残差的直方图及 PP图的复选框重庆交通大学管理学院 *残差分析v 模型适用条件的检验 正态性的检验结果重庆交通大学管理学院 *模型的进一步诊断与修正v 强影响点的识别1.残差：以标准化残差最常用。一般地，标准化残差大