高级心理统计多元回归分析

第三章多元回归分析关键要点了解多元回归的概念以及能够处理的问题。掌握三种不同类型多元回归的特点和区别，了解自变量的进入顺序对衡量该自变量主要性的影响。掌握检验回归方程整体明显性和比较自变量主要性大小的指标和措施。了解可能对回归分析精确性产生影响的原因。多元回归分析的一般目的和描述多元回归分析主要回答的问题多元回归分析的假设及模型多元回归分析的类型多元回归分析中自变量的主要性多元回归分析中的统计检验多元回归分析中的某些值得注意的问题回归分析的不足应用案例及SPSS操作提要多元回归分析的一般目的和描述一元回归分析：只有一种自变量，只能处理两个变量之间的关系多元回归分析：考察多种变量对一种变量的影响1多元回归分析vs多元有关分析多元回归分析主要回答的问题多元回归分析主要回答四大类问题：（1）验证自变量对因变量的影响；（2）检验单个或一组自变量的主要性；（3）建立预测模型；（4）分析自变量之间的交互作用。2多元回归分析主要回答的问题可细化为是个方面：第一，考察因变量和多种自变量之间关系的强度。第二，考察已经有自变量的主要性。第三。考察增长自变量的必要性。第四，在统计上预先控制协变量的影响。第五，基于假设的需要定义变量影响顺序。第六，比较多组自变量的主要性。第七，寻找最佳的预测模型。第八，在新样本上预测因变量分数。第九，重新定义自变量以解释非线性关系。第十，同步处理分类自变量和连续自变量对因变量的影响。2多元回归分析的假设及模型33.1使用多元回归分析的前提假设（1）存在两个或两个以上的自变量及一种因变量；（2）因变量服从正态分布；（3）自变量与因变量之间呈线性关系；（4）全部变量的观察必须是彼此独立的。多元回归分析的假设及模型33.2多元回归方程的建立多元回归分析的假设及模型33.3多元回归方程的参数估计最小二乘法根据最佳拟合的原则，最小二乘法要求估计得到的参数满足残差平方和最小求出参数使残差平方和

取得最小值多元回归分析的类型44.1原则多元回归（standardmultipleregression）又称为同步回归（simultaneousregression）全部自变量同步进入回归方程仅度量了每个自变量进入方程后增长的预测因变量的贡献原则多元回归在计算单个自变量的贡献时，该自变量与其他全部自变量共同解释的部分都被排除，仅计算剩余的可解释的部分全部重叠的部分将不计入任何自变量的贡献多元回归分析的类型44.2序列回归（sequentialregression）又称分层回归（hierarchicalregression）自变量将根据研究者指定的顺序进入回归方程因为存在前后顺序，衡量一种（或一组）自变量的贡献时，与其他变量共同解释的部分会归为先进入的变量。多元回归分析的类型44.3统计回归（statisticalregression）完全以统计原则决定进入自变量进入回归方程的顺序，没有考虑变量的意义和理论解释的问题，是一种带有争议的回归类型。一种变量会进入或被排除出方程完全根据该样本下计算出的统计指标，某些细微的差别将会对衡量变量主要性造成较大的影响。多元回归分析的类型44.4三种回归的比较原则回归会剔除全部自变量的重叠部分，能够体现出每个自变量的单独贡献。序列回归能够在某些变量进入方程的前提下探讨另某些变量的贡献。统计回归能够辨别具有多重共线性的变量，将为将来的研究剔除某些明显冗余的变量。多元回归分析中自变量的主要性55.1多元测定系数回归平方和（regressionsumofsquares）总平方和（totalsumofsquares）多元回归分析中自变量的主要性55.2调整的多元测定系数多元回归分析中自变量的主要性55.3偏有关系数偏有关（partialcorrelation）指的是控制其他自变量后Y和X的有关，它等于从Y和X中都除去其他预测变量的影响之后，Y和X中剩余部分的简朴有关。将偏有关系数平方后便能够得到偏测定系数（coefficientofpartialdetermination）偏测定系数是在控制其他自变量的条件下，单一自变量对因变量的边际解释力。多元回归分析中自变量的主要性55.4半偏有关系数半偏有关（semi-partialcorrelation）又称部分有关（partcorrelation）多元回归分析中自变量的主要性5多元回归分析中自变量的主要性55.5原则化回归系数因为标准化的Z变量是无量纲的变量，所以此时的回归系数就称为标准化的回归系数（standardizedregressioncoefficient）。多元回归分析中的统计检验66.1回归方程的明显性检验多元回归分析中的统计检验66.2新加入变量的明显性检验

多元回归分析中的统计检验66.3回归系数的明显性检验多元回归分析中的某些值得注意的问题77.1样本量样本量与一系列问题有关，涉及要求的检验力，α水平，自变量个数、预期的效应量以及成果的泛化性等。当样本量非常大时，几乎全部回归系数都将明显地不等于0，虽然不能很好预测因变量的自变量也是如此。多元回归分析中的某些值得注意的问题77.2异常值模式异常的个案能够对回归系数的估计精度产生巨大影响。单变量检测的常用方式有Z分数和盒式图等双变量下的散点图多变量下的马氏距离等在回归的过程中能够同步检测异常值最为常用的措施是残差分析多元回归分析中的某些值得注意的问题77.3多重共线性假如两个自变量之间的有关系数很高，或者一种自变量能够由其他自变量线性表达，即觉得存在多重共线性问题。共线性现象的不良影响（1）回归系数的置信区间变宽，系数变得不稳定，由样本推到总体的泛化性变差；（2）回归系数不能很好地反应单个自变量对因变量的独立影响；（3）使变量的偏测定系数变小；（4）当方程用于预测时，回归成果变得不可靠。多元回归分析中的某些值得注意的问题77.3多重共线性常用的指标及其原则：（1）容忍度（Tolerance）（2）方差膨胀因子（VarianceInflateFactor，VIF）（3）条件指数（ConditionIndex，CI）消除多重共线性影响的补救措施：（1）去掉与y有关程度低、而与其他自变量高度有关的自变量；（2）根据容忍度或VIF删除变量，去掉能够被其他自变量线性表达的变量；（3）增长样本量；（4）采用新的样本数据；（5）合并变量（6）换用其他形式的回归（7）变量转换多元回归分析中的某些值得注意的问题77.4残差分析多元回归分析假设残差具有正态性，线性和方差同质性，同步假设误差具有独立性。残差的正态性假设指的是残差在每个因变量的预测分数下都呈正态分布。线性假设指的是残差与预测分数呈直线关系。方差同质性假设在全部预测分数下残差的方差相同。误差的独立性假设意味着每次观察的成果都不应受其他观察的影响。一般的验证措施是画出残差的散点图，进行残差分析，其中横轴表达因变量的预测值，纵轴表达残差。多元回归分析中的某些值得注意的问题77.5分类自变量的虚拟编码假如研究的自变量是分类变量，并希望将分类自变量纳入回归，则需要对分类变量进行虚拟编码（dummycoding）。假设该自变量有K个类别，则需要构造K-1个新变量。将其中一种类别指定为对照类别，将对照类别在K-1个新变量上全部编码为0，其他K-1个类别依次在K-1个新变量上编码为1。假如将虚无编码中对参照类别的编码换为-1而不是0，形成的编码方式称为效应编码（effectcoding）。另一种常用的编码方式称为对照编码（contrastcoding），对照编码的一种优点在于编码后生成的新变量相互正交。多元回归分析中的某些值得注意的问题77.5分类自变量的虚拟编码回归分析的不足8回归分析旨在揭示变量之间的关系，但并不能做出因果推断。研究变量的选用一样应该借助理论而不能仅靠统计。回归分析假设自变量的测