卫生统计学课件：13第十三章 多重线性回归-2

1第十三章多重线性回归2偏回归系数

partialregressioncoefficient表示在其他自变量固定条件下，某自变量每增减一个单位对y的平均效应。3回归参数的估计条件:线性、独立、正态和等方差原理：最小二乘法leastsquaredestimate(LSE)415.3方程的假设检验及其评价假设检验：

(1)整个模型的假设检验方差分析法(ANOVA）(2)偏回归方程的假设检验t检验方法5回归方程的方差分析表变异来源SS自由度MSF总SS总n-1MS回/MS残回归SS回mSS回/m剩余SS残n-m-1SS残/(n-m-1)6bi为偏回归系数的估计值，为bi的标准误。t检验法7第三节复相关系数与偏相关系数决定系数复相关系数（Multiplecorrelationcoefficient

）校正决定系数R2a选择法(adjustedR2a)8第四节自变量的筛选为何要选择自变量？计算量与信息成本“最优”的回归方程的标准—少而精9一最优子集法

最优子集法是对自变量各种不同的组合所建立的回归方程进行比较，从而选出一个“最优”的回归方程。101残差平方和与决定系数112残差均方与调整确定系数122Cp统计量(Cpstatistic)

由MallowsCL.提出。当p个自变量拟合的方程理论上”最优“时，Cp的期望值为p+1，因此应选择Cp越接近于p+1的回归方程为“最优”方程。131415变量的偏回归平方和及选变量时的F值P为进行l步时方程中自变的个数，为第l步时Xj的偏回归平方和。为第l步时的残差平方和。161前进法事先给定一个入选标准α，然后对自变量进行筛选，把偏回归平方和最大、其偏F检验的概率水准小于α者逐个引入回归方程，至无显著贡献的自变量可以选入时为止。因素一旦入选便始终保留在方程中。局限制:后续变量的引入可能会使先进入的自变量变得不重要。17182.后退法（向后剔除法）

事先给定剔除标准α,即变量保留方程中的概率水准。首先建立一个包括全部自变量的全回归方程，然后逐个审查，把偏回归贡献最小而无统计学意义(的自变量从方程中逐个剔除，至方程内的所有自变量都有显著贡献为止。优点：考虑自变量的组合作用，缺点：自变量数目多或高度相关时，可能出现不正确的结果。19203.逐步法给定入选检验水准α入和保留检验水准α出，每次选入一个在方程外而最具统计学意义的自变量后，对方程中的自变量作剔除检验，把偏F值最小且其P值大于水平α出的自变量从方程中剔除。一步一步进行，直到没有自变量可以引入，也没有保留在方程中为止。

实际工作中多采用逐步法。多元线性回归分析多用于因素筛选，因此不必规定很严格。对于小样本α可取为0.10或0.15，大样本取为0.05，α入要小于或等于α出

。21224多重共线性(multicollinearity)

自变量间的高度相关，即一些自变量间存在较强的线性关系。如：高血压与年龄、吸烟年限、饮白酒年限等因素的关系。P24323方差膨胀因子（Varianceinfliationfactor,VIF）

VIF大于5或10时,存在严重的共线性问题.2425P24326

多重共线性对方程的影响回归系数的符号与实际不符；回归系数的估计值与实际相差太大；回归系数的标准误太大；因而有些重要变量选不进方程；整个方程有显著性，而每一个自变量均无显著性。回归方程不稳定，增加几个或减少几个变量时，估计值可能发生很大变化。27回归分析的正确应用

多元线性回归分析的应用条件自变量与因变量的关系是线性的；Cov(ei,ej)=0，即独立性；ei

～N(0,

2)，即正态性；Var(ei)