卫生统计学课件：13第十三章 多重线性回归

1第十三章多重线性回归2基本概念直线回归方程：X为自变量Y为反应变量为当X取某一值时应变量Y的平均估计值3问题的引入影响因变量的仅仅是一个因素吗？事物间的关系是错综复杂的，多元的；研究本身是多因素的；应用多元分析获取更丰富的信息.4收缩压受到年龄、饮食、锻炼及遗传等许多因素的影响血糖变化可能受胰岛素、血清总胆固醇及生长素等因素的影响肺活量与体重、胸围、胸围的呼吸差等的关系住院费用与住院时间、病种、年龄、手术情况等530名糖尿病患者脂联素与体重指数、病程、瘦素、空腹血糖间6第一节概念与描述用回归方程描述一个应变量与多个自变量的依存关系，称为多重线性回归multiplelinearregression。7根据样本得到的回归方程偏回归系数

partialregressioncoefficient表示在其他自变量固定条件下，某自变量每增减一个单位对y的平均效应。8偏回归系数的比较其大小反映了该自变量的重要性，但是由于单位的不同，不便于比较。此时要用到标准化偏回归系数。9标准化回归系数将自变量进行标准,然后再进行直线回归标准偏回归系数Standardizedpartialregressioncoefficient，通径系数Pathcoefficient10多重回归分析的意义多因素的分析更加切合实际提高回归方程的估计精度从多个可能的因素中选择真正有意义的因素11回归参数的估计条件:线性、独立、正态和等方差原理：最小二乘法leastsquaredestimate(LSE)1230名糖尿病患者脂联素与体重指数、病程、瘦素、空腹血糖间131415.3方程的假设检验及其评价假设检验：

(1)整个模型的假设检验(Overallregression)

方差分析法(ANOVA)

(2)偏回归方程的假设检验15整体回归模型的假设检验基本问题—回归方程是否有意义在于自变量是否能最大程度上表达因变量。检验假设：16整个模型的假设检验未引进回归时的总变异：

(totalsumofsquares)引进回归以后的变异(剩余):(residualsumofsquares)回归的贡献，回归平方和：

(regressionsumofsquares)17回归方程的方差分析表变异来源SS自由度MSF总SS总n-1MS回/MS残回归SS回mSS回/m剩余SS残n-m-1SS残/(n-m-1)1819bi为偏回归系数的估计值，为bi的标准误。t检验法二、偏回归方程的假设检验2021标准偏回归系数

22第三节复相关系数与偏相关系数决定系数复相关系数（Multiplecorrelationcoefficient

）校正决定系数R2a选择法(adjustedR2a)23决定系数决定系数(determinationcoefficient)用于解释模型中的自变量能够解释Y变化的百分比，越接近1说明模型越好。24R2可用于检验多元回归方程的显著性：

25复相关系数（Multiplecorrelationcoefficient

）0≤R≤1。用以度量应变量Y与多个自变量的线性相关程度,变即观察值Y与估计值间的相关程度。当只有一个因变量y与一个自变量x时，R就等于y与x的简单相关系数之绝对值：

R=|ryx

|26当有多个自变量x1,x2,…,xm时，R的值比任何一个自变量与单个因变量的简单相关系数之绝对值大，即：27校正决定系数R2a选择法(adjusted)决定系数公式:校正决定系数公式:为决定系数，n为样本容量，p为自变量的个数。

2023/3/2528校正决定系数与决定系数比较:(1)决定系数的值随着自变量个数的增加一定增大，而校正决定系数不一定。

所谓的“最优”回归方程是指校正决定系数最大者。29二、偏相关系数

partialcorrelationcoefficient概念：固定其他变量时两变量之间的相关性。更真实地反映两变量之间的相关系数。30冷钦销售量游泳人数气温残差1残差226772229-47.81818164.181823978143017.6727369.32727451924317.16364-7.5272752810663219.65455-52.3818261812533345.14545-52.2363665513693417.63636-123.0909690159335-11.87273-85.94545740176136-26.38182-104.8780193137-50.89091-121.6546889223138-6.4-8.5090999627493936.09091322.6363631计算偏相关系数的意义R12=0.97239R13=0.98909R23=0.97617R12.3=0.214951.冷饮销售量2.游泳人数3.气温经检验P=0.550932第四节自变量的筛选为何要选择自变量？计算量与信息成本最优的回归方程的标准—少而精33一最优子集法

最优子集法是对自变量各种不同的组合所建立的回归方程进行比较，从而选出一个“最优”的回归方程。341残差平方和与决定系数352残差均方与调整确定系数362Cp统计量(Cpstatistic)

由MallowsCL.提出。当p个自变量拟合的方程理论上”最优“时，Cp的期望值为p+1，因此应选择Cp越接近于p+1的回归方程为“最优”方程。373839变量的偏回归平方和及选变量时的F值P为进行l步时方程中自变的个数，为第l步时Xj的偏回归平方和。为第l步时的残差平方和。401前进法事先给定一个入选标准α，然后对自变量进行筛选，把偏回归平方和最大、其偏F检验的概率水准小于α者逐个引入回归方程，至无显著贡献的自变量可以选入时为止。因素一旦入选便始终保留在方程中。局限制:后续变量的引入可能会使先进入的自变量变得不重要。41422.后退法（向后剔除法）

事先给定剔除标准α,即变量保留方程中的概率水准。首先建立一个包括全部自变量的全回归方程，然后逐个审查，把偏回归贡献最小而无统计学意义(的自变量从方程中逐个剔除，至方程内的所有自变量都有显著贡献为止。优点：考虑自变量的组合作用，缺点：自变量数目多或高度相关时，可能出现不正确的结果。43443.逐步法给定入选检验水准α入和保留检验水准α出，每次选入一个在方程外而最具统计学意义的自变量后，对方程中的自变量作剔除检验，把偏F值最小且其P值大于水平α出的自变量从方程中剔除。一步一步进行，直到没有自变量可以引入，也没有保留在方程中为止。

实际工作中多采用逐步法。多元线性回归分析多用于因素筛选，因此不必规定很严格。对于小样本α可取为0.10或0.15，大样本取为0.05，α入要小于或等于α出

。45464多重共线性(multicollinearity)

自变量间的高度相关，即一些自变量间存在较强的线性关系。如：高血压与年龄、吸烟年限、饮白酒年限等因素的关系。P24347方差膨胀因子（Varianceinfliationfactor,VIF）

VIF大于5或10时,存在严重的共线性问题.4849P24350

多重共线性对方程的影响回归系数的符号与实际不符；回归系数的估计值与实际相差太大；回归系数的标准误太大；因而有些重要变量选不进方程；整个方程有显著性，而每一个自变量均无显著性。回归方程不稳定，增加几个或减少几个变量时，估计值可能发生很大变化。51回归分析的正确应用

多元