第15章多元线性回归分析

多元线性回归多元线性回归 分析分析温医公卫学院例 15-1 27名糖尿病人的血清总胆固醇、甘油三脂、空腹胰岛素、糖化血红蛋白、空腹血糖的测量值列于表 15-2中，试分析哪些指标能影响血糖水平，并血糖建立与其它几项关系的这些指标的回归关系。 多元线性回归分析一、 多元回归方程的概念二、 多元回归分析步骤三、 标准化偏回归系数四、 自变量的筛选五、 回归方程的总体评价六、 多元线性回归的应用七、 应用多元线性回归分析时需注意的事项b0为回归方程的常数项；p为自变量的个数；b1、 b2、 bp为偏回归系数（ Partial regression coefficient）意义：如 b1 表示在 X2、 X3 Xp固定条件下， X1 每增减一个单位对 Y的效应（ Y增减 b 个单位）。表达式：一 . 多元回归方程的概念二 . 多元回归分析步骤（ 1） 用各变量的数据建立回归方程 ；由上表 得到如下多元线性回归方程：（ 2） 对总的方程进行假设检验 结果无显著性1）表明所观察的自变量与应变量不存在线性回归关系；2）也可能由于样本例数过少； 结果有显著性表明至少有一个自变量与应变量之间存在线性回归关系。（ 3）当总的方程有显著性意义时应对每个自变量的偏回归系数再进行假设检验，若某个自变量的偏回归系数无显著性，则应把该变量剔除，重新建立不包含该变量的多元回归方程。 对新建立的多元回归方程及偏回归系数按上述程序进行检验，直到余下的偏回归系数都具有统计意义为止。最后得到最优方程。上例资料多元回归方程 1的偏回归系数检验结果如下 ：有上表可知， X1被剔除。注意：注意： 通常每次只剔除关系最弱的一个因素。由方程中 剔 除因素的标准（通常 = 0.10） 重新建立不包含剔除因素的回归方程 对新建立的回归方程进行检验检验结果有显著性意义 对新方程的偏回归系数进行检验检验结果有意义，因此回归方程保留因素 X2、 X3 、 X4 最后获得回归方程为：三 . 标准化偏回归系数 定义：消除测量单位影响后的偏回归系数。 意义：在许多情况下需要比较各自变量对因变量的相对贡献大小。但由于各自变量的测量单位不同，单从各偏回归系数的绝对值大小来评价是不妥的，必须对各偏回归系数进行标准化处理，即消除测量单位的影响后，才能进行比较。举举 例例 例 y = 14 + 4X 是 17岁儿童以年龄 X(岁 )估计体重 Y(市斤 )的回归方程。若体重单位由市斤换成公斤，则回归系数是否发生改变？若 年龄单位为月？标准偏回归系数计算bj = bj Sj / SYbj为 X的偏回归系数 ;Sj为自变量的标准差 ; SY 为因变量的标准差 ; 若将各变量先经标准状态化处理后，再进行多元回归，则所得到的偏回归系数即为标准偏回归系数。 上例资料，已知 X2 、 X3与 X4 对血糖有影响，但其对血糖的相对作用大小如何？比较三个标准偏回归系数0.354 0.360 0.4131 1.02 1.17（倍）糖化血红蛋白对血糖的影响强度约为甘油三脂的 1.17倍。四四 . 自变量的筛选自变量的筛选（ 1） 向前筛选法 （ Forward selection）（ 2） 向后剔除法 （ Backward elimination）（ 3） 逐步法 （ Stepwise）（ 1） 向前筛选法（ Forward selection）事先给定一个 入选标准 （通常 =0.05） ，然后根据各因素偏回归平方和从大到小，依次逐个引入回归方程至无显著性自变量可以入选为止，因素一旦入选便始终保留在方程中而不被剔除。优缺点 ：可自动去除高度相关的自变量，但后续变量引入会使得方程中已存在的变量重要性发生改变。因变量与各自变量相关系数大小向前筛选法， =0.05向前筛选法， =0.10为什么总胆固醇会从有意义因素变为无意义？首先建立全部自变量的全回归方程，给定剔除标准 （ 通常 =0.10 ），根据各因素偏回归平方从小到大，依次逐个将无显著性的自变量从回归方程中剔除。（ 2） 向后剔除法（ Backward elimination）优缺点 ：方程不会保留无意义自变量，但可能存在共线性问题。向后筛选法， =0.10（ 3） 逐步法（ Stepwise）给出 入选标准 （通常 1 =0.05）和 剔除标准 （ 通常 2 =0.10），每次选入一个在方程外且最具统计学意义的自变量后，就对原在方程中的自变量做剔除检验，这个过程逐步进行，直到没有统计意义的自变量可以入选，也没有无统计学意义的自变量保留在方程中为止。实际工作中，多采用逐步法。逐步法 入选标准 1 =0.05和 剔除标准 2 =0.10逐步法 入选标准 1 =0.10和 剔除标准 2 =0.15五、回归方程的总体评价以 确定系数（ R2） 越大越优，但由于 R2是