《统计学-SPSS和Excel实现》（第9版）课件 第10章 多元线性回归

统计学SPSS和Excel实现（第9版）贾俊平著课程内容描述统计、推断统计、其他方法使用软件SPSS和Excel学分与课时

3学分，1~17周，每周

3课时课程简介中国人民大学出版社高等教育经济管理类核心课程教材北京高等学校优质本科教材课程北京高等教育精品教材“十二五”普通高等教育本科国家级教材贾俊平2025/9/1010.1多元线性回归模型10.2拟合优度和显著性检验10.3多重共线性及其处理10.4利用回归方程进行预测10.5哑变量回归10.6模型诊断第10章多元线性回归

多元线性回归建模确定因变量和多个自变量，并假定因变量与各自变量之间为线性关系建立多元线性回归模型模型估计最小二乘估计模型检验F检验t检验模型评估多重决定系数估计标准误差共线性分析共线性诊断容忍都方差膨胀因子自变量筛选向前选择向后剔除逐步回归用估计方程预测点估计区间估计置信区间估计预测区间估计模型诊断正态性检验方差齐性检验独立性检验思维导图思考以下问题长高是很多年轻人的梦想。决定身高的因素是什么?父母遗传、生活环境、体育锻炼,还是以上各因素的共同作用？中国人民大学国民经济管理系的两位学生对人大在校生进行了问卷调查。问卷采取随机发放、当面提问、当场收回。调查的样本量为98人,男性55人,女性43人。调查内容包括被调查者的身高(单位:cm)、性别、其父母身高(单位:cm)、是否经常参加体育锻炼、家庭所在地是在南方还是在北方等。部分数据如下表所示父亲身高、母亲身高、性别是不是影响子女身高的主要因素呢？如果是，子女身高与这些因素之间能否建立一个线性模型，并根据这一模型对子女身高做出预测？这就是本章将要讨论的多元线性回归问题子女身高父亲身高母亲身高子女身高父亲身高母亲身高171166158155165157174171158161182165177179168166166156178174160170178160180173162158173160181170160160170165159168153160171150169168153162167158170170167165175160170170160168172162175172160170168163175175165153163152178174160156168155173170160158174155181178165160170162164175161162170158167163166163173160168168155165172161170170160166181158170172158170180165身高受哪些因素影响多元线性回归模型及其假定

10.1多元线性回归模型多元线性回归模型的估计方程

10.1多元线性回归模型参数的最小二乘估计

10.1多元线性回归模型参数的最小二乘估计——例题分析【例10-1】某家商业银行在多个地区设有分行，其业务主要是进行基础设施建设、国家重点项目建设、固定资产投资等项目的贷款。近年来，该银行的贷款额平稳增长，但不良贷款额也有较大比例的提高，这给银行业务的发展带来较大压力。为弄清楚不良贷款形成的原因，希望利用银行业务的有关数据做些定量分析，以便找出控制不良贷款的办法。表10-1就是该银行所属的25家分行的有关业务数据。试建立不良贷款(y)与贷款余额(x1)、累计应收贷款(x2)、贷款项目个数(x3)和固定资产投资(x4)的线性回归模型，并解释各回归系数的含义分行编号不良贷款

(亿元）贷款余额

（亿元）累计应收贷款

（亿元）贷款项目个数

（个）固定资产投资

（亿元）10.967.36.8551.921.1111.319.81690.934.8173.07.71773.743.280.87.21014.557.8199.716.51963.2………………2111.6368.216.832163.9221.695.73.81044.5231.2109.610.31467.9247.2196.215.81639.7253.2102.212.01097.110.1多元线性回归模型参数的最小二乘估计——例题分析【例10-1】——SPSS输出模型摘要模型RR方调整后R方标准估算的错误1.893a.798.7571.7788a.预测变量：(常量),固定资产投资,累计应收贷款,贷款项目个数,贷款余额ANOVAa模型平方和自由度均方F显著性1回归249.371462.34319.704.000b残差63.279203.164

总计312.65024

a.因变量：不良贷款b.预测变量：(常量),固定资产投资,累计应收贷款,贷款项目个数,贷款余额系数a模型未标准化系数标准化系数t显著性B的95.0%置信区间共线性统计B标准错误Beta下限上限容差VIF1(常量)-1.022.782

-1.306.206-2.654.610

贷款余额.040.010.8913.837.001.018.062.1885.331累计应收贷款.148.079.2601.879.075-.016.312.5291.890贷款项目个数.015.083.034.175.863-.159.188.2613.835固定资产投资-.029.015-.325-1.937.067-.061.002.3602.781a.因变量：不良贷款10.1多元线性回归模型参数的最小二乘估计——例题分析

10.1多元线性回归模型参数的最小二乘估计——例题分析

10.1多元线性回归模型模型的拟合优度——多重决定系数——估计标准误差

估计标准误差——对误差项

的标准差

的一个估计值，计算公式为

详见SPSS输出10.2拟合优度和显著性检验模型的显著性检验——线性关系检验（F检验）检验因变量与所有自变量之间的线性关系是否显著也被称为总体的显著性检验检验方法是将回归均方(MSR)同残差均方(MSE)加以比较，应用F检验来分析二者之间的差别是否显著如果是显著的，因变量与自变量之间存在线性关系如果不显著，因变量与自变量之间不存在线性关系

10.2拟合优度和显著性检验模型的显著性检验——回归系数检验（t检验）

详见SPSS输出10.2拟合优度和显著性检验多重共线性的识别

10.3多重共线性及其处理多重共线性的识别——例题分析【例10-1】——相关矩阵检验（仅供参考的结果）相关性

贷款余额累计应收贷款贷款项目个数固定资产投资贷款余额皮尔逊相关性1.679**.848**.780**Sig.（双尾）

.000.000.000个案数25252525累计应收贷款皮尔逊相关性.679**1.586**.472*Sig.（双尾）.000

.002.017个案数25252525贷款项目个数皮尔逊相关性.848**.586**1.747**Sig.（双尾）.000.002

.000个案数25252525固定资产投资皮尔逊相关性.780**.472*.747**1Sig.（双尾）.000.017.000

个案数25252525**.在0.01级别（双尾），相关性显著。*.在0.05级别（双尾），相关性显著。10.3多重共线性及其处理多重共线性的处理——变量选择——向前选择和向后剔除变量选择的方法主要有：向前选择、向后剔除、逐步回归等向前选择从模型中没有自变量开始对k个自变量分别拟合对因变量的一元线性回归模型，共有k个，然后找出F统计量的值最高的模型及其自变量(P值最小的)，并将其首先引入模型分别拟合引入模型外的k-1个自变量的二元线性回归模型如此反复进行，直至模型外的自变量均无统计显著性为止向后剔除先对因变量拟合包括所有k个自变量的回归模型。然后考察p(p<k)个去掉一个自变量的模型(这些模型中在每一个都有k-1个自变量)，使模型的SSE值减小最少的自变量被挑选出来并从模型中剔除考察p-1个再去掉一个自变量的模型(这些模型中每一个都有k-2个自变量)，使模型的SSE值减小最少的自变量被挑选出来并从模型中剔除如此反复进行，一直将自变量从模型中剔除，直至剔除一个自变量不会使SSE显著减小为止10.3多重共线性及其处理多重共线性的处理——变量选择——逐步回归逐步回归将向前选择和向后剔除两种方法结合起来筛选自变量在增加了一个自变量后，它会对模型中所有的变量进行考察，看看有没有可能剔除某个自变量。如果在增加了一个自变量后，前面增加的某个自变量对模型的贡献变得不显著，这个变量就会被剔除按照方法不停地增加变量并考虑剔除以前增加的变量的可能性，直至增加变量已经不能导致SSE显著减少在前面步骤中增加的自变量在后面的步骤中有可能被剔除，而在前面步骤中剔除的自变量在后面的步骤中也可能重新进入到模型中【例10-3】沿用例10-1。用逐步回归方法建立不良贷款(y)与贷款余额(x1)、累计应收贷款(x2)、贷款项目个数(x3)和固定资产投资(x4)的回归模型10.3多重共线性及其处理多重共线性的处理——变量选择——逐步回归——例题分析【例10-3】模型摘要模型RR方调整后R方标准估算的错误1.844a.712.6991.97992.872b.761.7391.8428a.预测变量：(常量),贷款余额b.预测变量：(常量),贷款余额,固定资产投资ANOVAa模型平方和自由度均方F显著性1回归222.4861222.48656.754.000b残差90.164233.920

总计312.65024

2回归237.9412118.97135.034.000c残差74.709223.396

总计312.65024

a.因变量：不良贷款b.预测变量：(常量),贷款余额c.预测变量：(常量),贷款余额,固定资产投资系数a模型未标准化系数标准化系数t显著性共线性统计B标准错误Beta容差VIF1(常量)-.830.723

-1.147.263

贷款余额.038.005.8447.534.0001.0001.0002(常量)-.443.697

-.636.531

贷款余额.050.0071.1206.732.000.3922.551固定资产投资-.032.015-.355-2.133.044.3922.551a.因变量：不良贷款10.3多重共线性及其处理用回归方程因此——逐步回归的预测——例题分析

10.4利用回归方程进行预测在模型中引入哑变量——含有一个哑变量的回归——例题分析也称虚拟变量。用数字代码表示的定性自变量哑变量可有不同的水平只有两个水平的哑变量，如性别(男，女)有两个以上水平的哑变量，如贷款企业的类型(家电，医药，其他)哑变量的取值为0，1当定性变量只有两个水平时，可在回归中引入一个哑变量比如，性别(男，女)一般而言，如果定性自变量有k个水平，需要在回归中模型中引进k-1个哑变量【例10-6】沿用例10-5。建立考试分数与性别之间的线性回归方程，并解释回归系数的含义10.5哑变量回归在模型中引入哑变量——含有一个哑变量的回归——例题分析主体间效应检验因变量:考试成绩

源III类平方和自由度均方F显著性修正模型885.063a1885.0635.326.037截距88357.563188357.563531.731.000性别885.0631885.0635.326.037误差2326.37514166.170

总计91569.00016

修正后总计3211.43815

a.R方=.276（调整后R方=.224）参数估算值因变量:考试成绩

参数B标准误差t显著性95%置信区间下限上限截距81.7504.55817.937.00071.97591.525[性别=男]-14.8756.445-2.308.037-28.699-1.051[性别=女]0a.....a.此参数冗余，因此设置为零。

10.5哑变量回归在模型中引入哑变量——含有一个哑变量的回归——例题分析【例10-7】为研究工资水平与工作年限和性别之间的关系，在某行业中随机抽取10名员工，所得数据如表10-14所示月工资收入（元）y工作年限（年）X1X2性别（X2）1290021男1300060女1480081男1180030女1290021男1490071男1420090女1480080女1440041男1450061男【例10-7】引入“性别”因变量的模型结果主体间效应检验因变量:月工资收入

源III类平方和自由度均方F显著性修正模型9000922.601a24500461.30021.357.001截距190786679.0211190786679.021905.381.000工作年限8088255.93418088255.93438.383.000性别3404889.54313404889.54316.158.005误差1475