多元回归分析总结分析

第十二章多元回归分析

在许多实际问题中，影响因变量的因素有一个时，我们用一元回归分析解决问题，但是影响

因变量的因素往往有多个.此时问题就上升到了一个因变量同多个自变量的多元I可归问题。

当因变量与自变量之间为线性关系时，我们称之为多元线性回归。

多元性性回归分析的原理同一元线性回归基本相同，但计算上要复杂得多。

本章知识结构如下：

/方法一：多重判定系数R

1方法二：估计标准误差S

Q）提出假设L

2）计算统计量产二KF——D

SSE/（n-k-\）

多

元<3）作出决策FE，P,a

回I

归］

分

析

fa）向前选择

<b）向后剔除

L）逐步回归

（a）计算各对自变量之间的相关系数，并对各相关

系数进行显著性检验；

b）当模型的线性关系进行F检验显著时，几乎所

有回归系数万的t检验却不显著；

、c）回归系数与预闲的的相反；

主要知识点：

建立的回归模型中回归系数和误差项分别代表的含义：

回归系数表示当其他个自变量不变时，第个自变量一个单位因变量

的平均变动量；

误差项£表示不能由各个自变量与y之间的线性关系所解释的变异性。

利用软件用最小二乘法对参数进行估计的方法及步骤：

在Excel中使用“工具”“数据分析”“回归”输入数据区域“确定”，

即可得到各参数的估计值，此时便可以写出回归方程.

拟合优度的检验方法：

方法一：多重判定系数

SSRSSE

2=10<<1

R=~SST~SST

表示在因变量的总变差中被估计的回归方程所解释的比例;

故越大越好。

方法二：估计标准误差

S产恒科

表示根据所建立的回归方程，用自变量来预测因变量时，平均预测误

差的大小；

故越小越好，越小说明波动性越小。

用软件进行线性关系检验的方法：

在Excel中，在“工具”“数据分析”“回归”方差分析一栏中有

“SignificanceF”值（即P值），当时，拒绝原假设;当时，接受原假设。

I可归系数的检验：

检验单个自变量对因变量的影响是否显著，检验步骤同线性关系的检验，检

验过程中可能会因为“多重共线性”问题导致某些自变量无法通过检验。

检验步骤：第1步：提出假设。对于任意参数有

H。：回=4

H\；B#

第2步：计算检验的统计量to

力=缶〜

第3步：做出统计决策。

给定显著性水平，根据自由度二n・k・l查t分布表，得

的值。若，则拒绝原假设;若，则不拒绝原假设。

多重共线性：

产生原因：自变量之间的相关性；

检验方法：

方法一：检验模型中各对日变量之间是否显著相关，若显著相关则暗示存在多重

共线性；

方法二：当模型的线性关系检验（F检验）显著时，几乎所有回归

系数的t检验却不显著；

方法三：当回归系数的正负号与预期的相反时也预示着多重共线性的

存在；

问题的处理：

方法一：将一个或多个相关的自变量从模型中剔除，使保留的自变量尽可能

不相关；

方法二：如果要在模型中保留所有的自变量，那就应该：

i避免根据t统计量对单个参数4进行检验。

ii对因变量y值得推断（估L或预测）限定在自变量样本值

的范围内。

利用回归方程进行预测：

利用给定的k个自变量，求出因变量y的平均值的预测区间和个别值的预测区

问。

变量选择：

原理：对统计量遂行显著性检验，将一个或一个以上的自变量引入模型，如

果增加一个自变量会使得残差平方和（SSE）明显减少，则将该自变量留在模型

中，否则剔除。

主要方法：1）向前选择2）向后剔除3）逐步同归

本章例题

对于绝大多数的钢种而言，磷是有害的元素之一，要求含磷越低越好，经

过试验技术人员发现，高磷钢的效率与高磷钢的出钢量及高磷钢中的FeO含量

有一定关系，所测数据如下表：

试验序号出钢量（为）FeO含量J)效率（y）

187.913.282.0

2101.413.584.0

3109.820.080.0

493.014.288.6

588.016.481.5

6115.314.283.5

756.914.973.0

8103.413.088.0

9101.014.991.4

1080.312.981.0

1196.514.678.0

12110.615.386.5

13102.918.283.4

设局磷钢的效率为y、局磷钢的出钢量为工、同磷钢中的FeO含量为

（1）用Excel进行回归，回答下面的问题：

（2）写出估计的回归方程。

（3）在高磷钢的效率的总变差中，彼估计的回归方程所解释的比例是多少?

（4）检验回归方程的线性关系是否显著（a=0.05）。

（5）检验各回归系数是否显著（a=（）.（）5）。

（6）检验所建立的回归方程是否存在多重共线性。

解：用Excel进行回归分析输出如

下所示：

回归统计

MultipleR0.688844

RSquare0.474506

AdjustedRSquare0.369407

标准误差3.846481

观测值13

方差分析

dfSSMSSignificanceF

回归分析2133.598166.799074.5148490.040072

残差10147.954214.79542

总计12281.5523

LowerUpper下限上限

Coefficients标准误差P-value

95%95%95.0%95.0%

Intercept75.143789.4877361.29E-0554.0037996.2837754.0037996.28377

出钢量0.2154850.0745780.0161240.0493140.3816550.0493140.381655

FeO含量-0.843210.5484180.155181-2.065160.378745-2.065160.378745

由此可得到高磷钢的效率与高磷钢的出钢量及高磷钢中的FeO含量的回归

方程：

其中回归系数表示，在FeO含量不变时，高磷钢的效率每增加一个单位，高磷

钢的出钢量将增加0.215485个单位。

表示，在高磷钢的出钢量不变时，高磷钢的效率每增加一个胆位,

FeO含量要降低0.84321个单位。

（2）在回归统计一栏中有=0.474506,所以在高磷钢的效率的总变差中，被估计

的回归方程所解释的比例是47.75%O

（3）在方差分析一栏中有SignificanceF（即P值）=0.040072,在的显著

性水平下，有P＜，故拒绝原假设，说明高磷钢的效率与高磷钢的出钢量和高磷

钢中的FeO含量之间存在显著性的线性关系。

（4）由出钢量FeO含量

(5)回归分

析输出

的结果

中的

P-密舸量、FeO含量之间的相关矩阵

查表得，由于统计量小于，所以

接受原假设，说明两个自变量之间没有显

著的相关关