回归模型检验

多元线性回归分析实际中经常要遇到分析两个或多个变量间关系的情况，有时是希望了解某个变量对另一个变量的影响强度，有时则是要了解变量间联系的密切程度，前者用回归分析来实现，后者则需要用相关分析实现。相关分析和回归分析概述

回归分析的一般步骤1.确定回归方程中的解释变量和被解释变量2.确定回归模型3.建立回归模型4.对回归方程进行检验5.利用回归方程进行预测回归分析分为两类一、线性回归分析二、非线性回归（曲线回归）

1.可通过变量代换转换成线性关系，例如：

2.并非所有的非线性模型都可以化为线性模型P元线性回归模型

称为回归常数和偏回归系数，

称为随机误差它表明：被解释变量y的变化可由两部分解释;第一，有p个解释变量x的变化引起的y的变化部分；第二，由其他随机因素引起的y的变化部分，即

多元线性回归模型的统计检验

一、回归方程的拟合优度检验：判定系数二、回归方程的显著性检验(F检验)

三、回归系数的显著性检验（t检验）、四、残差分析(DW检验）一、拟合优度检验回归方程的拟合优度检验是检验样本的数据点聚集在回归线周围的密集程度，从而评价回归方程对样本数据的代表程度。拟合优度从对被解释变量y取值变化的成因分析入手。被解释变量y的变化可由两部分解释：第一，有p个解释变量x的变化引起的y的变化部分；第二，由其他随机因素引起的y的变化部分.

定义由第一部分引起的y的变差平方和为ESS，称为回归平方和；由随机因素引起的y的变差平方和称为剩余平方和RSS,SST称为总离差平方和，其中有TSS=ESS+RSS离差平方和的分解

（图示）xyy{}}

离差分解图离差平方和的分解

（三个平方和的关系）2.两端平方后求和有从图上看有TSS=ESS+RSS总变差平方和（TSS）{回归平方和（ESS）{残差平方和（RSS）{判定系数反映了回归方程所能解释的变差的比例，该统计量越接近于1，模型的拟合优度越高。

在应用过程中发现，如果在模型中增加一个解释变量，

R2往往增大，这就给人一个错觉：要使得模型拟合得好，只要增加解释变量即可。

但是，现实情况往往是，由增加解释变量个数引起的R2的增大与拟合好坏无关，R2需调整。调整的判定系数（adjustedcoefficientofdetermination）

在样本容量一定的情况下，增加解释变量必定使得自由度减少，所以调整的思路是:将残差平方和与总离差平方和分别除以各自的自由度，以剔除变量个数对拟合优度的影响:其中：n-k-1为残差平方和的自由度，n-1为总体平方和的自由度。

二、回归方程的显著性检验(F检验)

方程的显著性检验正是要检验被解释变量与所有解释变量之间的线性关系是否显著，用线性模型来描述他们之间的关系是否恰当。

1、方程显著性的F检验

即检验模型

Yi=

0+1X1i+2X2i++kXki+ii=1,2,,n中的参数

j是否显著不为0。

可提出如下原假设与备择假设：

H0：

0=1=2==k=0H1：

j不全为0零假设成立：即各个回归系数同时与零无显著差异。它意味着当偏回归系数同时为0时，无论各个取值如何变化都不会引起y的线性变化所有x无法解释y的线性变化，y与x的全体不存在线性关系，不能用线性模型来描述和反映他们之间的关系

F检验的思想

来自于总离差平方和的分解式：

TSS=ESS+RSS

如果这个比值较大，则X的联合体对Y的解释程度高，可认为总体存在线性关系，反之总体上可能不存在线性关系。

因此,可通过该比值的大小对总体线性关系进行推断。

根据数理统计学中的知识，在原假设H0成立的条件下，统计量

服从自由度为(k,n-k-1)的F分布

给定显著性水平

，可得到临界值F

(k,n-k-1)，由样本求出统计量F的数值，通过

F

F

(k,n-k-1)或F

F

(k,n-k-1)来拒绝或接受原假设H0，以判定原方程总体上的线性关系是否显著成立。

2.拟合优度检验与方程显著性检验存在以下关系或三、回归系数的显著性检验（t检验）方程的总体线性关系显著

每个解释变量对被解释变量的影响都是显著的

回归系数的显著性检验的主要目的是研究回归方程中的每个解释变量与被解释变量之间是否存在显著的线性关系，也就是研究解释变量能否有效的解释被解释变量的线性变化以决定是否作为解释变量被保留在模型中。这一检验是由对变量的t检验完成的。

2、t检验设计原假设与备择假设：

H1：

i0

给定显著性水平

，可得到临界值t/2(n-k-1)，由样本求出统计量t的数值，通过

|t|

t/2(n-k-1)或|t|

t/2(n-k-1)来拒绝或接受原假设H0，从而判定对应的解释变量是否应包括在模型中。

H0：

i=0

（i=1,2…k）

当零假设成立时，即

i=0，意味着回归系数

i为0时，无论取值如何变化都不会引起y的线性变化，无法解释y的线性变化，他们之间不存在线性关系，不应保留在线性方程中。四、残差分析残差是指由回归方程计算所得的预测值与实际样本值之间的差距，定义为它是回归模型的估计值，由多个形成的序列称为残差序列，如果回归方程能够很好的反映被解释变量的特征和变化规律，那么残差序列中不应包含明显的规律性和趋势性。残差的独立性分析残差序列应满足

，表示残差序列的前期与后期数值之间不存在相关关系，即不存在自相关，用于克服回归方程多重共线性的影响。判断方法：D-W检验DW=4，残差序列存在完全负自相关；DW=(2，4),残差序列自相关；DW=2，残差序列无自相关；DW=(0，2),残差