多元线性回归模型及其假设条件

1、5.1 多元线性回归模型及其假设条件1多元线性回归模型多元线性回归模型： yi01 1 i2 2iLppi i ， i1,2, L , nbb xb xb x2多元线性回归模型的方程组形式3多元线性回归模型的矩阵形式4回归模型必须满足如下的假设条件：第一、有正确的期望函数。即在线性回归模型中没有遗漏任何重要的解释变量，也没有包含任何多余的解释变量。第二、被解释变量等于期望函数与随机干扰项之和。第三、随机干扰项独立于期望函数。即回归模型中的所有解释变量X j与随机干扰项u 不相关。第四、解释变量矩阵X 是非随机矩阵，且其秩为列满秩的，即：rank( X ) k,k n。式中k 是解释变量的个数，

2、n 为观测次数。第五、随机干扰项服从正态分布。第六、随机干扰项的期望值为零。E u0第七、随机干扰项具有方差齐性。2u2 （常数）i第八、随机干扰项相互独立，即无序列相关。ui ,u jcov ui ,uj =05.2 多元回归模型参数的估计建立回归模型的基本任务是：求出参数, b0 ,b1,L ,b p 的估计值，并进行统计检验。残差： i?；残差平方和：Q=n2?yyy2eyeiiiii 1i1x11x21Lxp11?1x12x22Lxp2， B矩阵求解： X=LLx1nx2nLxpn1B?X1X YX2Q?np 1? yb0?b1b?2 ， YLn 1b?py2L ，yyn要通过四个检验

3、：经济意义检验、统计检验、计量经济学检验、模型预测检验。5.4 多元线性回归模型的检验2一、R检验21 R 检验定义2x1, x2,L , xm 与因变R检验又称复相关系数检验法。是通过复相关系数检验一组自变量量 y 之间的线性相关程度的方法。复相关系数与复可决系数检验中的“复”是相对于一元函数而言。复相关系数：自变量在两个以上，检验线性关系密切程度的指标，记为Ry, x1x2 L xp ，通常用 R表示。复可决系数：复相关系数的平方R2。在实际应用中，判别线性关系密切程度都是用R2 检验，所以复可决系数R2 是模型拟合优度指标， R2 越接近于 1，模型拟合越好。 0 R2 1。yiy?i2

4、R 1y 2yi2复相关系数检验法的步骤1）计算复相关系数；2）根据回归模型的自由度n-m 和给定的显著性水平值，查相关系数临界值表；3）判别。3调整可决系数22 n 1R 11 R n m2R 是一个随自变量个数增加而递增的函数，所以，当对两个具有不同自变量个数但性质相同的回归模型进行比较时，不能只用2R 作为评价回归模型优劣的标准，还必须考虑回归模型所包含的自变量个数的影响。2R 消除了自变量个数不同的影响，可以用于不同自变量个数间模型的比较。24 R 检验的目的检验模型对原始数据的拟合程度，或对原始数据信息的解释程度。二、 F检验1检验目的通过 F 统计量检验假设H:L0 是否成立的方法

5、。回归方程的显著性检012m验是检验所有系数是否同时为0，2 F 统计量y?i2y m 12的自由度， n-m 是剩余变差F2， m-1 是回归变差y?i yyiy?i n myi y?2i 的自由度。F 服从自由度为m 1,n m 的 F 分布。3回归效果不显著的原因1）影响 y 的因素除了一组自变量x1, x2,L , xm 之外，还有其他不可忽略的因素。2） y 与一组自变量x1, x2,L , xm 之间的关系不是线性的。3） y 与一组自变量x1, x2,L , xm 之间无关。4解决办法分析原因另选自变量或改变模型的形式。三、 t 检验1检验目的回归系数的显著性检验是检验某个系数是

6、否为0。2 T 统计量?iQ1统计假设 H0： bi0 ；统计量： tib， Syn m ， cii是矩阵X X的第SyciiI 个对角元素。 ti是一个自由度为n-m 的 t 分布变量；统计检验判别：tit。否定假设，系数 bi 0 。否则，接受假设 bi0 。四、 DW 检验1序列相关的概念及对回归模型的影响序列相关是指数列的前后期相关。若时差为一期的序列相关，称为一节自相关。回归模型假设随机误差项之间不存在序列相关或自相关，即ui和 u j 互不相关，cov ui ,uj0,i j。若回归模型不满足这一假设，则称回归模型存在自相关。当模型中存在序列自相关时，使用OLS 方法估计参数，将产

7、生下列严重后果：（1）估计标准误差S 可能严重低估 的真实值。（2）样本方差2可能严重低估 D的真实值。Sji（3）估计回归系数可能歪曲的真实值。ji（4）通常的F 检验和 t 检验将不再有效。（5）根据最小二乘估计量所作的预测将无效。2序列相关的原因（ 1）惯性：变量的发展趋势。（ 2）偏误：模型设定有误，删去了一些必要变量。（ 3）蛛网现象：供给对价格的反应要迟一个时期。（ 4）其他原因：例如，现时消费取决于前期消费。3序列相关的检验方法D W 检验法。适用条件：序列相关是一阶自回归形式。注意：第一、 D W 检验不适用于随机项具有高阶序列相关的检验。第二、 D W 检验有一段不能判断其正

8、相关或负相关的范围。第三、对于利用滞后被解释变量做为解释变量的模型，该检验失效。（1）一阶自相关的数学表达式，etet1 V（2） D W 检验给出了是否存在一阶自相关的结论。Teet t1d（3）一阶自相关系数 的估计值：?t2；更常用的是：? 1T22ett 24消除序列相关的方法（1）一阶差分法已知自相关的相关系数=1，原回归模型：yxu；uu t 1v。令：t01tttty；x t t t 1x x；yxtt。y yt 1t1vtt（2）广义差分法原回归模型：yt01 xt ut； utut 1vt。令 y tytyt 1，x txt，y11 x t tv，? 1 d。t 1t02x（

9、3）广义最小二乘法做变换得到广义差分模型。012P=0M0Pu0 ，Y0 0 L1 0 L1 LM M M1 0 L00L u000PP， XPX ，Y PY，M1 * *00，M10。 1*uX1X12 ? XX?X?Y ,V ar?X广义最小二乘估计量：1v12YX 1?YX， 用样本普通最小二乘残差的一阶自相关系数来估计。?vTkk 是模型中估计参数个数（含常数项） ，T 是样本容量。五、异方差1异方差及其检验方法（ 1）异方差性在观察点聚图上的直观表示（对原始数据点而言）（ 2）异方差性的检验方法： （ 1）经济分析法。对数据分组，分别计算方差。 （2）直观判断法。对残差而言。（3）等

10、级相关检验法。（4）戈里瑟检验。2消除异方差的基本方法（ 1）模型变换法是已知异方差与自变量关系的形式，对模型进行变换，利用方差的性质可以证明是等方差的。（ 2）加权最小二乘法WB1X11使用异方差性的权矩阵对模型进行变换。X WX WY?六、多重共线性1多重共线性：是指模型中解释变量间存在着一定的相关关系，没有满足独立性要求。2原因：（ 1）各经济变量间存在着内在联系。 （2）各经济变量在时间上有共同增长的趋势。（3）在建立模型时引入了一些解释变量的滞后值作为新的解释变量。1,3解决办法： （ 1）经济分析的办法，找出引起多重共线性的变量，将他排除在外。（ 2）统计分析的方法，降维技术或者逐步回归的方法。（3）改变变量定义的形式。七、预测区间1估计标准误差yiy?2iSnm2点预测、预测误差的样本方差（1）点预测y?0 x0B?（2）