多元线性回归模型及其假设条件

1、§5.1 多元线性回归模型及其假设条件1 .多元线性回归模型多元线性回归模型：y bo bxii b2X2ibpXpii 12, n2 .多元线性回归模型的方程组形式3 .多元线性回归模型的矩阵形式4 .回归模型必须满足如下的假设条件：第一、有正确的期望函数.即在线性回归模型中没有遗漏任何重要的解释变量,也没有包含任何多余的解释变量.第二、被解释变量等于期望函数与随机干扰项之和.第三、随机干扰项独立于期望函数.即回归模型中的所有解释变量Xj与随机干扰项u不相关.第四、解释变量矩阵 X是非随机矩阵,且其秩为列满秩的,即： rank(X) k,k n.式中 k是解释变量的个数,n为观测次

2、数.第五、随机干扰项服从正态分布.第六、随机干扰项的期望值为零.E u 022第七、随机干扰项具有方差齐性.ui(常数)第八、随机干扰项相互独立,即无序列相关.ui-uj covui-uj =0§5.2 多元回归模型参数的估计建立回归模型的根本任务是：求出参数,b0,b1 - -bp的估计值,并进行统计检验.残差：ei y ?；残差平方和：q=2Yi ?i1矩阵求解：X=X11X21X12X221X1nX2nXP1 ?Xp2 ,目 i? ,丫XPnY2,I?Yn1Yn要通过四个检验：经济意义检验、统计检验、计量经济学检验、模型预测检验.§5.4 多元线性回归模型的检验2 一

3、、R检验21 . R检验定乂2R检验又称复相关系数检验法.是通过复相关系数检验一组自变量X,X2,与因变量y之间的线性相关程度的方法.复相关系数与复可决系数检验中的“复是相对于一元函数而言.复相关系数：自变量在两个以上,检验线性关系密切程度的指标,记为Ry,通常X1X2 Xp用R表不.复可决系数：复相关系数的平方R2.在实际应用中,判别线性关系密切程度都是用R2检验,所以复可决系数 R2是模型拟合优度 指标,R2越接近于1,模型拟合越好.0wr2w1.2Yi?i_ 2Yi y2.复相关系数检验法的步骤1)计算复相关系数;2根据回归模型的自由度n-m和给定的显著性水平值,查相关系数临界值表;3判

4、别.3.调整可决系数2R是一个随自变量个数增加而递增的函数,所以,当对两个具有不同自变量个数但性质相 2.同的回归模型进行比拟时,不能只用R作为评价回归模型优劣的标准,还必须考虑回归模 型所包含的自变量个数的影响.消除了自变量个数不同的影响,可以用于不同自变量个数间模型的比拟.4.R2检验的目的检验模型对原始数据的拟合程度,或对原始数据信息的解释程度.F检验通过F统计量检验假设H.： i 2m 0是否成立的方法.回归方程的显著性检验是检验所有系数是否同时为0 ,2 . F统计量c 2? y m1上!J , m-1 是回归变差y.?1nmy 的自由度,n-m 是剩余变差2y. %的自由度.F服从

5、自由度为 m 1, n m的F分布.3 .回归效果不显著的原因1影响y的因素除了一组自变量 X1,x2,Xm之外,还有其他不可忽略的因素.2) y与一组自变量 Xi,x2, ,Xm之间的关系不是线性的.3) y与一组自变量 x1,X2,xm之间无关.4) 解决方法分析原因另选自变量或改变模型的形式.三、t检验1 .检验目的回归系数的显著性检验是检验某个系数是否为0.2 . T统计量Q统计假设H0：卜0；统计量：tiSy信,O是矩阵XX 的第Sy、.n mI个对角元素.t是一个自由度为n-m的t分布变量；统计检验判别：ti t.否认假设,系数b 0.否那么,接受假设b 0 °四、DW检

6、验 1 .序列相关的概念及对回归模型的影响 序列相关是指数列的前后期相关.假设时差为一期的序列相关,称为一节自相关.回归模型假设随机误差项之间不存在序列相关或自相关,即Ui和Uj互不相关,cov Ui,Uj 0,i j.假设回归模型不满足这一假设,那么称回归模型存在自相关.当模型中存在序列自相关时,使用OLS方法估计参数,将产生以下严重后果：(1 )估计标准误差S可能严重低估b的真实值.(2)样本方差S2可能严重低估D.的真实值.(3)估计回归系数?可能歪曲的真实值.i(4)通常的F检验和t检验将不再有效.(5)根据最小二乘估计量所作的预测将无效.2 .序列相关的原因(1)惯性：变量的开展趋势

7、.(2)偏误：模型设定有误,删去了一些必要变量.(3)蛛网现象：供应对价格的反响要迟一个时期.(4)其他原因：例如,现时消费取决于前期消费.3 .序列相关的检验方法D-W检验法.适用条件：序列相关是一阶自回归形式.注意：第一、 D W检验不适用于随机项具有tWj阶序列相关的检验.第二、D W检验有一段不能判断其正相关或负相关的范围.第三、对于利用滞后被解释变量做为解释变量的模型,该检验失效.(1) 一阶自相关的数学表达式,e 61V(2) D-W检验给出了是否存在一阶自相关的结论.Taa id(3) 一阶自相关系数p的估计值： T;更常用的是： 1 1 22et 24.消除序列相关的方法(1

8、) 一阶差分法自相关的相关系数p =1 ,原回归模型： yt01 xt Ut ; Ut Ut 1 Vt.令：yt 乂 y； xtxtx-；yt /vt.(2)广义差分法原回归模型：乂o 1又ut； utu-vt.令yt yty,xtxtxt 1 y t011XtVt,3广义最小二乘法做变换得到广义差分模型.P=PP,PY,u广义最小二乘估计量:? 1X1? Y,p用样本普通最小二乘残差的一阶自相关系数来估计.是模型中估计参数个数含常数项,T是样本容量.五、异方差1 .异方差及其检验方法1异方差性在观察点聚图上的直观表示对原始数据点而言2异方差性的检验方法：1经济分析法.对数据分组,分别计算方差

9、.2直观判断法.对残差而言.3等级相关检验法.4戈里瑟检验.2 .消除异方差的根本方法1 模型变换法是异方差与自变量关系的形式,对模型进行变换,利用方差的性质可以证实是等方差的.2加权最小二乘法使用异方差性的权矩阵 w对模型进行变换.B? x W 1X 1XW1Y六、多重共线性1 .多重共线性：是指模型中解释变量间存在着一定的相关关系,没有满足独立性要求.2 .原因：1各经济变量间存在着内在联系.2各经济变量在时间上有共同增长的趋势.3在建立模型时引入了一些解释变量的滞后值作为新的解释变量.3 .解决方法：1经济分析的方法,找出引起多重共线性的变量,将他排除在外.2统计分析的方法,降维技术或者逐步回归的方法.3改变变量定义的形式.七、预测区间1 .估计标准误差2S n n m2 点预测、预测误差的样本方差1 点预测702预测误差的样本方差 y°和?是向