第二章 简单线性回归模型(西财教材)

#碑心）=仲，讣步eR"TOC\o"1-5"\h\z对上式取对数得…InL=-n叽药①-丄Y(Y-0-0X)22c2i12ii对lnL求极大等价于对工(Y-B-BX)2求极小值，即i12iii12iI工(Y-B-Bx)i12i•工(Y-B-Bx)2二o吐ii12i解出上式，即与教材第31页的式2.2.12和式2.2.13完全一样。需要说明的是OLS估计量于ML估计量只有在Y（残差项u）服从正态分布时才是等价的。四、参数估计的另一种方法（矩估计）我们也可用代数的办法建立正规方程，由此得到总体参数的估计量。设总体回归函数为对上式两段分别求和工Y=Yp+YpX+工uTOC\o"1-5"\h\zi12ii由假定1矢口，工u=0，所以该式变为i工Y=nP+P工Xi12i即为第31页的式2.2.10。如果对总体回归函数两端同时乘以召，得XY=PX+卩X2+Xuii1i2iii再对上式两端同时求和，得工XY=P工X+P工X2+工Xu

ii1i2iii由假定4知，YXu=0（为什么），所以可得第31页得式2.2.11，即iiYXY=pYX+pYX2ii1i2i这样，便得到了一个正规方程组，由此可解出参数的估计量a和通过该途径得到而无需对残差平方和求一阶微分，这是一个重要的解决思路，说明了对单一方程运用若干估计方法之间的关联性，对我们进一步理解通过正规方程组求参数估计量具有重要帮助。五、OLS回归线的性质1、(3、(3分别是样本(X,Y)的线性组合，由于Y的随机性使得(3、0是随12ii12机的，并且是3、3的点估计。122、回归线通过样本均值点(X,Y)。~—3、Y二Y4、工e=0i5、Cov(Y,e)=0ii6、Cov(X,e)=0ii六、最小二乘估计的统计性质1、线性性，即参数估计0、0是关于被解释变量y的线性函数122、无偏性，即E(3)=3，E(3)=3。11223、有效性，即由最小二乘法得到的参数估计，如3的方差为2Var(3)=2任设3的另一线性无偏估计量为3*，则一定有22Var(0*)>Var(0)22上述统计性质的证明可见教材第60页——第62页的该章附录。4、一致性。有兴趣可参阅唐国兴著《计量经济学——理论、方法和模型》，复旦大学出版社，1988年，第47页——第49页。第三节回归系数的区间估计和假设检验一、几个重要分布的复习1、设X〜N("2)，且X,X相互独立(i丰j)则iijU上aX〜N(卩工aq2工a2)正态分布具有线性性iiiii=li=li=l更一般地，设X〜N(卩Q2)，X，X相互独立(i丰j)则iiiijU=£aX〜N(Yay,工a2c2)iiiiii特殊地，设X〜N(RQ2)，则iX=-£X〜⑷二)

nini=12、设X,X,,X相互独立，且X〜N(0,1)，则12nix2=工X2-x2(自由度为n的卡方分布)ni(n)i=1推论，设设X,X,,X相互独立，且X〜x2，则12nini其中，n=工n。i、、■••£nX〜x2i(n)i=13、设X〜N(0,1)，Y〜x2，(n)XT=〜tY(n)且X,Y相互独立，则(自由度为n的t分布)Y推论，设X〜N(2),——x2，且X,Y相互独立，则O2(n)T=0〜t丽(n)n4、设X〜X2,Y〜X2，且X,Y相互独立，则(m)(n)XXF=m=丄〜F(第一自由度为m，第二自由度为n的F分布)YYm(m,)/n二、参数区间估计与假设检验的意义区间估计与假设检验均为统计推断，它们是同一问题的两个不同方面。在计量经济分析中，对于总体参数真值的估计，需要推断参数的变动范围，检验变量之间关系存在的真伪或者是对经济理论成立与否的实证判断。这些问题的解决就是参数的区间估计与参数的假设检验，要进行这些工作首先需要建立估计量的统计分布。三、回归系数估计量的分布由概率论与数理统计知，研究参数真值的区间估计和假设检验问题，首先要知道来自样本的估计量的分布。在这里，我们推断研究的是总体回归函数中的01和0,因此，首先对于它们的估计0和0的分布应该明确。根据基本假定，以212及0、0分别是随机变量y的函数和正态分布的性质，很容易得到0和0的分1212布。1、b2已知的情况下‘工X20sN(0Q2yi)11n厶x2iN(0N(02,b2工x2经变量的标准化后，它们均服从标准正态分布N（0,1）。2、b2未知的情况下。如果是大样本，则它们渐进服从正态分布（方差用b2的估计b2表示）。如果是小样本，则计算b2的估计b2（见本章附录），可以证CY2八八明（n-2）一服从自由度为（n-2）的咒2分布，根据t分布的定义，0和0服从b212自由度为n-2的t分布。即t0-0st(st(n)se(02t0-0tt二+十st(n)se((n)1四、回归系数的区间估计1、区间估计的意义。判断参数估计值的可靠性和稳定性。设5与a为两个正数，其中a满足0<a<1，贝UP（0-5<卩邛+5）二1—a称（0-5,0+5）为0的置信区间，1-a为置信概率，a为显著性水平，0-5,0+5分别为置信下限和置信上限，0为0的点估计。2、当总体方差a2已知时，0和0的区间估计（教材第31页）。123、当总体方差a2未知时，如果是大样本情况，这时与情况2相同。4、当总体方差a2未知时，如果是小样本情况，这时是t分布意义下的0和012的区间估计（教材第32页）。能够利用EViews软件在回归分析报告中，根据样本信息计算出在给定显著性水平下，参数的区间估计。5、a2的区间估计。五、回归系数的假设检验1、假设检验的基本思想（教材第34页）在原假设（针对总体而言）成立的条件下，从总体中抽取一个样本，用它来检验此项假设是否成立。在这一过程中，利用适当的统计量，依据给定的显著性水平，构造一个小概率事件，如果该事件在一次实验中竟然发生了，贝认为上述原假设不真，应拒绝原假设。2、H:0=0f;H:0H0'假设的提出0221223、针对总体回归函数中参数假设检验的解释在Y=0+0X+u中，系数0反映了如果变量X是决定变量Y的主要影响122因素，贝0就不应当为零。即2H:0二0;H:0乂0（双侧检验、双尾检验）0212AA构造t统计量，即t=二伫=—L〜t（n-2）（在H成立的情况se（0）se（0）。2下）给定a,查t分布表，得临界值t，若ltl>t，则拒绝零假设，表明X对aa22Y有显著性影响。在讲解过程中应说明经济意义上的因果关系十分重要。能根据EViews软件的回归分析报告进行参数的显著性检验。如DependentVariable:YMethod:LeastSquaresDate:08/02/04Time:01:59Sample:110Includedobservations:10VariableCoefficientStd.Errort-StatisticProb.C37.224245.7008716.5295710.0002X0.5414140.02674120.246750.0000R-squared0.980858Meandependentvar142.8000AdjustedR-squared0.978465S.D.dependentvar49.65391S.E.ofregression7.286559Akaikeinfocriterion6.986796Sumsquaredresid424.7515Schwarzcriterion7.047313Loglikelihood-32.93398F-statistic409.9309Durbin-Watsonstat0.628992Prob(F-statistic)0.0000004、参数a2的假设检验5、补充p值检验在假设检验中，有时会存在如下情况（见图形），在假设检验中，有时会存在如下情况（见图形）由图形可知，对于不同的显著性水平，有可能出现不同的判断结果，这就需要在接受或拒绝原假设的决策问题上有依据。P值检验就是解决这一类问题。其含义为：在一个假设检验问题中，拒绝H0的最小显著性水平称为p值。具体做法如下：对任意指定的a，在与p值比较后可得到如下结论：如果a值，则在a下拒绝H0。如果aVp值，则在a下接受H0。由上述表格中的数据知，截距项估计的p值为0.0002，斜率系数估计的p值为0,如果给定a=0.05,显然均有0.05大于两个参数估计的p值，则拒绝％,即卩,卩是显著不为零，这与t统计值检验是一致的。12第四节拟合优度的度量一、拟和优度的意义1、为什么要建立拟和优度指标建立样本回归函数是对样本散点的一种拟合，因此，各个散点对回归函数或多或少存在偏差(有正有负)，如何从整体上反映这种偏差，即提出拟合优度指标。2、拟和优度的含义，用什么指标反映拟和优度。二、总变差的分解1、总变差分解的过程(教材第36页)工(Y-Y)2=E(Y-Y+Y-Y)2EI~八八八八—[(Y-Y)2+2(Y-Y)(Y-Y)+(Y-Y)2=E(Y-Y)2+E(Y-Y)2(其中工(Y-Y)(Y-Y)=0)记TSS=工(Y-Y)2，ESS=工(Y-Y)2，RSS=工(Y-Y)2，即，TSS=RSS+ESS。i2、对TSS=RSS+ESS的说明。TSS=工(Y-Y)2为总离差平方和，反映了iY的样本观测值的平均差异程度；；ESS=工(Y-Y)2为Y的估计值与均值的离差平方和，它反映了解释变量的变化所引起的对Y的波动大小，即解释变量在

模型中存在的重要程度；RSS=工(Y-Y)2为残差平方和，反映的是Y依据回归直线没有得到解释的变差。因此，ESS越大说明回归直线拟和效果越好，而RSS越小说明回归直线拟和误差越小。三、拟和优度的度一可决系数R21、可决系数的产生过程对总变差的分解工(Y-Y)2=工(Y-Y)2+E&-Y)2iiii即TSS=RSS+ESS。2、对R2的解释表达式R2二RSSR2二TSS其中，TSS=工(Y-Y)2,RSS=工(Y-#)2,ESS=工(f-Y)2。3、R2的变动范围。OWR2Wl。其中，R2=0和R2=1为两种极端情况，通常为0<R2<1。4、可决系数的特性可决系数是非负的统计量；它是样本观测值的函数，是随抽样而变动的随机变量。四、可决系数与相关系数的关系1、r=±疋R2。2、它们之间的区别意义上的区别；因果关系有否和是否对称的区别；取值范围的区别。五、问题虽然R2给出了评价回归模型拟合好坏的度量，但不能根本回答解释变量X对应变量Y是否真正相关，X对Y的影响程度有多大，即当X和Y的样本相关系数不为零时，是否表示总体的X与Y就真正相关？第五节回归预测一、回归分析结果的书写表达式Y二37.2242+0.5414X（6.5296）（20.2468）R2二0.9809,S.E.=7.2866,F二409.9309,DW二0.6290二、应变量的预测1、预测的一般意义所谓预测，是指对经济变量未来不确定变化的一种推测。它既包括对未来值的推测，也包括对样本期内的实际值的拟合。在上述图形中，T1到T2为利用样本的估计期，T2到T3为事后预测期，T3以后为事前预测期。例如，研究青年完婚对数（百对）x与家具公司销售额之y间的关系，下表给出家具公司销售额之y对研究青年完婚对数（百对）x的样本回归。数据见下表，年份1976197719781979198019811982198319841985青完婚对数（百对）3456789101112家具公销售额（万元）1212.513141715161818.520DependentVariable:YMethod:LeastSquaresDate:09/22/04Time:22:13Sample:19761983Includedobservations:8VariableCoefficientStd.Errort-StatisticProb.C9.3869051.0217639.1869710.0001X0.8154760.1482535.5005740.0015R-squared0.834512Meandependentvar14.68750AdjustedR-squared0.806930S.D.dependentvar2.186607S.E.ofregression0.960789Akaikeinfocriterion2.970194Sumsquaredresid5.538690Schwarzcriterion2.990054Loglikelihood-9.880774F-statistic30.25631Durbin-Watsonstat2.594349Prob(F-statistic)0.001514模型的书写格式为Y二9.3869+0.8155X(9.1870)(5.5006)R2二0.8345,S.E.=0.960&F二30.2563,n二8下面进行外推预测及评价，obsYYFY-YF(Y-YF)/Y198418.5000018.357140.142860.0077198520.0000019.172620.837380.04142、预测的类型点预测；区间预测；无条件预测：在回归模型中，所有前定变量的未来值均已知；有条件预测：前定变量的未来值不知是对Y变