普通最小二乘法OLS

1、E 2.2d Jft小二乘原理应该能够最好地拟合样本数据。其中yi为被解释变量的估计值，它是由参数估计量和解释普通最小二乘法（OLS普通最小二乘法（Ordinary Least Square，简称 OLS，是应用最多的 参数估计方法，也是从最小二乘原理出发的其他估计方法的基础，是必须熟练掌握的一种方法。在已经获得样本观测值yi，Xi （ i=1,2,n ）的情况下（见图2.2.1中的散点），假如模型（2.2.1 ）的参数估计量AA已经求得到，为和,并且是最合理的参数估计量，那么直线方程（见图 2.2.1中的直线）i=1,2,nyi - - 0 ： i Xi(2.2.2)精选资料，欢迎下载变量的

2、观测值计算得到的。那么，被解释变量的估计值与观测值应该在总体上最为接近,断的标准是二者之差的平方和最小。nQ 八- 必)2 八 u2 二 Q(Ji Tn2 n2Q斶“=迟彳=迟(y-?) Y (y-陀-)wig%!)(2.2.3)为什么用平方和？因为二者之差可正可负，简单求和可能将很大的误差抵消掉，只有平方和才能反映二者在总体上的接近程度。这就是最小二乘原则。那么，就可以从最小二乘 原则和样本观测值出发，求得参数估计量。由于naQ八-yJ2n11AA(yi -oUXi)2AAA是0、：1的二次函数并且非负，所以其极小值总是存在的。根据罗彼塔法则，当Q对：0、A：1的一阶偏导数为0时，Q达到最小

3、。即容易推得特征方程:nzi =1(yi -解得:。八?。,卄？i(224)f?o-f?xJ=E (y -？戶x®-?o-f?xj =迟' yiXiXi2Xi(225 )所以有:n' xy -C Xi)C yi)i di =1izi =1-X)(w - y)f?x于是得到了符合最小二乘原则的参数估计量。为减少计算工作量，许多教科书介绍了采用样本值的式。由于现在计量经济学计算机软件被普遍采用,' ( - X)2i =1(226 )离差形式的参数估计量的计算公计算工作量已经不是什么问题。但离差形式的计算公式在其他方面也有应用，故在此写出有关公式，不作详细说明。记X

4、iXiyi（226 ）的参数估计量可以写成n'送 Xj2（227）tdJ?° = y-f?x至此，完成了模型估计的第一项任务。下面进行模型估计的第二项任务，即求随机误差项方 差的估计量。记e = 4 =比?为第j个样本观测点的残差，即被解释变量的估计 值与观测值之差。则随机误差项方差的估计量为寸2?2J e'- ?!（228）n -2在关于二?2的无偏性的证明中，将给出（2.2.8 ）的推导过程，有兴趣的读者可以参考 有关资料。在结束普通最小二乘估计的时候，需要交代一个重要的概念，即“估计量”和“估计值”的区别。由（2.2.6 ）给出的参数估计结果是由一个具体样本资料计算出来的，它是一个“估AA计值”，或者“点估计”，是参数估计量 7和:1的一个具体数值；但从另一个角度，仅仅AAA把（2.2.6 ）看成0和：1的一个表达式，那么，则是yi的函数，而yi是随机变量，所以0AA和一1也是随机变量，在这个角度上，称之为“估计量”。在本章后续内容中，有时把