计量经济学：第三章 多元线性回归

1、第三章 多元线性回归 多元线性回归模型 OLS估计 参数估计的性质 相关检验 预测 矩阵表示 模型设定误差 应用多元线性回归模型问题的提出 现实生活中引起被解释变量变化的因素并非仅只一个解释变量，可能有很多个解释变量。例如，产出往往受各种投入要素资本、劳动、技术等的影响；销售额往往受价格和公司对广告费的投入的影响等。 所以在一元线性模型的基础上，提出多元线性模型解释变量个数=2解题思路在多元模型中要估计的乃是一个平面或超平面。选取最好“平面”的准则，仍然是实际点到拟合平面（通常仍称它为拟合直线）的纵向距离最小拟合值尽可能逼近真值使残差平方和最小。于是将问题转化为一个求极值的数学问题二元(三变量

2、)线性模型较之于简单回归而言，附加的假设条件是 之间没有线性关系。被解释变量解释变量随机误差二元线性回归模型(观察到的Y)估计的回归面0eiX1YX2(X1,X2)多元线性回归模型一般形式被解释变量解释变量随机误差OLS估计普通最小二乘估计令正规方程参数估计令相关检验回归标准误k表示自变量的个数，简单线性回归时为1。二元回归模型的系数估计的标准误其中，是 之间的简单相关系数。多重判定系数1、解释平方和占总离差平方和的比例2、反映回归直线的拟合程度3、取值范围在 0 , 1 之间4、 R2 1，说明回归方程拟合的越好； R20，说明回归方程拟合的越差5、等于多重相关系数的平方，即R2=(R)2注

3、：多重相关系数也称复相关系数，复相关指一个因变量同多个自变量之间的相关关系。修正的多重判定系数1、由于增加自变量将影响到因变量中被估计的回归方程所解释的变异性的数量，为避免高估这一影响，需要用自变量的数目去修正R2的值2、用n表示观察值的数目，k表示自变量的数目，修正的多元判定系数的计算公式可表示为线性关系的检验(F检验)检验因变量与所有的自变量和之间的是否存在一个显著的线性关系，也被称为总体的显著性检验检验方法是将可解释平方和(SSE)同残差平方和(SSR)加以比较，应用 F 检验来分析二者之间的差别是否显著如果是显著的，因变量与自变量之间存在线性关系如果不显著，因变量与自变量之间不存在线性

4、关系检验步骤1、提出假设H0：12k=0 线性关系不显著H1：1，2，k至少有一个不等于02、 计算检验统计量F3、确定显著性水平和分子自由度k、分母自由度n-k-1找出临界值F 4、作出决策：若FF ，拒绝H0；若FF，不能拒绝H0或根据P值来作决策，P值大于显著性水平，不能拒绝原假设检验回归参数的线性限制(F检验续)1、2、构造检验统计量3、确定显著性水平和分子自由度k-m、分母自由度n-k-1找出临界值F 4、作出决策：若FF ，拒绝H0；若FF，不能拒绝H0几点说明1、如果F检验已经表明了回归模型总体上是显著的，那么回归系数的检验就是用来确定每一个单个的自变量 Xi 对因变量 Y 的影

5、响是否显著2、应用 t 检验对每一个自变量单独进行检验3、在多元线性回归中，回归方程的显著性检验不再等价于回归系数的显著性检验回归系数的显著性检验(t检验) 1、提出假设H0： bi =0 (自变量 Xi 与 因变量 Y 没有线性关系) H1： bi 0 (自变量 Xi 与 因变量 Y有线性关系) 2、计算检验的统计量 t3、确定显著性水平，并进行决策 tt，拒绝H0； tt，不能拒绝H0(或根据p值来判断，若P值小于显著性水平，则拒绝原假设。)矩阵表示多元回归模型的矩阵表示参数估计及其方差令得两项相等，？随机误差项方差估计参数估计量的性质线性无偏性估计量方差有效性为任一无偏估计预测预测点预测

6、其中区间预测平均值个别值例： 某农场1971年至1980年每英亩谷物产量(bushel)和每英亩化肥施用量及杀虫剂使用量(pound)之间的数据见表，求出产量与化肥施用量和杀虫剂使用量之间的关系。data21.xlsYear1971197219731974197519761977197819791980404446485258606874806101214161822242632445791214202124 蒲式耳(谷物,水果等容量单位,美=35.238升,英=36.368升)1 pound (磅)=0.4536 kilogram (千克)1 acre (英亩)=0.405 hectare

7、(公顷)用来估计回归参数的计算结果参数估计参数的显著性检验参数的显著性检验(续) 显著性水平为0.05，自由度为7时t分布临界值为2.365，小于 ，因此拒绝 为0的原假设，认为 在给定的显著性水平下都是统计显著的决定系数回归方程的检验因为所以拒绝都为0的原假设，同时得到 显著不为0。EViews命令cd D:Econometrics15zdatacreate a 1971 1980read data21.xls 3equation eq1.ls y c x1 x2eq1.results模型设定误差模型设定误差省略重要变量放入无关变量省略重要变量真实模型：估计模型：用离差形式把真实模型中y代入

8、得因此从而所得到的估计是有偏的和不一致的不为0，除非两个变量无关例 数据data31.xls中， HOUSING为t年的动工的住房单位数量，POP是该年以百万计的人口，GNP是以十亿计的国民生产总值，INTRATE为百分制新房抵押利率。估计两个模型如下：(1.8)(3.64)(-3.87)t值(3.39)(0.38)模型(2)的拟合很差P值虽然拟合不是很好，但系数的符号符合直觉，且系数都显著放入无关变量真实模型：估计模型：利用OLS估计得到的 的估计量是无偏和一致的，由于无关变量的存在，意味我们不认为参数限制条件 为真，因此导致自由度的损失，因而影响有效性。 前例续 把前例模型中加入解释变量失

9、业率和人口，所得模型为：(0.46)(0.82)(-2.86)(-0.40)(0.65)零假设：POP和UNEMP前系数都为0利用得显著性水平为0.05时，自由度为(2,18)的F分布的临界值为3.55，因此不能拒绝零假设。P值0.75应用 公共汽车乘客人数和影响乘客人数的各种因素之间的关系。数据：data32.xls变量说明：BUSTRAVL-城市公共汽车乘坐需求，单位千乘客小时FARE-车费，美元GASPRICE-油价，美元/加仑INCOME-人均单位收入，美元POP-城市人口，千人DENSITY-人口密度，人/平方英里LANDAREA-城市的土地面积，平方英里估计结果 load data

10、32equation eq1.ls bustravl c fare gasprice income pop density landareaeq1.resultsGASPRICE、FARE、LANDAREA几个变量P值太大，尝试逐个去除，以简化模型。附：各种函数形式线性对数倒数转换多项式曲线含交互项动态模型通常不超过2不同函数形式的边际效应和弹性线性函数线性对数倒数二次函数交互作用对数线性对数倒数对数二次函数双对数对数名称 函数形式 边际效应 弹性 create P79 a 1988 1998read D:Econometrics15zdataP79.xls 3equation eq1.ls

11、y c x1 x2show eq1scalar n=eq1.regobsscalar k=eq1.ncoefexpand 1988 1999x1(n+1)=5800 x2(n+1)=135eq1.forecast yf s_segenr ypl=yf(n)-qtdist(0.975,n-k)*s_se(n)genr ypu=yf(n)+qtdist(0.975,n-k)*s_se(n)genr ycu=yf(n)+qtdist(0.975,n-k)*sqrt(s_se(n)2-se2)genr ycl=yf(n)-qtdist(0.975,n-k)*sqrt(s_se(n)2-se2)grou

12、p P79 yf(n) ycl ycu ypl ypushow P79案例分析(P.79)案例已知某地区某农产品收购量Y，销售量X1，出口量X2，库存量X3的19551984年的样本观测值，数据：2.xls。试建立以收购量Y为被解释变量的多元线性回归模型，并预测当销售量为18，出口量为2，库存量为80时的收购量。create a 1955 1984read D:Econometrics15other2.xls y x1 x2 x3equation eq1.ls y c x1 x2 x3show eq1pagestruct(end=last+1) *expand 1955 1985scalar n=eq1.regobsscalar k= eq1.ncoefx1(n+1)=18x2(n+1)=2x3(n+1)=80eq1.forecast yf y_seplot y yfgenr ypl=yf(n)-qtdist(0.975,n-k)*y_se(n)genr