计量经济学多元线性回归

计量经济学多元线性回归第一页，共五十六页，编辑于2023年，星期五2本章大纲数据的测度单位换算对OLS统计量的影响对函数形式的进一步讨论拟合优度和回归元选择的进一步探讨预测和残差分析第二页，共五十六页，编辑于2023年，星期五3课堂提纲重新定义变量的影响估计系数R平方t统计量函数形式 对数函数形式含二次式的模型含交叉项的模型第三页，共五十六页，编辑于2023年，星期五4

重新定义变量为什么我们想这样做？数据测度单位变换经常被用于减少被估参数小数点后的零的个数，这样结果更好看一些。既然这样做主要为了好看，我们希望本质的东西不改变。第四页，共五十六页，编辑于2023年，星期五5

重新定义变量：一个例子以下模型反映了婴儿出生体重与孕妇吸烟量和家庭收入之间的关系：(1)考虑如下单位变换：(2)出生体重单位由盎司变为磅(3)香烟的支数变为包数估计结果列于下表

第五页，共五十六页，编辑于2023年，星期五6Table6.1Y(column)(1)bwght(2)bwghtlbs(3)bwghtX(rows)Cigs-0.4634(0.0916)-0.0289(0.0057)--Packs-----9.268(1.832)Faminc0.0927(0.0292)0.0058(0.0018)0.0927(0.0292)Intercept116.794(1.049)7.3109(0.0656)116.974(1.049)Observations138813881388R-squared0.02980.02980.0298SSR557,485.512177.5778557.485.51SER20.0631.253920.063第六页，共五十六页，编辑于2023年，星期五7

改变被解释变量测度单位的影响因为1磅＝16盎司，被解释变量被除以16。比较第1列与第2列。(1)中被估参数/16＝(2)中被估参数(1)中被估参数的标准差/16＝(2)中被估参数的标准差(1)和(2)中t统计量相同R平方相同(1)中SSR/（16*16）＝(2)中SSR(1)中SER(标准差)/16＝(2)中SER第七页，共五十六页，编辑于2023年，星期五8改变解释变量测度单位的影响现在香烟数量单位变为包。现在比较第(1)列和第(3)列。变量faminc系数和截距项的估计值和其标准差分析同上。packs的系数估计值和标准差变为20倍。t统计量相同R平方相同SSR相同SER相同第八页，共五十六页，编辑于2023年，星期五9重新定义变量改变变量y的测度单位会导致系数和标准差相应的改变，所以解释变量系数显著性和对其解释没有改变。改变一个变量x的测度单位会导致该变量系数和标准差的相应改变，所以所有解释变量显著性和对其解释没有改变。如果被解释变量以对数形式出现，改变被解释变量度量单位对任何斜率系数没有影响。来自log(cy)=log(c)+log(y)，改变y测度单位将改变截距，不改变斜率系数。第九页，共五十六页，编辑于2023年，星期五10Beta系数考虑如下形式的样本回归方程：

ŷ=200+20,000x1

+0.2x2我们能说x1是最重要的变量吗？现在，查看以下各个变量的单位：y单位：美元x1单位：美分x2单位：千美元第十页，共五十六页，编辑于2023年，星期五11Beta系数上例揭示了什么问题？被估计系数的大小是不可比较的。一个相关的问题是，当变量大小差别过大时，在回归中因运算近似而导致的误差会比较大。第十一页，共五十六页，编辑于2023年，星期五12Beta系数有时，我们会看见“标准化系数”或“Beta系数”，这些名称有着特殊的意义使用Beta系数是因为有时我们把y和各个x替换为标准化版本——也就是，减去均值后除以标准离差。系数反映对于一单位x的标准离差的y的标准离差。第十二页，共五十六页，编辑于2023年，星期五13Beta系数第十三页，共五十六页，编辑于2023年，星期五14Beta系数第十四页，共五十六页，编辑于2023年，星期五15例子第十五页，共五十六页，编辑于2023年，星期五16函数形式OLS也可以用在x和y不是严格线性的情况，通过使用非线性方程，使得关于参数仍为线性。可以取x，y（一个或全部）的自然对数可以用x的平方形式可以用x的交叉项第十六页，共五十六页，编辑于2023年，星期五17对数模型的解释如果模型是ln(y)=b0+b1ln(x)+ub1是y对于x的弹性如果模型是ln(y)=b0+b1x+ub1近似是，给定一单位x的改变，y的百分比变化，常被称为半弹性。第十七页，共五十六页，编辑于2023年，星期五18为什么使用对数模型？取对数后变量的斜率系数，不随变量测度单位改变。如果回归元和回归子都取对数形式，斜率系数给出对弹性的一个直接估计。对于y>0的模型，条件分布经常偏斜或存在异方差，而ln(y)就小多了，所以ln(y)的分布窄多了，限制了异常（或极端）观测值(outliers)的影响。第十八页，共五十六页，编辑于2023年，星期五19一些经验法则什么类型的变量经常用对数形式？肯定为正的钱数：工资，薪水，企业销售额和企业市值。非常大的变量：如人口，雇员总数和学校注册人数等。什么类型的变量经常用水平值形式？用年测量的变量：如教育年限，工作经历，任期年限和年龄可以以水平值或对数形式出现的变量：比例或百分比变量：失业率，养老保险金参与率等。第十九页，共五十六页，编辑于2023年，星期五20对数形式的限制一个变量取零或负值，则不能使用对数。如果y非负但可以取零，则有时使用log(1+y)。当数据并非多数为零时，使用log(1+y)估计，并且假定变量为log(y)，解释所得的估计值，是可以接受的。第二十页，共五十六页，编辑于2023年，星期五21慎重使用对数形式注意到，当y取对数形式时，更难以预测原变量的值，因为原模型允许我们预测log(y)而不是y。第二十一页，共五十六页，编辑于2023年，星期五22含二次式的模型对于形式为y=b0+b1x+b2x2+u的模型，我们不能单独将b1解释为关于x，y变化的度量，我们需要将b2也考虑进来，因为第二十二页，共五十六页，编辑于2023年，星期五23如果感兴趣的是，给定x的初始值和变动，预测y的变化，那么可以直接使用（1）。一般来说，我们可以使用x的平均值，中值，或上下四分位数来预测y，取决于我们感兴趣的问题。含二次式的模型第二十三页，共五十六页，编辑于2023年，星期五24含二次式的模型第二十四页，共五十六页，编辑于2023年，星期五253.737.3724.4experwage第二十五页，共五十六页，编辑于2023年，星期五26

对含二次式模型的进一步讨论假如x的系数为正，x2的系数为负。那么，y首先随x上升而上升，但最终转向随x上升而下降。第二十六页，共五十六页，编辑于2023年，星期五27

对含二次式模型的进一步讨论假如x的系数为负，x2的系数为正。那么，y首先随x上升而下降，但最终转向随x上升而上升。第二十七页，共五十六页，编辑于2023年，星期五28

交叉项对于形式为y=b0+b1x1+b2x2+b3x1x2+u的模型，我们不能单独将b1解释为关于x1，y变化的度量，我们需要将b3也考虑进来，因为第二十八页，共五十六页，编辑于2023年，星期五拟合优度每一个观察值可被视为由解释部分和未解释部分构成：定义：SST=SSE+SSR29第二十九页，共五十六页，编辑于2023年，星期五30拟合优度（续）我们怎样衡量我们的样本回归线拟合样本数据有多好呢？可以计算总平方和（SST）中被模型解释的部分，称此为回归R2R2=SSE/SST=1–SSR/SST第三十页，共五十六页，编辑于2023年，星期五31

更多关于R2当回归中加入另外的解释变量时，R2通常会上升。如果OLS使此解释变量取任何非零系数，那么加入此变量之后，SSR降低了。实际操作中，被估计系数精确取零是极其罕见的，所以，当加入一个新解释变量后，一般来说，SSR会降低。第三十一页，共五十六页，编辑于2023年，星期五32

调整过的R2(TheAdjustedR-squared)因此，R2增加并不意味着加入新的变量一定会提高模型拟合度。调整过的R2是R2一个修正版本，当加入新的解释变量，调整过的R2不一定增加。第三十二页，共五十六页，编辑于2023年，星期五33

调整过的R2调整过的R2是1减去OLS残差的样本方差（修正过自由度之后）与y的样本方差之比。调整过的R2的三个有用性质：因为(n-1)/(n-k-1)>1，所以调整过的R2总比R2小。加入一个解释变量有两个相反的效果。（1）SSR降低导致调整过的R2增加。（2）(n-1)/(n-k-1)增加导致调整过的R2降低。调整过的R2可能是负的，发生在以下情况：所有解释变量使残差平方和下降的太少，不足以抵消因子(n-1)/(n-k-1)。

R2只有在过原点回归中才可能为负。第三十三页，共五十六页，编辑于2023年，星期五34

比较R2和AdjustedR2R2和调整过的R2告诉我们，解释变量是否很好地预测了，或“解释”了，手头数据中被解释变量的值。R2和调整过的R2并没有告诉我们被包含变量是否统计显著解释变量是否是被解释变量变动的真正原因是否有遗漏变量偏误，或是否选取了最合适的解释变量组合第三十四页，共五十六页，编辑于2023年，星期五35R2和AdjustedR2在决定某个变量是否应该被加入模型时，R2和AdjustedR2并非理想的工具。决定一个解释变量是否属于模型的因素应该是，该解释变量在总体中对y的局部效应是否为零。第三十五页，共五十六页，编辑于2023年，星期五36拟合优度和解释变量选择的进一步探讨AdjustedR-Squared第三十六页，共五十六页，编辑于2023年，星期五37我们定义总体R2为：y的变异在总体中能被解释变量解释的比例，为调整过的R2仍不是总体R2的一个无偏估计量，因为两个无偏估计量的比例不是一个无偏估计量。拟合优度和解释变量选择的进一步探讨第三十七页，共五十六页，编辑于2023年，星期五38调整过的R2最根本的吸引力，在于它对向模型增加自变量的惩罚。如果我们向回归模型加入一个新的解释变量，当且仅当新变量的t统计量的绝对值大于1时，调整过的R2增加。拟合优度和解释变量选择的进一步探讨第三十八页，共五十六页，编辑于2023年，星期五39利用调整的R2在两个非嵌套模型中进行选择如果两个模型中任何一个都不是另一个的特例，则两个模型是非嵌套的。F统计量只允许我们检验嵌套的模型，因为有限制的模型是无限制模型的特例。我们需要一些在无嵌套模型间进行选择的指导。第三十九页，共五十六页，编辑于2023年，星期五40当变量有不同函数形式时，通过比较调整过的R2，在不同的解释变量的非嵌套组合中进行选择，是颇有价值的。例如，一个模型是y=b0+b1x1+b2log(x2)， 另一个是y=b0+b1x1+b2x2+b3x22。 如果第一个模型调整过的R平方为0.3，而第二个为0.6，我们倾向于选择第二个模型利用调整的R2在两个非嵌套模型中进行选择第四十页，共五十六页，编辑于2023年，星期五41

调整过的R2的限制：我们不能利用它在关于因变量函数形式不同的模型间进行选择利用调整的R2在两个非嵌套模型中进行选择第四十一页，共五十六页，编辑于2023年，星期五42

预测分析：估计量第四十二页，共五十六页，编辑于2023年，星期五43预测分析：标准差第四十三页，共五十六页，编辑于2023年，星期五44

预测分析：置信区间第四十四页，共五十六页，编辑于2023年，星期五45预测分析：一个特殊y的置信区间第四十五页，共五十六页，编辑于2023年，星期五46预测分析：y0的预测区间第四十六页，共五十六页，编辑于2023年，星期五47预测分析：y0的预测区间第四十七页，共五十六页，编辑于2023年，星期五48有时，检验个体观测值来看它的因变量高于还是低于预测值是有用的。也就是，检验个体观测值的残差。残差分析第四十八页，共五十六页，编辑于2023年，星期五49残差分析例：将房价对一些可观测特点回归，得预测值，算出残差。残差为负则说明根据可观测因素房价偏低。负的程度最大值的大小说明我们还没有控制因素的重要程度。可为改值建立预测区间。第四十九页，共五十六页，编辑于2023年，星期五50

y=b0+b1x1+b2x2+...bkxk+u5.DummyVariables第五十页，共五十六页，编辑于2023年，星期五51虚拟变量虚拟变量是一个取值为1或0的变量。例:male(=1ifaremale,0otherwise),south(=1ifinthesouth,0otherwise),etc.虚变量也称二值变量。第五十一页，共五十六页，编辑于2023年，星期五52虚拟变量考虑只有一个解释变量(x)和一个虚拟变量(d)的简单模型。

y=b0+d0d+b1x+u

该模型可以看做是一个截距的变化。Thiscanbeinterpretedasaninterceptshift若d=0,则