计量经济学多元线性回归.ppt

1,多元回归分析 Multiple Regression Analysis,y = b0 + b1x1 + b2x2 + . . . bkxk + u 4.进一步的问题,2,本章大纲,数据的测度单位换算对OLS统计量的影响 对函数形式的进一步讨论 拟合优度和回归元选择的进一步探讨 预测和残差分析,3,课堂提纲,重新定义变量的影响 估计系数 R 平方 t 统计量 函数形式 对数函数形式 含二次式的模型 含交叉项的模型,4,重新定义变量,为什么我们想这样做？ 数据测度单位变换经常被用于减少被估参数小数点后的零的个数，这样结果更好看一些。 既然这样做主要为了好看，我们希望本质的东西不改变。,5,重新定义变量：一个例子,以下模型反映了婴儿出生体重与孕妇吸烟量和家庭收入之间的关系： (1) 考虑如下单位变换： (2) 出生体重单位由盎司变为磅 (3) 香烟的支数变为包数 估计结果列于下表,6,Table 6.1,7,改变被解释变量测度单位的影响,因为1磅16盎司，被解释变量被除以16。 比较第1列与第2列。 (1)中被估参数/16 (2)中被估参数 (1)中被估参数的标准差/16 (2)中被估参数的标准差 (1)和(2)中 t 统计量相同 R平方相同 (1)中SSR/（16*16） (2)中SSR (1)中SER(标准差)/16 (2)中SER,8,改变解释变量测度单位的影响,现在香烟数量单位变为包。 现在比较 第(1)列和第(3)列。 变量faminc系数和截距项的估计值和其标准差分析同上。 packs的系数估计值和标准差变为20倍。 t 统计量相同 R平方相同 SSR相同 SER相同,9,重新定义变量,改变变量y的测度单位会导致系数和标准差相应的改变，所以解释变量系数显著性和对其解释没有改变。 改变一个变量x的测度单位会导致该变量系数和标准差的相应改变，所以所有解释变量显著性和对其解释没有改变。 如果被解释变量以对数形式出现，改变被解释变量度量单位对任何斜率系数没有影响。 来自log(cy)=log(c)+log(y)，改变y测度单位将改变截距，不改变斜率系数。,10,Beta系数,考虑如下形式的样本回归方程： =200+20,000x1 +0.2x2 我们能说x1是最重要的变量吗？ 现在，查看以下各个变量的单位： y单位：美元 x1单位：美分 x2单位：千美元,11,Beta系数,上例揭示了什么问题？ 被估计系数的大小是不可比较的。 一个相关的问题是，当变量大小差别过大时，在回归中因运算近似而导致的误差会比较大。,12,Beta系数,有时，我们会看见“标准化系数”或“Beta系数”，这些名称有着特殊的意义 使用Beta系数是因为有时我们把y和各个x替换为标准化版本也就是，减去均值后除以标准离差。 系数反映对于一单位x的标准离差的y的标准离差。,13,Beta系数,14,Beta系数,15,例子,16,函数形式,OLS也可以用在x和y不是严格线性的情况，通过使用非线性方程，使得关于参数仍为线性。 可以取x，y（一个或全部）的自然对数 可以用x的平方形式 可以用x的交叉项,17,对数模型的解释,如果模型是 ln(y) = b0 + b1ln(x) + u b1是y对于x的弹性 如果模型是ln(y) = b0 + b1x + u b1近似是，给定一单位x的改变，y的百分比变化，常被称为半弹性。,18,为什么使用对数模型？,取对数后变量的斜率系数，不随变量测度单位改变。 如果回归元和回归子都取对数形式，斜率系数给出对弹性的一个直接估计。 对于y0的模型，条件分布经常偏斜或存在异方差，而ln(y)就小多了，所以 ln(y)的分布窄多了，限制了异常（或极端）观测值(outliers)的影响。,19,一些经验法则,什么类型的变量经常用对数形式？ 肯定为正的钱数：工资，薪水，企业销售额和企业市值。 非常大的变量：如人口，雇员总数和学校注册人数等。 什么类型的变量经常用水平值形式？ 用年测量的变量：如教育年限，工作经历，任期年限和年龄 可以以水平值或对数形式出现的变量： 比例或百分比变量：失业率，养老保险金参与率等。,20,对数形式的限制,一个变量取零或负值，则不能使用对数。 如果y非负但可以取零，则有时使用log(1+y)。 当数据并非多数为零时，使用log(1+y) 估计，并且假定变量为log(y)，解释所得的估计值，是可以接受的。,21,慎重使用对数形式,注意到，当y取对数形式时，更难以预测原变量的值，因为原模型允许我们预测log(y)而不是y。,22,含二次式的模型,对于形式为y = b0 + b1x + b2x2 + u的模型，我们不能单独将b1解释为关于x，y变化的度量，我们需要将b2也考虑进来，因为,23,如果感兴趣的是，给定x的初始值和变动，预测y的变化，那么可以直接使用（1）。 一般来说，我们可以使用x的平均值，中值，或上下四分位数来预测y，取决于我们感兴趣的问题。,含二次式的模型,24,含二次式的模型,25,3.73,7.37,24.4,exper,wage,26,对含二次式模型的进一步讨论,假如x的系数为正， x2的系数为负。 那么，y首先随x上升而上升，但最终转向随x上升而下降。,27,对含二次式模型的进一步讨论,假如x的系数为负， x2的系数为正。 那么，y首先随x上升而下降，但最终转向随x上升而上升。,28,交叉项,对于形式为y = b0 + b1x1 + b2x2 + b3x1x2 + u的模型，我们不能单独将b1解释为关于x1，y变化的度量，我们需要将b3也考虑进来，因为,拟合优度,每一个观察值可被视为由解释部分和未解释部分构成： 定义： SST= SSE + SSR,29,30,拟合优度（续）,我们怎样衡量我们的样本回归线拟合样本数据有多好呢？ 可以计算总平方和（SST）中被模型解释的部分，称此为回归R2 R2 = SSE/SST = 1 SSR/SST,31,更多关于R2,当回归中加入另外的解释变量时，R2通常会上升。 如果OLS使此解释变量取任何非零系数，那么加入此变量之后，SSR降低了。 实际操作中，被估计系数精确取零是极其罕见的，所以，当加入一个新解释变量后，一般来说，SSR会降低。,32,调整过的R2(The Adjusted R-squared),因此， R2增加并不意味着加入新的变量一定会提高模型拟合度。 调整过的R2是R2一个修正版本，当加入新的解释变量，调整过的R2不一定增加。,33,调整过的R2,调整过的R2是1减去OLS残差的样本方差（修正过自由度之后）与y的样本方差之比。 调整过的R2的三个有用性质： 因为(n-1)/(n-k-1)1 ，所以调整过的R2总比R2小。 加入一个解释变量有两个相反的效果。（1）SSR降低导致调整过的R2增加。（2） (n-1)/(n-k-1) 增加导致调整过的R2降低。 调整过的R2可能是负的，发生在以下情况：所有解释变量使残差平方和下降的太少，不足以抵消因子(n-1)/(n-k-1)。 R2只有在过原点回归中才可能为负。,34,比较R2和Adjusted R2,R2和调整过的R2告诉我们，解释变量是否很好地预测了，或“解释”了，手头数据中被解释变量的值。 R2和调整过的R2并没有告诉我们 被包含变量是否统计显著 解释变量是否是被解释变量变动的真正原因 是否有遗漏变量偏误，或 是否选取了最合适的解释变量组合,35,R2和Adjusted R2,在决定某个变量是否应该被加入模型时，R2和Adjusted R2并非理想的工具。 决定一个解释变量是否属于模型的因素应该是，该解释变量在总体中对y的局部效应是否为零。,36,拟合优度和解释变量选择的进一步探讨,Adjusted R-Squared,37,我们定义总体R2为：y的变异在总体中能被解释变量解释的比例，为 调整过的R2仍不是总体R2的一个无偏估计量，因为两个无偏估计量的比例不是一个无偏估计量。,拟合优度和解释变量选择的进一步探讨,38,调整过的R2最根本的吸引力，在于它对向模型增加自变量的惩罚。 如果我们向回归模型加入一个新的解释变量，当且仅当新变量的t统计量的绝对值大于1时，调整过的R2增加。,拟合优度和解释变量选择的进一步探讨,39,利用调整的R2在两个非嵌套模型中进行选择,如果两个模型中任何一个都不是另一个的特例，则两个模型是非嵌套的。 F统计量只允许我们检验嵌套的模型，因为有限制的模型是无限制模型的特例。 我们需要一些在无嵌套模型间进行选择的指导。,40,当变量有不同函数形式时，通过比较调整过的R2 ，在不同的解释变量的非嵌套组合中进行选择，是颇有价值的。 例如，一个模型是y= b0 + b1x1 + b2log(x2 ) ， 另一个是y= b0 + b1x1 +b2 x2+b3 x22 。 如果第一个模型调整过的R平方为0.3，而第二个为0.6，我们倾向于选择第二个模型,利用调整的R2在两个非嵌套模型中进行选择,41,调整过的R2的限制：我们不能利用它在关于因变量函数形式不同的模型间进行选择,利用调整的R2在两个非嵌套模型中进行选择,42,预测分析：估计量,43,预测分析：标准差,44,预测分析：置信区间,45,预测分析：一个特殊y的置信区间,46,预测分析： y0的预测区间,47,预测分析： y0的预测区间,48,有时，检验个体观测值来看它的因变量高于还是低于预测值是有用的。 也就是，检验个体观测值的残差。,残差分析,49,残差分析,例：将房价对一些可观测特点回归，得预测值，算出残差。残差为负则说明根据可观测因素房价偏低。负的程度最大值的大小说明我们还没有控制因素的重要程度。可为改值建立预测区间。,50,y = b0 + b1x1 + b2x2 + . . . bkxk + u 5. Dummy Variables,51,虚拟变量,虚拟变量是一个取值为1或0的变量。 例: male (= 1 if are male, 0 otherwise), south (= 1 if in the south, 0 otherwise), etc. 虚变量也称二值变量。,52,虚拟变量,考虑只有一个解释变量(x)和一个虚拟变量(d)的简单模型。 y = b0 + d0d + b1x + u 该模型可以看做是一个截距的变化。This can be interpreted as an intercept shift 若d = 0, 则 y = b0 + b1x + u 若 d = 1, 则y = (b0 + d0) + b1x + u d = 0组为基组。,53,Exa