计量经济学多元线性回归.ppt

1 多元回归分析 Multiple Regression Analysis y = b0 + b1x1 + b2x2 + . . . bkxk + u 4.进一步的问题 2 本章大纲 n数据的测度单位换算对OLS统计量的影响 n对函数形式的进一步讨论 n拟合优度和回归元选择的进一步探讨 n预测和残差分析 3 课堂提纲 n重新定义变量的影响 n估计系数 nR 平方 nt 统计量 n函数形式 n对数函数形式 n含二次式的模型 n含交叉项的模型 4 重新定义变量 n为什么我们想这样做？ n数据测度单位变换经常被用于减少被估参数小数 点后的零的个数，这样结果更好看一些。 n既然这样做主要为了好看，我们希望本质的东西 不改变。 5 重新定义变量：一个例子 n以下模型反映了婴儿出生体重与孕妇吸烟量和家 庭收入之间的关系： (1) n考虑如下单位变换： (2) 出生体重单位由盎司变为磅 (3) 香烟的支数变为包数 n估计结果列于下表 6 Table 6.1 Y (column) (1) bwght(2)bwghtlbs(3) bwght X (rows) Cigs-0.4634 (0.0916) -0.0289 (0.0057) - Packs-9.268 (1.832) Faminc0.0927 (0.0292) 0.0058 (0.0018) 0.0927 (0.0292) Intercept116.794 (1.049) 7.3109 (0.0656) 116.974 (1.049) Observations138813881388 R-squared0.02980.02980.0298 SSR557,485.512177.5778557.485.51 SER20.0631.253920.063 7 改变被解释变量测度单位的影响 n因为1磅16盎司，被解释变量被除以16。 n比较第1列与第2列。 n(1)中被估参数/16 (2)中被估参数 n(1)中被估参数的标准差/16 (2)中被估参数的标准差 n(1)和(2)中 t 统计量相同 nR平方相同 n(1)中SSR/（16*16） (2)中SSR n(1)中SER(标准差)/16 (2)中SER 8 改变解释变量测度单位的影响 n现在香烟数量单位变为包。 n现在比较 第(1)列和第(3)列。 n变量faminc系数和截距项的估计值和其标准差分析同上 。 npacks的系数估计值和标准差变为20倍。 nt 统计量相同 nR平方相同 nSSR相同 nSER相同 9 重新定义变量 n改变变量y的测度单位会导致系数和标准差相应的改变， 所以解释变量系数显著性和对其解释没有改变。 n改变一个变量x的测度单位会导致该变量系数和标准差的 相应改变，所以所有解释变量显著性和对其解释没有改 变。 n如果被解释变量以对数形式出现，改变被解释变量度量 单位对任何斜率系数没有影响。 n来自log(cy)=log(c)+log(y)，改变y测度单位将改变截距 ，不改变斜率系数。 10 Beta系数 n考虑如下形式的样本回归方程： =200+20,000x1 +0.2x2 n我们能说x1是最重要的变量吗？ n现在，查看以下各个变量的单位： ny单位：美元 nx1单位：美分 nx2单位：千美元 11 Beta系数 n上例揭示了什么问题？ n被估计系数的大小是不可比较的。 n一个相关的问题是，当变量大小差别过大时，在 回归中因运算近似而导致的误差会比较大。 12 Beta系数 n有时，我们会看见“标准化系数”或“Beta系数”， 这些名称有着特殊的意义 n使用Beta系数是因为有时我们把y和各个x替换 为标准化版本也就是，减去均值后除以标准 离差。 n系数反映对于一单位x的标准离差的y的标准离差 。 13 Beta系数 14 Beta系数 15 例子 16 函数形式 nOLS也可以用在x和y不是严格线性的情况，通 过使用非线性方程，使得关于参数仍为线性。 n可以取x，y（一个或全部）的自然对数 n可以用x的平方形式 n可以用x的交叉项 17 对数模型的解释 n如果模型是 ln(y) = b0 + b1ln(x) + u nb1是y对于x的弹性 n如果模型是ln(y) = b0 + b1x + u nb1近似是，给定一单位x的改变，y的百分比变化 ，常被称为半弹性。 18 为什么使用对数模型？ n取对数后变量的斜率系数，不随变量测度单位 改变。 n如果回归元和回归子都取对数形式，斜率系数 给出对弹性的一个直接估计。 n对于y0的模型，条件分布经常偏斜或存在异 方差，而ln(y)就小多了，所以 nln(y)的分布窄多了，限制了异常（或极端）观 测值(outliers)的影响。 19 一些经验法则 n什么类型的变量经常用对数形式？ n肯定为正的钱数：工资，薪水，企业销售额和企业市 值。 n非常大的变量：如人口，雇员总数和学校注册人数等 。 n什么类型的变量经常用水平值形式？ n用年测量的变量：如教育年限，工作经历，任期年限 和年龄 n可以以水平值或对数形式出现的变量： n比例或百分比变量：失业率，养老保险金参与率等。 20 对数形式的限制 n一个变量取零或负值，则不能使用对数。 n如果y非负但可以取零，则有时使用log(1+y)。 n当数据并非多数为零时，使用log(1+y) 估计，并 且假定变量为log(y)，解释所得的估计值，是可 以接受的。 21 慎重使用对数形式 n注意到，当y取对数形式时，更难以预测 原变量的值，因为原模型允许我们预测 log(y)而不是y。 22 含二次式的模型 n对于形式为y = b0 + b1x + b2x2 + u的模型，我 们不能单独将b1解释为关于x，y变化的度量， 我们需要将b2也考虑进来，因为 23 n如果感兴趣的是，给定x的初始值和变动，预测y 的变化，那么可以直接使用（1）。 n一般来说，我们可以使用x的平均值，中值，或 上下四分位数来预测y，取决于我们感兴趣的问 题。 含二次式的模型 24 含二次式的模型 25 3.73 7.37 24.4exper wage 26 对含二次式模型的进一步讨论 n假如x的系数为正， x2的系数为负。 n那么，y首先随x上升而上升，但最终转向随x上 升而下降。 27 对含二次式模型的进一步讨论 n假如x的系数为负， x2的系数为正。 n那么，y首先随x上升而下降，但最终转向随x上 升而上升。 28 交叉项 n对于形式为y = b0 + b1x1 + b2x2 + b3x1x2 + u的模 型，我们不能单独将b1解释为关于x1，y变化的度 量，我们需要将b3也考虑进来，因为 拟合优度 n每一个观察值可被视为由解释部分和未解 释部分构成： n定义： nSST= SSE + SSR 29 30 拟合优度（续） 我们怎样衡量我们的样本回归线拟合样本数 据有多好呢？ 可以计算总平方和（SST）中被模型解释的 部分，称此为回归R2 w R2 = SSE/SST = 1 SSR/SST 31 更多关于R2 n当回归中加入另外的解释变量时，R2通常会 上升。 n如果OLS使此解释变量取任何非零系数，那 么加入此变量之后，SSR降低了。 n实际操作中，被估计系数精确取零是极其 罕见的，所以，当加入一个新解释变量后 ，一般来说，SSR会降低。 32 调整过的R2(The Adjusted R-squared) n因此， R2增加并不意味着加入新的变量一定 会提高模型拟合度。 n调整过的R2是R2一个修正版本，当加入新的 解释变量，调整过的R2不一定增加。 33 调整过的R2 n调整过的R2是1减去OLS残差的样本方差（修正 过自由度之后）与y的样本方差之比。 n调整过的R2的三个有用性质： n因为(n-1)/(n-k-1)1 ，所以调整过的R2总比R2小。 n加入一个解释变量有两个相反的效果。（1）SSR降 低导致调整过的R2增加。（2） (n-1)/(n-k-1) 增加导 致调整过的R2降低。 n调整过的R2可能是负的，发生在以下情况：所有解 释变量使残差平方和下降的太少，不足以抵消因子 (n-1)/(n-k-1)。 n R2只有在过原点回归中才可能为负。 34 比较R2和Adjusted R2 nR2和调整过的R2告诉我们，解释变量是否很好 地预测了，或“解释”了，手头数据中被解释变量 的值。 nR2和调整过的R2并没有告诉我们 n被包含变量是否统计显著 n解释变量是否是被解释变量变动的真正原因 n是否有遗漏变量偏误，或 n是否选取了最合适的解释变量组合 35 R2和Adjusted R2 n在决定某个变量是否应该被加入模型时，R2和 Adjusted R2并非理想的工具。 n决定一个解释变量是否属于模型的因素应该是 ，该解释变量在总体中对y的局部效应是否为 零。 36 拟合优度和解释变量选择的进一步探讨 nAdjusted R-Squared 37 n我们定义总体R2为：y的变异在总体中能被解释 变量解释的比例，为 n调整过的R2仍不是总体R2的一个无偏估计量，因 为两个无偏估计量的比例不是一个无偏估计量。 拟合优度和解释变量选择的进一步探讨 38 n调整过的R2最根本的吸引力，在于它对向模型 增加自变量的惩罚。 n如果我们向回归模型加入一个新的解释变量， 当且仅当新变量的t统计量的绝对值大于1时， 调整过的R2增加。 拟合优度和解释变量选择的进一步探讨 39 利用调整的R2在两个非嵌套模型中进行 选择 n如果两个模型中任何一个都不是另一个的特例， 则两个模型是非嵌套的。 nF统计量只允许我们检验嵌套的模型，因为有限 制的模型是无限制模型的特例。 n我们需要一些在无嵌套模型间进行选择的指导。 40 n当变量有不同函数形式时，通过比较调整过 的R2 ，在不同的解释变量的非嵌套组合中进 行选择，是颇有价值的。 n例如，一个模型是y= b0 + b1x1 + b2log(x2 ) ， 另一个是y= b0 + b1x1 +b2 x2+b3 x22 。 如果第一个模型调整过的R平方为0.3，而第 二个为0.6，我们倾向于选择第二个模型 利用调整的R2在两个非嵌套模型中进行 选择 41 n 调整过的R2的限制：我们不能利用它在 关于因变量函数形式不同的模型间进行 选择 利用调整的R2在两个非嵌套模型中进行 选择 42 预测分析：估计量 43 预测分析：标准差 44 预测分析：置信区间 45 预测分析：一个特殊y的置信区间 46 预测分析： y0的预测区间 47 预测分析： y0的预测区间 48 n有时，检验个体观测值来看它的因变量高 于还是低于预测值是有用的。 n也就是，检验个体观测值的残差。 残差分析 49 残差分析 n例：将房价对一些可观测特点回归，得预 测值，算出残差。残差为负则说明根据可 观测因素房价偏低。负的程度最大值的大 小说明我们还没有控制因素的重要程度。 可为改值建立预测区间。 50 y = b0 + b1x1 + b2x2 + . . . bkxk + u 5. Dummy Variables 51 虚拟变量 n 虚拟变量是一个取值为1或0的变量。 n例: male (= 1 if are male, 0 otherwise), south (= 1 if in the south, 0 otherwise), etc. n虚变量也称二值变量。 52 虚拟变量 n考虑只有一个解释变量(x)和一个虚拟变量(d)的 简单模型。 n y = b0 + d0d + b1x + u n 该模型可以看做是一个截距的变化。This can be interpreted as an intercept shift n若d = 0, 则 y = b0 + b1x + u n 若 d = 1, 则y = (b0 + d0) + b1x + u nd = 0组为基组。 53 Example of d0 0 x y d0 b0 y = (b0 + d0) + b1x y = b0 + b1x slope = b1 d = 0 d = 1 例1 日本1985-1995年水稻产量与耕种面积的 变化 年份产量（10万吨）Y耕种面积