计量经济学多元线性回归.ppt

1 多元回归分析MultipleRegressionAnalysis y b0 b1x1 b2x2 bkxk u4 进一步的问题 2 本章大纲 数据的测度单位换算对OLS统计量的影响对函数形式的进一步讨论拟合优度和回归元选择的进一步探讨预测和残差分析 3 课堂提纲 重新定义变量的影响估计系数R平方t统计量函数形式对数函数形式含二次式的模型含交叉项的模型 4 重新定义变量 为什么我们想这样做 数据测度单位变换经常被用于减少被估参数小数点后的零的个数 这样结果更好看一些 既然这样做主要为了好看 我们希望本质的东西不改变 5 重新定义变量 一个例子 以下模型反映了婴儿出生体重与孕妇吸烟量和家庭收入之间的关系 1 考虑如下单位变换 2 出生体重单位由盎司变为磅 3 香烟的支数变为包数估计结果列于下表 6 Table6 1 7 改变被解释变量测度单位的影响 因为1磅 16盎司 被解释变量被除以16 比较第1列与第2列 1 中被估参数 16 2 中被估参数 1 中被估参数的标准差 16 2 中被估参数的标准差 1 和 2 中t统计量相同R平方相同 1 中SSR 16 16 2 中SSR 1 中SER 标准差 16 2 中SER 8 改变解释变量测度单位的影响 现在香烟数量单位变为包 现在比较第 1 列和第 3 列 变量faminc系数和截距项的估计值和其标准差分析同上 packs的系数估计值和标准差变为20倍 t统计量相同R平方相同SSR相同SER相同 9 重新定义变量 改变变量y的测度单位会导致系数和标准差相应的改变 所以解释变量系数显著性和对其解释没有改变 改变一个变量x的测度单位会导致该变量系数和标准差的相应改变 所以所有解释变量显著性和对其解释没有改变 如果被解释变量以对数形式出现 改变被解释变量度量单位对任何斜率系数没有影响 来自log cy log c log y 改变y测度单位将改变截距 不改变斜率系数 10 Beta系数 考虑如下形式的样本回归方程 200 20 000 x1 0 2x2我们能说x1是最重要的变量吗 现在 查看以下各个变量的单位 y单位 美元x1单位 美分x2单位 千美元 11 Beta系数 上例揭示了什么问题 被估计系数的大小是不可比较的 一个相关的问题是 当变量大小差别过大时 在回归中因运算近似而导致的误差会比较大 12 Beta系数 有时 我们会看见 标准化系数 或 Beta系数 这些名称有着特殊的意义使用Beta系数是因为有时我们把y和各个x替换为标准化版本 也就是 减去均值后除以标准离差 系数反映对于一单位x的标准离差的y的标准离差 13 Beta系数 14 Beta系数 15 例子 16 函数形式 OLS也可以用在x和y不是严格线性的情况 通过使用非线性方程 使得关于参数仍为线性 可以取x y 一个或全部 的自然对数可以用x的平方形式可以用x的交叉项 17 对数模型的解释 如果模型是ln y b0 b1ln x ub1是y对于x的弹性如果模型是ln y b0 b1x ub1近似是 给定一单位x的改变 y的百分比变化 常被称为半弹性 18 为什么使用对数模型 取对数后变量的斜率系数 不随变量测度单位改变 如果回归元和回归子都取对数形式 斜率系数给出对弹性的一个直接估计 对于y 0的模型 条件分布经常偏斜或存在异方差 而ln y 就小多了 所以ln y 的分布窄多了 限制了异常 或极端 观测值 outliers 的影响 19 一些经验法则 什么类型的变量经常用对数形式 肯定为正的钱数 工资 薪水 企业销售额和企业市值 非常大的变量 如人口 雇员总数和学校注册人数等 什么类型的变量经常用水平值形式 用年测量的变量 如教育年限 工作经历 任期年限和年龄可以以水平值或对数形式出现的变量 比例或百分比变量 失业率 养老保险金参与率等 20 对数形式的限制 一个变量取零或负值 则不能使用对数 如果y非负但可以取零 则有时使用log 1 y 当数据并非多数为零时 使用log 1 y 估计 并且假定变量为log y 解释所得的估计值 是可以接受的 21 慎重使用对数形式 注意到 当y取对数形式时 更难以预测原变量的值 因为原模型允许我们预测log y 而不是y 22 含二次式的模型 对于形式为y b0 b1x b2x2 u的模型 我们不能单独将b1解释为关于x y变化的度量 我们需要将b2也考虑进来 因为 23 如果感兴趣的是 给定x的初始值和变动 预测y的变化 那么可以直接使用 1 一般来说 我们可以使用x的平均值 中值 或上下四分位数来预测y 取决于我们感兴趣的问题 含二次式的模型 24 含二次式的模型 25 3 73 7 37 24 4 exper wage 26 对含二次式模型的进一步讨论 假如x的系数为正 x2的系数为负 那么 y首先随x上升而上升 但最终转向随x上升而下降 27 对含二次式模型的进一步讨论 假如x的系数为负 x2的系数为正 那么 y首先随x上升而下降 但最终转向随x上升而上升 28 交叉项 对于形式为y b0 b1x1 b2x2 b3x1x2 u的模型 我们不能单独将b1解释为关于x1 y变化的度量 我们需要将b3也考虑进来 因为 拟合优度 每一个观察值可被视为由解释部分和未解释部分构成 定义 SST SSE SSR 29 30 拟合优度 续 我们怎样衡量我们的样本回归线拟合样本数据有多好呢 可以计算总平方和 SST 中被模型解释的部分 称此为回归R2R2 SSE SST 1 SSR SST 31 更多关于R2 当回归中加入另外的解释变量时 R2通常会上升 如果OLS使此解释变量取任何非零系数 那么加入此变量之后 SSR降低了 实际操作中 被估计系数精确取零是极其罕见的 所以 当加入一个新解释变量后 一般来说 SSR会降低 32 调整过的R2 TheAdjustedR squared 因此 R2增加并不意味着加入新的变量一定会提高模型拟合度 调整过的R2是R2一个修正版本 当加入新的解释变量 调整过的R2不一定增加 33 调整过的R2 调整过的R2是1减去OLS残差的样本方差 修正过自由度之后 与y的样本方差之比 调整过的R2的三个有用性质 因为 n 1 n k 1 1 所以调整过的R2总比R2小 加入一个解释变量有两个相反的效果 1 SSR降低导致调整过的R2增加 2 n 1 n k 1 增加导致调整过的R2降低 调整过的R2可能是负的 发生在以下情况 所有解释变量使残差平方和下降的太少 不足以抵消因子 n 1 n k 1 R2只有在过原点回归中才可能为负 34 比较R2和AdjustedR2 R2和调整过的R2告诉我们 解释变量是否很好地预测了 或 解释 了 手头数据中被解释变量的值 R2和调整过的R2并没有告诉我们被包含变量是否统计显著解释变量是否是被解释变量变动的真正原因是否有遗漏变量偏误 或是否选取了最合适的解释变量组合 35 R2和AdjustedR2 在决定某个变量是否应该被加入模型时 R2和AdjustedR2并非理想的工具 决定一个解释变量是否属于模型的因素应该是 该解释变量在总体中对y的局部效应是否为零 36 拟合优度和解释变量选择的进一步探讨 AdjustedR Squared 37 我们定义总体R2为 y的变异在总体中能被解释变量解释的比例 为调整过的R2仍不是总体R2的一个无偏估计量 因为两个无偏估计量的比例不是一个无偏估计量 拟合优度和解释变量选择的进一步探讨 38 调整过的R2最根本的吸引力 在于它对向模型增加自变量的惩罚 如果我们向回归模型加入一个新的解释变量 当且仅当新变量的t统计量的绝对值大于1时 调整过的R2增加 拟合优度和解释变量选择的进一步探讨 39 利用调整的R2在两个非嵌套模型中进行选择 如果两个模型中任何一个都不是另一个的特例 则两个模型是非嵌套的 F统计量只允许我们检验嵌套的模型 因为有限制的模型是无限制模型的特例 我们需要一些在无嵌套模型间进行选择的指导 40 当变量有不同函数形式时 通过比较调整过的R2 在不同的解释变量的非嵌套组合中进行选择 是颇有价值的 例如 一个模型是y b0 b1x1 b2log x2 另一个是y b0 b1x1 b2x2 b3x22 如果第一个模型调整过的R平方为0 3 而第二个为0 6 我们倾向于选择第二个模型 利用调整的R2在两个非嵌套模型中进行选择 41 调整过的R2的限制 我们不能利用它在关于因变量函数形式不同的模型间进行选择 利用调整的R2在两个非嵌套模型中进行选择 42 预测分析 估计量 43 预测分析 标准差 44 预测分析 置信区间 45 预测分析 一个特殊y的置信区间 46 预测分析 y0的预测区间 47 预测分析 y0的预测区间 48 有时 检验个体观测值来看它的因变量高于还是低于预测值是有用的 也就是 检验个体观测值的残差 残差分析 49 残差分析 例 将房价对一些可观测特点回归 得预测值 算出残差 残差为负则说明根据可观测因素房价偏低 负的程度最大值的大小说明我们还没有控制因素的重要程度 可为改值建立预测区间 50 y b0 b1x1 b2x2 bkxk u5 DummyVariables 51 虚拟变量 虚拟变量是一个取值为1或0的变量 例 male 1ifaremale 0otherwise south 1ifinthesouth 0otherwise etc 虚变量也称二值变量 52 虚拟变量 考虑只有一个解释变量 x 和一个虚拟变量 d 的简单模型 y b0 d0d b1x u该模型可以看做是一个截距的变化 Thiscanbeinterpretedasaninterceptshift若d 0 则y b0 b1x u若d 1 则y b0 d0 b1x ud