计量经济学11.21

非线性回归模型 4 6 2020赵丽君Email 1824781927 主要内容 非线性单方程计量经济学概述可线性化的非线性模型问题对数模型 度量弹性半对数模型对数 线性模型 度量增长率线性 对数模型 解释变量为对数形式双曲线模型多项式模型不可线性化非线性模型问题零截距模型小结 问题的提出 到目前为止 前面介绍的内容都是一元或多元线性回归模型 即模型中的参数是线性的 变量也是线性的 总体多元线性回归方程 其中 Y 因变量 X2 X3 解释变量 u 随机扰动项B1 截距 表示了当X2 X3为零时Y的平均值 B2 B3 偏回归系数 上述考虑的回归模型关于参数是线性的 关于变量也是线性的 问题的提出 但是在实际经济活动中 经济变量的关系是复杂的 直接表现为线性关系的情况并不多见 例如 著名的Cobb Dauglas生产函数表现为幂函数曲线形式 宏观经济学中的菲利普斯曲线 Pillipscuves 表现为双曲线形式等 如用户对新产品的接受表现为0 1两点式函数形式 因而新产品市场的占有率函数曲线可能表现为logistic或probit曲线形式 参数线性 变量非线性的回归方程 参数非线性 变量线性的回归方程 非线性模型分类 非线性模型指的是关于参数或解释变量是非线性函数的模型 有些非线性模型通过一定的变换线性化 作为线性模型运用线性回归的方法进行计量经济学的处理 根据模型是否能够转化为线性模型 非线性模型又可以分为两大类 可线性化的非线性模型和不可线性化的非线性模型 可直接线性化的模型一般参数都是线性的 但变量不全是线性的 只要采用适当的变量代换 即可得到标准的线性模型 可间接线性化的模型通过简单的函数变换可以转化为变量非线性参数线性的线性模型 在通过变量代换转化为为标准的线性模型 另一类是无法通过函数转化为标准线性模型的模型 针对这类模型 还需要有一些特殊的转换途径或技巧 一 解释变量非线性问题 现实经济现象中变量之间往往呈现非线性关系成本与产量的关系税收与税率的关系在很多时候 自变量的变化与应变量并不是简单的线性关系 如考虑某一段时间内 某个经济变量增长率 如GDP增长率 货币供应 失业率等 这就需要引入回归模型的其他一些函数形式 但是 大部分非线性关系又可以通过一些简单的数学处理 使之化为数学上的线性关系 从而可以运用线性回归模型的理论方法 通过函数变化 变量置换就可以化为线性模型 5 1非线性回归模型 线性回归模型的系数解释 问题 消费与收入之间的线性回归模型C a b Y 其中回归系数b在 西方经济学 的含义是表示边际消费倾向 在此模型中的斜率仅仅给出了个人收入单位变动引起的消费的绝对量变化 如果我们考虑商品需求的价格弹性变化 如何建立回归模型 即研究这样的问题 价格每变化一个百分点 商品的需求量将引起多大的变化率 5 6 5 1双对数模型 度量弹性 5 1双对数模型 度量弹性 一元线性回归分析 例题如果假定总体变量关系为简单线性回归模型 5 1双对数模型 度量弹性 将上述线性模型改变为非线性回归模型 其中Y为工业总产值 X为能源消耗量 两边取对数将 5 7 变换为下列 5 8 形式 5 7 5 8 为了进行估计 可将模型 5 8 写成 5 9 形式 其中B1 lnA 5 9 模型 5 9 称为双对数 double log 模型或双对数线性 log linear 模型 5 10 模型 5 10 不仅关于参数是线性的 而且关于解释变量X 也是线性的 5 1双对数模型 度量弹性 双对数回归模型回归系数B2的经济含义表示了Y对X的弹性 即X的一个微小变动引起Y变动的百分比 如果用符号 Y代表Y的一个微小变动 X代表X的一个微小变动 弹性E定义为 5 11 如果Y代表了工业总产值 X代表了能源消耗量 E则为能源消耗的弹性系数 5 1双对数模型 度量弹性 a 价格 b 价格的对数 图形b的斜率就是价格弹性 B2的估计值 此为一常数 由于此特殊性质 双对数模型又称为不变弹性模型 5 1双对数模型 度量弹性 例子 利用双对数模型拟合的能源消耗量与工业总产值之间的关系 此时的回归系数即为能源消耗弹性系数 能源消耗量每增加一个百分点 工业总产值将增加1 142百分点 LOG INDUSTRY 0 9638 1 1420 LOG ENERGY se 0 063412 0 255350 t 18 00972 3 774381 p 0 000000 0 0021 r2 0 958F 324 3499 0 0000000 能耗与工业增加值取对数后的散点图 双对数回归模型 双对数模型的假设检验 LOG INDUSTRY 0 9638 1 1420 LOG ENERGY se 0 063412 0 255350 t 18 00972 3 774381 p 0 000000 0 0021 r2 0 958F 324 3499 p 0 0000000就假设检验而言 线性模型与双对数模型并没有什么不同 在随机误差服从正态分布 均值为0 方差为 2 的假设下 估计的回归系数服从正态分布 或者 如果用其无偏估计量代替 2 则每个估计量服从自由度为n k的t分布 其中k为包括截距在内的参数个数 Energy与Industry的相关图与其对数相关图几乎没有差别 5 2比较线性回归和双对数回归模型 5 2比较线性回归和双对数回归模型 问题 Energy与Industry之间究竟建立怎样的模型更为合适 是线性模型还是双对数模型 经济理论只表明它们之间是正相关的 并没给出具体的函数形式 如何选择模型 选择作图比较 图形表明具有明显的线性关系 那么就用线性模型 然后进行假设检验 若散点图是非线性的 则取双对数作散点图 但此方法不适合作多变量分析 注意不能用r2来判断是否用线性模型 因为 r2度量了解释变量对因变量变化的解释程度 由于模型不同 解释的对象也不同 所以不可比较 模型选择的重点不在r2上 而在解释变量之间的相关性 即理论基础 解释变量系数的预期符号 统计显著性以及类似弹性系数这样的度量工具 5 2比较线性回归和双对数回归模型 线性模型的斜率与弹性系数分别是 双对数模型的斜率与弹性系数分别是 线性模型由此定义的是点弹性 从数据角度来看 有很多个不同的点弹性 在实践中 LIV模型的弹性系数通常是用平均弹性系数来计算的 即数据重心 x和y的样本均值 的弹性 线性模型的弹性系数随着需求曲线上的不同点而变化 而双对数模型需求曲线上任何一点的弹性系数都是相同的 5 3多元对数线性回归模型 双变量对数线性模型可推广到多个解释变量的情形 模型中的偏斜率系数B2 B3又称为偏弹性系数 因此B2度量了X3不变条件下 Y对X2的弹性 即在X3为常量时 X2每变动1 Y变化的百分比 由于X3的影响保持不变 所以称此弹性为偏弹性 在多元对数线性模型中 每一个偏斜率系数度量了在其他变量保持不变的条件因变量对某一个解释变量的偏弹性 5 12 5 3多元对数线性回归模型 例子 柯布 道格拉斯生产函数 在 5 12 中Y表示产出 X2表示劳动投入 X3表示资本投入 它反映出劳动力和资本投入之间的关系函数 利用墨西哥1955 1974年实际GDP 就业和实际固定资本数据得到一个多元对数线性回归模型 5 12 5 3多元对数线性回归模型 例子 表实际GDP 就业人数 实际固定资本 墨西哥 5 3多元对数线性回归模型 例子 5 13 se 0 6062 0 1857 0 09343 t 2 73 1 83 9 06 p 0 014 0 085 0 000 R2 0 995F 1719 23 0 0000000 偏斜率系数0 3397度量了产出对劳动投入的弹性 即在资本投入保持不变的条件下 劳动投入每增加一个百分点 平均产出将增加34 类似地 在劳动投入保持不变的条件下 资本投入每增加一个百分点 产出将平均增加85 如果将两个弹性系数相加 得到一个重要的经济参数 规模报酬参数 它反映了产出对投入的比例变动 如果两个系数之和为1 则称规模报酬不变 如果两个系数之和大于1 则称规模报酬递增 如果两个系数之和小于1 则称规模报酬递减 在经济研究中经常需要关注增长率 例如GDP的年均增长率 人口增长率 消费增长率等 求人口增长率Y 考虑如下复利计算公式 货币 银行利息 人口经常使用的公式 5 4半对数模型 计算增长率模型 Y0 Y的初始值 Yt 第t期的Y值 r Y的复合增长率 5 14 将 5 14 取对数 得 5 14 5 15 5 16 5 17 5 17 即为半对数模型 B1和B2线性 因变量为对数形式 5 4半对数模型 计算增长率模型 1970 1999年美国人口增长率 5 4半对数模型 计算增长率模型例子 1970 1999年美国人口增长率 5 4半对数模型 计算增长率模型例子 1970 1999年美国人口增长率 回归方程 ln Usapop 5 317 0 0098 t 5 4半对数模型 计算增长率模型例子 1970 1999年美国人口增长率 回归方程 ln Usapop 5 317 0 0098 t模型解释 斜率0 0098表示 平均而言 logY 美国人口 的年增长率为0 0098 即以每年0 98 的速度增长 在半对数模型中 斜率度量了解释变量的绝对变化引起的Y的比例变动或相对变动 把此相对改变量乘以100 就得到增长率 对截距5 317的解释如下 b1 lnY0的估计值 5 317求反对数 得到Y0 203 7716 即当t 0时的人口数量 也就是1969年美国人口大约为2 04亿 5 4半对数模型 计算增长率模型例子 注意 B2 ln 1 r b2 B2的估计值 ln 1 r 所以 antilog b2 1 rr antilog b2 1由此得到的r是复合增长率 而前面求得的增长率是瞬时增长率 例如0 98 注意瞬时增长率与复合增长率之间的区别 一个是回归模型的系数B2 ln 1 r 瞬时增长率 另一个是r为复合增长率 5 4半对数模型 瞬时增长率与复合增长率 在研究增长模型时 为了计算简便 通常也考虑如下模型 Yt B1 B2 t ut 即Y对时间的回归 此类模型称为线性趋势模型 时间称为趋势变量 若上式斜率为正 则Y有向上趋势 若斜率为负 则Y有下降趋势 对美国人口按线性趋势模型重新进行回归 得到 Usapop 201 9727 2 3284 t 5 18 t 743 2718 152 1243 r2 0 9987回归结果表明 在样本区间内 美国人口每年以2 3284 百万 的绝对速度增长 美国人口呈上升趋势 截距表示了美国1969年的人口数量 202百万 实践中 线性趋势模型和增长模型应用的十分广泛 但相对而言 增长模型更有用些 人们通常关注的是经济变量的相对变化而不是绝对变化 比如GDP 货币M2等 5 2半对数模型 线性趋势模型 假定美联储很关注货币供给的变动对GNP的影响 考虑美国1973 1987年GNP与货币供给数据进行分析 考虑下列模型 Yt B1 B2 lnXt ut 5 19 其中Y为GNP X为货币供给 得到回归结果 Yt 16329 0 2584 8 lnXt 5 20 t 23 494 27 549 r2 0 9832由于对数变化是相对变化 因而模型 5 19 的斜率系数 式 5 22 表明 Y的绝对变化量 Y等于B2乘以X的相对变化量 若将后者乘以100 则式 5 22 给出了X每百分比变动引起的Y的绝对变化量 因而 若 X X每变化0 01个单位 则Y的绝对变化量为0 01B2 假如求得实际的B2 674 那么Y绝对变化量为0 01 674 6 74 5 5线性 对数模型 解释变量是对数形式 5 21 5 22 5 5线性 对数模型 解释变量是对数形式 美国GNP与货币供给 5 23 5 6倒数模型 从数学表达式上看倒数模型的特征是随着X的无限增大 1 Xi 趋于0 Y接近渐近值或极限值B1 因此当变量X无限大时 形如 5 23 的回归模型将逐渐靠近其渐近线或极值 5 23 5 6倒数模型 经济含义a 若Y表示生产的平均成本ATC 即总成本除以产出 X代表产出 则根据经济理论 当可变成本是产出的一次函数时 即边际可变成本为常数 随着产出的不断增加 ATC将逐渐降低 因为总固定成本不变 最终接近B1 边际可变成本 轴 B1 O Y X B1 0B2 0 5 23 5 6倒数模型 经济含义b Engel消费曲线 表明消费者在某一商品上的支出与其总收入或总消费支出的关系 若Y表示消费者在某一商品上的支出 X表示消费者的总收入 则该商品具有如下特征 1 收入有限 临界水平为 B2 B1 2 消费有一满足线B1 B1 O Y X B1 0B2 0 B2 B1 5 23 5 6倒数模型 经济含义c Phillips曲线 工资变化的百分比Y与失业率X之间的关系 当失业率低于UN时 工资随失业率单位变化而上升比失业率高于UN时工资随失业率单位变化下降得更快 B1 O Y X B10 UN 5 6倒数模型 经济含义c美国的菲利普斯曲线 5 6倒数模型 经济含义c美国的菲利普斯曲线 ThePhillipscurvefortheUnitedStates 1958 1969 a Reciprocalmodel b linearmodel 5 24 5 7多项式回归模型 生产与成本函数 上图描述了总成本TC对产出得函数以及相应得边际成本MC及平均成本AC曲线 根据价格理论 如果边际成本曲线与平均成本曲线为U线 则模型式 5 24 中得系数有如下先验值 1 B1 B2和B4均大于0 2 B3 0 4 B23 3B2 B4 O Y X TC MC AC 产出 成本 成本 产出 5 7多项式回归模型 生产与成本函数 Hypotheticalcost outputdata 上述模型关于变量非线性 但却是参数线性 一般来说 X的不同次方项之间可能相关 却不会完全共线 5 7多项式回归模型 拉弗曲线 例如 描述税收与税率关系的拉弗曲线 抛物线 s a br cr2其中 s 税收 r 税率c 0设X1 r X2 r2 则原方程变换为s a bX1 cX2c 0 例 吸烟与肺癌的关系 表9 9 二 不可以化为线性的包含参数非线性的非线性模型 不可以化为线性的包含参数非线性的问题 与前面的方程比较 哪种形式更合理 直接作为非线性模型更合理 5 8不可以化为线性的包含参数非线性的问题 如何求解非线性方程 非线性普通最小二乘法运用普通最小二乘原理 5 8不可以化为线性的包含参数非线性的问题 非线性最小二乘法得到的正规方程组是非线性方程组 很难求出显式解 没有现成的公式可以套用 只能通过试算法或初始值设置反复迭代 最终找到最接近目标的估计值 即迭代求解 搜索算法通过比较在一定规则下选取的参数值 计算他们的目标函数值 留下使目标参数值最小的参数值 并按规则不断补充直至选不出更好的参数值 迭代法通常先给出参数的初值 利用迭代法求得参数的估计值 如果达不到要求在重复迭代 直到估计值收敛 也就是最后迭代的估计值之间的差异小于事先给定的精度 所以 非线性最小二乘法求出的估计值只是一定精度下的近似解 5 8不可以化为线性的包含参数非线性的问题 1 高斯 牛顿 Gauss Newton 迭代法 原理 对原始模型展开台劳级数 取一阶近似值 构造并估计线性伪模型 构造线性模型 估计得到参数的第1次迭代值 迭代 5 8不可以化为线性的包含参数非线性的问题 高斯 牛顿迭代法的步骤 5 8不可以化为线性的包含参数非线性的问题 2 牛顿 拉夫森 Newton Raphson 迭代法 牛顿 拉夫森迭代法的原理对残差平方和展开台劳级数 取二阶近似值 对残差平方和的近似值求极值 迭代 与高斯 牛顿迭代法的区别直接对残差平方和展开台劳级数 而不是对其中的原模型展开 取二阶近似值 而不是取一阶近似值 5 8不可以化为线性的包含参数非线性的问题 应用中的一个困难如何保证迭代所逼近的是总体极小值 即最小值 而不是局部极小值 需要选择不同的初值 进行多次迭代求解 非线性普通最小二乘法在软件中的实现给定初值写出模型估计模型改变初值反复估计 5 8不可以化为线性的包含参数非线性的问题 5 25 5 9过原点的回归模型 此为过原点的回归 根据式 5 25 可以证明 5 26 5 27 5 28 5 9过原点的回归模型 过原点的回归模型与带截距项的线性模型存在若干差异 无截距模型使用了原始的平方和以及交叉乘积 而有截距模型则使用了均值调整后的平方和与交叉项 现在计算 2的自由度是n 1 而不是n 2 因为 5 25 式中只有一个参数 R2计算公式通常假定了模型中存在截距项 因此无截距模型不能使用这个公式 有截距模型的残差平方和 u e总为零 但无截距模型不一定为零 只有在充分理论保证下才能使用零截距模型 比如奥肯 Okun 定律和其他经济理论 5 9过原点的回归模型 奥肯定律为失业率的变动率 为实际阐述的增长率 GNP 2 5是对美国历史的观察得到的长期产出增长率奥肯定律说明 实际GNP的增长每超过2 5 一个百分