回归模型的假设检验

1 第第 6 6 章章 回归模型的假设检验回归模型的假设检验 1 区间估计 基本概念 假设对消费函数回归分析之后 得出边际消费倾向的估计值为uYC 21 2 0 509 这是对未知的总体 MPC的一个单一的点估计 这个点估计可不可靠 虽然在重 2 复抽样中估计值的均值可能会等于真值 但由于抽样波动 单一估计值很可能 22 E 不同于真值 在统计学中 一个点估计量的可靠性有它的标准误差来衡量 因此 我们不能 完全依赖一个点估计值 而是围绕点估计量构造一个区间 比方说 在点估计量的两旁各划 出宽为 2 或 3 个标准误差的一个区间 使得它有 95 的概率包含着真实的参数值 这就是取 件估计的粗略概念 假定我们想知道宽竟 比方说 离有多 近 为了这个目的 试求两个正数和 2 2 使得随机区间包含的概率为 a10 a 22 2 a 1 1 a 1 Pr 222 如果存在这个区间 就称之为置信区间 称置信系数或置信度 称为显著水平 1 a a 置信区间的端点称临界值 上限和下限 0 05 0 01 比方说 1 式就可读为 试中的区间包含真实的的概率为 95 05 0 a 2 2 回归系数的置信区间 一元回归时 在的正态性假定下 OLS 估计量本身就是正态分布的 其均值和 i u 21 方差已随之列出 以为例 2 2 的方差 2 22 S Z 2 2 2 XX 这是一个标准化正态变量 因此 如果知道真实的总体方差已知 就可以利用正态分 2 布对作概率性表达 当已知时 以为均值 为方差的正态变量有一个重要性质 2 2 2 就是之间的面积约占 68 95 99 但是很少能知道 在现实中用无偏估计量来确定 用代替 2 可以改写为 2 2 3 2 22 S t 这样定义的 t 变量遵循自由度为 n 2 的 t 分布 用 t 分布来建立的置信区间 2 2 4 attt aa 1 Pr 2 2 t 是 3 给出的值 而由显著水平为 a 2 和自由度为 n 2 的 t 分布给出的临界值 3 2 a t 带入 4 得 5 at S t aa 1 Pr 2 2 22 2 重新整理 6 aStSt aa 1 Pr 22 2222 2 6 给出的是的一个 100的置信区间 在整理 2 1 a 7 22 2 Sta 假设通过回归分析求得 并且自由度 8 若求 0357 0 509 0 22 S05 0 a 也就是取 95 的置信系数 查找 t 分布表 2 306 可证实的 95 的置信区间为 05 0 8 t 2 8 5194 0 4268 0 2 再整理 0357 0 306 2 509 0 0823 0 509 0 对这个置信区间的解释是 给定置信系数为 95 从长远看 在类似于 0 4268 0 5194 的每 100 个区间中 将有 95 个包含着真实的值 但不能说 95 的 2 概率包含着真实的 因为这区间已经是固定的 不是随机的 要么落入其中要么落在其外 2 因此概率是不是 1 就是 0 3 假设检验 假设检验就是 某一给定的观测或发现是否与某声称的假设相符 1 置信区间的方法 利用上面的消费函数 某人称509 0 2 3 0 2 原假设 3 0 0 H 备择 替代 假设 双侧假设3 0 1 H 所观测的是否与相符 为了回答此问题 引用 8 的置信区间 从长远看 在 2 0 H 类似于 0 4268 0 5194 的每 100 个区间中 将有 95 个包含着真实的值 2 3 决策法则 构造一个的 100 1 a 的置信区间 如果在假设的下落如此区 2 2 0 H 间 就不要拒绝 如果他落在在此区间之外就要拒绝 0 H 0 H 遵照此规则 显然落在上面的置信区间之外 因此能以 95 的置信度拒3 0 0 H 绝 MPC 的真值是 0 3 的假设 即使原假设是正确的 我们得到一个大到 0 509 的 MPC 值 最多也只有 5 的机会 这是一个小概率 在统计学中 当我们拒绝原假设时 我们说统计上显著的 反之不显著 2 显著性检验法 显著性检验法是利用样本结果 来证实一个原假设的真伪的一种检验程序 根据手中算 出的统计量的值决定是否接受原假设 9 2 2 2 S t 其中是在下的的值 遵循自由度为 n 2 的 t 分布 如果原假设下的真值被 2 0 H 2 2 设定 则容易的算出 t 值 因此这个 t 变量就可作为一个统计量 置信区间为 10 at S t aa 1 Pr 2 2 2 2 2 10 再整理得 11 aStSt aa 1 Pr 22 2 222 2 此式给出在给定时 以概率 1 a 的落入其中的区间 11 中的置信区间叫 22 2 做接受域 而置信区间以外的区域叫做拒绝域 比较 6 和 11 就能看清假设检验的置信区间法和显著性检验之间的密切关系 在置 信区间程序中 我们试图建立一个某种概率包含有真实但未知的的一个范围或区间 而在 2 显著性检验步骤中 我们假设为某值 然后来看所计算的是否位于该假设值周围的某 2 2 个致信范围之内 再回到消费函数 并且自由度 8 若求 也就0357 0 509 0 22 S05 0 a 是取 95 的置信系数 查找 t 分布表 2 306 若令 05 0 8 t3 0 220 H 4 3 0 1 H 由 11 95 0 3823 0 2177 0 Pr 2 下图所示 因预测的落在临界域中 故拒绝真实的原假设 2 3 0 在原假设下的 95 置信区间3 0 2 在现实中 不需要估计 11 按 10 计算 t 值 然后看他是落在两个 t 临界值之间还 是之外 用例子算 86 5 0357 0 3 0509 0 t t 值清楚地落在图的临界域内 拒绝 0 H 如果一个统计量的值落在临界域内这个统计量是统计上是显著的 这时我们拒绝原假设 5 一 一 t t 值值 t 值是用来检验根据 OLS 估计出来的回归系数是否显著的统计量 回归系数在统计学上 如果被判断不为零 就是显著的 如果回归系数是不显著的 回归系数 0 则意味着解释 变量对被解释变量没有任何影响 该变量在模型中没有存在的必要 一 一 一元回归模型 一元回归模型 模型 uxay 设有 OLS 估计出的分别为 a a 步骤步骤 1 1 估计残差方差 残差的无偏方差 2 s 2 2 2 n u syyu 的正平方根 称做回归方程的标准误差 2 ss 步骤步骤 2 2 估计的方差 a 22 22 2 22 2 xxn xs xxn xs sa 22 2 2 2 2 xxn ns xx s s 方差表示的是相应的离散程度 步骤步骤 3 3 计算回归系数的标准误差 2 aa ss 6 2 ss 现在假设为真正的回归系数 他们与估计的回归系数之间的误差 即 a aaa 超过的概率在 5 一下 超过的可能性非常小 2 2ssa 3 3ssa 步骤步骤 4 4 计算 t 值 a a s a t 回帰係数 標準誤差 回帰係数 推定値 s t 步骤步骤 5 5 对估计出来的回归系数进行显著性检验 t 检验 a t 检验有双侧检验与单侧检验两种 说明双侧检验 首先 建立原假设与备择假设 原假设 0 0 H 备择 替代 假设 0 1 H 计量经济分析中通常希望通过放弃原假设 支持备择假设来进行假设检验 假设检验在 原假设被拒绝时有意义 而且为拒绝原假设而进行假设检验 由步骤 4 计算出来的 t 值服从自由度 n 2 因此 可以根据 t 分布表进行显著性检验 计 算出来的 t 值的绝对值大于 t 分布表中找到的 t 值 则放弃原假设 估计的回归系数显著 这时 显著性水平一般采用 5 其次采取 1 显著性水平即拒绝原假设的情况下 仍认为 接受原假设的概率 分析者出现错误判断的概率 放弃表示的是 如果原假设为正确地话 在 5 1 的概率下所发生的稀奇的事发生 说明原假设不能信赖 样本数如果达到一定程度 即自由度 28 以上 t 值只要大于 2 0 计量经济学30n 家就习惯于将回归系数判定为显著 但是样本数很少 即使判定之在 2 0 以上 也不要使用 这一规则 在单侧检验中 符号条件既定时备择假设为 1 H0 0 二 多元回归 模型 uXXaY 2211 求估计值 步骤 1 估计残差方差 2 s 3n u s 2 2 7 步骤 2 估计回归系数的方差 步骤 3 标准误差 步骤 4 计算 t 值 a a s a t 1 1 1 s t 2 2 2 s t 步骤 5 显著性检验 例题例题 1 1 根据一元回归模型的结果 回答以下问题 括号中的数值是 t 值 uxay 224X 1 107 14Y 7 751 20 166 12n 976 0 R 2 1 按 5 的显著性水平 对回归系数进行显著性检验 2 求和的 95 的置信区间 a 解答 1 T 检验的自由度为 根据 t 分布表 双侧检验中显著性1011121kn 水平为 5 自由度为 10 的判定值为 2 228 因此 228 2 166 20t 228 2 751 7 t 原假设被放弃 估计的回归系数在 5 水平上显著 0 0a H 0 2 设的估计值为 标准误差为 的 95 的 和a a 061 0 s 863 1 s a 和a 置信区间为 t 分布表双侧检验中 5 显著性水平上自由度 n 2 的判定值 a a s t 分布表双侧检验中 5 显著性水平上自由度 n 2 的判定值 s 因此 的 95 的置信区间为a 14 1072 2281 863 9 956 18 258 的 95 的置信区间为 1 2242 2280 061 1 088 1 360 这就是说 分析者对于处于 9 956 18 258 之间 处于 1 088 1 360 之间的事 具a 有 95 的把握 例题例题 2 2 8 1 对进出口函数的回归系数进行 OLS 估计 这里 uXaY a0 2 计算决定系数 2 R 3 计算残差方差和回归方差的标准误差 4 计算回归系数的标准误差 5 计算 t 值 并在 1 的水平下 对回归系数进行显著性检验 解答 1 81513 2 608 30326 13 1146 60858919 13 X Xn YXXYn 222 50761 43 13 608 81513 2 1146 n X Y a 因此 新加坡的进出口函数为 81513X 2 50761 43Y 边际进口倾向为 2 81513 即每一单位 GDP 的增加 相应的有 2 8 单位进口额的增加 由此可见 先加坡经济的特征之一是贸易依存度极高 2 决定系数 9874 0 Y Yn X Xn Y X XYn R 2222 2 2 估计出的进出口函数的拟合度非常良好 3 求残差方差 37157 17 213 087 191 2n u s 2 2 16792 4 ss 2 4 计算回归系数的方差和标准误差 4377 21 X Xn Xs s 22 22 a 2 6301 4 s a 00918981 0 X Xn ns s 22 2 2 095864 0 s 5 求 t 值 397 9 6301 4 4 5076 43 s a t a a 9 366 29 095864 0 8151 2 s t T 检验的自由度为 1111131kn 为双侧检验 另一方面由于存在这一符号条件 为单侧检验 a t t0 106 3 397 9 t a 718 2 366 29t 放弃原假设 估计出来的回归系数在 1 水平上显著 0 0a H0 二 二 F F 值值 T 检验用于单个回归系数的显著性 而 F 值是在多元回归中对多个回归系数进行综合检 验 F 检验 时采用的 F 检验也称为决定系数或重相关系数 R 的显著性检验 2 R 步骤步骤 1 1 建立原假设和备择假设 建立原假设和备择假设 原假设 常数项以外的所有的回归系数为零 H0 备择假设 不成立 H1 0 H 原假设被放弃 可以判断解释变量的全部或部分对被解释变量有影响 但是 哪一个解 释变量是有效的还无法判定 步骤步骤 2 2 计算 计算 F F 值值 k 1kn R1 R 1kn u k YY 1 变变 变 变变 变 F 2 2 2 2 量数解本数 残差平方和 量数解 平方和回 步骤 3 计算出来的 F 值 服从自由度 分子 分母 的 F 分布 计算出 1kn k 的 F 值大于判定值 放弃原假设 结果为显著 在 F 分布表中 横向为分子 纵向为分母 例题例题 有 10 个家庭的月均储蓄 Y 月收入 X1 家庭人数 X2的数据 用多元回归模型 进行 OLS 估计得出 求 F 值 并对估计出的回uXXaY 2211 98358 0 R 2 归系数的显著性进行综合检验 显著性水平设为 1 解答 7 209 2 1210 98358 0 1 98358 0 k 1kn R1 R F 2 2 10 根据分布表 1 显著性水平 F 自由度 分子 分母 的 F 检验 71kn 2k 的判定值 F0 9 55 估计出来的 F 值大于临界值 因此放弃原假设 可见解释变量全部或部 分对 Y 有影响 三 结构变化的三 结构变化的 F F 检验检验 结构变化的 F 检验 也成为 Chow test 用于调查 检验经济分析中一个极其重要的问 题 即 是否存在结构变化 步骤步骤 1 1 在利用时间序列所做的回归分析中 找出估算期间内发生结构变化的时点 分 界点 以此时点为标准 将期间分为前期和后期 步骤步骤 2 2 对前期 后期 全部期间进行回归分析 求各自的残差平方和 RSRSSSRS 2S 1 步骤步骤 3 3 根据结构变化的 F 检验公式 计算 F 值 前期的残差平方和 前期的样本数 1SSR 1 n 后期的残差平房和 后期的样本数 2SSR 2 n 全部期间的残差平方和 解释变量的数 SRR k 1 的情形 1 1 21 knkn 结构变化的 F 检验为 1 1 2 2S1 21S 21 k knn RSSSR SSRRSSSR F 2 的情形