第三章回归诊断(1)

第三章回归诊断及处理方法 主要内容 异方差的产生原因 后果 诊断方法以及处理方法 自相关的产生原因 后果 诊断方法以及处理方法 多重共线性的产生原因 后果 诊断方法以及处理方法 一 异方差问题及其处理 异方差产生的经济背景异方差的影响异方差诊断方法异方差的处理 一 异方差产生的经济背景 异方差 heteroscedasticity 一 异方差产生的经济背景 收入与消费CD生产函数 一 异方差产生的经济背景 随解释变量数值的变化 随机因素影响的力度不同遗漏重要的解释变量 二 异方差的影响 1 最小二乘估计不再具有最小方差的优良性2 将使得回归系数标准差的估计失准 使得t检验失效3 SSR n k 1 不再是随机误差方差的无偏估计 从而使得F检验失效 二 异方差的影响 以一元线性回归模型为例 二 异方差的影响 普通最小二乘的标准误估计存在异方差时真实的标准误 二 异方差的影响 普通最小二乘的t统计量如果分母并非真正的标准误 那么该统计量也不会服从t分布 二 异方差的影响 在OLS中 估计随机误差项的方差采用如下公式 如果存在异方差 该公式将不再合适 二 异方差的影响 二 异方差的影响 二 异方差的影响 正规的分析 二 异方差的影响 同方差时的估计量 异方差时的估计量 异方差下错误的估计量 二 异方差的影响 可以证明 如果参数估计量具有一致性 则有 二 异方差的影响 11 21 12 22 11 12 21 22 11 11 21 21 11 12 21 22 12 11 22 21 12 12 22 22 二 异方差的影响 模拟分析通过模拟 可以直观的观察到不同异方差模式下 普通最小二乘法回归系数标准误估计失准的不同程度 三 异方差诊断方法 利用残差图进行诊断各种检验 三 异方差诊断方法 残差图是否具有某种趋势 三 异方差诊断方法 三 异方差诊断方法 检验1 Glejser检验2 等级相关系数检验3 Breusch Pagan检验4 White检验 1 Glejser检验 假定残差与自变量存在密切联系 是自变量的函数 这样通过对残差与自变量建模并进行检验 可以判断关系是否显著 籍此可以进一步判断异方差的存在步骤 得到残差 以残差为被解释变量 以某个解释变量为解释变量建模并进行通常的F t检验 如果拒绝原假设 则存在异方差 反之不能如此认为 1 Glejser检验 常用函数形式 2 等级相关系数检验 如果自变量与残差具有共变性 此增彼增或者相反 则存在异方差 采用等级相关 可以适用更广泛的异方差模式步骤 1 获得残差并取绝对值2 计算残差与自变量的Spearman系数3 进行检验 2 等级相关系数检验 3 Breusch Pagan检验 如果同方差假定正确 则有 如果不正确 则有 3 Breusch Pagan检验 可以构造F统计量来检验所有回归系数是否都为0步骤 1 得到残差并计算其平方 2 残差对自变量作回归 并得到F统计量3 如果大于临界值 则存在异方差 4 White检验 思想与Breusch Pagan检验完全相同 只不过增加了所有自变量的平方与交叉乘积项 4 White检验 一种比较节省自由度的方法是对如下函数建模并进行F检验 三 异方差诊断方法 检验未能拒绝原假设 并不意味着不存在异方差检验拒绝了原假设并不意味着存在异方差 其他如设定错误 序列相关也会导致类似的结果 四 异方差的处理 处理异方差的方法按建模阶段大致可以分为三类 数据变换改进参数估计方法改进检验统计量 1 数据变换 对数据进行幂变换 以获得同方差性获得p值的方法 适用于一元回归 首先将数据按自变量的大小分组 然后计算每一组因变量的中位数和四分位距 对四分位距取对数为纵坐标 对中位数取对数为横坐标 拟合一条直线 1 斜率就是所需要的p值 1 数据变换 变换的机制假设经过变换获得同方差的数据 1 数据变换 1 数据变换 1 数据变换 上述变换图的方法适用于数据较多的一元回归情况 能给出相对可靠的p值估计 更为通常的做法是 对每个变量取对数对数变换可以压缩变量尺度 降低异方差的影响 2 加权最小二乘 WLS 2 加权最小二乘 WLS 权数的确定在一元回归情况下 可以用类似Glejser检验中的方法得到异方差的