第5讲一元线性回归

一、回归结果的显著性检验一、回归结果的显著性检验1.线性关系的检验线性关系的检验 检验自变量与因变量之间的线性关系是否显著检验自变量与因变量之间的线性关系是否显著 将回归均方 (MSR)同残差均方 (MSE)加以比较，应用 F 检验来分析二者之间的差别是否显著 回 归 均方：回 归 平方和 SSR除以相 应 的自由度 (自 变 量的个数 ) 残差均方 (MSE) ：残差平方和 SSE除以相应 的自由度 (n-2).1线性关系的检验的步骤 1. 提出 假设n H0： 1=0 线性关系不显著2. 计算计算 检验统计量检验统计量 F3. 确定确定 显著性水平显著性水平 ，并根据分子自由度，并根据分子自由度 1和分和分母自由度母自由度 n-2找出找出 临界值临界值 F 4. 作作 出决策：若出决策：若 FF ,拒绝拒绝 H0； 若若 FF ,拒绝拒绝 H0， 线性关系显著线性关系显著3方差分析表方差分析表 Excel 输出的方差分析表42.回归系数的检验回归系数的检验3. 在一元线性回归中，等价于线性关系的显著性检验1. 检验 x 与 y 之间是否具有线性关系，或者说，检验自变量 x 对因变量 y 的影响是否显著2. 理论基础是回归系数 的抽样分布5样本统计量 的分布1. 是根据最小二乘法求出的样本统计量，它有自己的分布2. 的 分布具有如下性质 (线性、无偏、最小方差 ) 分布形式：正态分布 数学期望： 标准差： 由于 未知，需用其估计量 sy来 代替得到 的估计的标准差6回归系数的检验检验步骤 1. 提出假设n H0: 1 = 0 (没有线性关系 ) n H1: 1 0 (有线性关系 ) 2. 计算检验的统计量3. 确定显著性水平确定显著性水平 ，并进行决策，并进行决策 tt， 拒绝拒绝 H0； tt=2.201， 拒绝拒绝 H0， 表明表明 不良贷款不良贷款与贷款余额之间有线性关系与贷款余额之间有线性关系8回归系数的检验例题分析表回归系数的检验例题分析表P 值的应用P=0.000000=0.05， 拒绝原假设，拒绝原假设， 不良贷款与贷不良贷款与贷款余额之间有线性关系款余额之间有线性关系93、三种检验的关系、三种检验的关系w在一元线性回归分析中，回归系数显著性的 t检验、回归方程显著性的 F检验，相关系数显著性 t检验，三者等价的，检验结果是完全一致的。w对一元线性回归，只做其中的一种检验即可。10二、二、 回归分析结果的评价回归分析结果的评价l建立的模型是否合适？或者说，这个拟合的模型有多 “好 ”？要回答这些问题，可以从以下几个方面入手 所估计的回归系数 的符号是否与理论或事先预期相一致n 在不良贷款与贷款余额的回归中，可以预期贷款余额越多不良贷款也可能会越多，也就是说，回归系数的值应该是正的，在上面建立的回归方程中，我们得到的回归系数 为正值 如果理论上认为 x与 y之间的关系不仅是正的，而且是统计上显著的，那么所建立的回归方程也应该如此n 在不良贷款与贷款余额的回归中，二者之间为正的线性关系，而且，对回归系数的 t检验结果表明二者之间的线性关系是统计上显著的11 回归模型在多大程度上解释了因变量 y取值的差异？可以用判定系数 R2来回答这一问题n 在不良贷款与贷款余额的回归中，得到的 R2=71.16%， 解释了不良贷款变差的 2/3以上，说明拟合的效果还算不错 考察关于误差项 的正态性假定是否成立。因为我们在对线性关系进行 F检验和回归系数进行 t检检验验 时，都要求误差项 服从正态分布，否则，我们所用的检验程序将是无效的。 正态性的简单方法是画出残差的直方图或正态概率图 计量单位的讨论，因果模型的特征12Excel输出的部分回归结果R2）13残差分析w1 用残差证实模型的假定w2 用残差检测异常值和有影响的观测值14残差图 (residual plot)1. 表示残差的图形n 关于 x的残差图n 关于 y的残差图n 标准化残差图2. 用于判断误差 的假定是否成立 3. 检测有影响的观测值15残差图 (形态及判别 )16残差图 (例题分析 )17标准化残差 (standardized residual) 残差除以它的标准差后得到的数值。计算公式为n sei是第 i个残差的标准差，其计算公式为 18标准化残差图 用以直观地判断误差项服从正态分布这一假定是否成立 n 若假定成立，标准化残差的分布也应服从正态分布n 在标准化残差图中，大约有 95%的标准化残差在 -2到 +2之间 19标准化残差图(例题分析 )20异常值1. 如果某一个点与其他点所呈现的趋势不相吻合，这个点就有可能是异常点，或称为野点 .n 如果异常值是一个错误的数据，比如记录错误造成的，应该修正该数据，以便改善回归的效果n 如果是由于模型的假定不合理，使得标准化残差偏大，应该考虑采用其他形式的模型，比如非线性模型n 如果完全是由于随机因素而造成的异常值，则应该保留该数据2. 在处理异常值时，若一个异常值是一个有效的观测值，不应轻易地将其从数据集中予以剔除 . 21异常值 识别1. 异常值也可以通过标准化残差来识别2. 如果某一个观测值所对应的标准化残差较大，就可以识别为异常值3. 一般情况下，当一个观测值所对应的标准化残差小于 -2或大于 +2时，就可以将其视为异常值22有影响的观测值1. 如果某一个或某一些观测值对回归的结果有强烈的影响，那么该观测值或这些观测值就是有影响的观测值 2. 一个有影响的观测值可能是n 一个异常值，即有一个值远远偏离了散点图中的趋势线n 对应一个远离自变量平均值的观测值n 或者是这二者组合而形成的观测值 23有影响的观测值图示不 存在影响值的趋势有影响的观测值存在影响值的趋势24小小 结结 w一、变量间关系的种类w二、相关系数的计算、评价及检验w三、回归模型、回归方程、估计回归方程的概念，回归方程参数的最小二乘估计w四、判定系数、估计标准误差的w 计算，及线性关系检验及w 回归系数的检验w五、回归分析结果的评价25利用回归方程进行估计和预测 根据自变量 x 的取值估计或预测因变量 y的取值 估计或预测的类型n 点估计w y 的平均值的点估计w y 的个别值的点估计n 区间估计w y 的平均值的置信区间估计w y 的个别值的预测区间估计26利用回归方程进行估计和预测（点估计）2. 点估计值有点估计值有n y 的平均值的点估计的平均值的点估计n y 的个别值的点估计的个别值的点估计3. 在点估计条件下，平均值的点估计和个别值的在点估计条件下，平均值的点估计和个别值的的点估计是一样的，但在区间估计中则不同的点估计是一样的，但在区间估计中则不同1. 对于自变量对于自变量 x 的一个给定值的一个给定值 x0 ， 根据回归方根据回归方程得到因变量程得到因变量 y 的一个估计值的一个估计值27w y 的平均值的点估计n利用估计的回归方程，对于自变量 x 的一个给定值 x0 ， 求出因变量 y 的 平均值的一个估计值 E(y0) ， 就是平均值的点估计n在前面的例子中，假如我们要估计人均国民收入为 2000元时，所有年份人均消费金额的的平均值，就是平均值的点估计。根据估计的回归方程得28w y 的个别值的点估计1. 利用估计的回归方程，对于自变量利用估计的回归方程，对于自变量 x 的一个的一个给定值给定值 x0 ， 求出因变量求出因变量 y 的一个个别值的估的一个个别值的估计值计值 ，就是个别值的点估计，就是个别值的点估计2. 比如，如果我们只是想知道比如，如果我们只是想知道 1990年人均国民年人均国民收入为收入为 1250.7元时的人均消费金额是多少