第6讲多元线性回归分析

多元线性回归1 多元线性回归模型 2 回归方程的拟合优度3 显著性检验2 回归方程的拟合优度一 . 多重判定系数二 . 估计标准误差多重判定系数多重判定系数 回归平方和占总平方和的比例 计算公式为 因变量取值的变差中，能被估计的多元回归方程所解释的比例 修正多重判定系数(adjusted multiple coefficient of determination) 用样本容量 n和自变量的个数 p去修正 R2得到 计算公式为 避免增加自变量而高估 R2 意义与 R2类似 数值小于 R2Excel 输出结果的分析输出结果的分析估计标准误差 Sy 对误差项 的标准差 的 一个估计值 衡量多元回归方的程拟合优度 计算公式为Excel 输出结果的分析输出结果的分析线性关系检验OLS 估计量的统计性质 可以证明两变量模型的最小二乘估计量同样具有如下性质：1. 线性性：线性性： 2. 无偏性：无偏性： j=0、 1、 23.最小方差性：最小方差性： 在所有线性无偏估计量中，最小二乘估计量具有最小的方差 。 （证明略）u项方差 的无偏估计量 定理： 是 的一个无偏估计量（证明略）回归系数检验和推断回归系数的检验 线性关系检验通过后，对各个回归系数有选择地进行一次或多次检验 究竟要对哪几个回归系数进行检验，通常需要在建立模型之前作出决定 对回归系数检验的个数进行限制，以避免犯过多的第一类错误 (弃真错误 ) 对每一个自变量都要单独进行检验 应用 t 检验统计量模型的统计检验 我们研究的模型是： Y= 0+ 1X1+ 2X2+u1.参数估计值的分布 这里：将上述方差中的 换为 计算得： j=0 ， 1， 2 2. 变量的显著性检验（ t检验）（ 1） .构造 t 统计量 由数理统计知识可以证明： t（ n-3）其中 j=0， 1 ， 2 （ 2） . t检验的步骤 ：（ i） 提出 提出原假设 H0 ： j=0 备择假设 H1 ： j 0 j=0， 1， 2（ ii） 计算 t 统计量 （ iii） 给定显著性水平 ，查自由度为 n-3的 t分布表，得到临界值（ iv）判断：（ a） 若 | t | 则在 1- 水平下拒绝 原假设 H0 ，即 j对应的变量 xj是显著的； （ b） 若 | t | 则在 1- 水平下拒绝 原假设 H0 ， 1 、 2 不同时为 0， 即模型的线性关系显著成立，模型是显著的； （ ii） 若 F 则在 1- 水平下接受 原假设 H0 ，即模型的线性关系不是显著成立的，模型是不显著的。4.样本决定系数 R2 对两变量模型，同样有 ： 定义 ： = 为拟合优度的度量 越 接近 1，回归直线拟合样本点越 好； 越 接近 0，回归直线拟合样本点 越 差。对于回归直线的拟合优度：存在一个问题： R2的大小与解释变量的个数相关，要想改进 R2使其接近 1，只需增加解释变量的数目就可以了。为了消除这种影响，定义修正的样本决定系数：说明：（ 1） n很大， k较小时（ 2）在 k与 n相比较时， 要考虑修正的样本决定系数 。（ 3）校正的判定系数即用自由度进行平均，用 “单位 ” 拟合误差进行比较，从而提高了可比性。（ 4）虽然非校正的判定系数总为正数 ，但 校正的判定系数可能为负数。 我们很容易可以得到 调整的 R2 ， (1 R 2)(n 1) / (n k 1), 大部分的软件会同时给出 R2 和 调整的 R2。 可以通过比较调整的 R2 来比较两个模型（同一个 y） 的拟合程度。 但是不能通过调整的 R2 来比较两个被解释变量不同的模型（如： y 与 ln(y) ） 重要的是不要过于关注调整的 R2 而忽略了理论和经济常识本身 如果经济理论清楚地预计某个变量应当被包括进来，那么就加入这个变量 不要加入影响对所关注的变量进行合理解释的变量；切记多元回归含意之一是控制了其它因素。5. F与 R2的关系这两个统计量同方向变动。也就是说如果模型对样本有较高的拟合优度，则一般 F检验都能通过。实际应用中不必过分苛求 R2值的大小，重要的是考察模型的经济意义是否合理。若 n=17 k=3 n-k-1=13查表可得显著性水平为 1的 F统计量 =5.74，而 R2却只为 0.5678。变量的数量限制 受分析目的的限制 受观测数据量的限制 多元回归模型、回归方程、