第八章：多元线性回归模型

第八章 经典单方程计量经济学模型：多元线性回归模型 多元线性回归模型 多元线性回归模型的参数估计 多元线性回归模型的统计检验3.1 多元线性回归模型 一、 多元线性回归模型二、多元线性回归模型的基本假定一、多元线性回归模型多元线性回归模型 :表现在线性回归模型中的解释变量有多个。一般表现形式 ：i=1,2,n其中 :k为解释变量的数目， j称为 回归参数（ regression coefficient）。也被称为 总体回归函数 的 随机表达形式 。它 的非随机（即确定）表达式 为 :表示： 各变量 X值固定（即给定）时 Y的平均响应（即均值） 。习惯上 ：把 常数项 看成为一 虚变量 的系数，该虚变量的样本观测值始终取 1。于是：模型中解释变量的数目为（ k+1） j也被称为 偏回归系数 ， 表示在其他解释变量保持不变的情况下， X j每变化 1个单位时， Y的均值 E(Y)的变化 ;或者说 j给出了 X j的单位变化对 Y均值的 “直接 ”或 “净 ”（不含其他变量）影响。用来估计总体回归函数的 样本回归函数 为 ：其 随机表示式: ei称为 残差 或 剩余项 (residuals)，可看成是总体回归模型中随机扰动项 i的近似替代。二、多元线性回归模型的基本假定 （注意和一元线性回归模型的基本假定相比较）假设 1，解释变量是非随机的或固定的，且各 X之间不存在完全共线性（即无多重共线性，或解释变量之间不完全线性相关） (注：这一假设只有在多元线性回归模型的基本假定中才有，而在一元线性回归模型中没有，为什么？）。假设 2，随机误差项具有零均值、同方差及不序列相关性。假设 3，解释变量与随机项不相关 假设 4，随机项满足正态分布 如果 X是非随机机的（即为固定值），则该假设自动满足。 因为一个固定值与一个随机变量之间当然不相关。 推导：误差项代表了没有纳入回归模型的其他所有影响因素。因为这些影响因素中，每种因素对 Y的影响都很微弱。如果所有这些影响因素都是随机的，并用 代表所有这些影响因素之和，那么根据中心极限定理，可以假设误差项服从正态分布3.2 多元线性回归模型的估计 一、 普通最小二乘估计 *二、 最大或然估计 (Maximum Likelihood) *三、 矩估计（ Moment Method) 四、 参数估计量的性质 * 五、 样本容量问题六、 估计实例 说 明（注：参数有两类：结构参数和分布参数，分布参数是指随机误差项的均值和方差）估计方法：3大类方法： OLS、 ML或者 MM 在经典模型中多应用 OLS 在非经典模型中多应用 ML或者 MM 我们只学习 OLS一、普通最小二乘估计 对于随机抽取的 n组观测值如果 样本函数 的参数估计值已经得到，则有 ： i=1,2n 根据 最小二乘原理 ，参数估计值应该是右列方程组的解 其中 于是得到关于待估参数估计值的 正规方程组 ： 解该（ k+1） 个方程组成的线性代数方程组，即可得到 (k+1) 个待估参数的估计值 $ , , , , ,j j =012L 。kS=+SS=+SS=+SS=+SkiikikikiiiiikikiiiiiikikiiikikiiXYXXXXXYXXXXXYXXXXYXXX)()()()(221102222110112211022110LMLLL注 意 （特别重要） 经济计量学精要 （古亚拉提 著）将多元回归分析中的解释变量限定在 2个（该类多元回归模型也称为三变量模型）。但实际中的多元回归模型的解释变量往往多于 2个（有 3个或 3个以上），那么估计公式会更复杂。在这种情况下，必须使用矩阵代数知识。当然，本书没有使用矩阵代数知识。不过现在很少有人手工计算了，还是让计算机做这些复杂的工作吧。初学者只需先掌握含两个解释变量的多元回归模型（以避免复杂的矩阵代数运算），以下的分析都建立在以 2个解释变量为前提的多元回归模型基础上。三变量模型回归系数的 OLS估计量（教材 P156）偏回归系数的含义 偏 回归系数体现的是解释变量对因变量的净影响或直接影响。 一元回归模型中的回归系数体现的是解释变量对因变量的总影响，包括直接影响和间接影响。 j也被称为 偏回归系数 ，表示在其他解释变量保持不变的情况下， Xj每变化 1个单位时， Y的均值 E(Y)的变化 ; 或者说 j给出了 Xj的单位变化对 Y均值的“直接 ”或 “净 ”（不含其他变量）影响。埋伏笔：三变量模型参数的 OLS估计量是随机变量解释：因为给定一个具体的样本，就能求出一个特定的估计值。再换过一个样本，又可以求出不同的估计值。所以参数的估计量取值随着样本的改变而改变。既然是随机变量，就可以求方差。三变量模型 OLS估计量方差的代数公式（教材 P157）总体回归模型的随机误差项 是一个随机变量，既然是随机变量，就可以求方差。将随机误差项 的方差记为 22客观存在，但往往未知。只能对其进行估计。随机误差项 的方差 2的估计2 表示总体误差项 的方差，这个未知方差的 OLS估计量是：其中实例美国 1980-1995年（非农业未偿还）抵押贷款数额 Y（亿美元）、个人收入 X2（亿美元）、新住宅抵押贷款费用 X3 (%).利用以下样本数据对多元线性回归模型进行估计。EVIEWS演示过程：四、参数估计量的性质在满足基本假设的情况下，其结构参数 的 普通最小二乘估计量 “ 尖 ” 仍具有：线性性 、 无偏性