第三章多元线性回归模型

多元线性回归模型计量经济学第三章2引子 :中国已成为世界汽车产销第一大国2009年，为应对国际金融危机、确保经济平稳较快增长，国家出台了一系列促进汽车消费的政策，有效刺激了汽车消费市场，汽车产销呈高增长态势，首次成为世界汽车产销第一大国。2009年，汽车产销分别为 1379.1万辆和 1364.5万辆，同比增长48.3%和 46.15%。是什么因素导致中国汽车数量的增长 ?影响中国汽车行业发展的因素并不是单一的，经济增长、消费趋势、市场行情、业界心态、能源价格、道路发展、内外环境，都会使中国汽车行业面临机遇和挑战。3分析中国汽车行业未来的趋势 ,应具体分析这样一些问题：中国汽车市场发展的状况如何？ （用销售量观测）影响中国汽车销量的主要因素是什么？（如收入、价格、费用、道路状况、能源、政策环境等）各种因素对汽车销量影响的性质怎样？ （正、负）各种因素影响汽车销量的具体数量关系是什么？所得到的数量结论是否可靠？中国汽车行业今后的发展前景怎样？应当如何制定汽车的产业政策？很明显，只用一个解释变量已很难分析汽车产业的发展 , 还需要寻求有更多个解释变量情况的回归分析方法。 怎样分析多种因素的影响？4本章主要讨论 : 多元线性回归模型及古典假定 多元线性回归模型的估计 多元线性回归模型的检验 多元线性回归模型的预测5第一节 多元线性回归模型及古典假定一、多元线性回归模型的意义一般形式：对于有 K-1个解释变量的线性回归模型注意： 模型中的 （ j=1,2,-k） 是 偏回归系数样本容量为 n偏回归系数 ：控制其它解释量不变的条件下，第 j个解释变量的单位变动对被解释变量平均值的影响，即对 Y平均值 “直接”或 “净 ”的影响。56多元线性回归中的 “线性 ”指对各个回归系数而言是 “线性 ”的，对变量则可以是线性的，也可以是非线性的例如：生产函数取对数这也是多元线性回归模型，只是这时变量为 lnY、lnL、 lnK7多元总体回归函数 条件期望表现形式：将 Y的总体条件期望表示为多个解释变量的函数，如 :注意：这时 Y总体条件期望的轨迹是 K维空间的一条线个别值表现形式：引入随机扰动项或表示为8多元样本回归函数Y 的样本条件均值可表示为多个解释变量的函数或回归剩余（残差）：其中9多个解释变量的多元线性回归模型的 n组样本观测值，可表示为用矩阵表示910总体回归函数 或样本回归函数 或 其中： 都是有 n个元素的列向量是有 k 个 元素的列向量（ k = 解释变量个数 + 1 ）是第一列为 1的 nk阶解释变量 数据矩阵 ，(截距项可视为解释变量总是取值为 1)矩阵表示方式11假定 1： 零均值假定（ i=1， 2， -n） 或 E（ u） =0假定 2和假定 3： 同方差和无自相关假定 ： 或用方差 -协方差矩阵表示为 :（ i=j）(ij)012假定 5: 无多重共线性假定 (多元中增加的 ) 假定各解释变量之间不存在线性关系，或各个解释变量观测值之间线性无关。或解释变量观测值 矩阵 X的秩为 K(注意 X为 n行 K列 )。Ran(X)= k Rak(XX)=k即 (XX) 可逆 假定 6:正态性假定12假定 4： 随机扰动项与解释变量不相关一、普通最小二乘法 （ OLS）原则： 寻求 剩余平方和最小的参数估计式即求偏导，并令其为 0 其中即 1314用矩阵表示的正规方程偏导数因为样本回归函数为 两边左乘根据最小二乘原则则正规方程为15OLS估计式 由正规方程 多元回归的 OLS估计量为当只有两个解释变量时为：注意： 为 X、 Y的离差对比简单线性回归中16回归线通过样本均值估计值 的均值等于实际观测值 的均值剩余项 的均值为零被解释变量估计值 与剩余项 不相关解释变量 与剩余项 不相关（ j=1,2,-k）16171、 线性 特征是 Y的线性函数，因 是非随机或取固定值的矩阵2、 无偏 特性 (证明见教材 P101附录 3.1)3、 最小方差 特性在 所有的线性无偏估计中， OLS估计 具有最小方差 (证明见教材 P101或附录 3.2)结论： 在古典假定下，多元线性回归的 OLS估 计式是最佳线性无偏估计式（ BLUE）18三、 OLS估计的分布性质基本思想 ： 是随机变量，必须确定其分布性质才可能进行区间估计和假设检验 是服从正态分布的随机变量，决定了 Y也是服从正态分布的随机变量 是 Y的线性函数，决定了 也是服从正态分布的随机变量19 的期望 (由无偏性 ) 的方差和标准误差：可以证明 的方差 协方差矩阵为 （见下页）这里的（其中 是矩阵 中第 j 行第 j 列的元素）所以 （ j=1,2,-k）的期望与方差20其中：(由无偏性 )(由同方差性 )(由 OLS估计式 )20注意 是向量的方差 -协方差21一般未知，可证明多元回归中 的无偏估计为： (证明见 P103附录 3.3) 或表示为 将 作标准化变换：21对比 : 一元回归中22因 是未知的， 可用 代替 去估计参数的标准误差 : 当为大样本时，用估计的参数标准误差对 作标准化变换，所得 Z 统计量仍可视为服从正态分布当为小样本时，用估计的参数标准误差对 作标准化变换，所得的 t 统计量服从 t 分布：2223五、 回归系数的区间估计由于给定 ，查 t分布表的自由度为 n-k 的临界值或或表示为2324一、多元回归的拟合优度检验多重可决系数 ： 在多元回归模型中，由各个解释变量联合起来解释了的 Y的变差，在 Y的总变差中占的比重，用 表示与简单线性回归中可决系数 的区别只是 不同多元回归中多重可决系数可表示为(注意 :红色字体是与一元回归不同的部分 ) 2425多重可决系数的矩阵表示可用代数式表达为特点 :多重可决系数是模型中解释变量个数的不减函数，这给对比不同模型的多重可决系数带来缺陷，所以需要修正。26修正的可决系数思想： 可决系数只涉及变差，没有考虑 自由度 。如果用自由度去校正所计算的变差，可纠正解释变量个数不同引起的对比困难。回顾 :自由度 ： 统计量的自由度指可自由变化的样本观测值个数，它等于所用样本观测值的个数减去对观测值的约束个数 。27可决系数的修正方法总变差 TSS 自由度为 n-1解释了的变差 ESS 自由度为 k-1剩余平方和 RSS 自由度为 n-k修正的可决系数为28修正的可决系数 与可决系数 的关系已经导出：注意：可决系数 必定非负，但所计算的修正可决系数 有可能为负值解决办法： 若计算的 ，规定 取值为 029基本思想：在多元回归中包含多个解释变量，它们与被解释变量是否有显著关系呢？当然可以分别检验各个解释变量对被解释变量影响的显著性。但是我们首先关注的是所有解释变量联合起来对被解释变量影响的显著性 ,