第三章 多元线性回归模型

第三章

多元线性回归模型引子

简单线性回归只设定一个解释变量，把其他因素都归入干扰项，实际只设一个解释变量不能满足需要。并且这里隐含了这样一些假设：

1.所有干扰因素的总和均值为02.干扰因素跟X无关第一节多元线性回归模型及古典假定

本节基本内容:

一、多元线性回归模型的意义二、多元线性回归模型的矩阵表示三、多元线性回归中的基本假定一、多元线性回归模型的意义一般形式（K-1个解释变量，K个参数）：模型中βj（j=1,2,3，…，k）为总体回归参数

βj也称为偏回归系数：控制其它解释量不变的条件下，第k个解释变量的单位变动对应变量平均值的影响

多元线性指对各个回归系数而言是“线性”的，对变量则可是线性的，也可是非线性的例如：生产函数两边取对数：多元总体回归函数Y的总体条件均值表示为多个解释变量的函数：分量式：总量式：多元样本回归函数Y的样本条件均值表示为多个解释变量的函数

随机表示式其中：i=1,2,3,……,n

剩余项（残差）二、多元线性回归模型的矩阵表示N次观测，得到n个被解释变量观测点，对应k×n个解释变量观测值，对应函数关系写成方程组形式：用矩阵表示矩阵表示的总体和样本回归函数总体：样本：三、多元线性回归中的基本假定1.零均值：E(U)=02.同方差和无自相关:Cov（ui，uk）=E（uiuk）=3.随机扰动项与X不相关

Cov（Xji，ui）=04.无多重共线性：

Rank（X）=Rank（XTX）=k5.正态性:ui~N（0，σ2）

第二节多元线性回归模型的估计

本节基本内容:●普通最小二乘法（OLS）●OLS估计式的性质●OLS估计的分布性质●随机扰动项方差σ2的估计●回归系数的区间估计一、普通最小二乘法（OLS）剩余（残差）平方和最小原则：由极值原理，求偏导，令其为零：正规方程组（分量形式）正规方程组（矩阵形式）样本回归函数：左乘XT：因为XT

e=0，（XTX）k×k满秩，有：二、OLS估计式的性质1.线性性2.无偏性3.最小方差性结论：在古典假定下，多元线性回归的OLS估计式是最佳线性无偏估计式（BLUE）三、OLS估计的分布性质基本思想●是随机变量，必须确定其分布性质才可能进行区间估计和假设检验●ui是服从正态分布的随机变量,决定了Yi也是服从正态分布的随机变量●是Yi的线性函数，决定了也是服从正态分布的随机变量，只需确定其均值和方差均值：由无偏性，方差：的方差-协方差矩阵定义cjj为矩阵（XTX）-1中第j行第j列位置元素，则：四、随机扰动项方差的估计总体方差未知，需要通过样本对其进行估计据此对作标准化变换大样本时，所得Z统计量~N(0,1)

小样本时，所得t统计量~t(n-k)五、回归系数的区间估计选定，查t分布表的自由度为(n-k)的临界值可估计模型参数的置信区间（置信度1-α）

第三节

多元线性回归模型的检验基本内容:

●多元回归的拟合优度检验●回归方程的显著性检验（F检验）●各回归系数的显著性检验（t检验）一、多元回归的拟合优度检验多重可决系数：在多元回归模型中，由各个解释变量联合解释了Y的变差，在Y的总变差中占的比重,用R2表示修正的可决系数多重可决系数是模型中解释变量个数的不减函数Y相同而X的个数不同时，用多重可决系数比较两个模型的拟合程度存在缺陷修正的可决系数：未修正与修正可决系数关系：当k＞1，注意：可决系数非负，修正可决系数规定最小为0二、回归方程显著性检验（F检验）

需要说明所有解释变量联合起来对应变量影响的总显著性,或整个方程总的联合显著性

对方程总显著性检验需要在方差分析的基础上进行F检验三、各回归系数的显著性检验（t检验）

整体线性关系显著，不一定每个Xk对Y的响都显著。因此还要对每个Xk进行显著性检验

分别检验当其他解释变量保持不变时，各个解释变量Xk对应变量Y是否有显著影响。

检验方法与简单线性回归基本相同第四节

多元线性回归模型的预测点预测：将解释变量预测值行向量Xf代入估计的方程解释变量预测值行向量Xf第一个元素为1得到的预测值既是点预测也是平均值预测区间预测预测值与真实的个别值和平均值不一定相等（尽管无偏），所以还希望确定其所处区间要估计区间，必须知道与所估计对象之间的关系，以及相应的概率分布二者服从正态分布，均值为零，方差可算。据此构造统计量（标准化量），给定α，查表……第五节案例分析课本第五节留给大家实验课操作这里分析1978-2007中国税收与GDP、财政支出、商品零售价