计量经济学：第三章 多元线性回归模型

1第三章经典单方程计量经济学模型：

多元线性回归模型

MultipleLinearRegressionModel二元线性总体回归模型1、二元总体回归模型第一节多元回归模型2设系统因素（解释变量）二元线性回归模型的统计含义：随机因素(随机扰动项）设3二元线性总体回归函数总体不可知，利用样本估计:估计估计参数,即分别用：4定义：二元线性样本回归模型为定义：二元线性样本回归函数为定义：残差称为对Yi的拟合值（用二元模型）。称51、二元线性回归模型的估计：普通最小二乘估计OLS

正规方程组6参数的普通最小二乘估计由正规方程组解得：其中：7普通最小二乘估计是线性估计（证明略）8系数的性质（证明略）9二元线性回归模型参数估计与参数的关系。10用参数的普通最小二乘估计计算的被解释变量的拟合值：用普通最小二乘估计计算得到的残差：11二元模型普通最小二乘估计的正规方程组与二元线性回归模型普通最小二乘估计计算的残差的性质：仍然可得：122、二元线性回归模型普通最小二乘

估计量的性质13一元二元对模型的经典假定：解释变量是确定性的；随机扰动项期望为0，方差相同，随机扰动项之间不相关,服从正态分布；2个解释变量都是确定性的，它们之间不相关（即无多重共线性）随机扰动项期望为0，方差相同,随机扰动项之间不相关,服从正态分布;解释变量与随机扰动项之间不相关（相关系数为0）解释变量与随机扰动项之间不相关（相关系数为0）14二元线性回归模型经典假定下的一些推论：1、在线性回归模型的经典假定下，随机扰动项独立同服从正态分布，即2、且被解释变量之间也独立。15经典假定成立时，二元线性回归模型随机扰动项方差的普通最小二乘估计为：161、线性性：参数估计为被解释变量的线性组合。

2、无偏性

在上述假设之下：二元线性回归模型的普通最小二乘估计具有如下性质：3、有效性（最小方差性）：在所有线性无偏估计中，最小二乘估计具有最小方差。（证明略）

4、一致性

17参数普通最小二乘估计的方差参数普通最小二乘估计的样本标准差18结论:二元线性回归模型普通最小二乘估计的高斯-马尔可夫定理在满足基本假设的情况下，二元线性模型参数的普通最小二乘估计仍具有线性性、无偏性、有效性和一致性.19二元线性回归模型参数普通最小二乘估计的分布在上述关于二元线性回归模型的假设之下：20二元线性回归模型参数的区间估计一元置信区间：二元21二元线性回归模型的可决系数与拟合优度记总离差平方和（TotalSumofSquares）回归平方和（ExplainedSumofSquares）残差平方和（ResidualSumofSquares）22TSS=ESS+RSS可决系数：意义：同一元线性回归模型的可决系数。总离差平方和仍然可以分解：23二元线性回归模型变量的显著性检验：

检验解释变量X1是否有显著性影响时的原假设与备择假设：

H1：10

H0：1=0

检验统计量：若|T1|t/2

(n-3)，则拒绝原假设H0，即解变量X1对被解释变量有显著的影响。模型：24二元线性回归模型变量的显著性检验：

检验解释变量X2是否有显著性影响时的原假设与备择假设：

H1：20

H0：2=0

检验统计量：若|T2|t/2

(n-3)，则拒绝原假设H0，即解变量X2对被解释变量有显著的影响。模型：25二、多元线性回归模型多元线性回归函数26多元线性回归模型的参数估计正规方程组2728多元线性回归模型参数估计与参数的关系:29多元线性样本回归模型:多元样本回归函数（模型的拟合值）残差：30正规方程组：普通最小二乘估计残差的性质31多元线性回归模型最小二乘

估计量的性质32对多元线性回归模型的经典假设：k个解释变量都是确定性的，且它们之间不相关（即无多重共线性）随机扰动项期望为0，方差相同,随机扰动项之间不相关;服从正态分布解释变量与随机扰动项之间不相关（相关系数为0）33多元线性回归模型经典假定下的一些推论：1、在线性回归模型的经典假定下，随机扰动项独立同服从正态分布，即2、且被解释变量之间也独立。34经典假定之下，多元线性回归模型随机扰动项方差的最小二乘估计为：351、线性性：参数估计仍然为被解释变量的线性组合。

2、无偏性

3、有效性（最小方差性）：在所有线性无偏估计中，最小二乘估计具有最小方差。（证明略）

在上述假设之下：多元线性回归模型的普通最小二乘估计具有如下性质：4、一致性36在满足基本经典假设的情况下，多元线性模型参数的普通最小二乘估计仍具有线性性、无偏性、有效性、一致性。结论:多元线性回归模型普通最小二乘估计的高斯-马尔可夫定理37多元线性回归模型参数估计的分布在上述关于多元线性回归模型的假设之下：38多元线性回归模型参数估计的方差参数估计量的样本标准差39多元线性回归模型的参数的区间估计βj置信区间：40多元线性回归模型的拟合优度记总离差平方和（TotalSumofSquares）回归平方和（ExplainedSumofSquares）残差平方和（ResidualSumofSquares）TSS的自由度：n-1ESS的自由度：kRSS的自由度：n-k-141TSS=ESS+RSS可决系数：意义：同一元线性回归模型的可决系数。总离差平方和仍然可以分解：42多元线性回归模型的可决系数的调整：调整的可决系数。可决系数的缺陷：可决系数是解释变量个数的不减函数。43

调整的可决系数（adjustedcoefficientofdetermination）

与可决系数的关系：44要比较两个模型的拟合程度，当待估计的参数个数相同时，可决系数较大、调整的可决系数较大的模型拟合效果好；当待估计的参数个数不相同时，可决系数较大并不一定意味着模型拟合得更好；调整的可决系数较大的模型拟合效果才更好。可决系数与调整可决系数的用途45*、赤池信息准则和施瓦茨准则

为了比较所含解释变量个数不同的多元回归模型的拟合优度，常用的标准还有:

赤池信息准则（Akaikeinformationcriterion,AIC）施瓦茨准则（Schwarzcriterion，SC）

注意：AIC、SC越小,模型拟合的越好。

似然函数值，k为解释变量个数，n为样本容量。46方程的显著性检验，检验系统性因素（由解释变量构成的整体）对被解释变量之间是否有显著影响作出推断。对方程的检验假设：联合检验多元线性回归模型的显著性检验：对方程的显著性检验47

方程显著性检验的想法：

检验原理：如果这个比值较大，方程具有显著性。否则，方程没有显著性。TSS=ESS+RSS考虑如下比值：48若H0成立，则F应该比较小；反之，若F比较大，则拒绝原假设。

给定显著性水平，可得到临界值F(k,n-k-1)，由样本求出统计量F的数值，若F

F(k,n-k-1)，则拒绝原假设H0，方程总体上显著成立；否则，若F<=F(k,n-k-1)则没有理由表明方程显著成立。

统计量49可决系数与方程显著性检验F统计量的关系１、Ｆ与可决系数同方向变化。２、Ｆ＝０与可决系数为０等价。50注意：不能仅考虑拟合优度的大小，只要经过检验，方程具有显著性，则一般情况下，拟合优度就是合适的。方程显著性检验与可决系数大小的问题问题：一个模型的可决系数多大才是合适的？51多元线性回归模型变量的显著性检验：

多元回归模型中，检验Xj对被解释变量是否有影响时检验的原假设与备择假设：

H1：j0

H0：j=0

（j=1,2…k）

检验统计量：若|Tj|t/2

(n-k-1)，则拒绝原假设H0，即第j个解释变量对被解释变量有显著的影响。52问题：一元线性回归模型的方程的显著性检验是什么？531、最小样本容量

所谓“最小样本容量”，为了得到唯一的普通最小二乘估计，所需要的最小样本容量。

样本最小容量必须不少于模型中待估参数的个数,即

n

k+1样本容量问题542、满足基本要求的样本容量

从统计检验的角度：n-k8时或n

30时,t分布较为稳定。

一般经验认为:

当n30或者至少n3(k+1)时，样本容量合适55

得到多元线性样本回归函数

现在给定解释变量的值X10，X20…Xk0

，对被解释变量进行预测？显然：预测的注意与一元线性回归模型的相同。§3.4多元线性回归模型的预测

56§3.5可化为多元线性的多元非线性回归模型57一、将一个模型转化为线性回归模型

方法1、直接置换法(如倒数模型、多项式模型）例如，描述税收与税率关系的拉弗曲线：抛物线

s=a+br+cr2+uc<0s：税收；r：税率设X1=r，X2=r2，则原方程变换为

s=a+bX1+cX2+uc<0

二元线性回归模型58需求函数模型一元线性回归模型59方法2、取对数变换法

例如，Cobb-Dauglas生产函数：幂函数

Q=AKLeuQ：产出量，K：投入的资本；L：投入的劳动

方程两边取对数：

lnQ=lnA+lnK+lnL+u二元线性回归模型60二、多元线性回归模型中，参数的解释。1、多元线性模型：参数的意义：其他解释变量一定的条件下，解释变量变化一个单位，对被解释变量均值的影响。612、双对数模型：解释变量、被解释变量均取对数。参数的意义：其他解释变量一定的条件下，解释变量变化一个百分点，被解释变量均值变动的百分点是多少，参数反映的是弹性。62§3.6受约束回归

RestrictedRegression问题：考察参数之间的某个关系是否成立如：上述模型中考察是否成立63检验假设H0：系数受约束MUR：不受约束的回归模型上述为受约束的回归模型MR在此假设下：64如果原假设成立（约束成立），那么，受约束的回归模型与不受约束的回归模型是同一个模型，反映被解释变量与解释变量之间相同的关系，残差应该相近。如果受约束的回归模型的残差与不受约束的回归模型的残差差异较大，那么，就拒绝原假设。检验统计量：推断：若FF(ku-kR,n-kU-1)则拒绝原假设H0分别为受约束与不受约束回归模型的残差平方和。分别为不受约束与受约束回归模型解释变量的个数。65多元线性回归模型的估计例例3.2.2:消费函数的二元线性回归模型：66例3.5.1（3.6.1）：受约束回归的应用Q：对食品的需求量。X：对食品的消费支出总额。P1：食品价格指数；P0：居民消费价格指数；67例3.5.1（1）对参数进行估计。对数变换后将原模型化为多元线性回归模型后估计，（3.5.16）为不受约束的回归模型。（2）：对系数之间的关系（即约束）进行检验。若H0成立，则（3.5.16）变为（3.5.17），（3.5.17）为受约束的回归模型。68