单方程回归分析

单方程计量经济学模型

理论与方法

TheoryandMethodologyofSingle-EquationEconometricModel

§2.1回归分析概述§2.2一元线性回归模型及其参数估计§2.3多元线性回归模型的参数估计§2.4多元线性回归模型的统计检验§2.5单方程线性模型的区间估计§2.6异方差性§2.7序列相关性

§2.8多重共线性

§2.9随机解释变量§2.1回归分析概述

IntroductiontoRegressionAnalysis一、变量间的关系及回归分析的基本概念二、总体回归函数三、随机扰动项四、样本回归函数一、变量间的关系及回归分析的基本概念变量间的关系

确定性关系或函数关系：研究的是确定现象非随机变量间的关系。

统计依赖或相关关系：研究的是非确定现象随机变量间的关系。△经济变量之间的关系，大体可分为两类：△对变量间统计依赖关系的考察主要是通过相关分析(correlationanalysis)或回归分析(regressionanalysis)来完成的：二、总体回归函数⒈例子例2.1：一个假想的社区有60户家庭组成，要研究该社区每月家庭消费支出Y与每月家庭可支配收入X的关系。即如果知道了家庭的月收入，能否预测该社区家庭的平均月消费支出水平。为达到此目的，将该60户家庭划分为组内收入差不多的10组，以分析每一收入组的家庭消费支出（表2.1）。

由于不确定因素的影响，对同一收入水平X，不同家庭的消费支出不完全相同；但由于调查的完备性，给定收入水平X的消费支出Y的分布是确定的，即以X的给定值为条件的Y的条件分布（Conditionaldistribution）是已知的，如：P(Y=550|X=800）=1/5。因此，给定收入X的值Xi，可得消费支出Y的条件均值（conditionalmean）或条件期望（conditionalexpectation）：该例中：E（Y|X=800）=650⒉分析

从散点图发现：随着收入的增加，消费“平均地说”也在增加，且Y的条件均值均落在一根正斜率的直线上。这条直线称为总体回归线。YX⒊概念

回归函数（PRF）说明被解释变量Y的平均状态（总体条件期望）随解释变量X变化的规律。函数形式可以是线性或非线性的。三、随机扰动项

⒈随机扰动项的引入

总体回归函数说明在给定的收入水平Xi下，该社区家庭平均的消费支出水平。但对某一个别的家庭，其消费支出可能与该平均水平有偏差。记由（2.1.2）式，个别家庭的消费支出为：（2.1.3）式称为总体回归函数（方程）PRF的随机设定形式。表明被解释变量除了受解释变量的系统性影响外，还受其他因素的随机性影响。

由于方程中引入了随机项，成为计量经济学模型，因此也称为总体回归模型。⒉随机误差项的影响因素在解释变量中被忽略的因素的影响；变量观测值的观测误差的影响；模型关系的设定误差的影响；其它随机因素的影响。⒊产生并设计随机误差项的主要原因理论的含糊性；数据的欠缺；节省原则。四、样本回归函数（SRF）⒈问题的提出由于总体的信息往往无法掌握，现实的情况只能是在一次观测中得到总体的一组样本。问题是能从一次抽样中获得总体的近似的信息吗？如果可以，如何从抽样中获得总体的近似信息？例2.2：在例2.1的总体中有如下一个样本，问：能否从该样本估计总体回归函数PRF？该样本的散点图（scatterdiagram)：

样本散点图近似于一条直线，画一条直线以尽可能好地拟合该散点图，由于样本取自总体，可以该线近似地代表总体回归线。该线称为样本回归线（sampleregressionlines），其函数形式记为：

注意：这里

将（2.1.4）看成（2.1.1）的近似替代。

⒉样本回归函数的随机形式/样本回归模型

由于方程中引入了随机项，成为计量经济模型，因此也称为样本回归模型。⒊回归分析的主要目的根据样本回归函数SRF，估计总体回归函数PRF。§2.2一元线性回归模型及其参数估计

SimpleLinearRegressionModelandItsEstimation一、线性回归模型及其普遍性二、线性回归模型的基本假设三、一元线性回归模型的参数估计四、最小二乘估计量的统计性质五、参数估计量的概率分布与随机项方差的估计一、线性回归模型及其普遍性1、线性回归模型的特征一个例子

凯恩斯绝对收入假设消费理论：消费（C）是由收入（Y）唯一决定的，是收入的线性函数：

C=+Y(2.2.1)

但实际上上述等式不能准确实现。原因⑴消费除受收入影响外，还受其他因素的影响；⑵线性关系只是一个近似描述；⑶收入变量观测值的近似性：收入数据本身并不绝对准确地反映收入水平。因此，一个更符合实际的数学描述为：

C=+Y+(2.2.2)其中：

是一个随机误差项，是其他影响因素的“综合体”。线性回归模型的特征：

⑴通过引入随机误差项，将变量之间的关系用一个线性随机方程来描述，并用随机数学的方法来估计方程中的参数；⑵在线性回归模型中，被解释变量的特征由解释变量与随机误差项共同决定。

2、线性回归模型的普遍性

线性回归模型是计量经济学模型的主要形式，许多实际经济活动中经济变量间的复杂关系都可以通过一些简单的数学处理，使之化为数学上的线性关系。结论：实际经济活动中的许多问题，都可以最终化为线性问题，所以，线性回归模型有其普遍意义。即使对于无法采取任何变换方法使之变成线性的非线性模型，目前使用得较多的参数估计方法——非线性最小二乘法，其原理仍然是以线性估计方法为基础。线性模型理论方法在计量经济学模型理论方法的基础。二、线性回归模型的基本假设1、技术线路由于回归分析的主要目的是要通过样本回归函数（模型）SRF尽可能准确地估计总体回归函数（模型）PRF。即通过估计采用普通最小二乘或者普通最大似然方法估计。需要对解释变量和随机项作出假设。2、线性回归模型在上述意义上的基本假设

（1）解释变量X是确定性变量，不是随机变量；解释变量之间互不相关。（2）随机误差项具有０均值和同方差:E(

i)=0i=1,2,…,nVar(

i)=

2i=1,2,…,n

（3）随机误差项在不同样本点之间是独立的，不存在序列相关：

Cov(

i,

j)=0i≠ji,j=1,2,…,n

（5）随机误差项服从０均值、同方差的正态分布：

i~N(0,

2)i=1,2,…,n注意：如果第(1)条假设满足，则第(4)条也满足;

模型对变量和函数形式的设定是正确的，即不存在设定误差。（4）随机误差项与解释变量之间不相关：

Cov(Xi,

i)=0i=1,2,…,n重要提示几乎没有哪个实际问题能够同时满足所有基本假设；通过模型理论方法的发展，可以克服违背基本假设带来的问题；违背基本假设问题的处理构成了单方程线性计量经济学理论方法的主要内容：

异方差问题（违背同方差假设）序列相关问题（违背序列不相关假设）共线性问题（违背解释变量不相关假设）随机解释变量（违背解释变量确定性假设）0均植、正态性假设是由模型的数理统计理论决定的。三、一元线性回归模型的参数估计1、普通最小二乘法（OrdinaryLeastSquare,OLS）

给定一组样本观测值Xi,Yi（i=1,2,…n），要求样本回归函数尽可能好地拟合这组值，即样本回归线上的点与真实观测点的“总体误差”尽可能地小。

2、最大或然法（MaximumLikelihood,ML）

最大或然法，也称最大似然法，是不同于最小二乘法的另一种参数估计方法，是从最大或然原理出发发展起来的其它估计方法的基础。

基本原理：对于最大或然法，当从模型总体随机抽取n组样本观测值后，最合理的参数估计量应该使得从模型中抽取该n组样本观测值的联合概率最大。

将该或然函数极大化，即可求得到模型参数的极大或然估计量。

由于或然函数的极大化与或然函数的对数的极大化是等价的，所以，取对数或然函数如下：

可见，在满足一系列基本假设的情况下，模型结构参数的最大或然估计量与普通最小二乘估计量是相同的。但是，随机误差项的方差的估计量是不同的。3、参数估计的离差形式(deviationform)注：在计量经济学中，往往以小写字母表示对均值的离差（deviation)。4、样本回归线的数值性质(numericalproperties)样本回归线通过Y和X的样本均值；Y估计值的均值等于观测值的均值；残差的均值为0。四、最小二乘估计量的统计性质

高斯-马尔可夫定理

当模型参数估计完成，需考虑参数估计值的精度，即是否能代表总体参数的真值，或者说需考察参数估计量的统计性质。一个用于考察总体的统计量，可从三个方面考察其优劣性：（1）线性性(linear)：即是否是另一随机变量的线性函数；（2）无偏性(unbiased)：即它的均值或期望值是否等于总体的真实值；（3）有效性(efficient)：即它是否在所有线性无偏估计量中具有最小方差。高斯—马尔可夫定理(Gauss-Markovtheorem)

在给定经典线性回归的假定下，最小二乘估计量是具有最小方差的线性无偏估计量。

普通最小二乘估计量具有线性性、无偏性、最小方差性等优良性质。具有这些优良性质的估计量又称为最佳线性无偏估计量，即BLUE估计量（theBestLinearUnbiasedEstimators）。显然这些优良的性质依赖于对模型的基本假设。§2.3多元线性回归模型的参数估计

EstimationofMultipleLinearRegressionModel

一、多元线性回归模型二、多元线性回归模型的参数估计三、OLS估计量的统计性质四、参数估计量的方差-协方差矩阵和随机误差项

2方差的估计五、样本容量问题六、多元线性回归模型实例一、多元线性回归模型1、多元线性回归模型的形式由于：在实际经济问题中，一个变量往往受到多个原因变量的影响；“从一般到简单”的建模思路。所以，在线性回归模型中的解释变量有多个，至少开始是这样。这样的模型被称为多元线性回归模型。多元线性回归模型参数估计的原理与一元线性回归模型相同，只是计算更为复杂。

多元线性回归模型的一般形式为：

习惯上把常数项看成为一个虚变量的系数，在参数估计过程中该虚变量的样本观测值始终取1。这样：模型中解释变量的数目为（k+1）。

多元线性回归模型的矩阵表达式为：

2、多元线性回归模型的基本假定

模型(2.3.1)或(2.3.2)在满足下述所列的基本假设的情况下，可以采用普通最小二乘法（OLS）估计参数。关于经典回归模型的假定二、多元线性回归模型的参数估计1、普通最小二乘估计普通最小二乘估计

估计过程的矩阵表示：2、最大或然估计Y的随机抽取的n组样本观测值的联合概率

对数或然函数为参数的最大或然估计

结果与参数的普通最小二乘估计相同

3、矩估计(MomentMethod,MM)用每个解释变量分别乘以模型的两边，并对所有样本点求和，即得到：

对每个方程的两边求期望，有：

得到一组矩条件求解这组矩条件，即得到参数估计量与OLS、ML估计量等价矩方法是工具变量方法(InstrumentalVariables,IV)和广义矩估计方法(GeneralizedMomentMethod,GMM)的基础在矩方法中关键是利用了如果某个解释变量与随机项相关，只要能找到1个工具变量，仍然可以构成一组矩条件。这就是IV。如果存在＞k+1个变量与随机项不相关，可以构成一组包含＞k+1方程的矩条件。这就是GMM。4、多元回归方程及偏回归系数的含义称为多元回归方程（函数）。

多元回归分析（multipleregressionanalysis）是以多个解释变量的固定值为条件的回归分析，并且所获得的是诸变量X值固定时Y的平均值。诸

i称为偏回归系数（partialregressioncoefficients）。偏回归系数的含义如下：

1度量着在X2,X3,…,Xk保持不变的情况下，X1每变化1个单位时，Y的均值E(Y)的变化，或者说

1给出X1的单位变化对Y均值的“直接”或“净”（不含其他变量）影响。其他参数的含义与之相同。三、OLS估计量的统计性质四、参数估计量的方差-协方差矩阵和随机误差项

2方差的估计1、一个疑问与回答疑问：在无偏性证明中将参数估计量看作随机量，而在正规方程组的推导中又将它看作确定值。如何解释？解释：将一组具体样本资料代入参数估计量的表达式给出的参数估计结果是一个“估计值”，或者“点估计”，是参数估计量的一个具体数值，是确定的；但从另一个角度，仅仅把它看成是参数估计量的一个表达式，那么，则是被解释变量观测值的函数，而被解释变量是随机变量，所以参数估计量也是随机变量，在这个角度上，称之为“估计量”。2、参数估计量的方差-协方差将参数估计量看作随机量，具有数字特征。参数估计量的方差以及不同参数估计量之间的协方差在模型理论中具有重要性。具体描述如下：3、随机误差项

2方差的估计五、样本容量问题⒈

最小样本容量所谓“最小样本容量”，即从最小二乘原理和最大或然原理出发，欲得到参数估计量，不管其质量如何，所要求的样本容量的下限。样本最小容量必须不少于模型中解释变量的数目（包括常数项）。2、满足基本要求的样本容量

从参数估计角度：＞3×解释变量数目从检验的有效性角度：＞303、模型的良好性质只有在大样本下才能得到理论上的证明六、多元线性回归模型实例中国消费函数模型根据消费模型的一般形式，选择消费总额为被解释变量，国内生产总值和前一年的消费总额为解释变量，变量之间关系为简单线性关系，选取1981年至1996年统计数据为样本观测值。

中国消费数据表单位：亿元

模型估计结果拟合效果

StatisticalTestofMultipleLinearRegressionModel

一、拟合优度检验二、方程显著性检验三、变量显著性检验说明由计量经济模型的数理统计理论要求的以多元线性模型为例将参数估计量和预测值的区间检验单独列为一节，在一些教科书中也将它们放在统计检验中包含拟合优度检验、总体显著性检验、变量显著性检验、偏回归系数约束检验、模型对时间或截面个体的稳定性检验等一、拟合优度检验

TestingtheSimulationLevel1、概念检验模型对样本观测值的拟合程度。

通过构造一个可以表征拟合程度的统计量来实现。问题：采用普通最小二乘估计方法，已经保证了模型最好地拟合了样本观测值，为什么还要检验拟合程度？答案：选择合适的估计方法所保证的最好拟合，是同一个问题内部的比较；拟合优度检验结果所表示的优劣是不同问题之间的比较。

2、总体平方和、残差平方和和回归平方和

定义TSS为总体平方和（TotalSumofSquares），反映样本观测值总体离差的大小；ESS为回归平方和（ExplainedSumofSquares），反映由模型中解释变量所解释的那部分离差的大小；RSS为残差平方和（ResidualSumofSquares），反映样本观测值与估计值偏离的大小，也是模型中解释变量未解释的那部分离差的大小。

既然ESS反映样本观测值与估计值偏离的大小，可否直接用它作为拟合优度检验的统计量？

不行

统计量必须是相对量TSS、ESS、RSS之间的关系

TSS=RSS+ESS4、拟合优度检验统计量：可决系数r2和调整后的可决系数R2可决系数r2

模型与样本观测值完全拟合时，r2=1。该统计量越接近于1，模型的拟合优度越高。问题：要使得模型拟合得好，就必须增加解释变量；增加解释变量必定使得自由度减少。

调整的可决系数R2为什么以R2作为检验统计量避免片面增加解释变量的倾向？

二、方程显著性检验

TestingtheOverallSignificance1、关于假设检验假设检验是统计推断的一个主要内容，它的基本任务是根据样本所提供的信息，对未知总体分布的某些方面的假设作出合理的判断。假设检验的程序是，先根据实际问题的要求提出一个论断，称为统计假设；然后根据样本的有关信息，对的真伪进行判断，作出拒绝或接受的决策。

假设检验的基本思想是概率性质的反证法。概率性质的反证法的根据是小概率事件原理，该原理认为“小概率事件在一次试验中几乎是不可能发生的”。2、方程的显著性检验

对模型中被解释变量与解释变量之间的线性关系在总体上是否显著成立作出推断。用以进行方程的显著性检验的方法主要有三种：F检验、t检验、r检验。它们的区别在于构造的统计量不同，即设计的“事件”不同。应用最为普遍的F检验。

3、方程显著性的F检验方程显著性的F检验F检验的思想来自于总离差平方和的分解式：

TSS=ESS+RSS由于回归平方和ESS是解释变量X联合体对被解释变量Y的线性作用的结果，所以，如果ESS/RSS的比值较大，则X的联合体对Y的解释程度高，可认为总体存在线性关系，反之总体上可能不存在线性关系。因此,可通过该比值的大小对总体线性关系进行推断。进一步根据数理统计学中的定义，如果构造一个统计量则该统计量服从自由度为（n-k-1）的F分布。在消费模型中，k=2,n=16,给定α=0.01,查得Ｆ0.01（2,13)=3.80，而Ｆ=28682.51>3.80,所以该线性模型在0.99的水平下显著成立。

关于拟合优度检验与方程显著性检验关系的讨论

可见，Ｆ与R2同向变化：当R2

＝０时，Ｆ＝０；当R2=时，Ｆ为无穷大；R2越大，Ｆ值也越大。回答前面的问题：R2多大才算通过拟合优度检验？在消费模型中，R2>0.28→F>3.80→该线性模型在0.99的水平下显著成立。

有许多著名的模型，R2小于0.5，支持了重要的结论，例如收入差距的倒U型规律。不要片面追求拟合优度。三、变量显著性检验

TestingtheIndividualSignificance1、变量显著性检验

对于多元线性回归模型，方程的总体线性关系是显著的，并不能说明每个解释变量对被解释变量的影响都是显著的。因此，必须对每个解释变量进行显著性检验，以决定是否作为解释变量被保留在模型中。变量显著性检验的数理统计学基础相同于方程显著性检验，检验的思路与程序也与方程显著性检验相似。用以进行变量显著性检验的方法主要有三种：F检验、t检验、z检验。它们的区别在于构造的统计量不同。应用最为普遍的t检验。

2、变量显著性的F检验如果构造一个统计量

已经知道

提出原假设与备择假设：

H0：

i=0,H1:i0在消费模型中，

tc=6.412,tgdp=22.00,tcons(-1)=4.188

给定α=0.01,查得t0.005(13)=3.012，所以所有变量都在0.99的水平下显著。3、在一元线性回归（k=1）中，t检验与F检验是一致的。4、关于检验标准的判断科学性灵活性关键是讲清楚在什么置信水平下显著直观判断§2.5单方程线性模型的区间估计

IntervalEstimationofMultipleLinearRegressionModel一、参数估计量的区间估计二、预测值的区间估计一、参数估计量的区间估计1、问题的提出人们经常说，“通过建立生产函数模型，得到资本的产出弹性是0.5”，“通过建立消费函数模型，得到收入的边际消费倾向是0.6”，等等。其中0.5、0.6是模型具有特定经济含义的参数估计值。

这样的说法正确吗？

应该如何表述才是正确的？

线性回归模型的参数估计量是随机变量，利用一次抽样的样本观测值，估计得到的只是参数的一个点估计值。如果用参数估计量的一个点估计值近似代表参数值，那么，二者的接近程度如何？以多大的概率达到该接近程度？

这就要构造参数的一个区间，以点估计值为中心的一个区间（称为置信区间，confidenceinterval），该区间以一定的概率（称为置信水平，confidencecoefficient

）包含该参数。参数估计量的区间估计的目的就是求得与α相对应的a。2、参数估计量的区间估计3、如何缩小置信区间增大样本容量n，因为在同样的样本容量下，n越大，t分布表中的临界值越小，同时，增大样本容量，还可使样本参数估计量的标准差减小；提高模型的拟合优度，因为样本参数估计量的标准差与残差平方和呈正比，模型优度越高，残差平方和应越小。提高样本观测值的分散度。二、预测值的区间估计1、问题的提出

但是，严格地说，这只是被解释变量的预测值的估计值，而不是预测值。

为什么？由于随机因素的影响，模型中的参数估计量是不确定的。所以，我们得到的仅能是预测值的一个估计值，预测值仅以某一个置信水平处于以该估计值为中心的一个区间中。于是，又是一个区间估计问题。下面进行置信区间的推导：2、预测值置信区间的推导

利用该统计量，类似于前面的推导过程，得到在给定（1-α）的置信水平下，预测值Y0的置信区间为：这就是说，当给定解释变量值X0后，能得到被解释变量Y0以（1-

）的置信水平处于该区间的结论。3、一点启示计量经济学模型用于预测时，必须严格科学地描述预测结果。如果要求给出一个“准确”的预测值，那么真实值与该预测值相同的概率为0。如果要求以100%的概率给出区间，那么该区间是∞。模型研制者的任务是尽可能地缩小置信区间。4、如何缩小置信区间增大样本容量n，因为在同样的样本容量下，n越大，t分布表中的临界值越小，同时，增大样本容量，还可使随机误差项的标准差减小；提高模型的拟合优度，模型优度越高，残差平方和应越小。提高样本观测值的分散度。三、多元线性回归分析计算步骤及主要公式

例：设某中心城市对各地区商品流出量Y取决于各地区的社会商品购买力X1以及各地区对该市的商品流入X2，即可能有如下总体回归方程：

Y=

0+1X1+2X2（2）统计检验拟合优度检验：总体显著性检验（F检验）：参数显著性检验（t检验）

Eviews软件输出（1）模型中包括X1与X2：（2）模型中仅包括X1§2.5单方程线性模型的区间估计§2.6异方差性

Heteroskedasticity一、异方差性的概念二、异方差性的后果三、异方差性的检验四、异方差性的估计五、案例回归分析，是在对线性回归模型提出若干基本假设的条件下，应用普通最小二乘法得到了无偏的、有效的参数估计量。但是，在实际的计量经济学问题中，完全满足这些基本假设的情况并不多见。如果违背了某一项基本假设，那么应用普通最小二乘法估计模型就不能得到无偏的、有效的参数估计量，OLS法失效，这就需要发展新的方法估计模型。如果随机误差项序列不具有同方差性，即出现异方差性。说明一、异方差的概念

1、异方差的概念即对于不同的样本点，随机误差项的方差不再是常数，则认为出现了异方差性。2、异方差的类型

同方差性假定的意义是指每个

i围绕其零平均值的变差，并不随解释变量X的变化而变化，不论解释变量观测值是大还是小，每个

i的方差保持相同，即

i2=常数在异方差的情况下，

i2已不是常数，它随X的变化而变化，即

i2=f(Xi)

异方差一般可归结为三种类型：（1）单调递增型：

i2随X的增大而增大；（2）单调递减型：

i2随X的增大而减小;（3）复杂型：

i2与X的变化呈复杂形式。3、实际经济问题中的异方差性

在该模型中，

i的同方差假定往往不符合实际情况。对高收入家庭来说，储蓄的差异较大；低收入家庭的储蓄则更有规律性（如为某一特定目的而储蓄），差异较小。

因此，

i的方差往往随Xi的增加而增加，呈单调递增型变化。

例如：在截面资料下研究居民家庭的储蓄形为

Yi=

0+1Xi+i

Yi和Xi分别为第i个家庭的储蓄额和可支配收入。

一般情况下：居民收入服从正态分布，处于中等收入组中的人数最多，处于两端收入组中的人数最少。而人数多的组平均数的误差小，人数少的组平均数的误差大。所以样本观测值的观测误差随着解释变量观测值的增大而先减后增。

如果样本观测值的观测误差构成随机误差项的主要部分，那么对于不同的样本点，随机误差项的方差随着解释变量观测值的增大而先减后增，出现了异方差性。

例如，以绝对收入假设为理论假设、以截面数据作样本建立居民消费函数：

Ci=

0+1Yi+i

将居民按照收入等距离分成n组，取组平均数为样本观测值。例如，以某一行业的企业为样本建立企业生产函数模型

Yi=Ai1

Ki2

Li3eI产出量为被解释变量，选择资本、劳动、技术等投入要素为解释变量，那么每个企业所处的外部环境对产出量的影响被包含在随机误差项中。由于每个企业所处的外部环境对产出量的影响程度不同，造成了随机误差项的异方差性。

这时，随机误差项的方差并不随某一个解释变量观测值的变化而呈规律性变化，为复杂型的一种。二、异方差性的后果1、参数估计量非有效

普通最小二乘法参数估计量仍然具有无偏性，但不具有有效性。因为在有效性证明中利用了

E(NN’)=

2I

而且，在大样本情况下，参数估计量仍然不具有渐近有效性，这就是说参数估计量不具有一致性。以一元线性回归模型为例进行说明：（1）仍存在无偏性：证明过程与方差无关（2）不具备最小方差性2、变量的显著性检验失去意义在该统计量中包含有随机误差项共同的方差，并且有t统计量服从自由度为(n-k-1)的t分布。如果出现了异方差性，t检验就失去意义。其它检验也类似。

3、模型的预测失效

一方面，由于上述后果，使得模型不具有良好的统计性质；另一方面，在预测值的置信区间中也包含有随机误差项共同的方差

2。所以，当模型出现异方差性时，参数OLS估计值的变异程度增大，从而造成对Y的预测误差变大，降低预测精度，预测功能失效。三、异方差性的检验1、检验方法的共同思路

由于异方差性就是相对于不同的解释变量观测值，随机误差项具有不同的方差。那么：

检验异方差性，也就是检验随机误差项的方差与解释变量观测值之间的相关性及其相关的“形式”。问题在于用什么来表示随机误差项的方差

一般的处理方法：

2、图示检验法（1）用X-Y的散点图进行判断

看是否存在明显的散点扩大、缩小或复杂型趋势（即不在一个固定的带型域中）看是否形成一斜率为零的直线

3、解析法（1）戈德菲尔德-匡特（Goldfeld-Quandt）检验☆

G-Q检验以F检验为基础，适用于样本容量较大、异方差递增或递减的情况。

G-Q检验的思想：

先将样本一分为二，对子样①和子样②分别作回归，然后利用两个子样的残差之比构造统计量进行异方差检验。由于该统计量服从F分布，因此假如存在递增的异方差，则F远大于1；反之就会等于1（同方差）、或小于1（递减方差）。G-Q检验的步骤：①将n对样本观察值(Xi,Yi)按解释变量观察值Xi的大小排队②将序列中间的c=n/4个观察值除去，并将剩下的观察值划分为较小与较大的相同的两个子样本，每个子样样本容量均为(n-c)/2（2）戈里瑟（Gleiser）检验与帕克（Park）检验戈里瑟检验与帕克检验的思想：

如果存在某一种函数形式，使得方程显著成立，则说明原模型存在异方差性。注意：由于f(Xj)的具体形式未知，因此需要进行各种形式的试验。四、异方差性的估计

——加权最小二乘法(WLS)

WeightedLeastSquares1、加权最小二乘法的基本思想加权最小二乘法是对原模型加权，使之变成一个新的不存在异方差性的模型，然后采用普通最小二乘法估计其参数。

例如，在递增异方差下，对来自较小Xi的子样本，其真实的总体方差较小，Yi与回归线拟合值之间的残差ei的信度较大，应予以重视;而对较大Xi的子样本，由于真实总体的方差较大，残差反映的信息应打折扣。

加权最小二乘法就是对加了权重的残差平方和实施OLS法：对较小的残差平方ei2赋予较大的权数，对较大的残差平方ei2赋予较小的权数。2、一个例子例如，如果在检验过程中已经知道：3、一般情况对于模型

Y=XB+N(2.4.8)

这就是原模型(2.4.8)的加权最小二乘估计量，它是无偏、有效的。这里权矩阵为D-1，它来自于矩阵W

。4、求得权矩阵W的一种实用方法

从前面的推导过程看，它来自于原模型（2.4.8）残差项N的方差-协方差矩阵，因此仍然可对原模型(2.4.8)首先采用OLS法，得到随机误差项的近似估计量，以此构成权矩阵的估计量，即5、加权最小二乘法具体步骤6、注意

在实际建模过程中，尤其是截面数据作样本时，人们通常并不对原模型进行异方差性检验，而是直接选择加权最小二乘法，尤其是采用截面数据作样本时。如果确实存在异方差，则被有效地消除了；如果不存在异方差性，则加权最小二乘法等价于普通最小二乘法。在应用软件中，给出了权矩阵的多种选择。例如在Eviews中给出了权矩阵的3种选择：White权矩阵、Newey-West权矩阵和自己输入权矩阵。White,1980,Aheteroskedasticity-consistentconvariancematrixanddirecttestforheteroskedaticity,Econometrica,48,817-38Newey,West,1987,ASimplePositiveSemi-Definite,HeteroskedasticityandAutocorrelationConsistentCovarianceMatrix,Econometrica,55,703-8五、案例—1

—某地区居民储蓄模型某地区31年来居民收入与储蓄额数据表1、普通最小二乘估计2、异方差检验（1）图示检验⑵G-Q检验①求两个子样本（n1=n2=12）回归方程的残差平方和RSS1与RSS2；②计算F统计量F=RSS2/RSS1=769899.2/162899.2=4.726③查表

在5%的显著性水平下，第1和第2自由度均为（31-7）/2-2=10的F分布临界值为

F0.05(10,10)=2.97由于F=4.72>F0.05(10,10)=2.97因此，否定两组子样方差相同的假设，从而该总体随机项存在递增异方差性。⑶Park检验

显然，lnXi前的参数表现为统计上显著的，表明原数据存在异方差性。3、异方差模型的估计与OLS估计结果相比较，拟合效果更差。为什么？关于异方差形式的假定…与OLS估计结果相比较，拟合效果更好。

五、案例—2

—居民消费二元模型1、OLS估计结果2、WLS估计结果3、比较各项统计检验指标全面改善R2:0.999739→0.999999F:28682→980736∑e2:438613→29437t:6.422.04.2→25.2134.122.9D.W.:1.45→1.81§2.7序列相关性

SerialCorrelation一、序列相关性二、序列相关性的后果三、序列相关性的检验四、具有序列相关性模型的估计五、案例

如果模型的随机误差项违背了互相独立的基本假设的情况，称为序列相关性。

普通最小二乘法（OLS）要求计量模型的随机误差项相互独立或序列不相关。一、序列相关性1、序列相关的概念

如果对于不同的样本点，随机误差项之间不再是不相关的，而是存在某种相关性，则认为出现了序列相关性。称为一阶序列相关，或自相关（autocorrelation）。这是最常见的一种序列相关问题。

自相关往往可写成如下形式：其中：

被称为自协方差系数（coefficientofautocovariance）或一阶自相关系数（first-ordercoefficientofautocorrelation）。2、序列相关产生的原因

（1）惯性

大多数经济时间数据都有一个明显的特点，就是它的惯性。

GDP、价格指数、生产、就业与失业等时间序列都呈周期性，如周期中的复苏阶段，大多数经济序列均呈上升势，序列在每一时刻的值都高于前一时刻的值，似乎有一种内在的动力驱使这一势头继续下去，直至某些情况（如利率或课税的升高）出现才把它拖慢下来。（2）设定偏误：模型中遗漏了显著的变量

例如：如果对牛肉需求的正确模型应为Yt=

0+1X1t+2X2t+3X3t+t其中：Y=牛肉需求量，X1=牛肉价格，X2=消费者收入，X3=猪肉价格。如果模型设定为：Yt=

0+1X1t+2X2t+vt那么该式中的随机误差项实际上是：vt=

3X3t+t,

于是在猪肉价格影响牛肉消费量的情况下，这种模型设定的偏误往往导致随机项中有一个重要的系统性影响因素，使其呈序列相关性。

(3)设定偏误：不正确的函数形式

例如：如果边际成本模型应为：

Yt=

0+1Xt+2Xt2+t其中：Y=边际成本，X=产出。但建模时设立了如下模型：

Yt=

0+1Xt+vt因此，由于vt=

2Xt2+t,

，包含了产出的平方对随机项的系统性影响，随机项也呈现序列相关性。(4)蛛网现象

例如，农产品供给对价格的反映本身存在一个滞后期：供给t=

0+1价格t-1+t意味着，农民由于在年度t的过量生产（使该期价格下降）很可能导致在年度t+1时削减产量，因此不能期望随机干扰项是随机的，往往产生一种蛛网模式。(5)数据的“编造”

例如，季度数据来自月度数据的简单平均，这种平均的计算减弱了每月数据的波动而引进了数据中的匀滑性，这种匀滑性本身就能使干扰项中出现系统性的因素，从而出现序列相关。还有就是两个时间点之间的“内插”技术往往导致随机项的序列相关性。二、序列相关性的后果1、参数估计量非有效

OLS参数估计量仍具无偏性

OLS估计量不具有有效性在大样本情况下，参数估计量仍然不具有渐近有效性，这就是说参数估计量不具有一致性

2、变量的显著性检验失去意义

在关于变量的显著性检验中，当存在序列相关时，参数的OLS估计量的方差增大，标准差也增大，因此实际的t统计量变小，从而接受原假设

i=0的可能性增大，检验就失去意义。采用其它检验也是如此。3、模型的预测失效

区间预测与参数估计量的方差有关，在方差有偏误的情况下，使得预测估计不准确，预测精度降低。所以，当模型出现序列相关性时，它的预测功能失效。三、序列相关性的检验1、基本思路序列相关性检验方法有多种，但基本思路是相同的。首先采用普通最小二乘法估计模型，以求得随机误差项的“近似估计量”：

然后，通过分析这些“近似估计量”之间的相关性，以达到判断随机误差项是否具有序列相关性的目的。2、图示法2、解析法（1）回归检验法

具体应用时需要反复试算。回归检验法的优点是：一旦确定了模型存在序列相关性，也就同时知道了相关的形式；它适用于任何类型的序列相关性问题的检验。

对各方程估计并进行显著性检验，如果存在某一种函数形式，使得方程显著成立，则说明原模型存在序列相关性。（2）杜宾-瓦森（Durbin-Watson）检验法

D-W检验是杜宾（J.Durbin）和瓦森(G.S.Watson)于1951年提出的一种检验序列自相关的方法。该方法的假定条件是：（1）解释变量X非随机；（2）随机误差项

i为一阶自回归形式：

i=i-1+i（3）回归模型中不应含有滞后应变量作为解释变量，即不应出现下列形式：

Yi=

0+1X1i+kXki+Yi-1+i（4）回归含有截距项；（5）没有缺落数据。

D.W.统计量该统计量的分布与出现在给定样本中的X值有复杂的关系，因此其精确的分布很难得到。但是，Durbin和Watson成功地导出了临界值的下限dL和上限dU

，且这些上下限只与样本的容量n和解释变量的个数k有关，而与解释变量X的取值无关。检验步骤①计算该统计量的值，②根据样本容量n和解释变量数目k查D.W.分布表，得到临界值dL和dU，③按照下列准则考察计算得到的D.W.值，以判断模型的自相关状态。

可以看出，当D.W.值在2左右时，模型不存在一阶自相关。如果存在完全一阶正相关，即

=1，则D.W.0

如果存在完全一阶负相关，即

=-1，则D.W.4如果完全不相关，即

=0，则D.W.2

（1）从判断准则看到，存在一个不能确定的D.W.值区域，这是这种检验方法的一大缺陷。（2）D.W.检验虽然只能检验一阶自相关，但在实际计量经济学问题中，一阶自相关是出现最多的一类序列相关；（3）经验表明，如果不存在一阶自相关，一般也不存在高阶序列相关。

所以在实际应用中，对于序列相关问题一般只进行D.W.检验。注意：四、具有序列相关性模型的估计如果模型被检验证明存在序列相关性，则需要发展新的方法估计模型。最常用的方法是广义最小二乘法（GLS:Generalizedleastsquares）、一阶差分法（First-OrderDifference)和广义差分法(GeneralizedDifference)。

1、广义最小二乘法

对于模型

Y=XB+N(2.5.7)

如果存在序列相关，同时存在异方差，即有

设

=DD’

用D-1左乘(2.5.7)两边，得到一个新的模型：

D-1

Y=D-1

XB+D-1N(2.5.8)

即Y*=X*B+N*

该模型具有同方差性和随机误差项互相独立性。

于是，可以用OLS法估计模型(2.5.8)，得（2.5.9)

这就是原模型(2.5.7)的广义最小二乘估计量(GLSestimators)，是无偏的、有效的估计量。

如何得到矩阵

？

仍然是对原模型(2.5.7)首先采用普通最小二乘法，得到随机误差项的近似估计量，以此构成矩阵的估计量

，即可行的广义最小二乘法（FGLS,FeasibleGeneralizedLeastSquares）文献中常见的术语如果能够找到一种方法，求得到Ω的估计量，使得GLS能够实现，都称为FGLS

前面提出的方法，就是FGLS2、一阶差分法

即使对于非完全一阶正相关的情况，只要存在一定程度的一阶正相关，差分模型就可以有效地加以克服。

如果原模型存在完全一阶正自相关，即在

i=i-1+i中，

=1。(2.5.10)可变换为：

Yi=1Xi+I由于

i不存在序列相关，该差分模型满足应用OLS法的基本假设，用OLS法估计可得到原模型参数的无偏的、有效的估计量。3、广义差分法

模型(2.5.12)为广义差分模型，该模型不存在序列相关问题。采用OLS法估计可以得到原模型参数的无偏、有效的估计量。

广义差分法可以克服所有类型的序列相关带来的问题，一阶差分法是它的一个特例。4、随机误差项相关系数

的估计

应用广义差分法，必须已知不同样本点之间随机误差项的相关系数

1,

2,…,

l

。实际上，人们并不知道它们的具体数值，所以必须首先对它们进行估计。

常用的方法有：

（1）科克伦-奥科特（Cochrane-Orcutt）迭代法。（2）杜宾（durbin）两步法（1）科克伦-奥科特迭代法

首先，采用OLS法估计原模型

Yi=

0+1Xi+i得到的随机误差项的“近似估计值”，并以之作为观测值采用OLS法估计下式

i=1

i-1+2

i-2+L

i-L+i

类似地，可进行第三次、第四次迭代。

关于迭代的次数，可根据具体的问题来定。一般是事先给出一个精度，当相邻两次

1，2，，L的估计值之差小于这一精度时，迭代终止。实践中，有时只要迭代两次，就可得到较满意的结果。两次迭代过程也被称为科克伦-奥科特两步法。（2）杜宾（durbin）两步法

该方法仍是先估计

1，2，，L，再对差分模型进行估计。5、应用软件中的广义差分法在Eview/TSP软件包下，广义差分采用了科克伦-奥科特（Cochrane-Orcutt）迭代法估计

。在解释变量中引入AR(1)、AR(2)、…，即可得到参数和ρ1、ρ2、…的估计值。其中AR(m)表示随机误差项的m阶自回归。在估计过程中自动完成了ρ1、ρ2、…的迭代.

6、虚假序列相关问题

由于随机项的序列相关往往是在模型设定中遗漏了重要的解释变量或对模型的函数形式设定有误，这种情形可称为虚假序列相关，应在模型设定中排除。避免产生虚假序列相关性的措施是在开始时建立一个“一般”的模型，然后逐渐剔除确实不显著的变量。五、案例:地区商品出口模型1、某地区商品出口总值与国内生产总值的数据2、序列相关性检验

（1）图示法检验（2）D.W.检验

在5%在显著性水平下，n=19，k=2(包含常数项)，查表得dL=1.18，dU=1.40，由于DW=0.9505<dL，故存在正自相关。3、自相关的处理

⑴一阶差分法R2=0.4747,D.W.=1.8623由于DW>du=1.39(注：样本容量为18个)，已不存在自相关。

⑵广义差分法①采用杜宾两步法估计

由于DW>=1.39(注：样本容量为19-1=18个)，已不存在自相关。于是原模型估计式为：②采用科克伦-奥科特迭代法估计

一阶广义差分的结果：

由于DW>du=1.39(注：样本容量为18个)，已不存在自相关。

二阶广义差分的结果：

由于DW>du=1.38(注：样本容量为19-2=17个)，已不存在自相关。但由于AR[2]前的系数的t值为-0.15，在5%的显著性水平下并不显著，说明随机干扰项不存在二阶序列相关性，模型中应去掉AR[2]项。

§2.8多重共线性

Multi-Collinearity一、多重共线性的概念二、多重共线性的后果三、多重共线性的检验四、克服多重共线性的方法五、案例六、分部回归与多重共线性一、多重共线性的概念1、多重共线性

对于模型

Yi=

0+1X1i+2X2i++kXki+i

i=1,2,…,n(2.6.1)其基本假设之一是解释变量是互相独立的。

如果某两个或多个解释变量之间出现了相关性，则称为多重共线性。

如果存在

c1X1i+c2X2i+…+ckXki=0i=1,2,…,n(2.6.2)

其中:ci不全为0，即某一个解释变量可以用其它解释变量的线性组合表示，则称为解释变量间存在完全共线性。

如果存在

c1X1i+c2X2i+…+ckXki+vi=0i=1,2,…,n(2.6.3)其中ci不全为0，为随机误差项，则称为一般共线性(近似共线性)或交互相关(intercorrelated)。

在矩阵表示的线性回归模型

Y=XB+N

中，完全共线性指：秩(X)<k+1，即矩阵

例如，X2=X1，这时X1与X2的相关系数为1，解释变量X2对因变量的作用完全可由X1代替。

注意：完全共线性的情况并不多见，一般出现的是在一定程度上的共线性，即近似共线性。2、实际经济问题中的多重共线性现象

经济变量的共同变化趋势

时间序列样本：经济繁荣时期，各基本经济变量（收入、消费、投资、价格）都趋于增长；衰退时期，又同时趋于下降。

横截面数据：生产函数中，资本投入与劳动力投入往往出现高度相关情况，大企业二者都大，小企业都小。

滞后变量的引入

在计量经济模型中，往往需要引入滞后经济变量来反映真实的经济关系。

例如，消费=f(当期收入,前期收入）显然，两期收入间有较强的线性相关性。

一般经验

对于采用时间序列数据作样本、以简单线性形式建立的计量经济学模型，往往存在多重共线性。以截面数据作样本时，问题不那么严重，但多重共线性仍然是存在的。二、多重共线性的后果

1、完全共线性下参数估计量不存在如果存在完全共线性，则(X’X)-1不存在，无法得到参数的估计量。2、近似共线性下普通最小二乘法参数估计量非有效

在一般共线性（或称近似共线性）下，虽然可以得到OLS法参数估计量，但是由参数估计量方差的表达式为

可见，由于此时|X’X|0，引起(X’X)-1主对角线元素较大，从而使参数估计值的方差增大，OLS参数估计量非有效。即：多重共线性使参数估计值的方差增大，方差扩大因子(VarianceInflationFactor)为1/(1-r2)，其增大趋势见下表：3、参数估计量经济含义不合理

如果模型中两个解释变量具有线性相关性，例如X1和X2，那么它们中的一个变量可以由另一个变量表征。这时，X1和X2前的参数并不反映各自与被解释变量之间的结构关系，而是反映它们对被解释变量的共同影响。所以各自的参数已经失去了应有的经济含义，于是经常表现出似乎反常的现象，例如本来应该是正的，结果恰是负的。4、变量的显著性检验失去意义存在多重共线性时参数估计值的方差与标准差变大使t统计量的拒绝域变小（临界值增大）容易使通过样本计算的t值小于临界值，误导作出参数为0的推断可能将重要的解释变量排除在模型之外三、多重共线性的检验

由于多重共线性表现为解释变量之间具有相关关系，所以用于多重共线性的检验方法主要是统计方法：如判定系数检验法、逐步回归检验法等。

多重共线性检验的任务是：（1）检验多重共线性是否存在；（2）估计多重共线性的范围，即判断哪些变量之间存在共线性。1、检验多重共线性是否存在

(1)对两个解释变量的模型，采用简单相关系数法

求出X1与X2的简单相关系数r，若|r|接近1，则说明两变量存在较强的多重共线性。

(2)对多个解释变量的模型，采用综合统计检验法若在OLS法下，模型的R2与F值较大，但各参数估计值的t检验值较小，说明各解释变量对Y的联合线性作用显著，但各解释变量间存在共线性而使得它们对Y的独立作用不能分辨，故t检验不显著。2、判明存在多重共线性的范围(1)判定系数检验法

使模型中每一个解释变量分别以其余解释变量为解释变量进行回归计算，并计算相应的拟合优度，也称为判定系数。如果在某一种形式

Xji=

1X1i+2X2i+LXLi中判定系数较大，则说明在该形式中作为被解释变量的Xj可以用其他X的线性组合代替，即Xj与其他X之间存在共线性。

等价的检验是对上述回归方程作F检验

式中：Rj•2为第j个解释变量对其他解释变量的回归方程的决定系数，若存在较强的共线性，则Rj•2较大且接近于1，这时（1-Rj•2

）较小，从而Fj的值较大。因此，可以在给定的显著性水平下，通过计算F值的方法进行检验。

另一等价的检验:

在模型中排除某一个解释变量Xj，估计模型，如果拟合优度与包含Xj时十分接近，则说明Xj与其它解释变量之间存在共线性。(2)逐步回归法

以Y为被解释变量，逐个引入解释变量，构成回归模型，进行模型估计。根据拟合优度的变化决定新引入的变量是否可以用其它变量的线性组合代替，而不作为独立的解释变量。

如果拟合优度变化显著，则说明新引入的变量是一个独立解释变量；

如果拟合优度变化很不显著，则说明新引入的变量不是一个独立解释变量，它可以用其它变量的线性组合代替，也就是说它与其它变量之间存在共线性关系。四、克服多重共线性的方法

1、第一类方法：排除引起共线性的变量

找出引起多重共线性的解释变量，将它排除出去，是最为有效的克服多重共线性问题的方法。以逐步回归法得到最广泛的应用。注意：剩余解释变量参数的经济含义和数值都发生了变化。2、第二类方法：差分法

对于以时间序列数据为样本、以直接线性关系为模型关系形式的计量经济学模型，将原模型变换为差分模型

Yi=1X1i+2X2i++kXki+i可以有效地消除存在于原模型中的多重共线性。

一般讲，增量之间的线性关系远比总量之间的线性关系弱得多。例如：在中国消费模型中的2个变量：

由表中的比值可以直观地看到，两变量增量的线性关系弱于总量之间的线性关系。

进一步分析：

Y与C(-1)之间的判定系数为0.9845，△Y与△C(-1)之间的判定系数为0.7456。

一般认为：两个变量之间的判定系数大于0.8时，二者之间存在线性关系。所以，原模型经检验地被认为具有多重共线性，而差分模型则可认为不具有多重共线性。3、第三类方法：减小参数估计量的方差

多重共线性的主要后果是参数估计量具有较大的方差，所以采取适当方法减小参数估计量的方差，虽然没有消除模型中的多重共线性，但确能消除多重共线性造成的后果。

例如，增加样本容量，可使参数估计量的方差减小。

再如：岭回归法（RidgeRegression）

70年代发展的岭回归法，以引入偏误为代价减小参数估计量的方差，受到人们的重视。具体方法是：引入矩阵D，使参数估计量为

其中矩阵D一般选择为主对角阵，即

D=aI(2.6.6)a为大于0的常数。

显然，与未含D的参数B的估计量相比，(2.6.5)的估计量有较小的方差。五、案例一：服装市场需求函数□1、建立模型

根据理论和经验分析，影响居民服装类支出的主要因素有：可支配收入、居民流动资产拥有量、服装价格指数、物价总指数。已知某地区的有关资料，根据散点图判断，建立线性服装消费支出模型：

Y=

0+1X+2K+3P1+4P0+2、样本数据

由于R2较大且接近于1，而且F=638.4，大于临界值：F0.05(4,5)=15.19，故认为服装支出与上述解释变量间总体线性关系显著。但由于参数K的估计值的t检验值较小（未能通过检验），故解释变量间存在多重共线性。3、估计模型（2）检验简单相关系数各解释变量间存在高度相关性，其中尤其以P1，P0间的相关系数为最高。（3）找出最简单的回归形式可见，应选①为初始的回归模型。（4）逐步回归

将其他解释变量分别导入上述初始回归模型，寻找最佳回归方程。4、讨论：

①在初始模型中引入P1，模型拟合优度提高，且参数符号合理，但P1的t检验未通过；②再引入K，拟合优度虽有提高，但K与P1的t检验未能通过，且X与P1的t检验值及F检验值有所下降，表明引入K并未对回归模型带来明显的“好处”，K可能是多余的；③去掉K，加入P0，拟合优度有所提高，且各解释变量的t检验全部通过，F值也增大了。④将4个解释变量全部包括进模型，拟合优度未有明显改观，K的t检验未能通过，K显然是多余的。

5、结论回归方程以Y=f(X,P1,P0)为最优：

Y=-12.45+0.10X-0.19P1+0.31P01、OLS估计结果五、案例二：中国消费函数模型2