第七章异方差模型

1、第七章第七章 异方差模型异方差模型 本章内容：本章内容：n普通回归中的异方差n时间序列中的条件异方差模型简介n使用Eviews建立ARCH模型 第一节第一节 异方差的概念异方差的概念一. 异方差的性质n随机误差项的方差受到解释变量的影响，随解释变量取值的变化而变化，称随机误差项存在异方差。n同方差性(Homoskedasticity)：等同的(home)分散程度(skedasticity); 随机扰动项ui对每一个样本点的方差是一个常数 niuVari,2, 1,)(2n异方差性(Heteroskedasticity).随机扰动项ui的条件方差不再是一个常数2)(iiuVarx1 x2X收入密

2、度同方差同方差Y储蓄Y=b0+b1x异方差异方差x1 x2X 收入密度Y储蓄Y=b0+b1xXYXY递减异方差递增异方差YXXY复杂异方差等方差 二、产生异方差的原因二、产生异方差的原因n模型中省略了对被解释变量有影响的解释变量n模型中变量观测值的测量误差n对被解释变量有影响的各种随机因素n异方差性还会因为异常值(outliers)的出现而产生。Example 1n对收入低的家庭，收入中扣除必要的生活费支出外，用于其他支出和消费的部分也较小，随机项波动程度小，即方差小n对收入高的家庭，收入中扣除必要的生活费支出外，用于其他支出和消费的部分也较大，随机项波动程度小，即方差大n因此，随机误差项的方

3、差随解释变量（收入）的增加而递增iiiXbbY10（储蓄）（收入）Example 2n对规模小的企业，在一定的劳动投入和资金投入下，产出的波动幅度小，随机项的方差小n对规模大的企业，在一定的劳动投入和资金投入下，产出的波动幅度大，随机项的方差大n随机误差项的方差随企业规模增大而递增iiiiXbXbbY22110lnln（产出）（资本）（劳动力）Example 3 20个国家在第二次世界大战后直至1969年期间的股票价格(y)和消费者价格(x)的百分率变化的散点图sample5.311051015202530051015202530XY051015246810X1Y1 n异方差的产生异方差的产生

4、a)变量为时间序列数据的模型可能产生异方差例：1951年至1998年我国商品零售物价指数s和居民消费价格指数x。Sample5.3121234567556065707580859095SX-0.2-0.10.00.10.2556065707580859095W0.000.010.020.030.04556065707580859095W2 b)变量为截面数据的模型更常出现异方差第二节第二节 出现异方差时的出现异方差时的OLSOLS估计估计n参数的OLS估计仍然是线性无偏的，但不是最小方差的估计量nt检验失效n降低预测精度：由于异方差，会使得OLS估计的方差增大，从而造成预测误差变大，降低预测精

5、度。 1、参数的OLS估计仍然是线性无偏,但不是最小方差的估计量1、线性性22iiixyx=22iiixux2、无偏性E(2)=E(22iiixux)=22)(iiixuEx=23、方差Var(2)=Var(22iiixux)=222)()(iiixuVarx=2222)(iiixx在同方差时，Var(2)=22ix一元线性回归模型为例该形式不具有最小方差该形式具有最小方差 2、t 检验失效检验失效) 2()(22ntSt212222)()(XXVaru 第三节第三节 异方差的检验异方差的检验一、非正式方法1、问题的性质：根据所考虑问题的性质来判断是否会遇到异方差性。例如:在投资与销售量、利率

6、等的关系的横截面分析中，如果样本同时含有小、中和大型厂家，一般都预期有异方差存在.2 2、图示法、图示法XXYY nEviews步骤：nquick/graph,在随后的对话框中输入残差序列名和因变量名n从Graph type中选Scatter Diagrama)如果残差的绝对值分布比较随机，无明显规律，可判定不存在异方差。 n例：sample5.313的消费支出Y和收入X数据的异方差图检验。-20-10010203050100150200YRESID二、正式方法二、正式方法1 1 Goldfeld-QuandtGoldfeld-Quandt检验检验建立两个子样本：按大小排列样本观测值，去除中间

7、c个观测值（c一般为样本容量的1/4到1/3）原假设（同方差）： ； 备择假设（异方差）：分别对两个子样本利用最小二乘估计进行回归，得出残差平方和选择统计量：若 拒绝H0，存在异方差；若 ，接受H0 ，同方差22210:H22211:H)2,2()2/()2/(1212kcnkcnFRSSRSSkcnRSSkcnRSSF FF FF n例：sample5.314的消费支出Y和收入X数据的异方差的戈德菲尔德-匡特检验。1、按X升序排序2、去掉居中的4个观测3、对头13个观测值作回归1117.3776968. 04094. 31dfRSSXYii 对末13个观测值作回归4、计算统计量5、查表5%显

8、著水平的F临界值为2.82，故否定原假设，认为存在异方差性。118 .15367941. 00272.282dfRSSXYii07. 411/11.37711/8 .1536/12dfRSSdfRSSF2 、Glejser检验检验n基本思想：看看残差与解释变量是否存在因果关系n方法：对残差 和解释变量Xi进行各种形式的回归分析（最小二乘估计）如果某种回归形式的拟合优度高，系数的t检验显著，说明 受到Xi的影响，即存在异方差iiiiivXu21|iiivXu21|iiivXu1|21iiivXu1|21iiivXu21|iiivXu221|3、 Spearman等级相关系数检验等级相关系数检验利

9、用最小二乘法进行回归分析，计算残差原假设：同方差；备择假设：异方差对解释变量Xi和 分别按从小到大的顺序排列，并赋予1到n中的一个顺序号表示其等级对每个下标i，计算Xi和 的等级差di计算等级相关系数计算统计量当 ，等级相关系数不明显，接受原假设，同方差；否则存在异方差iiinndrnii31261) 1 , 0(1NnrZ2/ ZZ4 4 WhiteWhite检验检验1）、利用最小二乘法进行回归，计算残差2）、将 关于各解释变量、各解释变量的平方、两两解释变量的乘积利用最小二乘法作回归分析。3）、计算white检验的统计量4）、若 拒绝H0，存在异方差；若 ，接受H0 ，同方差。其中k是除常

10、数项以外的回归系数的个数。i2i2Rnm)(2km)(2km n例：对sample5.315数据作white异方差检验 LS Y C X Z拒绝原假设，认为有异方差存在。White Heteroskedasticity Test:F-statistic19.41959 Probability0.000022Obs*R-squared 16.02013 Probability0.006787 n其他异方差检验：布劳殊-培干-戈弗雷(Breusch-Pagan-Godfrey)、reset检验、帕克(Park)检验等等。 第四节第四节 异方差的处理异方差的处理n情形一： 已知时n情形二： 未知时2

11、i2i加权最小二乘法加权最小二乘法(WLS) WLS的思路：的思路：n根据误差最小建立起来的OLS法，同方差下，将各个样本点提供的残差一视同仁是符合情理的。各个 提供信息的重要程度是一致的。n但在异方差下，离散程度大的 对应的回归直线的位置很不精确，拟合直线时理应不太重视它们提供的信息。即Xi对应的 偏离大的所提供的信息贡献应打折扣，而偏离小的所提供的信息贡献则应于重视。n因此采用权数对残差提供的信息的重要程度作一番校正，可以提高估计精度。这就是WLS（加权最小二乘法）的思路。iii加权最小二乘法的机理加权最小二乘法的机理n以递增型为例。设权术WI与异方差的变异趋势相反。Wi=1/2i。Wi使

12、异方差经受了“压缩”和“扩张”变为同方差。加权最小二乘法的原理加权最小二乘法的原理 大乘小，小乘大，加权为同方差误差随E由大到小权数w由小到大1. 1. 已知时已知时ikikiiiXbXbXbbY22110两边同除iiiiiiiikikiiiXbXbXbbY221101令iiiiiiiikikiiiiiiiiXXXXXXXYY,1,22110ikikiiiiXbXbXbXbY*22*1100得*2*10,kiiiiiXXXXY已知，所以i均可观测2i有1)(*iVar同方差同方差满足经典假设，用最小二乘法估计参数niiiniiiniiYYYYi12212*12*)(1)(min2. 未知时未知

13、时2iXXXXXXxbXXXxbXXXbXXXYXXXXbXbXbbYkiiiikiiiikkkiiiikiiikiiiikiiikiiiiikikiiiffffffXXXf,),(212121112102121212222110两边同除存在异方差：同方差转换后的模型符合经典假设，可以用OLS估计参数 n怀特的怀特的“异方差性相一致异方差性相一致”的方差与标准误的方差与标准误：White给出一种估计，可对真实的参数值做出渐近有效的估计.例子：例子：一元线性回归模型：iiiXbbY10假定：222)(iiXVar随机项的方差与自变量X的平方成正比两边除以Xi ：iiiiiiivXbbXbXbXY

14、10110222221)(1)()(iiiiiiiXXVarXXVarvVar符合经典假设，用OLS求出 对 回归方程iiXYiX1iiiiiXbbYXbbXY10011加权最小二乘法（加权最小二乘法（WLS）的一般形式的一般形式YWXXWXIDDDDYDDXXDDXDWDYXXXBDUUEDDUUDEUUEUBXYUDXBDYDDDDWDDWIDWDWIWWUUCovUEUXBYwwwn111111111111*111 11111111111222*212)()()()(0)(估计加权模型：左乘模型用对称正定加权矩阵加权矩阵Wn采用OLS估计原模型：Y=XB+Un得到残差，以各次观察残差的平

15、方作为W权数矩阵主对角线上总体方差的近似值DDWDWWeeeeeeeeennn11111111111212222122221 第五节第五节 ARCH模型模型一、一、ARCH模型的定义模型的定义n由Engle,1982年提出。Autoregressive conditional heteroskedasticity modeln波动的集群性(Volatility Clustering)：时序中出现某一特征的值成群出现的情况。 n就ARCH(1)为例：时刻t的残差 的方差 依赖于时刻t-1的平方误差的大小，即依赖于 。 更具体地，首先我们做k-变量回归模型：假定在时刻t-1所有信息的条件下，干扰项

16、的分布为：2ttu21tutktkttuXXY110, 02110ttuNu n定义：对于通常的回归模型如果随机扰动项的平方 服从AR(q)过程，即其中， 独立同分布，并满足 ，则称模型(5.3)是自回归条件异方差模型，简记为ARCH模型。称序列服从q阶的ARCH过程，记作 。(5.2)和(5.3)构成的模型称为回归-ARCH模型。 tktkttuXXY1102tu, 2 , 1,221102tuuutqtqttt2)(, 0)(ttDE)(qARCHt 二、二、ARCH效应检验效应检验n最常用的检验方法：拉格朗日乘数法，即LM检验。n步骤：n建立辅助回归方程n原假设和备择假设分别为n检验统计

17、量n其中，n为计算辅助回归(5.4)时的样本数据个数， 是辅1)助回归的决定系数(采用OLS估计)tqtqttuuu221102)1 (0:; 0:1210qiHHiq)(22qnRLM2R 4) 给定显著性水平 和自由度q，如果 ，则拒绝原假设，认为序列存在ARCH效应；如果 ，则不能拒绝原假设，说明序列不存在ARCH效应。例：sample5.312 检验1951年至1988年我国商品零售物价指数和居民价格指数回归滞后残差的ARCH效应。)(2qLM)(2qLMARCH Test:F-statistic5.799957 Probability0.020494Obs*R-squared5.338877 Probability0.020855 三、三、ARCH模型的参数估计模型的参数估计n上述回归-ARCH(q)模型的参数估计的对数似然函数为其中，使该函数达最大值的参数 ，就是 的极大似然估计。ntttntttnttyhhnxyL111|ln)/(21)ln(21)2ln(21),|,(ln22110qtqttuuh和和 例：