应用回归分析,第4章课后习题参考答案

1、第 4 章 思考与练习参考答案4.1 试举例说明产生异方差的原因。答：例 4.1：截面资料下研究居民家庭的储蓄行为Y X ii 0 1 i其中：Y 表示第 i 个家庭的储蓄额，X 表示第 i 个家庭的可支配收入。ii小，所以 的方差呈现单调递增型变化。i例 4.2：以某一行业的企业为样本建立企业生产函数模型1 2 3 iY =Ai iKL eii被解释变量：产出量 Y 解释变量：资本 、劳动 、技术 ，那么每个企业所，KLA项 的方差并不随某一个解释变量观测值的变化而呈规律性变化，呈现复杂型。4.2 异方差带来的后果有哪些？答：回归模型一旦出现异方差性，如果仍采用 OLS 估计模型参数，会产生

2、下列不良后果：1、参数估计量非有效2、变量的显著性检验失去意义3、回归方程的应用效果极不理想总的来说，当模型出现异方差性时，参数 OLS 估计值的变异程度增大，从而造成对 Y的预测误差变大，降低预测精度，预测功能失效。4.3 简述用加权最小二乘法消除一元线性回归中异方差性的思想与方法。1 OLS提供信息的重要程度作一番校正，以提高参数估计的精度。加权最小二乘法的方法： ( )NN( )Q w y y w y x22wiiiii01 ii1i1N_w (x x )(y y )wiiiw=i1wN_(x x )2iw 1_ y xw0www111 22w iikxx222iiii1,或 kx w

3、2mxiiimi4.4 简述用加权最小二乘法消除多元线性回归中异方差性的思想与方法。w ，i以调整各项在平方和中的作用，加权最小二乘的离差平方和为：nQ ( , , ) w y x x( )2（2）w01pii011pi1 加权最小二乘估计就是寻找参数 , , 的估计值, , 使式（2）01p0w1wpw的离差平方和Q 达极小。所得加权最小二乘经验回归方程记做w2（3）yxpwp多元回归模型加权最小二乘法的方法:首先找到权数w ，理论上最优的权数w 为误差项方差 的倒数,即2iii1w i2i, , 就是参数 , , 的最小方差线性无偏估加权最小二乘估计计。01p一个需要解决的问题是误差项的方

4、差 2i 通常与自变量的水平有关(如误差项方差2ij22ii变量取值的平方成比例时, 即 =kx 时,这时取权数为22i1w x2iij更一般的情况是误差项方差 与某个自变量x (与|e |的等级相关系数最大2ij的自变量)取值的幂函数x 成比例，即 =kx ,其中 m 是待定的未知参数。此2mi1w ximij这时确定权数w 的问题转化为确定幂参数 m SPSS 软件解决。iNNQ w y y w y x22证明：由wiiiii0i1i10001nw (x x y y )iiwiwi11nw (x x )2iiwi1 y x0w1w4.6验证（）式多元加权最小二乘回归系数估计公式。证明：对于

5、多元线性回归模型 y = +, （1）E()0,cov(,) W，即存在异方差。设2W,w0，1D0wn用D 左乘（1）式两边，得到一个新的的模型：1D y = D X+D ，即y = X + 。111-1-1因为 ) (D D ) D ()DD WD I，1 2 2EE1-11E故新的模型具有同方差性，故可以用广义最小二乘法估计该模型，得1 1(X X ) X y (XD D X) XD D y (XWX) XWy 1 1 1 1 1w原式得证。4.7 的差异就越大。你是否同意这位同学的观点？说明原因。答：不同意。当回归模型存在异方差时，加权最小二乘估计（ WLS）只是普通最小二乘估计（）的

6、改进，这种改进可能是细微的，不能理解为 WLS 一定会得到与 OLS 截然不同的方程来，或者大幅度的改进。实际上可以构造这样的数据，回归模型存在很强的异方差，但 WLS 与 OLS 的结果一样。加权最小二乘法不会消除异方差，只是消除异方差的不良影响，从而对模型进行一点改进。4.8 对例4.3e计算出加权变换残差 制e w eiwiiw4iwi5根据绘制出的两个图形可以发现加权最小二乘估计没有消除异方差，只是对原OLS的残差有所改善，而经过加权变换后的残差不存在异方差。4.9 参见参考文献，表 4.12（P ）是用电高峰每小时用电量 y 与138每月总用电量 x的数据。（1）用普通最小二乘法建立

7、 y 与 x的回归方程，并画出残差散点图。解：SPSS 输出结果如下：UnstandardizedCoefficientsStandardizedCoefficientsStd. Betat.442-1.882.004.000.83911.030a.Dependent Variable: y由上表可得回归方程为：y x残差图为：普通0 x（2）诊断该问题是否存在异方差；解：ax的增加而增大。6b 用 SPSS 做等级相关系数的检验，结果如下表所示：Correlationsxx.*.得到等级相关系数，P值=0.021，认为残差绝对值 e 与自变量x 显ii著相关，存在异方差。7a,bStanda

8、rdizedCoefficientsBtSig.026.000(Constant)x-.683.004.298.000-2.2969.930.812b. Weighted Least Squares Regression - Weighted by Weight for y from WLS, MOD_2x* -1.5001.5由上述表可得，在 m时对数似然函数达到最大，则幂指数的最优取值为m1.5。加权后的回归方程为：y 0.6830.004x。w所示：r 0.321，P值为0.0190.05，说明异方差已经消除。s4.10 试举一可能产生随机误差项序列相关的经济例子。答：例如，居民总消费函

9、数模型：C Y + t 0 1 tt=1,2,nt由于居民收入对消费影响有滞后性，而且今年消费水平受上年消费水平影响，则可能出现序列相关性。另外由于消费习惯的影响被包含在随机误差项中，则可能出现序列相关性（往往是正相关 4.11 序列相关性带来的严重后果是什么？参数时，会产生下列一些问题：1.参数估计量仍然是无偏的，但不具有有效性，因为有自相关性时参数估计值的方差大于无自相关性时的方差。2.3.均方误差 MSE 可能严重低估误差项的方差变量的显著性检验失去意义：在变量的显著性检验中，统计量是建立在参数方差正确估计基础之上的，当参数方差严重低估时，容易导致t 值和 F值偏严重错误结论。4.当存在

10、序列相关时， 仍然是 的无偏估计，但在任一特定的样本中， 可能严重歪曲 的真实情况，即最小二乘法对抽样波动变得非常敏感95.模型的预测和结构分析失效。4.12 总结检验的优缺点。答：优点：1.应用广泛，一般的计算机软件都可以计算出 DW 值；2.适用于小样本；3.可用于检验随机扰动项具有一阶自回归形式的序列相关问题。缺点：1. DW DW 此时，只有增大样本容量或选取其他方法；2.DW 统计量的上、下界表要求 n15，这是由于样本如果再小，利用残差就很难对自相关性的存在做出比较正确的诊断；3.DW 检验不适应随机项具有高阶序列相关性的检验。4.13 表 4.13 中是某软件公司月销售额数据，其

11、中，x 为总公司的月销售额（万元）;y（1）用普通最小二乘法建立 y 与 x的回归方程；Model Summ aryb.663a.b. (Constant), 总公司月销售额xDependent Variable:某分公司月销售额y回归系数表aUnstandardizedCoefficientsStandardizedCoefficientsBStd. Betat-1.435.242-5.930.176.002.999107.928a.Dependent Variable:某分公司月销售额y由上表可知：用普通二乘法建立的回归方程为 y 1.4350.176x（2）用残差图及 DW检验诊断序列的

12、相关性；1.以自变量 x 为横轴，普通残差为纵轴画残差图如下：10120.0130.0140.0150.0160.0170.0180.0从图中可以看到，残差有规律的变化，呈现大致反 W 形状，说明随机误差项存在自相关性。2.以e （残差 1）为横坐标，e （残差）为纵坐标，绘制散点图如下：i 1i0.20000-0.20000-0.100000.000000.100000.2000011 存在着正的序i列相关；3.从下表Model Summ aryba.b. (Constant), 总公司月销售额xDependent Variable:某分公司月销售额y d =1.20,d =1.41,LU由

13、于0.6631.20,知DW值落入正相关区域，即残差序列存在正的自相关。（3）用迭代法处理序列相关，并建立回归方程。1自相关系数 1 0.663 0.66852令y y y ，x x x ，然后用y 对x 作普通最小二乘回归可得输出tt1ttt1ttt结果如下： t ANOVAbFSig.000a13.133.00513.224a.b. (Constant), x2Dependent Variable: y212Model Summ aryb.9931.360a.b. (Constant), x2Dependent Variable: y2可看到新的回归方程的 DW=1.360.且 1.181

14、.3601.40,因而 DW 检验落入不确定区域此时，一步迭代误差项的标准差为 0.07296，小于 的标准差 0.097tyxy y y对x 的回归方程为 =-0.3+0.173 ，将 = -0.6685 ，tt1tttttx =x -0.6685x 代人，还原为原始变量的方程ttt1 =-0.3+0.6685t+0.173 -0.1157x xyyt1tt1就是对x 和y 重复以上迭代过程。进行回归结果如下：ttModel Summ aryb.9891.696a.b. (Constant), x3Dependent Variable: y3SquaresFSig.000a6.994.075

15、7.069a.b. (Constant), x3Dependent Variable: y3此时DW的值为1.696，查DW表，n=18k=2，显著性水平 =0.05，得d =1.16,Ld =1.39, DW 值大于d ，小于 2，落入无自相关区域。误差标准项 0.0849，略UU小于一步迭代的标准差 0.7296。但是在检验都通过的情况下，由于一步迭代的r2值和 F 值均大于两步迭代后的值，且根据取模型简约的原则，最终选择一步迭代的结果，即： =-0.3+0.6685t+0.173 -0.1157x xyyt1tt113（4）用一阶差分的方法处理数据，建立回归方程；先计算差分y = y -

16、 y ，x =x -x ，然后用y 对x 做过原点的最小二乘回ttt1ttt1tt归，结果如下：Model Summ aryR.990b1.462For regression through the origin (the no-intercept m odel), R Squaremeasures the proportion of the variability in the dependent variableabout the origin explained by regression. This CANNOT be compared toR Square for models w

17、hich include an intercept.b.c.d.Dependent Variable: y2Linear Regression through the OriginCoea,btx230.461a.b.Dependent Variable: y2Linear Regression through the OriginANOVAc,dModel1FSig.000a5.429bThis total sum of squares is not corrected for the constant because the constant iszero for regression t

18、hrough the origin.c.d.Dependent Variable: y2Linear Regression through the Origind etU不存在自相关，一阶差分法成功地消除了序列自相关。同时得到回归方程为y =0.169x ，tt将y = y - y ，x =x -x ，代人，还原原始变量的方程ttt1ttt1y = y +0.169（x -x ）tt1tt114（5）比较普通最小二乘法所得的回归方程和迭代法、一阶差分法所建立回归方程的优良性。答：本题中自相关系数 0.6685，不接近于 1，不适宜用差分法，另外由迭代法的 F 值及r2都大于差分法的值，故差分法

19、的效果低于迭代法的效果；而普通最小二乘法的随机误差项标准差为 0.09744，大于迭代的随机误差项标准差4.14 某乐队经理研究其乐队 CD 盘的销售额（变量是每周出场次 x1和乐队网站的周点击率 ，数据见表 4.14。（1）用普通最小二乘法建立 y 与 x1、x2 的回归方程，用残差图及 DW 检验诊断序列的自相关性；解：将数据输入 SPSS，经过线性回归得到结果如下：Model Summary(b)Model1RR Square.293Durbin-Watson.745.541(a).264329.69302a Predictors: (Constant), x2, x1b Depende

20、nt Variable: yANOVA(b)Sum ofSquaresRegression 2205551.678Mean SquareFSig.10.145.000(a)ResidualTotal5326177.0367531728.7144951a Predictors: (Constant), x2, x1b Dependent Variable: yUnstandardizedCoefficientsStandardizedCoefficientsBBetatx1x22.6072.246a.Dependent Variable: y15由以上3个表可知普通最小二乘法建立y与x1、x2的

21、回归方程，通过了r、F、t检验，说明回归方程显著。y与x1、x2的回归方程为：y=-574.062+191.098x1+2.045x2ei(e)ei1(e残差图t-1为：t1ie-800.00000-600.00000-400.00000-200.000000.00000200.00000400.00000600.00000sta ndardized Residual从残差图可以看出残差集中在1、3象限，说明随机误差项存在一阶正自相关。DW=0.745查表得 dl=1.46 du=1.63, 0DWdu 所以误差项间无自相关性。 =257.86BStd. Betat-178.775-1.979

22、4.4212.285x2tta.Dependent Variable: ytt:+1.436x2t还原为:yt-0.627y(t-1)= -178.775+211.11*(x1t-0.627x1(t-1)+1.436*( x2t-0.627x2(t-1)用一阶差分法处理序列相关，建立回归方程。Model Summary(c,d)Model1RR Square(a).511Durbin-Watson2.040.715(b).491280.98995a For regression through the origin (the no-intercept model), R Square meas

23、ures the proportion of the variabilityin the dependent variable about the origin explained by regression. This CANNOT be compared to R Square formodels which include an intercept.b Predictors: DIFF(x2,1), DIFF(x1,1)c Dependent Variable: DIFF(y,1)d Linear Regression through the OriginDW=2.040du，所以消除了

24、自相关性， =280.99UnstandardizedCoefficientsBt210.1171.397.577a.b.Dependent Variable: Linear Regression through the Origin17yy =210.117(x -x 1.397(x -x ).差分法回归方程为:tt-11t 1(t-1)2t 2(t-1)用最大似然法处理序列相关，建立回归方程。用 SPSS 软件的自回归功能，time autoregression:Regression Coefficients-574.062-489.203-487.097Melards algorithm

25、 was used for estimation.The estimation at this iteration, because the sum of squares decreased byless than .001%.Residual Diagnos tics48Adjusted Residual Sum ofSquares3228075Residual Sum of SquaresResidual VarianceModel Std. ErrorLog-Likelihood-360.788729.575737.380Schw arzs BayesianCriterion Param

26、e ter EstimatesStd Errort211.02247.7201.436Constant-487.145241.355Melards algorithm was used for estim ation. 用科克伦奥克特迭代法处理序列相关，建立回归方程18The Cochrane-Orcutt estimation method is used.Model Fit Summ aryThe Cochrane-Orcutt estimation method is used.Regre ssion Coefficie ntsStandardizedCoefficientsBt4.385.2692.263-1.956The Cochrane-Orcutt estimation method is used.=0.632, =260.560, 1.748。（6）用普莱斯温斯登迭代法处理序列相