《数据分析与EViews的应用》（第4版）课件 第3、4章 线性回归问题与非线性回归分析、传统时间序列分析

第三章线性回归问题与非线性回归分析目录01.线性回归的常见问题介绍模型残差的自相关、异方差以及多重共线性02.回归变量选择学习回归变量选择的几种方法03.非线性回归分析探讨非线性模型的形式、参数估计和实际应用1.线性回归的常见问题Commonproblemsoflinearregression自相关性自相关的含义及影响自相关含义导致残差序列自相关的原因变量之间不是线性关系模型遗漏重要的解释变量序列有很强的趋势诊断方法D.W.检验不足：存在无法判断的区域模型有因变量滞后项，检验失效只能检验是否存在一阶自相关LM检验

回归模型中各残差项之间不满足独立假设原假设：残差不存在从1阶到p阶的自相关

渐近服从p辅助方程的阶数辅助方程的决定系数自相关性的克服方法Cochrane-Orcutt迭代法残差序列自相关是因为序列有很强趋势核心优势重新定义模型残差序列自相关原因：变量间存在非线性关系模型遗漏了重要解释变量例3.1我国科学技术支出与GDP的回归模型参数估计结果自相关原因自相关性的克服方法核心优势生成时间变量新模型估计模型残差的LM检验（阶数为2）模型残差的LM检验（阶数为3）模型残差LM检验异方差性异方差的含义及影响含义回归模型随机误差项不满足同方差性影响导致参数估计值碎无偏但不是有效；参数的显著性检验失去意义；预测失效。诊断方法图示检验法以自变量或因变量预测值为横坐标，模型残差为纵坐标，绘制散点图，进行直观判断。怀特（White）检验

White检验的统计量

以模型残差的平方为因变量，建立辅助回归方程原假设：残差不存在异方差性异方差的含义及影响例3.2EViews操作在方程估计结果窗口点选View/ResidualDiagnostics/HeteroskedasticityTests，弹出检验设置对话框诊断方法怀特（White）检验结果异方差性的处理核心优势加权最小二乘法基本思路：残差平方和中的每个观测值权重不同，估计时通过加权使新模型的随机误差项具有同方差性。例3.3EViews操作

主窗口点选Quick/EstimateEquation，在弹出的对话框中输入要估计的方程，并在窗口上方点选Options，在随后出现对话框的右上方Weights项进行设置。加权最小二乘估计结果White检验结果协方差估计异方差性的处理核心优势基本思路：基于回归系数方差估计HC：适用于异方差形式未知CR：适用于数据来自不同类别HAC：适用于协方差形式未知时异方差和序列自相关一致例3.4

EViews操作

运用HAC的模型估计结果模型残差的White检验结果协方差估计模型估计时选方程定义对话框的Options按钮，在显示的对话框Covariancemethod右侧下拉菜单中设置方法。多重共线性多重共线性的含义及影响含义影响回归系数估计的标准误差变大，置信区间变宽——回归系数t检验不通过的概率增大诊断方法经验方法自变量之间简单相关系数值很高；回归系数符号与简单相关系数符号相反；模型拟合优度很高、F检验通过，但有些回归系数

t检验未通过。方差膨胀因子（VarianceInflationFactors,VIF）p个回归变量间存在严格的或近似的线性关系

其中，不全为零VIF是原始回归方程系数估计的方差与只有一个变量的回归方程系数估计的方差之比。有中心：一个变量的回归方程带常数项无中心：一个变量的回归方程无常数项多重共线性例3.5含义诊断方法建立九元线性回归模型（带有常数项），在方程估计结果中点选View/CoefficientDiagnostics/CoefficientVarianceDecomposition，

特征值和条件数相应的方差分解相应的特征向量多重共线性的处理方法差分法重新定义方程有偏估计剔除法通常剔除VIFj值最大或未通过系数显著性检验的变量

将原模型变形为差分后的变量之间的相关性比差分前会弱得多但常会丢失一些信息在共线性的变量中，保留与因变量相关程度最高的变量换估计方法，如主成分回归，岭回归等2.回归变量选择Variableselectioninregression基本思路单向前进逐步回归(Uni-directional-Forwards)变量由少到多，每次增加一个最重要的变量，即利用p-值最小（等价地，t统计量最大）准则，直至没有可引入的变量为止。例3.6准备模型估计

建立工作文件读入数据，在工具栏中选择Quick->EstimateEquation…选择估计方法单向前进逐步回归(Uni-directional-Forwards)确认具体估计方法在Method:中选择VARSEL-StepwiseLeastSquaresSelectionmethod的下拉菜单包括几种逐步回归的方法单向：Uni-directional逐步：stepwise逐次交换：Swapwise组合：Combinatorial自动搜索：Auto-search/GETS收缩（套索）：Lasso单向前进逐步回归(Uni-directional-Forwards)在SelectionMethodOptions中选择前进（Forwards）参数设置设置估计方法停止规则StoppingCriteria权重WeightsMaximumsteps单向前进逐步回归(Uni-directional-Forwards)估计结果单向前进逐步回归(Uni-directional-Forwards)预测结果预测设置点击Equation对象工具栏中Forecast按钮，或者选择Proc->Forecast…Seriesnames框中填入输出序列的名称在Forecastsample中输入预测的样本范围在Output框中可勾选预测输出的结果基本思路单向后退逐步回归(Uni-directional-backwards)全部变量建模，选择一个最不重要的变量，即遵循系数p-值最大（等价地，t统计量最小）准则，将其删除，直至没有可删除的变量为止。例3.7估计方法选择

选择Backwards选项，将显著性水平

设为0.1估计结果单向后退逐步回归(Uni-directional-backwards)预测结果基本思路前进逐步回归(Stepwise-Forwards)例3.8准备模型估计

单向前进逐步回归与单向后退逐步回归的结合将变量逐个引入回归方程，每当引入一个自变量后，要对已选入的变量采用后退法进行检查，将当前组合效应下不显著的变量剔除（显著性水平为

），确保在下一次引入新的变量之前回归方程中只包含显著的变量，如此为逐步前进回归的一步，该过程反复进行，直至所有未被引入方程的自变量系数所对应的p-值均大于所规定的显著性水平

。在估计方法选择的下拉菜单中选择Stepwise，选择Forwards选项，设置引入自变量的显著性水平

为0.15，为0.10，回归量的最大数目规定为9前进逐步回归(Stepwise-Forwards)估计结果基本思路后退逐步回归(Stepwise-backwards)例3.9准备模型估计

单向前进逐步回归与单向后退逐步回归的结合将所有变量建立回归方程，将p值最大的变量删除，将p值小于规定的的变量重新引入方程，该过程反复进行，直至所有引入方程的自变量系数所对应的p-值均小于所规定的显著性水平

。注意：应不大于。在估计方法选择的下拉菜单中选择Stepwise，选择Backwards选项，设置引入自变量的显著性水平

为0.05，为0.10，回归量的最大数目规定为1估计结果基本思路最大增量逐次交换回归(Swapwise-MaxR-SquaredIncrement)例3.10模型估计

在估计方法选择的下拉菜单中选择Swapwise点选最大增量(MaxR-squaredincrement)设置回归量的最大数目为3将全部m个自变量分别对因变量建立一元线性回归方程，将使

最大的方程中变量引入模型；分别以两个自变量对因变量建立二元线性回归方程，与建立的一元线性回归方程相比，使得增量最大的那个变量引入模型；随后，将已纳入模型的两个变量分别依次与模型外变量交换建模，若存在交换使得模型的拟合效果变好，就选择使得

增量最大的交换，如此进行逐次交换，直至模型中变量个数达到预定要求。估计结果最大增量逐次交换回归(Swapwise-MaxR-SquaredIncrement)基本思路最小增量逐次交换回归(Swapwise-MinR-SquaredIncrement)例3.11模型估计

在估计方法选择的下拉菜单中选择Swapwise点选最小增量(MinR-squaredincrement)设置回归量的最大数目为3与最大增量逐次交换回归相似，交换过程中，选择使得增量最小的交换。估计结果最小增量逐次交换回归(Swapwise-MinR-SquaredIncrement)基本思路组合逐步回归(Combinatorial)例3.12准备模型估计

在估计方法选择的下拉菜单中选择Combinatorial，回归量的最大数目规定为5比较变量所有的组合形式，变量的个数为用户事先规定的数目，选择使得拟合优度

达到最大的组合为最终的回归模型。组合逐步回归(Combinatorial)估计结果设定6个变量的估计结果自动搜索(Combinatorial)例3.13准备模型估计

在估计方法选择的下拉菜单中选择Auto-search/GETS，再点选Options，确认准则（criterion）设置：GUM、包括空模型、区块（预设允许为空）

各种p值

权重自动搜索(Combinatorial)估计结果

基本思路LASSO（Leastabsoluteshrinkageandselectionoperator）回归例3.14准备模型估计

在估计方法选择的下拉菜单中选择LASSO，点击上方的options在常用的回归模型（线性回归、逻辑回过等）中，添加惩罚函数（L1范数、L2范数等），不断压缩回归系数，在拟合模型的同时进行变量筛选（variableselection）和复杂度调整（regularization），从而达到精简模型的目的，以避免共线性和过拟合。设置

罚函数估计算法有关参数交叉验证有关方法LASSO（Leastabsoluteshrinkageandselectionoperator）回归估计结果

选择LI罚的估计结果3.非线性回归分析Nonlinearregressionanalysis非线性模型含义参数或自变量是非线性函数的一类模型一元非线性模型线性化不涉及参数原模型变换函数

变换本身不涉及模型参数，对变换后得到的模型，其参数估计就是原模型的参数估计。参数或自变量是非线性函数的模型非线性模型参数或自变量是非线性函数的一类模型多元非线性模型不可线性化模型

名称

模

型LogisticCompertzWeibull三个待估参数，任何一个无法事先通过经验或历史数据得到时，无法将其线性化。可直接线性化的模型

Cobb-Douglas生产函数

二元二次多项式线性化涉及参数原模型变换函数变换后的模型估计参数，需要再实施变换才能得到原回归模型的参数值Taylor级数展开模型

借助Taylor级数展开式，进行逐次的线性近似估计非线性最小二乘法估计原理估计算法对于模型，使得达到最小的

为的非线性最小二乘估计。

β

常用迭代法逼近：先给出参数估计的初始值，通过迭代求一个新的估计值，重复迭代直到估计值收敛。非线性最小二乘法例3.15数据读入按截面数据读入在DateSpecification选择Frequency后，选择最后一项Integerdate，截面个数16。参数估计模型可以线性化，在主窗口命令行输入lsyc1/x估计结果曲线模型

非线性最小二乘法例3.16建立Cobb-Douglas生产函数模型

参数估计方法方法一：线性化后采用最小二乘估计估计结果非线性最小二乘法设置方法二：非线性最小二乘估计在最小二乘页面输入方程，点击Options参数估计方法协方差方法优化方法最大迭代次数非线性最小二乘法估计结果WaldTest:

Equation:EQ08NullHypothesis：c(2)+c(3)=1TestStatisticValue

df

ProbabilityF-statistic3.863204(1,23)

0.0615Chi-square3.8632041

0.0494Wald检验结果

在方程对象窗口点选View/CoefficientTest下拉菜单中选择Wald检验检验约束条件

是否成立原假设：C(2)+C(3)=1感谢聆听第四章传统时间序列分析目录01.趋势模型与分析介绍趋势模型类型、估计和预测评价02.季节模型与分析介绍趋势与季节关系的模型、估计03.指数平滑法介绍各种指数平滑模型和建立1.趋势模型与分析TendencyModelandanalysis趋势模型趋势模型的一般形式

式中，t是时间变量。t的一般取值为0,1,2,3,…,或…,-3,-2,0,1,2,3,…。常用的趋势模型直线模型指数曲线或

幂函数曲线对数曲线

修正指数曲线

或Compertz曲线皮尔曲线多项式双曲线模型的选择模型定义(MIDAS)核心优势趋势模型的选择是定性分析和定量分析相结合的分析过程。例4.1我国社会消费品零售总额的分析预测

绘制时序图，如右图。序列呈现上升的变动，随着社会经济的发展应该不断上升，可以考虑建立增长型趋势模型。从曲线变化看，可初选：二次曲线、三次曲线和指数曲线。模型的参数估计采用最小二乘估计，运用和回归中相同的操作方法，得到三个模型的参数估计结果二次曲线三次曲线指数曲线注意参数估计时，指数曲线的线性变换模型的评价与预测模型定义(MIDAS)核心优势趋势模型的预测与回归预测方法一样

定性与定量分析相结合例4-2

运用上述模型进行全样本期（1993～2016年）和近期（2000～2016）预测。年份二次曲线三次曲线指数曲线1993-201619.736.778.082000-20168.454.06

7.60三个模型预测结果评价（MAPE）根据表中结果，可以评价模型的预测效果2.季节模型与分析SeasonModelandanalysis季节模型的类型

季节模型是反映具有季节变动规律的时间序列模型。时间序列的波动的四大因素：趋势变动（T，trend）季节变动（S，seasonal）循环变动（C，circle）不规则变动（I，irraguler）循环变动指周期为数年的变动，通常指经济周期。不规则变动即随机变动。季节变动的幅度随趋势上升而增大乘法模型（MultiplicativeModel）

Y=TSCI季节变动的幅度基本不变加法模型

(AdditiveModel)Y=T+S+C+I季节模型通常需要利用连续3-5年的月度数据或季度数据。季节因子与季节调整

季节因子（SeasonalFactor）反映序列随时间变化过程中，受季节因素影响的程度。乘法模型，季节因子以季节指数（SeasonalIndex）形式出现，是一串在100％上下波动的相对数；加法模型，季节因子以季节变差（SeasonalVariation），是一串0左右分布的绝对数。例4-3

对我国民航客运量进行分析

2011年1月-2022年12月EViews中建立工作文件选择时间范围时，需要点选月度，如图所示。绘制时序图1.异常变化判断2020年开始民航客运量下降过快，疫情影响2.修改样本范围主窗口命令行输入3.绘制新序列时序图更新后样本范围内，绘制时序图，如右图。序列变化规律分析既有趋势变动，又有周期为12个月的季节变化smpl2011.012019.12建立趋势模型1.趋势判断从图看大体为直线EViews13主界面截图2.参数估计主窗口命令行输入得到趋势模型估计结果，如表3.生成趋势预测序列该页面点击Forecast，在出现的对话框中，将趋势预测序列命名为f

Lsyct计算季节因子1.绘制原序列与趋势序列时序图EViews13主界面截图2.观察图中序列季节变化，每个周期波动幅度似乎有点增大，考虑建立乘法模型3.在主窗口命令行输入Genrs=y/f剔除趋势生成带有季节波动的序列s。计算季节指数1.选择季节调整方法打开序列s，点击窗口的Proc按钮，选择SeasonalAdjustment，再点选MovingAverageMethods，显示如图2.选择建立模型类型本例建立乘法模型，故选择调整方法的乘法3.为季节因子命名为序列季节因子命名，如命名为s1，结果如右表时间序列的分解与合成

时间序列的分解分解的目的将时间序列的各波动因素分解开，为深入研究各部分波动的变化规律提供条件EViews13操作打开准备进行成分分解的序列，在该序列窗口单击Proc/SeasonalAdjestment/CensusX12，如右图。在ComponentSeriestoSave下面是基础序列名字（Basename）,本例是将原序列y进行分解。生成分解后的序列时间序列的分解点确定后，工作文件框中出现y_SA、y_SF、y-TC、y-IR绘制分解各序列时序图点选打开工作文件框中的4个序列，在主窗口点选Quick/Graph，再按照需要在菜单中依次选择展示分解各序列时序图确定选项后点击OK，展示图形时间序列的合成合成的目的将分解的因素进行合并，构成比较完整的模型。合并的主要目的是预测。EViews13操作例4.4我国民航客运量数据的季节调整。该序列有两个波动：趋势（F）和季节变动（S），并具有乘法关系，可以建立预测模型：主窗口命令行输入Genryf=f*s回车后，工作文件窗口生成模型预测序列yf3.指数平滑法Exponentialsmoothing一次指数平滑模型公式关键参数解释α(平滑参数):是一个给定的常数，其大小决定预测值序列的平滑程度。

:t时刻的一次指数平滑值。

：实际值序列模型特点与评价优势：形式简洁，计算简单模型结构直观，计算简单，预测值是实际值序列的加权平均，适于短期预测。局限：预测值序列变动滞后跟踪序列变化不敏感，预测值与实际值存在滞后。

0

a1

二次指数平滑二次指数平滑公式：一次指数平滑序列。：二次指数平滑序列。特点线性趋势预测预测值为截距是，斜率是的线性趋势值。局部趋势预测T不同，和不同，则截距和斜率不同。二次指数预测公式多重指数平滑模型公式与参数参数是截距，是斜率，是季节因子。模型特点与应用跟踪数据变化利用近期数据预测未来，更贴近实际序列的近期变化，适于短期预测。适合线性趋势变化序列构建的都是直线趋势，反映局部线性趋势变化。季节因子反映季节变动带有季节因子的Holter-Winter季节乘积模型，可以预测既有线性趋势又有季节变动的序列。Holter-Winter非季节模型Holter-Winter季节乘积模型二次