计量经济学 课件 第3章 一元线性回归模型

1第3章一元线性回归模型2026/6/14湖南大学经济与贸易学院2第3章一元线性回归模型3.1一元线性回归分析概述3.2一元线性回归分析的基本假设3.3一元线性回归分析的参数估计3.4一元线性回归分析的统计检验3.5

基于一元线性回归模型的预测3.6一元线性回归模型建模实例2026/6/14湖南大学经济与贸易学院研究某两个变量之间的关系是经济理论或者经济现象的基本问题。一元线性回归分析用于研究一个变量与另一个变量之间的线性关系。例如：产品销售量（Y）与广告宣传费（X）之间的关系可以用一元线性回归模型来表示，其中广告宣传费为自变量，产品销售量为因变量。具体形式：3.1一元线性回归分析概述32026/6/14湖南大学经济与贸易学院相关分析主要研究随机变量间的相关形式及相关程度。回归分析是对具有因果关系的影响因素（解释变量）和预测对象（被解释变量）所进行的数理统计分析处理。只有当解释变量与被解释变量确实存在因果关系时，建立的回归方程才有意义。42026/6/14湖南大学经济与贸易学院1、相关分析与回归分析3.1一元线性回归分析概述二者的联系与区别：联系：（1）分析非确定性变量间的统计相关关系；（2）度量相关程度的大小；区别：相关分析研究的是现象之间是否相关、相关的方向和密切程度，对变量的地位对称不做区分；回归分析分析现象之间相关的具体形式，确定其因果关系，并用数学模型来表现其具体关系。52026/6/14湖南大学经济与贸易学院3.1一元线性回归分析概述总体回归线描述的就是在给定解释变量X的条件下被解释变量Y期望值的轨迹，也可以称之为总体回归曲线。其函数形式即总体回归函数。举例：普通高等学校毕业生数(Y)与城镇居民人均可支配收入(X)62026/6/14湖南大学经济与贸易学院2、总体回归函数与样本回归函数3.1一元线性回归分析概述表3.1不同城镇居民人均可支配收入水平下的普通高等学校毕业生数（万人）城镇居民人均可支配收入（元）城市226002460026200268002840030000367004500010.600.371.210.471.151.712.305.8820.420.470.770.700.901.911.5623.2330.770.880.692.053.622.022.353.4040.762.561.993.680.725.890.082.8751.010.59

0.231.930.4518.9815.1160.170.69

1.85

0.530.152.2470.520.91

0.81

3.282.271.8980.36

1.22

0.50

0.089

0.54

1.96

6.24条件均值0.580.921.161.281.662.033.966.7772026/6/14湖南大学经济与贸易学院3.1一元线性回归分析概述图3.1总体回归线82026/6/14湖南大学经济与贸易学院3.1一元线性回归分析概述总体回归函数（PRF）：E(Y|X)=β0+β1X对于总体中的某一个样本，观察值Y不一定恰好就是给定X下的总体的平均值E(Y|X)。记ε=Y-E(Y|X)，ε

为随机扰动项，也称“随机误差项”。总体回归函数的随机设定形式：Y=E(Y|X)+ε

；Y=β0+β1X

+ε给定X

，Y可表示为系统性部分或确定性部分E(Y|X)；非系统性部分或其他随机部分ε。92026/6/14湖南大学经济与贸易学院3.1一元线性回归分析概述随机误差项的性质随机误差包含了解释变量外的所有随机因素对被解释变量的总影响。包括：(1)与分析的主体结合不够紧密众多未知的、细小的影响因素。(2)模型设定误差。(3)数据不可得或者缺失、测量误差。(4)变量所固有的内在随机性。“奥卡姆剃刀原则”：描述应该尽可能简单，只要不遗漏重要的信息。102026/6/14湖南大学经济与贸易学院3.1一元线性回归分析概述2、总体回归函数与样本回归函数表3.2来自表3.1中的随机样本YXYX4105000420500042015000520150004402500047025000490350004503500053045000470450005305500055055000550650004706500054075000500750005709000055090000590150000600150000表3.3来自表3.1中的另一随机样本112026/6/14湖南大学经济与贸易学院3.1一元线性回归分析概述2、总体回归函数与样本回归函数图3.2样本回归线122026/6/14湖南大学经济与贸易学院3.1一元线性回归分析概述2、总体回归函数与样本回归函数样本回归函数:样本回归函数的随机形式

也可称为样本回归模型。图3.3总体回归线与样本回归线之间的关系132026/6/14湖南大学经济与贸易学院3.1一元线性回归分析概述假设1：模型的参数线性。假设2：解释变量X是非随机的确定性的变量，随着样本容量的无限增加，解释变量X的样本方差趋于一个非零的有限常数，即（样本波动）。假设3：随机扰动项具有零均值性与同方差性，即

3.2一元线性回归模型的基本假设142026/6/14湖南大学经济与贸易学院假设4：随机扰动项之间不相关，即假设5：随机扰动项服从零均值、同方差的正态分布，即以上假设也称为线性回归模型的经典假设或高斯（Gauss）假设，满足该假设的线性回归模型，也称为经典线性回归模型（ClassicalLinearRegressionModel,CLRM）152026/6/14湖南大学经济与贸易学院3.2一元线性回归模型的基本假设1、参数估计的普通最小二乘法对于一元回归模型，普通最小二乘法是常用的估计参数β0与β1的方法，其使得样本回归函数估计值与真实观测值的“总体误差”尽可能地小。OLS给出的判断标准是：最小化残差平方和。3.3一元线性回归模型的参数估计162026/6/14湖南大学经济与贸易学院最小二乘法的数学推导推出172026/6/14湖南大学经济与贸易学院3.3一元线性回归模型的参数估计最小二乘法的数学推导解得令则有称为OLS估计量的离差形式182026/6/14湖南大学经济与贸易学院3.3一元线性回归模型的参数估计最小二乘法的数学推导称为正规方程组或192026/6/14湖南大学经济与贸易学院3.3一元线性回归模型的参数估计模型估计结果的性质：①拟合直线过Y和X的平均数点②估计残差和为零③Y的真实值和拟合值有共同的均值④估计残差与自变量不相关⑤估计残差与拟合值不相关202026/6/14湖南大学经济与贸易学院3.3一元线性回归模型的参数估计2、普通最小二乘估计量的性质从如下六个方面考察参数估计量的优劣性：（1）线性性，即是否是另一随机变量的线性函数；（2）无偏性，即均值或期望值是否等于总体的真实值；（3）有效性，即是否在所有线性无偏估计量中具有最小方差。这三个准则也称作估计量的有限样本性质或小样本性质。拥有这类性质的估计量称为最佳线性无偏估计量。212026/6/14湖南大学经济与贸易学院3.3一元线性回归模型的参数估计当不满足小样本性质时，需进一步考察估计量的无限样本性质或大样本性质：（4）渐近无偏性，即样本容量趋于无穷大时，是否它的均值序列趋于总体真值；（5）一致性，即样本容量趋于无穷大时，它是否依概率收敛于总体的真值；（6）渐近有效性，即样本容量趋于无穷大时，是否它在所有的一致估计量中具有最小的渐近方差。222026/6/14湖南大学经济与贸易学院3.3一元线性回归模型的参数估计无偏性与有效性是小样本性质中最为重要的两个性质，线性性并不是必须的；而在大样本性质中，由于问题较为复杂，更多地关注一致性。232026/6/14湖南大学经济与贸易学院3.3一元线性回归模型的参数估计（1）线性性，即估计量是Yi的线性组合242026/6/14湖南大学经济与贸易学院3.3一元线性回归模型的参数估计（2）无偏性由线性性可知，可得故同理252026/6/14湖南大学经济与贸易学院3.3一元线性回归模型的参数估计（3）有效性先求的方差262026/6/14湖南大学经济与贸易学院3.3一元线性回归模型的参数估计证明最小方差性其中，ci=ki+di，di为不全为零的常数，则容易证明同理可以证明β0的最小二乘估计量具有最小的方差。

普通最小二乘估计量具有线性性、无偏性和有效性等优良性质，称为最佳线性无偏估计量（bestlinearunbiasedestimator,BLUE），这就是著名的高斯—马尔可夫定理。

假设是其他估计方法得到的关于β1的线性无偏估计量，则272026/6/14湖南大学经济与贸易学院3.3一元线性回归模型的参数估计

由于最小二乘估计量拥有一个“好”的估计量所应具备的小样本特性，它自然也拥有大样本特性。

如考察的一致性282026/6/14湖南大学经济与贸易学院3.3一元线性回归模型的参数估计3、参数估计量的概率分布及随机扰动项方差的估计OLS估计量的分布特征由其均值和方差唯一决定：

σ2的最小二乘估计量为

292026/6/14湖南大学经济与贸易学院3.3一元线性回归模型的参数估计3.4一元线性回归模型的统计检验1、拟合优度检验并非每一个Y值都在样本回归线上，拟合值和观测值之间的差距并非都为0。需要考虑构建一个统计量来衡量利用样本回归线拟合真实值的好坏程度。302026/6/14湖南大学经济与贸易学院（1）总离差平方和的分解TSS为总离差平方和，反映模型总样本波动；ESS为回归平方和，反映由模型中解释变量所解释的的样本波动；RSS为残差平方和，反映残差的样本波动。312026/6/14湖南大学经济与贸易学院3.4一元线性回归模型的统计检验由于可证因此322026/6/14湖南大学经济与贸易学院3.4一元线性回归模型的统计检验从模型的自由度的角度来说：总离差平方和的自由度：dfT=n-1

回归平方和自由度：dfE=k=1（k为自变量的个数）残差平方和自由度：dfR=n-k-1=n-2

自由度分解：dfT=dfR+dfE332026/6/14湖南大学经济与贸易学院3.4一元线性回归模型的统计检验(2)拟合优度（或称判定系数）拟合优度的定义：意义：拟合优度越大，自变量对因变量的解释程度越高，自变量引起的变动占总变动的百分比高。观察点在回归直线附近越密集。取值范围：0-1342026/6/14湖南大学经济与贸易学院3.4一元线性回归模型的统计检验拟合优度等于实际值与拟合值之间简单相关系数的平方：可变形为：利用了352026/6/14湖南大学经济与贸易学院3.4一元线性回归模型的统计检验在应用过程中，如果在模型中增加一个解释变量，模型的解释功能增强了，当回归平方和增大，R2也会相应增大。从而会出现一种“要使得模型拟合得好，就必须增加解释变量”的错觉。

但是，在样本容量一定的情况下，增加解释变量必定使得自由度减少。

引进修正的决定系数:362026/6/14湖南大学经济与贸易学院3.4一元线性回归模型的统计检验2、方程的显著性检验（F检验）在估计得到回归模型后，需要检验模型中被解释变量与解释变量之间的线性关系在总体上是否成立，即检验方程中的参数是否显著不为0。零假设为由于372026/6/14湖南大学经济与贸易学院3.4一元线性回归模型的统计检验构造检验用统计量：F值小意味着X与Y之间（线性）关系很弱，而F值大意味X与Y之间（线性）关系很强。给定一个显著性水平，查F分布表，若F大于临界值，则拒绝零假设，即认为在回归方程显著，反之则不显著。382026/6/14湖南大学经济与贸易学院3.4一元线性回归模型的统计检验393、变量的显著性检验（t检验）在估计得到回归模型后，需要检验模型中被解释变量与解释变量之间的线性关系在总体上是否成立。其检验的思路与方程显著性检验相似，应用最为普遍的为t检验。如果变量X显著与Y线性相关的，则参数应该是显著的。2026/6/14湖南大学经济与贸易学院3.4一元线性回归模型的统计检验40构造检验用统计量：统计量t服从自由度为n-2的t分布，对于给定的显著性水平，查t分布表，得临界值若|t|小于临界值，则未通过检验，大于临界值则通过检验。2026/6/14湖南大学经济与贸易学院3.4一元线性回归模型的统计检验对于β0可构造检验用统计量：412026/6/14湖南大学经济与贸易学院3.4一元线性回归模型的统计检验在一元线性回归中，t检验与F检验是等价的:422026/6/14湖南大学经济与贸易学院3.4一元线性回归模型的统计检验4、参数检验的置信区间估计要判断参数的估计值离真实的参数值有多“近”，需要预先选择一个概率α，即显著性水平。使得随机区间包含参数真值的概率为1-α。上述区间称为置信区间；1-α称为置信系数(置信度)；置信区间的端点称为临界值。432026/6/14湖南大学经济与贸易学院3.4一元线性回归模型的统计检验4、参数检验的置信区间估计由于因此置信区间为442026/6/14湖南大学经济与贸易学院3.4一元线性回归模型的统计检验3.5基于一元线性回归模型的预测对于模型如果给定样本以外的解释变量的观测值X0，可以得到被解释变量预测值的估计值。为了进行科学预测，还需对预测值进行拟合，求出E(Y0)的点估计值。由于则在总体回归模型为Y=β0+β1X

+ε的情况下Y0=β0+β1X0

+ε则452026/6/14湖南大学经济与贸易学院3.6一元线性回归模型建模实例例3.1环境规制对制造业行业技能溢价的影响ER：环境规制变量重点关注环境污染治理投入，用废水废气年度运行费用和污染治理投资之和与行业总产值的比值表示环境规制强度W：技能溢价是技能与非技能劳动力工资的比值。462026/6/14湖南大学经济与贸易学院建立如下一元回归模型lnW=β0+β1lnER

+ε采用Eviews软件进行回归分析的结果为模型构建472026/6/14湖南大学经济与贸易学院中国内地制造业行业2004年技能溢价对环境规制的回归DependentVariable:LOG(W)