第2讲经典线性回归分析(计量经济学-社科院,张涛)

第2讲经典线性回归分析主要内容预备知识：数理统计一元线性回归分析多元线性回归分析非线性模型的线性化结构框架一元线性回归多元线性回归线性化模型的回归多项式模型双曲函数模型对数线性模型经典线性回归模型基本假定参数估计最小二乘极大似然显著性检验基本假定参数估计显著性检验应用应用EVIEWS使用12.1数理统计概述（1）基本概念

总体和样本

对总体和样本的描述

密度函数与分布函数（最完全）

随机变量的数字特征（综合指标）

矩：期望、方差、偏度、峰度

统计量与抽样分布样本平均数、样本方差、样本K阶原点距样本K阶中心距样本总体数理统计的核心统计量（2）几种重要的分布正态分布与标准正态分布t分布F分布

定义

形状

各分布之间的关系（3）几个重要的定理定理1：样本均值定理2：“样本方差”定理3：“样本均值与方差”定理4：“不同样本”结论：分布是样本和总体的连接点。（总体和样本之间的联系在于它们具有相同的分布）（4）统计推断点估计与区间估计点估计：区间估计：估计方法假设检验（1）基本概念：单一假设和复合假设，原假设和备择假设，两类错误（2）方法置信区间法显著性检验法（一个检验统计量是显著的，其含义是拒绝原假设）数理统计的内在逻辑样本总体统计量样本均值样本矩参数估计矩估计OLS估计似然估计点估计区间估计假设检验置信区间显著检验特性分布2.2一元线性回归分析一元线性回归模型（总体回归模型）：随机项的引入导致了被解释变量的随机性，由此引发了计量经济学对模型的研究。样本回归直线：总体回归方程：（1）基本假定对随机项（干扰项）的假定

假定1：零均值假定2：同方差假定3：无自相关*假定4：服从正态分布对解释变量的假定（或是对数据的假定）假定1：非随机性假定2：与随机项不相关假定3：没有完全的线性关系假定4：X要有变异性。对模型设定的假定假定1：回归模型对参数而言是线性的。假定2：回归模型是正确设定的。（2）估计问题最小二乘法：残差的平方和最小正规方程：（简化形式）最小二乘估计量的表达式最小二乘估计量的性质数值性质：OLS估计量纯粹是由可观测量（样本）表示的。OLS估计量是点估计量。回归直线通过样本均值。残差的均值为零。数值性质与统计性质最小二乘估计量的统计性质（BLUE性质）

高斯—马尔科夫定理线性:无偏性:最小方差性:参数估计量的抽样分布*假定4：扰动项服从正态分布（1）正态分布仅涉及两个参数。（2）正态分布的任意线性组合仍是正态分布。（3）中心极限定理作保证。随机扰动项的估计随机扰动项方差估计量结论：在正态性假定条件下，除了满足BLUE性质以外，截距和斜率的OLS估计量服从正态分布，随机扰动项的方差服从Chi-平方分布。（3）检验回归参数的t检验检验：回归模型中是否存在线性关系？这种关系是显著的吗？经验规律

在实际应用中，显著水平通常取5%，在t分布表中，当样本观察值的个数大于15时，t临界值大体保持在2左右。由此我们得到一个十分简便的检验方法，t绝对值大于2时，我们就可以得出系数是统计显著的结论。但是，如果t值接近2，这种经验判断的方法就不准确。回归方程的显著性检验和拟合优度（1）总离差平方和的分解：TSS=RSS+ESS（2）拟合优度（样本决定系数）：（3）回归方程的显著性检验：方差分析表（4）一元线性回归方程应用：截面数据中国消费与收入的初步研究：数据来源：2000年中国各地区消费和收入数据Eviews//example1计算与分析：EVIEWS一元线性回归方程应用：时间序列检验模型的结构稳定性：Chow检验步骤1：全部样本进行回归。步骤2：不同时期样本回归。步骤3：构造统计量。步骤4：假设检验。英国个人储蓄与收入（eviews//example3）（5）极大似然估计方法介绍似然函数的概念极大似然估计2.3多元线性回归分析三变量线性回归分析新概念偏回归系数校正的判定系数偏相关系数原始数据（四组）Y1 X1 Y2 X2 Y3 X3 Y4 X4 8.04 10 9.14 10 7.46 10 6.58 8 6.95 8 8.14 8 6.77 8 5.76 8 7.58 13 8.74 13 12.74 13 7.71 8 8.81 9 8.77 9 7.11 9 8.84 8 8.33 11 9.26 11 7.81 11 8.47 8 9.96 14 8.1 14 8.84 14 7.04 8 7.24 6 6.13 6 6.08 6 5.25 8 4.26 4 3.1 4 5.39 4 12.5 19 10.84 12 9.13 12 8.15 12 5.56 8 4.82 7 7.26 7 6.42 7 7.91 8 5.68 5 4.74 5 5.73 5 6.89 8 双变量回归 CoefficientStd.Error t-Statistic Prob. C(1) 3.000091 1.124747 2.667348 0.0257

C(2) 0.500091 0.117906 4.241455 0.0022

R-squared 0.666542 Meandependentvar 7.500909 样本1：

Coefficient Std.Error t-Statistic Prob. C(1) 3.000909 1.125302 2.666758 0.0258

C(2) 0.500000 0.117964 4.238590 0.0022

R-squared 0.666242 Meandependentvar 7.500909

样本2：Y2=C(1)+C(2)*X2

Y1=C(1)+C(2)*X1

Coefficient Std.Errort-Statistic Prob. C(1) 3.001727 1.123921 2.670763 0.0256

C(2) 0.499909 0.117819 4.243028 0.0022

R-squared 0.666707 Meandependentvar 7.500909

样本3：Y3=C(1)+C(2)*X3

样本4：Y4=C(1)+C(2)*X4

Coefficient Std.Error t-Statistic Prob. C(1) 3.002455 1.124481 2.670080 0.0256

C(2) 0.499727 0.117878 4.239372 0.0022

R-squared 0.666324 Meandependentvar 7.500000

最小二乘估计量的统计性质（BLUE性质）

高斯—马尔科夫定理线性:无偏性:最小方差性:最小方差性的几何解释参数估计量的两个特点斜率的方差与解释变量的关系。截距的方差与样本容量的关系。参数估计量的抽样分布*假定4：扰动项服从正态分布（1）正态分布仅涉及两个参数。（2）正态分布的任意线性组合仍是正态分布。（3）中心极限定理作保证。随机扰动项的估计随机扰动项方差估计量：通过可观测的变量估计结论：在正态性假定条件下，除了满足BLUE性质以外，截距和斜率的OLS估计量服从正态分布，随机扰动项的方差服从Chi-平方分布。（3）检验回归参数的t检验检验：回归模型中是否存在线性关系？这种关系是显著的吗？经验规律

在实际应用中，显著水平通常取5%，在t分布表中，当样本观察值的个数大于15时，t临界值大体保持在2左右。由此我们得到一个十分简便的检验方法，t绝对值大于2时，我们就可以得出系数是统计显著的结论。但是，如果t值接近2，这种经验判断的方法就不准确。回归方程的显著性检验和拟合优度（1）总离差平方和的分解：TSS=RSS+ESS（2）拟合优度（样本决定系数）：（3）回归方程的显著性检验：F检验的基本思想F检验的思路1无约束条件下的残差平方和2有约束条件下的残差平方和3统计量：相对约束成本回归方程的显著性检验：检验连等式思想：检验所有解释变量对被解释变量影响的显著性因此，F检验实际上针对的是多元回归问题。联合假设F统计量F值与判定系数之间的关系方差分析表（4）一元线性回归方程应用：截面数据中国消费与收入的初步研究：数据来源：2000年中国各地区消费和收入数据Eviews//example1计算与分析：EVIEWS一元线性回归方程应用：时间序列检验模型的结构稳定性：Chow检验步骤1：全部样本进行回归。步骤2：不同时期样本回归。步骤3：构造统计量。步骤4：假设检验。英国个人储蓄与收入（eviews//example3）计算结果：SAVE=C(1)+C(2)*INCOME Coefficient Std.Error t-Statistic Prob.C(1) -1.082071 0.145151 -7.454820 0.0000C(2) 0.117845 0.00877413.43164 0.0000R-squared 0.918537 Sumsquaredresid 0.572226

总样本（46-63）

Coefficient Std.Error t-Statistic Prob. C(1) -1.750172 0.357560 -4.894769 0.0018 C(2) 0.150450 0.017545 8.574906 0.0001 R-squared 0.913075

Sumsquaredresid 0.193121

样本2（55-63） Coefficient Std.Error t-Statistic Prob. C(1) -0.266249 0.305353 -0.871940 0.4121 C(2) 0.047028 0.026569 1.770053 0.1200 R-squared 0.309194 Sumsquaredresid 0.139650 样本1（46-54）统计量与假设检验假设检验：两时期没有结构性变化问题的延伸

就题论题：重建时期的检验合法吗？总样本重建后重建期

方法论：结构变化缘于什么？

实际分析：如何划分样本？判定系数探讨什么情况下为0?什么情况下可能为负?使用条件?12无截距的回归3样本容量相同被解释变量相同解释变量相同解释变量形式可以不同戈德伯格“危言”回归线样本点极大似然估计的思想不同的统计总体会产生不同的样本，对于某一特定的样本，在总体未知的情况下，它来自一些形式的母体的可能性要比来自另一母体的可能性大。简言之，是样本“替代”我们选择了“总体”。X5X8X1ABX概率似然函数的概念极大似然估计计算时处理方法：通常采用似然函数的对数形式。极大似然估计一例随机变量的分布为：为一组观察值，求的极大似然估计。双变量回归模型的极大似然估计在随机扰动项服从正态分布的条件下：2.3多元线性回归分析1.基本假定解释变量之间无线性相关。2.参数的最小二乘估计3.参数估计量的统计性质

线性

无偏性

方差—协方差和最小方差4.回归参数的显著性检验5.回归方程的显著性检验三变量线性回归分析新概念偏回归系数校正的判定系数复相关系数校正的判定系数判定系数：校正的判定系数：两者之间的关系：偏相关系数与复相关系数相关分析与相关系数相关分析是讨论变量之间相关程度的一种统计分析方法。1.相关分析中的变量都是随机变量。2.相关分析可以判断变量之间关联的密切程度。为回归分析寻找解释变量。3.相关分析的结果并不能表明变量之间因果关系。相关系数用以描述两个变量之间线性关系程度的数量指标。相关系数与回归系数之间的关系相关系数与回归系数的数量关系：相关系数与判定系数之间的关系（双变量回归）1.样本相关系数在计算上是一致的。2.判定系数是变量y与x作回归时，判定回归方程与样本拟合程度好坏的一个数量指标。3.相关系数是对变量y与x作相关分析时，判定y与x之间线性关联程度的一个指标。偏相关（多元回归）一阶偏相关系数：二阶偏相关系数：（k-1）阶偏相关系数：偏相关与偏相关系数定义：两两关系偏相关系数的求法（三变量一例）复相关（多元回归）定义：（一对多关系）在多个变量中，其中一个变量与其他所有变量之间的相关关系求解：多元回归一例：生产函数原始模型：估计模型：基本数据来源：《中国经济增长的可持续性》，王小鲁等，P63-64

（注：数据经过作者的调整）回归结果Sample:19801999

Includedobservations:20 LGDP=C(1)+C(2)*LLAB+C(3)*LCAP CoefficientStd.Error t-Statistic Prob. C(1) -3.895441 3.344390 -1.164769 0.2602 C(2) 0.734359 0.093573 7.847982 0.0000 C(3) 0.523115 0.383476 1.364140 0.1903 R-squared 0.990527 Meandependentvar 9.009615 AdjustedR-squared 0.989412 S.D.dependentvar 0.513611 S.E.ofregression 0.05