简单线性回归模型教材

课程体系模型设定参数估计模型检验模型应用数据、变量、关系式前期数理统计知识相关分析回归分析经济意义检验统计检验计量经济学检验与课程有关的数理统计知识

1.随机现象 在相同条件下，对某一事件反复重复试验，每次结果未必相同，但存在一定规律，称这一事件为随机现象。 取值具有随机性的变量称为随机变量。

2.总体与样本（population&sample）

总体：所研究全部对象（个体）的集合。

样本：从总体中抽取出来的一部分个体的子集。 样本的最基本特征是随机性（random），即总体中每一个个体被抽取出来的可能性是相同的。3.平均趋势的度量——均值（mean）与课程有关的数理统计知识总体均值样本均值加权平均值算术平均值例如：1.已知某年亚洲新兴工业地区的实际GDP增长率如表所示，求平均的实际GDP增长率。与课程有关的数理统计知识亚洲新兴工业地区韩国中国台湾中国香港新加坡实际GDP增长率（%）9.06.14.78.82.已知某股票组合的基本情况如表所示，求该组合的平均收益率。股票ABC收益率/月3%4.5%4%权重0.20.30.5与课程有关的数理统计知识4.离散程度的度量——方差、标准差 方差刻画了随机变量偏离均值得程度，对于经济变量来说，方差考察可观测值的波动性。方差（variance）标准差（standarddeviation或standarderror） 方差（标准差）越大，意味着观测值与其均值得分散程度越大，越小意味着向均值的集中程度越高与课程有关的数理统计知识4.离散程度的度量——方差、标准差样本方差样本标准差 自由度：可自由取值的独立变量的个数，如果一个样本的容量为n，则其自由度为n。练习： 表中为中日两国电器公司的销售额中出口额所占比重，求两国出口额比重的均值、方差、标准差。与课程有关的数理统计知识企业比重（%）企业A15企业B30企业C18企业比重（%）企业A20企业B27企业C16中国日本理解“相关”的含义123理解“相关”的分类掌握“相关”的度量方法“相关分析”学习要求1.相关（correlation）的定义

相关指两个或两个以上变量间相互关系的程度或强度。相关分析函数关系——相关关系——当一个或若干个经济变量X取一定数值时，某个经济变量Y有确定的值与之相对应。记为：Y=f(X)(确定性的)(不确定性的)当一个或若干个经济变量X取一定数值时，某个经济变量Y虽然不确定，但却按某种规律在一定范围内变化。记为：Y=f(X,u)，其中u为随机扰动项。经济变量之间的关系，大体分两类：函数关系和相关关系2.相关的分类相关分析简单相关——多重相关——只有两个变量的相关关系。三个或三个以上变量的相关关系。(复相关)按研究的变量多少

线性相关——非线性相关——当一个变量每增加1个单位，另一相关变量不按固定的增（减）量变化。按变量相关的表现形式分当一个变量每增加1个单位，另一相关变量按一个大致固定的增（减）量变化。(曲线相关)正相关——负相关——两个变量趋于在同方向变化，即同增或同减。不相关——按变量变化的方向两个变量趋于在相反方向变化，即一个变量增加时另一个变量减少。两个变量的变化相互没有关系。相关分析

完全正相关

正相关、线性相关

弱相关

非线性相关负相关不相关3.简单线性相关的度量——相关系数（correlationcoefficient）

度量两个变量间的线性相关强度协方差（covariance）总体协方差：样本协方差：相关分析3.简单线性相关的度量——相关系数

（correlationcoefficient）

4.相关系数的取值范围（1）当两个变量严格服从线性关系时,∣

∣=1。（2）当两个变量不存在线性关系时，

=0。（3）上述是两种极端情形，所以相关系数的取值范围是[-1，1]。

5.线性相关系数的局限性（1）只适用于考察变量间的线性相关关系。（2）相关系数的计算是一个数学过程，无法揭示变量间相关的实质。相关分析回归分析学习要求回归分析的基本概念一元线性回归模型的参数估计最小二乘估计量的相关性质一元线性回归模型的假设检验一元线性回归模型的预测能力要求应用本章所学知识，自己选择研究对象，建立理论模型，收集样本数据，进行模型的估计。（一）回归的基本概念回归的古典意义：高尔顿遗传学的回归概念

(父母身高与子女身高的关系)回归的现代意义：一个应变量对若干解释变量依存关系的研究回归的定义（实质）： 根据已知的或固定的解释变量的数值，去估计所研究的被解释变量的总体平均值。回归分析思考题：相关分析和回归分析是一回事吗？每月家庭可支配收入

X100015002000250030003500400045005000550082096211081329163218422037227524642824888102412011365172618742110238825893038932112112641410178619062225242627903150每960121013101432183510682319248828563201月125913401520188520662321258729003288家132414001615194321852365265030213399庭1448165020372210239827893064消1489171220782289248728533142费1538177821792313251329343274支160018412298239825383110出17021886231624232567

Y1900238724532610201224982487271025892586900115014001650190021502400265029003150例P23:100个家庭构成的总体(单位:元)

假定一个社区的所有家庭的收入（X）和消费支出（Y）统计如下，希望知道家庭消费支出与家庭收入之间的关系。处于不同收入阶层的居民有一个平均的支出水平，这一支出水平与收入大致呈线性关系。根据每个家庭的收入和支出绘出散点图，大致可看出二者间的关系：在统计意义上，二者成正比。回归函数与回归线 回归函数：应变量Y的条件期望随解释变量X的变化而有规律的变化，如果把Y的条件期望表现为X的某种函数：

这个函数称为回归函数。 回归线：代表Y的条件期望的点的轨迹所形成的直线或曲线，称为回归线。回归分析线性回归函数： 计量经济学中，线性回归模型主要指就参数而言是“线性”,因为只要对参数而言是线性的,都可以用类似的方法估计其参数。回归分析变量、参数均为“线性”

参数“线性”，变量”非线性”变量“线性”，参数”非线性”回归分析 回归函数包括总体回归函数和样本回归函数总体回归函数（PRF）

根据所研究的总体应变量Y和解释变量X的每个观测值,可以计算出总体应变量Y的条件均值，并将其表现为解释变量X的函数。样本回归函数（SRF）

把应变量Y的样本条件均值表示为解释变量X的某种函数。X1XX3X4X2Y············································PRF····X1XX3X4X2Y·SRF········回归分析总体回归函数与样本回归函数的关系思考：样本回归函数与总体回归函数的区别是什么？回归分析随机扰动项

各个Y值与条件均值的偏差，代表排除在模型以外的所有因素对Y的影响。误差存在原因：未知影响因素的代表无法取得数据的已知影响因素的代表众多细小影响因素的综合代表模型的设定误差变量的观测误差变量内在随机性（二）简单线性回归模型的参数估计1.前提假设对模型关系的假设 样本数据无测量误差 模型不存在设定误差对解释变量的假设 解释变量是非随机而固定的；对随机误差项的假设 零均值假设 同方差假设 无自相关假设

随机扰动项与解释变量不相关 正态性假设回归分析经典线性回归模型XiXY+

i-

iE(Y|Xi)=

0+1Xi

i=Yi-E(Y|Xi)················

i

i

i

j

j

j···············································无自相关正的自相关负的自相关X1XXnX2Y+

i-

iPRF：E(Y|Xi)=

0+1Xi同方差X1XXnX2Y+

i-

iPRF：E(Y|Xi)=

0+1Xi异方差回归分析（二）简单线性回归模型的参数估计2.普通最小二乘估计法基本思想 为使模型参数的估计量尽可能地“接近”参数真值，按使估计的残差平方和最小的原则确定模型参数的估计量，称为普通最小二乘法(OrdinaryLeastSquare)。回归分析（二）简单线性回归模型的参数估计2.普通最小二乘估计法估计参数的求解由微积分求极值原理可得：（二）简单线性回归模型的参数估计2.普通最小二乘估计法 则最小二乘估计参数表达式为：回归分析（二）简单线性回归模型的参数估计3.OLS回归线的性质回归分析●回归线通过样本均值●估计值的均值等于实际观测值的均值●残差项的均值为零●被解释变量估计值与残差项不相关●解释变量与残差项不相关

SRF（三）最小二乘估计量的性质1.参数估计式的评价标准无偏性 在重复抽样中，估计方法固定、样本数不变的前提下，经重复抽样的观测值，可得一系列参数估计值，如果它们的均值等于真实参数值，则满足无偏性。回归分析估计值偏倚

概率密度（三）最小二乘估计量的性质1.参数估计式的评价标准最小方差性前提：样本相同、用不同的方法估计参数，可以找到若干个不同的估计式目标：努力寻求其抽样分布具有最小方差的估计式——最小方差准则，或称最佳性准则有效性

既是无偏的同时又具有最小方差的估计式，称为最佳无偏估计式。回归分析概率密度

估计值（三）最小二乘估计量的性质1.参数估计式的评价标准一致性 当样本容量较小时，有时很难找到最佳无偏估计，需要考虑样本扩大后的性质。 当样本容量n趋于无穷大时，如果估计式依概率收敛于总体参数的真实值，就称这个估计式是一致估计式。回归分析概率密度

估计值

（三）最小二乘估计量的性质2.OLS估计式的参数评价无偏性回归分析最小方差性 在所有的线性无偏估计中，OLS估计具有最小方差。线性 参数估计量是被解释变量的线性函数。回归分析（三）最小二乘估计量的性质3.OLS估计式的分布

OLS参数估计服从标准正态分布回归分析（三）拟合优度检验概念：样本回归线是对样本数据的一种拟合，不同估计方法可拟合出不同的回归线，拟合的回归线与样本观测值总有偏离。样本回归线（模型）对样本数据拟合的优劣程度

——拟合优度回归分析（三）拟合优度检验作用：

可决系数越大，说明在总变差中由模型作出了解释的部分占的比重越大，模型拟合优度越好。反之可决系数小，说明模型对样本观测值的拟合程度越差。特点：●可决系数取值范围：[0,1]●样本可决系数是随抽样而变动的随机变量●可决系数是非负的统计可决系数的作用和特点回归分析（三）拟合优度检验可决系数与相关系数的关系（1）联系

数值上，可决系数等于应变量与解释变量之间简单相关系数的平方。（2）区别可决系数相关系数就模型而言就两个变量而言说明解释变量对应变量的解释程度度量两个变量线性依存程度度量不对称的因果关系度量对称的相关关系取值：[0,1]取值：[－1,1]1.变量的显著性检验的目的 对模型中的解释变量与被解释变量之间的线性关系是否显著成立作出判断。回归分析（四）变量的显著性检验思考：已经通过了拟合优度检验，为何要进行变量的显著性检验？2.变量的显著性检验的方法 数理统计学中的假设检验

3.假设检验的复习基本原理： 反证法 小概率事件在一次试验中几乎是不可能发生的步骤： （1）提出原假设备则假设 （2）构造并计算原假设成立情况下的检验统计量 （3）根据临界值判定

计量经济学中，主要是针对解释变量的参数真值是否为零来进行显著性检验的。回归分析（四）变量的显著性检验4.构造检验统计量常用的变量显著性检验的方法有：F检验、t检验、Z检验。它们的区别在于构造的统计量不同，最常用的是t检验。5.t统计量的表达式：回归分析（四）变量的显著性检验6.变量显著性检验的基本步骤（1）原假设 备则假设（2）给定显著性水平（3）查t分布表，得到临界值，与计算的t统计量比较。 如果，则在的置信度下拒绝原假设，即解释变量是显著的，否则接受原假设。回归分析（四）变量的显著性检验举例：

１．区间估计的目的 通过一次抽样得到的参数估计值，与真实值的接近程度。２．区间估计的方法 构造参数估计值的一个“区间”，使真实值在一定概率水平下落在这个区间内。３．区间估计的表达式回归分析（五）参数的置信区间——区间估计得到置信度下的置信区间是：１．检验目的： 检验模型参数估计量在经济意义上的合理性２．检验方法（１）检验参数估计量的符号 例如：消费与收入同向变动 价格与需求量反向变动（２）检验参数估计量的大小例如：（３）检验参数之间的关系 例如：中国居民的收入与美国居民的消费毫无意义回归分析（六）模型的经济意义检验1.回归分析结果的报告形式与分析回归结果的标准格式 第一行：估计表达式；第二行：对应参数值的标准差；第三行：t统计量；第四行：拟合优度，F统计量，自由度……回归分析（七）回归模型的预测标准误差SEt统计量可决系数和自由度1.回归分析结果的报告形式与分析回归结果分析（1）回归参数的说明。包括符号是否正确、经济意义是什么。（2）拟合情况说明（3）系数的显著性说明。（4）检验自相关、异方差和多重共线性等

回归分析