第二章-简单线性回归模型

第二章简单线性回归模型简单线性回归模型本章主要讨论 : 回归分析与回归函数 简单线性回归模型参数的估计 拟合优度的度量 回归系数的区间估计和假设检验 回归模型预测第一节第一节 回归分析与回归函数回归分析与回归函数一、相关分析与回归分析一、相关分析与回归分析（一）经济变量之间的相互关系（一）经济变量之间的相互关系相关关系相关关系1、总体相关、总体相关变量之间具有本质上的联系变量之间具有本质上的联系2、样本相关、样本相关变量的样本观察值之间相关变量的样本观察值之间相关在概率统计中，我们将随机变量在概率统计中，我们将随机变量之间的关系总结为：之间的关系总结为：相互独立（没有任何联系）相互独立（没有任何联系）不独立不独立线性相关线性相关非线性相关非线性相关正相关正相关负相关负相关相互独立：相互独立： 比如，张三的身体健康水比如，张三的身体健康水平与李四的学习成绩之间，没有任何平与李四的学习成绩之间，没有任何联系。联系。不独立（有联系）：不独立（有联系）： 张三的身体健康张三的身体健康水平与他自己的学习成绩之间，有联水平与他自己的学习成绩之间，有联系。系。线性相关：线性相关： 比如，收入与消费、投资比如，收入与消费、投资与与 GDP、 收入水平与汽车销售量等等收入水平与汽车销售量等等。美国的收入与消费的散点图：美国的收入与消费的散点图：非线性相关：非线性相关：非线性相关：非线性相关：非线性相关的模拟数据：非线性相关的模拟数据：正相关：两个量变化的方向相同正相关：两个量变化的方向相同负相关：两个量变化的方向相反负相关：两个量变化的方向相反（二）简单线性相关关系的度量（二）简单线性相关关系的度量1、简单线性相关系数、简单线性相关系数（简称为相关系数）（简称为相关系数）总体相关系数：总体相关系数：式中，式中， Cov(X,Y)， 表示表示 X与与 Y的协的协方差，方差， Var(X)、 Var(Y)表示表示 X、 Y的方差的方差样本相关系数：样本相关系数：式中，式中， Xi、 Yi分别表示分别表示 X与与 Y的样的样本数据，本数据， 分别表示分别表示 X、 Y的均的均值。值。在在 Eviews中计算相关系数的命中计算相关系数的命令为：令为： COR X， Y2、相关系数的性质、相关系数的性质1） -1r12） r的绝对值越近于的绝对值越近于 1，说明线性相，说明线性相关程度越关程度越 高高 ，越近于，越近于 0，说明线性相关程，说明线性相关程度越度越 低低 。3） r=1， 称为完全称为完全 正正 相关。相关。4） r=-1， 称为完全称为完全 负负 相关。相关。5）接近于）接近于 1， 比如比如 0.98，称为，称为 高度正高度正相关相关 。6）接近于）接近于 -1， 比如比如 -0.95，称为，称为 高度高度负相关负相关 。完全正相关：完全正相关： 比如，在价格比如，在价格 P不变时不变时，销售收入，销售收入 Y与销售量与销售量 X之间。之间。完全负相关：完全负相关：高度正相关：高度正相关：高度负相关：高度负相关：（三）回归分析（三）回归分析“回归（回归（ Regression） ”一词最一词最早出现在生物学的遗传现象研究中，早出现在生物学的遗传现象研究中，用来指子辈身高相对于父辈身高趋向用来指子辈身高相对于父辈身高趋向其平均水平的倾向。现在这一术语广其平均水平的倾向。现在这一术语广泛地用来指随机因果关系中变量之间泛地用来指随机因果关系中变量之间的统计规律。的统计规律。 回归分析方法是计量经回归分析方法是计量经济学的基础。济学的基础。经济变量之间的因果关系有两种经济变量之间的因果关系有两种： 确定性的因果关系确定性的因果关系 与与 随机的因果关随机的因果关系系 。前者可以表示为数学中的函数关。前者可以表示为数学中的函数关系，后者不能像函数关系那样比较精系，后者不能像函数关系那样比较精确地描述其变化规律，但是可以通过确地描述其变化规律，但是可以通过分析大量的统计数据，找寻出它们之分析大量的统计数据，找寻出它们之间的一定的数量变化规律，这种通过间的一定的数量变化规律，这种通过大量统计数据归纳出的数量变化规律大量统计数据归纳出的数量变化规律称之为称之为 统计相关关系统计相关关系 ，进而称为，进而称为 回归回归关系关系 。研究回归关系的方法称为。研究回归关系的方法称为 回归回归分析方法分析方法 ，表示回归关系的数学式子，表示回归关系的数学式子称为称为 回归方程回归方程 。比如，在市场经济条件下，当商品比如，在市场经济条件下，当商品的价格变化时，虽然商品的销售量的价格变化时，虽然商品的销售量受其价格变化的影响，但销售量并受其价格变化的影响，但销售量并不能由价格惟一确定，它还受到人不能由价格惟一确定，它还受到人们的消费习惯、收入水平以及可替们的消费习惯、收入水平以及可替代品价格等因素代品价格等因素的影响。的影响。像这种销售量与其价格之间的关系像这种销售量与其价格之间的关系，我们称之为非确定性的因果关系，我们称之为非确定性的因果关系，这时尽管我们不能像函数关系那，这时尽管我们不能像函数关系那样比较精确地描述其变化规律，但样比较精确地描述其变化规律，但是，可以通过分析有关销售量与其是，可以通过分析有关销售量与其价格的统计数据，价格的统计数据，找寻出它们之找寻出它们之间的一定的间的一定的数量变化数量变化规律。规律。 二、总体回归模型二、总体回归模型假设假设 X 为一个经济变量，为一个经济变量， Y 为另一为另一个经济变量，且变量个经济变量，且变量 X 与与 Y 之间存在着非之间存在着非确定性的因果关系，即当确定性的因果关系，即当 X 变化时会引起变化时会引起 Y 的变化，但这种变化是随机的。例如，的变化，但这种变化是随机的。例如，某种饮料的销售量与气温的关系，销售量某种饮料的销售量与气温的关系，销售量受气温的影响而变化，但其变化又不能由受气温的影响而变化，但其变化又不能由气温惟一确定；再比如，家庭的周消费额气温惟一确定；再比如，家庭的周消费额与周收入之间的关系等等。与周收入之间的关系等等。 由于变量由于变量 Y的非确定性是由于它受的非确定性是由于它受一些随机因素的影响，因此可以认一些随机因素的影响，因此可以认为，当给定变量为，当给定变量 X 的一个确定值的一个确定值之时，所对应的变量之时，所对应的变量 Y 是一个随是一个随机变量，记作机变量，记作 Y|X 。 假定条件随机假定条件随机变量变量 Y|X 的数学期望值是存在的的数学期望值是存在的，即，即 E( Y|X ) 存在，由于同一随机存在，由于同一随机变量的数学期望值是惟一的，故变量的数学期望值是惟一的，故 E(Y|X ) 能够由能够由 X 的值惟一地确定的值惟一地确定，于是，于是 E(Y|X )是变量是变量 X 的函数，的函数， 令令 (2.1)我们称我们称 (2.1)式为变量式为变量 Y 关于变关于变量量 X 的总体回归方程（的总体回归方程（ Population Regression Equation） 或称总体或称总体回归函数（回归函数（ Population Regression Function），）， 回归函回归函数的图像称为回归曲线。这里，数的图像称为回归曲线。这里，(X) 是是 X 的一元函数，它可以是任的一元函数，它可以是任何一种形式，其中最简单的形式就何一种形式，其中最简单的形式就是线性函数，当是线性函数，当 为线性函数之时为线性函数之时， 令令 这时这时 (2.1) 式变为式变为(2.2)现在的总体回归方程为线性方程，我们现在的总体回归方程为线性方程，我们称称 (2.2) 式为变量式为变量 Y 关于变量关于变量 X 的总体的总体线性回归方程，线性回归方程， 由于只有一个解释变量由于只有一个解释变量，故称为总体一元线性回归方程。此时，故称为总体一元线性回归方程。此时，回归曲线变成了直线，我们称它为总，回归曲线变成了直线，我们称它为总体回归直线体回归直线令令 U = Y E(Y|X) (2.3)即即 U为变量为变量 Y中不能由变量中不能由变量 X的线的线性关系表示的部分，由于对应性关系表示的部分，由于对应 X 的的每一个给定值每一个给定值 X=X0 ， 所对应的所对应的 Y 为一个随机变量，因此为一个随机变量，因此 ，可以将，可以将 Y 看成一簇随机变量（即一系列随机看成一簇随机变量（即一系列随机变量组成的集合），从而变量组成的集合），从而 U 也为一也为一簇随机变量。将簇随机变量。将 (2.2) 、 (2.3) 结合结合可得：可得：我们称我们称 （ 2.4） 为为 变量变量 Y 关于变关于变量量 X 的总体一元线性回归模型的总体一元线性回归模型。式中，。式中， X 称为称为 解释变量解释变量 ， Y 称称为为 被解释变量被解释变量 ， 称为称为 总总体回归参数体回归参数 ， U 称为称为 随机扰动项随机扰动项，或称，或称 随机项随机项 ，或称，或称 扰动项扰动项 ，或称或称 误差项误差项 。三、扰动项的本质含义三、扰动项的本质含义在上述总体一元线性回归模型在上述总体一元线性回归模型中，将被解释变量