一元线性回归模型

1、 1.掌握一元线性回归模型的概念掌握一元线性回归模型的概念 2.掌握最小二乘法的基本假定和准则掌握最小二乘法的基本假定和准则 3.掌握最小二乘估计量的统计性质及分布掌握最小二乘估计量的统计性质及分布 4.掌握一元线性回归模型的统计检验（拟掌握一元线性回归模型的统计检验（拟 合优度、合优度、t检验、检验、F检验）检验） 一、相关关系与回归模型 变量关系可以分成两大类: 1.确定性关系 。例如 S=VT、I=U/R. 2.不确定性关系。例如 经济分析中“投 入”与“产出”，“收入”与“需 求”等关系。 1）相关关系 ：变量间的非确定性关系。 相关类型：线性相关与非线性相关；简单相关 与复相 关 2

2、）回归关系：变量间非确定性的因果关系 因果关系：两个及以上变量在行为机制 上的依赖性。 3.回归模型：变量X 、Y具有回归关系 ， 则： Y=f（X，u）称为回归模型。 其中，u 是随机扰动项。 函数形式“ f ”如果是线性的，则称为线性 回归模型。 请理解并记住重要结论：经济定量分 析中我们遇到的变量大部分是具 有回归关系的变量。 4.线性回归模型 的普遍性 在实际经济分析中在实际经济分析中,由于经济变量之间的关系由于经济变量之间的关系 往往是非常复杂的往往是非常复杂的,所以直接的所以直接的精确线性模型精确线性模型是较是较 少的。少的。 但是，由于第一，线性模型比较容易研究；第但是，由于第一

3、，线性模型比较容易研究；第 二，现实经济分析中许多非线性问题可以经过简二，现实经济分析中许多非线性问题可以经过简 单的数学处理转化为线性模型；第三，非线性模单的数学处理转化为线性模型；第三，非线性模 型的分析基础是线性模型。型的分析基础是线性模型。 所以，我们研究的思路是先学习线性回归模型，所以，我们研究的思路是先学习线性回归模型， 然后学习非线性问题。然后学习非线性问题。 1.一元线性回归模型（单变量模型模型） Y=b0+b1X+u 2.样本形式 Yi= b0 + b 1Xi+ ui （Xi、 Yi） i=1、 2、 3、n 为一组样本 点。线性模型的涵义：被解释变量Y 是解释变量X的线性函

4、数；被解释变 量Y是参数b 的线性函数。 说明：本书中样本点形式用大写字母 表示 Xi ，Yi 离差形式用小写字母表示 xi ，yi 计量经济学模型为什么引入随机扰动项ui ？ 例题：需求模型 如前所述需求量Q受到商品价格P、当期 收入Yt 、其它商品价格P1 、前期收入Y t-1 、 经济政策G 、等因素影响。所以， Q=f（P、 Y t 、P1、Y t-1、G） 第一，表示被解释变量Y与解释变量X的 不确定性关系 第二，模型不可能包含所有变量，次要变 量要省略 ； 第三，确定模型数学形式肯定会有误差 ； 第四，样本数据会有测量误差 ； 第五，一些随机因素无法选入模型。 所以，需求模型必须引

5、入随机扰动项 u ，才能准确取等号 Q=f（P、 Yt 、P1、Yt-1、G、 u ） 函数形式“ f ”如果是线性的： Q =b0+b1P+ b2Yt + b3 P1 +b4Yt-1 + b5G+ u 1. u项包含的主要内容： （1）模型中省略的次要变量； （2）确定模型数学形式的误差； （3）样本点的测量误差； （4）一些随机因素。 u项包含的内容决定u项的特性是： （1）是众多因素的影响代表； （2）对被解释变量Y影响方向是各异的， 有正有负； （3）对被解释变量Y影响平均可能是0； （4）是非趋势性的随机变量。 复习相关概念: 1. 随机变量 2.随机变量的数字特征 数学期望 E(u

6、i) (表示平均的指标) 方 差 Var（ui）(表示离散程度) 协 方 差 COV(ui , uj) (表示相关的指标) 3.正态分布 关于最小二乘法的基本假定： 假定一：ui是一个随机实变量 假定二：任何特定时期（或不同样本对 应）ui 的平均值为零，即 E（ui）=0 假定三：每个时期（或不同样本对应） 的ui项方差为常数 Var（ui）= u2 ，称无异方差性 假定四.：ui服从正态分布 假定五：不同时期（或样本）Xi与Xj对 应的随机项ui与uj之间是独立不相关的，即 Cov（ui，uj）=0，称无序列相关性或无自 相关。 假定六：解释变量X是一组确定性变量， 随机扰动项 ui与解释

7、变量Xi无关, 即 Cov（ ui，Xj ）=0 。 假定七：解释变量之间不是完全线性相 关的。称无完全多重共线性。 对假定的学习思路对假定的学习思路：先结合随机项的特性,理 解假定含义,认为这些假定是成立的，学习参 数的估计、模型检验等。然后，在后面的章 节讨论这些假定是否成立？不成立会出现什 么问题？怎样检验？如何解决？ 把握这个思路很重要哦! 四、回归分析 1. 回归分析是回归模型的建立、估计、检 验理论和方法的统称 2.回归分析的主要内容 建立模型、估计模型、检验模型建立模型、估计模型、检验模型 、应用 b 0 b 1 Yi b 0 b 1 Yi b 0 b 1 . Y . . . O

8、 X Yi b 0 b 1 Yi Yi Yi b 0 b 1 （1）令 要使上式达到最小，根据求极值的原理可得正规方程为： )()( 10 ),( 22 2 10 X bb Y Y Ye bb ii i i Q i 0 10 ),( )( 0 2 0 10 b X bb Y b bb ii Q 0 10 ),( )( 1 2 1 10 b X bb Y b bb ii Q 整理得： 解上面方程得： 0)( 0 )( 10 10 XX bb Y X bb Y iii ii 2)( 2)( 2 1 2 2 0 XX YXYX b XX YXXYX b ii iiii ii iiiii n n n

9、(离差形式） XY x y x Y n Y X n X Y Y yX Xx i i i ii i i ii 1 , 1 , 10 21 则： 如果记： 0 1 ) ( XX X x ii i i n nX注意： 几个常用结果以及注释 1. ei =0 2. ei Xi=0 3.样本回归方程过（ 样本回归方程过（ ）点）点 4.截距为0的一元线性回归模型参数估 计式 YX , 第三节第三节 一元线性回归模型的统计检验一元线性回归模型的统计检验 一、拟合优度检验（R2检验或度量） 为什么要进行拟合优度检验？ 例题：如图 . . Y . Y . . . . . . . . . . . . . . X

10、 X 拟合好 拟合差 怎样进行拟合优度检验（R2检验或度量）? 定理： R2 = 是回归直线拟合优劣的 一 个度量。 y y i i 2 2 R2 = 是回归直线拟合优劣 的 一个度量。 R2 越接近1,回归直线对样本点模拟的越 好, R2越接近0,回归直线对样本点模拟的越 差。 y y i i 2 2 3、样本决定系数与样本相关系数 （ 1）样本决定系数 R2 = 是回归 直线拟合优劣的 一个度量。 R2 越接近1,回归直线对样本点模拟的越好, R2 越接近0,回归直线对样本点模拟的越差，解释程度 越差。 （2）样本相关系数 r = 表示X与Y 之间的线性相关程度的指标。r 越接近1, X与

11、Y之间 的线性相关程度越强, r越接近0, X与Y之间的线性 相关程度越差。 y y i i 2 2 y x y x i i i i 2 2 二、方程显著性检验（F检验） 为什么需要进行方程的显著性检验？ 方程的显著性检验，是指对模型中被解释 变量与解释变量之间的线性关系在总体上 是否显著成立（即以多大的可能性成立） 作出推断。 1.假设检验 ：根据样本所提供的信息，对未 知总体分布的某些方面的假设作出合理的判断。 （1）假设检验的步骤： 第一，根据实际问题的要求提出一个论断，称 为原假设H0 ； 第二，假定H0 成立，构造统计量，进行推断； 第三，根据推断结果对H0 的真伪进行判断， 作出拒

12、绝或接受H0的判断。 （2）假设检验的基本思想假设检验的基本思想：为了检验原 假设H0成立是否正确，先假定H0 成立，看由 此能推出什么结果。如果推出一个不合理的 结果，则“原假设H0成立”是错误的，拒绝 原假设H0 ；反之，则“原假设H0成立”是正 确的，接受原假设H0 。 （3）上述 上述基本思想的根据基本思想的根据是小概率事件 原理：“小概率事件在一次试验中几乎是不 可能发生的。” 2.方程显著性的方程显著性的F检验检验 对模型 Yi=b0+b1Xi+ui的显著性检验，是指对 模型中被解释变量与解释变量之间的线性关系在总 体上是否显著成立，即检验该模型有关参数的总体 是否显著为0，原假设

13、为： H0 ：b1=0 备择假设为: H1 ：b10 构造构造F统计量统计量： 根据数理统计学的原理，在 H0成立的条件下，可以证明 服从自由度为（1，n-2）的F分布 。 其中1为 的自由度，n-2为 的 自由度。 )2( 1 2 2 n F e y i i y i 2 e i 2 F检验的步骤检验的步骤： （一）提出原假设H0 ： 1=0 （二）计算F统计量 （三）给定显著性水平 ，查自由度为（1， n-2）的F分布表，得到临界值 )2, 1 (n F （四）判断：（i）若 F 则在 1- 水平下拒绝原假设H0 ，即模型的线性关系显 著成立，模型是显著的； （ii）若 F 则 在1- 水平下拒绝原假设H0： b 1=0 ， 接受备择假 设：即b 10，对应的变量X与Y是显著的； （ii）若 | T | 则在1- 水平下接受原假设H0 ，即， X与Y是不显 著的。 t n)2( 2 t n)2( 2 t n)2( 2 t n)2( 2 )2( 2 nTP t 1)2( 2 nTP t 3. 回归系数的置信区间 所以 b j以