第二章一元线性回归.ppt

第二章简单线性回归模型,这章我们会从最简单的线性回归模型入手,来介绍在基本假定完全满足的条件下,规范的计量经济研究的基本理论和方法,为以后的内容打下基础。,本章主要内容：第一节一元线性回归模型第二节最小二乘估计第三节最小二乘估计的性质,第一节一元线性回归模型,本节主要介绍：一变量关系及回归分析二总体回归函数三随机扰动项四样本回归函数,一、变量间的关系及回归分析,1、经济变量之间的关系,确定的函数关系：Yf（X）不确定性的统计关系相关关系,相关关系,X影响,的值，,函数关系,X决定,的值,不能确定。,例如：销售收入=销售量价格,粮食产量与施肥量之间的关系储蓄额与居民收入之间的关系广告支出与商品销售额,确定性关系：函数关系,非确定性关系：相关关系,“回归”一词的历史渊源,“回归”一词最早由FrancisGalton引入。Galton发现，虽然父母的身高对子女的身高起到决定性作用，但给定父母的身高后，他们儿女辈的平均身高却趋向于或者“回归”到社会平均水平。,回归的古典意义：高尔顿遗传学的回归概念回归的现代意义：一个应变量对若干解释变量依存关系的研究,2、回归分析,回归分析关心的是根据解释变量的已知或给定值，考察被解释变量的总体均值，即当解释变量取某个确定值时，与之统计相关的被解释变量所有可能出现的对应值的平均值。,假设我们研究个人消费支出对个人可支配收入的依存关系，对应于各种个人可支配收入，个人消费支出虽不确定，但总会在一定的范围内变动。而且，平均说来，个人消费支出总是随着收入水平的增加而上升的。回归分析就是要根据对个人消费支出与可支配收入的观测数据，确定当解释变量可支配收入确定时，因变量个人消费支出平均水平的变动轨迹,二、总体回归函数（PRF）,被解释变量Y的条件期望随着解释变量X的变化而有规律地变化。把这种变化关系用函数表示出来，就是总体回归函数：回归函数在坐标系中用图形表示出来就是回归线。它表示了因变量和自变量之间的平均关系。,例2.1见课本,“线性”一词的含义（有两种解释）,1、模型就变量而言是线性的,例如,2、模型就参数而言是线性的,例如,注：在计量经济学中，主要考虑的是模型就参数而言是线性的情形。（即第二种情况）,三、随机扰动项,对于一定的，Y的各个个别值分布在的周围，其差令为总体回归模型,总体回归模型图解,Xi,PRF,Yi,A,E(Y|Xi),PRF,ui,随机扰动项包括哪些因素,未知影响因素的代表无法取得数据的已知影响因素的代表众多细小影响因素的综合代表模型的设定误差变量的观测误差变量内在随机性,四、样本回归函数（SRF）,1、概念因变量Y的样本观测值的条件均值表示成解释变量X的某种函数，即为样本回归函数。（其函数形式与总体回归函数的函数形式一致。）如：,2、对样本回归函数的说明,每次抽样都能够获得一个样本，就可以拟合一条样本回归线，所以样本回归线随抽样波动而变化，可以有多条。,如课本27页,不同的样本就会有不同的样本回归线样本1样本2,3、残差,定义：那么有：对上例，有：,SRF,样本回归函数与总体回归函数区别,1、总体回归线是未知的，只有一条。样本回归线是根据样本数据拟合的，每抽取一组样本，便可以拟合一条样本回归线。2、总体回归函数中的1和2是未知的参数，表现为常数。而样本回归函数中的是随机变量，其具体数值随所抽取的样本观测值不同而变动。,1、在回归分析中下列有关解释变量和被解释变量的说法中正确的是()A.被解释变量和解释变量均为随机变量B.被解释变量和解释变量均为非随机变量C.被解释变量为随机变量，解释变量为非随机变量D.被解释变量为非随机变量，解释变量为随机变量,2、下图中“”所指的距离是（）A.随机误差项B.残差,3、下列哪些形式是正确的（）。,A.D.B.E.C.F.G.H、,SRFPRF,？都代表什么,第二节最小二乘估计（OLS）,本节主要介绍：一、普通最小二乘法（OLS）二、简单线性回归模型的基本假定三、OLS回归线的性质,在Y与X的散点图上画出直线的方法很多。找出一条能够最好地描述Y与X之间的直线。问题是：怎样算“最好”？,OLS的基本思想不同的估计方法可得到不同的样本回归参数和，所估计的也不同。理想的估计方法应使与的差即剩余越小越好因可正可负，所以可以取最小,一、普通最小二乘法（rdinaryLeastSquares）,最小二乘法（图示）,最小二乘法的基本思想（原则）：寻找实际值与拟合值的离差平方和为最小的回归直线。对求偏导数，并令其等于零，得:,最小二乘估计量,简化形式,例：XY20001548250018143000217935002485400026654500305050003321550036506000408765004265,Y=299.11+0.61348*X,操作方式：quickestimateequation,某种产品的广告费支出与销售额之间有如下对应数据：,序号12345Yt3040506070Xt24568,例设Y和X的5期观测值如下表所示，试估计方程Yt=+Xt+ut序号12345Yt1418232530Xt1020304050解：计算过程如下：,110,150,0,0,390,1000,估计方程为,思考,什么是随机扰动项和残差?它们之间的区别?最小二乘估计的基本思想是什么？,二、简单线性回归的基本假定,1为什么要做基本假定模型中有随机扰动，估计的参数是随机变量，只有对随机扰动的分布作出假定，才能确定所估计参数的分布性质只有具备一定的假定条件，所作出的估计才具有较好的统计性质,也才可能进行假设检验和区间估计,2、假定的两个方面：（1）关于变量和模型的基本假定,是非随机的，或者虽然是随机的，但是与是不相关的；无测量误差；变量和函数形式设定正确。,假定的两个方面：（2）关于随机扰动项,假定1零均值：,当解释变量取值时，因变量Y的值可能大于或小于，但平均来看，随即扰动项对Y没有影响,假定2同方差：,是说无论解释变量X在其可行范围内取何值，随机扰动项的方差都是相同的。我们把这个假设称为随机扰动项的同方差性假设。如果违背该假设，则属于异方差内容。,异方差,假定3无自相关：,假设(3)的意义是对应不同观测值的误差项之间没有相关性。这一点不成立意味着误差项的取值变化存在规律性，这与误差项只是微小随机因素的综合影响的建模思想不符。这条假设也是保证线性回归分析的性质和价值的重要基础，因为误差值之间存在相关性时，会对线性回归分析的效果产生很不利的影响。如果违背该假设，则属于自相关内容。,序列自相关,X,假定4随机扰动项与不相关。,表明随机变量y中能够用从解释的部分完全从随机扰动项中分离了出来，因而，在随机扰动项中不再包括与解释变量中有任何相关的因素了。,假定5：对随机扰动项分布的正态性假定即假定服从均值为零、方差为的正态分布（说明：正态性假定不影响对参数的点估计，但对确定所估计参数的分布性质是需要的。且根据中心极限定理，当样本容量趋于无穷大时，的分布会趋近于正态分布。所以正态性假定是合理的）,三、OLS回归线的性质,1.回归线过样本均值点2残差和为零3Y的真实值和拟合值有共同均值4残差与自变量不相关5残差与拟合值不相关,1、回归线过样本均值,由，知：即样本均值点满足回归线方程,2、残差和为零（ResidualsSumtoZero）,由OLS数学过程直接可得。且易推出残差的平均数也等于零。,110,150,0,1.9,1000,3、Y的真实值和拟合值有共同的均值,性质4、5：（证明略）,4、残差与自变量不相关（Residualsareunrelatedwithindependentvariable）5、估计残差与拟合值不相关（Residualsareunrelatedwithfittedvalueof）,练习题2.1,样本回归直线性质总结,残差和=0,第三节最小二乘估计式的统计性质,不同的样本就会得到不同的参数估计值对真实参数的代表性，是由的统计性质（均值，方差）决定的为什么使用最小二乘法来估计参数呢？,一、无偏性,由前面，知：无偏性保证参数估计值在参数真实值左右波动，并且估计值平均水平就是参数的真实值,二、最小方差性,方差是描述随机变量特性和进行推断分析的另一个重要特征。在参数估计是无偏、线性估计的基础上，方差较小的则意味着参数估计的精确程度较高，统计推断的效果也较好。我们先推导出最小二乘估计量的方差。,参数的方差,证明略。以下只给出其方差：,课本例题,最小方差说明最小二乘估计在所有线性无偏估计中是分布分散程度最小的。在具有无偏性的前提下，最小二乘估计量的分布分散程度最小、能保证最小二乘估计值与参数真实值比较接近，因此是对最小二乘估计价值的进一步支持。,三、线性：最小二乘估计量是关于Yi的线性函数,线性性使得我们容易通过基本假定求得估计量服从正态分布，为统计检验打下基础；无偏性说明OLS估计量是以其真实值为中心的估计，这种估计当然是好的；最小方差性说明OLS估计量偏离其真实值的程度最小，取值与真实值附近的可能性最大,1、计量经济学的研究方法一般分为以下四个步骤（）A确定科学的理论依据、模型设定、模型修定、模型应用B模型设定、估计参数、模型检验、模型应用C搜集数据、模型设定、估计参数、预测检验D模型设定、模型修定、结构分析、模型应用,2.设OLS法得到的样本回归直线为，则点（）A.一定不在回归直线上B.一定在回归直线上C.不一定在回归直线上D.在回归直线上方,3.最小二乘准则是指（）,达到最小值,C.使,D.使,达到最小值,B.使,达到最小值,达到最小值,A.使,4、价格(X，元)与供给量(Y，吨)之间的回归方程为：i=350+2Xi说明()A.价格每上涨一元，供给量增加300吨B.价格每上涨一元，供给量增加2吨C.价格每上涨一元，供给量平均增加2吨D.价格每上涨一元，供给量平均增加300吨,5、下图中“”所指的距离是（）,A.随机误差项B.残差C.,的离差D.,的离差,6、在回归分析中下列有关解释变量和被解释变量的说法中正确的是()A.被解释变量和解释变量均为随机变量B.被解释变量和解释变量均为非随机变量C.被解释变量为随机变量，解释变量为非随机变量D.被解释变量为非随机变量，解释变量为随机变量,7、参数的估计量具备最小方差性是指（）A.=0B.为最小C.D.为最小,8、计量经济学参数估计量无偏性的含义是A估计值与真实值相等B估计值与真实值相差很小C估计量的数学期望等于真实值D估