给定xy的条件期望是x的线性函数.ppt

1,计量经济学导论刘愿,简单回归模型,简单回归模型的定义普通最小二乘法的推导OLS的操作技巧度量单位和函数形式OLS估计量的期望值和方差过原点回归,2,计量经济学导论：刘愿,简单回归模型,3,计量经济学导论刘愿,简单回归模型的定义,在简单线性回归模型y=b0+b1x+u中,我们一般称y为：DependentVariable（因变量）Left-HandSideVariableExplainedVariable（被解释变量）Regressand（回归子）,4,计量经济学导论刘愿,在简单线性回归模型y=b0+b1x+u中,我们一般称x为IndependentVariable（自变量）Right-HandSideVariableExplanatoryVariable（解释变量）Regressor（回归元）Covariate（协变量）ControlVariables（控制变量）,5,计量经济学导论刘愿,简单回归的术语,6,计量经济学导论刘愿,ASimpleAssumption（一个简单假设）,变量u称为errorterm（误差项）或者disturbance（扰动项）代表除了x之外影响y的其它因素。计量研究关注的是x而非u对y的影响，但u与x的关系至关重要。如果u中的其他因素保持不变，则u的变动为零，x对y存在线性效应，可得2.2，其中b1为斜率参数。总体中u的均值为零，意味着：E(u)=0既然我们可以用b0将E(u)标准化为零，E(u)=0并非一个限制性条件。,7,计量经济学导论刘愿,零条件均值假定,u和x的相关性假定至关重要。相关关系只度量了u和x之间的线性关系，u和x不相关，但却可能与x的函数比如x2相关。一种更好的方法是，对给定x时u的期望做出假定：u的平均值与x值无关，即E(u|x)=E(u)=0E(y|x)=b0+b1xpopulationregressionfunction（总体回归函数）,8,计量经济学导论刘愿,E(y|x)是x的一个线性函数，对任何给定的x值，y的分布都以E(y|x)为中心。,9,计量经济学导论刘愿,2.2普通最小二乘法的推导,回归的基本思想是利用样本估计总体参数令(xi,yi):i=1,n表示从总体中抽取的一个容量为n的随机样本。对于样本中的每一个观测，我们都可以写作yi=b0+b1xi+ui,10,计量经济学导论刘愿,.,.,.,.,y4,y1,y2,y3,x1,x2,x3,x4,u1,u2,u3,u4,x,y,总体回归线、样本数据点集和相关的误差项,E(y|x)=b0+b1x,11,计量经济学导论刘愿,OLS估计值的推导,E(u|x)=E(u)=0意味着x和u之间的协方差也为零，即Cov(x,u)=E(xu)=0因为：Cov(X,Y)=E(XY)E(X)E(Y),12,计量经济学导论刘愿,OLS推导续,既然u=yb0b1x我们可以将上述两个限制条件改写为由x,y,b0andb1表达的式子E(yb0b1x)=0Ex(yb0b1x)=0这被称为矩条件。,13,计量经济学导论刘愿,运用矩法推导OLS,运用矩法进行估计意味着将总体的矩条件应用于样本矩条件.,14,计量经济学导论刘愿,OLS推导续,给定样本均值的定义和求和的性质，条件一可改写为：,15,计量经济学导论刘愿,16,计量经济学导论刘愿,17,计量经济学导论刘愿,OLS估计的斜率参数,x和y之间的样本协方差,x的样本方差,18,计量经济学导论刘愿,OLS斜率估计值的相关总结,斜率估计值等于x和y之间的样本协方差除以x的样本方差。斜率估计值的符号取决于x和y的正负相关性：x和y正相关，斜率估计值为正；x和y负相关，斜率估计值为负。得到斜率估计值的必要条件是，x在样本中是有变异的。,19,计量经济学导论刘愿,20,计量经济学导论刘愿,OLS通过样本点来拟合曲线，使得残差平方和尽可能小，故称为“最小二乘”法。残差是误差项u的估计值,等于实际观察值与拟合值（样本回归函数）之差。,21,计量经济学导论刘愿,拟合值和残差,22,计量经济学导论刘愿,推导的另一思路,根据拟合曲线的直观思想，我们可以通过建立最小化问题，即我们选择可使残差平方和最小化的参数：,23,计量经济学导论刘愿,推导的另一思路（续）,利用微积分优化，我们可得到OLS估计值的一阶条件：,24,计量经济学导论刘愿,例子2.3CEO薪酬和股本回报率,25,计量经济学导论刘愿,26,计量经济学导论刘愿,2.3OLS的操作技巧,拟合值和残差,27,计量经济学导论刘愿,28,计量经济学导论刘愿,OLS的代数性质,OLS残差之和等于零。OLS残差的样本均值为零。x与的样本协方差为零。OLS回归线总是通过样本均值：点总在OLS回归线上,29,计量经济学导论刘愿,30,计量经济学导论刘愿,相关术语,31,计量经济学导论刘愿,证明:SST=SSE+SSR,32,计量经济学导论刘愿,拟合优度,计算总平方和被模型解释的比例，有助于了解样本回归线对样本数据的拟合是否良好?R2=SSE/SST=1SSR/SST,33,计量经济学导论刘愿,34,计量经济学导论刘愿,UnitsofMeasurementandFunctionalForm,35,计量经济学导论刘愿,UnitsofMeasurementandFunctionalForm(cont),Thegoodness-of-fitofthemodelshouldnotdependontheunitsofmeasurementofourvariables.,36,计量经济学导论刘愿,IncorporatingNonlinearitiesinSampleRegression,37,计量经济学导论刘愿,Example2.11CEOSalaryandFirmSales,38,计量经济学导论刘愿,39,计量经济学导论刘愿,UnitsofMeasurementandFunctionalForm(cont),40,计量经济学导论刘愿,OLS估计的期望值和方差,OLS的无偏性OLS估计的方差估计误差项的方差,41,计量经济学导论刘愿,UnbiasednessofOLS:fourassumptions,AssumptionSLR.1:thepopulationmodelislinearinparametersasy=b0+b1x+uAssumptionSLR.2:wecanusearandomsampleofsizen,(xi,yi):i=1,2,n,fromthepopulationmodel.Thuswecanwritethesamplemodelyi=b0+b1xi+uiAssumptionSLR.3:E(u|x)=0AssumptionSLR.4:thereisvariationinthexi,42,计量经济学导论刘愿,UnbiasednessofOLS:FourAssumptions,43,计量经济学导论刘愿,44,计量经济学导论刘愿,45,计量经济学导论刘愿,46,计量经济学导论刘愿,OLS无偏性,考虑无偏性，需要用总体参数重写参数估计值：,47,计量经济学导论刘愿,OLS无偏性（续）,48,计量经济学导论刘愿,OLS无偏性（续）,49,计量经济学导论刘愿,OLS无偏性：证明,50,计量经济学导论刘愿,51,计量经济学导论刘愿,关于无偏性的一个总结,OLSestimatesofb1和b0的OLS估计是无偏的，如果无偏性的证明依赖于前述4个假设，若任何一个假设满足，OLS并非一定是无偏的。无偏性是对参数估计值的无偏性：给定一个样本，参数估计值与真实的总体参数或远或近。当u包含了影响y同时又与x相关的因素，简单回归将导致虚假相关（spuriouscorrelation）.,52,计量经济学导论刘愿,例子2.12学生数学成绩和学校免费午餐计划,math10：10分制考试中及格学生的比例lnchprg:符合资格享受免费午餐计划的学生的比例,53,计量经济学导论刘愿,OLS估计值的方差,参数估计值的样本分布是以真实总体参数为中心的。了解这个分布的分散程度是很重要的。增加一个假设条件，更容易了解这个方差的性质：AssumptionSLR.5:Var(u|x)=s2（同方差假设）,54,计量经济学导论刘愿,OLS方差（续）,Var(u|x)=E(u2|x)-E(u|x)2E(u|x)=0,sos2=E(u2|x)=E(u2)=Var(u)s2是无条件方差，称为误差方差。s称为误差标准差。E(y|x)=b0+b1x：给定x,y的条件期望是x的线性函数；Var(y|x)=s2意味着：给定x，y的方差是一个常数。,55,计量经济学导论刘愿,56,计量经济学导论刘愿,如Var(u|x)依赖于x,误差项显示出异质性。既然Var(u|x)=Var(y|x),当Var(y|x)是x的一个函数，误差项存在异质性。例子：工资方程中异方差性工资依赖于教育水平。但教育水平越高，工资的变异性越大，反之亦然。,57,计量经济学导论刘愿,58,计量经济学导论刘愿,OLS方差（续）,59,计量经济学导论刘愿,证明:,60,计量经济学导论刘愿,关于OLS方差的小结,误差方差s2越大，斜率估计值的方差越大。xi的变异性越大，斜率估计值的方差越小。因此，增加样本容量可以减少斜率参数估计值得方差。问题是，误差项的方差是未知的。,61,计量经济学导论刘愿,TheproofcanbeseenatLiZinai,2009,p.37.,62,计量经济学导论刘愿,估计误差方差,因为无法观测误差项ui，所