回归分析概述及一元回归模型参数估计PPT课件

.第1，2章单方程计量经济学模型理论和方法theoryandmethodologyofsingle-equationaeconometricnodel，线性单方程计量经济学模型的理论基础和参数估计线性单方程计量经济学模型的统计测试和区间估计经典假设相反的计量经济学问题的扩展单方程计量经济学模型，2，2.1回归分析概述introductiontoregressionanalysis，1，变量之间的关系和回归分析的基本概念2，总回归函数(PRF) 3，随机扰动项4，样例回归函数(SRF)，3，(1)确定性关系或函数关系：研究现象非随机变量之间的关系。(2)统计依赖性或相关性：研究非决定性现象的随机变量之间的关系。首先，变量之间的关系和回归分析的基本概念，1，变量之间的关系经济变量之间的关系很大程度上是，可以分为4两类。调查变量之间的统计相关性主要通过相关分析或回归分析来完成：的，5，非线性相关并不意味着相关。有相关关系不一定有因果关系。回归分析/相关分析研究一个变量与另一个(部分)变量的统计相关性，但不一定意味着存在因果关系。相关分析对称地处理任意(两个)变量，这两个变量都被认为是随机的。回归分析对变量处理方法具有不对称。也就是说，区分变量(解析的变量)和参数(解析的变量)的：前者是随机变量，后者不一定是。注意：6，“回归分析”(regressionanalysis)是一个变量的特定从属关系的计算方法和理论。其目的是通过迭代样本中后一种已知或设置来估计和/或预测电子的(全部)平均值。此处，之前的变量称为已解释变量(ExplainedVariable)或从属变量(DependentVariable)，后续(部分)变量称为已解释变量(ExplanatoryVariable)或参数(dependentVariable)，2，回归分析的基本概念，7，由于变量之间关系的随机性，回归分析根据所解释变量的已知或给定值来调查所解释变量的总体平均值。也就是说，当解析变数取得指定值时，它会计算与解析变数相关的所有可能出现的对应值的平均值。回归分析根据(1)样本观测，估计计量经济模型参数，求出回归方程等，构成计量经济学的方法学基础。(2)回归方程和参数估计值的显著性检验；(3)利用回归方程进行分析、评价和预测。8，示例2.1: 100家庭组成的虚拟社区想研究该社区每月家庭消费支出y与每月家庭可支配收入x的关系。如果知道家庭的月收入，是否能预测相关地区家庭的平均月消费支出水平，为此，将100户家庭分为组内收入相似的10组，分析各收入组的家庭消费支出。第二，整体回归函数，10，(1)由于不确定性，其他家庭对同一收入水平x的消费支出不完全相同；(2)但是消费支出y在相应收入水平x上的分布是由调查完整性决定的。也就是说，Y的条件分布(Conditionaldistribution)(为X指定的值为条件)已知为P(Y=561|X=800)=1/4。因此，指定收入X的值Xi是冲减成本Y的条件平均值(conditionalmean)或条件期望值(conditional expectation):e (y | x=Xi)，在本实例中，E(Y | X=)，11，说明型散点图发现，随着收益的增加，消费“平均化”增加，y的条件平均值位于正斜率的直线上。这条直线称为整条回归线。12，概念：在给定的解释变量Xi条件下解释的变量Yi的预期轨迹称为全局回归线(populationregressionline)，或更一般地称为全局回归曲线(populationregressioncurve)。称为全局回归函数(PRF)。，相应的函数：13，总回归函数(PRF)说明了所解释变量y的平均状态(总体条件期望)随变量x变化的规律。语义：函数形式：可以是线性的，也可以是非线性的。在示例2.1中，将家庭消费支出视为可支配收入的线性函数时，是线性函数。其中0，1是未知参数，称为“回归系数”(regressioncoefficients)。14，3，随机扰动项，完全回归函数描述了给定收入水平Xi下该地区家庭的平均消费支出水平。任何其他家庭的消费支出都可能是其平均值和偏差。I是不可观测值I围绕期望值E(Y|Xi)的偏差(deviation)，也称为随机干涉项目(stochasticdisturbance)或随机错误项目(stochasticerror)的随机不可观测变量，记忆，15，16，示例2.1中，个别家庭的消费支出称为：(*)表达式是整个回归函数(方程)PRF的随机设置形式。表示所解释的变量除了受解释变量的系统影响外，还受其他元素的随机性影响。(1)根据相应收入水平的所有家庭的平均消费支出E(Y|Xi)称为系统或确定性部分。(2)其他任意或非决定性部分I .即给定收入水平Xi，个别家庭的支出可以表示为两部分之和：(*)。也称为整体回归模型，因为任意项被引入方程，成为计量经济学模型。17，随机误差项的影响因素：1)说明变量中被忽略因素的影响；2)变量观测的观测误差影响；3)模型关系设定错误的影响；4)其他随机因素的影响；随机误差项产生和设计的主要原因：1)理论的模糊性；2)数据不足；3)节约原则；18，4，SRF(样例回归函数)，问题：能否从一个采样中获得完整的近似信息？如果可能，如何从示例中获取完整的近似信息？问：在这个样本中能估计整个回归函数PRF吗？范例2.2:范例2.1中的所有样本如下：总体信息往往无法掌握，现实只是单个观察中的完整样本集。此示例的散点图(scatterdiagram):示例散点图类似于直线，绘制直线以适合此散点图。因为范例是整体汇入的，所以此线可以近似表示整个回归线。此线称为范例反向线(sampleregressionlines)。记住样本返回行的函数形式称为样本回归函数(SRF)。20，其中，如果将样本回归线视为整个回归线的近似替代，请注意：样本回归函数的随机形式/样本回归模型：同样，样本回归函数也具有以下随机形式：回归分析的主要目的：基于样本回归函数SRF估计整体回归函数PRF。也就是说，根据估计，ei被称为(样本)残差或残差(residual)，表示影响Yi的其他随机因素的集合，可以看作是mi的估计。也称为样本回归模型(sampleregressionmodel)，因为任意项被引入方程，成为计量模型。注意：PRF可能永远不知道。23，2.2一元线性回归模型和参数估计simplelinearregressionmodelanditsestimation，第一，“线性”回归模型的特征和语义2，一元线性回归模型的基本假设3，参数的一般最小二乘估计(OLS) 4，24，第一，线性回归模型的特征，凯恩斯绝对收益家庭消费理论的例子：消费c是收益y唯一确定和收益的线性函数。但实际上，上述等式不能正确实现。原因(1)消费除了受收入的影响外，还受其他因素的影响。(2)线性关系是近似值，收益变量的观测是近似值，数据本身不能绝对准确地反映收益水平。，25，因此，更实际的数学描述如下：线性回归模型的特点：引入随机误差项，用线性随机方程说明变量之间的关系，用随机数学方法估计方程的参数。线性回归模型中解析的变数的特性由解析变数和随机错误项目共同确定。26，在计量经济学中，“线性”回归模型的意义，对于参数是线性的，对于变量是非线性的函数：对于参数是非线性的，对于变量是线性的函数：对于参数是非线性的，对于变量是非线性的函数：对于参数不能是线性的函数，对于参数可以是线性的函数，27，可设为线性的非线性模型的处理方式(1)变数替代范例：描述税捐与税率之间关系的拉伯曲线：s=a br cr2(c0)s:税捐，r:设定税率，X1=r，X2=r2，则原始方程式，28，3个版本的C-D生产函数模型：注意模型线性化后的前提，29，线性模型和非线性模型，(1)，(2)，(3)，(4)，(5)，(7)，(6)，30，结论：实际经济活动中的很多问题，变量之间的非线性关系最终可能变成线性关系。线性回归模型具有普遍意义。对于任何变换方法都不能使其线性的非线性模型，更多地应用了基于线性估计方法的非线性最小二乘法方法。线性模型理论方法在计量经济学理论方法中占有重要地位。31，许多社会科学中的假设，包括其他条件不变的概念(ceterisparibus)、经济学，都具有“其他条件不变”的特征：在研究两个变量之间的关系时，所有其他相关因素必须保持不变。例如，在经济学中分析消费者需求时，我们要确定商品价格的变化对其需求的影响，并保持所有其他要素收入、其他商品的价格、个人偏好等不变。计量经济分析的其他条件不变意味着其他(相关)因素保持不变，这一概念在因果分析中起着重要作用。32，2，线性回归模型的基本假设，技术路径：回归分析的主要目的是通过样本回归函数(模型)SRF尽可能精确地估计整体回归函数(模型)PRF。通过：使用最小平方或最大似然方法。33，一元线性回归模型：只有一个解析变数。I=1，2，n，y是解析的变数，x是解析的变数，0和1是推论的参数，是随机干涉项目。估计方法有多种，其中使用最广泛的是普通最小二乘(ordinaryleastsquares，OLS)。为了确保参数估计的特性，一般对模型提出了一些基本假设。注：这些假设与使用的估计方法密切相关。34，是一元线性回归模型的基本假设，1:假设解析变量x是决定变量，不是随机变量；假设2:随机误差项有0平均值、相等差值和离散相关性。e (I | Xi)=e (I)=0i=1，2，nvar (I | Xi)=2i=1，2，ncov (I，j)=0i Ji，j=1，2，n假设3:随机错误条目和解释变量x之间不相关：cov (Xi，I)=0i=1，2，N假设4: 0平均值，等效差值，0协方差的正态分布I n (0，2) I=1，2，n、假设35，1和2满意，假设3也满意；假设4满足，则假设2也满足。注意：1-4假设也称为线性回归模型的经典假设或高斯(高斯)假设，满足此假设的线性回归模型称为classicalliearregressionmodel(clrm)。5:随着样本容量的无限增加，解释变量x的样本方差假定有限常数6:回归模型设置正确。，36，假设4: I至n (0，2) I=1，2，n例：衡量教育收益的问题：如果从整体上选择一个人，让他或她接受一年以上的教育，他或她的工资会提高多少？工资水平与可衡量的教育水平和其它非观察因素之间的关系：工资：每小时工资(元)；教育：受教育年度。其他非相关因素：工作经验、天生素质、职业道德等。假设E(i|Xi)=0 是天生的能力。这个假设的要求是平均能力水平相同，不管接受过多少年的培训。例如，e(abil | 8)=e(abil | 6)；37，var ( I | Xi)= 2，var (yi | Xi)= 2 var (wage | educ)= 2。平均薪金E(wage|educ)可以随着教育水平的提高而增长，但是相对于平均值的薪金变化被认为对所有教育水平都不变。I n (0，2)原因：是影响wage且无法观测的许多因素的总和，因此通过中心极限定理可以判断具有近似正态分布。38，3，参数的一般最小平方估计(OLS)，指定的范例观测集(Xi，yi) (I=1，2，n)要求样本回归函数尽可能好地拟合这组值。ordinaryleastsquares(ols)提供了判断两者差异的平方和最小值的标准。39，方程式(*)称为规则方程式(normalequations)。参数的估计结果通过最小二乘法获得，因此称为一般最小二乘估计(ordinaryleastsquaresestimators)。40，4，参数估计的最大似然方法(ML)，最大似然方法(MaximumLikelihood，ML)是不同于最小二乘法的参数估计方法，是根据最大似然原理开发的其他估计方法的基础。基本原理：对于最大似然方法，如果在整个模型中随机抽取n组样本观测值，则最合理的参数估计量应使相应的n组样本观测值从模型中提取的概率最大。41，满足一元线性回归模型标准：n组样本观测(Xi，yi)随机提取(I=1