




版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
1、第三章第三章 多元线性回归模型多元线性回归模型 前面我们学习了一元线性回归模型的计量前面我们学习了一元线性回归模型的计量经济模型。如果一个变量受多个解释变量的影经济模型。如果一个变量受多个解释变量的影响,那么就有多个解释变量对被解释变量起作响,那么就有多个解释变量对被解释变量起作用。如果解释变量都是线性的影响,则建立的用。如果解释变量都是线性的影响,则建立的模型称为模型称为多元线性回归模型。多元线性回归模型。形如形如的线性计量经济模型称为的线性计量经济模型称为k元线性回归模型元线性回归模型,样样本本容容量量为nn,1,2,iXXXYikik2i21i10i)( ,个未知参数有个解释变量它有)1
2、k (,kS3.1多元线性回归模型的多元线性回归模型的4种表达式:种表达式:,:ikik2i21i10iXXXY1.k元总体模型,),:kik2i21i10ki2i1iiXXXYk 2. XXXE( )元总体回归函数(方程,ikik2i21i10ieXXXY3.k: :元元样样本本回回归归模模型型,kik2i21i10iXXXY: :(方方程程)4 4. .k k元元样样本本回回归归函函数数.变动的变化引起的因变量的不变时,表示其他变量保持)称为偏回归系数,它(jjXk,1,2,j, XYk 1. 元元总总体体模模型型回回归归模模型型的的矩矩阵阵表表达达:S S3 3. .1 1. .1 1多
3、多元元线线性性1nn2111)(kk210;,1)(knkn2n1nk22212k12111n21XXX1XXX1XXX1X1nYYYY其其中中XE(Y) : :程程)2 2. .总总体体回回归归函函数数(方方1)(knkn2n1nk22212k12111n21XXX1XXX1XXX1X;1n)E(Y)E(Y)E(YE(Y) 其其中中;11)(kk210,e XYk 3.:元元样样本本回回归归模模型型1neee;11)(kn21k210e;XXX1XXX1XXX1X,1nYYYY1)(knkn2n1nk22212k12111n21 其其中中, XYk 4. :)元元样样本本回回归归函函数数(方
4、方程程11)(kk210;XXX1XXX1XXX1X,YYYY1)(knkn2n1nk22212k12111n211n 其其中中S3.1.2多元线性回归模型的基本假定:多元线性回归模型的基本假定: 为了使参数的估计量具有良好的统计性质,为了使参数的估计量具有良好的统计性质,对多元模型也做类似一元回归模型的基本假设。对多元模型也做类似一元回归模型的基本假设。关关(即即无无多多重重共共线线性性)且且解解释释变变量量之之间间互互不不相相 随随机机变变量量),都都是是确确定定性性变变量量(不不是是1 1. .解解释释变变量量K21XXX、n)210(i),cov(;)D(0)E(ji2ii,;即即 序
5、序列列相相关关性性;均均值值性性,同同方方差差性性和和无无2 2. .随随机机误误差差项项具具有有零零0.),cov(Xij差差项项不不相相关关,即即3 3. .解解释释变变量量与与随随机机误误. .态态分分布布,即即4 4. .随随机机误误差差项项服服从从正正)N(0,2i基本假设的矩阵表示基本假设的矩阵表示: 1)(kn(X1).(K(X)X1)(kn暗暗含含为为满满秩秩矩矩阵阵。即即为为非非随随机机矩矩阵阵,且且秩秩1 1. .矩矩阵阵 n21n211nE)E( EEED;1n00001n)nE( )2E( )1E( E2 2. .即即)E(),cov()cov(),cov()E()co
6、v(),cov(),cov()E(2n2n1nn22112n12121)E()E()E()E()E()E()E()E()E(E2n2n1nn22112n121212n2n1nn22112n12121nn22222I10000100010000000)X3.E(I),(0N4.21nn1n向向量量。矩矩阵阵避避免免伪伪回回归归假假设设。规规定定0Q5.正正确确的的。假假定定建建立立的的回回归归模模型型是是6.)(1KXXQS 3.2 多元线性回归模型的参数估计多元线性回归模型的参数估计参数估计的两个任务参数估计的两个任务: jj2i2 采用的估计方法采用的估计方法:1.最小最小 二乘法二乘法.2
7、.最大似然法最大似然法.3.矩法矩法. 只讲最小二乘法只讲最小二乘法. 原理原理(使样本数据的残差使样本数据的残差平方和最小的参数的取值即为最小二乘估计平方和最小的参数的取值即为最小二乘估计) 1.求得诸参数求得诸参数 的估计量的估计量 2.求出随机误差项求出随机误差项 的方差的方差 的估计的估计得正规方程组得正规方程组达达到到最最小小。即即使使残残差差平平方方和和2ii2iYYe)(0e0e0ek2i12i02i建立方程组建立方程组用用矩矩阵阵表表示示:YXXXYXXXXX1-1)(K 得得可可逆逆, ,方方阵阵11)(kk210n).,1,2,(i eXXXYkS.ikik2i21i10i
8、 3.2.1 ( (1 1) )式式; ;: :元元样样本本回回归归模模型型,eXXXnYikik2i21i10i:可可得得( (2 2) )式式所所以以,0XXXYkk22110,,eXXXXXXYYikkik22i211i1i) 2 () 1 (得得:n).,1,2,(i exxxyikik2i21i1i 即即1kne2i2另:随机误差项另:随机误差项 的方差的方差 的估计的估计2离差形式的最小二乘估计量:离差形式的最小二乘估计量:1)(kk21k1101-XXYYxxx;这这里里注注意意 : 通过通过OLS,ML和和MM三种不同的估计方三种不同的估计方法发现,得出的参数估计量结果法发现,
9、得出的参数估计量结果是相同的是相同的。工具变量法(工具变量法(IV Instrumental Variables)YXXX-1S3.2.2多元线性回归模型参数估计量多元线性回归模型参数估计量 的性质的性质:1.线性:线性:)和和有有效效性性(方方差差最最小小性性具具有有线线性性、无无偏偏性性可可以以证证明明 YXXX-12.无偏性:无偏性:CYYXXX-1显显然然,( (向向量量) )即即可可只只需需证证明明)E( EXXXXXXXXXXEXXXXEYXXXE)E(1-1-1-1-1 3.有效性有效性 有高斯有高斯-马尔科夫定理可以保证其有效性,下马尔科夫定理可以保证其有效性,下面给出参数估计
10、量的协方差矩阵:面给出参数估计量的协方差矩阵: XXXXXXXXEYXXXYXXXEEEEED1-1-1-1- 11XXXXXXXXXXXXXXXXXXXXXXXX1-1-1-1-1-1-EEEE1-21-2nn2-1XXXXXXXXXXXIXXX11S3.2.3关于样本容量问题关于样本容量问题:2.满足基本要求的样本容量满足基本要求的样本容量1.最小样本容量最小样本容量1k3n30n或或者者至至少少 1kn S3.3多元线性回归模型的统计检验多元线性回归模型的统计检验 对多元线性回归模型来说对多元线性回归模型来说,它的统计检验跟它的统计检验跟一元相比一元相比,有不同之处有不同之处,它主要包括
11、它主要包括: 1.拟合优度检验拟合优度检验. 2.方程的显著性检验方程的显著性检验. 3.参数的显著性检验参数的显著性检验. 4.参数的置信区间估计参数的置信区间估计.统计检验一般按以上的先后顺序进行统计检验一般按以上的先后顺序进行. 多元线性回归模型的参数比较多多元线性回归模型的参数比较多,统计检验比统计检验比一元多了一个一元多了一个方程的显著性检验方程的显著性检验. 方程的显著性检验方程的显著性检验与与参数的显著性检参数的显著性检验各有什么作用验各有什么作用?解答解答: 方程的显著性检验方程的显著性检验(又称为又称为F检验检验)主要是看主要是看建立的模型中是否建立的模型中是否遗漏了重要的解
12、释变量遗漏了重要的解释变量; 而参数的而参数的显著性检验显著性检验(又称为又称为t 检验检验)主要是看要主要是看要把那些不重要的而引入模型的解释变量把那些不重要的而引入模型的解释变量剔除剔除,(即找即找出滥竽充数的出滥竽充数的“南郭先生南郭先生”). TSS = ESS + RSS自由度自由度 (n-1) (k) (n-k-1)1.拟合优度检验拟合优度检验.(i)可决系数与调整的可决系数可决系数与调整的可决系数. 类似地类似地,多元模型中也有多元模型中也有 TSS=ESS+RSS(总离差平方和总离差平方和=回归平方和回归平方和+残差平方和残差平方和)。这里仍然定义这里仍然定义TSSRSS1TS
13、SESSR2可决系数 可决系数 在多元回归模型中在多元回归模型中,解释变量越多解释变量越多, 但实际情况是但实际情况是,由增加不重要的变量作为解释变量由增加不重要的变量作为解释变量引起的引起的 与拟合优度没有关系与拟合优度没有关系,但会给人一但会给人一种错觉种错觉,觉得只要增加解释变量的个数觉得只要增加解释变量的个数 k ,就可提就可提高拟合优度高拟合优度.其实不然其实不然.越越大大。2R增增大大, ,2R可见可见 是个粗放型的指标是个粗放型的指标, 这是它的不足之处这是它的不足之处. 为此为此,我们找到另外一个指标我们找到另外一个指标,即即调整后的可决调整后的可决系数系数:2R1nTSS1k
14、nRSS1R2其中其中, (n-k-1)是是RSS的自由度的自由度.其中其中, (n-1)是是TSS的自由度的自由度. 调整后的可决系数调整后的可决系数(adjusted coefficient of determination)克服了克服了 的缺点的缺点. 2R:的的关关系系与与22RR1kn1nR-1-1R22 通过换算,有通过换算,有1knkR1knk1knR1kn1n1kn1n1R222因因为为,0RR122且且2222R-11knkR1knkR1knkR,0RR122 所所以以建建模模。通通过过检检验验。否否则则,重重新新, ,时时,拒拒绝绝当当值值由由样样本本数数据据求求得得统统计
15、计量量。分分布布表表得得临临界界值值查查给给定定显显著著性性水水平平成成立立时时当当构构造造统统计计量量至至少少存存在在一一个个1 1. .原原假假设设步步骤骤:0000j1k210H1-k-nk,FFF4.1-k-nk,FF3.1-k-nk,FFH1-k-nRSSkESSF2.0:H0 :H,。.;2.方程的显著性检验方程的显著性检验(F检验检验).3.变量变量(参数参数)的显著性检验(的显著性检验(t 检验)检验).建建模模。通通过过检检验验。否否则则,重重新新, ,时时,拒拒绝绝当当值值由由样样本本数数据据求求得得统统计计量量。分分布布表表得得临临界界值值查查给给定定显显著著性性水水平平
16、成成立立时时当当构构造造统统计计量量1 1. .原原假假设设步步骤骤:000j0jjjjjjj1j0H1-k-nttt4.1-k-ntt3.1-k-nttH-t2.k,1,2,j0:H:H22jjs1kneecs,。.)(; 0 在一元模型中在一元模型中,只有变量只有变量(参数参数)的显著性检的显著性检验验,因为两者是一致的。因为两者是一致的。个个元元素素. .上上第第的的主主对对角角线线表表示示矩矩阵阵1 1. .这这里里 : :注注意意 1jX)X(c-1jj2)nF(1,2)(nt2因因为为课本第课本第45页页为为列列向向量量。 这这里里e ,eee2.2i4.参数的置信区间估计参数的置
17、信区间估计.1-k-nt-tjjjs由由统统计计量量j2j2jjsstt-,得得到到区区间间- -给给定定置置信信水水平平1 1,提高置信区间精确度的方法提高置信区间精确度的方法: 在样本容量一定的情况下在样本容量一定的情况下, 可靠度可靠度(置信水平置信水平)与与精确度精确度(区间长度区间长度)存在此消彼长的关系存在此消彼长的关系.1.增大样本容量增大样本容量.2.提高拟合优度提高拟合优度.3.提高样本观测值的分散度提高样本观测值的分散度.S.3.4多元线性回归模型的预测多元线性回归模型的预测 跟一元线性回归模型相似,多元线性回跟一元线性回归模型相似,多元线性回归模型的预测功能可以分为:归模
18、型的预测功能可以分为: 0YE0Y1.预测值估计值预测值估计值均值均值 的预测。的预测。2.预测值估计值预测值估计值个别值个别值 的预测的预测的的置置信信区区间间。 均均值值0YE1. XY00故故XXXXYX,X1,XXXXY0k0k20210100k0100kik2i21i10i,有有 对对于于给给定定的的: :程程)k k元元样样本本回回归归函函数数(方方 ,.1k0 这这里里1-2n2n-1XX,NI, XNY CYYXXX1 1k k 故故 因因为为一元正态分布.一元正态分布. 故故,0-102000XXXX,XN XY见课本第见课本第83页中页中.可构造如下的可构造如下的 t 统计
19、量统计量 1)kt(nXXXXYEYXXXXYEY01-020001-0200XXXXtYYEXXXXtY1-02001-020221有有即即置置信信水水平平给给定定显显著著性性水水平平,的的置置信信区区间间。 个个别别值值0Y2.20000,XNXY0-10200XXXX10,NYY可构造如下的可构造如下的 t 统计量统计量1kntXXXX1YYXXXX10YY1-02001-020001-020001-020XXXX1tYYXXXX1tY221有有即即置置信信水水平平给给定定显显著著性性水水平平,见课本第见课本第83页上页上.S4.1多元非线性回归模型线性化多元非线性回归模型线性化线性化方
20、法线性化方法: 1.直接置换法直接置换法. 倒数模型倒数模型,多项式模型多项式模型.2.函数变换法函数变换法. 幂函数模型幂函数模型,指数函数模型指数函数模型.3.级数展开法级数展开法(泰勒展式泰勒展式). 复杂函数模型复杂函数模型.课本例课本例3.5.1非线性问题线性化非线性问题线性化:1.理论模型的建立。理论模型的建立。2. SPSS软件实现。软件实现。3.对估计出的线性计量经济模型对估计出的线性计量经济模型进行经济意义解释。进行经济意义解释。3.5.14PPPXPP,PXQ3.5.13 ,PPX AP,PX,fQ201100100101Af321,: 两两个个理理论论模模型型取以取以 为
21、底的对数为底的对数,对模型线性化对模型线性化3.5.16lnPlnPlnXlnAlnQ3.5.1303121; : :线线性性化化3.5.17PPlnPXlnlnAlnQ3.5.1401201; : :线线性性化化得得到到课课本本7 76 6页页模模型型。 令令 lnA,0eS3.6 受约束回归问题受约束回归问题 有时候在建立模型时,需要对建立的模型中有时候在建立模型时,需要对建立的模型中的参数进行条件约束。(即参数之间有一定的关的参数进行条件约束。(即参数之间有一定的关系,满足一定的条件。)系,满足一定的条件。)1.对有约束条件的模型进行参数回归分析,称对有约束条件的模型进行参数回归分析,称
22、为为受约束回归受约束回归。 (restricted regression )2.如果对参数没有约束条件,则进行的回归分析如果对参数没有约束条件,则进行的回归分析称为称为无约束回归无约束回归。(unrestricted regression )例例3.5.1模型参数基本满足零阶齐次性。模型参数基本满足零阶齐次性。 (课本(课本80页)页)1. 模型参数的线性约束模型参数的线性约束 通常对模型施加约束条件会降低模型通常对模型施加约束条件会降低模型的解释能力。的解释能力。模型的解释能力通过拟合优度来体现。模型的解释能力通过拟合优度来体现。1. 判定约束条件是否存在可利用判定约束条件是否存在可利用F 检验检验第三章练习第第三章练习第7 7题:题: 0X)XXY(0X)XXY(:.)YY(e,XXYeXXY:i2n1ii
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 柜式新风机组行业深度研究分析报告(2024-2030版)
- 2025年中国桂鱼产品流通行业市场运营现状及投资研究建议报告
- 中国建筑信息化行业发展监测及投资战略研究报告
- 17.4 直角三角形全等的判定 基础知识精练
- 长沙新建垃圾清扫车可行性研究报告-图文
- 2025年中国耐压称重给煤机行业市场深度分析及投资策略咨询报告
- 昆明防雾镜项目可行性研究报告模板参考
- 2025年中国照明灯具行业市场调研分析及投资战略咨询报告
- 2025年中国消防报警器行业发展前景预测及投资战略研究报告
- 中国工业耗能行业深度评估及行业投资潜力预测报告
- 临床药理学课件抗肿瘤
- 2025事业单位招聘考试综合应用能力真题库与参考答案
- 《财务报表分析》课件
- 2025春期国家开放大学《工程地质》阶段测验1-4答案
- 2019草晶华营销传播创意方案
- 《医学检验实验室》课件
- 第11课《山地回忆》说课稿 2024-2025学年统编版语文七年级下册
- 2025年国药控股湖南有限公司招聘笔试参考题库含答案解析
- 老旧小区改造项目施工组织设计方案
- 【MOOC】《大学生计算与信息化素养》(北京林业大学)章节作业中国大学慕课MOOC答案
- 《中药的道地药材》课件
评论
0/150
提交评论