西南民族大学经济学院

1、西南民族大学经济学院 统计学 毛瑞华第十二章 简单回归分析1. 确定性的相关关系确定性的相关关系:用方程表示变量间的关系用方程表示变量间的关系: Y= f (X1, X2, ,Xn, )例例12.1 产品的销售额与销售量的关系产品的销售额与销售量的关系: y= p x 2. 不确定性的相关的关系不确定性的相关的关系 用有随机误差的模型表示变量间的关系用有随机误差的模型表示变量间的关系: Y = f (x1,x2,xn,u) 例例12.2 子女的身高子女的身高(y)和其父母的身高和其父母的身高(x)的关系的关系;例例12.3 收入水平收入水平(y)与受教育水平与受教育水平(x)之间的关系之间的关

2、系;例例12.4 单位面积产量单位面积产量(y)与施肥量与施肥量(x)之间的关系。之间的关系。第一节第一节 引言引言西南民族大学经济学院 统计学 毛瑞华 回归分析回归分析是关于变量之间客观存在的相关关系是关于变量之间客观存在的相关关系描述模型及其性质讨论和应用的统计方法的总称。描述模型及其性质讨论和应用的统计方法的总称。 回归分析的一般过程为回归分析的一般过程为:(1)定性或定量分析定性或定量分析, 确定变量之间的相关性确定变量之间的相关性; (2) 建立回归模型建立回归模型;(3) 回归模型的求解回归模型的求解;(4) 回归模型的代表性检验回归模型的代表性检验;(5) 回归模型的修正与改进回

3、归模型的修正与改进;(6) 利用回归模型的进行估计、预测和控制。利用回归模型的进行估计、预测和控制。西南民族大学经济学院 统计学 毛瑞华二、利用散点图分析相关关系二、利用散点图分析相关关系 1020301020(a) 正线性相关西南民族大学经济学院 统计学 毛瑞华 1020301020(b) 负线性相关西南民族大学经济学院 统计学 毛瑞华1020301020(e) 非线性相关40西南民族大学经济学院 统计学 毛瑞华1020301020(f ) 无线性相关40西南民族大学经济学院 统计学 毛瑞华第二节第二节 简单线性回归理论及其假定简单线性回归理论及其假定1.一元线性回归模型一元线性回归模型:

4、只有一个解释变量 yi= + xi+ i ,i=1,2,n yi为为被解释变量被解释变量, xi为为解释变量解释变量, 与与 为为待估参数待估参数, i 为为随机项随机项(误差项误差项)。2. 线性回归模型的基本假设线性回归模型的基本假设假设假设1 误差误差 i 均值为零均值为零: E(yi)= + xi ;假设假设2 误差误差 i 和和 j 不相关不相关: Cov( i , j)=0;假设假设3 误差误差 i 的方差是常数的方差是常数: Var( i)= 2,假设假设4 误差误差 i 和和xi 不相关不相关: Cov( i, xi)=0; 假设假设5 误差误差 i 服从正态分布服从正态分布:

5、 i N(0, 2). 西南民族大学经济学院 统计学 毛瑞华问题:给定一组样本观测值：给定一组样本观测值： 如何估计样本回归函数，使估计得到的函数如何估计样本回归函数，使估计得到的函数尽可能好地拟合这组值？尽可能好地拟合这组值？ 第三节第三节 模型求解与性质讨论模型求解与性质讨论一、一、 参数的最小二乘估计参数的最小二乘估计(OLS)表表12.1 家庭消费家庭消费(y)与可支配收入资料与可支配收入资料(x) x800 1100 1400 1700 2000 2300 2600 2900 3200 3500 y594 6381122 1155 1408 1595 1969 2078 2585 2

6、530西南民族大学经济学院 统计学 毛瑞华iiyx、 ,iiyy01iiiiiyyexe其中其中 ei 为模型的估计残差为模型的估计残差.设拟合直线为设拟合直线为其中其中分别为分别为的估计值的估计值.通常情况下通常情况下,因此因此,最小二乘法最小二乘法(OLS)、求求使模型的残差平方和使模型的残差平方和2211-nntiittQeyx达到最小化。达到最小化。西南民族大学经济学院 统计学 毛瑞华2121()0()0ntttntttyxQyxQ、112111nniiiinnniiiiiitynxx yxx1112211-,-.-nnniiiiiiinniiiinx yxyyxnxx .iiyx样归

7、本回方程(3) 估计值 的求解西南民族大学经济学院 统计学 毛瑞华11122110.777;nnniiiiiiinniiiinx yxynxx表表12.1 家庭消费与可支配收入资料家庭消费与可支配收入资料 x800 1100 1400 1700 2000 2300 2600 2900 3200 3500 y594 6381122 1155 1408 1595 1969 2078 2585 2530103.172.yx 样本回归方程为样本回归方程为103.1720.777.iiyx 西南民族大学经济学院 统计学 毛瑞华第四节、一元线性回归模型的统计分析第四节、一元线性回归模型的统计分析 利用利用

8、统计检验统计检验来判断在一次抽样中参数的估计来判断在一次抽样中参数的估计值与真值的差异是否显著。值与真值的差异是否显著。(1) 分析类型分析类型: 变量系数的变量系数的显著性检验、显著性检验、 参数的参数的区间估计区间估计 模型的模型的拟合优度检验拟合优度检验(2) 检验假设检验假设: 变量的变量的参数真值是否为零参数真值是否为零西南民族大学经济学院 统计学 毛瑞华 参数参数 和和 的的OLS估计量是估计量是yi的线性组合的线性组合, 因而因而估计量的概率分布取决于估计量的概率分布取决于yi的分布特征的分布特征. 由于由于 i 是是正态分布正态分布, yi是是正态分布正态分布, 则估计量也则估

9、计量也服从服从正态分布正态分布,即即2222 ,.()()iiixNNnxxxx2,参数估计量的概率分布参数估计量的概率分布误差项误差项 t 的方差的方差 2的估计的估计2212eten西南民族大学经济学院 统计学 毛瑞华(1) (1) 变量的显著性检验变量的显著性检验 回归分析回归分析是要判断是要判断解释变量解释变量x是否是是否是被解释变量被解释变量y的一个显著性的影响因素。的一个显著性的影响因素。 在在一元线性模型一元线性模型中中, 就是要判断就是要判断x是否对是否对y具有具有显著的线性性影响显著的线性性影响-变量的显著性检验变量的显著性检验.22.()iNxx,22212tSen统计检验

10、量统计检验量- (2)Tt nS西南民族大学经济学院 统计学 毛瑞华检验步骤：检验步骤：(3) 给定显著性水平给定显著性水平 , 得临界值得临界值t1- /2(n-2);(1) 提出假设提出假设 H0: =0 H1：0(2) 以原假设以原假设H0构造构造T 统计量统计量;TS(4) 判断：若判断：若 |T|t1- /2,则拒绝则拒绝H0.在在消费消费支出支出模型中模型中, 有有0.0425,18.29.STS 在给定显著性水平在给定显著性水平 =0.05下下, t0.975(8)=2.306,|T|2.306，说明说明家庭可支配收入在家庭可支配收入在95%的置信度下的置信度下显著显著, 是消费

11、支出的主要解释变量是消费支出的主要解释变量.西南民族大学经济学院 统计学 毛瑞华置信度是置信度是(1- )的参数的参数 的置信区间为的置信区间为 1212(2),(2).tnStnS2、 参数的置信区间参数的置信区间 在在收入收入-消费支出消费支出例中，给定例中，给定 =0.01, 则则 20.9951(2)(8)3.355,0.042tntS于是，于是， 的置信区间为的置信区间为(0.6345,0.9195)西南民族大学经济学院 统计学 毛瑞华对样本回归直线与样本观测值之对样本回归直线与样本观测值之间拟合程度的检验。间拟合程度的检验。拟合优度系数拟合优度系数R2：2SSRRSSE 3、拟合优

12、度检验、拟合优度检验(P322) R2表示在总离差平方和中表示在总离差平方和中, 由解释变量由解释变量x 作出解释的作出解释的部分所占的比例。部分所占的比例。西南民族大学经济学院 统计学 毛瑞华2 总离差平方和的分解的几何解释西南民族大学经济学院 统计学 毛瑞华H0: 模型代表性不强模型代表性不强 H1: 模型代表性强模型代表性强(2)SSRFSSE n 4、模型代表性检验、模型代表性检验(P323) 在显著性水平在显著性水平 下下, 检验的拒绝域为检验的拒绝域为 212(1,2)(1,2)CFFnFFn 在一元线性回归分析中在一元线性回归分析中, 参数的显著性参数的显著性检验检验(t-检验检

13、验)和模型的显著性检验和模型的显著性检验(F-检验检验)的效果相同的效果相同, 且且二者的统计量之间满足关系二者的统计量之间满足关系: F=T2西南民族大学经济学院 统计学 毛瑞华1、简单幂函数模型、简单幂函数模型,iiiyx e 第七节第七节 简单非线性回归分析简单非线性回归分析lnlnln,1,2,.,iiiyxini2、半对数模型、半对数模型(1) ,ttyABlnlnln(1), iyAtB tT T 3、简单倒数模型、简单倒数模型iiiyx1,iizxtiiyz 1iiiyx11,iiiiuvyxiiiuv4、二次曲线模型、二次曲线模型21,iiiiyxx212iivxiiiiyxv

14、 西南民族大学经济学院 统计学 毛瑞华例例12.10下表资料是下表资料是1986-2000年能源生产总量序列年能源生产总量序列, 试用线性回归模型和二次曲线模型方法建立相应的试用线性回归模型和二次曲线模型方法建立相应的回归模型，并作出适当分析。回归模型，并作出适当分析。年年份份时时间间能源生产总量能源生产总量(千克标准煤千克标准煤)年年份份时时间间能源生产总量能源生产总量(千克标准煤千克标准煤)19861808501994911872919872866321995101290341988392997199611132616198949693419971213241019905987031998

15、13124250199161048441999141091261992710725620001510090019938111059西南民族大学经济学院 统计学 毛瑞华解解: (1) 散点图分析散点图分析:T1614121086420POWER1400001300001200001100001000009000080000西南民族大学经济学院 统计学 毛瑞华(1)直线回归直线回归:ANOVAModelSSdf MSFSig.Regression 1.9E+09 11929768770 14.014 0.002Residual1.8E+09 13 137707223Total3.7E+09 1487420.502625.27 ,tyt20.519,0.720RR701.29,S3.743,0.002tpS1687420.502625.27*16129424.82,y西南民族大学经济学院 统计学 毛瑞华(2)二次曲线回归二次曲线回归: