版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
1、 第第4讲讲 11.1变量间关系的度量变量间关系的度量11.2一元线性回归一元线性回归11.3利用回归方程进行估计和预测利用回归方程进行估计和预测11.4残差分析残差分析本章重点:一元线性回归的方法本章重点:一元线性回归的方法本章难点:一元线性回归的计算本章难点:一元线性回归的计算11.1 变量间关系的度量变量间关系的度量11.1.1.变量间关系变量间关系11.1.2.相关关系的描述与测度相关关系的描述与测度11.1.3.相关关系的显著性检验相关关系的显著性检验11.1.1.变量间关系变量间关系1)函数关系)函数关系是一一是一一对应的确定关系对应的确定关系设设有两个变量有两个变量 x 和和 y
2、 ,变量,变量 y 随变量随变量 x 一起变化,并一起变化,并完全依完全依赖于赖于 x ,当变量,当变量 x 取某个数值取某个数值时,时, y 依确定的关系取相应的依确定的关系取相应的值,则称值,则称 y 是是 x 的函数,记为的函数,记为 y = f (x),其中,其中 x 称为自变量,称为自变量,y 称为因变量称为因变量各各观测点落在一条线上观测点落在一条线上 函数关系函数关系(几个例子几个例子)函数关系的例子函数关系的例子某种商品的销售额某种商品的销售额y与销售量与销售量x之间的关系可表之间的关系可表示为示为 y = px (p 为单价为单价)圆的面积圆的面积S与半径之间的关系可表示为与
3、半径之间的关系可表示为S= R2 企业的原材料消耗额企业的原材料消耗额y与产量与产量x1 、单位产量消、单位产量消耗耗x2 、原材料价格、原材料价格x3之间的关系可表示为之间的关系可表示为 y = x1 x2 x3 2) 相关关系相关关系(correlation)变量间关系不能用函数关变量间关系不能用函数关系精确表达系精确表达一个变量的取值不能由另一个变量的取值不能由另一个变量唯一确定一个变量唯一确定当变量当变量 x 取某个值时,变取某个值时,变量量 y 的取值可能有几个的取值可能有几个各观测各观测点分布在直线周围点分布在直线周围 相关关系相关关系(几个例子几个例子) 相关关系的例子相关关系的
4、例子父亲身高父亲身高y与子女身高与子女身高x之间的关系之间的关系收入水平收入水平y与受教育程度与受教育程度x之间的关系之间的关系粮食亩产量粮食亩产量y与施肥量与施肥量x1 、降雨量、降雨量x2 、温度、温度x3之间的关系之间的关系商品的消费量商品的消费量y与居民收入与居民收入x之间的关系之间的关系商品销售额商品销售额y与广告费支出与广告费支出x之间的关系之间的关系相关关系相关关系(类型类型)正正 相相 关关 负负 相相 关关线线 性性 相相 关关 非非 线线 性性 相相 关关正正 相相 关关 负负 相相 关关完完 全全 相相 关关 不不 相相 关关相相 关关 关关 系系11.1.2.相关关系的
5、描述与测度相关关系的描述与测度1)散点图(scatter diagram)散点图散点图(例题分析例题分析) w【例】【例】一家大型商业银行在多个地区设有分行,其业务主要是进行基础设施建设、国家重点项目建设、固定资产投资等项目的贷款。近年来,该银行的贷款额平稳增长,但不良贷款额也有较大比例的增长,这给银行业务的发展带来较大压力。为弄清楚不良贷款形成的原因,希望利用银行业务的有关数据做些定量分析,以便找出控制不良贷款的办法。下面是该银行所属的25家分行2002年的有关业务数据 散点图散点图(例题分析) 不良贷款与贷款余额的散点图不良贷款与贷款余额的散点图0246810121401002003004
6、00贷款余额不良贷款 不良贷款与累计应收贷款不良贷款与累计应收贷款的散点图的散点图02468101214051015202530累计应收贷款不良贷款 不良贷款与贷款项目个数 不良贷款与贷款项目个数的散点图的散点图0 02 24 46 68 81010121214140 020204040贷款项目个数贷款项目个数不良贷款不良贷款 不良贷款与固定资产投资额不良贷款与固定资产投资额的散点图的散点图02468101214050100150200固定资产投资额不良贷款2)相关系数相关系数(correlation coefficient)1.概念:概念:对变量之间关系密切程度的度量对变量之间关系密切程度的
7、度量对两个变量之间线性相关程度的度量称为对两个变量之间线性相关程度的度量称为简单相关系数简单相关系数若相关系数若相关系数是根据总体全部数据计算的,是根据总体全部数据计算的,称为总体相关系数,记为称为总体相关系数,记为 若若是根据样本数据计算的,则称为样本相是根据样本数据计算的,则称为样本相关系数,记为关系数,记为 r2.相关系数的计算公式相关系数的计算公式w 样本相关系数的计算公式22)()()(yyxxyyxxr2222 yynxxnyxxynr3)相关系数取值及其意义)相关系数取值及其意义 r 的取值范围的取值范围是是 -1,1 |r|=1,为完全相关为完全相关nr =1,为完全正相关,为
8、完全正相关nr =-1,为完全负正相关,为完全负正相关 r = 0,不存在不存在线性线性相关关系相关关系 -1 r0,为负相关为负相关 0t,拒绝,拒绝H0 若若tt,不能拒绝,不能拒绝H0相关系数的显著性检验相关系数的显著性检验(例题分析)w 对不良贷款与贷款余额之间的相关系数进行对不良贷款与贷款余额之间的相关系数进行显著性检显著性检(0.05)1.假设:假设:H0: ;H1: 02.计算计算检验的统计量检验的统计量5344. 78436. 012258436. 02t(例题分析)w各相关系数检验的统计量各相关系数检验的统计量 回归模型、回归方程、估计的回归方程回归模型、回归方程、估计的回归
9、方程 判定系数、估计标准误差判定系数、估计标准误差 线性关系的检验、回归系数的检验线性关系的检验、回归系数的检验从一组样本数据出发,确定变量之间的数学关从一组样本数据出发,确定变量之间的数学关系式系式对这些关系式的可信程度进行各种统计检验,对这些关系式的可信程度进行各种统计检验,并从影响某一特定变量的诸多变量中找出哪些并从影响某一特定变量的诸多变量中找出哪些变量的影响显著,哪些不显著变量的影响显著,哪些不显著利用所求的关系式,根据一个或几个变量的取利用所求的关系式,根据一个或几个变量的取值来预测或控制另一个特定变量的取值,并给值来预测或控制另一个特定变量的取值,并给出这种预测或控制的精确程度出
10、这种预测或控制的精确程度相关分析中,变量相关分析中,变量 x x 变量变量 y y 处于处于平等平等的地位;回归的地位;回归分析中,变量分析中,变量 y y 称为因变量,处在称为因变量,处在被解释被解释的地位,的地位,x x 称为自变量,用于预测称为自变量,用于预测因变量因变量的变化的变化相关分析中所涉及的变量相关分析中所涉及的变量 x x 和和 y y 都是随机变量;回都是随机变量;回归分析中,因变量归分析中,因变量 y y 是随机变量是随机变量,自变量,自变量 x x 可以是可以是随机变量,也可以随机变量,也可以是非随机的确定是非随机的确定变量变量相关分析主要是描述两个变量之间线性关系的密
11、切程相关分析主要是描述两个变量之间线性关系的密切程度;回归分析不仅可以揭示变量度;回归分析不仅可以揭示变量 x x 对变量对变量 y y 的影响的影响大小,还可以由回归方程进行预测和控制大小,还可以由回归方程进行预测和控制线线 性性 回回 归归非非 线线 性性 回回 归归一一 元元 回回 归归线线 性性 回回 归归非非 线线 性性 回回 归归多多 元元 回回 归归回回 归归 模模 型型涉及一个自变量的回归因变量y与自变量x之间为线性关系n被 预 测 或 被 解 释 的 变 量 称 为 因 变 量(dependent variable),用y表示n用来预测或用来解释因变量的一个或多个变量称为自变
12、量(independent variable),用x表示 因变量与自变量之间的关系用一个线性方程来表示描述因变量 y 如何依赖于自变量 x 和误差项 的方程称为一元线性回归模型可表示为 y = b b + + b b1 1 x + + ny 是 x 的线性函数(部分)加上误差项n线性部分反映了由于 x 的变化而引起的 y 的变化n误差项 是随机变量w反映了除 x 和 y 之间的线性关系之外的随机因素对 y 的影响w是不能由 x 和 y 之间的线性关系所解释的变异性nb0 和 b1 称为模型的参数理论回归模型一元线性回归模型一元线性回归模型基本假定基本假定因变量因变量y与自变量与自变量x具有线性
13、关系具有线性关系自变量自变量x 取值取值,y 是随机变量是随机变量误差误差项项是一个期望值为是一个期望值为0的随机变量,即的随机变量,即E()=0。对于一个给定的对于一个给定的 x 值,值,y 的期望值为的期望值为 E ( y ) =b b 0+ b b 1 x对对于所有的于所有的 x 值,值,的方差的方差2 都相同都相同误差误差项项是一个服从正态分布的随机变量,且相互是一个服从正态分布的随机变量,且相互独立。即独立。即N( 0 ,2 )n独立性意味着对于一个特定的独立性意味着对于一个特定的 x 值,它所对应的值,它所对应的与与其他其他 x 值所对应的值所对应的不相关不相关2.回归方程回归方程
14、(regression equation)描描述述 y 的的平均值或期望值平均值或期望值如何依赖于如何依赖于 x 的方的方程称为程称为回归方程回归方程一元一元线性回归方程的形式如下线性回归方程的形式如下 E( y ) = b b0+ b b1 x方程的图示是一条直线,也称为直线回归方程方程的图示是一条直线,也称为直线回归方程b b0是回归直线在是回归直线在 y 轴上的截距,是当轴上的截距,是当 x=0 时时 y 的期的期望值望值b b1是直线的斜率,称为回归系数,表示当是直线的斜率,称为回归系数,表示当 x 每变动每变动一个单位时,一个单位时,y 的平均变动值的平均变动值3.估计的回归方程估计
15、的回归方程(estimated regression equation)P365用用样本统计量样本统计量 和和 代替回归方程中的未知参代替回归方程中的未知参数数 和和 ,就得到了,就得到了估计的回归方程估计的回归方程0b1b0b1b总体总体回归参数回归参数 和和 是是 未知的,必须利用样本数未知的,必须利用样本数据去估计据去估计0b1bxy10bb+其中:其中: 是估计的回归直线在是估计的回归直线在 y 轴上的截距,轴上的截距, 是直线是直线的斜率,它表示对于一个给定的的斜率,它表示对于一个给定的 x 的值,的值, 是是 y 的估的估计值,也表示计值,也表示 x 每变动一个单位时,每变动一个单
16、位时, y 的平均变动值的平均变动值 0b1by 11.2.2.参数的最小二乘估计参数的最小二乘估计最小值niiiniixyyy121012)()(bb使因变量的观察值与估计值之间的离差平方和达到最小来求得 和 的方法。即用最小二乘法拟合的直线来代表x与y之间的关系与实际数据的误差比其他任何直线都小0b1b最小二乘估计的图示 xy10bb+最小二乘法 ( 和 的计算公式)xyxxnyxyxnniniiiniiniiniii1012121111bbb1b0b0b1b0)(20)(212101121001100niiiiniiixyxQxyQbbbbbbbbbb 和和 的计算公式的计算公式xyxx
17、nyxyxnniniiiniiniiniii1012121111bbb1b0b0b1b估计方程的求法估计方程的求法(例题分析例题分析)w【例】【例】求不良贷款对贷款余额的回归方程8295. 0268.120037895. 0728. 3037895. 07 .300637.516543252 .937 .300614.1708025021bb回归系数回归系数 =0.037895 表示,贷款余额每增加表示,贷款余额每增加1亿元,不良贷款平均增加亿元,不良贷款平均增加0.037895亿元亿元 1b估计方程的求法(例题分析)w不良贷款对贷款余额回归方程的图示不良贷款对贷款余额的回归直线不良贷款对贷款
18、余额的回归直线-2024681012140100200300400贷款余额不良贷款用用Excel进行回归分析进行回归分析w第第1步:步:选择“工具工具”下拉菜单w第第2步:步:选择“数据分析数据分析”选项w第第3步:步:在分析工具中选择“回归回归”,然后选择“确定确定”w第第4步:步:当对话框出现时 w 在“Y值输入区域值输入区域”设置框内键入Y的数据区域w 在“X值输入区域值输入区域”设置框内键入X的数据区域w 在“置信度置信度”选项中给出所需的数值w 在“输出选项输出选项”中选择输出区域w 在“残差残差”分析选项中选择所需的选项(1)变差因变量 y 的取值是不同的,y 取值的这种波动称为变
19、差。变差来源于两个方面n由于自变量 x 的取值不同造成的n除 x 以外的其他因素(如x对y的非线性影响、测量误差等)的影响对一个具体的观测值具体的观测值来说,变差的大小可以通过该实际观测值与其均值之差实际观测值与其均值之差 来表示。yy(2)变差的分解变差的分解(图示图示)xy10bb+yyyyyy),(iiyxy+niiniiniiyyyyyy1212121.总平方和总平方和(SST)n反映因变量的 n 个观察值与其均值的总离差2.回归平方和回归平方和(SSR) (SSR:sum of squares for regression)n反映自变量 x 的变化对因变量 y 取值变化的影响,或者说
20、,是由于 x 与 y 之间的线性关系引起的 y 的取值变化,也称为可解释的平方和3.残差平方和残差平方和(SSE)n反映除 x 以外的其他因素对 y 取值的影响,也称为不可解释的平方和或剩余平方和(5)判定系数判定系数r2 (coefficient of determination)回归平方和占总离差平方和的比例n1i2in1i2in1i2in1i2i2yy y y1yyyy SSTSSRR反映回归直线的拟合程度反映回归直线的拟合程度取值范围在取值范围在 0 , 1 之间之间 R2 1,说明回归方程拟合的越好;,说明回归方程拟合的越好;R20,说明回归方程拟合的越差说明回归方程拟合的越差判定判
21、定系数等于相关系数的平方,即系数等于相关系数的平方,即R2r2 联系:数值上判定(可决)系数是相关系数的平方 区别: 判定系数 相关系数 就模型而言就模型而言 就两个变量而言就两个变量而言 说明解释变量对因变说明解释变量对因变 说明两变量线性依存程度说明两变量线性依存程度 量的解释程度量的解释程度 取值 有非负性 取值 -1r1 可正可负201rw【例】【例】计算不良贷款对贷款余额回归的判定系数,并解释其意义 w 判定系数的实际意义是判定系数的实际意义是:在不良贷款取值的变差中,有71.16%可以由不良贷款与贷款余额之间的线性关系来可以由不良贷款与贷款余额之间的线性关系来解释解释,或者说,在不
22、良贷款取值的变动中,有71.16%是由贷款余额所决定的。也就是说,不良贷款取值的差异有2/3以上是由贷款余额决定的。可见不良贷款与贷款余额之间有较强的线性关系 %16.717116. 06504.3124860.2222SSTSSRR(standard error of estimate)实际观察值与回归估计值离差平方和的均方根实际观察值与回归估计值离差平方和的均方根对对误差项误差项 的标准差的标准差 的估计,是在排除了的估计,是在排除了x对对y的线的线性影响后,性影响后,y随机波动大小的一个估计量随机波动大小的一个估计量反反映用估计的回归方程预测映用估计的回归方程预测y时预测误差的大小时预测
23、误差的大小 计算公式为计算公式为MSEnSSEnyysniiiy2212将回归均方(MSR)同残差均方(MSE)加以比较,应用F检验来分析二者之间的差别是否显著回归均方:回归平方和SSR除以相应的自由度(自变量的个数p) 残差均方(MSE) :残差平方和SSE除以相应的自由度(n-p-1)(注:P为字变量个)线性关系的检验的步骤线性关系的检验的步骤 提出假设nH0:b1=0 线性关系不显著)2,1 (21nFMSEMSRnSSESSRF(以前面资料以前面资料)提出假设nH0: b1=0 不良贷款与贷款余额之间的线性关系不显著计算检验统计量F753844.56225164421.90148598
24、.22221nSSESSRFExcel 输出的方差分析表输出的方差分析表 在一元线性回归中,等价于线性关系的在一元线性回归中,等价于线性关系的显著性检验显著性检验 检验检验 x 与与 y 之间是否具有线性关系,或之间是否具有线性关系,或者说,检验自变量者说,检验自变量 x 对因变量对因变量 y 的影响的影响是否显著是否显著 理论基础是回归系数理论基础是回归系数 的抽样分布的抽样分布1b样本统计量样本统计量 的分布的分布 是根据最小二乘法求出的样本统计量,它有自是根据最小二乘法求出的样本统计量,它有自己的分布己的分布 的的分布具有如下性质分布具有如下性质分布形式:正态分布分布形式:正态分布数学期
25、望:数学期望:标准差:标准差:由于由于 未知,需用其估计量未知,需用其估计量s sy y来代替得到来代替得到 的估计的的估计的标准差标准差1b1b1b11)(bbE21xxib1b21xxssieb11)(bbE21xxssieb回归系数的检验检验步骤回归系数的检验检验步骤 提出假设nH0: b1 = 0 (没有线性关系) nH1: b1 0 (有线性关系) 计算检验的统计量) 2(11ntstbbw对例题的回归系数进行显著性检验(0.05)提出假设nH0:b1 = 0 nH1:b1 0 计算检验的统计量533515. 7005030. 0037895. 0twP 值的应用值的应用在一元线性回
26、归分析中,回归系数显著在一元线性回归分析中,回归系数显著性的性的t检验、回归方程显著性的检验、回归方程显著性的F检验,检验,相关系数显著性相关系数显著性 t检验,三者等价的,检验,三者等价的,检验结果是完全一致的。检验结果是完全一致的。对一元线性回归,只做其中对一元线性回归,只做其中 的一种检验即可。的一种检验即可。l建立的模型是否合适?或者说,这个拟合的模型有多建立的模型是否合适?或者说,这个拟合的模型有多“好好”?要回答这些问题,可以从以下几个方面入手?要回答这些问题,可以从以下几个方面入手所估计的回归系数所估计的回归系数 的符号是否与理论或事先预期相的符号是否与理论或事先预期相一致一致n
27、在不良贷款与贷款余额的回归中,可以预期贷款余额越多在不良贷款与贷款余额的回归中,可以预期贷款余额越多不良贷款也可能会越多,也就是说,回归系数的值应该是不良贷款也可能会越多,也就是说,回归系数的值应该是正的,在上面建立的回归方程中,我们得到的回归系数正的,在上面建立的回归方程中,我们得到的回归系数 为正值为正值如果理论上认为如果理论上认为x与与y之间的关系不仅是正的,而且是之间的关系不仅是正的,而且是统计上显著的,那么所建立的回归方程也应该如此统计上显著的,那么所建立的回归方程也应该如此n在不良贷款与贷款余额的回归中,二者之间为正的线性关在不良贷款与贷款余额的回归中,二者之间为正的线性关系,而且
28、,对回归系数的系,而且,对回归系数的t检验结果表明二者之间的线性关检验结果表明二者之间的线性关系是统计上显著的系是统计上显著的1b037895. 01b回归模型在多大程度上解释了因变量回归模型在多大程度上解释了因变量y取值的取值的差异?可以用判定系数差异?可以用判定系数R2来回答这一问题来回答这一问题n在不良贷款与贷款余额的回归中,得到的在不良贷款与贷款余额的回归中,得到的R2=71.16%,解释了不良贷款变差的解释了不良贷款变差的2/3以以上,说明拟合的效果还算不错上,说明拟合的效果还算不错考察关于误差项考察关于误差项 的正态性假定是否成立。因的正态性假定是否成立。因为我们在对线性关系进行为
29、我们在对线性关系进行 检验和回归系数进检验和回归系数进行行时,都要求误差项时,都要求误差项 服从正态分布,服从正态分布,否则,我们所用的检验程序将是无效的。否则,我们所用的检验程序将是无效的。 正正态性的简单方法是画出残差的直方图或正态态性的简单方法是画出残差的直方图或正态概率图概率图11.2.5 Excel输出的部分回归结果输出的部分回归结果R2)11.3 残差分析残差分析1 用残差证实模型的假定用残差证实模型的假定2 用残差检测异常值和有影响的观测用残差检测异常值和有影响的观测值值残差图残差图(residual plot)表示残差的图形表示残差的图形n关于关于x的残差图的残差图n关于关于y
30、的残差图的残差图n标准化残差图标准化残差图用于判断误差用于判断误差 的假定是否成立的假定是否成立 检测有影响的观测值检测有影响的观测值残差图残差图(形态及判别形态及判别)残差图残差图(例题分析例题分析)不良贷款对贷款余额回归的残差图不良贷款对贷款余额回归的残差图-4-2024680100200300400贷款余额(x)残差标准化残差标准化残差(standardized residual)w 残差除以它的标准差后得到的数值。计算公式为n sei是第i个残差的标准差,其计算公式为 iiieiieiesyysez+22)()(111xxxxnshssiiyiyei标准化残差图标准化残差图w 用以直观地判断误差项服从正态分布用以直观地判断误差项服从正态分布这一假定是否成立这一假定是否成立 n若假定成立,标准化残差的分布也应服从若假定成立,标准化残差的分布也应服从正态分布正态分布n在标准化残差图中,大约有在标准化残差图中,大约有95%的标准的标准化
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 十五五智能斑马帘赋能学校:解决教室眩光痛点健康照明
- 小学生主题班会二十四节气之小雪节气文化习俗 课件
- 十五五智能全身按摩垫融资轮次与头部玩家对比
- 十五五智能智力魔珠技术交叉:量子计算加速复杂模型训练进程
- (新)问题学生诊疗手册2篇
- 湖北荆州中学2026-2027学年高一上学期期中考试化学试卷
- 2026年信息技术行业报告:云计算与大数据应用
- 2026年旅游酒店行业报告:行业现状与未来展望
- 2026年烟草行业商业模式画布分析报告:盈利与壁垒探讨
- 2026年包装行业ODM升级与环保材料应用报告
- 2026 年新入团考试知识大全(含答案)
- 殡葬服务质量考核细则
- 泌尿外科急诊经皮肾穿刺造瘘手术教学查房
- 2026年中国酒吧行业市场现状、未来前景预测及行业发展趋势
- 2026年医疗器械监督管理条例培训试卷附答案
- 心脏瓣膜病护理查房
- 人教版五年级上册道法《开启新征程》教学设计
- 多资产配置全景研究系列控波御险:多资产组合风险管理方法论
- 《脓毒症和脓毒性休克管理国际指南2026》解读课件
- 新版西师版五年级上册数学全册教案(完整版)教学设计含教学反思
- 2025年四川省成都市新都区中考数学一诊试卷
评论
0/150
提交评论