相关与一元线性回归

1、2021/3/261 第八章 相关与一元回归分析相关与一元回归分析 8.1 8.1 变量间关系的度量变量间关系的度量 8.2 8.2 一元线性回归一元线性回归 8.3 8.3 利用回归方程进行估计和预测利用回归方程进行估计和预测 2021/3/262 学习内容学习内容 1.相关系数的分析方法相关系数的分析方法 2. 线性回归的基本原理和参数的最小二乘估计线性回归的基本原理和参数的最小二乘估计 3. 回归直线的拟合优度回归直线的拟合优度 4. 回归方程的显著性检验回归方程的显著性检验 5. 利用回归方程进行估计和预测利用回归方程进行估计和预测 2021/3/263 8.1 8.1 变量间关系的度

2、量变量间关系的度量 1变量间的关系变量间的关系 2相关关系的描述与测度相关关系的描述与测度 2021/3/264 一一. . 变量间的关系函数关系变量间的关系函数关系 1.1. 是一一对应的确定关系是一一对应的确定关系 2.2. 设有两个变量设有两个变量x x和和y y, ,变量变量y y 随变量随变量x x一起变化一起变化, ,并完全依并完全依 赖于赖于x x, ,当变量当变量x x 取某个数值取某个数值 时时, ,y y依确定的关系取相应的依确定的关系取相应的 值值, ,则称则称y y是是 x x的函数的函数, ,记为记为y y = =f f( (x x) ), ,其中其中x x称为自变量

3、称为自变量, ,y y 称为因变量称为因变量 3.3. 各观测点落在一条线上各观测点落在一条线上 2021/3/265 函数关系函数关系( (几个例子几个例子) ) 函数关系的例子函数关系的例子 某种商品的销售额某种商品的销售额( (y y) )与销售量与销售量( (x x) )之间的关系之间的关系 可表示为可表示为 y y = = px px ( (p p 为单价为单价) ) 圆的面积圆的面积(S)(S)与半径之间的关系可表示为与半径之间的关系可表示为S S= = R R2 2 企业的原材料消耗额企业的原材料消耗额( (y y) )与产量与产量( (x x1 1) )、单位产、单位产 量消耗

4、量消耗( (x x2 2) )、原材料价格、原材料价格( (x x3 3) )之间的关系可表之间的关系可表 示为示为y y = = x x1 1 x x2 2 x x3 3 2021/3/266 相关关系相关关系(correlation)(correlation) 1.1. 变量间关系不能用函数关变量间关系不能用函数关 系精确表达系精确表达 2.2. 一个变量的取值不能由另一个变量的取值不能由另 一个变量唯一确定一个变量唯一确定 3.3. 当变量当变量 x x 取某个值时取某个值时, ,变变 量量 y y 的取值可能有几个的取值可能有几个 4.4. 各观测点分布在直线周围各观测点分布在直线周围

5、 2021/3/267 相关关系相关关系( (几个例子几个例子) ) 相关关系的例子相关关系的例子 父亲身高父亲身高( (y y) )与子女身高与子女身高( (x x) )之间的关系之间的关系 收入水平收入水平( (y y) )与受教育程度与受教育程度( (x x) )之间的关系之间的关系 粮食亩产量粮食亩产量( (y y) )与施肥量与施肥量( (x x1 1) )、降雨量、降雨量( (x x2 2) )、温度、温度 ( (x x3 3) )之间的关系之间的关系 商品的消费量商品的消费量( (y y) )与居民收入与居民收入( (x x) )之间的关系之间的关系 商品销售额商品销售额( (y

6、 y) )与广告费支出与广告费支出( (x x) )之间的关系之间的关系 2021/3/268 相关关系相关关系( (类型类型) ) 正正 相相 关关 负负 相相 关关 线线 性性 相相 关关 非非 线线 性性 相相 关关 正正 相相 关关 负负 相相 关关 完完 全全 相相 关关 不不 相相 关关 相相 关关 关关 系系 2021/3/269 散点图散点图(scatter diagram)(scatter diagram) 2021/3/2610 散点图散点图( (例题分析例题分析) ) 【例例】一家大型商业银行在多个地区设有分行一家大型商业银行在多个地区设有分行, ,其其 业务主要是进行基

7、础设施建设、国家重点项目建设、业务主要是进行基础设施建设、国家重点项目建设、 固定资产投资等项目的贷款。近年来固定资产投资等项目的贷款。近年来, ,该银行的贷款额该银行的贷款额 平稳增长平稳增长, ,但不良贷款额也有较大比例的增加但不良贷款额也有较大比例的增加, ,这给银这给银 行业务的发展带来较大压力。为弄清楚不良贷款形成行业务的发展带来较大压力。为弄清楚不良贷款形成 的原因的原因, ,希望利用银行业务的有关数据做些定量分析希望利用银行业务的有关数据做些定量分析, , 以便找出控制不良贷款的办法。下面是该银行所属的以便找出控制不良贷款的办法。下面是该银行所属的 2525家分行家分行20022

8、002年的有关业务数据年的有关业务数据 2021/3/2611 散点图散点图( (例题分析例题分析) ) 2021/3/2612 散点图散点图( (例题分析例题分析) ) 不良贷款与贷款余额的散点图不良贷款与贷款余额的散点图 0 2 4 6 8 10 12 14 0100200300400 贷款余额 不良贷款 不良贷款与累计应收贷款不良贷款与累计应收贷款 的散点图的散点图 0 2 4 6 8 10 12 14 051015202530 累计应收贷款 不良贷款 不良贷款与贷款项目个数 不良贷款与贷款项目个数 的散点图的散点图 0 0 2 2 4 4 6 6 8 8 1010 1212 1414

9、0 020204040 贷款项目个数贷款项目个数 不良贷款不良贷款 不良贷款与固定资产投资额不良贷款与固定资产投资额 的散点图的散点图 0 2 4 6 8 10 12 14 050100150200 固定资产投资额 不良贷款 2021/3/2613 相关系数相关系数(correlation coefficient)(correlation coefficient) 1.1.对变量之间关系密切程度的度量对变量之间关系密切程度的度量 2.2.对两个变量之间线性相关程度的度量称为简单相关系数对两个变量之间线性相关程度的度量称为简单相关系数 3.3.若相关系数是根据总体全部数据计算的若相关系数是根据总

10、体全部数据计算的, ,称为总体相关系称为总体相关系 数数, ,记为记为 4.4.若是根据样本数据计算的若是根据样本数据计算的, ,则称为样本相关系数则称为样本相关系数, ,记为记为 r r 2021/3/2614 相关系数相关系数 ( (计算公式计算公式) ) 样本相关系数的计算公式样本相关系数的计算公式 2 2 2 2 yynxxn yxxyn r 2021/3/2615 相关系数相关系数协方差协方差 N yx yixi xy )( )(yyxx 为正为正 )(yyxx 为负为负 )(yyxx 为正为正 )(yyxx 为负为负 x y 协方差为正值时协方差为正值时,表示正线性相关关系。表示正

11、线性相关关系。 2021/3/2616 N yx yixi xy )( x y 协方差为负值时协方差为负值时,表示负线性相关关系。表示负线性相关关系。 相关系数相关系数协方差协方差 2021/3/2617 N yx yixi xy )( x y 协方差接近于零时协方差接近于零时,表示很小表示很小,没没 有线性相关关系。有线性相关关系。 相关系数相关系数协方差协方差 2021/3/2618 协方差协方差(covariance):两个变量与其均值离差乘积两个变量与其均值离差乘积 的平均数的平均数,是相互关系的一种度量。是相互关系的一种度量。 N yx yixi xy )( 1 )( n yyxx

12、S ii xy 总体协方差总体协方差: 样本协方差样本协方差: 相关系数相关系数协方差协方差 2021/3/2619 协方差为大的正值时协方差为大的正值时,表示表示 强的正线性相关关系。强的正线性相关关系。 协方差接近于零时协方差接近于零时,表示很小表示很小, 没有线性相关关系。没有线性相关关系。 协方差为大的负值时协方差为大的负值时,表示表示 强的负线性相关关系。强的负线性相关关系。 协方差协方差 N yx yixi xy )( 相关系数相关系数协方差协方差 2021/3/2620 N yx yixi xy )( N yx yixi xy )( cmkg m m kg 大大 于于 基本结论基

13、本结论:协方差受计量单位影响协方差受计量单位影响,从而不能真实反从而不能真实反 映相关的程度。映相关的程度。 相关系数相关系数协方差协方差 2021/3/2621 相关系数（相关系数（correlation coefficient）:协方差协方差 与两变量标准差乘积的比值与两变量标准差乘积的比值,是没有量纲的、标是没有量纲的、标 准化的协方差。准化的协方差。 yx xy yx xy SS S r 总体相关系数总体相关系数 样本相关系数样本相关系数 相关系数相关系数协方差协方差 2021/3/2622 相关系数相关系数 ( (计算公式计算公式) ) 样本相关系数的计算公式样本相关系数的计算公式

14、2 2 2 2 yynxxn yxxyn r 2021/3/2623 相关系数相关系数( (取值及其意义取值及其意义) ) 1. r r 的取值范围是的取值范围是 -1,1-1,1 2.2. | |r r|=1,|=1,为完全相关为完全相关 nr r =1=1, ,为完全正相关为完全正相关 nr r = -1= -1, ,为完全负相关为完全负相关 3.3. r r = 0= 0, ,不存在不存在线性线性相关关系相关相关关系相关 4.4. -1-1 r r00, ,为负相关为负相关 5.5. 0 0 r r 1 1, ,为正相关为正相关 6.6. | |r r| |越趋于越趋于1 1表示关系越密

15、切表示关系越密切;|;|r r| |越趋于越趋于0 0表示表示 关系越不密切关系越不密切 2021/3/2624 相关系数相关系数( (取值及其意义取值及其意义) ) 2021/3/2625 相关系数的性质相关系数的性质 w性质性质1:r具有对称性。即x与y之间的相关系数和y与x之间 w 的相关系数相等,即rxy= ryx w性质性质2:r数值大小与x和y原点及尺度无关,即改变x和y的 w 数据原点及计量尺度,并不改变r数值大小 w性质性质3:仅仅是x与y之间线性关系的一个度量,它不能用 w 于描述非线性关系。这意味着, r=0只表示两个变 w 量之间不存在线性相关关系,并不说明变量之间没 w

16、 有任何关系 w性质性质4:r虽然是两个变量之间线性关系的一个度量,却不 w 一定意味着x与y一定有因果关系 2021/3/2626 相关系数的经验解释相关系数的经验解释 1. |r|0.8时,可视为两个变量之间高度相关 2. 0.5|r|0.8时,可视为中度相关 3. 0.3|r|0.5时,视为低度相关 4. |r| F F , ,拒绝拒绝H H0; 0;若 若F F F F , ,拒绝拒绝H H0 0, ,线性关系显著线性关系显著 2021/3/2654 线性关系检验线性关系检验 ( (方差分析表方差分析表) ) 2021/3/2655 回归系数检验回归系数检验 3. 在一元线性回归中在一

17、元线性回归中,等价于线性关系的显等价于线性关系的显 著性检验著性检验 1.1. 检验检验 x x 与与 y y 之间是否具有线性关系之间是否具有线性关系, ,或或 者说者说, ,检验自变量检验自变量 x x 对因变量对因变量 y y 的影响的影响 是否显著是否显著 2.2. 理论基础是回归系数理论基础是回归系数 的抽样分布的抽样分布 1 2021/3/2656 回归系数检验回归系数检验( (检验步骤检验步骤) ) 1.1.提出假设提出假设 nH H0 0: : b b1 1 = 0 ( = 0 (没有线性关系没有线性关系) ) nH H1 1: : b b1 1 0 (0 (有线性关系有线性关

18、系) ) 2.2.计算检验的统计量计算检验的统计量 3.3. 确定显著性水平确定显著性水平 , ,并进行决策并进行决策 t t t t , ,拒绝 拒绝H H0 0; ; t t =7.533515t t =2.201, =2.201,拒绝拒绝H H0 0, ,表明表明不良贷款与贷款余额不良贷款与贷款余额 之间有线性关系之间有线性关系 533515. 7 005030. 0 037895. 0 t 2021/3/2658 回归系数检验回归系数检验 ( (例题分析例题分析) ) P P 值的应用值的应用 P P=0.000000=0.000000 =0.05,=0.05,拒绝原假设拒绝原假设,

19、,不良贷款与贷不良贷款与贷 款余额之间有线性关系款余额之间有线性关系 2021/3/2659 8.3 8.3 利用回归方程进行估计和预测利用回归方程进行估计和预测 1点估计点估计 2区间估计区间估计 2021/3/2660 利用回归方程进行估计和预测利用回归方程进行估计和预测 1.1.根据自变量根据自变量 x x 的取值估计或预测因变量的取值估计或预测因变量 y y的取值的取值 2.2.估计或预测的类型估计或预测的类型 n点估计点估计 ly y 的平均值的点估计的平均值的点估计 ly y 的个别值的点估计的个别值的点估计 n区间估计区间估计 ly y 的平均值的的平均值的置信区间置信区间估计估

20、计 ly y 的个别值的的个别值的预测区间预测区间估计估计 2021/3/2661 点估计点估计 点估计值有点估计值有 ny y 的的平均值平均值的点估计的点估计 ny y 的的个别值个别值的点估计的点估计 3.3. 在点估计条件下在点估计条件下, ,平均值的点估计和个别值的的点估计是平均值的点估计和个别值的的点估计是 一样的一样的, ,但在区间估计中则不同但在区间估计中则不同 0 y 2021/3/2662 y y 的平均值的点估计的平均值的点估计 利用估计的回归方程利用估计的回归方程, ,对于自变量对于自变量x x 的一个给的一个给 定值定值x x0 0, ,求出因变量求出因变量y y的平

21、均值的一个估计的平均值的一个估计 值值E E( (y y0 0) ), ,就是平均值的点估计就是平均值的点估计 n在前面的例子中在前面的例子中, ,假如我们要估计贷款假如我们要估计贷款 余额为余额为100100亿元时亿元时, ,所有分行不良贷款所有分行不良贷款 的平均值的平均值, ,就是平均值的点估计就是平均值的点估计 。根。根 据估计的回归方程得据估计的回归方程得 )(96. 2100037895. 08295. 0)( 0 亿元yE 2021/3/2663 y y 的个别值的点估计的个别值的点估计 0 y 利用估计的回归方程利用估计的回归方程, ,对于自变量对于自变量 x x 的一个给定值

22、的一个给定值 x x0 0, , 求出因变量求出因变量y y 的一个个别值的估计值的一个个别值的估计值 , ,就是个别值就是个别值 的点估计的点估计 n比如比如, ,如果我们只是想知道贷款余额为如果我们只是想知道贷款余额为72.872.8亿元的那亿元的那 个分行个分行( (这里是编号为这里是编号为1010的那个分行的那个分行) )的不良贷款是的不良贷款是 多少多少, ,则属于个别值的点估计。根据估计的回归方程则属于个别值的点估计。根据估计的回归方程 得得 )(93. 18 .72037895. 08295. 0 0 亿元y 2021/3/2664 区间估计区间估计 1.1.点估计不能给出估计的

23、精度点估计不能给出估计的精度, ,点估计值与实际值点估计值与实际值 之间是有误差的之间是有误差的, ,因此需要进行区间估计因此需要进行区间估计 2.2.对于自变量对于自变量 x x 的一个给定值的一个给定值 x x0 0, ,根据回归方程根据回归方程 得到因变量得到因变量 y y 的一个估计区间的一个估计区间 3.3.区间估计有两种类型区间估计有两种类型 n置信区间估计置信区间估计(confidence interval (confidence interval estimate)estimate) n预测区间估计预测区间估计(prediction interval (prediction i

24、nterval estimate)estimate) 2021/3/2665 置信区间估计置信区间估计 1.1.利用估计的回归方程利用估计的回归方程, ,对于自变量对于自变量 x x 的一个给定值的一个给定值 x x0 0 , , 求出因变量求出因变量 y y 的平均值的估计区间的平均值的估计区间 , ,这一估计区间称这一估计区间称 为为置信区间置信区间 2.2. E E( (y y0 0) ) 在在1-1- 置信水平下的置信区间为置信水平下的置信区间为 n i i y xx xx n snty 1 2 2 0 20 1 )2( 式中式中: :s sy y为估计标准误差为估计标准误差 2021

25、/3/2666 置信区间估计置信区间估计( (例题分析例题分析) ) 【例例】求出贷款余额为求出贷款余额为100100亿元时亿元时, ,不良贷款不良贷款95% 95% 的置信区间的置信区间. . 解解: :根据前面的计算结果根据前面的计算结果, ,已知已知n n=25=25, , s sy y= =1.97991.9799, ,t t (25-2)=2.0687 (25-2)=2.0687 置信区间为置信区间为: : 96. 20y 当贷款余额为当贷款余额为100100亿元时亿元时, ,不良贷款的平均值在不良贷款的平均值在 2.11412.1141亿元到亿元到3.80593.8059亿元之间亿

26、元之间 5744.154933 )268.120100( 25 1 9799. 10687. 296. 2 2 8059. 3)(1141. 2 0 yE 2021/3/2667 预测区间估计预测区间估计 1.1.利用估计的回归方程利用估计的回归方程, ,对于自变量对于自变量 x x 的一个给定值的一个给定值 x x0 0 , , 求出因变量求出因变量 y y 的一个个别值的估计区间的一个个别值的估计区间, ,这一区间称为这一区间称为 预测区间预测区间 2. y y0 0在在1-1- 置信水平下的预测区间为置信水平下的预测区间为 n i i y xx xx n Snty 1 2 2 0 20