第11章一元线性回归

11 - 1统计 学STATISTICS(第四版 )作者： 贾 俊平，中国人民大学 统计 学院第第 11章章 一元线性回归一元线性回归统计学11 - 2统计 学STATISTICS(第四版 )作者： 贾 俊平，中国人民大学 统计 学院第第 11章章 一元线性回归一元线性回归11.1 变量间关系的度量变量间关系的度量 11.2 一元线性回归一元线性回归11.3 利用回归方程进行估计和预测利用回归方程进行估计和预测11.4 残差分析残差分析11 - 3统计 学STATISTICS(第四版 )作者： 贾 俊平，中国人民大学 统计 学院学习目标学习目标1. 相关关系的分析方法相关关系的分析方法2. 一元线性回归的基本原理和参数的最小一元线性回归的基本原理和参数的最小二乘估计二乘估计3. 回归直线的拟合优度回归直线的拟合优度4. 回归方程的显著性检验回归方程的显著性检验5. 利用回归方程进行估计和预测利用回归方程进行估计和预测6. 用用 Excel 进行回归进行回归11 - 4统计 学STATISTICS(第四版 )作者： 贾 俊平，中国人民大学 统计 学院11.1 变量间关系的度量变量间关系的度量11.1.1 变量间的关系变量间的关系11.1.2 相关关系的描述与测度相关关系的描述与测度11.1.3 相关系数的显著性检验相关系数的显著性检验11 - 5统计 学STATISTICS(第四版 )作者： 贾 俊平，中国人民大学 统计 学院变量间的关系变量间的关系11 - 6统计 学STATISTICS(第四版 )作者： 贾 俊平，中国人民大学 统计 学院函数关系函数关系1. 是一一是一一 对应的确定关系对应的确定关系2. 设设 有两个变量有两个变量 x 和和 y ，变量，变量 y 随变量随变量 x 一起变化，并完全依赖于一起变化，并完全依赖于 x ，当变量，当变量 x 取某个取某个数值时，数值时， y 依确定的关系依确定的关系取相应的值，则称取相应的值，则称 y 是是 x 的函数，记为的函数，记为 y = f (x)，其中，其中 x 称为自变量，称为自变量， y 称为因变称为因变量量3. 各各 观测点落在一条线上观测点落在一条线上 xy11 - 7统计 学STATISTICS(第四版 )作者： 贾 俊平，中国人民大学 统计 学院函数关系函数关系(几个例子几个例子 )n 某种商品的销售额某种商品的销售额 y与销售量与销售量 x之间的关之间的关系可表示为系可表示为 y = px (p 为单价为单价 )n 圆的面积圆的面积 S与半径与半径 R之间的关系可表示为之间的关系可表示为S= R2 n 企业的原材料消耗额企业的原材料消耗额 y与产量与产量 x1 、单位、单位产量消耗产量消耗 x2 、原材料价格、原材料价格 x3之间的关系之间的关系可表示为可表示为y = x1 x2 x3 11 - 8统计 学STATISTICS(第四版 )作者： 贾 俊平，中国人民大学 统计 学院相关关系相关关系(correlation)1. 变量间关系不能用函数关变量间关系不能用函数关系精确表达系精确表达2. 一个变量的取值不能由另一个变量的取值不能由另一个变量唯一确定一个变量唯一确定3. 当变量当变量 x 取某个值时取某个值时，变量，变量 y 的取值可能的取值可能有几个有几个4. 各观测各观测 点分布在直线周围点分布在直线周围 xy11 - 9统计 学STATISTICS(第四版 )作者： 贾 俊平，中国人民大学 统计 学院相关关系相关关系(几个例子几个例子 )n 父亲身高父亲身高 y与子女身高与子女身高 x之间的关系之间的关系n 收入水平收入水平 y与受教育程度与受教育程度 x之间的关系之间的关系n 粮食单位面积产量粮食单位面积产量 y与施肥量与施肥量 x1 、降雨量降雨量 x2 、温度、温度 x3之间的关系之间的关系n 商品的消费量商品的消费量 y与居民收入与居民收入 x之间的关之间的关系系n 商品销售额商品销售额 y与广告费支出与广告费支出 x之间的关之间的关系系11 - 10统计 学STATISTICS(第四版 )作者： 贾 俊平，中国人民大学 统计 学院相关关系相关关系(类型类型 )11 - 11统计 学STATISTICS(第四版 )作者： 贾 俊平，中国人民大学 统计 学院相关分析及其假定相关分析及其假定1. 相关分析要解决的问题相关分析要解决的问题n 变量之间是否存在关系？变量之间是否存在关系？n 如果存在关系，它们之间是什么样的关系？（散点图）如果存在关系，它们之间是什么样的关系？（散点图）n 变量之间的关系强度如何？（相关系数）变量之间的关系强度如何？（相关系数）n 样本所反映的变量之间的关系能否代表总体变量之间的样本所反映的变量之间的关系能否代表总体变量之间的关系？（显著性检验）关系？（显著性检验）2. 为解决这些问题，在进行相关分析时，对总体有以为解决这些问题，在进行相关分析时，对总体有以下两个主要假定下两个主要假定n 两个变量之间是线性关系两个变量之间是线性关系n 两个变量都是随机变量两个变量都是随机变量11 - 12统计 学STATISTICS(第四版 )作者： 贾 俊平，中国人民大学 统计 学院相关关系的描述与测度相关关系的描述与测度(散点图散点图 )11 - 13统计 学STATISTICS(第四版 )作者： 贾 俊平，中国人民大学 统计 学院散点图散点图(scatter diagram) 不相关不相关 负线性相关负线性相关正线性相关正线性相关 非线性相关非线性相关 完全负线性相关完全负线性相关完全正线性相关完全正线性相关 11 - 14统计 学STATISTICS(第四版 )作者： 贾 俊平，中国人民大学 统计 学院散点图散点图(例题分析例题分析 )【 例例 】 一家大型商业银行在多个地区设有分行，一家大型商业银行在多个地区设有分行，其业务主要是进行基础设施建设、国家重点项其业务主要是进行基础设施建设、国家重点项目建设、固定资产投资等项目的贷款。近年来目建设、固定资产投资等项目的贷款。近年来，该银行的贷款额平稳增长，但不良贷款额也，该银行的贷款额平稳增长，但不良贷款额也有较大比例的增长，这给银行业务的发展带来有较大比例的增长，这给银行业务的发展带来较大压力。为弄清楚不良贷款形成的原因，管较大压力。为弄清楚不良贷款形成的原因，管理者希望利用银行业务的有关数据做些定量分理者希望利用银行业务的有关数据做些定量分析，以便找出控制不良贷款的办法。下面是该析，以便找出控制不良贷款的办法。下面是该银行所属的银行所属的 25家分行家分行 2002年的有关业务数据年的有关业务数据 11 - 15统计 学STATISTICS(第四版 )作者： 贾 俊平，中国人民大学 统计 学院散点图散点图(例题分析例题分析 )11 - 16统计 学STATISTICS(第四版 )作者： 贾 俊平，中国人民大学 统计 学院散点图散点图(不良贷款对其他变量的散点图不良贷款对其他变量的散点图 )11 - 17统计 学STATISTICS(第四版 )作者： 贾 俊平，中国人民大学 统计 学院相关关系的描述与测度相关关系的描述与测度(相关系数相关系数 )11 - 18统计 学STATISTICS(第四版 )作者： 贾 俊平，中国人民大学 统计 学院相关系数相关系数(correlation coefficient)1. 度量变量之间关系强度的一个统计量度量变量之间关系强度的一个统计量2. 对两个变量之间线性相关强度的度量称为简单相对两个变量之间线性相关强度的度量称为简单相关系数关系数3. 若相关系数若相关系数 是根据总体全部数据计算的，称为总是根据总体全部数据计算的，称为总体相关系数，记为体相关系数，记为 4. 若若 是根据样本数据计算的，则称为样本相关系数是根据样本数据计算的，则称为样本相关系数，简称为相关系数，记为，简称为相关系数，记为 rn 也称为线性相关系数也称为线性相关系数 (linear correlation coefficient) n 或称为或称为 Pearson相关系数相关系数 (Pearsons correlation coefficient) 11 - 19统计 学STATISTICS(第四版 )作者： 贾 俊平，中国人民大学 统计 学院相关系数相关系数(计算公式计算公式 ) 样本相关系数的计算公式样本相关系数的计算公式或化简为或化简为11 - 20统计 学STATISTICS(第四版 )作者： 贾 俊平，中国人民大学 统计 学院相关系数的性质相关系数的性质性质性质 1： r 的取值范围的取值范围 是是 -1,1n |r|=1， 为完全相关为完全相关l r =1，为完全正相关，为完全正相关l r =-1，为完全负正相关，为完全负正相关n r = 0 ， 不存在不存在 线性线性 相关相关 关系关系n -1 rt ，拒绝，拒绝 H0 若若 t t (25-2)=2.069，拒绝，拒绝 H0，不良贷款与贷款余额，不良贷款与贷款余额之间存在着显著的正线性相关关系之间存在着显著的正线性相关关系 11 - 27统计 学STATISTICS(第四版 )作者： 贾 俊平，中国人民大学 统计 学院相关系数的显著性检验相关系数的显著性检验(例题分析例题分析 )各相关系数检验的统计量各相关系数检验的统计量11 - 28统计 学STATISTICS(第四版 )作者： 贾 俊平，中国人民大学 统计 学院11.2 一元线性回归一元线性回归11.2.1 一元线性回归模型一元线性回归模型11.2.2 参数的最小二乘估计参数的最小二乘估计11.2.3 回归直线的拟合优度回归直线的拟合优度11.2.4 显著性检验显著性检验11 - 29统计 学STATISTICS(第四版 )作者： 贾 俊平，中国人民大学 统计 学院回归分析，分析什么？回归分析，分析什么？(Regression)1. 从一组样本数据出发，确定变量之间的数学从一组样本数据出发，确定变量之间的数学关系式关系式2. 对这些关系式的可信程度进行各种统计检验对这些关系式的可信程度进行各种统计检验，并从影响某一特定变量的诸多变量中找出，并从影响某一特定变量的诸多变量中找出哪些变量的影响显著，哪些不显著哪些变量的影响显著，哪些不显著3. 利用所求的关系式，根据一个或几个变量的利用所求的关系式，根据一个或几个变量的取值来预测或控制另一个特定变量的取值，取值来预测或控制另一个特定变量的取值，并给出这种预测或控制的精确程度并给出这种预测或控制的精确程度11 - 30统计 学STATISTICS(第四版 )作者： 贾 俊平，中国人民大学 统计 学院回归分析与相关分析的区别回归分析与相关分析的区别1. 相关相关 分析中，变量分析中，变量 x 变量变量 y 处于平等的处于平等的地位；回归分析中，变量地位；回归分析中，变量 y 称为因变量，处称为因变量，处在被解释的地位，在被解释的地位， x 称为自变量，用于预测因称为自变量，用于预测因变量的变化变量的