《应用统计》教学课件 第8章相关与回归分析

第八章相关与回归分析,哈尔滨工业大学管理学院,1,8.1回归分析的基本问题,一、变量关系的类型,函数关系,相关关系,变量之间存在的非严格的依存关系，又叫统计关系。,变量之间依一定的函数形式所形成的一一对应的关系。,?关系,相关分析(correlation),研究变量之间关系的密切程度。,哈尔滨工业大学管理学院,2,二、回归分析与相关分析,回归分析(regression),研究变量之间关系的形式、类型，以确定变量之间关系的数学模型为最终目的；,因变量（dependent）：被解释变量。记为Y自变量（independent）：解释变量。记为X,哈尔滨工业大学管理学院,3,三、相关（回归）关系的分类,1.按相关（回归）的形式分为,线性相关,非线性相关,2.按涉及变量的数量分为,哈尔滨工业大学管理学院,4,3.按变量之间相关程度分为,完全相关,不相关,不完全相关,特例：单相关按方向可以分为正相关：当X增加(减少)，Y则随之增加(减少)。负相关：当X增加(减少)，Y随之减少(增加)。,哈尔滨工业大学管理学院,5,8.2一元线性回归分析,由一个自变量(X）与一个因变量(Y）所形成的线性相关模型，称为回归模型。记为：,一、回归模型,其中：,1、一元回归模型及回归方程,i=1,2,3，,哈尔滨工业大学管理学院,6,当由n个不全相等的x1，x2，xn，作独立试验，得样本数据(x1，y1),(x2，y2)，(xn，yn)即可得到0，1的估计值b0,b1,上式称为Y关于X的一元线性回归方程。,2、模型的基本特征,i=1,2,3，,哈尔滨工业大学管理学院,7,Yi是随机变量;,期望值在直线上;,方差等于随机误差的方差;,离差等于随机误差;,哈尔滨工业大学管理学院,8,【例8.1】某市货运总量与工业总产值10年的数据如表所示，两个变量有怎样的关系?,哈尔滨工业大学管理学院,9,【例8.1】某市货运总量与工业总产值10年的数据如表所示，两个变量有怎样的关系?,设:,哈尔滨工业大学管理学院,10,二未知参数的估计,已知Y关于X的一元线性回归模型,1、方程参数的点估计方法-最小二乘法,令:,哈尔滨工业大学管理学院,11,经整理得：,使用【例8.1】数据计算，可得,写出回归方程：,哈尔滨工业大学管理学院,12,为了计算方便，令：,哈尔滨工业大学管理学院,13,2、方程参数的区间估计方法,(1)1的区间估计,b1的抽样分布,哈尔滨工业大学管理学院,14,1的置信区间,但由于未知，可用样本数据计算标准差Se进行估计,。,由b1的抽样分布可得：,其中n：样本数据个数；p：自变量个数。,哈尔滨工业大学管理学院,15,则1的置信度为（1-）的置信区间：,由第四章知识可知，,哈尔滨工业大学管理学院,16,根据【例8.1】数据计算，(1-=0.95),可得,即当工业总产值增加10亿元时，货运总量平均增加487.9万吨至810.6万吨，概率保证为95%。,哈尔滨工业大学管理学院,17,使用Excel中的数据分析功能，可以得到如下结果：,哈尔滨工业大学管理学院,18,(2)0的区间估计,b0的抽样分布,哈尔滨工业大学管理学院,19,0的置信区间,由t分布可得置信区间,哈尔滨工业大学管理学院,20,1、点估计,三、因变量的估计,由Y关于X的线性回归方程式,根据给定的X值可以得到因变量Y的点估计值。,根据【例8.1】数据计算，当工业总产值为500亿元时，即X50，代入回归方程，,得：,哈尔滨工业大学管理学院,21,2、区间估计,抽样分布,E(Y0)的区间估计,哈尔滨工业大学管理学院,22,根据第四章的相关定理有：,由于未知，所以由分布给出置信区间：,哈尔滨工业大学管理学院,23,的1-置信区间,根据【例8.1】数据计算，当工业总产值为500亿元时，求平均估计值的置信区间。,哈尔滨工业大学管理学院,24,Y0的区间估计,偏差是个随机变量:,哈尔滨工业大学管理学院,25,则Y0的1-置信区间：,可得：,由：,哈尔滨工业大学管理学院,26,得：4.3914-0.2714Y04.3914+0.2714,意义：当工业总产值为500亿元时，货运总量在3.9773亿吨至4.8055亿吨之间。概率保证为95%,3.9773Y04.8055,根据【例8.1】数据计算，当工业总产值为500亿元时，求实际估计值的置信区间。,将前面的数据带入置信区间公式中，,哈尔滨工业大学管理学院,27,预测区间精度的影响因素,哈尔滨工业大学管理学院,28,8.3一元线性回归的相关性检验,变差关系示意图,哈尔滨工业大学管理学院,29,将等式两侧平方后取和，可以得到：,其中：,即可得到：,即,哈尔滨工业大学管理学院,30,一、检验相关系数,1决定系数的计算,作用：,说明回归方程拟合的优良程度;,比较不同回归方程之间的拟合差别。,哈尔滨工业大学管理学院,31,相关系数-度量两个变量之间的线性关系,另外，利用皮尔逊积差法也可得：,哈尔滨工业大学管理学院,32,2相关系数的特点,1完全相关0.81高度相关r=0.50.8显著相关0.30.5低度相关00.3微相关0无线性关系,3.相关系数的相关性检验,哈尔滨工业大学管理学院,33,假设H0:=0;H1:0,统计量：,t落入接受域，0，X和Y非线性相关。,t落入拒绝域，0,X与Y显著线性相关。,哈尔滨工业大学管理学院,34,二、t检验法(线性假设的显著性检验),假设：,统计量：,哈尔滨工业大学管理学院,35,三、方差分析法(F检验法),假设：,由F分布定义可知，假设成立时，统计量,哈尔滨工业大学管理学院,36,检验准则：,F落入拒绝域，0，X与Y线性关系显著。,F落入接受域，=0，X与Y不存在线性关系；,检验统计量：,哈尔滨工业大学管理学院,37,方差分析表,哈尔滨工业大学管理学院,38,例8.2假定保险公司希望确定居民住宅区火灾造成的损失数额与该住户到最近的消防站的距离之间的相关关系，以便准确地定出保险金额。下表列出了16起火灾事故的损失及火灾发生的地点与最近的消防站距离的数据。,哈尔滨工业大学管理学院,39,1损失与距离是否存在关系？什么关系？,4你的结论是什么？,5你还能改进吗？,3距离与损失有怎样的定量关系？,2你建立的回归方程是什么？通过检验了吗?,哈尔滨工业大学管理学院,40,8.4多元线性回归分析,一、多元回归模型（Multipleregressionmodel）,其中:p因变量个数.,xi称为回归因子,j称为偏归系数。j=1,2,p,1.多元回归模型,哈尔滨工业大学管理学院,41,2.多元回归方程(Estimatedmultipleregressionequation),3.模型的假设,i=1,2,n,哈尔滨工业大学管理学院,42,二、参数估计,1回归系数的估计,可得方程组,解方程组得:,令：,哈尔滨工业大学管理学院,43,2.2的估计,三、相关性检验,1.回归方程的显著性检验(全检验),哈尔滨工业大学管理学院,44,检验统计量:,检验准则：,线性方程是显著的;,判定方程无显著意义。,哈尔滨工业大学管理学院,45,2.回归系数的显著性检验(偏检验),检验统计量:,检验准则:,Xj与Y关系不显著。,Xj与Y关系显著。,哈尔滨工业大学管理学院,46,3.拟合优度检验,多元决定系数（样本决定系数）R2(Multiplecoefficientofdetermination),缺点：对于自变量数量不同的回归方程不能进行拟合程度的比较-数量多的拟合程度大！,哈尔滨工业大学管理学院,47,修正的多元判定系数(Adjustedmultiplecoefficientofdetermination),优点：可以对不同自变量的回归方程进行拟合程度的比较，其中消除了自编两个数