第7章 相关与回归分析

第7章相关与回归分析弗朗西斯﹒高尔顿先生被誉为现代相关和回归的创始人1875年，他利用豌豆试验来确定尺寸的遗传规律。他挑选7组不同尺寸的豌豆，说服他的朋友每一组种植10粒种子，最后把原始的豌豆种子与新长的豌豆种子进行尺寸比较当结果被绘制出来之后，他发现并非每一个子代都与父代一样，相同的是，尺寸小的豌豆会得到更大的子代，而尺寸大的豌豆却得到较小的子代高尔顿将此方法用到人类身上，他将父母和孩子的身高转换成z值，对比父母的身高与他们孩子的身高。他并发现孩子们的z值偏离均值的程度小于父母的偏离程度，即非常矮小的父母倾向于有偏高的孩子；而非常高大的父母则倾向于有偏矮的孩子。它把这叫做对均值的“回归”，这一发现构成了回归分析的基础。

客观现象总是普遍联系和相互依存的，这种相互依存关系可以通过一定的数量关系反映出来。相关与回归分析是定量分析现象之间相互依存关系的统计方法之一——研究现象间的相互关系，测定它们联系的紧密程度，揭示其变化的具体形式和规律性。第7章相关与回归分析STAT

联系与相互影响是普遍的现象受教育的水平工作后的收入预防疾病支出疾病的发病率

事物相互间关系的质的解释：自然的、社会的、经济的、心理的…

事物相互间关系的量的分析：两变量或多变量间的数量关系。在可以解释的质的关系基础上进行相关分析和回归分析第一节相关分析第二节一元线性回归分析第7章相关与回归分析第7章相关与回归分析STAT本章重点1.相关关系与回归方程概述；2.相关关系的测定；3.回归方程的拟合；4.回归方程的应用。本章难点1.差法相关系数的计算；2.总离差平方和及其分解。第7章相关与回归分析STAT

第一节相关分析出租汽车费用与行驶里程：总费用=行驶里程

每公里单价家庭收入与恩格尔系数：家庭收入高，则恩格尔系数低。确定性关系函数关系非确定性关系相关关系一、变量间的相互关系

互有联系的客观现象及其变量间关系的紧密程度各不一样。归纳起来，客观现象之间的数量联系存在着两种不同的类型：函数关系和相关关系。第7章相关与回归分析STAT

函数关系——完全确定性的关系相关关系——不完全确定的关系（一）函数关系定义：变量之间存在着完全确定的依存关系，即当一个或一组变量每取一个值时，相应的另一个变量必然有一个确定值与之对应。（1）某一（组）变量与另一变量间存在着一一对应的关系；

[例]计件工资（y）与产量（x）

y=f(x)=10x；

x0=1件，y0=10元；

x1=2件，y1=20元圆的面积，R=10，S=100Π（2）y被解释变量（因变量）；x解释变量（自变量）。第7章相关与回归分析STAT然而，现实世界中还有不少情况是现象之间有着密切的联系，但密切的程度并没有达到由一个（几个）变量可以完全确定另一个变量的程度，它们之间是一种非确定性的关系。变量之间的不确定的依存关系称为相关关系（统计关系）。这种统计关系规律性的研究是数理统计学中研究的主要对象，已形成数理统计学中两个重要的分支——相关分析（Correlationanalysis)和回归分析（Regressionanalysis)。第7章相关与回归分析STAT（二）相关关系1.定义：变量之间存在有依存关系，但这种关系是不完全确定的随机关系，即当一个或一组变量每取一个值时，相应的另一个变量可能有多个不同值与之对应。（1）某一（组）变量与另一变量间有关系，但并非一一对应；

[例]身高y与体重x；A：x=60kg、y=1.70m；B：x=60kg、y=1.72m；C：x=60kg、y=1.68m；D：x=60kg、y=1.65m。第7章相关与回归分析STAT第7章相关与回归分析STAT（2）表述：y=f(x)+

。

影响身高的因素：体重、遗传、锻炼、睡眠质量……2.成因（1）某些影响因素尚未被认识；（2）虽已认识但无法测量；（3）测量误差。[例]某种水果P元/斤：购买额y=Px购买量

x=2斤

y=2P+第7章相关与回归分析STAT（1）单一因果关系(如货物运输量与货车保有辆数之间；（2）互为因果关系(如铁路运输业的发展水平与经济发展水平之间)；（3）伴随关系(如工资与物价的变动)

3.数量关系的形式第7章相关与回归分析STAT(三)

相关关系与函数关系的联系与区别区别：（2）函数关系可以用数学表达式精确表示出来，而相关关系只能通过研究变量间的统计规律才能得到。（1）函数关系中的变量之间的关系是完全确定的，而相关关系中的变量之间的关系是不完全确定的。第7章相关与回归分析STAT

由于存在着测量误差等因素的影响，函数关系在实践中往往通过相关关系表现出来；在研究相关关系时，常常通过确定性的函数关系部分来研究变量之间的依赖关系。联系：三、相关关系的种类（一）按相关的程度分第7章相关与回归分析STAT完全相关不完全相关不相关（二）按相关的方向分正相关负相关第7章相关与回归分析STAT

当一种现象的数量变化完全由另一种现象的数量变化所确定时，称这两种现象的关系为完全相关，在这种场合，相关关系便成为函数关系——函数关系是相关关系的一个特例。

第7章相关与回归分析STAT

当两个现象彼此互不影响，其数量变化各自独立时，称为不相关现象。

两个现象之间的关系介于完全相关和不相关之间，称为不完全相关，一般的相关现象都是指这种不完全相关。不相关第7章相关与回归分析STAT

正相关：变量的变动方向一致（同增同减）；负相关：变量的变动方向相反（一增一减）；

线性正相关

线性负相关

非线性相关第7章相关与回归分析STAT（三）按相关的形式分相关程度密切相关程度不密切线性相关非线性相关

线性相关：两种相关现象之间的关系大致呈现为线性关系。

非线性相关：两种相关现象之间，并不表现为直线的关系，而是近似于某种曲线方程的关系。第7章相关与回归分析STAT第7章相关与回归分析STAT（四）按影响因素的多少分

1.单（简单）相关：是指两个变量的相关，即一个变量对另一个变量的简单依存关系。

[例]学习成绩与学习时间；血压与年龄；亩产量与施肥量。

2.复（多元）相关：一个变量对两个或两个以上其它变量的依存关系。

[例]经济增长与人口增长、科技水平、自然资源、管理水平等之间的关系；

体重与身高、食欲、睡眠时间之间的关系。

3.偏相关：在多个变量之间相关的情况下，测定其中两个变量之间的相关程度而假定其他变量不变。[例]在假定人们的收入水平不变时，某种商品的需求与其价格水平的关系。

就y=ax1+bx2+，研究y与x1之间的关系，假定x2不变。四、相关分析的主要内容

所谓相关分析，就是以现象之间不完全的相关关系为研究对象,借助于图表和分析指标（如相关系数）研究和测度现象所表现的两个或两个以上变量关系的一种统计分析方法。第7章相关与回归分析STAT

1.确定现象间是否存在依存关系，其依存关系属于何种类型——主要是定性分析和判断；2.确定相关关系的密切程度——定量分析——相关图、表，相关系数。3.确定相关关系的数学表达式——回归分析；4.确定因变量估计值的准确程度。5.对回归方程进行显著性检验。第7章相关与回归分析STAT三、线性相关关系的测定

[目的]采用定性和定量相结合的方法，测定变量间的相关方向与密切程度。一般即先作定性分析，再作定量分析。我们下面主要进行定量分析。

（一）相关图/表

相关表和相关图是研究相关关系的直观工具，在进行详细的定量分析之前，可以先利用它们对现象之间存在的相关关系的方向、形式、和密切程度作大致的判断。1.相关表：由两个相关变量相对应的关系数值所编制成的反映现象之间的相关关系的数列表。

简单相关表：将具有相关关系的变量各样本值按从小到大的顺序一一对应的列在一个表格里，就构成了一个简单相关表。主要适用于所观察的样本单位数较少、不需要分组的情况。

第7章相关与回归分析STAT居民消费和收入的相关表单位：百元（1）单变量分组相关表：自变量分组且计算次数，因变量只计算频数和平均数。第7章相关与回归分析STAT分组相关表：第7章相关与回归分析STAT（2）双变量分组相关表：又称棋盘式相关表，对自变量与因变量均进行分组。注：自变量X轴；因变量Y轴。

2.相关图：又称散点图，它是将两个变量相对应的变量值用坐标点的形式，在直角坐标上描绘出来，以反映二者之间相关关系的图形。

设一个变量为X，另一变量为Y，则散点图上所描绘的就是下列数据数值：（X1，Y1）、（X2，Y2）、（X3，Y3）、…（Xn，Yn）。

[不足]难以精确反映相关的密切程度。第7章相关与回归分析STAT相关图第7章相关与回归分析STAT

例一个10户居民的可支配收入(百元)与消费支出(百元)的统计资料按升序排列入下表（相关表）：

消费支出15203040425360657078可支配收入182545606275889299

98样本（线性）相关系数：消费与可支配收入的相关图XY为了研究父亲与成年儿子身高之间的关系，卡尔.皮尔逊测量了1078对父子的身高。把1078对数字表示在坐标上，如图。用水平轴X上的数代表父亲身高，垂直轴Y上的数代表儿子的身高，1078个点所形成的图形是一个散点图。它的形状象一块橄榄状的云，中间的点密集，边沿的点稀少，其主要部分是一个椭圆。散点图(例题分析)

【例1】一家大型商业银行在多个地区设有分行，其业务主要是进行基础设施建设、国家重点项目建设、固定资产投资等项目的贷款。近年来，该银行的贷款额平稳增长，但不良贷款额也有较大比例的增长，这给银行业务的发展带来较大压力。为弄清楚不良贷款形成的原因，希望利用银行业务的有关数据做些定量分析，以便找出控制不良贷款的办法。下面是该银行所属的25家分行2015年的有关业务数据。STAT散点图(例题分析)

散点图(例题分析)

近年来教育部决定将各高校的后勤社会化。某从事饮食业的企业家认为这是一个很好的投资机会，他得到10组高校人数与周边饭店季度销售额的数据资料，并想根据高校的数据决策其投资规模。例2：

第7章相关与回归分析STAT相关表用马克威系统做出散点图如下:例3：102030405060703035404550556065707580能源消耗量（十万吨）

能源消耗与工业总产值的相关图工业总产值（亿元）第7章相关与回归分析STAT利用散点图判断

(scatterdiagram)

不相关

负线性相关

正线性相关

非线性相关

完全负线性相关完全正线性相关

第7章相关与回归分析STAT（二）（线性）相关系数

相关图表可反映两个变量之间的相互关系及其相关方向，但无法确切地表明两个变量之间相关的程度。统计学家卡尔·皮尔逊设计了统计指标–––相关系数。简单相关系数：在线性条件下说明两个变量之间相关关系密切程度的统计分析指标，简称相关系数。根据总体全部数据计算的，称为总体相关系数，记为;根据样本数据计算的，则称为样本相关系数，记为r。将反映两变量间曲线相关关系的统计指标称为非线性相关系数、非线性判定系数；将反映多元线性相关关系的统计指标称为复相关系数、复判定系数等。第7章相关与回归分析STAT（二）（线性）相关系数1.积差法计算公式第7章相关与回归分析STAT（二）（线性）相关系数1.积差法计算公式第7章相关与回归分析STAT（二）（线性）相关系数假设：第7章相关与回归分析STAT（二）（线性）相关系数则可得：Ⅰ为正Ⅱ为负Ⅲ为正Ⅳ为负协方差为大的正值时，表示强的正线性相关关系。第7章相关与回归分析STAT[归纳]s²xy的作用第一、显示x与y之间的相关方向第二、显示x与y之间的相关密切程度第7章相关与回归分析STAT[r的简捷计算式]-1.0+1.00-0.5+0.5无线性相关负相关程度增加r正相关程度增加完全负相关完全正相关2.线性相关的判断准则相关系数的值介于–1与+1之间，即–1≤r≤+1。第7章相关与回归分析STAT通常的判断准则使用相关系数时应注意的问题：相关关系不等于因果关系；相关系数只度量变量间的线性关系，因此，弱相关不一定表明变量间没有关系；极端值可能影响相关系数。注意相关关系成立的数据范围警惕虚假相关第7章相关与回归分析STAT[例]为了解餐饮业消费数额与小费之间的数额关系，特从若干名消费者中随机抽取10消费者调查，所得数额如下：第7章相关与回归分析STAT第7章相关与回归分析STAT[例]计算过程第7章相关与回归分析STAT[解]答：即账单消费额与小费之间存在着高度的正相关关系。第7章相关与回归分析STAT问：若令账单消费额为Y，小费为X，则r的取值是否改变?第7章相关与回归分析STAT3.样本相关系数的特性（1）两变量均为随机变量；（2）两变量的地位是平等的rxy=ryx。（3）其接近于1的程度与样本容量n有关。

n小，r1。特例：当n=2时，r=1。[例]样本（x,y）为（6,12.6）,（1,3.0）,n=2。第7章相关与回归分析STAT4.关于相关的普通错误在解释关于相关的结果中会出现三种普通的错误：（1）相关就一定意味着因果关系。如：一项研究表明，统计学教授的薪金与每人的啤酒消费量之间有很强的正相关关系，但这两个变量都受经济形势的影响。（隐藏变量）（2）相关系数为0，一定不相关。（3）基于平均数进行相关分析与基于个体数据进行相关分析，其相关程度不一样。如：一项研究中，关于个人收入和教育的成对数据产生了一个0.4的线性相关系数，但当使用区域平均时，线性相关系数变为0.7。第7章相关与回归分析STAT四、相关系数显著性检验相关系数是根据样本数据计算出来的，两个不相关的变量，其样本相关系数也可能较高，两个相关性很高的变量，其样本相关系数也可能较低

要从样本相关系数判断总体是否也具有这样的关系，需要对相关系数进行假设检验。第7章相关与回归分析STAT四、相关系数显著性检验第7章相关与回归分析STAT四、相关系数显著性检验第7章相关与回归分析STAT四、相关系数显著性检验【例】检验生产量与生产费用之间的线性相关性是否显著。当成立时，则统计量第7章相关与回归分析STAT五、斯皮尔曼等级相关系数的计算※1.等级相关的含义就是把有关联的数量标志或品质标志的具体表现按等级次序排列，形成X和Y这两个序列，再测定这两个序列之间的相关程度，得到的相关系数即为等级相关系数。常用的有斯皮尔曼相关系数、肯特尔相关系数等。2.等级相关的优缺点优点：简单易行、应用广泛，适用于不便精确计量的标志(即定序尺度衡量的现象)缺点：精确度稍差于按积差法计算的相关系数第7章相关与回归分析STAT五、斯皮尔曼等级相关系数的计算※3.斯皮尔曼等级相关系数的计算计算步骤定等级依此计算每对观察值相应的等级差D计算D2代入公式例：以下是两组消费者对十种商品的评分资料，据此计算两组资料间的等级相关系数计算等级相关系数，首先应将原数据转化为等级，本例中甲组最低分是68分，则可将它的等级数定为1，70分的等级数就是2，72分的为3，依次类推，如果两个数值相等，则值以平均位置数代替。等级相关系数计算表第7章相关与回归分析STAT五、斯皮尔曼等级相关系数的计算※第7章相关与回归分析STAT第二节回归分析一、回归分析概述（一）概念1.线性相关分析：计算线性相关系数r确定两变量之间的相关方向与密切程度。【不足】无法表明两变量之间的因果关系无法从一个或几个变量（xi）的变化来推测另一个变量（y）的变化情况。

10名用餐顾客消费金额与所付小费数据如下：账单X 33.5 50.7 63.6 78.5 87.9 98.8 107.3 102.3 120.7 140.6 小费Y 5.5 5 12 9.4 8.1 17 16 15.4 18.6 22.5 r=0.92第7章相关与回归分析STAT2.回归分析：通过一个（些）变量的变化解释另一变量的变化,包括找出自变量与因变量、设定数学模型、检验模型、估计预测等环节。

y=a+bx、y=a+b1x1+bx2

、y=0+1x1+2x2+…+nxn[回归]英国生物学家F·Galton首次提出。父辈身高子辈身高

xy

y=f（x）+人类的平均身高。回归：退回regression

1877年弗朗西斯•高尔顿爵士遗传学研究回归线平均身高

回归这个术语是由英国著名统计学家FrancisGalton在19世纪末期研究孩子及他们的父母的身高时提出来的。Galton发现身材高的父母，他们的孩子也高。但这些孩子平均起来并不像他们的父母那样高。对于比较矮的父母情形也类似：他们的孩子比较矮，但这些孩子的平均身高要比他们的父母的平均身高高。Galton把这种孩子的身高向中间值靠近的趋势称之为一种回归效应，而他发展的研究两个数值变量的方法称为回归分析。第7章相关与回归分析STAT

自变量(independentvariable):解释变量，给定的或可以控制的、用来解释、预测因变量的变量。

因变量(dependentvariable):响应变量，由自变量来解释其变化的变量。XYXY••••••••3.回归分析的特点：(1)在两个变量之间，必须根据研究目的确定自变量与因变量。(2)回归方程的作用在于给出自变量值来估计因变量的可能值。(3)两个变量之间只有一个相关系数，但可能有两种回归方程。第7章相关与回归分析STAT(4)直线回归方程中的回归系数（即自变量的系数）有正负，分别表示自变量与因变量之间存在正相关、负相关（与相关系数相同）。(5)构建回归直线的前提条件：两个变量之间确实存在相关关系，而且其相关的紧密程度必须是显著的，这样构建的直线所出现的误差较小。第7章相关与回归分析STAT(二)回归分析分类按自变量个数分类一元回归简单回归多元回归复回归按方程式特征分类

线性回归非线性回归一元线性回归SimpleLinearregression（1）简单（一元）回归：自变量只有一个。[例]y=a+bx一元回归方程（2）复（多元）回归：自变量为2个或2个以上。[例]y=0+1x1+2x2+…+nxn（3）线性回归：因变量为自变量的线性函数。[例]y=a+bx

一元线性回归方程※（4）非线性回归：因变量为自变量的非线性函数。[例]见教材P192-194第7章相关与回归分析STAT回归分析与相关分析的区别:第7章相关与回归分析STAT

1.相关分析中，变量x变量y处于平等的地位；回归分析中，变量y称为因变量，处在被解释的地位，x称为自变量，用于预测因变量的变化;2.相关分析中所涉及的变量x和y都是随机变量；回归分析中，因变量y是随机变量，自变量x可以是随机变量，也可以是非随机的确定变量;3.相关分析主要是描述两个变量之间线性关系的密切程度；回归分析不仅可以揭示变量x对变量y的影响大小，还可以由回归方程进行预测和控制。

4.对两个变量x与y来说，相关分析中只能计算出一个相关系数；而回归分析中有时可以根据研究目的的不同建立两个不同的回归方程。联系：1)相关分析是回归分析的基础和前提2)回归分析是相关分析的深入和继续第7章相关与回归分析STAT第7章相关与回归分析STAT（三）回归分析的步骤1.确定自变量和因变量；

[例]粮食产量（y）施肥量（x）；消费支出（y）国民收入（x）；火灾损失额（y）火灾发生地与最近一个消防站之间的距离（x）。2.确定合适的样本回归方程描述变量间的关系；3.对回归方程进行统计检验；4.利用回归方程，根据自变量去预测或控制因变量。[例]消费与收入的回归方程：y=a+bx