第8章-SPSS的相关分析和线性回归分析

1、相关分析线性回归分析提纲相关分析偏相关分析回归分析曲线估计4321一、相关分析一. 变量相关的概念二. 相关系数及其计算变量间的关系函数关系1. 是一一对应的确定关系 设有两个变量 x 和 y ，变量 y 随变量 x 一起变化，并完全依赖于 x ，当变量 x 取某个数值时， y 依确定的关系取相应的值，则称 y 是 x 的函数，记为 y = f (x)，其中 x 称为自变量，y 称为因变量2. 各观测点落在一条线上 xy 函数关系的例子某种商品的销售额(y)与销售量(x)之间的关系可表示为 y = p x (p 为单价)圆的面积(S)与半径之间的关系可表示为 S = R2 企业的原材料消耗额(

2、y)与产量(x1) 、单位产量消耗(x2) 、原材料价格(x3)之间的关系可表示为y = x1 x2 x3 相关关系的例子商品的消费量(y)与居民收入(x)之间的关系商品销售额(y)与广告费支出(x)之间的关系粮食亩产量(y)与施肥量(x1) 、降雨量(x2) 、温度(x3)之间的关系收入水平(y)与受教育程度(x)之间的关系父亲身高(y)与子女身高(x)之间的关系变量间的关系相关关系 1.变量间关系不能用函数关系精确表达 2.一个变量的取值不能由另一个变量唯一确定 3.当变量 x 取某个值时，变量 y 的取值可能有几个4.各观测点分布在直线周围 xy相关关系和函数关系的联系函数关系在实际中往

3、往通过相关关系表现出来相关关系常常要使用函数关系的形式来表现，以便找到相关关系的一般数量表现形式相关关系的类型相关关系非线性相关线性相关正相关正相关负相关负相关完全相关不相关相关关系的图示不相关负线性相关正线性相关非线性相关完全负线性相关完全正线性相关相关关系的测度相关系数1.对变量之间关系密切程度的度量2.对两个变量之间线性相关程度的度量称为简单相关系数3.若相关系数是根据总体全部数据计算的，称为总体相关系数，记为4.若是根据样本数据计算的，则称为样本相关系数，记为 r 相关系数的计算 样本相关系数的计算公式或化简为相关系数取值及其意义1. r 的取值范围是 -1,12. |r|=1，为完全

4、相关r =1，为完全正相关r =-1，为完全负正相关3. r = 0，不存在线性相关关系4. -1r0，为负相关5. 0t，拒绝H0 若tt(13-2)=2.201，拒绝H0，人均消费金额与人均国民收入之间的相关关系显著相关分析SPSS操作案例为研究高等院校人文社会科学研究中立项课题数受哪些因素的影响，收集到某年31个省市自治区部分高校有关社科研究方面的数据，研究立项课题数（当年）与投入的具有高级职称的人年数（上年）、发表的论文数（上年）之间是否具有较强的线性关系。思路1、绘制散点图，直观展现变量之间的统计关系图形旧对话框散点矩阵分布选取相应变量到“矩阵变量”中2、计算相关系数，以数值的方式反

5、映变量间线性相关的强弱程度分析相关双变量选择参加相关系数的变量到“变量”中选择计算哪种相关系数练习1利用SPSS软件完成【例8.1】二、偏相关分析1、分析相关偏相关2、选择参与分析的变量3、选择一个或多个控制变量偏相关分析也称净相关分析，在控制其他变量的线性影响的条件下分析两变量间的线性相关，所采用的工具是偏相关系数（净相关系数）。三、回归分析线性回归模型回归参数的最小二乘估计回归方程的拟合优度检验回归方程的显著性检验回归系数的显著性检验知识点回顾什么是回归分析？1. 从一组样本数据出发，确定变量之间的数学关系式2. 对这些关系式的可信程度进行各种统计检验，并从影响某一特定变量的诸多变量中找出

6、哪些变量的影响显著，哪些不显著3. 利用所求的关系式，根据一个或几个变量的取值来预测或控制另一个特定变量的取值，并给出这种预测或控制的精确程度回归分析与相关分析的区别1. 相关分析中，变量 x 变量 y 处于平等的地位；回归分析中，变量 y 称为因变量，处在被解释的地位，x 称为自变量，用于预测因变量的变化2. 相关分析中所涉及的变量 x 和 y 都是随机变量；回归分析中，因变量 y 是随机变量，自变量 x 可以是随机变量，也可以是非随机的确定变量3. 相关分析主要是描述两个变量之间线性关系的密切程度；回归分析不仅可以揭示变量 x 对变量 y 的影响大小，还可以由回归方程进行预测和控制 回归模

7、型与回归方程回归模型1. 回答“变量之间是什么样的关系？”2. 方程中运用因变量(响应变量)被预测的变量自变量 (解释变量)用于预测的变量3.主要用于预测和估计回归模型的类型一个自变量两个及两个以上自变量回归模型多元回归一元回归线性回归非线性回归线性回归非线性回归一元线性回归模型1. 当只涉及一个自变量时称为一元回归，若因变量 y 与自变量 x 之间为线性关系时称为一元线性回归2. 对于具有线性关系的两个变量，可以用一个线性方程来表示它们之间的关系3. 描述因变量 y 如何依赖于自变量 x 和误差项 的方程称为回归模型一元线性回归模型 对于只涉及一个自变量的简单线性回归模型可表示为 y = b

8、0 + b1 x + e模型中，y 是 x 的线性函数加上误差项线性部分反映了由于 x 的变化而引起的 y 的变化误差项 是随机变量反映了除 x 和 y 之间的线性关系之外的随机因素对 y 的影响是不能由 x 和 y 之间的线性关系所解释的变异性0 和 1 称为模型的参数基本假定1. 误差项是一个期望值为0的随机变量，即E()=0。对于一个给定的 x 值，y 的期望值为 E ( y ) = 0+ 1 x2. 对于所有的 x 值，的方差2 都相同3. 误差项是一个服从正态分布的随机变量，且相互独立。即N( 0 ,2 )独立性意味着对于一个特定的 x 值，它所对应的与其他 x 值所对应的不相关对于

9、一个特定的 x 值，它所对应的 y 值与其他 x 所对应的 y 值也不相关回归方程1. 描述 y 的平均值或期望值如何依赖于 x 的方程称为回归方程2. 简单线性回归方程的形式如下 E( y ) = 0+ 1 x方程的图示是一条直线，因此也称为直线回归方程0是回归直线在 y 轴上的截距，是当 x=0 时 y 的期望值1是直线的斜率，称为回归系数，表示当 x 每变动一个单位时，y 的平均变动值估计(经验)的回归方程简单线性回归中估计的回归方程为其中： 是估计的回归直线在 y 轴上的截距， 是直线的斜率，它表示对于一个给定的 x 的值，是 y 的估计值，也表示 x 每变动一个单位时， y 的平均变

10、动值 用样本统计量 和 代替回归方程中的未知参数 和 ，就得到了估计的回归方程总体回归参数 和 是未知的，必需利用样本数据去估计参数 0 和 1 的最小二乘估计最小二乘法图例xy(xn , yn)(x1 , y1)(x2 , y2)(xi , yi)ei = yi-yi最小二乘法使因变量的观察值与估计值之间的离差平方和达到最小来求得 和 的方法。即用最小二乘法拟合的直线来代表x与y之间的关系与实际数据的误差比其他任何直线都小 和 的计算公式 根据最小二乘法的要求，可得求解 和 的标准方程如下估计方程的求法实例 【例】根据例8.1中的数据，配合人均消费金额对人均国民收入的回归方程 根据 和 的求

11、解公式得 人均消费金额对人均国民收入的回归方程为y = 54.22286 + 0.52638 x回归方程的显著性检验1、拟合优度的检验2、线性关系的检验3、回归系数的检验离差平方和的分解1. 因变量 y 的取值是不同的，y 取值的这种波动称为变差。变差来源于两个方面由于自变量 x 的取值不同造成的除 x 以外的其他因素(如x对y的非线性影响、测量误差等)的影响2. 对一个具体的观测值来说，变差的大小可以通过该实际观测值与其均值之差 来表示图示xyy离差分解图三个平方和的关系2. 两端平方后求和有从图上看有SST = SSR + SSE总变差平方和（SST）回归平方和（SSR）残差平方和（SSE

12、）三个平方和的意义1. 总平方和(SST)反映因变量的 n 个观察值与其均值的总离差2. 回归平方和(SSR)反映自变量 x 的变化对因变量 y 取值变化的影响，或者说，是由于 x 与 y 之间的线性关系引起的 y 的取值变化，也称为可解释的平方和3. 残差平方和(SSE)反映除 x 以外的其他因素对 y 取值的影响，也称为不可解释的平方和或剩余平方和图示xyy离差分解图拟合优度检验判定系数 r2 1. 回归平方和占总离差平方和的比例2. 反映回归直线的拟合程度3. 取值范围在 0 , 1 之间4. r2 1，说明回归方程拟合的越好；r20，说明回归方程拟合的越差5. 判定系数等于相关系数的平

13、方，即r2(r)2拟合优度检验估计标准误差 Sy1. 实际观察值与回归估计值离差平方和的均方根2. 反映实际观察值在回归直线周围的分散状况3. 从另一个角度说明了回归直线的拟合程度4. 计算公式为注：上例的计算结果为14.949678线性关系的检验1. 检验自变量和因变量之间的线性关系是否显著2. 具体方法是将回归离差平方和(SSR)同剩余离差平方和(SSE)加以比较，应用F检验来分析二者之间的差别是否显著如果是显著的，两个变量之间存在线性关系如果不显著，两个变量之间不存在线性关系检验的步骤1. 提出假设H0：线性关系不显著2. 计算检验统计量F确定显著性水平，并根据分子自由度1和分母自由度n

14、-2找出临界值F 作出决策：若FF ,拒绝H0；若Ft，拒绝H0； tt=2.201，拒绝H0，表明人均收入与人均消费之间有线性关系对前例的回归系数进行显著性检验(0.05)1、一元线性回归分析案例现有1997-2013年某地区全社会固定资产投资总额NINV和国内生产总值GDP两个指标的年度数据。试研究NINV和GDP的数量关系，并建立全社会NINV和GDP的线性回归方程。思路和主要步骤绘制散点图计算相关系数线性回归分析1、分析回归线性2、选择被解释变量（因变量）3、选择解释变量（自变量）练习1完成上例，并对输出结果进行解释2、多元线性回归分析案例利用“高校科研研究”数据，分析立项课题数（X5）与投入人年数（X2）、投入高级职称的人年数（X3）、投入科研事业费（X4）、专著数（X6）、论文数（X7）、获奖数（X8）之间的线性关系主要步骤1、分析回归线性2、选择被解释变量（因变量）3、选择解释变量（自变量）4、选择回归分析中解释变量的筛选策略5、练习2完成上例，尽量解释输出结果四、曲线估计1、SPSS中的本质线性模型1、SPSS中的本质线性模型1、SPSS中的本质线性模型2、案例：教育支出分析根据1988-2012年全国人均消费性