心理统计学——10-回归分析

第十章回归分析,10.1一元线性回归10.2多元线性回归,10.1一元线性回归,10.1.1一元线性回归模型1.回归模型的一般形式2.一元回归模型的基本假定10.1.2回归参数的最小二乘估计10.1.3回归方程的显著性检验10.1.4预测与应用,当旨在分析变量之间关系的强度时,用相关分析.若目的是确定变量之间数量关系的可能形式,并用一个数学模型来表示这种关系形式,则叫回归分析(regressionanalysis),它可以从一个变量的变化来预测或估计另一个变量的变化.如由身高来预测体重;由人均国民收入预测人均消费金额;由商店前的车流量预测该商店年销售额.只有一个自变量的回归叫一元线性回归或简单线性回归,10.1.1一元线性回归模型1.一元线性回归模型的一般形式:y=0+1x+y与x的关系分为两部分:0+1x是由于的变化引起线性变化的部分;是全体一切随机因素造成的部分,y,Y为被解释变量(因变量Dependentvariable)x为解释变量(自变量Independentvariable)0,1是未知参数,叫回归系数(Coefficientofregression)是随机误差(不可观察),2.一元线性回归的基本假设（1）x与y在总体上具有线性关系；（2）变量x没有测量误差（看成精确变量）；（3）（xi,yi）和（xj,yj）彼此独立；（4）与某一个xi值对应的y值构成变量y上一个子总体，这样的子总体服从正态分布，且它们的方差相等；（5）是xi对应y的子总体的平均数的一个无偏估计。,y,10.1.2回归参数的最小二乘估计为了由样本数据得到回归参数0,1的理想值,使用普通最小二乘估计(OrdinaryLeastSquareEstimation,简记为OLSE)。对于每一个样本观测值（xi,yi）,最小二乘法考虑观测值（Observedvalue）yi,与其期望值E(yi)的差越小越好，特别要求考虑n个差的平方和,例10.1在研究我国人均消费水平的问题中，把人均国民收入记为y,把人均国民收入记为x。我们收集到1981-1993年13年的样本数据（xi,yi）,i=1,2,13。数据如下表：,10.1.3回归方程的显著性检验根据样本得出的回归方程是否真正反映了两个变量之间的线性关系;用它来预测或估计的有效程度如何,是应用回归方程时首要解决的问题。即要对其进行检验和评价。有两种检验方法：（1）F检验一元回归方程中假设检验的零假设是：H0:1=0,H1:10H0成立时，说明x对y无影响，即y与x之间的关系没有意义;H1成立时,10,回归方程才有意义。,平方和分解,总平方和SSt=回归平方和SSR+误差平方和SSe,(2)样本决定系数(R2)SSt=SSR+SSe在总平方和中，回归平方和所占比重越大，则线性回归效果越好，即回归直线与样本观测值拟合优度越好。而误差平方和越大，则拟合得越不理想。,上例中R2=0.99741,表明y的变异中有99.74由x变异（人均国民收入）引起的，说明y与x之间有高度的线性相关关系。,相关系数r与回归系数正负号相同。在一元回归分析中，回归方程的显著性检验与回归系数的显著性检验是一致的，因为零假设都是H0:1=0,10.1.4预测与控制（1）预测值及置信区间,估计值（均值）的置信区间：,观测值的置信区间：,预测的置信区间,观测值的置信区间要比估计值的置信区间长；预测点x0距样本均值越远，置信区间越长，预测的准确性降低。,预测的置信区间,例10.2下面是20名工作人员的智商和某一次技术考试成绩,根据这个结果求出考试成绩对之上的回归方程。如果另有一名工作人员智商为120，则估计一下若让他也参加技术考试，将会的多少分？,10.2多元线性回归,10.2.1多元线性回归模型1.多元回归一般形式2.多元线性回归模型的基本假定10.2.2回归参数的估计10.2.3回归方程的显著性检验1.拟合度检验2.F检验10.2.4回归系数的显著性检验10.2.5多元线性回归方程的预测10.2.6应用多元回归方程时存在的潜在问题10.2.7回归分析与相关分析的区别10.2.8回归分析实例,多元线性回归：一个因变量，两个以上自变量如：y-某公司的销售额，x1-广告宣传费；x2-个人可支配收入；x3-产品价格；x4-研究与发展费用；x5-各种投资；x6-销售费用。Y与多个自变量x1,x2,x3,x4,x5,x6有关，属于多元线性回归问题。,10.2.1多元线性回归模型1.多元回归一般形式设随机变量y与一般变量x1,x2,xp的线性回归模型为：y=0+1x1+2x2+pxp+0,1,2,pp+1个未知参数，也称回归系数；y-被解释变量（因变量）；x1，x2，xp解释变量（自变量），可以精确测量并可控制；随机误差，并假定,10.2.2回归参数的估计（最小二乘估计）,10.2.3回归方程的显著性检验1.拟合度检验：回归方程对样本观测值的拟合程度,10.2.4回归系数的显著性检验多元线性回归中，回归方程显著并不意味着每个自变量对y的影响是显著的。所以要对每个i进行显著性检验。,10.2.5多元线性回归方程的预测,10.2.6应用多元回归方程时存在的潜在问题1、共线性x1,x2,xp之间存在密切的线性关系，称它们之间存在着多重共线性（Multi-collinearity）。此时对回归系数的估计不稳定。2、因果关系回归分析能表现出变量彼此关联或有联系，但不能证明其因果关系。要确定x与y存在因果关系，必须有很强的逻辑性或理论性的基础。即使有很强的逻辑性和统计相关性，也只是表明可能存在因果关系。3、回归系数的大小只有在计量单位相同或数据标准化的情况下，与各自变量相联系的回归系数大小才能直接比较。4、样本容量R2受n对于自变量个数p的影响。一般观测数n至少等于自变量个数p的1015倍。,10.2.7回归分析与相关分析的区别1、在回归分析中，变量y称为因变量，处于被解释的地位。而在相关分析中，x与y处于平等地位；2、相关分析中，x,y全是随机变量，而在回归分析中，因变量y是随机变量，自变量x可以是随机变量，也可以是非随机的。通常回归模型中假定x是非随机的精确变量；3、相关分析的研究是为了刻画两变量间线性相关的密切程度。而回归分析不仅可以揭示x对y的影响大小，还可以由回归方程进行预测和控制。,10.2.8回归分析实例例10.3中国民航客运量的回归模型。为了研究我国民航客运量变化趋势及其成因，以民航客运量（万人）作为因变量y,以国民收入x1(亿元)、消费额x2(亿元)、铁路客运量x3(万人)、民航航线里程x4(万公里)、来华旅游入境人数x5（万人）为影响民航客运量的主要因素。,例10.4某个公司营销经理认为:决定目标消费者为接受广域服务(PCS服务的品牌)支付的价格有5个变量：覆盖面、移动性、音质、远距离接听和打出电话的能力、月均缴费。6个变量（1个因变量和5个自变量）的数据由调查获得。5个自变量以9级评分制测量。“9”表示某“特性”很重要；“1”表示该“特性”很不重要。,回归分析结果：R0.857，R20.7495，调整R20.743F（5，194）116.09，p0.001,估计标准差：1.4863p0.001表明回归方程有意义。