31回归分析的基本思想及其初步应用

1、 回归分析的步骤 画散点图 求回归直线方程 用回归直线方程进行预报 函数关系是一种确定性关系 相关关系是一种非确定性关系 回归分析是对具有相关关系的两个变量进行统 计分析的一种常用方法. xbya n i i n i ii xx yyxx b 1 2 1 yxy n yx n x n i i n i i , 1 , 1 11 其中称为样本点的中心 对于一组具有线性相关关系的数据 (x1,y1),(x2,y2),(xn,yn) 回归方程的最小二乘估计公式 截距 斜率 的值取得最小值的是使, 1 n i ii xyQba 2 1 , n i ii xyxyxyQ 2 1 2 2 xyxy xyxy

2、xyxy n i iiii 2 11 2 2 xynxy xyxyxyxy n i ii n i ii n i ii xyxyxy 1 n i ii xyxyxy 1 n i i n i i xynxyxy 11 0 xynxnynxy 2 1 2 , xynxyxyQ n i ii 2 1 2 11 2 2 2 xynyyyyxxxx n i i n i ii n i i n i i n i i n i ii n i i n i ii n i i yy xx yyxx xx yyxx xxxyn 1 2 1 2 2 1 2 1 2 1 1 22 与,无关 0 n i i n i ii xx

3、yyxx 1 2 1 xy 0 0 2 1 2 1 1 2 2 n i i n i ii n i i xx yyxx xx xyn a b 例1 从某大学中随机选取8名女大学生,其身高 和体重数据如下表 编号12345678 身高/cm165165157170175165155170 体重/kg4857505464614358 求根据一名女大学生的身高预报她的体重的回 归方程,并预报一名身高为172cm的女大学生的 体重. 画散点图 求回归直线方程 用回归直线方程进行预报 解取身高为自变量x,真实体重为因变量y 作散点图 可用线性回归 方程刻画它们 之间的关系 根据公式可得 849. 0,71

4、2.85ba 回归方程为 712.85849. 0 xy 所以,对于身高172cm的女大学生,由回归方 程可以得到预报其体重 kgy316.60712.85172849. 0 n i i n i i n i ii yyxx yyxx r 1 2 1 2 1 r0时,表明两个变量正相关; r0.75时认为 两个变量有很强 的线性相关关系 身高172cm的女大学生体重一定是60.316kg吗? 样本点散 布在某一 条直线附 近 用表示身高和体重的关系 y=bx+a+e 和 为模型的未知参数 是y与 之间的误差abxy 随机误差, E(e)=0, D(e)=20 ., 0 , 2 eDeE eabx

5、y 值越精确预报yabxy 线性回归模型 存在误差 与baba, 随 机 误差e原因 误差 之间 与yy 产生随机误差e的原因是什么? 一个人的体重值除了受身高的影响外, 饮食运动 还有 度量误差 线性模型只是近似模型 怎样研究随机误差?如何衡量预报的精度? 随机变量数字特征 所以用方差2来衡量随机误差的大小 均值 反映随机变量取值平均水平 方差 反映随机变量集中于均值程度 因E(e)=0 根据样本的估计值来估计 niaxbyyye iiiii , 2 , 1, 残差 2, 2 1 2 1 1 2 2 nbaQ n e n n i i 残差平 方和 根据截距和斜率的估计公式,建立回归方程 ax

6、by 的估计量是所以随机变量的估计量是eyyeyyeyy , . 对于样本点 nn yxyxyx, 2211 niabxyyye iiiii , 2 , 1, 相应的随机误差为 衡量回归方程的预报精度;其越小,预报精度越高. 残差分析 根据散点图来粗略判断它们是否线性相关, 是否可以用线性回归模型来拟合数据 通过残差来判断模型按惯例的效果,判断 原始数据中是否存在可疑数据. 编号12345678 身高/cm165165157170175165155170 体重/kg4857505464614358 残差_ -6.3732.6272.419-4.6181.1376.627-2.8830.382

7、e 女大学生身高体重原始数据和相应的残差数据表 利用图形分析 如残差比较均匀地落在水平的带状区域中,说 明选用的模型比较合适.带状区域宽度带状区域宽度越窄, 模型拟合精度模型拟合精度越高,回归方程的预报精度预报精度超高. 利用相关指数R2来刻画回归的效果 n i i n i ii yy yy R 1 1 2 2 1 R2越接近于1,表示回归的效果越好 R2取值越大,表示残差平方和越小,模型的拟合 效果越好. 用身高预报体重时,需要注意下列问题: 1.回归方程只适用于我们所研究的样本总体. 2.所建立的回归方程一般都有时间性. 3.样本取值的范围分影响回归方程的适用范围. 4.不能期望回归方程得

8、到的预报值就是预报变 量的精确值.而是可能取值的平均值 建立回归模型的基本步骤 确定研究对象,明确哪个变量是解释变量,哪 个变量是预报变量; 画出确定好的解释变量和预报变量的散点图, 观察它们之间的关系; 由经验确定回归方程的类型; 按一定规则估计回归方程中的参数; 得出结果后分析残差图是否有异常,若存在 异常,则检查数据是否有误,或模型是否合适. 例2 一只红铃虫的产卵数一只红铃虫的产卵数y各温度各温度x有关有关.现收集现收集 了了7组观测数据列于下表中组观测数据列于下表中,试建立试建立y与与x之间之间 的回归方程的回归方程. 温度x/21232527293235 产卵数y/个7112124

9、66115325 解作出散点图 xc ecy 2 1 令z=lny 样本点分布在直线 ) 建立y和x的非线性回归方程 x21232527293235 z1.946 2.398 3.045 3.178 4.190 4.745 5.784 变换后的样本数据及其散点图 得到线性回归方程为843. 3272. 0 xz 红铃虫的产卵数对温度的非线性回归方程为 843. 3272. 01 x ey 4 2 3 cxcy 令t=x2, 得y与x之间的非线性回归方程 t44152962572984110241225 y711212466115325 红铃虫的产卵数和对应的温度的平方的数据表及散点图红铃虫的产

10、卵数和对应的温度的平方的数据表及散点图 不宜有二次曲线来拟合不宜有二次曲线来拟合 x21232527293235 y711212466115325 0.518-0.1671.760-9.1498.889-14.15332.928 47.69319.397-5.835-41.003 -40.107 -58.26877.965 1 e 2 e 利用残差来分析 y关于x的二次回归方程 54.202367. 0 22 xy 两方程的残差 7 , 2 , 1,54.202367. 0 7 , 2 , 1, 222 843. 3272. 0 11 ixyyye ieyyye iiiii x iiii 对应的残差表 432.15448, 673.1450 21 QQ 对于给定样本点 nn yxyxyx, 2211 两个含有未知参数的模型 bxgyaxfy, , 21 和 其中a,b是未知参数 比较两个拟合效果的步骤 比较两个拟合效果的步骤 ;, ,1 2 1 的估计值和分别是参数和其中与 型的回归方程分别建立对应于两个模 bababxgy axfy ; 2 1 2 2 2 1 2 1 1 n i ii n i ii yyQ yyQ 与 的残差平方和分别计算两个回归方程 .,; ,3