1回归分析的基本思想及其初步应用.ppt

1、新学期我们怀揣大学梦想，只要我们相信自己，刻苦努力每一天，就一定能考进 北京大学,第一章 统计案例,1.1回归分析的基本思想及其初步应用,a. 比数学3中“回归”增加的内容,数学统计 画散点图 了解最小二乘法的思想 求回归直线方程 ybxa 用回归直线方程解决应用问题,选修-统计案例 引入线性回归模型 ybxae 了解模型中随机误差项e产生的原因 了解相关指数 R2 和模型拟合的效果之间的关系 了解残差图的作用 利用线性回归模型解决一类非线性回归问题 正确理解分析方法与结果,必修3(第二章 统计)知识结构,收集数据 (随机抽样),整理、分析数据估计、推断,简单随机抽样,分层抽样,系统抽样,用样

2、本估计总体,变量间的相关关系,用样本的频率分布估计总体分布,用样本数字特征估计总体数字特征,线性回归分析,问题1：正方形的面积y与正方形的边长x之间 的函数关系是,问题2：某水田水稻产量y与施肥量x之间是否 -有一个确定性的关系？,例如：在 7 块并排、形状大小相同的试验田上 进行施肥量对水稻产量影响的试验，得到如下所示的一组数据：,复习:变量之间的两种关系,自变量取值一定时，因变量的取值带有一定随机性的两个变量之间的关系叫做相关关系。,1、定义：,1）：相关关系是一种不确定性关系；,注,1、两个变量的关系,不相关,相关关系,函数关系,线性相关,非线性相关,问题1：现实生活中两个变量间的关系有

3、哪些呢？,相关关系：对于两个变量，当自变量取值一定时，因变量的取值带有一定随机性的两个变量之间的关系。,思考：相关关系与函数关系有怎样的不同？,函数关系中的两个变量间是一种确定性关系 相关关系是一种非确定性关系,函数关系是一种理想的关系模型 相关关系在现实生活中大量存在，是更一般的情况,问题2：对于线性相关的两个变量用什么方法来刻划之间的关系呢？,2、最小二乘估计,最小二乘估计下的线性回归方程：,我们回忆一下,最小二乘法:,样本点的中心:,回归方程:,3、回归分析的基本步骤:,画散点图,求回归方程,用回归直线方程预报、决策,这种方法称为回归分析.,回归分析是对具有相关关系的两个变量进行统计 分

4、析的一种常用方法.,2、现实生活中存在着大量的相关关系。 如：人的身高与年龄； 产品的成本与生产数量； 商品的销售额与广告费； 家庭的支出与收入。等等,探索：水稻产量y与施肥量x之间大致有何规律？,例1 从某大学中随机选取8名女大学生，其身高和体重数据如表1-1所示。,求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为 172cm的女大学生的体重。,案例1：女大学生的身高与体重,解：1、选取身高为自变量x，体重为因变量y，作散点图：,2、由散点图知道身高和体重有比较好的 线性相关关系，因此可以用线性回归方程 刻画它们之间的关系。,根据最小二乘法估计 和 就是未知参数a和b的最好估

5、计，,所以回归方程是,所以，对于身高为172cm的女大学生，由回归方程可以预报 其体重为,探究P4： 身高为172cm的女大学生的体重一定是60.316kg吗？如果不是，你能解析一下原因吗？,探究P4： 身高为172cm的女大学生的体重一定是60.316kg吗？如果不是，你能解析一下原因吗？,答：身高为172cm的女大学生的体重不一定是60.316kg，但一般可以认为她的体重在60.316kg左右。,60.136kg不是每个身高为172cm的女大学生的体重的预测值，而是所有身高为172cm的女大学生平均体重的预测值。,1.用相关系数 r 来衡量,2.公式：,求出线性相关方程后， 说明身高x每增

6、加一个单位,体重y就增加0.849个单位,这表明体重与身高具有正的线性相关关系.如何描述它们之间线性相关关系的强弱呢?,、当 时，x与y为完全线性相关，它们之间存在确定的函数关系。 、当 时，表示x与y存在着一定的线性相关，r的绝对值越大，越接近于1，表示x与y直线相关程度越高，反之越低。,3.性质：,例1 从某大学中随机选取8名女大学生，其身高和体重数据如表1-1所示。,求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为 172cm的女大学生的体重。,案例1：女大学生的身高与体重,解：1、选取身高为自变量x，体重为因变量y，作散点图：,2、由散点图知道身高和体重有比较好的 线性

7、相关关系，因此可以用线性回归方程 刻画它们之间的关系。,3、从散点图还看到，样本点散布在某一条 直线的附近，而不是在一条直线上，所以 不能用一次函数y=bx+a描述它们关系。,我们可以用下面的线性回归模型来表示： y=bx+a+e，其中a和b为模型的未知参数， e称为随机误差。,思考P3 产生随机误差项e 的原因是什么？,思考 产生随机误差项e的原因是什么？,随机误差e的来源(可以推广到一般）： 1、其它因素的影响：影响体重y 的因素不只是身高 x，可能还包括遗传基因、饮食习惯、是否喜欢运动、生长环境、度量误差等因素； 2、用线性回归模型近似真实模型所引起的误差； 3、身高 x 的观测误差。,

8、我们回忆一下,最小二乘法:,样本点的中心: 在回归直线上,回归方程:,3、回归分析的基本步骤:,画散点图,求回归方程,用回归直线方程预报、决策,这种方法称为回归分析.,回归分析是对具有相关关系的两个变量进行统计 分析的一种常用方法.,函数模型与回归模型之间的差别,函数模型：,回归模型：,线性回归模型y=bx+a+e增加了随机误差项e，因变量y的值由自变量x和随机误差项e共同确定，即自变量x只能解释部分y的变化。,在统计中，我们也把自变量x称为解释变量，因变量y称为预报变量。,随机误差,e的估计量,样本点：,相应的随机误差为：,随机误差的估计值为：,称为相应于点 的残差.,残差图的制作和作用：

9、制作：坐标纵轴为残差变量，横轴可以有不同的选择. 横轴为编号：可以考察残差与编号次序之间的关系， 常用于调查数据错误. 横轴为解释变量：可以考察残差与解释变量的关系，常用于研究模型是否有改进的余地. 作用：判断模型的适用性：若模型选择的正确，残差图中的点应该分布在以横轴为中心的带形区域.,误差与残差，这两个概念在某程度上具有很大的相似性， 都是衡量不确定性的指标，可是两者又存在区别。 误差与测量有关，误差大小可以衡量测量的准确性，误差越大则表示测量越不准确。误差分为两类：系统误差与随机误差。其中，系统误差与测量方案有关，通过改进测量方案可以避免系统误差。随机误差与观测者，测量工具，被观测物体的

10、性质有关，只能尽量减小，却不能避免。 残差与预测有关，残差大小可以衡量预测的准确性。残差越大表示预测越不准确。残差与数据本身的分布特性，回归方程的选择有关。,我们可以利用图形来分析残差特性，作图时纵坐标为残差，横坐标可以选为样本编号，或身高数据，或体重估计值等，这样作出的图形称为残差图。,表1-4列出了女大学生身高和体重的原始数据以及相应的残差数据。,使用公式 计算残差,残差图的制作及作用。 坐标纵轴为残差变量，横轴可以有不同的选择； 若模型选择的正确，残差图中的点应该分布在以横轴为心的带形区域； 对于远离横轴的点，要特别注意。,身高与体重残差图,几点说明： 第1个样本点和第6个样本点的残差比

11、较大，需要确认在采集过程中是否有人为的错误。如果数据采集有错误，就予以纠正，然后再重新利用线性回归模型拟合数据；如果数据采集没有错误，则需要寻找其他的原因。另外，残差点比较均匀地落在水平的带状区域中，说明选用的模型比较合适，这样的带状区域的宽度越窄，说明模型拟合精度越高，回归方程的预报精度越高。,显然，R2的值越大，说明残差平方和越小，也就是说模型拟合效果越好。,在线性回归模型中，R2表示解释变量对预报变量变化的贡献率。,R2越接近1，表示回归的效果越好（因为R2越接近1，表示解释变量和预报变量的线性相关性越强）。,如果某组数据可能采取几种不同回归方程进行回归分析，则可以通过比较R2的值来做出

12、选择，即选取R2较大的模型作为这组数据的模型。,总的来说： 相关指数R2是度量模型拟合效果的一种指标。 在线性模型中，它代表自变量刻画预报变量的能力。,例1的R20.64 ，解释变量对总效应约贡献了64%，可以叙述为“身高解析了64%的体重变化”，而随机误差贡献了剩余的36%。所以，身高对体重的效应比随机误差的效应大得多。,在研究两个变量间的关系时，首先要根据散点图来粗略判断它们是否线性相关，是否可以用回归模型来拟合数据。,残差分析与残差图的定义：,然后，我们可以通过残差 来判断模型拟合的效果，判断原始数据中是否存在可疑数据，这方面的分析工作称为残差分析。,一般地，建立回归模型的基本步骤为：,

13、（1）确定研究对象，明确哪个变量是解析变量x，哪个变量是预报变量y。,（2）画出确定好的解析变量和预报变量的散点图，观察它们之间的关系（如是否存在线性关系等）。,（3）由经验确定回归方程的类型（如我们观察到数据呈线性关系，则选用线性回归方程y=bx+a）.,（4）按一定规则估计回归方程中的参数（如最小二乘法）。,（5）得出结果后分析残差图是否有异常（个别数据对应残差过大，或残差呈现不随机的规律性，等等），若存在异常，则检查数据是否有误，或模型是否合适等。,我们回忆一下,最小二乘法:,样本点的中心: 在回归直线上,回归方程:,以上公式的推导较复杂，故不作推导，但它的原理较为简单：即各点到该直线的

14、距离的平方和最小，这一方法叫最小二乘法。,例1的R20.64 ，解释变量对总效应约贡献了64%，可以叙述为“身高解析了64%的体重变化”，而随机误差贡献了剩余的36%。所以，身高对体重的效应比随机误差的效应大得多。,R2表示解释变量对预报变量变化的贡献率。,使用公式 计算残差,随机误差的估计值为：,称为相应于点 的残差.,例2 一只红铃虫的产卵数y和温度x有关。现收集了7组观测数据 列于表中：,（1）试建立产卵数y与温度x之间的回归方程；并预测温度为28oC时产卵数目。 （2）你所建立的模型中温度在多大程度上解释了产卵数的变化？,产卵数,气温,在散点图中，样本点没有分布在某个带状区域内，因此两

15、个变量不呈现线性相关关系，所以不能直接利用线性回归方程来建立两个变量之间的关系.,利用线性回归模型研究y和x之间的非线性回归方程.,当回归方程不是形如y=bx+a时，我们称之为非线性回归方程.,根据已有的函数知识，可以发现样本点分布在某一条指数函数曲线 的周围，其中c1和c2是待定参数.,则变换后样本点应该分布在直线z=bx+a的周围.,产卵数,气温,变换 y=bx+a 非线性关系 线性关系,对数,方法一：指数函数模型,由计算器得：z关于x的线性回归方程 相关指数 因此y关于x的非线性回 归方程为,当x=28 时，y 44 ，指数回归模型中温度解释了98%的产卵数的变化,方法三：一元函数模型,

16、最好的模型是哪个?,显然，指数函数模型最好！,利用残差计算公式：,由残差平方和：,故指数函数模型的拟合效果比二次函数的模拟效果好.,或由条件R2分别为0.98和0.80，同样可得它们的效果.,课堂知识延伸,我们知道，刑警如果能在案发现场提取到罪犯的脚印，即将获得一条重要的破 案线索，其原因之一是人类的脚掌长度和身高存在着相关关系，可以根据一个人的 脚掌长度来来预测他的身高 我们还知道，在统计史上，很早就有人收集过人们的身高、前臂长度等数据， 试图寻找这些数据之间的规律 在上述两个小故事的启发下，全班同学请分成一些小组，每组4-6名同学，在老 师的指导下，开展一次数学建模活动，来亲自体验回归分析的思想方法，提高自己的 实践能力。 数学建模的题目是：收集一些周围人们的脚掌长度、前臂长度中的一个数据及其 身高，来作为两个变量画散点图，如果这两个变量之间具有线性相关关系，就求出回 归直线方程，另选一个人的这两个变量的数据，作一次预测，并分析预测结果。 最后以小组写出数学建模报告，报告要求过程清晰，结论明