第9.2节 回归分析原理——概率论与数理统计李长青版

第九章,方差分析与回归分析,第二节回归分析原理,一个过程中多个变量之间的关系分为两类：,确定性关系是指当一些变量的值确定以后另一,相关关系是指变量之间有一定的依赖关系，但,确定性关系也就是通常所说的函数关系；,非确定性关系即所谓的相关关系。,些变量的值也随之完全确定的关系。,当一些变量的值确定以后，另一些变量的值虽随之,变化却并不能完全确定，这时变量间的关系不能精,确地用函数来表示。,回归分析是数理统计中研究一个响应变量与若干,回归分析的任务主要有三个：,(1)给出建立具有相关关系的变量之间的数学关,个预报变量之间相关关系的一种有效方法；,一个预报变量的回归分析称为一元回归分析，,个预报变量的回归分析称为多元回归分析。,系式（通常称为经验公式）的一般方法；,(2)判别所建立的经验公式是否有效；判别哪些,预报变量对响应变量的影响是显著的，哪些,是不显著的；,(3)利用所得到的经验公式进行预测和控制。,其中只有,多于一,一、一元线性回归模型,当随机变量Y与普通变量x之间有线性关系时,可假设,其中a,b,2为不依赖于x的未知参数,上式称为一元,线性回归模型,简称一元线性模型.,此时有,称Y的期望,为Y关于x的线性回归函数,a,b为回归系数,x为回归,变量.,Y与x间有线性相,当Y与x间满足这种关系时,关关系.,的一组样本，,的观察值.,则有,回归分析就是根据样本观察值寻求a,b的估计,对于给定x值,取,作为,的估计.,方程(2)称为Y关于x的线,性回归方程或经验公式,其图形称为回归直线,称为,回归系数.,二、参数的估计,对于样本观测值,记,为了研究变量x与y之间的线性关系,考察由,所作的散点图与直线,的偏离程度.,令,离的平方和,称其为偏差平方和.,显然,偏差平方和,越小的直线,越能较好地反映变量x与y之间的,关系.,因此,问题归结为求参数b,a的估计估计值,越小的直线,越能较好地反映变量x与y之间的,关系.,因此,问题归结为求参数b,a的估计估计值,满足上式的,称为a,b的最小二乘估计,可用微分,法求得.,将Q(a,b)对a,b求偏导并令偏导数为零,由此可得规范方程为,其中,解此方程组得,由此可得规范方程为,其中,记,解此方程组得,记,而回归方程为,例1某种物质在不同温度下可吸附另一种物质,如,果温度x(单位:)与吸附重量y(单位:)的观测值如下,表所示:,试求吸附重量y和温度x的回归方程.,解,直接计算可得,解,直接计算可得,所求的回归方程为,二、回归方程的有效性检验,当且仅当a0时，变量Y与x之间存在线性相关关系,为了检验Y与x之间的线性相关的显著性，应当检验,检验原假设H0：a=0是否成立。,若拒绝H0，则认为Y与x之间存在线性关系，所求得,得线性回归方程有意义；若接受H0，则认为Y与x的,关系不能用一元线性回归模型来表示，所求得的线性,回归方程无意义。,方差分析法（F检验法）,考察样本y1,y2,yn的偏差平方和，或称总平方和,对上式中的,交叉项，有,注意到,及,它反映了观测值偏离回归直线的程度，这种偏离是,由此得平方和分解公式如下：,其中,由于观测误差等随机因素引起的.,回归平方和反映回归值的分散度，这种分散是,由于Y与x之间得线性相关关系引起的；,Q剩与Q回的比值反映了这种线性相关关系与随机,因素对y的影响的大小；比值越大，线性相关性越强.,基于此，构造检验统计量,关系显著.反之认为y对x没有线性相关关系，所求的,线性回归方程无实际意义.,例2小麦基本苗数x及有效穗数y(单位:万)的5组,观察数据如下:,试求线性回归方程,并检验y与x之间的相关性,解,由已知数据直接计算得,解,由已知数据直接计算得,由此得回归方程为,回归系数的检验,检验假设,计算回归平方和与剩余平和,查表得临界值,因为,所以,拒,绝H0,可以认为y与x之间具有线性相关关系,回归