生物统计学课件回归与相关分析

第七章回归与相关分析,（针对两个变量的相互关系进行分析）第一节直线回归第二节直线相关第三节多项式回归第四节协方差分析*,第七章要点提示,本章对两个变量的相互关系进行分析，是多元统计分析的基石。学习时首先要求区分“回归”术语古今含义的不同之处，充分认识一元线性回归与相关分析的基础地位；熟悉回归关系与相关关系的本质区别及两者在统计表述方法上的联系（如r与b在数学意义上的统一性）和各自的侧重点；重点掌握直线回归与相关分析的显著性检验方法和双变量回归模型的协方差分析技术，以便将统计控制手段与试验控制手段一起综合运用到试验设计和统计分析中去。涉及教材内容：第八章，第九章第四节，第十章。作业布置：教材第九章一、二、三节内容自习；教材P1175T4、T5、T6；P210T4、T5。,第一节直线回归,一、回归的含义“回归”原文为regression，该术语最先由英国的F.Galton于1886年左右研究人类身高遗传的规律时所作的“高尔顿解释”中使用，详情如右图所示：高尔顿对此所作的解释是：大自然有一种约束机制，使人类身高分布保持某种稳定形态而不作两极分化，也就是有回归于中心的作用，这个中心值即该种族身高在一定历史时期的平均值。现在就“回归”所作的定义是：如果两个变量X和Y，总是Y随着X的变化而变化，且这种变化关系不可逆，则称X和Y为回归关系。其中：X叫自变量dependentvariable；Y叫因变量或依变量independentvariable。,高：xg7172g(69)64a矮：xa67调查n1074个家庭，统计结果：X68英寸69英寸得：X1(1英寸2.54cm)但分组统计的结果却并非如此父母为高个子组时，g721父母为矮个子组时，a641走向指回归的本意走向指回归的今义,第一节直线回归,二、建立直线回归方程例7.1在四川白鹅的生产性能研究中，得到如下一组n=12（只）关于雏鹅重（g）与70日龄重（10g）的关系的数据，其结果如下表，试予分析。解描散点图本例已知雏鹅70日龄重随雏鹅重的变化而变化，且不可逆；又据散点图反映的趋势来看，在80120g的重量范围，70日龄重随雏鹅重呈上升的线性变化关系。故可假定直线回归方程为：yabx读作“Y依直线回归”,7090110130,yabx,340300260220,第一节直线回归,数据整理由原始数据算出一级数据6个：X1182Y32650XY3252610X2118112Y2896696700n12再由一级数据算出二级数据5个：SSXX2(X)2/n1685.00SSYY2(Y)2/n831491.67SPXYXY/n36585.00XX/n98.5Y/n2720.8333计算三级数据bSP/SSX21.7122365851685abX582.18162720.833321.712298.5得所求直线回归方程为：y582.1816+21.7122x,80100120,yabx,320280240200,80,120,第一节直线回归,三、直线回归关系的显著性检验将abx代入Yabx得：yb(xx)及yb(xx)于是由因变量离均差的两个线性分量：(Y)2(Yy)(y)2可推导出因变量总SS的如下分解公式：(Y)2(Yy)2(y)2简写成：SSYSSRSSr分别叫“离回归平方和”与“回归平方和”其计算公式及本例分解结果：SSRSP2/SSX365852/1685794339.6SSrSSYSSR37152.0783149167794339.6故FMSR/MSr213.81*(F0.01,1,1010.04)(794339.61)/(37152.0710)表明双变量直线回归关系极显著,所得方程y582.1816+21.7122x可用于预测。,也可对回归系数进行t-test来证实。只是要利用分子df1时，Ft2的关系推导出回归系数的标准误SbSe/SSX其中，Se2SSr/dfr3715.2137152.0710于是t-test的步骤如下：H0:=0(为回归系数b的真值)SbSe2/SSX1.48493715.211685t(b)Sb21.71221.484914.62(3)按自由度dfr10查得两尾t0.01=3.169(4)推断：tt0.01H0不成立。可见t-test与F-test的效果完全一致。若显著性检验结果不显著,则三选一：Y与X没有回归关系；Y与X有回归关系，但不是直线回归；Y与X有回归关系，但不是简单回归，而是多元回归。,第二节直线相关,一、相关的含义如果两个变量X和Y，总是X和Y相互制约、平行变化，则称X和Y为相关关系。此时，X和Y没有严格意义上的自变量和因变量之分，既可以说Y随着X的变化而变化，也可以讲X随着Y的变化而变化。即不存在谁决定谁或谁依赖谁的问题。如人或动物的胸围和体重，作物的生物产量和经济产量，树干的胸径与材积等。可见，相关关系以双向、平行为特征。但相关关系如果仅从数学角度看，和回归关系是统一的，因为其双变量变化规律如果是线性关系的话，也可以由根据“最小二乘法”原理得出的直线方程来表述，所以有些文献不区分回归关系和相关关系，将二者笼统地称之“回归”或者“相关”。从统计上讲，相关分析的侧重点和回归分析不完全一样。,二、相关系数前已述及，具有线性回归关系的双变量中，Y变量的总变异量分解为：SSYSSrSSR对于具有线性相关关系的双变量，Y变量的总平方和也可以分解成同样的两个分量，只是分别改称为“非相关平方和”与“相关平方和”于是有：rSSR/SSYSP/SSXSSY“r”叫相关系数，其绝对值越大，SSR所占的比重就越大，在散点图上就表现为各散点越靠近直线；反之，即SSr所占的比重越大，各散点越远离直线。并且有以下性质：r的正负和b一样取决于SP的正负；r0，正相关；r0，负相关r1，1或r（1，1）；决定系数r2bb或rbb,第二节直线相关,三、相关分析举例例7.2为研究绵羊胸围（cm）和体重（kg）的相互关系，调查了10只绵羊胸围和体重的对应观察值X和Y，所得结果如下表，试予分析。解描散点图本例已知绵羊胸围（X）和体重（Y）为相关关系，散点图也显示两者的变化规律呈线性正相关，SP0。故可假定直线相关方程为：yabx或xaby后一个方程也可写成：yabx,yabx,807468625650,第二节直线相关,数据整理由原始数据算出一级数据6个：X720Y680XY49123X251904Y246818n10再由一级数据算出二级数据5个：SSXX2(X)2/n64SSYY2(Y)2/n578SPXYXY/n163XX/n72Y/n68计算三级数据bSP/SSX163642.547a722.54768115.4bSP/SSY1635780.282a680.2827252.82即所求相关方程可以有两个(如右图)rSP/SSXSSY0.8475r2bb2.5470.2820.7192,y52.820.282x,767268,4050607080,80706050,y2.547x115.4,第二节直线相关,、直线相关关系的显著性检验和直线回归关系的显著性检验原理一样，直线相关关系的双变量也可导出Y变量总SS的如下分解公式：(Y)2(Yy)2(y)2简写成：SSYSSRSSr分别叫“非相关平方和”与“相关平方和”其计算公式引用三级数据后简化为：SSY(1r2)SSYr2SSY或者SSX(1r2)SSXr2SSXSSRr2SSY0.7182578415SSr(1r2)SSY0.2818578163故FMSR/MSr20.4*(F0.01,1,811.26)(n2)r2/(1r2)表明双变量直线相关关系极其显著,所得两个直线相关方程都可用于预测。,也可对回归系数进行t-test来证实。只是要利用df(分子)1时，Ft2的关系推导出相关系数的标准误：Sr(1r2)/(n2)并且Se2SSr/dfr163820.4于是t-test的步骤如下：H0:=0(为相关系数r的真值)Sr0.281880.1877t(r)Sr0.84750.18774.516(3)按自由度dfr8查得两尾t0.01=3.355(4)推断：tt0.01H0不成立。可见t-test与F-test的效果完全一致。若显著性检验结果不显著,则三选一：Y与X没有相关关系；Y与X有相关关系，但不是直线相关；Y与X有相关关系，但不是简单相关，而是复相关。,第二节直线相关,四、回归与相关关系的统一性既然相关关系和回归关系的显著性检验原理一样，那么，不论回归还是相关关系，其检验都可用“相关系数”r进一步简化如下：即由t2F(n2)r2/(1r2)解得：rt2/(n2t2)于是利用这一关系将各个自由度下的t临界值t0.05和t0.01换算出相关系数r的临界值r0.05和r0.01，从而得到直接用于检验回归或者是相关关系显著性的临界值表(附表8)。如从教材P309查得M2，dfr8时r0.050.632，r0.010.765今得r0.8475*r0.01再由例7.1从P309查得M2，dfr10时r0.050.576，r0.010.708算得“r”0.9774*r0.01检验效果与F-test或者是t-test完全一样。,例7.2关于体重(Y)的ANOVA表：SOVDFSSYMSFF0.01相关141541520.4*11.26非相关816320.4总9578也可针对胸围(X)做ANOVA表：SOVDFSSXMSFF0.01相关1464620.4*11.26非相关8182.25总964例7.1只针对70日龄重(Y)做ANOVA表：SOVDFSSYMSF回归1794339.6794339.6213.81*离回归1037152.073725.21总11831491.67,第三节多项式回归,例7.3给动物口服某种药物1000mg，每间隔1小时（时长X）测定血液浓度Y（g/ml），每5头供试动物的平均血液浓度整理结果如下，试就其数量变化特点建立多项式回归方程并予以分析。解先描散点图；初步判断为二次多项式通常称之为抛物线；这种变化关系在农业和动物科学领域普遍存在；完成这类实例分析的方法是将曲线单回归的问题通过变量代换转化为二元线性回归的问题来解决，这也是完成更高次多项式回归分析的基本点。,y2ab1xb2x2的图象,一、确定多项式方程次数的方法,b20,b20,当两个变数间的曲线关系很难确定时，可以使用多项式去逼近，称为多项式回归（polynomialregression)。最简单的多项式是二次多项式，其方程为：y2ab1xb2x2它的图象是抛物线。当b20时，曲线凹向上，有一个极小值；b20时，曲线凸向上，有一个极大值，见右图。本例(x,y)的散点图呈单锋趋势，没有明显的其它凹凸变化，故预期可用二次式配合。但多项式回归方程通常只能用于描述试验范围内Y依X的变化关系，外推一般不可靠，这一点首先必须明确。,三次多项式的方程为：y3ab1xb2xb3x3它的图形是具有两个弯曲(一个极大值和一个极小值)和一个拐点的曲线。当b30时，这类曲线由凸向上转为凹向上；当b30时，这类曲线由凹向上转为凸向上，见右图。多项式方程的一般形式：yab1xb2x2.bkxk这是k-1个具有个弯曲(k-1个极值)和k-2个拐点的曲线；两个变数的n对观察值最多可配到kn1次多项式；k越大，包含的统计数越多，计算和解释越复杂；一个多项式回归方程应取多少次为宜，可根据资料的散点图作出初步选择；散点图趋势所表现的曲线的峰数谷数1，即为多项式回归方程次数。散点波动较大或峰谷两侧不对称，可再高一次。,一、确定多项式方程次数的方法,b30,b30,y3=a+b1x+b2x2+b3x3的图象,二、建立多项式回归方程,变量代换（代换得到的变量个数以m表示）设例7.3的二次多项式方程为：y2ab1xb2x2令x1x，x2x2；则方程线性化为：y2ab1x1b2x2数据整理由原始数据算出一级数据9个：X1X45Y419.65X1YXY1930.45X2X2285Y224426.5833X1X2X32025n9X22X415333X2YX2Y10452.11再由一级数据算出二级数据9个：SS1X2(X)2/n60SS2X22(X2)2/n6308SP10X1YX1Y/n167.8SP20X2YX2Y/n2836.8067SP12SP21X1X2X1X2/n600SSY4859.2364Y/n46.6278x1X1/n5x2X2/n31.6667仍按“最小二乘方”原理计算三级数据bi例7.1已知abx，则二次多项式可类推，即：ab1x1b2x2也就是列方程组求算各回归系数时，不必把常数项列为未知数求解，这样一来，就可用阶数更少的矩阵运算来减少解方程的工作量。,二、建立多项式回归方程,1、只将bi列为未知数求解的方法；对于任意次多项式，yab1xb2x2.bkxk若令x1x，x2x2，,xkxk，则该式可化为：ykab1x1b2x2.bkxk这时多元线性方程采用矩阵方法只需求m=k元方程组的解。SS11SP12SP1kb1SP10SP21SS22SP1kb2SP20A.，b.Z.SPm1SPm2SSmkbkSPm0也就是说，以二级数据为元素构建的矩阵AbZ阶数只有mm。求得A-1，并由bA-1Z可获得相应的多项式回归方程中k个回归系数bi的解，本例m=k=2，求解过程如下：ASS11SP1260.0000600.0000，ZSP10-167.8000SP21SS22600.00006308.0000SP20-2836.8067,二、建立多项式回归方程,1、只将bi列为未知数求解的方法；采用矩阵方法求解的关键在于求逆矩阵，这属于线性代数范围的知识，教材分别在P203和P204提示了逆矩阵求算方法，本例用二级数据构建两个矩阵后简化了计算，只需对二阶矩阵求逆(Cij叫高斯乘数)，结果如下：A-1SS11SP12-10.341349-0.032468C11C12SP21SS22-0.0324680.003247C21C22bA-1Z0.341349-0.032468-167.800034.8271-0.0324680.003247-2836.8067-3.7630于是获得多项式回归方程中两个回归系数：b134.8271，b2-3.763ab1x1b2x2-8.345946.627834.82715(3.763)31.6667IA-1A1.0001400.00012010(单位矩阵)0.0013761.00265201,二、建立多项式回归方程,2、把常数项a列为未知数求解的方法；对于任意次多项式，yab1xb2x2.bkxk若令x1x，x2x2，,xkxk，则该式可化为：ykab1x1b2x2.bkxk一般的多元线性方程，采用矩阵方法需求m+1元方程组的解。1x12x22xk21x12x122x12ky11x11x21xk11x11x112x11ky2X.，Y.1x1nx2nxkn1x1nx1n2x1nyn求得XX,XY和(XX)-1，并由b(XX)-1(XY)获得相应的多项式回归方程中k个回归系数bi和一个常数项a的解。教材从直线回归的内容开始就介绍了利用矩阵计算三级数据a和b并进行显著性检验的方法，以此作为用矩阵进行多元回归与相关分析的铺垫。这在当今电脑普及的时代意义非同小可，因为用矩阵进行回归与相关分析可一石三鸟：更容易理解计算机解方程的程序；其中的m+1阶(或m=k阶)逆矩阵可验证所得方程组的解是否正确包括其精度是否足够；该逆矩阵的对角线上的元素用于检验回归与相关关系的显著性非常方便。,图71服药时间与血液浓度的关系,至此即获得了二元线性回归方程：Y-8.345934.8271x13.763x2y=-8.345934.8271x3.763x2,二、建立多项式回归方程,多项式回归分析中，Y变量的总平方和SSY亦可分解为回归和离回归两部分,即：SSYSSRSSr上式中，SSR为k次多项式的总回归效应平方和，即Y变量总变异中能被X的k次多项式所说明的部分，计算过程用矩阵表述为：SSYYY(1Y)2/n24426.