线性回归与协方差

线性回归与协方差1第一页，共五十三页，编辑于2023年，星期一方差分析：用于比较两组或者多组总体均数之间的差异，推论相应的处理效应间的差异。自变量为分类变量。回归分析：用于拟合变量间的关系，通过回归分析可以估计反应变量与一系列自变量之间的回归关系，同时建立具体的回归方程。自变量为连续变量。两者可统一于一般线性模型2第二页，共五十三页，编辑于2023年，星期一第一节协方差分析的基本思想和步骤3第三页，共五十三页，编辑于2023年，星期一假定这样一个问题：已知某变量X对观察指标Y有影响（称X为协变量），由方差分析得到不同的处理组Y的总体均数之间有差别，那么这个差别是因为各组处理效应确有不同还是因为协变量X的影响所致？如何鉴别？需要通过一种方法，该方法可以消除X对Y的影响。4第四页，共五十三页，编辑于2023年，星期一表13-3三种饲料喂养猪的初始重量与增重（单位：kg）

A饲料

B饲料

C饲料

X1Y1

X2Y2

X3Y311585

17

97

22

8921383

16

90

24

9131165

18100

20

8341276

18

95

23

9551280

21103

2510061691

22106

2710271484

19

99

3010581790

18

94

32110

13.75081.750

18.62598.000

25.37596.875

A饲料

B饲料

C饲料

X1Y1

X2Y2

X3Y311585

17

97

22

8921383

16

90

24

9131165

18100

20

8341276

18

95

23

9551280

21103

2510061691

22106

2710271484

19

99

3010581790

18

94

32110

13.75081.750

18.62598.000

25.37596.875编号均值5第五页，共五十三页，编辑于2023年，星期一方差分析表

变异来源自由度SSMSFP总变异232555.958

组间变异

21317.583658.79211.17＜0.01组内变异211238.375

58.970

完全随机设计类型的方差分析6第六页，共五十三页，编辑于2023年，星期一方差分析表变异来源自由度SS

MS

FP

总变异23720.50

组间2545.25272.6332.67＜0.01

组内21175.258.35初始体重的组间比较7第七页，共五十三页，编辑于2023年，星期一多个均数两两比较表

三组猪的初始重量两两比较均有差别，A组初始重量最低，C组最高。

对比组组数aqq0.05q0.01PC组与B组6.7526.612.954.02<0.01C组与A组11.625311.383.584.64<0.01B组与A组4.87524.772.954.02<0.018第八页，共五十三页，编辑于2023年，星期一10名正常孕妇妊娠时间与血清载脂蛋白含量(g/L)9第九页，共五十三页，编辑于2023年，星期一xy原则：各实测点至直线纵向距离的平方和为最小求解回归直线10第十页，共五十三页，编辑于2023年，星期一直线回归方程的计算11第十一页，共五十三页，编辑于2023年，星期一10名正常孕妇妊娠时间(周)与血清载脂蛋白含量(g/L)12第十二页，共五十三页，编辑于2023年，星期一P应变量y离均差平方和划分示意图yx13第十三页，共五十三页，编辑于2023年，星期一总离均差平方和的分解：+=即对于所有观测点，都有：14第十四页，共五十三页，编辑于2023年，星期一协方差分析：把回归分析和方差分析结合起来的一种统计分析方法，综合了两种方法的优点，提供了一个比较组间处理效应更加有效的方法。由Fisher（1932）最早提出。15第十五页，共五十三页，编辑于2023年，星期一学生城市学校乡村学校年龄（月）身高（cm）年龄（月）身高（cm）1109137.6121139.02113147.8121140.93115136.8128134.94116140.7129149.55119132.7131148.76120145.4132131.07121135.0133142.38124133.0134139.99126148.5138142.910129148.3138147.711130147.5138147.712133148.8140134.613134133.2140135.814135148.7140148.515137152.016139150.617141165.318142149.9均数126.8144.5133.1141.7表10-1某城市学校和某乡村学校儿童身高及年龄16第十六页，共五十三页，编辑于2023年，星期一方差分析结果：两组平均身高的差值：144.5-141.7＝2.8cm，F＝1.121，P=0.298，还不能认为城乡儿童的身高有差异。另有：两组平均年龄的差值：133.1-126.8＝6.3月，那么，如果城乡儿童年龄分布相同，结果会怎样？17第十七页，共五十三页，编辑于2023年，星期一利用协方差分析：消除年龄的影响，对组间差异2.8cm进行校正，得到更为准确的一个差值。结果：校正之后的组间差异为5.5cm，差异具有统计学意义（P<0.05），可以认为城乡儿童的身高有差异。18第十八页，共五十三页，编辑于2023年，星期一协方差分析：可以消除由于对比各组X值不同对Y所产生的影响，从而提高了方差分析结论的精确性。19第十九页，共五十三页，编辑于2023年，星期一将定量变量X（难以控制的因素）对Y的影响看作协变量，建立应变量Y随协变量X变化的线性回归关系，并利用这种回归关系把X值化为相等后再进行Y的校正（修正）均数间差别的假设检验。一、基本思想

20第二十页，共五十三页，编辑于2023年，星期一

二、协方差分析的实质通过回归分析，从Y的总平方和中扣除协变量X对Y的回归平方和，对残差平方和作进一步分解后再进行方差分析，更好地评价各种处理的效应。21第二十一页，共五十三页，编辑于2023年，星期一三、应用条件1.理论上要求观察变量服从正态分布，各观察变量相互独立，各样本方差齐性；2.各总体客观存在线性回归关系且斜率相同。实例：比较城市和乡村儿童的身高22第二十二页，共五十三页，编辑于2023年，星期一假定X与Y线性关系存在且各回归线平行，则有：处理组Y1＝α1+βX+e1对照组Y0＝α0+βX+e0（10-1）把各自的均数带入公式10-1得：处理组对照组23第二十三页，共五十三页，编辑于2023年，星期一第二节完全随机设计资料的协方差分析24第二十四页，共五十三页，编辑于2023年，星期一例13-1为研究A、B、C三种饲料对猪的催肥效果，用每种饲料喂养8头猪一段时间，测得每头猪的初始重量（X）和增重（Y）数据见表13-3上半部。试分析三种饲料对猪的催肥效果是否相同？25第二十五页，共五十三页，编辑于2023年，星期一表13-3三种饲料喂养猪的初始重量与增重（单位：kg）

A饲料

B饲料

C饲料

X1Y1

X2Y2

X3Y311585

17

97

22

8921383

16

90

24

9131165

18100

20

8341276

18

95

23

9551280

21103

2510061691

22106

2710271484

19

99

3010581790

18

94

32110

13.75081.750

18.62598.000

25.37596.875

A饲料

B饲料

C饲料

X1Y1

X2Y2

X3Y311585

17

97

22

8921383

16

90

24

9131165

18100

20

8341276

18

95

23

9551280

21103

2510061691

22106

2710271484

19

99

3010581790

18

94

32110

13.75081.750

18.62598.000

25.37596.875编号均值26第二十六页，共五十三页，编辑于2023年，星期一1．H0：各总体增重的修正均数相等

H1：各总体增重的修正均数不全相等

α=0.05协方差分析步骤：

2．列表并计算初步结果

27第二十七页，共五十三页，编辑于2023年，星期一表13-3三种饲料喂养猪的初始重量与增重（单位：kg）

A饲料

B饲料

C饲料

X1Y1

X2Y2

X3Y3XY1585

17

97

22

89

1383

16

90

24

91

1165

18100

20

83

1276

18

95

23

95

1280

21103

25100

1691

22106

27102

1484

19

99

30105

1790

18

94

32110

8

8

824

110

654

149

784

203

775

462

2213154453952

280377016

5267756459614206613

9103

14667

1991143681合计28第二十八页，共五十三页，编辑于2023年，星期一变异来源ν离均差平方和及积和估计误差

总变异

组间变异

组内变异

修正均数

协方差分析计算表模式νMSF29第二十九页，共五十三页，编辑于2023年，星期一3．计算相应的校正数、总的、组间及组内的离均差平方和、离均差积和及自由度

（1）校正数30第三十页，共五十三页，编辑于2023年，星期一（2）总的离均差平方和、离均差积和及自由度

31第三十一页，共五十三页，编辑于2023年，星期一（3）组间离均差平方和、离均差积和及自由度

32第三十二页，共五十三页，编辑于2023年，星期一（4）组内离均差平方和、离均差积和及自由度33第三十三页，共五十三页，编辑于2023年，星期一4．计算总的、组内及修正均数的估计误差平方和、自由度34第三十四页，共五十三页，编辑于2023年，星期一5．列协方差分析表，查F界值表，P＜0.01，拒绝H0，接受H1，可以认为在扣除初始体重因素的影响后，三组猪的总体增重均数有差别。变异来源ν离均差平方和及积和估计误差

总变异23720.501080.752555.9622934.84

组间变异

2545.25

659.881317.58

组内变异21175.25

420.871238.3820227.6411.38

修正均数

2707.20353.6031.07协方差分析表νMSF35第三十五页，共五十三页，编辑于2023年，星期一6．计算公共回归系数bc及各组修正均数36第三十六页，共五十三页，编辑于2023年，星期一7．修正均数间差别进行两两比较–

q

检验结果：A饲料与B饲料修正均数间无差别(P﹥0.05)，但都高于C饲料(P﹤0.01)，可以认为在扣除初始体重影响后，A饲料和B饲料喂养的平均增重均比C饲料多。37第三十七页，共五十三页，编辑于2023年，星期一

进行协方差分析之前应先检验各组Y与X是否为线性关系且各回归线是否平行，若Y与X为非线性关系；若各组回归系数不同，说明处理效应与协变量存在交互作用，此时都不能直接应用协方差分析。第二节协方差分析的推广38第三十八页，共五十三页，编辑于2023年，星期一表10-1数据是否满足条件：（1）levene‘s方差齐性检验：F＝0.045，P＝0.833（2）两回归方程的检验：b1＝0.511，t＝3.061，P＝0.007b0＝0.112，t＝0.418，P＝0.684（3）两回归线是否平行变异来源自由度SSMSFP公共291338.017回归系数间167.57367.5731.489>0.05组内281270.44445.373F0.05（1，28）＝4.20方差分析表39第三十九页，共五十三页，编辑于2023年，星期一1.Y与X为非线性关系（1）Y与X是平行的非线性关系办法：可只对X做变量变换例如：对X做平方根转换，Y与之间的为线性关系。40第四十页，共五十三页，编辑于2023年，星期一（2）Y与X是不平行的非线性关系办法：可对Y和（或）X做变量变换。例如：可对Y做对数变换，且分析完成之后应作逆变换以便解释处理效应。41第四十一页，共五十三页，编辑于2023年，星期一

举例：假设两对比组数据，对反应变量Y做对数变换后，进行协方差分析得到

则有：（对照组）（处理组）42第四十二页，共五十三页，编辑于2023年，星期一那么：说明处理组相对于对照组，由某因素X造成处理效应增加约20倍。43第四十三页，共五十三页，编辑于2023年，星期一（3）Y与X是不平行的非线性关系，且没有合适的数据转换方法将其转换为线性关系。44第四十四页，共五十三页，编辑于2023年，星期一2.两回归线不平行Y＝αi+βiX+ei＝0，1图10-2两组回归线不平行的情况45第四十五页，共五十三页，编辑于2023年，星期一3.多个混杂因素的控制同时对多个协变量进行校正10-810-9一些专家认为，应重点考虑一个或两个最重要的混杂因素，这样，既可消除大部分的偏倚又可避免因协变量太多而使问题复杂化。这种做法在很多情况下是有效的，但有时也会出现“校枉过正”（不如不校）的情形。46第四十六页，共五十三页，编辑于2023年，星期一第三节交互作用与协同作用47第四十七页，共五十三页，编辑于2023年，星期一比较四种方法对轴突通过率的影响，处理因素是缝合方法，有4个水平。可以有以下几种设计：完全随机设计：n个家兔随机分为4组随机区组设计：将n个家兔按出生年龄相近的原则，4个一组配成区组后，每个区组随机分配处理拉丁方设计：在随机区组基础上增加了一个列区组，如家兔按甲、乙、丙、丁4个种系（行区组），每个种系的4只小鼠按年龄大小分Ⅰ、Ⅱ、Ⅲ、Ⅳ4个级别（列区组），A、B、C、D4个字母代表处理例研究两种神经缝合方法在不同时间点对神经进行缝合后的恢复效果，将20只家兔随机分为四组48第四十八页，共五十三页，