贾俊平统计学第10章方差分析

第10章方差分析作者：中国人民大学统计学院贾俊平PowerPoint统计学10.1方差分析引论10.2单原因方差分析10.3双原因方差分析第10章方差分析学习目的解释方差分析的概念解释方差分析的基本思想和原理掌握单原因方差分析的措施及应用理解多重比较的意义掌握双原因方差分析的措施及应用10.1方差分析引论10.1.1方差分析及其有关术语10.1.2方差分析的基本思想和原理10.1.3方差分析的基本假定10.1.4问题的一般提法方差分析及其有关术语什么是方差分析(ANOVA)?

(analysisofvariance)检查多种总体均值与否相等通过度析数据的误差判断各总体均值与否相等研究分类型自变量对数值型因变量的影响一种或多种分类型自变量两个或多种(k个)处理水平或分类一种数值型因变量有单原因方差分析和双原因方差分析单原因方差分析：波及一种分类的自变量双原因方差分析：波及两个分类的自变量什么是方差分析?

(例题分析)消费者对四个行业的投诉次数行业观测值零售业旅游业航空公司家电制造业12345675766494034534468392945565131492134404451657758【例】为了对几种行业的服务质量进行评价，消费者协会在4个行业分别抽取了不一样的企业作为样本。近来一年中消费者对总共23家企业投诉的次数如下表什么是方差分析?

(例题分析)分析4个行业之间的服务质量与否有明显差异，也就是要判断“行业”对“投诉次数”与否有明显影响作出这种判断最终被归结为检查这四个行业被投诉次数的均值与否相等若它们的均值相等，则意味着“行业”对投诉次数是没有影响的，即它们之间的服务质量没有明显差异；若均值不全相等，则意味着“行业”对投诉次数是有影响的，它们之间的服务质量有明显差异方差分析中的有关术语原因或因子(factor)所要检查的对象分析行业对投诉次数的影响，行业是要检查的因子水平或处理(treatment)因子的不一样体现零售业、旅游业、航空企业、家电制造业观测值在每个原因水平下得到的样本数据每个行业被投诉的次数方差分析中的有关术语试验这里只波及一种原因，因此称为单原因4水平的试验总体原因的每一种水平可以看作是一种总体零售业、旅游业、航空企业、家电制造业是4个总体样本数据被投诉次数可以看作是从这4个总体中抽取的样本数据方差分析的基本思想和原理方差分析的基本思想和原理

(图形分析—散点图)零售业旅游业航空公司家电制造从散点图上可以看出不一样行业被投诉的次数有明显差异同一种行业，不一样企业被投诉的次数也明显不一样家电制造被投诉的次数较高，航空企业被投诉的次数较低行业与被投诉次数之间有一定的关系假如行业与被投诉次数之间没有关系，那么它们被投诉的次数应当差不多相似，在散点图上所展现的模式也就应当很靠近方差分析的基本思想和原理

(图形分析)散点图观测不能提供充足的证据证明不一样行业被投诉的次数之间有明显差异这种差异也许是由于抽样的随机性所导致的需要有更精确的措施来检查这种差异与否明显，也就是进行方差分析因此叫方差分析，由于虽然我们感爱好的是均值，但在判断均值之间与否有差异时则需要借助于方差这个名字也表达：它是通过对数据误差来源的分析判断不一样总体的均值与否相等。因此，进行方差分析时，需要考察数据误差的来源方差分析的基本思想和原理方差分析的基本思想和原理

(两类误差)随机误差原因的同一水平(总体)下，样本各观测值之间的差异例如，同一行业下不一样企业被投诉次数之间的差异这种差异可以当作是随机原因的影响，称为随机误差系统误差原因的不一样水平(不一样总体)之间观测值的差异例如，不一样行业之间的被投诉次数之间的差异这种差异也许是由于抽样的随机性所导致的，也也许是由于行业自身所导致的，后者所形成的误差是由系统性原因导致的，称为系统误差方差分析的基本思想和原理

(误差平方和—SS)数据的误差用平方和(sumofsquares)表达组内平方和(withingroups)原因的同一水平下数据误差的平方和例如，零售业被投诉次数的误差平方和只包括随机误差组间平方和(betweengroups)原因的不一样水平之间数据误差的平方和例如，4个行业被投诉次数之间的误差平方和既包括随机误差，也包括系统误差方差分析的基本思想和原理

(均方—MS)平方和除以对应的自由度若原假设成立，组间均方与组内均方的数值就应当很靠近，它们的比值就会靠近1若原假设不成立，组间均方会不小于组内均方，它们之间的比值就会不小于1当这个比值大到某种程度时，就可以说不一样水平之间存在着明显差异，即自变量对因变量有影响判断行业对投诉次数与否有明显影响，也就是检查被投诉次数的差异重要是由于什么原因所引起的。假如这种差异重要是系统误差，阐明不一样行业对投诉次数有明显影响方差分析的基本假定方差分析的基本假定每个总体都应服从正态分布对于原因的每一种水平，其观测值是来自服从正态分布总体的简朴随机样本例如，每个行业被投诉的次数必须服从正态分布各个总体的方差必须相似各组观测数据是从具有相似方差的总体中抽取的例如，4个行业被投诉次数的方差都相等观测值是独立的例如，每个行业被投诉的次数与其他行业被投诉的次数独立方差分析中的基本假定在上述假定条件下，判断行业对投诉次数与否有明显影响，实际上也就是检查具有同方差的4个正态总体的均值与否相等假如4个总体的均值相等，可以期望4个样本的均值也会很靠近4个样本的均值越靠近，推断4个总体均值相等的证据也就越充足样本均值越不一样，推断总体均值不一样的证据就越充足方差分析中基本假定假如原假设成立，即H0：m1=m2=m3=m44个行业被投诉次数的均值都相等意味着每个样本都来自均值为、方差为2的同一正态总体Xf(X)

1

2

3

4

方差分析中基本假定若备择假设成立，即H1：mi(i=1,2,3,4)不全相等至少有一种总体的均值是不一样的4个样本分别来自均值不一样的4个正态总体Xf(X)

3

1

2

4

问题的一般提法问题的一般提法设原因有k个水平，每个水平的均值分别用1,2,,k表达要检查k个水平(总体)的均值与否相等，需要提出如下假设：H0：12…kH1：1,2,，k不全相等设1为零售业被投诉次数的均值，2为旅游业被投诉次数的均值，3为航空企业被投诉次数的均值，4为家电制造业被投诉次数的均值，提出的假设为H0：1234H1：1,2,3,4不全相等10.2单原因方差分析10.2.1数据构造10.2.2分析环节10.2.3关系强度的测量10.2.4方差分析中的多重比较单原因方差分析的数据构造

(one-wayanalysisofvariance)观察值(j)因素(A)i

水平A1水平A2

…水平Ak12::n

x11

x21

…

xk1x12

x22

…

xk2::

:

:::

:

:x1n

x2n

…

xkn分析环节提出假设构造检查记录量记录决策提出假设一般提法H0：m1=m2=…=mk自变量对因变量没有明显影响H1：m1，m2，…，mk不全相等自变量对因变量有明显影响注意：拒绝原假设，只表明至少有两个总体的均值不相等，并不意味着所有的均值都不相等构造检查的记录量构造记录量需要计算水平的均值所有观测值的总均值误差平方和均方(MS)构造检查的记录量

(计算水平的均值)假定从第i个总体中抽取一种容量为ni的简朴随机样本，第i个总体的样本均值为该样本的所有观测值总和除以观测值的个数计算公式为式中：ni为第i个总体的样本观测值个数xij为第i个总体的第j个观测值构造检查的记录量

(计算所有观测值的总均值)所有观测值的总和除以观测值的总个数计算公式为构造检查的记录量

(例题分析)构造检查的记录量

(计算总误差平方和SST)所有观测值与总平均值的离差平方和反应所有观测值的离散状况其计算公式为前例的计算成果SST=(57-47.869565)2+…+(58-47.869565)2=115.9295构造检查的记录量

(计算组间平方和SSA)各组平均值与总平均值的离差平方和反应各总体的样本均值之间的差异程度该平方和既包括随机误差，也包括系统误差计算公式为前例的计算成果SSA=1456.608696构造检查的记录量

(计算组内平方和SSE)每个水平或组的各样本数据与其组平均值的离差平方和反应每个样本各观测值的离散状况该平方和反应的是随机误差的大小计算公式为前例的计算成果SSE=2708构造检查的记录量

(三个平方和的关系)

总离差平方和(SST)、误差项离差平方和(SSE)、水平项离差平方和(SSA)之间的关系SST=SSA+SSE前例的计算成果4164.608696=1456.608696+2708构造检查的记录量

(计算均方MS)各误差平方和的大小与观测值的多少有关，为消除观测值多少对误差平方和大小的影响，需要将其平均，这就是均方，也称为方差由误差平方和除以对应的自由度求得三个平方和对应的自由度分别是SST的自由度为n-1，其中n为所有观测值的个数SSA的自由度为k-1，其中k为原因水平(总体)的个数SSE的自由度为n-k构造检查的记录量

(计算均方MS)组间方差：SSA的均方，记为MSA，计算公式为组内方差：SSE的均方，记为MSE，计算公式为构造检查的记录量

(计算检查记录量F)将MSA和MSE进行对比，即得到所需要的检查记录量F当H0为真时，两者的比值服从分子自由度为k-1、分母自由度为n-k的F分布，即构造检查的记录量

(F分布与拒绝域)假如均值相等，F=MSA/MSE1a

F分布F

(k-1,n-k)0拒绝H0不能拒绝H0F记录决策将记录量的值F与给定的明显性水平的临界值F进行比较，作出对原假设H0的决策根据给定的明显性水平，在F分布表中查找与第一自由度df1＝k-1、第二自由度df2=n-k对应的临界值F若F>F，则拒绝原假设H0，表明均值之间的差异是明显的，所检查的原因对观测值有明显影响若F<F，则不拒绝原假设H0，无证据表明所检查的原因对观测值有明显影响单原因方差分析表

(基本构造)误差来源平方和(SS)自由度(df)均方(MS)F值P值F临界值组间(因素影响)SSAk-1MSAMSAMSE组内(误差)SSEn-kMSE总和SSTn-1单原因方差分析

(例题分析)用Excel进行方差分析

(Excel分析环节)第1步：选择“工具”下拉菜单第2步：选择【数据分析】选项第3步：在分析工具中选择【单原因方差分析】，然后选择【确定】第4步：当对话框出现时在【输入区域】方框内键入数据单元格区域在【】方框内键入0.05(可根据需要确定)在【输出选项】中选择输出区域关系强度的测量关系强度的测量

拒绝原假设表明原因(自变量)与观测值之间有明显关系组间平方和(SSA)度量了自变量(行业)对因变量(投诉次数)的影响效应只要组间平方和SSA不等于0，就表明两个变量之间有关系(只是与否明显的问题)当组间平方和比组内平方和(SSE)大，并且大到一定程度时，就意味着两个变量之间的关系明显，大得越多，表明它们之间的关系就越强。反之，就意味着两个变量之间的关系不明显，小得越多，表明它们之间的关系就越弱关系强度的测量

变量间关系的强度用自变量平方和(SSA)占总平方和(SST)的比例大小来反应自变量平方和占总平方和的比例记为R2,即其平方根R就可以用来测量两个变量之间的关系强度关系强度的测量

(例题分析)

R=0.591404结论行业(自变量)对投诉次数(因变量)的影响效应占总效应的34.9759%，而残差效应则占65.0241%。即行业对投诉次数差异解释的比例到达近35%，而其他原因(残差变量)所解释的比例近为65%以上R=0.591404，表明行业与投诉次数之间有中等以上的关系方差分析中的多重比较

(multiplecomparisonprocedures)多重比较的意义通过对总体均值之间的配对比较来深入检查究竟哪些均值之间存在差异可采用Fisher提出的最小明显差异措施，简写为LSDLSD措施是对检查两个总体均值与否相等的t检查措施的总体方差估计加以修正(用MSE来替代)而得到的多重比较的环节提出假设H0:mi=mj(第i个总体的均值等于第j个总体的均值)H1:mimj(第i个总体的均值不等于第j个总体的均值)计算检查的记录量:计算LSD决策：若，拒绝H0；若，不拒绝H0多重比较分析

(例题分析)第1步：提出假设检查1：检查2：检查3：检查4：检查5：检查6：方差分析中的多重比较

(例题分析)第2步：计算检查记录量检查1：检查2：检查3：检查4：检查5：检查6：方差分析中的多重比较

(例题分析)第3步：计算LSD检查1：检查2：检查3：检查4：检查5：检查6：方差分析中的多重比较

(例题分析)第4步：作出决策不能认为零售业与旅游业均值之间有显著差异

不能认为零售业与航空企业均值之间有明显差异不能认为零售业与家电业均值之间有明显差异不能认为旅游业与航空业均值之间有明显差异不能认为旅游业与家电业均值之间有明显差异航空业与家电业均值有明显差异10.3双原因方差分析10.3.1双原因方差分析及其类型10.3.2无交互作用的双原因方差分析10.3.3有交互作用的双原因方差分析双原因方差分析

(two-wayanalysisofvariance)分析两个原因(行原因Row和列原因Column)对试验成果的影响假如两个原因对试验成果的影响是互相独立的，分别判断行原因和列原因对试验数据的影响，这时的双原因方差分析称为无交互作用的双原因方差分析或无反复双原因方差分析(Two-factorwithoutreplication)假如除了行原因和列原因对试验数据的单独影响外，两个原因的搭配还会对成果产生一种新的影响，这时的双原因方差分析称为有交互作用的双原因方差分析或可反复双原因方差分析(Two-factorwithreplication)双原因方差分析的基本假定每个总体都服从正态分布对于原因的每一种水平，其观测值是来自正态分布总体的简朴随机样本各个总体的方差必须相似对于各组观测数据，是从具有相似方差的总体中抽取的观测值是独立的无交互作用的双原因方差分析

(无反复双原因分析)双原因方差分析

(例题分析)不同品牌的彩电在5个地区的销售量数据品牌因素地区因素地区1地区2地区3地区4地区5品牌1品牌2品牌3品牌4365345358288350368323280343363353298340330343260323333308298【例】有4个品牌的彩电在5个地区销售，为分析彩电的品牌(品牌原因)和销售地区(地区原因)对销售量的影响，对每明显个品牌在各地区的销售量获得如下数据。试分析品牌和销售地区对彩电的销售量与否有明显影响？(=0.05)数据构造数据构造是行原因的第i个水平下各观测值的平均值是列原因的第j个水平下各观测值的平均值是所有kr个样本数据的总平均值分析环节

(提出假设)提出假设对行原因提出的假设为H0：m1=m2=…=mi=…=mk(mi为第i个水平的均值)H1：mi(i=1,2,…,k)不全相等对列原因提出的假设为H0：m1=m2=…=mj=…=mr(mj为第j个水平的均值)H1：mj(j=1,2,…,r)不全相等分析环节

(构造检查的记录量)计算平方和(SS)总误差平方和行原因误差平方和列原因误差平方和随机误差项平方和分析环节

(构造检查的记录量)总误差平方和(SST)、行原因平方和(SSR)、列原因平方和(SSC)、误差项平方和(SSE)之间的关系SST=SSR+SSC+SSE分析环节

(构造检查的记录量)计算均方(MS)误差平方和除以对应的自由度三个平方和的自由度分别是总误差平方和SST的自由度为kr-1行原因平方和SSR的自由度为k-1列原因平方和SSC的自由度为r-1误差项平方和SSE的自由度为(k-1)×(r-1)分析环节

(构造检查的记录量)计算均方(MS)行原因的均方，记为MSR，计算公式为列原因的均方，记为MSC，计算公式为误差项的均方，记为MSE，计算公式为分析环节

(构造检查的记录量)计算检查记录量(F)检查行原因的记录量检查列原因的记录量分析环节

(记录决策)将记录量的值F与给定的明显性水平的临界值F进行比较，作出对原假设H0的决策根据给定的明显性水平在F分布表中查找对应的临界值F若FR>F，拒绝原假设H0，表明均值之间的差异是明显的，即所检查的行原因对观测值有明显影响若FC>F，拒绝原假设H0，表明均值之间有明显差异，即所检查的列原因对观测值有明显影响双原因方差分析表

(基本构造)误差来源平方和(SS)自由度(df)均方(MS)F值P值F临界值行因素SSRk-1MSRMSRMSE列因素SSCr-1MSCMSCMSE误差SSE(k-1)(r-1)MSE总和SSTkr-1双原因方差分析

(例题分析)提出假设对品牌原因提出的假设为H0：m1=m2=m3=m4(品牌对销售量无明显影响)H1：mi(i=1,2,…,4)不全相等(有明显影响)对地区原因提出的假设为H0：m1=m2=m3=m4=m5(地区对销售量无明显影响)H1：mj(j=1,2,…,5)不全相等(有明显影响)双原因方差分析

(例题分析)结论：FR＝18.10777>F＝3.4903，拒绝原假设H0，阐明彩电的品牌对销售量有明显影响FC＝2.100846<F＝3.2592，不拒绝原假设H0，无证据表明销售地区对彩电的销售量有明显影响双原因方差分析

(关系强度的测量)行平方和(SSR)度量了品牌这个自变量对因变量(销售量)的影响效应列平方和(SSC)度量了地区这个自变量对因变量(销售量)的影响效应这两个平方和加在一起则度量了两个自变量对因变量的联合效应联合效应与总平方和的比值定义为R2其平方根R反应了这两个自变量合起来与因变量之间的关系强度双原因方差分析

(关系强度的测量)例题分析品牌原因和地区原因合起来总共解释了销售量差异的83.94%其他原因(残差变量)只解释了销售量差异的16.06%R=0.9162，表明品牌和地