SPSS高级第部分课件

方差分析模型一、什么是方差分析(ANOVA)?

(analysisofvariance)检验多个总体均值是否相等通过分析数据的误差判断各总体均值是否相等研究分类型自变量对数值型因变量的影响一个或多个分类型自变量一个数值型因变量有单因素方差分析和双因素方差分析单因素方差分析：涉及一个分类的自变量双因素方差分析：涉及两个分类的自变量二、方差分析模型常用术语因素（Factor）因素是可能对因变量有影响的变量，一般来说，因素会有不止一个水平，而分析的目的就是考察或比较各个水平对因变量的影响是否相同。水平（Level）因素的不同取值等级称作水平，例如性别有男、女两个水平。3单元（Cell）单元亦称试验单位（ExperimentalUnit），指各因素的水平之间的每种组合。指各因素各个水平的组合，例如在研究性别（二水平）、血型（四水平）对成年人身高的影响时，该设计最多可以有2*4＝8个单元。方差分析模型常用术语元素（Element）指用于测量因变量值的观察单位，比如研究职业与收入间的关系，月收入是从每一位受访者处得到，则每位受访者就是试验的元素一个单元格内可以有多个元素，也可以只有一个，甚至于没有元素。4均衡（Balance）如果在一个实验设计中任一因素各水平在所有单元格中出现的次数相同，且每个单元格内的元素数均相同，则该试验是均衡的，否则，就被称为不均衡。方差分析模型常用术语固定因素（FixedFactor）指的是该因素在样本中所有可能的水平都出现了。从样本的分析结果中就可以得知所有水平的状况，无需进行外推。绝大多数情况下，研究者所真正关心的因素都是固定因素。性别：只有两种疗法：只有三种5方差分析模型常用术语随机因素（RandomFactor）该因素所有可能的取值在样本中没有都出现，目前在样本中的这些水平是从总体中随机抽样而来，如果我们重复本研究，则可能得到的因素水平会和现在完全不同！这时，研究者显然希望得到的是一个能够“泛化”，即对所有可能出现的水平均适用的结果。这不可避免的存在误差，需要估计误差的大小，因此被称为随机因素。6方差分析模型常用术语协变量（Covariates）指对因变量可能有影响，需要在分析时对其作用加以控制的连续性变量实际上，可以简单的把因素和协变量分别理解为分类自变量和连续性自变量7交互作用（Interaction）如果一个因素的效应大小在另一个因素不同水平下明显不同，则称为两因素间存在交互作用。当存在交互作用时，单纯研究某个因素的作用是没有意义的，必须分另一个因素的不同水平研究该因素的作用大小。什么是方差分析?

(例题分析)消费者对四个行业的投诉次数行业观测值零售业旅游业航空公司家电制造业123456757664940345344683929455651403149213440304144516577585564【例】为了对几个行业的服务质量进行评价，消费者协会在4个行业分别抽取了不同的企业作为样本。最近一年中消费者对总共23家企业投诉的次数如下表什么是方差分析?

(例题分析)分析4个行业之间的服务质量是否有显著差异，也就是要判断“行业”对“投诉次数”是否有显著影响作出这种判断最终被归结为检验这四个行业被投诉次数的均值是否相等若它们的均值相等，则意味着“行业”对投诉次数是没有影响的，即它们之间的服务质量没有显著差异；若均值不全相等，则意味着“行业”对投诉次数是有影响的，它们之间的服务质量有显著差异散点图观察不能提供充分的证据证明不同行业被投诉的次数之间有显著差异这种差异可能是由于抽样的随机性所造成的需要有更准确的方法来检验这种差异是否显著，也就是进行方差分析所以叫方差分析，因为虽然我们感兴趣的是均值，但在判断均值之间是否有差异时则需要借助于方差这个名字也表示：它是通过对数据误差来源的分析判断不同总体的均值是否相等。因此，进行方差分析时，需要考察数据误差的来源方差分析的基本思想和原理方差分析的基本思想和原理

(两类误差)随机误差因素的同一水平(总体)下，样本各观察值之间的差异比如，同一行业下不同企业被投诉次数之间的差异这种差异可以看成是随机因素的影响，称为随机误差

系统误差因素的不同水平(不同总体)之间观察值的差异比如，不同行业之间的被投诉次数之间的差异这种差异可能是由于抽样的随机性所造成的，也可能是由于行业本身所造成的，后者所形成的误差是由系统性因素造成的，称为系统误差方差分析的基本思想和原理

(误差平方和—SS)数据的误差用平方和(sumofsquares)表示组内平方和(withingroups)因素的同一水平下数据误差的平方和比如，零售业被投诉次数的误差平方和只包含随机误差组间平方和(betweengroups)因素的不同水平之间数据误差的平方和比如，4个行业被投诉次数之间的误差平方和既包括随机误差，也包括系统误差方差分析的基本思想和原理

(均方—MS)平方和除以相应的自由度若原假设成立，组间均方与组内均方的数值就应该很接近，它们的比值就会接近1若原假设不成立，组间均方会大于组内均方，它们之间的比值就会大于1当这个比值大到某种程度时，就可以说不同水平之间存在着显著差异，即自变量对因变量有影响判断行业对投诉次数是否有显著影响，也就是检验被投诉次数的差异主要是由于什么原因所引起的。如果这种差异主要是系统误差，说明不同行业对投诉次数有显著影响方差分析中的基本假定在上述假定条件下，判断行业对投诉次数是否有显著影响，实际上也就是检验具有同方差的4个正态总体的均值是否相等如果4个总体的均值相等，可以期望4个样本的均值也会很接近4个样本的均值越接近，推断4个总体均值相等的证据也就越充分样本均值越不同，推断总体均值不同的证据就越充分

问题的一般提法设因素有k个水平，每个水平的均值分别用

1,

2,,

k

表示要检验k个水平(总体)的均值是否相等，需要提出如下假设：H0：

1

2

…

k

H1：

1,

2,，

k

不全相等设

1为零售业被投诉次数的均值，

2为旅游业被投诉次数的均值，

3为航空公司被投诉次数的均值，

4为家电制造业被投诉次数的均值，提出的假设为H0：

1

2

3

4

H1：

1,

2,

3,

4不全相等单因素方差分析1数据结构2分析步骤单因素方差分析的数据结构

(one-wayanalysisofvariance)

观察值(j)因素(A)i水平A1水平A2

…水平Ak12::n

x11

x21

…

xk1x12

x22

…

xk2::

:

:::

:

:x1n

x2n

…

xkn分析步骤提出假设构造检验统计量统计决策提出假设一般提法H0

：m1=m2=…=

mk

自变量对因变量没有显著影响H1：m1

，m2

，…

，mk不全相等自变量对因变量有显著影响注意：拒绝原假设，只表明至少有两个总体的均值不相等，并不意味着所有的均值都不相等

构造检验的统计量构造统计量需要计算水平的均值全部观察值的总均值误差平方和均方(MS)

构造检验的统计量

(计算水平的均值)假定从第i个总体中抽取一个容量为ni的简单随机样本，第i个总体的样本均值为该样本的全部观察值总和除以观察值的个数计算公式为式中：ni为第i个总体的样本观察值个数

xij为第i个总体的第j个观察值

构造检验的统计量

(计算全部观察值的总均值)全部观察值的总和除以观察值的总个数计算公式为

构造检验的统计量

(例题分析)4030415564构造检验的统计量

(计算总误差平方和SST)全部观察值与总平均值的离差平方和反映全部观察值的离散状况其计算公式为前例的计算结果

SST=(57-47.869565)2+…+(58-47.869565)2=115.9295构造检验的统计量

(计算组间平方和SSA)各组平均值与总平均值的离差平方和反映各总体的样本均值之间的差异程度该平方和既包括随机误差，也包括系统误差计算公式为

前例的计算结果SSA=1456.608696构造检验的统计量

(计算组内平方和SSE)每个水平或组的各样本数据与其组平均值的离差平方和反映每个样本各观察值的离散状况该平方和反映的是随机误差的大小计算公式为

前例的计算结果SSE=2708构造检验的统计量

(三个平方和的关系)

总离差平方和(SST)、误差项离差平方和(SSE)、水平项离差平方和(SSA)之间的关系SST=SSA+SSE前例的计算结果

4164.608696=1456.608696+2708构造检验的统计量

(计算均方MS)各误差平方和的大小与观察值的多少有关，为消除观察值多少对误差平方和大小的影响，需要将其平均，这就是均方，也称为方差由误差平方和除以相应的自由度求得三个平方和对应的自由度分别是SST的自由度为n-1，其中n为全部观察值的个数SSA的自由度为k-1，其中k为因素水平(总体)的个数SSE的自由度为n-k构造检验的统计量

(计算均方MS)组间方差：SSA的均方，记为MSA，计算公式为组内方差：SSE的均方，记为MSE，计算公式为构造检验的统计量

(计算检验统计量F)将MSA和MSE进行对比，即得到所需要的检验统计量F当H0为真时，二者的比值服从分子自由度为k-1、分母自由度为n-k的F分布，即构造检验的统计量

(F分布与拒绝域)如果均值相等，F=MSA/MSE1a

F分布F

(k-1,n-k)0拒绝H0不能拒绝H0F统计决策

将统计量的值F与给定的显著性水平

的临界值F

进行比较，作出对原假设H0的决策根据给定的显著性水平

，在F分布表中查找与第一自由度df1＝k-1、第二自由度df2=n-k相应的临界值F

若F>F

，则拒绝原假设H0

，表明均值之间的差异是显著的，所检验的因素对观察值有显著影响若F<F

，则不拒绝原假设H0

，无证据表明所检验的因素对观察值有显著影响单因素方差分析表

(基本结构)误差来源平方和(SS)自由度(df)均方(MS)F值P值F临界值组间(因素影响)SSAk-1MSAMSAMSE组内(误差)SSEn-kMSE总和SSTn-1一般线性模型模型表达式假设现在希望描述某个人群的月收入状况，那么根据统计学知识，均数能够表示集中趋势，标准差能够表示离散趋势，则任何一位受访者i的月收入Xi该如何表达？显然，这里的的εi应当服从正态分布，其均数为0，标准差为相应总体标准差在只有样本信息时，样本均数和标准差就是上述参数的最佳估计值。362025/10/837模型表达式入门现在希望比较三种职业的月收入有无差异，这三类职业分别是医生、律师和软件工程师。如果我们仍然希望能够对每一个个体的数据加以表达，应当如何做？38模型表达式入门：单因素方差分析控制因素观测变量三个水平39模型表达式入门将上面三个式子可以合并如下：为了进一步分析的方便，一般都会寻找一个均数的参照水平，将其余组的平均水平与之相比显然，这样的组合会有许多种，因此模型在实际分析的时候往往会加上一些限制条件，比如假设参照水平是最后一个组的均数，这被称为拟合的约束条件40模型表达式入门由于在常见的研究中，我们更关心各组均数的差别，对于标准差的差别则比较忽视，因此在最初的方差分析模型中，往往将不同组的εij假设为服从相同的正态分布（就是说相同）41模型表达式入门如果三种职业的平均收入无差异，则应当有α1=α2=α3=0，要检验职业种类对收入有无影响，就要检验如下假设H0：αi＝0，H1：至少有一个αi≠042案例：胶合板磨损深度的比较现希望比较四种胶合板的耐磨性，分别从这四个品牌的胶合板中抽取了5个样品，在相同的转速下磨损相同时间，测量其被磨损的深度（mm），现希望对此进行分析，数据见veneer.sav方差齐性检验模型参数估计值与设计矩阵43两两比较方法LSD法：实际上就是t检验的变形，因此仍然存在放大第一类错误的问题。相对犯第二类错误概率较小。S-N-K法：是运用最广泛的一种两两比较方法。该方法保证在H0真正成立时总的α水准等于实际设定值，即控制了一类错误。两两比较方法45Bonferroni:该方法介于前LSD与Scheffe之间。通过设置每个检验的第一类错误水准来控制总的第一类错误水准。（存在明确对照组，计划好的几个组两两比较，进行验证性研究适用）TUKEY：它控制的是所有比较中最大的一类错误不超过规定的第一类错误。（探索性研究，且各组人数相同时适用）Scheffe法：当各组人数不相等，但它相对比较保守。犯第二类错误概率较大，原假设为假，有差异，却没检查出来。（各组人数不同适用）多因素方差分析模型目的：在同时考虑若干个控制因素的情况下，分别分析它们的改变是否造成观察变量的显著变动47无交互作用下的方差分析设A与B是可能对试验结果有影响的两个因素，相互独立，无交互作用。分析步骤

(提出假设)

提出假设对行因素提出的假设为H0：m1=m2

=

…=mi=…=mk(mi为第i个水平的均值)H1：mi

(i=1,2,…,k)不全相等对列因素提出的假设为H0：m1=m2

=

…=mj=…=mr(mj为第j个水平的均值)H1：mj

(j=1,2,…,r)不全相等分析步骤

(构造检验的统计量)

计算平方和(SS)总误差平方和行因素误差平方和列因素误差平方和随机误差项平方和分析步骤

(构造检验的统计量)

总误差平方和(SST)、行因素平方和(SSR)、列因素平方和(SSC)、误差项平方和(SSE)之间的关系SST=SSR+SSC+SSE分析步骤

(构造检验的统计量)

计算均方(MS)误差平方和除以相应的自由度三个平方和的自由度分别是总误差平方和SST的自由度为kr-1行因素平方和SSR的自由度为k-1列因素平方和SSC的自由度为r-1误差项平方和SSE的自由度为(k-1)×(r-1)

分析步骤

(构造检验的统计量)

计算均方(MS)行因素的均方，记为MSR，计算公式为列因素的均方，记为MSC

，计算公式为误差项的均方，记为MSE

，计算公式为分析步骤

(构造检验的统计量)

计算检验统计量(F)检验行因素的统计量检验列因素的统计量分析步骤

(统计决策)

将统计量的值F与给定的显著性水平

的临界值F

进行比较，作出对原假设H0的决策根据给定的显著性水平

在F分布表中查找相应的临界值F

若FR>F

，拒绝原假设H0

，表明均值之间的差异是显著的，即所检验的行因素对观察值有显著影响若FC

>F

，拒绝原假设H0

，表明均值之间有显著差异，即所检验的列因素对观察值有显著影响双因素方差分析表

(基本结构)误差来源平方和(SS)自由度(df)均方(MS)F值P值F临界值行因素SSRk-1MSRMSRMSE列因素SSCr-1MSCMSCMSE误差SSE(k-1)(r-1)MSE总和SSTkr-1二、有交互作用的方差分析当两个因素不一定独立，可能存在交互作用时，我们需要在各个因素水平组合下，进行重复试验，才能看交互影响是否真的存在；因此，此时方差分析的数据结构不同于无交互作用情形。

可重复双因素分析

(平方和的计算)总平方和：行变量平方和：列变量平方和：交互作用平方和：误差项平方和：SST=SSR+SSC+SSRC+SSE可重复双因素方差分析表

(基本结构)误差来源平方和(SS)自由度(df)均方(MS)F值P值F临界值行因素SSRk-1MSRFR列因素SSCr-1MSCFC交互作用SSRC(k-1)(r-1)MSRCFRC误差SSEKr(m-1)MSE总和SSTn-1m为样本的行数假设检验是基于变异分解的原理进行的，都是F检验。根据变异分解式，可以将总的样本离均差平方和分解成各个部分，随后各个离均差平方和除以自由度可得到均方，进而将各效应的均方和误差均方相比较，就得到了F统计量63模型表达式如果只研究职业的影响如果只研究性别的影响同时考虑职业和性别对收入的影响64方差分析模型的检验层次对总模型进行检验对模型中各交互效应、主效应进行检验交互项有统计学意义：分解为各种水平的组合情况进行检验交互项无统计学意义：进行主效应各水平的两两比较65方差分析模型的适用条件从模型表达式出发得到的提示各样本的独立性：只有各样本为相互独立的随机样本，才能保证变异的可加性（可分解性）正态性：即个单元格内的所有观察值系从正态总体中抽样得出方差齐：各个单元格中的数据离散程度均相同，即各单元格方差齐66方差分析模型的适用条件实际运用在多因素方差分析中，由于个因素水平组合下来每个单元格内的样本量可能非常少，这样直接进行正