方差分析专题

1、方差分析专题单因素试验的方差分析（一）单因素试验在科学试验和生产实践中，影响一事物的因素往往是很多的。例如，在化工生产中，有原料成分、原料剂量、催化剂、反应温度、压力、溶液浓度、反应时间、机器设备及操作人员的水平等因素。每一因素的改变都有可能影响产品的数量和质量。有些因素影响较大，有些较小。为了使生产过程得以稳定，保证优质、高产，就有必要找出对产品质量有显著影响的那些因素。为此，我们需进行试验。方差分析就是根据试验的结果进行分析，鉴别各个有关因素对试验结果影响的有效方法。在试验中，我们将要考察的指标称为试验指标。影响试验指标的条件称为因素。因素可分为两类，一类是人们可以控制的（可控因素）；一类

2、是人们不能控制的。例如，反应温度、原料剂量、溶液浓度等是可以控制的，而测量误差、气象条件等一般是难以控制的。以下我们所说的因素都是指可控因素。因素所处的状态，称为该因素的水平（见下述各例）。如果在一项试验中只有一个因素在改变称为单因素试验，如果多于一个因素在改变称为多因素试验。例1设有三台机器，用来生产规格相同的铝合金薄板。取样，测量薄板的厚度精确至千分之一厘米。得结果如表9.1所示。表9.1铝合金板的厚度这里，试验的指标是薄板的厚度。机器为因素，不同的三台机器就是这个因素的三个不同的水平。我们假定除机器这一因素外，材料的规格、操作人员的水平等其它条件都相同。这是机器I机器n机器川0.2360

3、.2570.2580.2380.2530.2640.2480.2550.2590.2450.2540.2670.2430.2610.262单因素试验。试验的目的是为了考察各台机器所生产的薄板的厚度有无显著的差异。即考察机器这一因素对厚度有无显著的影响。例2下面列出了随机选取的、用于计算器的四种类型的电路的响应时间（以毫秒计）。表9.2电路的响应时间这里，试验的指标是电路的响应时间。电路类型为因素，这一因素有4个水平。这是一个单因素试验。试验的目的是为了考察各种类型电路的响应时间有无显著差异。即考察电路类型这一因素对响应时间有无显著的影响。类型I类型n类型川类型W1920161822211522

4、20331819182726154017例3一火箭使用了四种燃料，三种推进器作射程试验。每种燃料与每种推进器的组合各发射火箭两次，得结果如下（射程以海里计）。表9.3火箭的射程推进器（B）B1B2B3A58.256.265.352.641.260.8A249.154.151.6燃料（A）42.850.548.4A60.170.939.2a358.373.240.7A475.858.248.771.55141.4这里，试验的指标是射程，推进器和燃料是因素，它们分别有3个、4个水平。这是一个双因素的试验。试验的目的在于考察在各种因素的各个水平下射程有无显著的差异，即考察推进器和燃料这两个因素对射程

5、是否有显著的差异。本节限于讨论单因素试验，我们就例1来讨论。在例1中，我们在因素的每一水平下进行了独立实验，其结果是一个随机变量。表中数据可看成来自三个不同总体（每个水平对应一个总体）的样本值。将各个总体的均值依次记为打，-12，3。按题意需要检验假设H0：丄1=”2=H1：丄1,丄2，丄3不全相等现在进而假设各总体均为正态变量，且各总体的方差相等，那么这是一个检验同方差的多个正态总体均值是否相等的问题。下面所要讨论的方差分析法，就是解决这类问题的一种统计方法。现在开始讨论单因素试验的方差分析。设因素有s个水平A-A2,As，在水平Aj（j=12,s）下，进行nj（nj-2）次独立实验，得到如

6、下表的结果。我们假定：各个水平Aj（j=1,2,S）下的样本X1j,X2jJH,Xnjj来自具有相同方差匚2，均值分别为J（j=1,2，s）的正态总体N（j,；2）,j与二2未知。且设不同水平Aj下的样本之间相互独立。22由于XijNOj,二），即有Xj-jN（0,；），故Xj-5可看成是随机误差。记Xjlj=；ij，则Xij可写成Xj；j,i=1,2,11(,nj;j=1,2)l,s,可N(0,；2),各；j独立,(1.1)其中j与二2均为未知参数。（1.1）式称为单因素试验方差分析的数学模型。这是本节的研究对象。方差分析的任务是对于模型（1.1），10检验s个总体N（叫，匚2）,N（2,；

7、2）,，N（sf2）的均值是否相等，即检验假设Ho:叫二”2二=JsH1:"1,"2,，"s不全相等。20作出未知参数r2,，,二2的估计。(1.2)1s为了将问题（1.2）写成便于讨论的形式，我们将亠，2,，的加权平均值一7njJjn记为，即1snjj（1.3）nj11称为总平均。再引入-j=Jj-丄,j=1,2/,s(1.4)此时有nv-1-n2：2*ns：s=0，/.j表示水平Aj下的总体平均值与总平均的差异，习惯上将称为水平Aj的效应。利用这些记号，模型（1.1）可改写成Xj=4+§j+%,s瓦n®=0,i=1,2，,nj；j=1,2,

8、，时（1.1）j#舸N（0,。2）,各名ij独立,而假设（1.2）等价于假设(1.2)=6s=0Hi:61,62,，6s不全为零。这是因为当且仅当叫二2-''s时j=1,即：j=0,（j=1,2,s）。（二）平方和的分解下面我们从平方和的分解着手，导出假设检验（1.2）的检验统计量。引入总平方和snj2St八，x（Xj-X）（1.5）jAi二-1snj其中xXj(1.6)ni4j4是数据的总平均。St能反映全部试验数据之间的差异，因此St又称为总变差。又记水平Aj下的样本平均值为xj，即(1.7)(1.7)Xj二丄'xijnji生我们将st写成snj_snjSt(Xij

9、-X)2jTi壬j4snj_snj_snj(Xj-xj)2亠二二(xj-x)22二二(Xijjdij=1i注意到上式第三项(即交叉项)Xij_Xj.)(xj-x)-xj)(xj-x)j=1isnj_s_2二二(Xij_xj)(xj-x)=2、(xjj=1i=1j4-1Xij-Xj)=0于是我们就将St分解成为St=SeSa，(1.8)n.j2其中Se-a7(Xj-Xj),j=1i=1(1.9)snjs_Sa二v(xjx)2二vnj(xj-x)j=1i：!jz!(1.10)上述Se的各项（Xjj-Xj）2表示在水平Aj下，样本观察值与样本均值的差异，这是由随机误差所引起的。Se叫做误差平方和。S

10、a的各项（Xj-X）2表示Aj水平下的样本平均值与数据总平均的差异，这是由水平Aj引起的。Sa叫做因素A的效应平方和。（1.8）式就是我们所需要的平方和分解式。（三）Se，Sa的统计特性为了引出（1.2）的检验统计量，我们依次来讨论SE，SA的一些统计特性。（1）Se的统计特性将Se写成g_n2_ns_Se-v(Xj1X1.)27(Xj2X2)2亠亠-(XisXs)2i=4i4i=4(1.11)nj_注意到v（Xij-xj）2是总体N（j,；2）的样本方差的nj-1倍，于是有i4nj_'(Xij-xj)i42a(nj_1)因各Xij独立，故（1.11）式中各平方和独立。由2分布的可加性

11、知Se匚2s送(nj-1)，即<j丿SE2a2(n-s)，(1.12)由（1.12）式还可知，Se的自由度为n-s。且有(1.13)E(Se)=(n-s)；2（2）Sa的统计特性snj_我们看到SA=v7(Xj-X)2j=1i=1s2八nj(xj-x)是s个变量nj(xj-x)j=1（j=1,2/,s）的平方和，它们之间仅有一个线性约束条件s_s_'.njnj(xj-x)nj(xj-x)=0jj#故知Sa的自由度为S-1。再由（1.3）,（1.6）及Xj的独立性，知即得(1.14)S-2E(Sa)=EnjxjS2-2-nx_2八njE(xj)-nE(x)j4八njD(xj)E(x

12、j)b-nD(x)E(x)&j4n二2<i22,屮2、nj_2二(L，j)2nj2>_n*2、+P21S=s；2nj2-2二nrjj旦S亠二nj、：j2-書2-nL2j二S由(1.1)式知vnj：j=0，故有j壬SE(Sa)=(s-1)；2'nj、：j2(1.15)进一步还可以证明Sa与Se独立，且当H0为真时2(s-1)cr(1.16)证略。思考：当H。为真时，整个样本来自什么总体？（四）假设检验问题的拒绝域现在我们可以来确定假设检验问题（1.2）的拒绝域了。由（1.15）式知，当H0为真时SA2E(sA(1.17)Ss即A是二2的无偏估计。而当H1为真时，an2

13、.0,此时S-1j4SA21E()=二s-1sj2j12>CTs-1(1.18)又由（1.13）式知SE2E(宀乂2n-s(1.19)即不管H。是否为真，s都疋；一的无偏估计。n-s综上所述，分式SAF=Sen-s的分子与分母独立，Se的分布与Ho无关，分母的数学期望总是匚2。当H。为真时，分子的数学期望为二2，而当Hj为真时，由（1.18）式分子的取值有偏大的趋势。故知检验问题（1.2）的拒绝域具有形式F=沪_kSens其中k由预先给定的显著性水平确定。由（1.12）,（1.16）式及SE与SA的独立性知，当H0汽(s-1)CF/与In_s)F(s-1,n-s)为真时，_z1Sen一s

14、由此得检验问题（1.2）的拒绝域为SaF二等1F.(s-1,ns)(1.20)Sen-s上述分析的结果可排成表9.5的形式，称为方差分析表。表9.5单因素试验方差分析表方差来源平方和自由度均方F比因素ASas-1SSaSas-1F色Se误差SensSe=Sens总和Stn-1表中Sa，S-S分别称为Sa，SE的均方。s-1ns思考：当H。为真时，均方的数学期望分别是什么？因此均方又可以称什么？另外，由于在St中n个变量Xq-X之间仅满足一个约束条件(1.6)，故St的自由度为n-1。例4如上所述，在例1中需要检验假设H0:”1="2二”3H1:J1l2,不全相等试取-0.05，完成这

15、一假设检验。解：表9.6例4的方差分析表因Fo.o5(2,12)=3.89v32.92,故在水平0.05下拒绝H。，认为各台机器生产的薄板厚度有显著的差异。方差来源平方和自由度均方F比因素A0.0010533320.0005266732.92误差0.00019200120.00001600总和0.0012453314例5设在例2中的四种类型电路的响应时间的总体均为正态，且各总体的方差相同。又设各样本相互独立。试取：=0.05，检验各类型电路的响应时间是否有显著差异。解：我们需检验假设H。：亠WJH1：%H不全相等表9.7例5的方差分析表方差来源平方和自由度均方F比因素A318.97777778

16、3106.325925933.76误差395.466666671428.24761905总和714.4444444417因Fo.o5（3,14）=3.34c3.76，故在水平0.05下拒绝H。，认为各类型电路的响应时间有显著差异。（五）未知参数的估计上面已讲到过，不管H。是否为真,上面已讲到过，不管H。是否为真,Se2一都是匚的无偏估计，因此nsSeSe；?2二ns又由（1.14），（1.7）式知,E&）E（xj）=E（xj）njyE&）E（xj）=E（xj）njyJj，j=1,2,，s，故?=x，?j=xj分别是J，-j的无偏估计。又若拒绝H0，这意味着r2,s不全为零。由于

17、5j=已-巴j=1,2,s，知g=xj-x是®的无偏估计。当拒绝H。时，常需要作出两总体N（r»2）和NOkf2），j-k的均值差7-柿二r-卄的区间估计。其做法如下。由于E（Xj_Xk）八打D（xj_xk）_；2由第六章附录知xj-xk与:?2Se独立。于是ns11njnk（Xj_Xk）_（j-、k）t（n_s）n-sSe11njnk据此，可得均值差lj-.k二、.j-、“的置信度为1-:-的置信区间为(1.21)思考：以前我们学过两个正态总体方差相等但未知的情况下，均值差的置信区间:其中，sWWxj-xk二仁(nj222(nj-1)Sj(nk-1)Sknjnk-2请问这

18、与（1.21）式有何异同?（提示：SW2的自由度是多少？）双因素试验方差分析本节介绍双因素试验方差分析。（一）双因素等重复试验的方差分析设有两个因素A、B作用于试验的指标，因素A有r个水平A,A2,，Ar，因素B有s个水平B1,B2,，Bs。现对因素A，B的水平的每对组合（A，Bj），i=1,2,r，j=1,2,，s都作t（t-2）次试验（称为等重复试验），得到如下结果。表9.8因素B因素AB1B2BsA1X111,X112,X11tX121,X122,X12tX1s1,X1s2,X1stA2X211,X212,X21tX221,X222,X22tX2s1,X2s2,X2stArXr11,Xr

19、12,Xr1tXr21,Xr22,Xr2tXrs1,Xrs2,Xrst并设：$N(片jf2),i=1,2,|H,r,j=1,2,|l,s,k=1,2,HI,t,各Xjk独立这里，叫j，二2均为未知参数。或写成xjkij"ijk,2耶N（0芒）,各Xjk独立,(2.1)(2.1)i=12川,r,j=12山,s,k=1211（,t引入记号：1rsijrsi4j41r二一工j,j=1,2,sri一j-1，j=1,2,s1r二一工j,j=1,2,sri一j-1，j=1,2,s1sJi.=丄7,i",2,，rJjsj4二八，i"2,r：jrs易见，V：.j=0,、-j=0i

20、吕j1称为总平均，称二为水平A的效应，称'j为水平Bj的效应。这样可将Jij表示成叫j-（j-叫.-5），i=12，r，j=1,2,s（2.2）(2.3)(2.4)记ij'ji.j，i=1,2,，r，j=1,2，s此时Jij：j:jij易见易见ij称为水平Ai和水平Bj的交互效应，这是由Ai，Bj搭配起来联合起作用而引起的。r、ij=0,j=1,2,siAs'ij=0，i=1,2,rjm这样，（2.1）可写成X“k=卩+ot.+P.+了.+&.kijkijijijk>2(2.5)jN(05),i=1,2/,r,j=1,2/,s,k=1,2,t,各j独立，r

21、srsi=0jij7、j-0i=1j=1i=1j=1其中J,i,-j,ij及二2都是未知参数。其中J,i,-j,ij及二2都是未知参数。(2.5)式就是我们所要研究的双因素试验方差分析的数学模型。对于这一模型我们要检验以下三个假设:1H01：_：”12=HI=r=0,H11:：12，r不全为零,(2.6)J_Ho2：12s0,Hi2：、2,s不全为零,(2.7)J_Ho3:11=12rs°,H13：11,12,川，rs不全为零(2.8)与单因素情况类似，对这些问题的检验方法也是建立在平方和的分解上的。先引入以下记号：-1x=rstrst-Xijkij吕k£=1,2,r,i=

22、1,2,r=1,2,s-1stXiXijkstjik1rtXjXijkrti吕k吕再引入总平方和rst_St二二二(Xjk-X)2i4j=1k=1我们可将St写成:rst_St="''"(xijk-X)i4j：!k=1rst2(Xijk-Xij)(Xix)(Xj_x)(Xij_Xi-_Xjx)Ji4j：1k=1rst_rst_rst_八、'(xijk-Xij)2亠二二二(Xix)2亠二二二(xx)2idjzikmi4j3kTiJjmkTrst_亠二二二(Xij-Xi_Xjx)2iAjdkd即得平方和的分解式:St-SE'SA'SBSa

23、b（2.9）其中rstSe二''*(Xjk-Xij)（2.10）iAj4k4rstrSa2二m(xi.x)二st'(Xi.-X)2（2.11）iAj4k4iArst_sSb八、'(xj.-x)2=rt、(xjX)2（2.12）iJj4k4j4rst_rs_Sab八''(Xij.-Xi._Xj.X)2二t.U(Xij-X-Xjx)2iJj4kz4i-1jd：Se称为误差平方和，Sa,Sb分别称为因素A、因素B的效应平方和，Sab称为A，B交互效应平方和。可以证明St,Se,Sa,Sb,Sab的自由度依次为rst-1,rs（t-1）,r-1,s-1,

24、(r-1)(s-1)，且有SeJS(t1)SeJS(t1)(2.14)rst，2r-1(2.15)s,、订Pj2E£2巴s-1s-1rsfa、匹送Y2E一沁"2+一附-1)(s-1)丿(r1)(s1)(2.16)(2.17)当H01:>172二=r=0为真时，可以证明SaFa一F(r-1,rs(t-1)Se(2.18)rs(t-1)取显著性水平为二，得假设H01的拒绝域为r-1Ser-1Se_F：.(r-1,rs(t-1)(2.19)rs(t-1)类似地，在显著性水平:-下，假设H02的拒绝域为SbFb二一S匚_F：.(s-1,rs(t-1)(2.20)SErs(t-

25、1)在显著性水平：下，假设H03的拒绝域为SAxB(r_1)(s_1)FabF_.(r1)(s1),rs(t1)SErs(t-1)上述结果可汇总成下列的方差分析表：表9.9双因素试验的方差分析表(二)双因素无重复试验的方差分析方差来源平方和自由度均方F比因素ASAr-1r-1FSafa_-Se因素BSbs-1SSbs-1FsFbSe交互作用Saxb(r-1)(s-1)二Sa>©Saxb(r-1)(s-1)lSaxbFAXB_Se误差Sers(t1)seSe=rs(t-1)总和StrstT在以上的讨论中，我们考虑了双因素试验中两个因素的交互作用。为要检验交互作用的效应是否显著，对于两个因素的每一组合(Ai,Bj)至少要做2次试验。