第8章正交多项式回归设计

第八章 正交多项式回归,.正交多项式回归,正交多项式回归设计是将正交试验法与多项式回归分析结合起来,使之兼有两者的优点,是一种很好的试验设计方法。 在第七章中已说明求多项式回归都可以化成多元线性回归问题计算,但我们知道当变量数目(因素)比较大时,多元线性回归的计算是很繁杂的。 我们将介绍一种利用正交多项式来配回归的方法,这种方法计算比较简单,而且都是表格化的,但它仅适用于自变量(因素)取等间隔数值的情况。,设自变量(因素)X是可控制的,因素水平取值的间距并非都为,但是,可有意识地安排它取某间隔的数值. 任何一组等距点，t，都可以通过下式化为一组标准等距点(即的一组点),1,2(即的一组点)。,式中因素水平间的间距 在数学分析中讲到,相当广泛一类曲线可以用多项式去逼近,把这个思想用到回归分析上,就产生了多项式回归。 设对应于的实验结果为，（，）。对这一组响应值(观测值)我们配一个次多项式。 y = a0 + a1x + a2 + . + akxk (8-2),(8-1),设（），（），（）分别是的一次,二次及次多项式,则(-）也可以用（）来表示。,(8-3),将（）看作是新变量,则(-）式就是一个次线性回归方程,其回归系数由下面正规方程定: (8-4) 又,(8-5),其中:,(8-6),i,j=1,2k,i=1,2k,(8-7),为了简化计算,我们选择这样的（）,使,i=1,2k,ij,(8-8),于是,Lij =,0,ij,i=j,(8-9),(8-10),(8-11),而正规方程（-）就简化为:,(8-12),于是（）的回归系数立即可以求得,(8-13),而常数项根据（-）和（-）式也有更简单的表达式:,（-）式的两条性质称为正交性,可以验证下面的一组多项式满足正交性:,这一组多项式称为正交多项式。式中的取值、一组为标准等距点,多项式中为因素取值的个数(即水平数),若不是可用(-)式化为标准等距点,由于（），的值不一定都为整数,因此为方便起见,通常引进适当的系数，使,(8-15),在几个整数点上的值都为整数。对给定的(水平数),相应的及（）在1,2,各整数点的数值及都已制成表(见附录中正交多项式表),实际计算可以充分利用这些表进行。,利用正交多项式回归的实际计算可按下面的步骤进行。 (1)根据(因素的水平数),查相应的正交多项式表,设需配一个次多项式(一般5即可). 因为个水平至多只能配1阶的多项式,故对于5只列出阶正交多项式的数值, 例如只列出了、首先计算,(8-16),(8-17),从而,（818）,i=1,2,.k (8-19),则回归方程为,(8-20),(2) 计算各个的系数后,就可以按第七章讲的多元线性回归的程序作方差分析,的总平方和仍按通常的公式计算,即,(8-21),而回归平方和,(8-22),在用交多项式配回归中, 每次多项式（）的系数及相应的只与及（）有关,而不随其它各次多项式的增减而变化,在整个回归中多配一项（）就使回归平方和增加一项,因此可以把,(8-23),看作第次多项式（）的效应,而回归平方和则是各次效应的和。正交多项式配多项式方差分析表 见(表-）,表-正交多项式配多项式方差分析表方差来源 平方和 自由度 均方 F 回归,U,剩余,1,1,n-k-1,1,总计,lyy,n-1,表-正交多项式配多项式方差分析表方差来源 平方和 自由度 均方 F 回归,进行F检验,的自由度为(1,）,对于那些不显著的高次项可以把它们从回归方程取消。而如果检验的结果都显著,同时所配多项式的精度不够满意的话则可继续增添更高次的项。例-为了考察维尼纶纤维在缩醛化工序中甲醛浓度与纤维醛化度的定量关系,对7种不同的甲醛浓度各进行了若干次实验,测出各种浓度的平均缩醛化度如下:甲醛浓度() 缩醛化度（）. . . . . . .对上面的7组数据配一个直到4次多项式的回归方程。,8.正交多项式回归设计和回归方程的建立,一、回归方程的建立 如果我们用正交表安排试验,将因素水平的间距取为相等,则可用正交多项式回归来处理正交试验的结果,定量地描述响应值与各因素之间的关系。 各因素的总效应函数可表示为各因素效应之和 y = b0 + P(A) + P(B) + P(C) + (8-30)式中P（）、P（）、P（）分别为因素A、B、C等效应函数。各个因素的效应函数可按正交多项式展开:,(8-31),式中各项回归系数和常数项可分别由（-）式和(-）式计算。,i=1,2k (8-32),(8-33),式中，。为同一因素水平下的重复试验次数。求得和之后,即可建立回归方程.,例用石墨炉子吸收法测定粮食中微量镍时,干燥温度T，干燥时间,灰化温度T,灰化时间；原子化温度原子化时间会对测定有影响。为了观察它对吸光度的影响,探求最佳测定条件,选用正交表L）来安排试验,为了进行正交多项式回归分析,各因素水平变化满足等距的要求,试验的具体安排与实验结果列于表。,.3 正交拉丁多元回归设计,介绍用正交拉丁方安排试验,在作多元回归时,同样满足正交多项式回归的正交条件 ,即在正规方程中系数,所以使回归分析较易进行,可以大大简化计算,所以正交拉丁方多元回归设计就是将正交拉丁方试验设计与多元回归分析结合起来的一种很好的试验方法。一、拉丁方与正交拉丁方例:某试验需考察A、B、C、D四个因素,各个因素均取三个水平,现需通过试验找出最佳条件。如果采用全面试验法,即每个因素的各个水平的所有组合都做试验,要做次,试验次数太多,能否做一部分试验,又能得出好的结果呢? 先考虑A、B两个因素,全面试验,要作九次. 如果同时还要考虑因素C,而试验次数又不增加,应该怎样安排呢? 当三个因素时,要反映情况比较 全面,必须任意两个因素间的不同水平各碰一次,可采用如下的安排(表810）,这9个试验是全面试验个试验的很好代表,上面的试验设计可以简化为表,上表的右下角为：,我们可以看到,在每一行,每一列中,1、2、3正好各出现一次,具有这样的性质的方块叫拉丁方。这是由于排这种方块常用拉丁字母,所以产生了拉丁方的名称。 若还要考虑因素D,能否保持上述的要求,而试验次数不增加呢?这是可能的（图812）,D的三个水平组成的是另一个拉丁方,它和A、B之间的搭配是均匀的,D和C之间的搭配也是均匀的,D的每个水平和C的三个水平各碰一次,这样设计,9次试验就能很好地代表381次试验。 我们将C和D的两拉丁方迭在一起,见表(），发现1、2、3和(1)、(2)、(3)各碰一次既无重复,又无遗漏,具有这种性质的两个拉丁方叫正交拉丁方。,例如下面表的三拉丁方就是两两正交的。,二、正交拉丁方试验与正交表设计试验,正交表是正交拉丁方的自然推广。 用正交拉丁方安排试验,通常是排成表格的形式。如前面表的设计,我们把它编上试验号码(见表),用，,表示,把它写成表格就成为一张L（）正交表(见表)。,这里需要说明一下正交表与正交拉丁方的关系及其相互比较,正交表并不都是从正交拉丁方转变来的,而是后者的自然推广。 在正交表或正交拉丁方中,任意两列之间都具有搭配均匀的性质(即都是具有正交性),这是它们的共同点。 不同点： （1）拉丁方安排,要求行数与列数必须相等,组成正方形,即实验次数等于整数的平方(但并不是各个整数都有正交拉丁方,如的正交拉丁方就不存在),而正交表并不一定。 （2）正交表除了能对因素的主效应进行考察外,有时还能方便地考察各因素之间的交互作用,并给出交互效应的大小估计,而正交拉丁通常只是用来考察因素的主效应。,三、正交拉丁方试验的分析,前面讲到正交拉丁方是正交表试验的一种特殊情况,由3阶正交拉丁方可化成L（）。同理四阶正交拉丁方可化成L（），五阶正交拉丁方试验可化成L（）。所以正交拉丁方试验的分析就按正交表的分析,没有任何新东西。 需要指出的是,正交拉丁方写起来占篇幅较小,在分析时有人不愿意化成正交表的形式,还用正交拉丁方的形式。,四、正交拉丁方多元回归设计,与正交多项式回归设计一样,正交拉丁方试验设计与多元回归(或正交多项式回归)分析结合起来。 通过对试验结果的方差分析,估计诸因素影响的相对大小,又能定量地了解响应值与诸因素之间的关系,即确定响应值与诸因素之间的相对关系,它也是一种较好的试验设计方法。例- 缩醛化工艺是维尼纶生产的最后一道化学工序,目的是提高维尼纶的耐热水性,醛化过程的好坏,用一个叫缩醛化度的指标来衡量,缩醛化度越高,纤维耐热水性越好,由于影响缩醛化度的因素很多,又加上一些偶然因素的干扰,要了解它们之间蕴含的内在规律就比较困难。由北京维尼纶厂与中科院数学研究所概率统计室统计组联合攻关,采用正交拉丁方多元回归设计方法进行试验,处理数据初步揭示了缩醛化工艺的内在规律,并指导生产、摸索降低原料消耗的途径提供了数据。,1试验安排 选用的正交拉丁方,共做了次试验,其各因素水平安排如表-中,2实验结果分析方差分析 表818正交拉丁方试验设计及试验结果表,(2) 多元回归分析 我们希望求得这些因素与缩醛化度之间的定量关系(相关关系),所以通过多元回归分析来建立这种相关关系,通过初步分析,各个因素对缩醛化度的关系,有直线的趋势,所以我们考虑多元线性回归。,EP,运用minitab软件对正交实验27次实验结果进行多元回归。其拟合结果经过实验验证，PI误差控制在4.78以下，EP误差控制在5.63以下。运用该拟合方程可以对生产进行预报和控制。,数理统计实验结论,化学沉铜实验,运用正交设计实验法并结合沉铜层的透光级别，找到沉铜溶液的最佳配比和工艺参数。,化学沉铜实验实验结论,通过分析如上面所示的背光图，本着节约成本的原则及易于操作的原则，得到的最佳组合为：A3B2C2D3,BX350A 90mlL-1 ； 温度T 25； BX350B 80 mlL-1； 时间t 30min 经在生产中应用，沉铜合格率普遍提高10，由原来的88提高到98。,热应力力检验,热应力实验是用于测试板子承受焊接环境的实验，同时也主要为了检验金属化孔铜的粘附质量。,将测试样本放入260摄氏度的焊锡池中按照实验要求浸泡10s、20s、30s；做金相切片。,Samsung刚挠四层 结合板的批量试制,SAMSUNG 4层刚挠结合板是由两层硬板中间夹一层双面软板构成的典型的夹心式结构的刚挠板。,成品图片,全面实验,A1B1C1 A2B1C1 A3B1C1A1B1C2 A2B1C2 A3B