第8章 回归的正交设计

第8章回归的正交设计教学目标1掌握一次回归正交设计及统计分析方法2掌握二次回归正交组合设计及统计分析方法正交设计是一种重要的科学试验设计方法，它能够利用较少的试验次数，获得较佳的试验结果。但是正交设计不能在一定的试验范围内，根据数据样本，去确定变量间的相关关系及其相应的回归方程。如果使用传统的回归分析，又只能被动地去处理由试验所得到的数据，而对试验的设计安排几乎不提出任何要求。这样不仅盲目地增加了试验次数，而且由数据所分析出的结果还往往不能提供充分的信息，造成在多因素试验的分析中，由于设计的缺陷而达不到预期的试验目的。因而有必要引入把回归与正交结合在一起的试验设计与统计分析方法回归正交设计。回归设计就是在因子空间选择适当的试验点，以较少的试验处理建立一个有效的多项式回归方程，从而解决生产中的最优化问题，这种试验设计方法称为回归设计。随着生产与科学技术的发展，在工农业生产中为了实现以较少的生产投资，获得最大的经济效益，经常需要寻求某种产品、材料试验的最佳配方、试验条件与工艺参数以及建立生产过程的数学模型。特别是以较少的试验次数和数据分析去选择试验点，使得在每个试验点上能获得比较充分、有用的信息，减少试验次数，并使其数据分析能提供更为科学、充分、有用的信息。解决上述问题比较理想的方法就是通过回归设计进行试验，建立相应的数学模型，寻求最佳生产条件和最优配方。回归设计始于20世纪50年代初期，发展至今其内容已相当丰富，包括回归的正交设计、回归的旋转设计、回归的最优设计以及回归的混料设计等，本章只介绍回归的正交设计。81一次回归正交设计与统计分析当试验研究的因变量（如加工罐头质量）与各自变量（如杀菌方式、产品配料等）之间呈线性关系时，可采用一次回归正交设计的方法。811一次回归正交设计的一般方法一次回归正交设计的方法原理与正交设计类似，主要是应用二水平正交表进行设计，如，等，其设计的一般步骤为234L7821L156确定试验因素的变化范围。根据试验研究的目的和要求确定试验因素数M，并在此基础上拟订出每个因素的变化范围。回归正交试验设计的因素一般都大于3个，但也不JZ能太多，否则处理过多，方案难以实施。各试验因素取值最高的那个水平称为上水平，以Z2J表示；取值最低的那个水平称为下水平，以Z1J表示；两者之算术平均数称为零水平，以Z0J，表示，（81）2/120JJJZ上水平和零水平之差称为因素ZJ的变化间距，以J表示，即（8JJJ022/12JJJ2）对因素的各水平进行编码。即对的各水平进行线性变换，其计算公式为JZJ（8JJIJIJX/03）例如，某试验的第一个因素，其Z114，Z2112，Z018，则各水平的编码值为1/82/0/10210ZX经过上述编码，就确定了因素与的一一对应关系，即JZIX下水平411零水平08XZ上水平2211对因素ZJ的各水平进行编码的目的是为了使供试因素ZJ各水平在编码空间是“平等”的，即它们的取值都是在1，1区间内变化，而不受原因素ZJ的单位和取值大小的影响。因此，在对供试因素ZJ各水平进行了以上的编码以后，就把试验结果Y对供试因素各水平ZI1，ZI2，ZIM的回归问题转化为在编码空间试验结果Y对编码值，的1IX2IIMX回归问题。因此，我们可以在以，为坐标轴的编码空间中选择试验点，进1X2MX行回归设计。这样的设计还大大简化计算手续。今后，不论是一次回归设计还是二次回归设计，我们都先将各因素进行编码，再去求试验指标对，的回归方程，12XM这种方法在试验设计中是经常被采用的。选择适合的2水平正交表进行设计。在应用2水平正交表进行回归设计时，需以“”代换表中的“2”，以“”代换表中的“”，并增加“”水平。这种变换的目的是为了适应对因素水平进行编码的需要，代换后正交表中的“”和“”不仅表示因素水平的不同状态，而且表示因素水平数量变化的大小。原正交表经过上述代换，其交互作用列可以直接从表中相应几列对应元素相乘而得到。因此原正交表的交互作用列表也就不用了，这一点较原正交表使用更为方便。在具体进行设计时，首先将各因素分别安排在所选正交表相应列上，然后将每个因素的各个水平填人相应的编码值中，就得到了一次回归正交设计方案。例如现有某3因素食品调香试验，3个因素，即Z1（香精用量）、Z2（着香时间）、Z3（着香温度），其因素水平及编码值如表81所示。表813因素试验水平取值及编码表因素Z1（MLKG物料）Z2HZ3上水平（1）零水平（）下水平（1）变化间距（J）17127522616946645735243107本试验为3个因素。如果除考察主效外，还需考察交互作用，则可选用进行设278L计，即将正交表中的“1”改为“”，“2”改为“1”，且把放在1，2，4列321X、上。这时只要将各供试因素ZJ的每个水平填人相应的编码值中，并在“0”水平处（中心区）安排适当的重复试验，即可得到试验处理方案，如表82所示。表823元1次回归正交设计试验方案处理号X1（Z1）X2（Z2）X3（Z3）123456781（17）1（17）1（17）1（17）1（7）1（7）1（7）1（7）1（226）1（226）1（94）1（94）1（226）1（226）1（94）1（94）1（457）1（243）1（457）1（243）1（457）1（243）1（457）1（243）9N0（12）0（12）0（16）0（16）0（35）0（35）零水平安排重复试验的主要作用，一方面在于对试验结果进行统计分析时能够检验一次回归方程中各参试结果在被研究区域内与基准水平（即零水平）的拟合情况；另一方面当一次回归正交设计属饱和安排时，可以提供剩余自由度，以提高试验误差估计的精确度和准确度。所谓基准水平（零水平）重复试验，就是指所有供试因素ZJ的水平编码值均取零水平的水平组合重复进行若干次试验。例如表82中零水平试验由Z112（MGKG物料），Z216（H），Z335（）所组成的水平组合。至于基准水平的重复试验应安排多少次，主要应根据对试验的要求和实际情况而定。一般来讲，当试验要进行实拟性检验时，基准水平的试验应该至少重复26次。812一次回归正交设计实例与SPSS实现多元线性回归的模型为（8NIXBXBYNII，212104）模型中各系数与常数项通常利用最小二乘法求得。与一元线性回归一样，进行多元线性回归也需要进行回归系数的检验，需要估计回归系数的置信区间，需要进行预测与假设方面的讨论。根据多元回归时自变量选择的不同，多元回归可以采用不同的计算方法，如全回归法（ENTER）、向前法（FORWARD）、向后法（BACKWARD）和逐步回归法（STEPWISE）等。全回归法。进行全回归时，所有的自变量进入回归方程。使用这种方法，一般具有较高的回归系数，但一些对依变量没有显著影响的自变量也可能进入回归方程。向前法。该方法比较所有自变量与依变量的偏相关系数，然后选择最大的一个作回归系数显著性检验，决定其是否进入回归方程。这种方法的缺点是某自变量选入方程后，就一直留在方程中，不再剔除。但在较早阶段进入回归方程的当时认为最好的变量在较晚阶段可能因为它与方程中其他变量之间的相互关系而显得不再重要，因而有剔除的必要，但向前法作不到这一点。向后法。与向前法相反，向后法又称为“只出不进法”。该法首先计算包含所有变量的回归方程，然后用偏F检验逐个剔除对变量无显著影响的自变量，直到每一个自变量在偏F检验下都有显著性结果为止。该法得到的结果比全回归法简洁，但变量在向后消元过程中如果被剔除，它将永远不会在方程中重新出现，而该变量可能在其他变量剔除后又对依变量有显著影响。逐步回归法。逐步回归法是对向前法的改进，他首先对偏相关系数最大的变量作回归系数显著性检验，以决定该变量是否进入回归方程；然后对方程中的每个变量作为最后选入方程的变量求出偏F值，对偏F值最小的那个变量作偏F检验，决定他是否留在回归方程中。重复此过程，直至没有变量被引入，也没有变量可删除时为止。这样，应用逐步回归法，既有引入变量也有剔除变量，原来被剔除的变量在后面又可能被引入到回归方程中来。它是目前应用较为广泛的一种多元回归方法。【例81】为了研究贮藏温度、氧气浓度和二氧化碳浓度对苹果硬度的影响，采用一次回归正交设计进行试验。用Z1、Z2、Z3分别代表贮藏温度（）、氧气浓度（）和二氧化碳浓度（），用Y表示苹果的硬度（KPA）。贮藏120天时，测定果实硬度，试建立回归方程并对回归方程进行统计分析。（1）因素水平及编码。贮藏温度、氧气浓度和二氧化碳浓度的因素水平及编码见表83。由公式（81），式（82）和式（83）计算各因素的零水平、变化间隔及水平编码。表83贮藏温度、氧气浓度和二氧化碳浓度的水平编码表编码XIJZ1（贮藏温度）Z2（氧气浓度）Z3（二氧化碳浓度）上水平14020120零水平0606075下水平18010030间隔204045（2）制定试验方案。根据研究因素的主效应和互作个数，选择相应的2水平正交表进行试验方案设计。本例为3因素，1级互作有3个，共6列，可选用正交表经变换78L后进行试验方案设计。设计时，将由Z1，Z2和Z3变换的，和分别置于表的1X23781，2，4列，各列的1和1与相应因素的实际上、下水平对应，零水平（中心区）重复6次，具体方案见表84。表84一次回归正交设计试验方案试验设计试验方案试验号X1X2X3Z1Z2Z3123456789101112131411111111000000111111110000001111111100000080808080404040406060606060601001002020100100202060606060606012030120301203012030757575757575（3）建立回归方程。贮藏温度、氧气浓度和二氧化碳浓度的一次回归正交试验结果见表85。表85三元一次回归正交设计结构矩阵及计算表处理号0X12X31X213X23Y1234567891011121314111111111111111111111100000011111111000000111111110000001111111100000011111111000000111111110000005000046735462654623046315463504605042980462504658546275460004633545835操作步骤STEP1将表85所示数据输入SPSS数据编辑窗口后，依次选中“ANALYZE（统计分析）REGRESSION（回归分析）LINEAR（线性）”，如图81所示，即可打开【LINEARREGRESSION】对话框。图81SPSS数据编辑窗口STEP2将左边“Y”选入右边“DEPENDENT”（因变量）内，“X0”、“X1”、“X2”、“X3”、“X12”、“X13”、“X23”选入右边“INDEPENDENT”（自变量）内，在“METHOD”中选中“ENTER”（全回归法）或“STEPWISE”（逐步回归法），如图82所示。图82LINEARREGRESSION对话框STEP3按【STATISTIC】按钮后如图83所示，勾选“ESTIMATES”（估计值）、“CONFIDENCEINTERVALS（置信区间）”、“MODELFIT”（回归模式适合度检验）、“RSQUAREDCHANGE（相关系数的平方）”并且勾选残差下的“DURBINWATSON”，然后按【CONTINUE】按钮回到【LINEARREGRESSION】对话框。图83LINEARREGRESSIONSTATISTICS对话框STEP4按【OPTIONS】按钮，出现【OPTIONS】对话框，如图84所示，然后按【CONTINUE】钮回到主画面。按【OK】结束。图84LINEARREGRESSIONOPTIONS对话框输出结果及分析用全回归法处理结果如下表86为变量输入输出表。表中第二列为输入的变量，第三列为剔除的变量，第四列表示采用的方法为全回归法。表86变量输入输出表表87为模型综述表。包括采用全回归模型进行拟合时的相关系数（R）为0886、相关系数的平方（RSQUARE）为0785，调整的相关系数平方值（ADJUSTEDRSQUARE）和估计值的标准误差（STDERROROFTHEESTIMATE）。表87模型综述表表88是方差分析表。由于F值的显著性概率（SIG）为0039小于5，所以回归达到显著水平，说明果实硬度和各因素之间存在显著的回归关系，试验设计方案是正确的，回归方程式有意义。表88方差分析表表89为系数分析表，表中列出了常数项和各个自变量对应的非标准化系数（UNSTANDARDIZEDCOEFFICIENTS）（包括常数项和变量系数的取值B及其标准化误差STDERROR）、标准化系数（STANDARDIZEDCOEFFICIENTS）（包括BETA值）、T值和显著性水平（SIG）。T值的显著性概率（SIG）表明，果实硬度与、和的回归关系均达到显著水平，而Y1X23一级互作，均不显著。1X232X表89系数分析表（全回归法）综合以上信息可得，用全回归法求得的多元回归方程式为463004941998447919075603310156Y1X23X2131X32X将不显著因子，剔除后回归方程为23463004941998447919Y1X23X用逐步回归方法处理结果如下表810为采用逐步回归法得到的系数分析表。表810系数分析表（逐步回归法）由表810可知，用逐步回归方法求得的多元回归方程式为463004941998447919Y1X23X82二次回归正交组合设计与统计分析当使用一次回归正交设计时，如果发现拟合程度不理想，就说明使用一次回归设计不合适，需要引入二次回归正交设计。作为寻找最优工艺参数、最佳配比组合和最适研究条件的食品试验研究，其试验多数为二次或更高次反应，因而研究二次回归正交组合设计十分必要。821二次回归组合设计当有M个自变量时，二次回归方程式的一般形式为AMJJJIAIJAJXXY1210回归系数的个数（包括），因此，02122MCQM回归方程的剩余自由度为（85）2MRCNDF式中为试验处理数。为了使回归方程比较可信，要想获得个变量的二次回归方程，全面组合试验的试验处理数N至少应该大于，才能使得剩余自由度不致于太小；但为了使试验在实际操QRDF作中经济可行，试验的处理数N又不能太大。因此，试验处理数N的确定成为关键。同时，为了计算二次回归方程的系数，每个因素所取的水平数应3。故M个因素（自变量）的三水平全面试验的试验处理数。MN3表811列出了不同自变量数目（M26）时，二次回归下三水平全面试验的剩余自由度。可见，大多数三水平全面试验中，试验处理数和剩余自由度太大，因而工作量RDF太大，组合设计则可解决这一矛盾。表811全面试验与组合设计的剩余自由度三水平全面试验组合设计1/2实施因素数MQNRDFNRDFNRDF269393310271715541581662510521243222432227662872970177494517组合设计是指在参试因子（自变量）的编码空间中选择几类不同特点的试验点，适当组合而形成试验方案。由于组合设计可选择多种类型的点，且有些类型点的数目又可适当调节，故组合设计要比全面试验灵活，并且也更为科学实用。二次回归正交组合试验设计，一般由下面3种类型的点组合而成（1）二水平析因点。这些点的每一个坐标，都分别各自只取1或1；这种试验点的个数记为；当这些点组成二水平全因素试验时。若根据正交表配置二水平CMMC2部分实施（12或14等）的试验点时，这种试验点的个数或。调1C2MC节这个，就相应地调节了误差（剩余）自由度。CRDF（2）轴点。这些点都在坐标轴上，且与坐标原点（中心点）的距离都为，即这些点只有1个坐标（自变量）取或，而其余坐标都取零。这些点在坐标图上通常都用星号标出，故又称星号点。其中称为轴臂或星号臂，是待定参数，可根据正交性或旋转性的要求来确定。这些点的个数为，记为。M2R（3）原点。又称中心点（基准点），即各自变量都取零的点，本试验点可作一次，也可重复多次，其次数记为。调节，显然也能相应地调节误差（剩余）自由度。00RDF上述3种类型试验点个数的和，就是组合试验设计的总试验点（处理）数，即N（86）02MNC例如，2，二因素（与）二次回归正交组合设计，由9个试验点组成，其试1X2验处理组合如表812所示。表812二元二次回归正交设计水平组合表处理号1X2说明123411111111二水平（1和1）的全因素试验点224CM56780000分布在和坐标轴上的试验点2241X2900和均取零水平0M1X2二因素（，）二次回归组合设计的结构矩阵如表813所示。1X2当，三因素（、）二次回归正交组合设计，则由15个试验点组成，3M12X3，其试验水平组合如表814所示。表813二元二次回归组合设计的结构矩阵实验号0X1X2X21X212X1111111211113111411151261271281291表814三元二次回归正交设计水平组合表处理号1X23X说明1234111111111111这8个点组成2水平（1和1）的全因子试验238567811111111111191011121314000000000000这6个试验点分布在轴上的试验点321X、15由的零水平组成的中心试验点321X、三因素二次回归设计的结构矩阵如表815所示。321X、表815三元二次回归组合设计的结构矩阵试验号0X12X321X3132X21X23111111111112111111111131111111111411111111115111111111161111111111711111111118111111111191000002001010000020011100000020121000000201310000000214100000002151000000000可以看出，组合设计具有以下明显的优点它可使剩余自由度适中，大大地节省RDF试验处理数N（见表811及表816），且因子数越多，试验次数减少得越多；组合设计的试验点在因子空间中的分布是较均匀的；组合设计还便于在一次回归的基础上实施。若一次回归不显著，可以在原先的个（二水平全面试验的或部分实施的）试验点基础上，补CM充一些中心点与轴点试验，即可求得二次回归方程，这是组合试验设计的又一个不可比拟的优点。表816二次回归组合设计试验点数822正交性的实现由表811和表815可见，在加人中心点与轴点后，一次项（，）与乘积项1XM（，）并没有失去正交性，即，。而JIXMJX10JIJ02I，项和二次项（，）则失去了正交性，即021X2M002122120CAJNICNAJCJCMXX；为了获得正交性，首先应该对平方项，进行中心化变换，即令21X2（8NMNXCAJJAJJ/22127）因素数M选用正交表表头设计CM20MNQ2342L1、2列2242241963781、2、4列2382361151041561、2、4、8列241624812515532L1、2、4、8、16列25322510143215（12实施）5161、2、4、8、15列251625101272111NMJ，；，这样变换后的项与项正交MX，21001NAJX1J，其次，我们可取适当的轴臂，使变换后的项之间正交MX，21（88）01AJNIXJI，将（86）与式（85）式代人，上式变为NMC/221402CC即（89）0124）C由于0，所以为了达到正交性；使式（87），亦即（88）式成立，只须使（82/0CC10）当试验因素数和零水平重复次数确定时，值就可以通过上式计算出来。为了M0M设计方便，将由上式算得的一些常用值列于表817。表817二次回归正交设计常用值表因素数M02345（1/2实施）56（1/2实施）67（1/2实施）1100000121541141421154671159601172443176064188488210780912871914825816071716618317841918240219434731147441353131546711664431724431841391884882000004121000141421160717171885178419189629194347205464512671014711916644317707418413919491020000021075461319721524651718851820361896292000002054642158847136857157504177074186792194910204915210754220866814142116227318203619136120000020966821588422570991457091668031867921957592049152142722208662304241014975517112019136120000020966821873822570923501811153587175245195759204096214272223073230424239498例如，在2，4且1的情形下，由表816可查得1，在此需MCM要对所有平方项进行中心化变换，即3/2AJJX变换后使得，实现了结构矩阵的正交性。从而可以拟出经中心化变换后的0J二元二次回归正交设计的结构矩阵如表818所示，类似地可拟出三元二次回归正交设计的结构矩阵如表819所示。表818二元二次回归正交组合设计的结构矩阵实验号0X12X21X1X2X111110333033321103330333310333033341033303335110333066761033306677110667033381066703339106670667表819三元二次回归正交组合设计的结构矩阵试验号0X12X321X32X12X3111111110270270272111111102702702731111111027027027411111110270270275111111102702702761111111027027027711111110270270278111111102702702791121500000074607307310112150000007460730731110121500000730746073121012150000073074607313100121500007307307461410012150000730730746151000000073073073823二次回归正交组合设计的一般方法与一次回归正交设计类似，二次回归正交组合设计的方法，同样是在确定试验因素的基础上拟定每个因素的上下水平，上水平以表示，下水平以表示，两者之算术平均JZ2JZ1数为零水平，以表示，见式（81）。把上水平和零水平之差除以参数（值可从表JZ0817查出），称为因素的变化间距，以表示。即JJ（）/（8JJ2J011）对每个因素的各个水平进行编码，所谓编码就是对因素水平的取值作如下线性变换JZ（8JJIJIJX/012）这样就建立了各因素与取值的一一对应关系，得到如下因素水平编码表（表820）IJZIJX表820因素水平编码表编码Z1Z2ZMZ21Z22Z2M1Z011Z022Z0MM0Z01Z02Z0M1Z011Z022Z0MMZ11Z12Z1M根据试验因素的个数，选择适当的二水平正交表，加上与的试验点，即设计M0成试验方案。824二次回归正交组合设计实例与SPSS实现1【例82】用二次回归正交设计分析茶叶出汁率与榨汁压力P、加压速度R、物料量W和榨汁时间T的关系。经初步试验得知，榨汁压力、加压速度、物料量和榨汁时间各因素对出汁率的影响不是简单的线性关系，而且各因素间存在不同程度的交互作用，请用二次回归正交设计安排试验，建立茶叶出汁率和各影响因素间的回归方程。各因素的变化范围为压力，58AT（490784KPA）；加压速度，L8ATS（98748KPAS）；物料PR量，100400G；榨汁时间，24MIN。WT设计方法确定值、及。根据本试验目的和要求，确定8，CM0CM23，查表（表817）得1546。034M，确定因素的上、下水平，变化间距以及对因子进行编码（表821）。表8213因素2次组合设计水平取值及编码表编码（PAT）1XRX（ATS）W/G3X（TMIN）4X884004174767643473646065452503155322361532354511002J097226970647计算各因素的零水平Z01（85）265Z02（81）245Z03（400100）2250Z04（42）23计算各因素的变化间距01（865）154609702（845）154622603（400250）15469704（43）15460647列出试验设计及试验方案（表822）。表822四因素二次回归正交组合设计及实施方案试验设计试验方案试验号Z1Z2Z3Z4榨汁压力/P加压速度/R物料量/W榨汁时间/T11111747676434736462111174767643472354311117476764153364641111747676415323545111174722363473646611117472236347235471111747223615336468111174722361532354911115536764347364610111155367643472354111111553676415336461211115536764153235413111155322363473646141111553223634723541511115532236153364616111155322361532354171546000845250318154600054525031901546006582503200154600651250321001546065454003220015460654510032300015466545250424000154665452502250000654525032600006545250327000065452503试验结果的SPSS实现根据四元二次回归正交组合设计的要求，将各自变量的编码填入相应的结构矩阵中（表823），并进行统计分析检验。表823四元二次回归正交组合设计结构矩阵及试验结果试验号Z0Z1Z2Z3Z4Z1Z2Z1Z3Z1Z4Z2Z3Z22Z4Z3Z412Z34ZY1111111111110230230230234326211111111111023023023023396311111111111023023023023487341111111111102302302302348735111111111110230230230234726611111111111023023023023429771111111111102302302302350738111111111110230230230234533911111111111023023023023418610111111111110230230230234011111111111111102302302302349412111111111110230230230234573131111111111102302302302345831411111111111023023023023400615111111111110230230230234641611111111111023023023023451317115460000000001625077077077487218115460000000001625077077077454819101546000000000771625077077462420101546000000000771625077077475221100154600000000770771625077425322100154600000000770771625077432231000154600000007707707716254928241000154600000007707707716254592251000000000007707707707748082610000000000077077077077489427100000000000770770770774806操作步骤STEP1将表823所示数据输入SPSS数据编辑窗口后（见图85），依次选中“ANALYZE（统计分析）REGRESSION（回归分析）LINEAR（线性）”，如图86所示，即可打开【LINEARREGRESSION】对话框。图85SPSS数据编辑窗口图86SPSS数据编辑窗口（下拉菜单）STEP2将左边“Y”选入右边“DEPENDENT”（因变量）内，“Z1”、“Z2”、“Z3”、“Z4”、“Z1Z2”、“Z1Z3”、“Z1Z4”、“Z2Z3”、“Z2Z4”、“Z3Z4”、“”、“”、“、”选入右边1234“INDEPENDENT”（自变量）内，在“METHOD”中选中“STEPWISE”（逐步回归法），如图87所示。图87LINEARREGRESSION对话框STEP3按【STATISTIC】按钮后如图88所示，勾选“ESTIMATES”（估计值）、“CONFIDENCEINTERVALS（置信区间）”、“MODELFIT”（回归模式适合度检验）、“RSQUAREDCHANGE（相关系数的平方）”并且勾选残差下的“DURBINWATSON”，然后按【CONTINUE】按钮回到【LINEARREGRESSION】对话