多变量约束优化方法

1、第7章 多维约束优化方法Chapter 7 Constrained Several Variables Technique7-1 概述 Summarize工程中的优化设计问题绝大多数是约束优化问题，即 约束最优点不仅与目标函数的性质有关，也与约束函数的性质有关。因此，约束优化问题比无约束优化问题情况更复杂，求解困难也更大。根据对约束条件处理方法的不同，解决约束优化问题的方法分成二类:1) 直接法 Direct Method寻优过程直接在设计空间的可行域D内进行，但对每一个迭代点必须进行可行性和下降性检查。直接算法简单，直观性强，对目标函数和约束函数的函数性态没有特殊的要求。但是它的计算量大、收

2、敛速度慢，因此效率低，比较适用于解决低维数的、具有不等式约束的优化问题。这类算法包括随机方向法、复合形法等。2) 间接法 Indirect Method间接法的主要思路是，首先将约束优化问题转化为无约束优化问题，然后再用无约束优化方法来进行求解。间接解法分很多类，其中比较有代表性的、用的比较广泛的是惩罚函数法。7-2 惩罚函数法 Penalty Method在将约束优化问题转换成无约束优化问题时,惩罚函数法的处理思路与拉格朗日法很相似, 都是把目标函数与约束条件合并形成新的函数,而后求其最优解。但惩罚函数法得到的新函数不是一个而是一个系列。因此，用无约束优化算法求解得的最优解也是一个系列，即，

3、当时，。因此，惩罚函数法又称序列无约束最小化技术Sequential Unconstrained Minimization Technique ， 即SUMT法。7-2-1惩罚函数法的基本原理 Principle 根据约束优化问题构造新的函数 - 惩罚函数 其中，是和的复合函数；是在迭代过程中随迭代次数的增大而不断调整的参数，称为惩罚因子Penalty Factor，它们是单调增monotone increasing (decreasing) 或者单调减的正实数数列positive real number；和称为惩罚项 Penalty term，其值为非负。从惩罚函数的表达式可以看到，惩罚函数

4、值在一般情况下总是大于原目标函数的值，即。为了使惩罚函数的最优解最后能够收敛到原目标函数的最优解，一方面要构造合适的复合函数和，使其在惩罚函数的极小化过程中，当迭代点不满足原约束条件时受到惩罚；另一方面，随着迭代次数的增加，不断地调整惩罚因子的值，使惩罚项的惩罚作用越来越小并趋于消失。因此，构造的惩罚项应具有如下性质 根据惩罚项的函数形式，惩罚函数法又分为内点惩罚函数法、外点惩罚函数法和混合惩罚函数法。7-2-2 外点惩罚函数法 Exterior Point Penalty Method1）. 特点用外点惩罚函数法求解约束优化问题时，惩罚函数定义在可行域外，在寻优过程中无约束的序列最优点 是从

5、可行域的外部逼近原约束优化问题最优解的。在可行域内部，原目标函数与惩罚函数的等值线重合（即），而在外部，由于惩罚起作用，惩罚函数的等值线有畸形的趋势。用外点法即可以求解不等式约束优化问题，又可以求解等式约束优化问题。2） 仅有不等式约束的外点惩罚函数（1）问题 （2）惩罚函数 （3）说明式中， , 惩罚因子为单调增的正数数列（I）当迭代点满足约束条件时，无论取何值都有，此时有，惩罚项不起作用；(II) 当迭代点不满足约束条件时，如，就有，表明惩罚项起作用了，迭代点离边界越远，项就越大，其惩罚作用也就越大，就迫使迭代点向可行域靠拢，最终；(III) 惩罚因子是一个递增的正值数列，即，在计算过程中

6、一般按迭代式取，其中 （一般取510）。（4）迭代过程及算法框图(见教材P109)a) 选择初始点(可任选,但的无约束极值点均在可行域外)，收敛精度(黄金,无约束,约束3个)，确定及 如；b) 置计数器 ;c) 选用一种无约束算法，求的无约束极值点 ；d) 检验收敛精度， ，；e) ， 3 )。(5) 例题例7-1 用外点法求下列优化问题的最优解 解: 外点惩罚函数 所以在可行域外, 惩罚函数 , 令, 其无约束的极值点为 当 （图略见教材）例7-2 用外点法求下列优化问题的最优解解：构造惩罚函数 在可行域外有惩罚函数 由 联立求解得 当 当 当 当 从例7-1和例7-2可以看到，外点法的寻优

7、路线是从可行域外部逼近最优点的，但却永远不会到达约束线或进入可行域。因此，用外罚函数法得到的最终结果实际上仍然是不可行的点。3）同时具有等式和不等式约束的外点惩罚函数惩罚函数为 和同为单调增正数列，和可以取同样的值。4）应用中的问题 （1） 初始点的选择可以任意在可行域内外选择初始点, 但的无约束极值点均在可行域外；（2） 惩罚因子初始值和衰减系数的选择 和的选择很有讲究。理论和实践都证明，值取的越小，迭代次数就越多，寻优效率就会越低；但取的过大，惩罚函数会出现严重扭曲，用无约束算法寻优会碰到困难，甚至导致失败。常取，；（3） 约束裕量 图7-1约束裕量法 从外点法的特点可知，由于不可能趋于，

8、因此,外罚函数的序列只能是一个无限接近约束边界的非可行点，也就是说该点不能严格地满足所有的约束条件。这种情况有时在工程上的某些场合是不允许的。为了解决这类问题，对那些必须严格满足约束条件引入一个约束裕量，其几何意义就是将这些约束边界向可行域内移动一段距离，即约束条件成为 。这样求出的虽不在新的可行域内，但它已经包括在原可行域内。应该注意，不能取得很大，否则造成新的可行域与原来相差太大而失去了意义。一般取。7-2-2 内点惩罚函数法 1） 特点与外点惩罚函数相反, 内点惩罚函数是定义在可行域内的， 并在可行域内求惩罚函数的序列最优点，即求解无约束问题时的探索点（迭代点）总是保持在可行域内。但内惩

9、罚函数法只能求解不等式约束优化问题。 2）内点惩罚函数（1）问题 （2）惩罚函数 惩罚因子为单调减的正数。编程时一般取 例7-3 用内点法求下列优化问题的最优解解： 构造内点惩罚函数 不难求出其极值点的表达式为 它的变化趋势图略见教材。 例7-4 用内点法求下列优化问题的最优解 解：构造惩罚函数 由 联立求解得 当 时不满足 舍去则有无约束极值点为 当 当 当 当 3）应用中的问题 (1) 初始点的选择 与外点法不同, 必须是一个可行点, 它可以人为指定,也可以用随机等方法确定, 最简单的是选择原设计访案。 （2）和的选择 相比之下，的选择对计算效率影响很大，确定它需要一定的经验，对于较复杂的

10、优化问题需通过多次试算决定。许多书上推荐其取，常用，也可以按书上的经验公式来确定。而的取值范围常在之间。4）内点法和外点法的比较ü 惩罚函数的定义范围及其极值点的趋势：ü 惩罚函数的表达式：ü 解决问题的范围：ü 各自的优点：ü 内点法的迭代过程应在可行域内进行，所以迭代初始点必须选在可行域内，而外点法则无此要求，可以在全设计空间内选择初始点；内点法不适用于等式约束的优化问题，而外点法可以用，但最优点必须在约束边界上；外点法无法观察在优化过程中，可行域内设计点的目标函数值的变化情况，而往往这确是工程设计人员所关心的。而内点法在给定一个可行的初始设计方案以后，它将产生一系列目标函数得到改善的可以接受的设计方案。因为任何一个内