不等式约束最优化问题的最优性条件

1、不等式约束最优化问题的最优性条件不等式约束最优化问题1 不等式约束最优化问题的最优性条件定义闭包： Closure 可行方向：可行方向锥：S在点 处的可行方向锥Feasible direction cone注:当 时, S在 处的可行方向锥是全空间Rn .2 不等式约束最优化问题的最优性条件定义下降方向(descent direction)：下降方向锥：f在点 处的下降方向锥3 不等式约束最优化问题的最优性条件可行方向锥与下降方向锥的几何解释在极小点处，任何下降方向都不是可行方向，而任何可行方向也不是下降方向，即，不存在可行下降方向.SF0D4有效约束：非有效约束：有效集：不等式约束最优化问题

2、的最优性条件定义设(3.3.1)中的一个可行点满足为在处的有效约束或紧约束则称约束 Active Constraint 若有则为在处的非有效约束或松约束称 inactive Constraint 在可行点 处的有效约束的指标集：5有效约束与非有效约束-几何解释不等式约束最优化问题的最优性条件Sg2(x)=0g1(x)=0g3(x)=0(1) 在点 处, g1(x)0 和 g2 (x)0是有效约束；g3(x)0是非有效约束.(2) 的非有效约束g3(x)0对 处的可行方向没有影响， 故非有效约束也称为不起作用的约束.6定理3.3.1:考虑约束最优化问题几何最优性条件一阶必要条件 不等式约束最优化

3、问题的最优性条件7定理3.3.2:在问题(3.3.1)中，假设：(1)为局部最优解且(2)与在点可微；(3)在点连续；则几何最优性条件一阶必要条件 不等式约束最优化问题的最优性条件仅考虑在某点起作用的约束8例1：确定：在点处的可行下降方向.解： 不等式约束最优化问题的最优性条件几何最优性条件一阶必要条件9设 不等式约束最优化问题的最优性条件几何最优性条件一阶必要条件10 不等式约束最优化问题的最优性条件 几何最优性条件直观,但难以在实际 计算中应用.将几何最优性条件转化为代数 最优性条件.?几何最优性条件一阶必要条件(1) Fritz John 条件(2) Kuhn-Tucker 条件11(1

4、948) 不等式约束最优化问题的最优性条件Fritz John 最优性条件一阶必要条件 定理3.3.3:设为问题(3.3.1)的局部最优解且在点可微，则存在非零使得：则存在非零的向量12例2：验证处Fritz-John条件是否成立？解：取有Fritz John 最优性条件一阶必要条件 不等式约束最优化问题的最优性条件即该问题在x*处Fritz-John条件成立.13Fritz John 最优性条件一阶必要条件 不等式约束最优化问题的最优性条件注: (1)上例说明在Fritz John条件中有可能0=0. 此时，目 标 函数的梯度就会从Fritz John中消失, 即Fritz John 条件实

5、际上不包含目标函数的任何信息，仅仅表明 起作用约束函数的梯度线性相关，而这对表述最优 点没有什么实际价值.(2) 为了保证0 0, 还需要对约束再加上一些限制条件这种限 制条件通常称为约束规格(Constraint Qualification) 一个 自然的想法是附加 线性无关的约束规格 (当然还有许多其他的约束规格)，这样就得到了著名的 KuhnTuker条件.14(1951)定理3.3.4设为 (3.3.1)局部最优解,在点可微，对于的线性无关，则存在非零向量使得： 不等式约束最优化问题的最优性条件Kuhn-Tucker 最优性条件一阶必要条件 K-T条件互补松弛条件15 不等式约束最优化

6、问题的最优性条件Kuhn-Tucker 最优性条件一阶必要条件 式(a)的几何意义:在局部极小点 xk 处,目标函数的梯度能表示成有效约束梯度的非负组合,即目标函数的梯度属于有效约束的梯度所生成的凸锥内.16例3：验证处kuhn-Tucker条件是否成立？解：对所以不是K-T点原因是线性相关 不等式约束最优化问题的最优性条件Kuhn-Tucker 最优性条件一阶必要条件 17定理3.3.5 不等式约束最优化问题的最优性条件Kuhn-Tucker 最优性条件一阶充分条件 设在问题(3.3.1)中是凸函数,是可行点，且在 处可微.若 是(3.3.1)的K-T点,则是(3.3.1)的全局极小点.18K-T条件对于约束问题的重要性在于：1）检验某点是否为约束最优点；2）检验一种搜索方法是否可行。例4：判断x(k)=1 0T是否为下列约束优化问题最优点： 不等式约束最优化问题的最优性条件Kuhn-Tucker 最优性条件一阶充分条件 19解：1）判断该点起作用约束：2）计算目标函数及有效约束在 该点梯度： 不