机械优化设计第二章优化设计的数学基础

,何军良,2,目录,CONTENTS,补课时间：周四11-13节教室：3A103,第二章优化设计的数学基础,矩阵运算,01,多元函数的方向导数与梯度,多元函数的泰勒展开,凸集、凸函数与凸规划,02,03,04,最优化问题的极值存在条件,05,5,2.1矩阵,2.1.1矩阵的概念,第二章优化设计的数学基础,设一线性方程组：,如果把上面式子中的系数按原来的顺序排列起来，记作下面的形式：,它就被称为矩阵，简记为:,6,2.1矩阵,2.1.1矩阵的概念,第二章优化设计的数学基础,由方阵A的全部元素构成的行列式，称为矩阵A的行列式，记为|A|。,应用MATLAB求解A=1,2,3;4,5,6;7,8,9;%生成矩阵Adet(A)%求A的行列式,当方阵A的行列式|A|=0,称A为奇异方阵；当|A|0,则称A为非奇异方阵。,7,2.1矩阵,2.1.1矩阵的概念,第二章优化设计的数学基础,单位方阵：在n阶方阵中，当主对角均为1，其余各元素都为零，则称作单位矩阵，并用特定符号E表示，即：,在矩阵代数中，单位矩阵相当于一般代数中纯1的概念。,MATLAB中，单位矩阵的命令是：eye(n),8,2.1矩阵,2.1.2矩阵的转置,第二章优化设计的数学基础,若将原矩阵A的行与列对换成列与行来写，就得到A的转置矩阵，用AT表示，即：,同样，行矩阵的转置为列矩阵，列矩阵的转置为行矩阵，如：,应用MATLAB求解：A=1,2,3;4,5,6;7,8,9;%生成矩阵AA%求A转置,9,2.1矩阵,2.1.3对称方阵,第二章优化设计的数学基础,当方阵具有A=AT，也即各元素满足aij=aji的性质时，称A为对称方阵。其全部元素沿主对角线呈对称分布，例如：,10,2.1矩阵,2.1.4矩阵的运算,第二章优化设计的数学基础,（1）矩阵相等,两个同阶数的矩阵A与B，它们的阶数相同，并且各对应元素完全相等，即aij=bij，则该两矩阵称为相等，记作A=B。,（2）矩阵的加减,两个同阶数的矩阵A与B可以进行加减运算，其和或差C亦同阶矩阵。矩阵C中各元素为矩阵A、B中各对应元素之和或差。即：,则必有相对于元素的对应关系,矩阵加法还满足交换律和结合律，设有同阶矩阵A、B、C，则有：,11,2.1矩阵,2.1.4矩阵的运算,第二章优化设计的数学基础,（3）矩阵的乘法,若以数乘矩阵，得同阶矩阵C,记C=A，规定C中各元素就是A中各元素乘以，即cij=aij。表达如下：,12,2.1矩阵,2.1.4矩阵的运算,第二章优化设计的数学基础,（3）矩阵的乘法,若以两个矩阵A与相乘，则必须A的列数等于B的行数时才可以进行这种运算，它的乘积仍是一个矩阵C，C的行数同A，C的列数同B，C的第i行j列的元素cij等于A中第i行各元素ai1,ai2,aip与B中第j列各元素a1j,a2j,apj逐对相乘之积的总和，即：,13,2.1矩阵,2.1.4矩阵的运算,第二章优化设计的数学基础,（3）矩阵的乘法,例如：,14,2.1矩阵,2.1.4矩阵的运算,第二章优化设计的数学基础,（3）矩阵的乘法,关于矩阵乘积的某些性质：,（1）当两矩阵之积为0时，并不意味着其中之一必为零矩阵。（2）当存在AB=AC的关系时，B=C的关系不一定成立。（3）当矩阵A与单位方阵相乘时，其积仍为A，即EA=A或AE=A。（4）乘积的转置(AB)T=BTAT。,15,2.1矩阵,2.1.4矩阵的运算,第二章优化设计的数学基础,（4）逆矩阵,对于一个n阶方阵A（非奇异方阵），如果另有一个n阶方阵B，能满足两者之积等于单位方阵，即AB=E时，则B叫做A的逆矩阵，记作B=A-1。一个矩阵如果有逆矩阵，就叫它为可逆矩阵。逆矩阵是唯一的，由此推知：,由此看，A也是A-1的逆矩阵。,应用MATLAB求解A=1,2,3;4,5,6;7,8,9;%生成矩阵Ainv(A)%求A的逆,16,2.1矩阵,2.1.4矩阵的运算,第二章优化设计的数学基础,（4）逆矩阵,把数学方程组写成矩阵的形式,若矩阵A是非奇异的（即|A|0），则A-1以左乘上式等号两端，所以：,因有，则,这里，只要求出系数矩阵的逆阵A-1，再求出乘积A-1B，即可求出未知量X。,17,2.1矩阵,2.1.4矩阵的运算,第二章优化设计的数学基础,（4）逆矩阵,在线性代数中将二次齐次函数称作二次型。其矩阵形式为：,式中，G是对称矩阵。如果对任何X0的的向量都有f(x)0，则称f为正定二次型，并称对称矩阵G正定。对称矩阵G为正定的充要条件是G的各阶主子式都为正。,18,2.2多元函数的方向导数与梯度,2.2.1方向导数,第二章优化设计的数学基础,一个二元函数f(x1,x2)在点X0(x10,x20)处的偏导数定义是:,定义：函数沿指定方向d的平均变化率的极限。,二元函数f(x1,x2)在X0(x10,x20)沿d方向导数:,方向导数,19,2.2多元函数的方向导数与梯度,2.2.2方向余弦,第二章优化设计的数学基础,即:,20,2.2多元函数的方向导数与梯度,2.2.3方向导数与偏导数的关系,第二章优化设计的数学基础,式中，1和2为d与x1和x2的夹角。,当1=0或1=/2时，方向导数分别为：,或,即为方向导数,21,2.2多元函数的方向导数与梯度,2.2.3方向导数与偏导数的关系,第二章优化设计的数学基础,对n元函数，仿此可得,式中，为函数对各个坐标轴的偏导数；,为d对各坐标轴方向余弦。,方向导数表明函数沿某方向的变化率，它是一个标量。当其值为正时，函数值增加；当其值为负时，函数值减小。,三元函数f(x1,x2,x3)在点X0(x10,x20,x30)沿d方向导数:,三维空间中的方向,22,2.2多元函数的方向导数与梯度,2.2.4梯度,第二章优化设计的数学基础,定义：方向导数变化最大的方向。,以二元函数为例，其方向导数为：,写成矩阵形式,式中，为d方向的单位向量。也是一个向量，称为f(X),记作,在X0的梯度，它与方向d无关。,23,2.2多元函数的方向导数与梯度,2.2.4梯度,第二章优化设计的数学基础,式中，,因此，可将方向导数改写为,梯度的模为,如何推广到n维函数的梯度？,梯度的模为,梯度的意义：当与d同向时，方向导数为最大，沿此方向函数值增加最快。反向时，函数值下降最快。垂直时，方向导数为零，沿此方向，函数值不变。,和,分别为向量和d的模。,为两向量的夹角。,24,2.2多元函数的方向导数与梯度,2.2.4梯度,第二章优化设计的数学基础,可得出如下结论：,1.方向导数是梯度在指定方向上的投影；2.最速下降方向为等值线（面）的法线方向；3.梯度的模是最大的方向导数,负梯度方向是函数的最速下降方向；4.在与梯度垂直的方向（等值线的切线方向）上，函数的变化率为零。5.与梯度方向成锐角的方向，函数值增加；成钝角的方向，函数值减小。,25,2.2多元函数的方向导数与梯度,2.2.4梯度,第二章优化设计的数学基础,例2-1求函数f(X)=x12+x22-4x1+4在点X1=32T和点X2=20T处的梯度。,解：函数的等值线如图由梯度定义可知：,在点X1=32T处梯度为：,该点梯度与x1的夹角为：,梯度是该点函数等值线的法线方向。,在点X2=20T处的梯度为：,梯度的分量都等于零，使得该点处的函数沿任何方向的方向导数也等于零。表明该点处函数值具有稳定性，此处的函数值就是极值，该点就是极值点。,26,2.2多元函数的方向导数与梯度,2.2.4梯度,第二章优化设计的数学基础,例2-1求函数f(X)=x12+x12-4x1+4在点X1=32T和点X2=20T处的梯度。,用MATLBA求解,symsx1x2%将x1，x2设置为符号变量f=x12+x22-4*x1+4;%写出函数表达式fx1=diff(f,x1);%对x1求偏导数;fx2=diff(f,x2);%对x2求偏导数;x1=3;x2=2;%对x1,x2求偏导数赋值;g=fx1fx2;%梯度;g=subs(g)%把符号变量转为数值,27,2.2多元函数的方向导数与梯度,2.2.4梯度,第二章优化设计的数学基础,例2-2求函数f(X)=x12+x12-4x1-2x2+5在点X0=00T和处函数变化率最大的方向和数值。,解：,28,2.2多元函数的方向导数与梯度,2.2.4梯度,第二章优化设计的数学基础,例2-3一般二元二次函数的矩阵式为其中c为常数，求梯度,解：将二元二次函数的矩阵式展开,于是梯度,即,29,2.2多元函数的方向导数与梯度,2.2.4梯度,第二章优化设计的数学基础,例2-3续,对于n元二次函数,其中,梯度,推广：,30,2.3多元函数的泰勒展开,2.3.1一元函数的Taylor展开式,第二章优化设计的数学基础,研究函数的极值问题，主要研究函数在极值点附近的变化形态。在实际计算中，常取前三项(二次函数)来近似原函数：,式中：,31,2.3多元函数的泰勒展开,2.3.2二元函数的Taylor展开式,第二章优化设计的数学基础,G(X0)函数f(x1,x2)在X0处的海赛（Hessian）矩阵,32,2.3多元函数的泰勒展开,第二章优化设计的数学基础,例2-4求二元函数f(x1,x2)=x12+x22-4x1-2x2+5在点处的二阶泰勒展开。,解：,2.3.2二元函数的Taylor展开式,33,2.3多元函数的泰勒展开,第二章优化设计的数学基础,利用MATLAB绘制该曲面：x1=-5:5;x2=-5:5;%取值范围设定x1,x2=meshgrid(x1,x2);%三维曲面的分格线坐标f1=x1.2+x2.2-4.*x1-2.*x2+5;surfc(x1,x2,f1)%绘制曲面(带等高线),此函数的图像是以X0点为顶点的旋转抛物面,例2-4续,34,2.3多元函数的泰勒展开,2.3.3多元函数的Taylor展开式,第二章优化设计的数学基础,35,2.3多元函数的泰勒展开,2.3.3多元函数的Taylor展开式,第二章优化设计的数学基础,函数f(X0)在X0处的梯度,海赛(Hessian)矩阵,36,2.3多元函数的泰勒展开,2.3.3多元函数的Taylor展开式,第二章优化设计的数学基础,若将函数的泰勒展开式只取到线性项，即取：,当将函数的泰勒展开式取到二次项时,则得到二次函数形式。在线性代数中将二次齐次函数称作二次型。,矩阵形式,当对任何非零向量x使,则二次型函数正定，G为正定矩阵。,则Z(x)是过点x0和函数f(x)所代表的超曲面相切的切平面。,37,2.3多元函数的泰勒展开,2.3.3多元函数的Taylor展开式,第二章优化设计的数学基础,Hessian矩阵与正定,Hessian矩阵的特性：是实对称矩阵。,矩阵正定的充要条件：矩阵G的各阶主子式都是正的，即矩阵的主子式det(ait)0。,矩阵负定的充要条件：矩阵G的奇数阶主子式det(ait)0，且偶数阶主子式det(ait)0,Hessian矩阵的正定性：,G(x*)正定，是x*为全局极小值点的充分条件；G(x*)负定，是x*为全局极大值点的充分条件。,38,2.3多元函数的泰勒展开,第二章优化设计的数学基础,例2-5判定矩阵G=是否正定,解：对称矩阵G的三个主子式依次为：,因此知矩阵G是正定的。,利用MATLAB求解G=6-31;-320;104a=det(G(1,1)%求G(1,1)行列式b=det(G(1:2,1:2)%求G(1:2,1:2)行列式c=det(G)%求G行列式,39,2.4凸集、凸函数与凸规划,2.4.1凸集,第二章优化设计的数学基础,若任意两点X1,X2R，对于任意(010)，恒有:,*若Y是X1和X2连线上的点，则有,整理后即得,凸集,非凸集,则R为凸集。,40,2.4凸集、凸函数与凸规划,2.4.2凸函数,第二章优化设计的数学基础,设f(x)为定义在Rn内一个凸集D上的函数，若对于，对于任意(010)及D上的任意两点x1,x2，恒有:,则f(x)为定义在D的凸函数。,（1）定义,41,2.4凸集、凸函数与凸规划,2.4.2凸函数,第二章优化设计的数学基础,（2）凸函数的基本性质,1.设F(x)为定义在凸集R上的凸函数，为任意正实数,则F(x)也是定义在R上的凸函数。,证：由定义,两边乘上,2.设F1(x)，F2(x)均为定义在凸集R上的凸函数，则F1(x)+F2(x)也是定义在R上的凸函数。,证：由定义,两式相加后整理可得证,42,2.4凸集、凸函数与凸规划,2.4.2凸函数,第二章优化设计的数学基础,（2）凸函数的基本性质,3.设F1(x)，F2(x)均为定义在凸集R上的凸函数，1，2为任意正实数，则1F1(x)+2F2(x)也是定义在R上的凸函数。,43,2.4凸集、凸函数与凸规划,2.4.3凸规划,第二章优化设计的数学基础,（2）凸函数的基本性质,对于约束优化问题,若其中f(x)和gi(x)均为凸函数，则这样的规划问题称为凸规划。,性质：,1.若给定一点X0，则集合R=X|f(X)f(X0)为凸集。此性质表明，当f(X)为二元函数时，其等值线呈现大圈套小圈形式；2.可行域R=X|gj(X)j=1,2,m为凸集；3.凸规划的局部极小点一定是全局极小点。,44,2.5最优化问题存在的极值条件,2.5.1无约束问题的极值存在条件,第二章优化设计的数学基础,1.必要条件,即,（1）一元函数具有极小值的充要条件,（2）二元函数具有极小值的充要条件,45,2.5最优化问题存在的极值条件,2.5.1无约束问题的极值存在条件,第二章优化设计的数学基础,1.充分条件,设,则,若X0是极小点，因此需满足：,即要求,或要求,也就是海赛矩阵G(X0)的各阶主子式大于0，即海赛矩阵正定。,46,2.5最优化问题存在的极值条件,2.5.1无约束问题的极值存在条件,第二章优化设计的数学基础,（3）多元函数具有极小值的充要条件,梯度为零向量,海赛矩阵正定,47,2.5最优化问题存在的极值条件,2.5.1无约束问题的极值存在条件,第二章优化设计的数学基础,例2-6求二元函数f(x1,x2)=x12+x12-4x1-2x2+5的极值。,解：根据必要条件求驻点,驻点,根据充分条件判断是否为极值点：,1，2阶主子式大于0，X0为极小点，f(X0)=0。,48,2.5最优化问题存在的极值条件,2.5.2等式约束问题的极值存在条件,第二章优化设计的数学基础,为了便于理解，先讨论二元函数只有1个等式约束条件的情况，即,求解这一问题可以用代数中的消元法。,根据等式约束，将一个变量x1变成另一个变量x2的函数关系,将x1带入目标函数f中，消去x1，变成一元函数F（x2）,从而将等式约束变成无约束问题。,目标函数通过消元由二维降为一维，因此消元法也是降维法。,（1）消元法（降维法）,49,2.5最优化问题存在的极值条件,2.5.2等式约束问题的极值存在条件,第二章优化设计的数学基础,根据l个约束条件，可将l个变量用其余n-l个变量表示，,对于具有l个等式约束的n维优化问题,将这些函数关系代入到目标函数中，得到n-l个变量的无约束优化问题的新目标函数，即F（xl+1,xl+2,xn）。,50,2.5最优化问题存在的极值条件,2.5.2等式约束问题的极值存在条件,第二章优化设计的数学基础,拉格朗日乘子法是求解等式约束优化问题的另一种经典方法，它是通过增加变量将等式约束优化问题变成无约束优化问题。所以又称作升维法。,（2）拉格朗日乘子法（升维法）,对于具有l个等式约束的n维优化问题,求解等式约束优化问题转换成无约束函数的极值条件,k为拉格朗日乘子，F（X,）为拉格朗日函数,51,第二章优化设计的数学基础,在极值点x*处有：,将等式约束乘以待定系数k，有以下等式：,可以通过其中l个方程等于0，求解出1，2，l:,2.5最优化问题存在的极值条件,2.5.2等式约束问题的极值存在条件,（2）拉格朗日乘子法（升维法）,52,第二章优化设计的数学基础,那么，就余下的n-l个变量的微分项：,因为dxj是任意量，因此有：,因此，等式约束的必要条件是：,2.5最优化问题存在的极值条件,2.5.2等式约束问题的极值存在条件,（2）拉格朗日乘子法（升维法）,53,第二章优化设计的数学基础,根据目标函数f(X)的无约束极值条件，则等式约束问题就可以转化为无约束的函数极值问题。其方法是引入新的目标函数：,其中，k为拉格朗日乘子。,2.5最优化问题存在的极值条件,2.5.2等式约束问题的极值存在条件,（2）拉格朗日乘子法（升维法）,新目标函数F(X)中显然多出了l个待定系数k（新的变量），则函数的总的变量共有n+l个变量。但是可提供n个方程，再与等式约束结合，足以求出n+l个变量。,54,第二章优化设计的数学基础,即,2.5最优化问题存在的极值条件,2.5.2等式约束问题的极值存在条件,（2）拉格朗日乘子法（升维法）,由于,所以,所以n+l个变量可由下述n+l个方程求出,55,第二章优化设计的数学基础,2.5最优化问题存在的极值条件,2.5.2等式约束问题的极值存在条件,（3）拉格朗日乘子的物理意义,考虑二元函数只有1个等式约束条件的情况，即,表示成拉格朗日函数的形式，即,由公式,可得,即,56,第二章优化设计的数学基础,2.5最优化问题存在的极值条件,2.5.2等式约束问题的极值存在条件,（3）拉格朗日乘子的物理意义,上式中是单位变量的目标函数变化率，而则是单位变量的约束值变化率。可以称为优化效率或敏度系数。,因为,所以各变量导致的优化效率是相等的，都等于常量,对于机械问题，若目标函数f(x)是结构重量，约束条件是结构刚度或某点的变形，则分别表示？,结构重量的收益，结构刚度的支出,常量表示？,单位刚度的支出能获得的结构重量的收益，反映刚度对重量的优化效率,57,第二章优化设计的数学基础,例2-7求用消元法和拉格朗日乘子法分别计算在约束条件h(x1,x2)=2x1+3x2-6=0的情况下，目标函数f(x1,x2)=4x12+5x22的极值点坐标。,解：（1）消元法,令,改造目标函数,则,解得：,（2）拉格朗日乘子法,因,2.5最优化问题存在的极值条件,2.5.2等式约束问题的极值存在条件,58,第二章优化设计的数学基础,2.5最优化问题存在的极值条件,2.5.3不等式约束问题的极值存在条件,（1）基本思路,求解不等式约束优化问题的基本思想：,具体做法：,将不等式约束条件变成等式约束条件。,引入松弛变量。,59,第二章优化设计的数学基础,2.5最优化问题存在的极值条件,2.5.3不等式约束问题的极值存在条件,（2）一元函数在给定区间上的极值条件,对于一元函数f(x)在给定区间a,b上的极值优化问题：,转换成等式约束：,拉格朗日函数：,拉格朗日乘子,60,第二章优化设计的数学基础,2.5最优化问题存在的极值条件,2.5.3不等式约束问题的极值存在条件,（2）一元函数在给定区间上的极值条件,拉格朗日函数：,对应于不等式约束条件的拉格朗日乘子，应满足非负要求,根据拉格朗日乘子法,可得,61,第二章优化设计的数学基础,2.5最优化问题存在的极值条件,2.5.3不等式约束问题的极值存在条件,（2）一元函数在给定区间上的极值条件,由于,有2种情况,情况1：,则,约束不起作用,情况2：,则,约束起作用,说明,和,至少有一个取0,可改写成,因此,可改写成,同理,62,第二章优化设计的数学基础,2.5最优化问题存在的极值条件,2.5.3不等式约束问题的极值存在条件,（2）一元函数在给定区间上的极值条件,极值条件,下面2个条件为什么不需用了？,3个方程解3个未知数已经够了,63,第二章优化设计的数学基础,2.5最优化问题存在的极值条件,2.5.3不等式约束问题的极值存在条件,（2）一元函数在给定区间上的极值条件,极值条件,一元函数在区间【a,b】上的极值条件可以转化,情况1：当ax*b时，因为,则极值条件为,？,情况2：当ax*时，因为,则极值条件为,情况3：当bx*时，因为,则极值条件为,第二章优化设计的数学基础,2.5最优化问题存在的极值条件,2.5.3不等式约束问题的极值存在条件,（2）一元函数在给定区间上的极值条件,64,第二章优化设计的数学基础,2.5最优化问题存在的极值条件,2.5.3不等式约束问题的极值存在条件,（2）一元函数在给定区间上的极值条件,65,起作用约束的下标集合：,情况1：当ax*b时，两个约束均不起作用,情况2：当ax*时，第一个约束起作用,情况3：当bx*时，第二个约束起作用,结论：在极值条件中，只考虑起作用的约束及其相应的拉格朗日乘子,第二章优化设计的数学基础,2.5最优化问题存在的极值条件,2.5.3不等式约束问题的极值存在条件,（3）库恩塔克条件,66,参考一元函数不等式优化问题极值的条件，用拉格朗日乘子法推导出相应的极值条件，新的拉格朗日函数如下：,拉格朗日乘子：,松弛变量：,第二章优化设计的数学基础,2.5最优化问题存在的极值条件,2.5.3不等式约束问题的极值存在条件,（3）库恩塔克条件,67,参考一元函数的条件，得出多元函数不等式约束问题的极值条件,库恩塔克条件,库恩塔克条件,第二章优化设计的数学基础,2.5最优化问题存在的极值条件,2.5.3不等式约束问题的极值存在条件,（3）库恩塔克条件,引入起作用的约束条件后的极值条件如下：,68,库恩塔克条件,第二章优化设计的数学基础,2.5最优化问题存在的极值条件,2.5.3不等式约束问题的极值存在条件,（3）库恩塔克条件,几何意义：在约束极小值点x*处，函数f(x)的负梯度一定可以表示成所有起作用约束在该点的梯度（法向量）的非负线性组合。,69,几何意义,第二章优化设计的数学基础,2.5最优化问题存在的极值条件,2.5.3不等式约束问题的极值存在条件,（3）库恩塔克条件,xk是极值点，所以xk必须落在g1(x)=0和g2(x)=0的交线上。,和、线性相关且3者共面,70,几何意义（二维）,2.5最优化问题存在的极值条件,2.5.3不等式约束问题的极值存在条件,（3）库恩塔克条件,第二章优化设计的数学基础,落在和形成的锥角区外的一侧,从xk出发向切平面的方向移动时，目标函数值减小，且不破坏约束条件，因此xk出不是稳定最优点，不是约束最优点，也不是局部极值点。,71,几何意义（二维）,2.5最优化问题存在的极值条件,2.5.3不等式约束问题的极值存在条件,（3）库恩塔克条件,第二章优化设计的数学基础,落在和形成的锥角之内,xk出是稳定最优点，是约束最优点或局部极值点。,72,几何意义（N维）,2.5最优化问题存在的极值条件,2.5.3不等式约束问题的极值存在条件,（3）库恩塔克条件,第二章优化设计的数学基础,在局部极小点xk处,目标函数的负梯度能表示成有效约束梯度的非负组合,即目标函数的负梯度属于有效约束的梯度所生成的凸锥内.,73,结论：,2.5最优化问题存在的极值条件,2.5.3不等式约束问题的极值存在条件,（3）库恩塔克条件,第二章优化设计的数学基础,（1）在极值点处和以及线性相关，或者说可以看成和的线性组合,（2）如果xk是极小点，那么目标函数的负梯度一定位于两个约束函数的梯度形成的夹角内，或者说他们的线性组合系数是正的，即,74,同时具有等式和不等式约束的优化问题：,库恩塔克条件：,2.5最优化问题存在的极值条件,2.5.3不等式约束问题的极值存在条件,（3）库恩塔克条件,第二章优化设计的数学基础,式中：k为对应于等式约束的拉格朗日乘子（无非负）k为对应于不等式约束的拉格朗日乘求子（非负）,75,76,第二章优化设计的数学基础,判断有约束问题的极值点是否存在的条件采用库恩-塔克条件。,库恩-塔克(K-T)条件中心思想：,目标函数在该点的负梯度应该为在该点起作用的条件约束的梯度的线性组合。对于等式约束它一定是起作用约束，对于不等式约束，需要看最优点是否落在约束的边界上，如左图，g2是有作用约束，右图最优点在g1,g2交点处，g1,g2都是起作用约束。,2.5最优化问题存在的极值条件,2.5.3不等式约束问题的极值存在条件,（3）库恩塔克条件,第二章优化设计的数学基础,2.5最优化问题存在的极值条件,2.5.3不等式约束问题的极值存在条件,（4）库恩塔克条件举例,对于如下约束优化问题，利用K-T条件求极值,画出目标函数的等值线和可行域,77,78,第二章优化设计的数学基础,2.5最优化问题存在的极值条件,2.5.3不等式约束问题的极值存在条件,（4）库恩塔克条件举例,解法1：