[工学]机械优化设计第二章.ppt

机械优化设计,机电工程学院 机械制造及其自动化教研室 高自成,第二章优化设计的数学基础,第一节 多元函数的方向导数与梯度 一、方向导数 即函数f（x1,x2）在点x0(x10,x20)点处沿某一方向d的变化率，定义为：,第一节 多元函数的方向导数与梯度,方向导数与偏导数的关系：,第一节 多元函数的方向导数与梯度,二、二元函数的梯度 二元函数 f(x1,x2)在点x0处的方向导数,二、二元函数的梯度,设d为方向单位向量 则有,二、二元函数的梯度,梯度方向为等值线的法线方向，也是函数值变化最快的方向，梯度的模就是函数变化率的最大值。,梯度方向与等值线的关系,三、多元函数的梯度和方向导数,将二元函数推广到多元函数，则对于多元函数f（x1， x2， xn）在点x0（x10，x20，x1n）处的梯度 多元函数的方向导数：,三、多元函数的梯度和方向导数,为d方向的单位向量,第二节 多元函数的泰勒展开,一元函数的泰勒展开为 二元函数f（x 1，x2）在点x0（x10 ， x20）处的泰勒展开式为,第二节 多元函数的泰勒展开,把上述式子写成矩阵形式,第二节 多元函数的泰勒展开,求二元函数,第二节 多元函数的泰勒展开,将二元函数推广到多元函数时，则f（x1，x2，xn）在点x0泰勒展开式的矩阵形式为,第三节 无约束优化问题的极值条件,1.一元函数的极值条件： 2.二元函数的极值条件： 对于二元函数f（x1，x2），若在x0（x10，x20）处取得极值，其必要条件是,2.二元函数的极值条件,二元函数极值的充分条件：,设,则,二元函数极值的充分条件：,若f（x1，x2）在x0点处取得极小值，则要求在点x0点附近的一切点x均须满足,即要求,或要求,即,二元函数极值的充分条件：,上述条件反映了f（x1，x2）在x0点处的海赛矩阵G（x0）的各阶主子式均大于零，即对于,要求,二元函数极值的充分条件：,对于多元函数f（x1， x2，xn），若在x*取得极值，则极值的必要条件为,极值的充分条件为,正定,第四节 凸集、凸函数与凸规划,优化问题一般是要求目标函数在某一区域内的最小点，也就是要求全局的极小点， 一元函数的凸性,第四节 凸集、凸函数与凸规划,一、凸集 一个点集（或区域），如果连接其中任意两点x1和x2的线段都全部包含在该集合内，就称该点集为凸集。否则称为非凸集。用数学语言表述为：如果对于一切x1R，x2R及一切满足01的实数，点x1+（1-）x2yR，则称集合R为凸集。凸集可以是有界的，也可以是无界。N维空间中的r维子空间也是凸集。,第四节 凸集、凸函数与凸规划,凸集具有以下性质： 若A是一个凸集，是一个实数，是凸集中的一个动点，即A，则集合 A=X：X=，A 还是凸集。,第四节 凸集、凸函数与凸规划,若A和B是凸集，a、b分别是凸集A、B中的动点，即a A，b B，则集合 A+B=X：X=a+b， a A，b B 还是凸集。 任何一组凸集的交集还是凸集。,凸集的性质,第四节 凸集、凸函数与凸规划,二、凸函数 函数f（x），如果在连结其凸集定义域内任意两点x1、x2的线段上，函数值总小于或等于用f（x1）及f（x2）作线性内插所得的值，那么称f（x）为凸函数。用数学语言表述为 fx1+（1-）x2fx1+ （1-）f x2 其中 0 1 若上两式均去掉等号，则称为严格凸函数。,凸函数的定义,第四节 凸集、凸函数与凸规划,凸函数的一些简单性质 设f（x）为定义在凸集R上的一个凸函 数，对任意实数0，则函数 f（x）也是定义在R上的凸函数。 设f1（X）和f2（X）为定义在凸集R上的两个凸函数，则其和f1（X）+ f2（X）也是R上的凸函数。 对于任意正数和，函数 f1（X）+ f2（X）也是在R上的凸函数。,第四节 凸集、凸函数与凸规划,三、凸性条件 设f（x）为定义在凸集R上，且具有连续一阶导数的函数，则f（x）在R上为凸函数的充分必要条件是对凸集R内任意不同两点x1，x2，不等式 恒成立,设f（x）为定义在凸集R上连续二阶导数的函数，则 f（x）在上为凸函数的充分必要条件是海赛矩阵G（x）在R上处处正定 。,第四节 凸集、凸函数与凸规划,四、凸规划 对于约束优化问题 minf（x） s.t. gj（x）0 j=1，2，m 若f（x），gj（x） j=1，2，m都为凸函数，则称此问题为凸规划。,第四节 凸集、凸函数与凸规划,凸规划的性质 1.若给定一点x0，则集合R=x|f（x）f（x0）为凸集。此性质说明，当f（x）为二元函数时，其等值线呈现大圈套小圈的形式。 2.可行域R=x|gj0 j=1，2，m为凸集 3.凸规划的任何局部最优解就是全局最优解。,第五节 等式约束优化问题的极值条件,求解等式约束优化问题 minf（x1 x2） s.t. hk（x）=0 ，k=1，2，m需要导出极值存在的条件，这是求解等式约束优化问题的理论基础。在数学上有两种方法处理：消元法（降维法）和拉格朗日乘子法（升维法）。 一、消元法 二、拉格朗日乘子法 求解等式约束的另一种经典方法，它是通过增加变量将等式约束优化问题变成无约束优化问题，所以又称升维法。,第五节 等式约束优化问题的极值条件,二、拉格朗日乘子法（就是把约束极值条件转化为无约束问题的极值） 对于具有l个约束的维优化问题 minf（x） s.t. hk（x）=0 ，k=1，2，l 在极值点x*有,第五节 等式约束优化问题的极值条件,分别乘以待定系数k（k=1，2，l）再和,把l等式约束给出的l个,相加，得,可以通过其中l个方程,来求解l个1， 2 l ，使得l个变量的微分dx1， dx2 dxl系数全为零。,（式2-10),（式2-11),第五节 等式约束优化问题的极值条件,式2-10的等号左边就只剩下n-l个变量的微分的dxl+1， dxl+2， dxn的项。,dxl+1， dxl+2， dxn是任意的项,所以,（2-13）,将2-10和2-13合并得,第五节 等式约束优化问题的极值条件,根据目标函数的无约束极值条件,则上述问题的约束极值条件可以转换成无约束的极值条件。办法是把原来的目标函数f(x)改造成如下形式的新的目标函数。,式中hk（x）就是原目标函数f（x）的等式约束条件，而待定系数k成为拉格朗日乘子，F（x，）成为拉格朗日函数。这种方法就叫拉格朗日乘子法。,第五节 等式约束优化问题的极值条件,拉格朗日乘子法： 设 ， 目标函数是f（x），约束条件是hk（x）=0（k=1，2，l）l个等式约束方程， 为了求出f（x）的可能极值点 引入拉格朗日乘子 并构成一个新的目标函数,把F（x，）作为一个新的无约束条件的目标函数来求解它的极值点，所得的结果就是满足约束条件hk（x）=0（k=1，2，l）， 原目标函数f（x）的极值点。自F（x， ）具有极值的必要条件,可以得到n+l个方程，从而解得x=x1,x2, ,xnT和k（K=1，2，l）共l+n未知个变量的值，由上述方程组求得的 是函数f（x）的极值点的坐标值,第五节 等式约束优化问题的极值条件,拉格朗日乘子法可以用另一种方式表示如下： 设x*是目标函数f（x）是在等式约束 hk（x）=0条件下的一个局部极值点，而且在该点处各约束函数的梯度 hk（x*）（k=1，2，