机械优化设计chapterPPT课件.pptVIP

3 优化设计某些基本概念和理论 内容 目标函数与约束函数的某些基本性质 约束函数的集合及其性质 优化设计问题的最优解及其最优性条件 优化设计问题的数值解法及收敛条件 Mathematicsforoptimum 从数学角度讲 最优化问题就是多元函数的求极值问题 它涉及到多元函数的许多理论和基本概念 为了便于后面各章的学习 这里做一些必要的学习和复习 1 3 1目标函数与约束函数的某些基本性质 一 函数的等值面 线 当目标函数f X c 则可以有无限多组设计变量x1 x2 xn值与之对应 亦即有无限多个设计点对应着相同的函数值 这些点集为等值曲面 线 例如 当a 0 c 0和ac b2 0时为一椭圆抛物面 即它是一个正定二次函数 当目标函数取一系列的正数时 在坐标系中得到一组相应高度的水平面 它与椭圆物面的交线均为椭圆 2 二 函数的最速下降方向 对于一个连续可微函数f X 在某一点X k 的一阶偏导数 表示函数f X 在X k 点沿各个坐标方向的变化率 最优化的目的就是要求函数的极小点 优化方法就是 分析函数在某点的变化情况 确定函数最快下降方向 用搜索的方法确定函数的极小点 这里要用到函数的方向导数和梯度的概念 3 设一个二维函数 有一个方向S 模长为 函数f X 在某一点X 0 沿s方向的方向导数 一般 定义 为函数f X 在点X 0 的梯度 记为 f 或grandf x 0 4 方向导数可表示为 其中 结论 S方向与梯度方向一致时 其方向导数为最大值 也就是说 目标函数的梯度是函数值增长最快的方向 函数的梯度具有如下性质 f为函数在x k 最陡上升方向 梯度向量 f与过点的等值线的切线是正交的 f为函数在x k 最速下降方向 5 梯度的单位向量 UnitVector 性质1在任意一点XK 函数上升的最快方向是梯度方向 其变化的最大值为该点梯度的模 性质2函数的梯度方向为它的等值线 面 的法线方向 推论与梯度成锐角的方向为函数上升的方向 钝角的方向为函数下降的方向 性质3在函数取得极值的点 其梯度为零 反之不成立 性质4梯度 大小 方向 因点而异 它仅表示函数在某点附近的一种局部性质 6 例3 1求函数 在点 处的梯度 解 显然从给定的函数可以看出 在点处 函数取得极小值 在该点函数的梯度为 7 例3 2求函数 在点 和 处的梯度 在点 模 梯度方向 解 在点 8 例3 3求二元函数f x1 x2 x21 x22 4x1 2x2 5在X0 2 2 T处的梯度及梯度的模 解 由梯度的定义式可得 将X0 2 2 T代入上式 得 的模为 梯度的单位向量 9 三 函数的Taylor展开与Hession矩阵 Taylorformula series andHessionmatrix 在优化设计中 目标函数 或约束函数 可能是非常复杂的非线性多元函数 为了便于研究该函数的极值问题 常用比较简单的函数在局部范围内近似地替代它 大多数优化方法常采用在某一点附近用二次函数来逼近原函数的方法来分析 也称把原函数在这一点作Taylor的二次展开 一元函数 在 点的二次展开式为 10 函数的Taylor展开在优化设计方法的讨论中十分重要 现以二元函数f x1 x2 为例 函数在点XK X1K X2K 处的泰勒展开式为 将上述展开式写成矩阵形式 有 11 称 为黑塞 Hessian 矩阵 由于函数的二次连续性 矩阵是对称矩阵 12 将二元函数的泰勒展开式推广到多元函数时 为 其中 为梯度 13 为函数f x 在点x k 处的黑塞矩阵 14 分析海色矩阵的正定性 在优化计算中对于研究函数的极值相当重要 根据线性代数知识可知linearalgebra 如果矩阵 的行列式 的各阶主子式均大于零 即 矩阵 Ifitssuccessiveprincipalminorsarepositive thematrixispositivedefinite 是正定的 15 例 求二元函数f x1 x2 x21 x22 4x1 2x2 5在X0 2 2 T处的梯度及梯度的模 解 由梯度的定义式可得 将X0 2 2 T代入上式 得 的模为 梯度的单位向量 16 例 试将函数在点展开成泰勒二次近似式 解 首先写出该函数的剃度矩阵 17 再写出Hesson矩阵 按照泰勒二次近似展开式 得到 18 19 由于二次函数在讨论优化方法时具有重要的地位 下面介绍它的性质 若令 一个二维只有二次项的特殊非线性函数 则函数的向量矩阵式为 这类函数称为平方函数 则有 20 四 函数的凸性 1 凸集的概念 假设D为n维欧氏空间设计点的一个集合 若其中任意两点X 1 和X 2 的连线上的点都属于集合 则称D为n维欧氏空间中的一个凸集 函数的凸集表现为其单峰性 Unimodal 对于具有凸性的函数而言 其极值点只有一个 该点即是局部极值点 也是全局最优点 为了研究函数的凸性 首先引入凸集的概念 21 2 凸函数的定义 ConvexFunction 仅有一个局部最优点 值 也是全局最优点 的函数称为凸函数 凸函数的数学定义可以从一元函数推出 如图是一具有凸性的一元函数 可以看到 在该曲线上任取二点 和 连成的直线都位于曲线的上方 即直线的纵坐标值一定大于或等于对应点的函数值 这种关系可以用数学式表示如下 22 设f x 为定义在n维欧氏空间中凸集D上的一个函数 若对任何实数 0 1 及凸集上任意两点X 1 和X 2 存在如下不等式 凸函数的几何解释 则称函数f x 是定义在凸集D上的一个凸函数 23 3 凸函数的充要条件 设f x 为定义在凸集D上 且存在连续二阶导数 则f x 在D上为凸函数的充要条件为 f x 的海塞矩阵处处正定或半正定 4 凸函数的基本性质 1 凸函数在域内存在全局最小点 2 凸函数的正数倍仍然为凸函数 3 凸函数的和仍然为凸函数 24 五 函数的单调性 单调增函数定义 设连续函数在某一区域内 对于变量X 有X1 X2 有函数f X1 f X2 一元函数 增函数 无关 减函数 同理 对于多元函数 若 则对该设计变量为单调增函数 推广 某个搜索方向上 若 则 函数在该方向为单调增函数 25 3 2约束函数的集合及其性质 一 约束集合和可行域 约束集合 满足所有约束条件的集合 即 可行域 约束集合所构成的区域 注 由于约束面的存在而设计空间划分为设计可行域和非可行域 最优解或可接受解一定在这些点产生 26 关于可行域的凸性 结论 若各个不等式约束函数gu X u 1 2 m 是凸函数和等式约束hv X v 1 2 p 是线性函数 则G是凸集 但是只要等式约束是非线性的 那么集合G一定是个非凸集 二 起作用约束和松弛约束 对于一个不等式约束来说 如果所讨论的设计点使该约束时 时 则称这个约束点的一个起作用约束或紧约束 而其他满足的约束称为松弛约束 对于等式约束 都是起作用约束 27 三 冗余约束 如果一个不等式约束条件的约束面对可行域的大小不发生影响 或是约束面不与可行域相交 即此约束称为冗余约束 优势定理 一旦确定某一个约束为冗余约束 则可以从模型中消去 28 四 可行方向 可行域一个设计点x k 在各个方向上都可以作出移动到新点 但设计点处于起作用的约束上时 它的移动就会受到可行性的限制 此时 因为要求新点在D内 必定 由于 必有 可行方向s与约束梯度向量的夹角大于90 同理 29 3 3优化设计问题的最及其最优性条件 一 优化设计问题的最优解 二 局部最优点和全局最优点 概念介绍 优化设计是求n个设计变量在满足约束条件下使目标函数达到最小值 X 为最优点 f x 为最优值 若设计变量不受与约束条件的限制则为无约束最优解 例3 4 30 对于n元函数 的无约束优化问题 点x 为局部极值点的充要条件是 1 2 为正定时 X 为极小点 为负定时 X 为极大点 三 无约束问题最优解的最优性条件 31 判定正定 负定的方法 海山矩阵的各主子式的行列式之值为正值 为正定 海山矩阵的各主子式的行列式之值为正值 负值交替排列 为负定 32 例 求函数的极值 解 根据极值的必要条件求驻点 得驻点 然后根据极值的充分条件 判断此点是否为极值点 其各项主子式均大于零 海山矩阵为正定矩阵 故 x 为极小点 极小点的值为0 33 四 约束问题最优解的最优性条件 的实质在所有的约束条件所形成的可行域内 求得目标函数的极值点 即约束最优点 最优点与目标函数有关 与约束函数有关 复杂化 1 等式约束优化问题的极值条件 拉格朗日乘子法 LagrangeMultipliers 34 拉格朗日在1760年首次提出 可以用拉格朗日乘子法求解下面等式约束优化问题 拉格朗日法的主要思路是 借助拉格朗日乘子 将约束并入目标函数 构造一个新的无约束的Lagrange函数 35 根据无约束优化问题的极值的条件可以得到方程组 联立求解上述 个方程 就可求得 和 共 最后一组公式保证了最优解满足约束条件 且拉格朗日函数的最优解等价于原优化问题的最优解 即 个变量 36 解首先 构造一个Lagrange函数 一般来说 在从等式约束比较多的情况下 如果从等式中能够解出一个或者多个变量 最好的办法是 利用这些关系 把这些变量从优化问题中消去 就可以降低问题的维数和等式约束数 例4 1求下列约束优化问题的最优解 37 Exp 4 2 Solution Firsteliminate by Then whichyieldsthethreenecessaryconditions 38 insteadofthefiveequationsinfiveunknownswhichwouldresultfromtheLagrangianifwritten 2 不等式约束的极值条件 Kuhn Tucker条件 用拉格朗日乘子法可以求解等式约束优化问题 根据这个思想 Kuhn和Tucker扩展了该方法 使得可以用它来解决一般的包括等式和不等式约束的优化问题 非线性规划问题 Kuhn Tucker条件阐述如下 39 对于一般的约束优化问题 如果目标函数和约束函数 可微 是一个可行点 为可行点 的起作用约束的集合 如果各个 和 彼此线性无关LinearlyIndependent 是上述约束优化问题的最优解 则它必定满足下列条件 40 如果约束优化问题只有等式约束 则K T条件成为 可以发现 这时的K T条件就是拉格朗日乘子法 41 如果约束优化问题只有不等式约束 则K T条件成为 3 K T条件的几何解释 要求自学教材50 52页 42 例4 3用K T条件判断点 和 哪一个是下列约束优化问题的最优点 解 在 点 起作用约束为 K T条件为 满足非负条件 43 点 起作用约束是 K T条件为 亦满足非负条件 所以 是上述约束优化问题的最优点 满足的不一定是最优 如果在最优点 和 出现线性相关 就不能保证该约束优化问题在 点一定满足K T条件 在 但 44 例4 4分析下列约束优化问题的K T条件 45 解 从图4 5能很清楚地看到 该约束优化问题的最优解是 在 点 起作用约束为 和 K T条件为 这样代入K T条件有 46 最优点仍为 且在 点 和 代入 因此 在最优点不满足K T条件 其原因是 在 点有 即 显然它们彼此线性相关 如果把目标函数改成 第一式成为矛盾方程 47 依然彼此线性相关 但K T条件中的第一式就成为 等式成立因此 K T条件的前提条件非常重要 否则判断不出是否是最优点 4 二维优化问题的几何解法 GeometricalSolution 上面提到的极值条件 K T条件都属于优化问题的解析解法 对于比较简单的二维问题 还可以用作图法 几何解法 来解 下面以一个例子来说明 48 例4 4用图解法求解下列优化问题 解在设计平面 上分别作可行域和目标函数等值线 解在设计平面 49 可行域是由约束线 和 围成的 约束线 没起到直接作用 作出一系列等值线就可以发现 其中一条与约束条件 相切 其切点就是最优点 因为该点属于可行域 且是可行域中目标函数值最小的点 显然 最优点所在等值线的函数值就是最优值 若能够精确作图 可以精确地确定该点坐标为 50 最优值为 约束 是该点的起作用约束 其它约束为不起作用约束 如果把本例中的所有约束都取消 即为无约束优化问题 它的最优点就是同心园等值线的中心 最优值为 51 若X 是一个局部极小点 则该点的目标函数梯度可表成诸约束面梯度的线性组合的负值 即 q 在设计点处不等式约束面数 J 在设计点处等式约束面数 非负值的乘子 也称为拉格朗日算子 在点X 处不起作用的约束条件对应的一定为零 只有当某一约束在点起作用约束时 可以不为零 库恩 塔克 kuhn Tucker 条件 52 库恩 塔克 kuhn Tucker 条件的几何解释 例 对于约束极值问题 试运用k t条件检验X 2 0 T是否为约束极值点 解 1 计算X 点的各个约束函数值 故起约束作用的约束是 g1 g2 53 2 有关函数在X 点的梯度 3 求拉格朗日乘子 即 拉格朗日乘子为非负 满足k t条件 故为约束极值点 54 3 4优化设计问题的数值解法及收敛条件 从上面可以看到 用几何法求解虽然直观 但仅限于二维问题 而K T条件的主要作用是 判断用其它方法得到的可行点是否为最优点 如果通过它来求解最优点 求解过程复杂 繁琐 有时甚至求不出来 因此 一般优化问题的求解是借助于计算机 将各种优化算法编成计算程序 通过多次迭代获得近似数值解 NumericalSoluti