第四章无约束优化方法.ppt

第四章，无约束优化方法，第一节概述，第一章列出的机械设计问题，大部分实际问题是约束优化问题。约束优化问题求解转换为一系列无约束优化问题的实现。因此，无约束优化问题的解决方案是优化设计方法的基本组成部分，也是优化方法的基础。可以处理无限优化问题的极值条件、分析方法、数值方法、数学模型复杂时求解不方便、没有复杂函数和数学表达式的优化设计问题。搜索方向问题是无约束优化方法的核心。各种无约束优化方法的区别：确定搜索方向的方法不同。无约束优化方法分类，使用目标函数的一阶或二阶导数，目标函数值(最快速降法、共轭梯度法、牛顿法)，(坐标循环法、鲍威尔法等)，第二节最快速降法，最佳设计追求目标函数值最小，搜索方向为该点的负斜率也就是说，指定负倾斜方向作为搜索方向，因此称为最快的下降方法或渐变方法。搜索方向确定为负梯度方向，需要查找阶段元素，即一维搜索的最佳阶段，这表明在最快下降方法中相邻的两个迭代点上函数梯度相互垂直。搜索方向是负的渐变方向，因此两个相邻的搜索方向彼此垂直。第三节牛顿式方法，第三章已经讨论了一维搜索的牛顿方法。在一维条件下，牛顿迭代公式，在多元函数的情况下，泰勒扩张，这是求出多元函数极值的牛顿方法迭代公式。改进牛顿法，提出了“阻尼牛顿法”、四节共轭方向和共轭方向法，提出了一种共轭方向法，以提高收敛速度克服齿现象的最快下降方法。搜索方向为conjugate方向。第一，共轭方向的概念，共轭方向的概念，是在研究二次函数时推导出来的。首先考虑2d情况时，根据最陡的下降方法，选取负渐层方向做为搜寻方向会发生锯齿现象。为了防止锯齿发生，删除了一次的迭代搜索方向直接指向非常小的点，如果选择了这种搜索方向，则对于二进制二次函数，只需两次直线搜索就可以找到非常小的点。必须满足哪些条件？对于二次函数得到小点的必要条件，等式的两边相乘，成为g的conjugate方向。3，共轭方向法，1，选定的初始点，下落方向和收敛精度，k=0。2，沿方向进行一维搜索，是，3，判断是否满足，满意后打印，否则转至4。提供了旋转4，5，设置，2的新共轭方向。5子句共轭梯度法，共轭梯度法是共轭梯度法的一种，共轭向量具有迭代点的负梯度结构，因此称为共轭梯度法。沿g的共轭方向的一维搜索，到达，点处的斜率分别为，图4-9共轭梯度法的几何描述，第6节可变尺度法，可变尺度法的基本思路：前面介绍的梯度法和牛顿法可以看作以下公式的特殊情况：变尺度法是牛顿法的修正，它试图构造对称正定矩阵h，而不是计算二阶导数的矩阵及其逆矩阵，Hesse矩阵的逆矩阵。在重复过程中，使其越来越接近H-1。对称矩阵h也称为可变比例矩阵，因为在迭代过程中不断修改变化，所以它起到了改变一般尺寸斜率的比例的作用。第一，变量的尺度变换是放大或缩小各个坐标。通过尺度转换，可以最小化函数的偏心性。对于一般二次函数，当发生尺寸转换时，函数的二次项目在新座标系统中变更为，选取转换目的以降低二次项目的偏心度。如果矩阵g是正限定量，则矩阵q总是存在，以便函数偏心为零。为了说明二次函数矩阵g的逆矩阵，使用Q-1右乘法等式两边，然后使用Q左乘法等式，可以通过尺度变换矩阵Q来获得。，这样，在牛顿的迭代过程中，牛顿的方向可以写成：3、可变尺度方法的一般步骤、7子句坐标旋转方法、坐标旋转方法是每个检索只允许更改一个变量，其馀变量保持不变。即，沿坐标方向交替搜索的优化方法。将多元优化问题依次转换为单变量优化问题。因此，也称为变量旋转方法。基本原理是将多维无限优化问题转化为一系列低维优化问题来解决。也就是说，如果先固定(n-1)个变量，然后对第一个变量执行一维搜索，则结果是最佳的x1(1)。然后，(n-1)变量保持不变，第二个变量在一维中检索x2(1)，依此类推。图4-12坐标旋转法原理图(动画演示)，2 .确定搜索方向和步长，(1)对于k倒圆角I计算，采用n维坐标的单位向量，然后是k倒圆角I的重复方向。3 .确定搜索阶段，对于值，通常有以下几种方法(1)加速阶段方法(2)最佳阶段方法最佳阶段方法是使用一维最佳搜索方法完成每个迭代。也就是说，此时可以使用0.618方法或二次插值方法计算的值。图4-13加速步长方法的搜索路径，图4-14最佳步长方法的搜索路径，4。坐标旋转方法的问题，各种情况下图4-15坐标旋转方法的性能(a)搜索有效；(b)搜索效率低下；(c)搜索无效。第8节Powell方法(方向加速方法)，Powell方法是可以使用conjugate方向加速收敛特性的搜索算法。第一，生成共轭方向，第二，基本算法，第