机械优化设计复习总结.doc

_1. 优化设计问题的求解方法:解析解法和数值近似解法。解析解法是指优化对象用数学方程（数学模型）描述，用数学解析方法的求解方法。解析法的局限性：数学描述复杂，不便于或不可能用解析方法求解。数值解法：优化对象无法用数学方程描述，只能通过大量的试验数据或拟合方法构造近似函数式，求其优化解；以数学原理为指导，通过试验逐步改进得到优化解。数值解法可用于复杂函数的优化解，也可用于没有数学解析表达式的优化问题。但不能把所有设计参数都完全考虑并表达，只是一个近似的数学描述。数值解法的基本思路：先确定极小点所在的搜索区间，然后根据区间消去原理不断缩小此区间，从而获得极小点的数值近似解。2. 优化的数学模型包含的三个基本要素：设计变量、约束条件（等式约束和不等式约束）、目标函数（一般使得目标函数达到极小值）。3. 机械优化设计中，两类设计方法：优化准则法和数学规划法。优化准则法：（为一对角矩阵）数学规划法：（分别为适当步长某一搜索方向数学规划法的核心）4. 机械优化设计问题一般是非线性规划问题，实质上是多元非线性函数的极小化问题。重点知识点：等式约束优化问题的极值问题和不等式约束优化问题的极值条件。5. 对于二元以上的函数，方向导数为某一方向的偏导数。函数沿某一方向的方向导数等于函数在该点处的梯度与这一方向单位向量的内积。梯度方向是函数值变化最快的方向（最速上升方向），建议用单位向量表示，而梯度的模是函数变化率的最大值。6. 多元函数的泰勒展开。海赛矩阵：=（对称方阵）7. 极值条件是指目标函数取得极小值时极值点应满足的条件。某点取得极值，在此点函数的一阶导数为零，极值点的必要条件：极值点必在驻点处取得。用函数的二阶倒数来检验驻点是否为极值点。二阶倒数大于零，取得极小值。二阶导数等于零时，判断开始不为零的导数阶数如果是偶次，则为极值点，奇次则为拐点。二元函数在某点取得极值的充分条件是在该点出的海赛矩阵正定。极值点反映函数在某点附近的局部性质。8. 凸集、凸函数、凸规划。凸规划问题的任何局部最优解也就是全局最优点。凸集是指一个点集或一个区域内，连接其中任意两点的线段上的所有元素都包含在该集合内。性质：凸集乘上某实数、两凸集相加、两凸集的交集仍是凸集。凸函数：连接凸集定义域内任意两点的线段上，函数值总小于或等于用任意两点函数值做线性内插所得的值。数学表达: ,若两式均去掉等号，则称作严格凸函数。凸函数同样满足倍乘，加法和倍乘加仍为凸函数的三条基本性质。凸规划针对目标函数和约束条件均为凸函数是的约束优化问题。9. 等式约束优化问题的极值条件。两种处理方法：消元法和拉格朗日乘子法。也分别称作降维法和升维法。消元法:将等式约束条件的一个变量表示成另一个变量的函数。减少了变量的个数。拉格朗日乘子法是通过增加变量将等式约束优化问题变成无约束优化问题，增加了变量的个数。10. 不等式约束优化问题的极值条件。不等式约束的多元函数极值的必要条件为库恩塔克条件。库恩塔克条件：，几何意义：在约束极小值处，函数的负梯度一定能表示成所有起作用约束在该点梯度的非负线性组合。对于含有等式约束的优化问题的拉格朗日乘子，并没有非负的要求。11. 一维搜索是指一元函数的极值问题。搜索区间的外推法（进退法）：假设函数在搜索区间具有单谷性，使函数在搜索区间形成“高低高”趋势来确定极小点所在的区间。分别对应搜索的起点，中间点和终点。再利用区间消去法原理比较函数值的大小以确定极小值所在的搜索区间。12. 一维搜索方法。试探法：常用的一维搜索的方法是黄金分割法（0.618法）。适用于任何单谷函数求极小值问题。黄金分割法要求插入点的位置相对于区间的两端点对称。所以插入点的位置为：，区间缩短率为；插值法（函数逼近法）：利用试验点的函数值建立函数近似表达式来求函数的极小点。两种用二次函数逼近原来函数的方法：牛顿法（切线法）和抛物线法（二次插值法）。牛顿法迭代公式：，牛顿法的计算步骤：计算；求，若则求得近似解；二次插值法：，对应的极值点，对应的函数值为极小值。13. 无约束优化问题。常用的数值计算方法为搜索方法。基本思想：从给定的初始点，沿某一搜索方向进行搜索，确定最佳步长使函数值沿搜索方向下降最大。各种无约束优化方法的区别在于确定其搜索方向的方法不同，所以，搜索方向的构成问题是无约束优化方法的关键。无约束优化方法可以分为两类：一类是利用目标函数的一阶或二阶导数的无约束优化方法，如最速下降法，共轭梯度法，牛顿法和变尺度法；另一类只利用目标函数值的无约束优化方法，如坐标轮换法，单形替换法，和鲍威尔法。14. 最速下降法（梯度法）。从某点出发，搜索方向去该点的负梯度方向。为了使目标函数获得最大下降值。其步长因子去一维最佳步长：，在最速下降法中，相邻两个迭代点上的函数梯度相互垂直。最速下降法迭代行进的距离缩短，收敛速度减慢。梯度反映的是函数的局部性质。最速下降法的收敛速度和变量的尺度关系很大。最速下降方向的每一次搜索方向与前一次的搜索方向互相垂直，形成“之”字形的锯齿现象。15. 牛顿型方法。多元函数求极值的牛顿法迭代公式：。若某一迭代方法能使二次函数在有限次迭代内达到极小点，则称此迭代方法是二次收敛的。牛顿方法时二次收敛的。牛顿法和阻尼牛顿法统称为牛顿型方法。主要缺点是计算函数的二阶导数矩阵，并对该矩阵求逆。16. 共轭方向法。对于二元函数，为避免锯齿现象，在第二次的迭代搜索方向上取到极小点。所必须满足的条件：，满足条件的两个向量称之为共轭向量，或称之为对是共轭方向。多维函数当中，共轭向量互相正交且线性无关；维空间互相共轭的非零向量的个数不超过；共轭方向法具有二次收敛性。格拉姆-斯密特向量共轭化方法：选定线性无关向量组：（例如他们是个坐标轴上的单位向量）首先，取，令，根据共轭条件确定，同样地，根据确定共轭方向的搜索方向可由梯度法和鲍威尔法提供。17. 共轭梯度法（旋转梯度法）。共轭方向与梯度之间的关系：，表明沿方向搜索，其终点与始点的梯度之差与的共轭方向正交。计算过程：第一个搜索方向取的负梯度，则；求的共轭方向作为下一次的搜索方向，其中，共轭方向的递推公式：，第一个方向取作负梯度方向，其余各步的搜索方向将负梯度偏转一个角度，对负梯度进行修正，共轭方向法是对最速下降法的一种改进。18. 变尺度法：放大或缩小各个坐标，改善函数的偏心程度。，若矩阵是正定的，那么总存在矩阵是使，将偏心程度变为零。尺度变换后牛顿方向：，牛顿迭代公式：，是在空间内测量距离大小的度量，称作尺度矩阵。变尺度法中利用尺度矩阵代替海赛矩阵的逆阵进行求解。，拟牛顿条件：，变尺度法的一般步骤：选定初始点和收敛精度；计算初始点的梯度，选取初始对称正定矩阵（例如），置；计算搜索方向；沿方向进行一维搜索，计算，判断是否满足迭代终止准则，若满足，则，若迭代次后仍没找到极小点，重置为单位矩阵，并以当前设计点为初始点，返回到计算进行下一轮的迭代或者计算矩阵，置返回到计算19. 算法。选取不同的形式的矫正矩阵就构成不同的变尺度法。算法的形式：经过推到后的校正公式：20. 坐标轮换法（变量轮换法）：每次搜索只允许一个变量变化，其余变量保持不变，沿坐标方向轮流进行搜索的寻优方法。这种方法的收敛效果和目标函数等值线的形状有很大关系。21. 鲍威尔方法。直接利用函数值来构造共轭方向的一种共轭方向法。任选一初始点，再选两个线性无关的向量，如坐标轴单位向量和作为初始搜素方向；从出发，顺次沿作一维搜索得到点，两点的连线得到一新方向，用代替形成两个线性无关向量，作为下一轮迭代的搜索方向。再从出发，沿方向作一维搜索得点作为下一轮迭代的初始点。在进行两轮的迭代后目标函数取得极小值。改进的鲍威尔方法中，判断原向量组的“好坏”来界定原向量组是否需要替换。改进鲍威尔法的具体步骤：给定初始点，沿个线性无关的向量（个坐标轴单位向量）；作一维搜索后沿移动一个距离得到：（反射点坐标）再求得三点的目标函数值，根据判别条件和确定是否要对原方向进行替换。若不满足判别条件，仍用原方向组，并以函数值中的较小者作为下一轮迭代的始点。若满足上述判别条件，则将补充到原方向组中，下轮的始点是沿方向进行进行一维搜素的极小点22. 单形替换法。单纯性是指在维空间中有个顶点的多面体。区别于线性规划中的单纯型法。通过反射、扩张、收缩、和缩边等方式得到新的单纯型，其中至少有一个顶点的函数值比原单纯型要小。计算步骤：构造初始单纯型，计算各顶点的函数值。比较顶点函数值的大小，判断是否满足收敛准则：；不满足收敛准则，计算除外其他各点的“重心”，反射点，；反射：当时，以代替，代替,构成一新单纯型。扩张（收缩）：当时，取扩张点并计算其函数值，若则以代替，代替,构成一新单纯型。否则以代替，代替,构成一新单纯型；缩边：可将各向量的长度都缩小一半，即：。单形替代法当问题维数较高时，需要经过很多次迭代，因此一般用于的情形。23. 目标函数和约束条件都为线性的优化问题称之为线性规划问题。线性规划标准形式中约束条件包含两个部分：一是等式约束；而是变量的非负要求。如果约束条件中含有不等式约束，可引入松弛变量将不等式约束转化为等式约束。如果原来问题中一些变量并不要求是非负的，那么可以写成两个非负变量之差。在目标函数中不会出现松弛变量，但新的非负变量需要写入目标函数当中。24. 基本解：当变量数大于方程数，若使其中（变量数-方程数）个变量取零值，则当方程有解时，其唯一解。基本可行解：满足非负要求的基本解，其中取正值的变量称为基本变量，取零值的变量称为非基本变量，基本变量所对应的系数列向量称作基底向量。可行解：凸多边形内各点满足全部约束条件的点。目标函数达到极小值的可行解就是最优解，它处在凸多边形的顶点上，只要在有限个顶点中寻找（基本可行解）。25. 基本可行解的转换。进行转轴运算（高斯消元）。选定不同的轴元素，得到不同基本可行解。将非基本变量变成基本变量，实现一份基本解到另一个基本解的转换。基本可行解到另一个基本可行解的转换。若右端都是非负的，则必须选定为正值的轴元素进行转轴运算。引入松弛因子将不等式约束转换为等式约束可以发现，这些松弛变量就可以作为初始基本可行解中的一部分基本变量。当时，当右端为负值时，对应的松弛变量就不可以作为基本可行解的基本变量。26. 单纯型方法（精读）解决从一组基本可行解转换到另一组可行解时，判断哪一组可行解时最优解问题。单纯型方法围绕两个规则进行：一是规则，二是最速变化规则（目标函数变化最大规则）。27. 约束优化方法，根据求解方式的不同，可分为直接解法和间接解法。直接解法通常使用与仅含不等式约束的问题。基本思路：在个不等式约束条件所确定的可行域内，选择一个初始点，然后决定可行搜索方向，以适当的步长，沿方向进行搜索，使目标函数值下降的可行的新点完成一次迭代，重复迭代过程直至满足收敛条件。间接法的基本思路：将约束优化问题中的约束函数进行特殊的加权处理，和目标函数结合起来，构成一个新的目标函数，即将原约束优化问题转化为一个或一系列的无约束优化问题，再对新的目标函数进行无约束优化计算，得到原约束问题的最优解。直接解法包括随机方向法、复合型法、可行方向法、广义节约梯度法，属于间接解法的惩罚函数法和增广乘子法。28. 随机方向法。基本思路：在可行域内选择一个初始点，利用随机数的概率特性，产生若干个随机方向，并从中选择一个能使目标函数值下降最快的随机方向作为可行的搜索方向。优点：对目标函数的性态无特殊要求，程序设计简单，使用方便，收敛速度比较快。按照一定的数学模型得到的随机数称为伪随机数。初始点必须是一个可行点。产生个维随机单位向量，找到个随机点中使目标函数最小的点，得到可行搜索方向，进行迭代计算，直到搜索到一个满足全部约束条件且目标函数值不再下降的新点。29. 复合型法。基本思路：在可行域内构造具有（）个顶点（个顶点都必须是可行点）的初始复合型。比较各顶点目标函数值，找到目标函数最大值的顶点（最坏点），找到一个使目标函数下降的新点代替最坏点，构成新的复合型，重复迭代。根据不同的方法生成初始复合型。复合型的搜索方法：反射计算复合型顶点目标函数值，找出最好点、最坏点及次坏点，计算除最坏点外其他个顶点的重中心，最坏点和中心点的连线方向为目标函数下降的方向，得反射点坐标：；扩张求得反射点为可行点，且目标函数下降较多，沿反射方向继续移动，找到更好的新点，得扩张点坐标：;收缩中心店以外找不到好的反射点，在以内采用收缩的方法，收缩点坐标：；压缩采取将复合型各顶点向最好点靠拢，采用压缩的方法来改变复合型的形状，压缩顶点坐标：。30. 可行方向法。基本思路是在可行域内选择一个初始点，确定一个可行方向和适当步长后，按进行迭代计算。根据约束函数和目标函数的不同形状，分为以下三种不同的搜索策略。一是在约束面的迭代点处，产生一个可行方向，沿此方向作一维最优化搜索，得到可行域内的新点，再沿点的负梯度方向继续搜索；二是在约束面的迭代点处，产生一个可行方向，沿此方向作一维最优化搜索，得到可行域外的新点，再设法将点移动到约束面上，即取与约束面的交点作为新的迭代点；三是沿约束面搜索，适用于只具有线性约束条件的非线性规划问题。可行方向的两个条件：可行条件；下降条件。可行反向的产生方法：优选方向法和梯度投影法。优选方向法为满足两个条件内的可行方向的优选；梯度投影法为当负梯度方向不满足可行条件时，将方向投影到约束面上。确定步长的两种常用方法：去最优步长或取到约束边界的最大步长。31. 惩罚函数法。基本思路是将约束优化问题中的不等式和等式约束函数经过加权转化后，和目标函数结合形成新的目标函数惩罚函数，加权项可分为障碍项和惩罚项；障碍项的作用是当迭代点在可行域内时，在迭代过程中将阻止迭代点越出可行域，惩罚项的作用是当迭代点在非可行域内或不满足等式约束条件时，在迭代过程中将迫使迭代点逼近约束边界或等式约束曲面。根据迭代过程是否在可行域内进行，惩罚函数法可分为一下三种：内点惩罚函数法、外点惩罚函数法和混合惩罚函数法。32. 内点法只能用来求解具有不等式约束的优化问题。转化后惩罚函数的形式为：或，为惩罚因子，它是有大到小趋近于零的数列。内点法的初始点应选择力约束边界较远的可行点。惩罚因子缩减系数。33. 外点法可以用来求解含不等式和等式约束的优化问题。外点法惩罚函数的形式为：，为惩罚因子，它是由小到大，且趋于的数列。34. 混合惩罚函数法。把内点法和外点法结合起来。用来求解勇士具有等式约束和不等式约束函数的优化问题。混合惩罚函数的形式为：，障碍项的惩罚因子按内点法选取