现代设计方法第二章

1、教学的目的和要求：教学的目的和要求： 1 1 掌握多元函数的梯度、泰勒展开、二阶导数矩阵等掌握多元函数的梯度、泰勒展开、二阶导数矩阵等基本概念；基本概念；2 2 能够判断矩阵的正、负定；能够判断矩阵的正、负定；3 3 了解函数的凸性；了解函数的凸性；4 4 掌握无约束问题的极值条件和约束问题的极值条件掌握无约束问题的极值条件和约束问题的极值条件（K-TK-T条件），对于简单的优化问题，学会使用极值条件），对于简单的优化问题，学会使用极值条件进行判断或求解；条件进行判断或求解；5 5掌握迭代解法的基本格式、收敛准则。掌握迭代解法的基本格式、收敛准则。 优化设计问题实际上是极值问题。而工程设计一般

2、是多变量、多约束的非线性函数的优化问题，尽管高等数学中的极值理论仍然是求解这种问题的基础，但却不能用来直接求出它们的最优解。因此有必要对多变量约束问题的求解方法所涉及的数学概念及有关理论进行补充和扩展。 本章介绍多元函数的梯度、二阶导数矩阵和泰勒展开等基本概念，以及极值条件和迭代解法的基本格式、收敛准则。一、方向导数一、方向导数 导数是描述函数变化的数导数是描述函数变化的数学量。由微分理论可知，一元学量。由微分理论可知，一元函数在点的一阶导数表示函数函数在点的一阶导数表示函数在该点的变化率：在该点的变化率： 一阶导数一阶导数 0 0 一阶导数一阶导数 0 超线性收敛 线性收敛 一般来说，具有二

3、次收敛性的算法是收敛速度最快的算法，超线性收敛性的算法是收敛速度较快的算法。 算法的收敛性可以根据算法对二次函数的求解能力加以判断。对于正定二次函数，如果算法能在有限次的迭代中得到极小点，就称此算法具有二阶收敛性。三、数值迭代法的终止准则三、数值迭代法的终止准则 从理论上说，任何一种迭代法都可以产生无穷的序列，从理论上说，任何一种迭代法都可以产生无穷的序列， 而且只要迭代是收敛的，当而且只要迭代是收敛的，当 时，应时，应有有 。实际优化过程中，不可能也不必要迭代无穷。实际优化过程中，不可能也不必要迭代无穷多次，只要迭代点满足一定的精度条件，便认为其接近最优多次，只要迭代点满足一定的精度条件，便

4、认为其接近最优点，即可终止迭代。点，即可终止迭代。 寻优过程中，目标函数的极值点寻优过程中，目标函数的极值点 是未知的，只能用是未知的，只能用相邻两个迭代点的误差来代替迭代点与极值点的误差。相邻两个迭代点的误差来代替迭代点与极值点的误差。 ( )1,2,kk Xk ( )*kXX*X、梯度准则、梯度准则迭代点梯度的模长充分小迭代点梯度的模长充分小 根据前述，无约束极值点的必要条件为根据前述，无约束极值点的必要条件为 ，因此，梯度近似为零的点则必定是近似极小点。于是梯度因此，梯度近似为零的点则必定是近似极小点。于是梯度的模长就构成了终止准则。当：的模长就构成了终止准则。当：时，便可将点时，便可将

5、点 作为所求的近似最优点，即令作为所求的近似最优点，即令 其中其中是一充分小的正数，称为收敛精度。是一充分小的正数，称为收敛精度。*()0fX)()1(kXf)1( kX)1(*kXX2、点距准则相邻迭代点之间的距离充分小 一般说来，迭代点向极小点的逼近速度是逐渐变慢的，越接近极小点，相邻迭代点之间的距离越短，当相邻二迭代点距离充分小，当： 即 。时，便可将点 作为所求的近似最优点，即令 。)()1(kkXX(1)( )221()nkkiXX)1( kX)1(*kXX3、值差准则相邻二个迭代点函数值的下降量充分小 当迭代点接近极小点时，不仅迭代点间的距离变短，相邻迭代点的函数值也越来越接近，因

6、此，可以将相邻迭代点的函数值之差作为终止准则。当：或 时，便可将点 作为所求的近似最优点，即令 。(1)( )3()()kkffXX(1)( )4( )()()()kkkfffXXX)1( kX*(1)kXX 这三种准则从不同侧面反映了迭代点达到最优点的程度，但都有一定的局限性。如右图所示函数，相邻迭代点及其函数值不能同时达到充分接近。因此，约束优化问题常将判据2、3同时使用，以确保所得的最优解的可靠性。 在工程优化原理和方法的应用领域，主要是优化设计、优化试验和优化控制三个方面。根据优化问题的不同特征，可有不同的分类方法。（1）按有无约束分有无约束分：无约束优化问题和有约束优化问题。（2）按设计变量设计变量的性质分：连续变量、离散变量和带参变量。（3）按目标函数的数量目标函数的数量分：单目标优化和多目标优化。（4）按模型所包含方程式的特性模型所包含方程式的特性分：线性规划、非线性规划。本章内容有三个方面：1、数学基础（梯度、二次函数、矩阵的正、负定）2、极值理论（无约束优化，