机械优化设计整版.ppt

机械优化设计,第一讲,主讲教师：李风学时：16,机械优化设计,哈尔滨工业大学孙靖民主编,计划学时数：48学时(最后一节课随堂考试）使用教材孙靖民.机械优化设计.北京：机械工业出版社，2003参考书1方世杰，綦耀光主编.机械优化设计.北京：机械工业出版社，20032陈立周，机械优化设计方法，北京：冶金工业出版社，19973刘惟信.机械最优化设计.北京：清华大学出版社，1994,课程介绍,本课主要内容,优化设计概述优化设计的数学基础一维搜索方法无约束优化方法约束优化方法多目标及离散变量优化方法优化设计实例,第一章优化设计的基本概念,1-1绪论1-2优化设计问题的示例1-3优化设计的数学模型1-4优化问题的几何解释和基本解法,优化是从处理各种事物的一切可能的方案中，寻求最优的方案。优化的原理与方法，在科学的、工程的和社会的实际问题中的应用，便是优化设计。,1-1绪论,1.优化、优化设计和机械优化设计的含义,（1）来源：优化一语来自英文Optimization，其本意是寻优的过程；（2）优化过程：是寻找约束空间下给定函数取极大值（以max表示)或极小(以min表示)的过程。优化方法也称数学规划，是用科学方法和手段进行决策及确定最优解的数学；（3）优化设计：根据给定的设计要求和现有的技术条件，应用专业理论和优化方法，在电子计算机上从满足给定的设计要求的许多可行方案中，按照给定的目标自动地选出最优的设计方案。,机械优化设计就是把机械设计与优化设计理论及方法相结合，借助电子计算机，自动寻找实现预期目标的最优设计方案和最佳设计参数。,优化设计流程,常规设计流程,2.优化设计的发展概况,历史上最早记载下来的最优化问题可追溯到古希腊的欧几里得（Euclid，公元前300年左右），他指出：在周长相同的一切矩形中，以正方形的面积为最大。十七、十八世纪微积分的建立给出了求函数极值的一些准则，对最优化的研究提供了某些理论基础。然而，在以后的两个世纪中，最优化技术的进展缓慢，主要考虑了有约束条件的最优化问题，发展了变分法。直到上世纪40年代初，由于军事上的需要产生了运筹学，并使优化技术首先应用于解决战争中的实际问题，例如轰炸机最佳俯冲轨迹的设计等。50年代末数学规划方法被首次用于结构最优化，并成为优化设计中求优方法的理论基础。数学规划方法是在第二次世界大战期间发展起来的一个新的数学分支，线性规划与非线性规划是其主要内容。,近十几年来，最优化设计方法已陆续用到建筑结构、化工、冶金、铁路、航天航空、造船、机床、汽车、自动控制系统、电力系统以及电机、电器等工程设计领域，并取得了显著效果。其中在机械设计方面的应用虽尚处于早期阶段，但也已经取得了丰硕的成果。一般说来，对于工程设计问题，所涉及的因素愈多，问题愈复杂，最优化设计结果所取得的效益就愈大。,最优化设计是在数学规划方法的基础上发展起来的，是6O年代初电子计算机引入结构设计领域后逐步形成的一种有效的设计方法。利用这种方法，不仅使设计周期大大缩短，计算精度显著提高，而且可以解决传统设计方法所不能解决的比较复杂的最优化设计问题。大型电子计算机的出现，使最优化方法及其理论蓬勃发展，成为应用数学中的一个重要分支，并在许多科学技术领域中得到应用。,第一阶段人类智能优化：与人类史同步，直接凭借人类的直觉或逻辑思维，如黄金分割法、穷举法和瞎子爬山法等。,第二阶段数学规划方法优化：从三百多年前牛顿发明微积分算起，电子计算机的出现推动数学规划方法在近五十年来得到迅速发展。第三阶段工程优化：近二十余年来，计算机技术的发展给解决复杂工程优化问题提供了新的可能，非数学领域专家开发了一些工程优化方法，能解决不少传统数学规划方法不能胜任的工程优化问题。在处理多目标工程优化问题中，基于经验和直觉的方法得到了更多的应用。优化过程和方法学研究，尤其是建模策略研究引起重视，开辟了提高工程优化效率的新的途径。第四阶段现代优化方法：如遗传算法、模拟退火算法、蚁群算法、神经网络算法等，并采用专家系统技术实现寻优策略的自动选择和优化过程的自动控制，智能寻优策略迅速发展。,机械优化设计应用实例美国波音飞机公司对大型机翼用138个设计变量进行结构优化，使重量减少了三分之一；大型运输舰用10个变量进行优化设计，使成本降低约10%。,实践证明，最优化设计是保证产品具有优良的性能，减轻自重或体积，降低产品成本的一种有效设计方法。同时也可使设计者从大量繁琐和重复的计算工作中解脱出来，使之有更多的精力从事创造性的设计，并大大提高设计效率。,基础：（1）最优化数学理论（2）现代计算技术内容：（1）将工程实际问题数学化；（建立优化设计数学模型）（2）用最优化计算方法在计算机上求解数学模型。,优化设计是一种现代设计方法，是很好的设计工具。,3.本课程的任务,该课程的主要目的和任务：了解和基本掌握机械优化设计的基本知识；扩大视野，并初步具有应用机械优化设计的基本理论和基本方法解决简单工程实际问题的素质。,1-2优化设计问题的示例,优化设计就是借助最优化数值计算方法与计算机技术，求取工程问题的最优设计方案。优化设计包括：（1）必须将实际问题加以数学描述，形成数学模型；（2）选用适当的一种最优化数值方法和计算程序运算求解。,已知：制造一体积为100m3，长度不小于5m，不带上盖的箱盒，试确定箱盒的长x1，宽x2，高x3，使箱盒用料最省。分析：（1）箱盒的表面积的表达式；（2）设计参数确定：长x1，宽x2，高x3；（3）设计约束条件：（a）体积要求；（b）长度要求；,箱盒的优化设计,数学模型,设计参数：,设计目标：,约束条件：,某工厂生产A和B两种产品，A产品单位价格为PA万元，B产品单位价格为PB万元。每生产一个单位A产品需消耗煤aC吨，电aE度，人工aL个人日；每生产一个单位B产品需消耗煤bC吨，电bE度，人工bL个人日。现有可利用生产资源煤C吨，电E度，劳动力L个人日，欲找出其最优分配方案，使产值最大。分析：（1）产值的表达式；（2）设计参数确定：A产品xA，B产品xB；（3）设计约束条件：（a）生产资源煤约束；（b）生产资源电约束；（b）生产资源劳动力约束；,最大产值生产资源分配问题,数学模型,设计参数：,设计目标：,约束条件：,1-3优化设计的数学模型,1.设计变量一个设计方案可以用一组基本参数的数值来表示，这些基本参数可以是构件尺寸等几何量，也可以是质量等物理量，还可以是应力、变形等表示工作性能的导出量。在设计过程中进行选择并最终必须确定的各项独立的基本参数，称作设计变量，又叫做优化参数。,优化设计的数学模型是描述实际优化问题的设计内容、变量关系、有关设计条件和意图的数学表达式，它反映了物理现象各主要因素的内在联系，是进行优化设计的基础。,设计变量的全体实际上是一组变量，可用一个列向量表示。设计变量的数目称为优化设计的维数，如n个设计变量，则称为n维设计问题。,由n个设计变量为坐标所组成的实空间称作设计空间。一个“设计”，可用设计空间中的一点表示。,设计变量的数目称为优化设计的维数，如n个设计变量，则称为n维设计问题。,按照产品设计变量的取值特点，设计变量可分为连续变量（例如轴径、轮廓尺寸等）和离散变量（例如各种标准规格等）。,图1-1设计变量所组成的设计空间（a）二维设计问题（b）三维设计问题,只有两个设计变量的二维设计问题可用图1-1（a）所示的平面直角坐标表示；有三个设计变量的三维设计问题可用图1-1（b）所表示的空间直角坐标表示。,设计空间的维数表征设计的自由度，设计变量愈多，则设计的自由度愈大、可供选择的方案愈多，设计愈灵活，但难度亦愈大、求解亦愈复杂。小型设计问题：一般含有210个设计变量；中型设计问题：1050个设计变量；大型设计问题：50个以上的设计变量。目前已能解决200个设计变量的大型最优化设计问题。,如何选定设计变量？任何一项产品，是众多设计变量标志结构尺寸的综合体。变量越多，可以淋漓尽致地描述产品结构，但会增加建模的难度和造成优化规模过大。所以设计变量时应注意以下几点：（1）抓主要，舍次要。对产品性能和结构影响大的参数可取为设计变量，影响小的可先根据经验取为试探性的常量，有的甚至可以不考虑。（2）根据要解决设计问题的特殊性来选择设计变量。例如，圆柱螺旋拉压弹簧的设计变量有4个，即钢丝直径d，弹簧中径D，工作圈数n和自由高度H。在设计中，将材料的许用剪切应力和剪切模量等作为设计常量。在给定径向空间内设计弹簧，则可把弹簧中径D作为设计常量。,2.约束条件,设计空间是所有设计方案的集合，但这些设计方案有些是工程上所不能接受的。如一个设计满足所有对它提出的要求，就称为可行设计。一个可行设计必须满足某些设计限制条件，这些限制条件称作约束条件，简称约束。,约束又可按其数学表达形式分成等式约束和不等式约束两种类型：,(1)等式约束,(2)不等式约束,显式约束隐式约束约束函数有的可以表示成显式形式，即反映设计变量之间明显的函数关系，有的只能表示成隐式形式,如例中的复杂结构的性能约束函数（变形、应力、频率等），需要通过有限元等方法计算求得。,根据约束的性质可以把它们区分成：性能约束针对性能要求而提出的限制条件称作性能约束。例如，选择某些结构必须满足受力的强度、刚度或稳定性等要求；边界约束只是对设计变量的取值范围加以限制的约束称作边界约束。例如，允许机床主轴选择的尺寸范围，对轴段长度的限定范围就属于边界约束。,图1-2设计空间中的约束面（或约束线）(a)二变量设计空间中的约束线(b)三变量设计空间中的约束面,如图1-3上画出了满足两项约束条件g1（X）=x12x2216O和g2（X）2X20的二维设计问题的可行域D，它位于X2=2的上面和圆x12x22=16的圆弧ABC下面并包括线段AC和圆弧ABC在内。,图1-3约束条件规定的可行域D,可行域:在设计空间中，满足所有约束条件的所构成的空间。,3.目标函数,在优化过程中，通过设计变量的不断向F(X)值改善的方向自动调整，最后求得F(X)值最好或最满意的X值。在构造目标函数时，应注意目标函数必须包含全部设计变量，所有的设计变量必须包含在约束函数中。在机械设计中，可作为参考目标函数的有：,体积最小、重量最轻、效率最高、承载能力最大、结构运动精度最高、振幅或噪声最小、成本最低、耗能最小、动负荷最小等等。,为了对设计进行定量评价，必须构造包含设计变量的评价函数，它是优化的目标，称为目标函数，以F(X)表示。,在最优化设计问题中，可以只有一个目标函数，称为单目标函数。当在同一设计中要提出多个目标函数时，这种问题称为多目标函数的最优化问题。在一般的机械最优化设计中，多目标函数的情况较多。目标函数愈多，设计的综合效果愈好，但问题的求解亦愈复杂。,在实际工程设计问题中，常常会遇到在多目标函数的某些目标之间存在矛盾的情况，这就要求设计者正确处理各目标函数之间的关系。,目标函数等值（线）面,目标函数是n维变量的函数，它的函数图像只能在n+1维空间中描述出来。为了在n维设计空间中反映目标函数的变化情况，常采用目标函数等值面的方法。目标函数的等值面（线）数学表达式为：,c为一系列常数，代表一族n维超曲面。如在二维设计空间中，F(x1,x2)=c代表x-x设计平面上的一族曲线。对于具有相等目标函数值的设计点构成的平面曲线或曲面称为等值线或等值面。,图1-4等值线,图1-4表示目标函数f（X）与两个设计变量x1，x2阶所构成的关系曲面上的等值线，它是由许多具有相等目标函数值的设计点所构成的平面曲线。当给目标函数以不同值时，可得到一系列的等值线，它们构成目标函数的等值线族。在极值处目标函数的等值线聚成一点，并位于等值线族的中心。当目标函数值的变化范围一定时，等值线愈稀疏说明目标函数值的变化愈平缓。利用等值线的概念可用几何图象形象地表现出目标函数的变化规律。,从等值线上，可以清除地看到函数值的变化情况。其中F=40的等值线就是使F(x1,x2)=40的各点x1,x2T所组成的连线。,如图函数的等值线图。,图1-5等值线,4.优化设计问题一般数学形式：,满足约束条件：,求设计变量向量,使目标函数,对于复杂的问题，要建立能反映客观工程实际的、完善的数学模型往往会遇到很多困难，有时甚至比求解更为复杂。这时要抓住关键因素，适当忽略不重要的成分，使问题合理简化，以易于列出数学模型，这样不仅可节省时间，有时也会改善优化结果。,最优化设计的目标函数通常为求目标函数的最小值。若目标函数的最优点为可行域中的最大值时，则可看成是求-F（X）的最小值，因为min-F（X）与maxF（X）是等价的。当然，也可看成是求1F（X）的极小值。,5.建模实例,1）根据设计要求，应用专业范围内的现行理论和经验等，对优化对象进行分析。必要时，需要对传统设计中的公式进行改进，并尽可以反映该专业范围内的现代技术进步的成果。,2）对结构诸参数进行分析，以确定设计的原始参数、设计常数和设计变量。,3）根据设计要求，确定并构造目标函数和相应的约束条件，有时要构造多目标函数。,4）必要时对数学模型进行规范化，以消除诸组成项间由于量纲不同等原因导致的数量悬殊的影响。,建立优化设计问题的数学模型一般步骤：,以最低成本确定满足动物所需营养的最优混合饲料。设每天需要混合饲料的批量为100磅，这份饲料必须含：至少0.8%而不超过1.2%的钙;至少22%的蛋白质;至多5%的粗纤维。假定主要配料包括石灰石、谷物、大豆粉。这些配料的主要营养成分为：,混合饲料配合,解:根据前面介绍的建模要素得出此问题的数学模型如下:设是生产100磅混合饲料所须的石灰石、谷物、大豆粉的量（磅）。,6.优化设计的分类,对于最优化问题一般可作如下分类：,还有其它的一些划分方法：如按设计变量的性质分：连续变量、离散变量、整数变量规划问题:二次规划、几何规划、随机规划等。,一、几何解释,1-4优化问题的几何解释和基本解法,无约束优化问题就是在没有限制的条件下，对设计变量求目标函数的极小点。在设计空间内，目标函数是以等值面的形式反映出来的，则无约束优化问题的极小点即为等值面的中心。,约束优化问题是在可行域内对设计变量求目标函数的极小点，此极小点在可行域内或在可行域边界上。,等值线等高线,等值线等高线：它是由许多具有相同目标函数值的设计点所构成的平面曲线目标函数的等值线数学表达式为：,例1：如下二维非线性规划问题,例题,通过二维约束优化问题的几何求解来直观地描述优化设计的基本思想。,目标函数等值线是以点（2，0）为圆心的一组同心圆。如不考虑约束，本例的无约束最优解是：,，,约束方程所围成的可行域是D。,图1-9,由图易见约束直线与等值线的切点是最优点，利用解析几何的方法得该切点为，对应的最优值为(见图）,例2：,解：先画出目标函数等值线，再画出约束曲线，本处约束曲线是一条直线，这条直线就是容许集。而最优点就是可行域上使等值线具有最小值的点。,解：先画出等式约束曲线的图形。这是一条抛物线，如图,例3：,再画出不等式约束区域，如图（选定哪侧区域）最后画出目标函数等值线，特别注意可行集边界点，,以及等值线与可行集的切点，易见可行域为曲线段ABCD。当动点沿抛物曲线段ABCD由A点出发时，AB段目标函数值下降。过点B后，在BC段目标函数值上升。过C点后，在CD段目标函数值再次下降。D点是使目标函数值最小的可行点，其坐标可通过解方程组：,得出：,例4人字架结构优化设计如图所示的人字架由两个钢管构成，其顶点承受外力为2F=3105N。人字架跨度2B152cm，钢管壁厚T0.25cm，钢管材料的弹性模量E2.1105MPa,材料密度为7.8103Kg/m3,许用压应力y420MPa。求在钢管压应力不超过许用压应力y和失稳临界应力e的条件下。人字架的高h和钢管平均直径D，使钢管总质量m为最小。,根据题意，可以把人字架的优化设计问题归结为,求,使结构质量,钢管所受的压力,压杆失稳的临界力,钢管截面惯性矩,钢管截面面积（r，R为截面内外半径）,钢管所受的压应力,钢管的临界应力,强度约束条件,可以写成,稳定约束条件,可以写成,解析法,假定使人字架总值量,为最小的最优解刚好满足强度条件，即有,从而可以将设计变量D用设计变量h表示,将D带入目标函数m(D,h)中，得,根据极值必要条件,得,把所得参数带入稳定条件，可以证明,即稳定条件得到满足。所以h*，D*这两个参数是满足强度约束和稳定约束，且使结构最轻的最佳参数。,作图法,可行域条件,X*的坐标：D*6.43h*76m*8.47,讨论：,若,对于具有不等式约束条件的优化问题，判断那些约束是起作用的，那些约束是不起作用的，这对求解优化问题是很关键的。,按解析法求解得,用作图法求解得,由以上四个例子可见，对二维最优化问题。我们总可以用图解法求解，而对三维或高维问题，已不便在平面上作图，此法失效。在三维和三维以上的空间中，使目标函数取同一常数值的是X|f(X)=C,C是常数称为目标函数的等值面。等值面具有以下性质：（1）不同值的等值面之间不相交，因为目标函数是单值函数；（2）等值面稠的地方，目标函数值变化得较快，而稀疏的地方变化得比较慢；（3）一般地，在极值点附近，等值面（线）近似地呈现为同心椭球面族（椭圆族）。,求解优化问题的基本解法有：,二、优化问题的基本解法,解析法：即利用数学分析(微分、变分等）的方法，根据函数（泛函）极值的必要条件和充分条件求出其最优解析解的求解方法。在目标函数比较简单时，求解还可以。,局限性：工程优化问题的目标函数和约束条件往往比较复杂，有时甚至还无法用数学方程描述，在这种情况下应用数学分析方法就会带来麻烦。,最优化方法是与近代电子计算机的发展紧密相联系的，数值计算法比解析法更能适应电子计算机的工作特点，因为数值计算的迭代方法具有以下特点：1）是数值计算而不是数学分析方法；2）具有简单的逻辑结构并能进行反复的同样的算术计算；3）最后得出的是逼近精确解的近似解。这些特点正与计算机的工作特点相一致。,数值迭代法的基本思路：是进行反复的数值计算，寻求目标函数值不断下降的可行计算点，直到最后获得足够精度的最优点。这种方法的求优过程大致可归纳为以下步骤：,1）首先初选一个尽可能靠近最小点的初始点X（0），从X（0）出发按照一定的原则寻找可行方向和初始步长，向前跨出一步达到X（1）点；2）得到新点X（1）后再选择一个新的使函数值迅速下降的方向及适当的步长，从X（1）点出发再跨出一步，达到X（2）点，并依此类推，一步一步地向前探索并重复数值计算，最终达到目标函数的最优点。,1.求解步骤,在中间过程中每一步的迭代形式为：,图1-8迭代计算机逐步逼近最优点过程示意图,上式中：X（k）第k步迭代计算所得到的点，称第k步迭代点，亦为第k步设计方案；a（k）第k步迭代计算的步长；S（k）第k步迭代计算的探索方向。,用迭代法逐步逼近最优点的探索过程如图1-8所示。,运用迭代法，每次迭代所得新的点的目标函数都应满足函数值下降的要求：,（1）选择搜索方向（2）确定步长因子（3）给定收敛准则,收敛：,迭代法要解决的问题：,柯西收敛准则,点列收敛的必要和充要条件是：对于任意指定的实数，都存在一个只与有关而与无关的自然数N，使得当两自然数m，pN时,满足或或,2.迭代终止准则,（1）点距准则,或,（2）函数值下降量准则,或,（3）目标函数梯度准则,上述准则都在一定程度上反映了逼近最优点的程度，但都有一定的局限性。在实际应用中，可取其中一种或多种同时满足来进行判定。,采用哪种收敛准则，可视具体问题而定。可以取：,图1-12优化设计流程,三、优化设计一般步骤,第二章优化方法的数学基础,2-1方向导数与梯度2-2凸集、凸函数与凸规划2-3二次函数及正定矩阵2-4无约束优化问题的极值条件2-5有约束优化问题的极值条件,2-1方向导数与梯度,一、方向导数,二元函数在点x0处沿某一方向s的方向导数,图2-1,方向导数与偏导数之间的数量关系是,方向导数是偏导数概念的推广。,三元函数在点处沿s方向的方向导数,n元函数在点x0处沿s方向的方向导数,二、梯度,二元函数的梯度,为函数F(x1，x2)在x0点处的梯度。,梯度的模：,设,梯度方向和s方向重合时，方向导数值最大。,梯度方向是函数值变化最快的方向，而梯度的模就是函数变化率的最大值。,图2-2梯度方向与等值线的关系,设：,则有,为单位向量。,多元函数的梯度,函数的梯度方向与函数等值面相垂直，也就是和等值面上过x0的一切曲线相垂直。,由于梯度的模因点而异，即函数在不同点处的最大变化率是不同的。因此，梯度是函数的一种局部性质。,梯度模：,梯度两个重要性质：性质一函数在某点的梯度不为零，则必与过该点的等值面垂直；性质二梯度方向是函数具有最大变化率的方向。,图2-2梯度方向与等值面的关系,例题2-1,求函数在点3,2T的梯度。,在点x(1)=3,2T处的梯度为：,解：,例2-2：试求目标函数在点处的最速下降方向，并求沿这个方向移动一个单位长度后新点的目标函数值。,则函数在处的最速下降方向是,解：由于,新点是,这个方向上的单位向量是：,几个常用的梯度公式：,当极值点X*能使f（X*）在整个可行域中为最小值时，即在整个可行域中对任一X都有f（X）f（X*）时，则X*就是最优点，且称为全域最优点或整体最优点。若f（X*）为局部可行域中的极小值而不是整个可行域中的最小值时，则称X*为局部最优点或相对最优点。最优化设计的目标是全域最优点。为了判断某一极值点是否为全域最优点，研究一下函数的凸性很有必要。函数的凸性表现为单峰性。对于具有凸性特点的函数来说，其极值点只有一个，因而该点既是局部最优点亦为全域最优点。,为了研究函数的凸性，现引入凸集的概念：,2-2凸集、凸函数与凸规划,一、凸集,设D为n维欧氏空间中的一个集合，若其中任意两点X(1)、X(2)之间的联接直线都属于D，则称这种集合D为n维欧氏空间的一个凸集。图2-3（a）是二维空间的一个凸集，而图2-3（b）不是凸集。,图2-3二维空间的凸集与非凸集,X（1）、X（2）两点之间的联接直线，可用数学式表达为:,式中为由0到1（01）间的任意实数。,凸集的性质：,1）若D为凸集，是一个实数，则集合D仍是凸集；,2）若D和F均为凸集，则其和（或并）仍是凸集；,3）任何一组凸集的积（或交）仍是凸集。,二、凸函数,具有凸性（表现为单峰性）或只有唯一的局部最优值亦即全域最优值的函数，称为凸函数或单峰函数。其数学定义是：,设f（X）为定义在n维欧氏空间中的一个凸集D上的函数，如果对任何实数a（0f2,应在原方向继续向前探测。,x3=x2+h=1+1=2,f3=f(x3)=18由于f2f2,故新区间a,b=x1,b=0.472,1.236因为b-a=1.236-0.472=0.7640.2,应继续缩小区间。,第三次缩小区间：令x1=x2=0.764,f1=f2=0.282x2=0.472+0.618X(1.236-0.472)=0.944,f2=0.747由于f10.2,应继续缩小区间。,第四次缩小区间：令x2=x1=0.764,f2=f1=0.282x1=0.472+0.382X(0.944-0.472)=0.652,f1=0.223由于f10.2,应继续缩小区间。,第五次缩小区间：令x2=x1=0.652,f2=f1=0.223x1=0.472+0.382X(0.764-0.472)=0.584,f1=0.262由于f1f2,故新区间a,b=x1,b=0.584,0.764因为b-a=0.764-0.584=0.180.2,停止迭代。,极小点与极小值：x*=0.5X(0.584+0.764)=0.674,f(x*)=0.222,第四节一维搜索的插值方法,假定我们的问题是在某一确定区间内寻求函数的极小点位置，虽然没有函数表达式，但能够给出若干试验点处的函数值。我们可以根据这些点处的函数值，利用插值方法建立函数的某种近似表达式，进而求出函数的极小点，并用它作为原来函数极小点的近似值。这种方法称作插值方法，又称作函数迫近法。,一、牛顿法,设f(x)为一个连续可微的函数，则在x0附近，该函数应该与一个二次函数接近，即可在点x0附近用一个二次函数(x)来逼近函数f(x)，即：,用二次函数的(x)极小点x1作为f(x)极小点的一个近似点。根据极值必要条件:,即,依次继续下去，可得牛顿迭代公式：,牛顿法所作的几何解释,在图中，在x0处用一抛物线(x)代替曲线f(x)，相当于用一斜直线(x)代替曲线f(x)。这样各个近似点是通过对作f(x)切线求得与轴的交点找到的，所以，有时，牛顿法又称作切线法。,牛顿法的优点是收敛速度快。缺点是要计算函数的一阶和二阶导数，因而增加了每次迭代的工作量。如果用数值微分计算函数的二阶导数，其舍入误差将严重影响牛顿法的收敛速度，f(x)的值越小，这个问题就越严重。另外，牛顿法要求初始点选的比较好，也就是说应离极小点不太远，否则有可能使极小化序列发散或收敛到非极小点。,二、抛物线法（二次插值法）,二次插值的基本思想是利用目标函数在不同3点的函数值构成一个与原函数f(x)相近似的二次多项式p(x)，以函数p(x)的极值点(即p(x*p)=0的根)作为目标函数f(x)的近似极值点。,1.二次多项式p(x)的构成及其极小点设原目标函数的初始单峰区间为。函数在x1,x2,x33点处函数值分别为f1,f2,f3，,求待定系数a0,a1和a2,并代入上式，得：,2缩短区间,假若f(x)本身为二次函数，则在理论上按前式一次求值就可找到最优点。若f(x)为高于二次的函数或为其他函数,可采用区间消去法逐步缩小区间。根据xp*，x2，f(xp*)和f(x2)的相互关系，分4种情况进行区间缩小。在已有的四x1,x2,x3,xp*中选择新的三个点x1,x2,x3，再进行二次插值。选点要求：x1f2,f2f3（高低高形态）,如果，以x2,xp*中函数值较小的点作为最优点x*。,二次插值法的程序框图,例33用二次插值法求函数f(x)=3x3-4x+2的极小点，给定x0=0,=0.2。,解1）确定初始区间初始区间a,b=0,2,中间点x2=1。,2）用二次插值法逼近极小点相邻三点的函数值:x1=0,x2=1,x3=2;f1=2,f2=1,f3=18.代入公式：,xp*0.555,fp=0.292,在新区间，相邻三点的函数值:x1=0,x2=0.555,x3=1;f1=2,f2=0.292,f3=1.xp*0.607,fp=0.243由于fpx2,新区间a,b=x2,b=0.555,1|x2-xp*|=|0.555-0.607|=0.0520.2,迭代终止。xp*0.607,f*=0.243,由于fp0.2,应继续迭代。,例3-4用二次插值法求的极值点。初始搜索区间，。,解：取x2点为区间x1,x3的中点，,计算x1,x2,x33点处的函数值f1=19，f2=-96.9375，f3=124。可见函数值满足“高低高”形态。,以x1,x2,x3为插值点构造二次曲线，求第一次近似的二次曲线p(x)的极小值点，由公式得：，比较函数值可知,这种情况应消除左边区段。然后用作为x1,x2,x3新3点,重新构造二次曲线p(x)，如此反复计算，直到为止。,整个迭代过程的计算结果列于表。,第四章无约束优化方法,4-1最速下降法（梯度法）4-2牛顿类方法4-3变尺度法4-4共轭方向法4-5鲍威尔方法4-6其它方法（如坐标轮换法、单纯形法）,第1章所列举的机械优化设计问题，都是在一定的限制条件下追求某一指标为最小，它们都属于约束优化问题。工程问题大都如此。为什么要研究无约束优化问题?（1）有些实际问题，其数学模型本身就是一个无约束优化问题。（2）通过熟悉它的解法可以为研究约束优化问题打下良好的基础。（3）约束优化问题的求解可以通过一系列无约束优化方法来达到。所以无约束优化问题的解法是优化设计方法的基本组成部分，也是优化方法的基础。,（4）对于多维无约束问题来说，古典极值理论中令一阶导数为零，但要求二阶可微，且要判断海赛矩阵为正定才能求得极小点，这种方法有理论意义，但无实用价值。和一维问题一样，若多元函数F(X)不可微，亦无法求解。但古典极值理论是无约束优化方法发展的基础。,目前已研究出很多种无约束优化方法，它们的主要不同点在于构造搜索方向上的差别。,（1）间接法要使用导数，如梯度法、（阻尼）牛顿法、变尺度法、共轭梯度法等。（2）直接法不使用导数信息，如坐标轮换法、鲍威尔法单纯形法等。,无约束优化问题是：,求n维设计变量,使目标函数,搜索方向的构成问题乃是无约束优化方法的关键。,用直接法寻找极小点时，不必求函数的导数，只要计算目标函数值。这类方法较适用于解决变量个数较少的（n20）问题，一般情况下比间接法效率低。间接法除要计算目标函数值外，还要计算目标函数的梯度，有的还要计算其海赛矩阵。,4-1梯度法,基本思想：函数的负梯度方向是函数值在该点下降最快的方向。将n维问题转化为一系列沿负梯度方向用一维搜索方法寻优的问题，利用负梯度作为搜索方向，故称最速下降法或梯度法。,搜索方向s取该点的负梯度方向(最速下降方向)，使函数值在该点附近的范围内下降最快。,为了使目标函数值沿搜索方向能够获得最大的下降值，其步长因子应取一维搜索的最佳步长。即有,根据一元函数极值的必要条件和多元复合函数求导公式，得,在最速下降法中，相邻两个迭代点上的函数梯度相互垂直。而搜索方向就是负梯度方向，因此相邻两个搜索方向互相垂直。这就是说在迭代点向函数极小点靠近的过程，走的是曲折的路线。形成“之”字形的锯齿现象，而且越接近极小点锯齿越细。,图4-2最速下降法的搜索路径,方法特点（1）初始点可任选，每次迭代计算量小，存储量少，程序简短。即使从一个不好的初始点出发，开始的几步迭代，目标函数值下降很快，然后慢慢逼近局部极小点。（2）任意相邻两点的搜索方向是正交的，它的迭代路径为绕道逼近极小点。当迭代点接近极小点时，步长变得很小，越走越慢。,sk,沿负梯度方向进行一维搜索，有,为一维搜索最佳步长，应满足极值必要条件,例41求目标函数的极小点。解取初始点则初始点处函数值及梯度分别为,算出一维搜索最佳步长,第一次迭代设计点位置和函数值,继续作下去，经10次迭代后，得到最优解,这个问题的目标函数的等值线为一簇椭圆,迭代点从走的是一段锯齿形路线，见图4-3。,将上例中目标函数引入变换,其等值线由椭圆变成一簇同心圆。,仍从即出发进行最速下降法寻优。此时：,沿负梯度方向进行一维搜索：,则函数f(X)变为：,y1=x1,y2=5x2,由,从而算得一步计算后设计点的位置及其目标函数：,经变换后，只需一次迭代，就可找到最优解。,这是因为经过尺度变换：,等值线由椭圆变成圆。,梯度法的特点,（1）理论明确，程序简单，对初始点要求不严格。（2）对一般函数而言，梯度法的收敛速度并不快，因为最速下降方向仅仅是指某点的一个局部性质。（3）梯度法相邻两次搜索方向的正交性，决定了迭代全过程的搜索路线呈锯齿状，在远离极小点时逼近速度较快，而在接近极小点时逼近速度较慢。（4）梯度法的收敛速度与目标函数的性质密切相关。对于等值线(面)为同心圆（球）的目标函数，一次搜索即可达到极小点。,一维情况下的牛顿迭代公式,4-2牛顿法及其改进,设为的极小点,这就是多元函数求极值的牛顿法迭代公式。,对于二次函数，海赛矩阵H是一个常矩阵，其中各元素均为常数。因此，无论从任何点出发，只需一步就可找到极小点。,例42求目标函数的极小点。解取初始点,从牛顿法迭代公式的推演中可以看到，迭代点的位置是按照极值条件确定的，其中并未含有沿下降方向搜寻的概念。因此对于非二次函数，如果采用上述牛顿迭代公式，有时会使函数值上升。,阻尼牛顿法,阻尼因子，沿牛顿方向进行一维搜索的最佳步长，由下式求得：,经过一次迭代即求得极小点,函数极小值,这样，原来的牛顿法就相当于阻尼牛顿法的步