无约束最优化问题无导数解法【全套毕业作品】

1、木文档内含【毕BI业YE论LUN文WEN.文WEN献XIAN综ZONG述SHU.开KAI题TI报BAO告GAOBI YE SHE JI（20 届）无约束最优化问题无导数解法所在学院专业班级信息与计算科学学生姓名学号指导教师职称完成日期年 月木文档内含【毕BI业YE论LUN文WEN、文WEN献XIAN综ZONG述SHU、开KAI題TI报BAO告GAO摘要：本文首先介绍了无约束最优化问题的产生背景和对人们生活的影响，即他 的意义，例如，经济上、军事上、生产等方面都有广泛的应用。介绍了无约束最优化 问题比较常用的三种无导数解法，即Powell直接法、Hookes-Jeeves算法和黄金分割 法。其中

2、Powell直接法和Hookes-Jeeves算法从某个给定初始点和初始方向开始，通 过不断的调整搜索方向来达到最优解，与此不同的是黄金分割法按照黃金分割比例来 分割初始区间，从而一步步缩小，最终求得结果。这些算法不仅可以求解无约束的最 优化问题，也可以把有约束的最优化问题转化成无约束的问题然后求解。最后利用 MATLAB编写三种算法的求解程序，通过数值结果比较方法的优劣。关键词：无约束最优化；Powel 1直接法；Hookes-Jeeves算法；黄金分割法Some Derivative-free Methods ofUnconstrained Optimization ProblemsAbs

3、tract: Firstly of all, thesis introduces the background of the unconstrained optimization problems and impact of peoples lives. In practical life, we can find a lot of examples of optimization problems For example, economic, military, production and other aspects related in this area. We introduce t

4、hree derivative-free method for unconstrained optimal problems, Powell direct method. Hookes-Jeeves method, golden section method. Powell direct method and Hookes-Jeeves method are similar, both have to give an initial point and an initial iterative direction. But the principle of the golden section

5、 method is different The above three algorithms used to solve unconstrained optimal problem, but also can solve constrainted optimization problems, constrainted optimization problem can also be transformed into unconstrained problems, then solved by derivative-free methods. Finally, we show the adva

6、ntages and disadvantages of derivative-free methods by some numerical examplesKeyword: Unconstrained optimization; Powell direct method; Hookes-Jeeves method; Golden section method目录1绪论11. 1问题的背景、意义11.1.1 背景11. 1.2 意义12 MATLAB软件介绍42. 1MATLAB 介绍43无约束最优化问题的无导数解法63. 1Powell 直接法63. 2Hookes-Jeeves算法63.3黄

7、金分割法74数值算例94. 1用黄金分割法解无约束最优化问题94.2用Powel1直接法解无约束最优化问题114. 3用Hookes-Jeeves算法解无约束最优化问题125结论14致谢16参考文献17附录1黄金分割法的Matlab程序18附录2 Powell直接法的Matlab程序19附录 3 Hookes-Jeeves 算法的 Mat lab 程序211绪论1. 1问题的背景、意义1. 1. 1背景在科学研究和工程应用中，涉及到各类工程、军事、生产、管理、经济等领域内最优化算法 实用性非常强。已成为许多工程技术人员、管理工作者和研究人员的必备工具。最优化理论与算法是一个重要的数学分支，它所

8、研究的问题是讨论在众多的设计方案中什么 样的方案最优以及怎样找出最优方案。这类问题普遍从在于实际生活当中，例如，工业设计中怎么 样选择设汁参数，使得方案满足设讣要求，又能降低成本：资源分配中，怎样分配有限资源，才能 使得分配方案既能满足各方而的基本要求，又能获得更好的经济效益；生产评价安排中，选择怎样 的计划方案才能提髙产值和利润：原料配比问题中，怎样确泄各种成分的比例，才能提髙质量，降 低成本；建设规划中，怎样安排工厂、机关、学校、商店、医院、住户和其他单位的合理布局，才 能方便群众，有利于城市各行各业的发展：农田规划中，怎样安排各种农作物的合理布局才能保持 高产稳产，发挥地区的优势；在军事

9、战斗指挥中，怎样确启最佳作战方案，才能有效的歼火敌人, 保存自己的实力，而有利于整场战斗的全局，诸如此类，不胜枚举。最优化这一数学分支，正是为 这些问题的解决提供理论基础和求解方法，它是一门应用广泛、实用性很强的学科。1.1.2意义最优化理论与算法是一个重要的数学分支，它所研究的问题是讨论在众多的设计方案中什么 样的方案最优以及怎样找出最优方案。这类问题普遍从在在实际生活当中，例如，工业设计中怎么 样选择设汁参数，使得设计方案满足设计要求，又能降低成本：资源分配中，怎样分配有限资源, 才能使得分配方案既能满足各方面的基本要求，又能获得好的经济效益：生产评价安排中，选择怎 样的计划方案才能提高产

10、值和利润：原料配比问题中，怎样确怎各种成分的比例，才能提高质量, 降低成本；建设规划中，怎样安排工厂、机关、学校、商店、医院、住户和其他单位的合理布局, 才能方便群众，有利于城市各行各业的发展；农田规划中，怎样安排各种农作物的合理布局才能保 持高产稳产，发挥地区的优势：在军事战斗指挥中，怎样确左最佳作战方案，才能有效的歼火敌人, 保存自己的实力，而有利于整场战斗的全局，诸如此类，不胜枚举。最优化这一数学分支，正是为 这些问题的解决提供理论基础和求解方法，它是一门应用广泛、实用性很强的学科。通过运用数值分析，数值最优化中算法，再结合现代经济发展的状况以及结合前人所研究的成果，运用科学的方 法(P

11、owell直接法、轴向搜索法、黄金分割法等)来有效的，最优化的解决实际经济当中的问题。 先大量的阅读有关资料，熟悉这些算法，并用这些算法来汁算实际问题，最后通过MATLAB编程实 现在上而的选题背景中，我们可以看出最优化设计在实际生活中的应用非常的广泛，我们可以 通过数值最优化中的基础知识和讣算方法来解决实际生活中问题，运用科学的计算方法和网络编程 来使我们的工作变得更加效率、科学。下而我们通过以下实例来体会下最优化设计能给我们带哪些 方便。无约束最优化问题的一般数学模型为：min/(x), xeR解这两个问题我们要用到以下无约束优化问题的解法： Powell直接法轴向搜索法黄金分割法在经济中

12、，我们需要将一些很复杂的问题通过无约束最优化无导数算法来实现，显然，在函数min f(x)中的x是不受约朿的，并且/(X)是很复杂的，没规律的，不能求导数的，那么对于这样的问题的解决，我们可以用上面说的方法来求解。对于些从在约朿条件的，比如我们也可以把它们化成这种形式来计算 er,通过将目标函数和嵌入约束条件的罚函数相结合，我们可以通过求解一个序列的无约束问题。例如，只有等式约朿条件，我们可以左义罚函数为其中n0作为罚参数，q(x)为约束条件。然后，我们对这一序列逐渐增加的求解这个无约朿 函数，直到能达到约朿优化问题解的足够精确。如果我们使用一个精确的罚函数，可能只要解一个无约朿最小化问题就可

13、以求解有约束的最 优化问题了。对于等式约束问题，令英中“取某个充分小的正常数，就能获得一个精确惩罚函数。然而，精确惩罚函数通常是不可 微，并且它们的极小化需要求解一个序列的子问题。在障碍方法中，我们在目标函数中添加一项，当X在可行域内部时，此项是微不足道的：当兀 趋于边界时，它趋于零。举例来说，如果mm f(x)中q(x)是只有不等式约束条件时，对数障碍 函数有如下形式：/(x)-“logq(x),rsr其中0被称为障碍参数。当丄0,时在一上条件下可以证明这个函数的极小化子趋于原来约束 问题的解。同样.通常的策略是对一个递减序列求近似极小化子。在增强拉格朗日方法中，我们定义一个函数，当只有等式

14、约朿条件时，所谓的增广拉格朗日函数具有以下的形式：ga(x,几;“)=“Q -工恥(x) + 二c：(X)固定兄为最优拉格朗日乘子的某个估计和“为某个正数，然后找到L的一个近似极小化子X,这 个新的X用于更新几，可能会降低，并重复这个过程。后来我们发现，这种方法避免了以上讨 论的障碍函数方法中求解极小化子的一些数值困难。在序列线性化约束方法中，任每个迭代步我们极小化一个带线性化约束条件的拉格朗日函数, 这种方法主要用于求解大规模问题。这样，我们可以通过加一个罚函数来把有约束的优化问题化成无约束的优化问题，然后运用Powell直接法、轴向搜索法、黄金分割法三种方法解决问题。2 MATLAB软件介

15、绍2. 1 MATLAB 介绍MATLAB是一个基本的应用程序，是一种而向科学和工程计算的高级语言，通过对现实生活中 的问题进行编程，并创建M文件运行得到结果，整个汁算过程和编程过程非常便捷。所以我们的目 的就是运用MATLAB软件对对现实中经济学问题进行编程并得到解。MATLA有一个称为标准工具箱的巨大程序模块库。MATLAB工具箱包括解决实际问题的扩展库, 如：求根、插值、数值积分、线性和非线性方程组求解以及常微分方程组求解。由于继承了 LINPACK、 EISPACK和LAPACK的特性，MATLAB对数值线性代数来说是一个高可靠的优化系统。许多数值作业 能够用线性代数语言精确地表示。M

16、ATLAB和线性代数的密切关系是程序员能够用很短的MATLAB语 言来解决复杂的数值作业。标准工具箱还包括数据可视化的扩展图形库，有简单的点、线和复杂的 三维图形和动画。所有的MATLAB程序都可以使用这些函数，这样就可以在所有程序和程序集中分 析并生成达到岀版质量的图示。对图形的快速访问能有效地提高用户的效率。诊断点有助于调试程 序和检验算法是否正确执行。低级的图形函数为自泄义图形用户接口的分析代码提供了扩展空间。 除了标准工具箱，可以使用其他的工具箱，如：信号处理、图像处理、优化、统计分析、偏微分方 程的求解和许多数值讣算的应用。MATLAB语言的主要特点可概括如下：（1）简单易学，使用方

17、便MATLAB被称为草稿式”语言，这是因为英函数名和表达更接近我们书写计算公式的思维表达方 式，编写MATLAB程序犹如在草稿纸上排列公式与求解问题因此可以快速地验证工程技术人员的 算法。此外MATLAB还是一种解释性语言不需要专门的编译器。（2）强大的图形技术MATLAB具有非常强大的以图形化显示矩阵和数组的能力，同时它能给这些图形增加注释并且打印 这些图形o MATLAB的图形技术既包括一些可以方便产生二维、三维科技专业图形的高级绘图函数, 又包括一些可以让用户灵活控制图形特点的低级绘图命令。另外，用户还可以利用MATLAB的句柄 图形技术创建图形用户界而。（3）编程效率极高MATLAB是

18、一种而向科学和工程汁算的髙级语言。它以矩阵运算为基础，极少的代码即可实现复杂 的功能。（4）可扩充性强，具有方便的应用程序接口MATLAB不仅有着丰富的库函数，任进行复杂的数学运算时可以直接调用而且用户还可以根据 需要方便地编写和扩充新的函数库。通过混合编程用户可以方便地在MATLAB环境中调用其他用 Fortran或者C语言编写的代码，也可以在C语言或者Fortran语言程序中调用MATLAB计算 引擎来执行MATLAB代码。3无约束最优化问题的无导数解法3.1 PoweII直接法取初始点x（0） e R1,精度0,给定个线性无关向量=令k：二0从兀出发，一次沿，,进行精确线性搜索得0）,*

19、,.肝），即/（x（/, +4） = min /（x0，） +ad）,aeR严 =d）+/nj = O,i,.,n_i.令din =X（n）-XW.若则得解*）,否则，从出发，沿/”）进行精度线性搜 索得严。由下面算法/（严）-/（严）max#（严）-/（严）0勺勺l1计算最大下降量所确左的指标f 如果/（严）-2f（y（n） + 八2宀严） 2（/（严）-/（严）成立，则牙仙：=xn+k : =k + ,转步2. 令 严:二心0,1,“一一1,+： =?n+,）,jt： # + 1。转步 2.依次重复上面的，知道得到满足要求的解。3. 2 Hookes-Jeeves 算法 取初始点x0,步长

20、缩减因子0已（0,1）,步长加速因子a0,精度g 0.给定个坐标轴向量4=0,1,显一1,令y: =/0）,K : =0 j:二0心）+况 2） /（）则令严）=）“+况仃）转到第4步，否则转到第3步。 若/（严-妙）/（严）则令f+1）=）,仃_况（刀转到步4,否则，令）WT：=yS,转步4. 若jn-l,令j:=j+l并转步2.否则转步5.若令严）：=y 5），严：=严+ Q（严林 一 x）, ：= k + 1, j ：= 0,并转步2,否则，转步6. 若则得解X，否则，令:=和，）凹:=x（kx（k+ -x（kk-k + tj-0转向步2.则依次循环，直到得到最优解。3.3黄金分割法黄金

21、分割法是优化讣算中的经典算法，以算法简单、效果显著而著称，是许多优化算法的基础, 但它只适用于一维区间“上上的凸函数。英基本思想是：依照去坏留好”原则、对称原则、以 及等比收缩原则来逐步缩小搜索范围。具体地说，就是在区间,中取点 =。+ 0.382（/?-。）,心=+ 0.618（/? 。）。如果 /（%,） f（x2）则令a = x,重新开始。如果 /（%,） f（x2）则令b = x2,重新开始。这样每次可将搜索区间缩小0. 382倍或0. 618倍。直至缩 为一点。这是一个收敛速度很快的一维搜索方法。正是受这一算法的启发我们这里将这一方法推广 到二维和三维空间。本法是受黄金分割法的启发而

22、产生的，简单地说，是黄金分割法在平而上推广，正因为如此， 它和黄金分割法一样，具有简单、快捷的特点，当然本法同样也只适用于单峰凸（或凹）函数。英基 本思想是：将可行的平而矩形区域D = yaxb,cyd在纵横两个方向分别以0.382和0. 618将苴分割，如图1所示，将D分为九个小矩形。逐个判断各小矩形形心的函数值，如 果该点函数值小于四角的函数值，则将该小矩形作为新的搜索区重新开始。如果各小矩形形心的函 数值均不能小于四角的函数值则，选十六个节点中函数值最小者为新的形心构造一个而积大约为 原矩形五分之二大的矩形，重新开始。当然这里我们要求新矩形的顶点必须保证不超岀原矩形所界 定的区域，即：都

23、保持在可行区域之内。如果超岀可行区，则以该矩形与边界线的交点为相应的顶 点。如果最小点在角上，一样办理。只是如果新矩形的某一角超出可行区的角则以可行区的角为相 应的角。具体地说，如果处最小，则新的矩形区域为：以点为心，水平长为d, “2之间距离, 垂直高为a, “7之间距离的矩形。如果E处最小，则新的矩形区域为：以久点为心，水平长为必， ”之间距离，垂直高为b ,儿之间距离。如果a处最小则新矩形为卩2，, “7等等。如此 类推，一直做下去直至矩形收缩到所需的范用之内。如果不幸，恰好16个卉点处的函数值都相等， 那我们就将这九个矩形都再做一次分割，找出一个最小点，如果还是不幸，第二次分割后所有节

24、点 处的函数值仍然都相等，我们继续进行分割，直到每个矩形的直径都小于某个给泄的数（或规左达 到某一个分割次数），则我们可以断定该函数是一个平行于xOy坐标面的平而，即可结束运算。对 于上述做法也许有人会提岀这样的疑问：如果目标函数出现一道深沟怎么办，这样一来有可能四 角的函数值虽然大于中心的函数值，但真正的最小值实际上在所讨论的矩形之外。对于这一疑问， 我们也考虑到了。实际上，我们这里的矩形是可以在可行区内移动的，所以当上述情况岀现时，我 们依然缩小矩形，当矩形小到一泄程度时，矩形中的最小值就一左会移到边上的（否则最小值就在 矩形中），这时我们再做岀的下一级矩形就会向边上移动，直至最小值重新回

25、到矩形中。4数值算例4.1用黄金分割法解无约束最优化问题现实社会中，比如经济领域，军事领域，生产领域等等，最优化问题则是我们经常会见到的, 也是非常棘手的问题。怎样处理问题才能设计出最优化的方案来，这也是很多投资者，职权这，厂 家所关心的问题。为此本论文将讨论无约朿最优化中最为常见的无导数算法，并以经济实例来说明 他的优点。现在我们来看这么一个问题：在一个生产项目中，一年的机器折旧费用、机器维护费、 工人薪水等为8万元支出，项目期间对于没用材料的变卖的利润与总的材料量的比例为5,材料的 费用和材料的量x的关系为尤2,合同规左x的范围为1,7(吨)，计算兀为多少时，成本最低。用黄金分割法分析：通

26、过题目我们可以得到成本和x的关系为/(x) = x2-5a + 8,此问题我们可 以写成：min/(x),其中x的搜索区间为1,7,如果给出一个精度,我们就可以运用黄金分割 法来计算此问题，解题过程如下：解：我们取精度为 = 0.1,那么要达到这个精度要求，区间缩短次数必须满足0.618 = 0.1 得&/(/“) =8.5D?0.618取k=9,则计算点数应为” = + 1 = 10,各次循环迭代的计算结果如下图:区间缩短次数a0. 3820.618bb-a点坐标函数值节点坐标函数值初始区1可1.0003.2922. 37734.7086. 62537. 000611.0002.4161.

27、75703. 2922. 37734.7083. 70821.0001.8752. 14022.4161. 75703. 2922. 29231.8752.4161.75702. 7511.81283. 2921.41741.8752.2101.83432.4161. 75702. 7510. 87652.2102.4161.75702. 5441. 75192. 7510. 54162.4162. 5441.75192. 6231. 76512. 7510. 33572.4162. 4951. 75002. 5441. 75192. 6230. 20782.4162. 4651.75122.

28、 4951. 75002. 5440. 12892. 4652. 4951. 75002. 5141. 75122. 5440. 079从上表中可以看出经过9次迭代计算后h-a = 0.079小于 = 0.1,所以当x的取值为x = L（u+b）= 1（2.465 + 2.544） = 2.505, f（x）的最优化结果为 1.7500。2 2程序1和程序2在MATLAB中运行，得到，厂=2.505 ,然后将r = 2.505带入到方程f（x） = x2-5x+S中，计算得到/（r） = 1.7500o我们可以看到整个过程科学,方便，非常适合现 代经济，军事，生活等领域内，不仅优化了问题的解决

29、过程，还节省了大疑的时间，可见，我们的 讨论是非常有意义的。（程序1、程序2见24页附录1）我们来分析下黄金分割法的计算步骤，先提出一个问题，就在仏/门上如何选取两点2使 得迭代次数最小而区间缩短最快？要解决这个问题，我们想到对区间仏方选两点耳2等价于将 区间的长度b-a进行黄金分割，也就是降低一个搜索点人取在*的0. 618处，第二个搜索点S 去成片的对称点即“上的0. 382出，这样的话，我们就有“ = + 0.618（/?-6/）t2 =d + 0.382（b-d）计算0（“）与曲2）的值,并根据0（“）与0山）的值的大小关系分情况讨论：（1）若（P（r1）（r2）,说明片是好点，于是把

30、区间“心划掉，保留。“，则”2上内有一 个保留点片，置新的区间“二仏上】：（2）若 （CSC），说明是好点，于是应该把M，b划掉，保留“/,贝肛/内有保 留点5，宜新的区间=（3）若 （人）二0（0），则应具体分析，看极小点可能在哪一边在决逹取舍。在一般情况下，可 同时划掉心和仅保留中间的側】，新置的区间，小二仏比】。接下来是在留下的区间内找好点，重复上而的步骤，直到搜索区间匕方小于给左的允许误 差纟0为I上。这样就得到黄金分割法迭代算法：（1）确泄（C的初始所搜区间均,。（2） 计算 t2=a + p（b - ）,（p2 =（pt2） o则打印宀中，结束；否则转。判别是否满足卩:若满足，则置

31、然后转(3)：否则宜b = C =口叭=02=a + 0(b_a),02 =0(G)，然后转(4).-次循环下去，最终得到结果。我们可以看到运用黄金分割法将复杂的问题简单化了, 也是非常适合在实际生活中运用的。4. 2用Powe II直接法解无约束最优化问题用Powell直接法求解初始点兀=(1,1)4 J=(l-l)r, J0)=(OJ)ro分析过程如下：(1) 由于初始点给迫，并且是二维方程，那么我们给精度二10化(2) 从严=(1,1)7出发依次沿J,Q, =(1-1)7 ,=(04)7进行精度线性搜索得兀丿，即f （x,r, +终）=nin f （x +adl解得:/（x)-/(xT)

32、 = max/(严)-/C严) = max /(八)-/(*)(*”-/()0j1计算得岀最大下降量所决泄的指标7 o(5) 若/() - 2/(2”)4- f(2x(n) -x(0) 2(/(+) -/(x(/+,) o成立，则x:二严,kt *1,转第二步。(6) 令曲)：二/=0,1,-, /7-Z-1, ?0) : =x = (1,1)7 ,初始步长5 = 10,步长缩减因子p e (0,1),步长加速因子6Z0,精度0给泄2个坐标轴向= 令y：=x0k : =0, j :=0.（2）若/（）+&3）/（严），（W + 决）2 +（）# + 决/）2鬧 +）?则令严 *）尹2 = y2

33、J +y2J * &。转步（4）,否则转步（3）。（3）若（/ +於八尸一（讯+时） 屮+ y；j,转步（4）,否则，令 y，7+,）: = y?）,转步（4）。（4）若jn-,令八二）+1并转步（2）,否则转步（5）。（5）若 f（yn）f（x（k）,令x如）：二）,何，屮0）：二+3 + 0+5一卅）卫：二 + 1, j：二0并转步 否则转步（6）0（6）若3,则得解尤。否则，令5： = p6,y（0）: = xik,xu+I： = xikkt = k + lj： = 0 转步（2）。最后我们把这些过程用MATLAB编程（参见24页附件3）,就可以很方便的计算出结果了，得到最 优解为（0,

34、0）丁，迭代步数为4。5结论今天，最优化问题几乎已经渗透到管理、经济和工程技术等领域的各个方面。现代科学技术特 别是计算机技术的迅速发展，为求解最有哈问题提供了雄厚的基础和有效的手段。因此，我们分析 最优化问题的解法具有十分重要的现实意义。本论文首先讨论了无约朿最优化问题无导数解法在实际生活中的重要性,初步对最优化问题到 底表现在那些方而作了简单的介绍，然后又介绍了最优化算法的基本形式。它涉及到各类工程、军 事、生产、管理、经济等领域内，实用性非常强，也理所当然的成为许多工程技术人员、管理工作 者和研究人员的必备工具。接着我们又介绍了MATLAB软件的特点和使用方法，初步了解了MATLAB 的

35、基本情况，MATLAB开始是专门用于矩阵数值计算的软件，随着MATLAB主见市场化，MATLAB不 仅具有了数值计算功能，而且具有了数据可视化功能。下来我们具体的用一个例子来说明无约束最 优化问题无导数解法在实际生活中具体的表现和我们怎么运用这些方法来解决他，初步分析并列岀 方程，然后运用具体方法来得岀最后的最优化的方案。又因为在现实生活中我们经常遇到的问题大 多数是无约束问题，而对于无约朿的问题运用约束问题的算法是行不通的，正对这个问题，本论文 着重讨论了无约束问题的三种解法，分別是Powell直接法、轴向搜索法、黄金分割法，即对实际问 题先在数学的角度进行分析，化简过程，然后再用MATLA

36、B软件编程求得结果。那么在对比之下我们 可以淸楚的看到，无约束问题的求解过程还要比约束问题的求解过程简单有效，那么，就这个问题, 本论文也进行了分析说明，可以把有约束的问题转换成无约朿的问题进行il算，那么这样的话就不 可避免的会产生一定的误差，因此我们有引入的罚函数来弥补这一缺失。综上所述，通过种办法, 我们使得无约束问题的无导数算法大众化，进而更加有效的解决实际问题。看出最优化设汁在实际生活中的应用非常的广泛，我们可以通过数值最优化中的基础知识和计 算方法来解决实际生活中问题，运用科学的计算方法和网络编程来使我们的工作变得更加效率、科 学。下而我们通过以下实例来体会下最优化设计能给我们带哪

37、些方便。无约束最优化问题的一般数学模型为：mill f(x) , xeR解这两个问题我们要用到以下无约束优化问题的解法：Powell直接法轴向搜索法 黄金分割法这3种方法是针对无约束的最优化求解，分析问题，写出求解过程，再利用MATLAB软件编程 计算结果，但是对于有约束的一类问题，我们也可以化成无约朿问题来解决，例如nun fMcQ) = 0,c.(x)0,我们加入一个罚函数，通过将目标函数和嵌入约束条件的罚函数相结合，/ e r,我们可以通过求解一个序列的无约束问题。例如，只有等式约束条件，我们可以定义罚函数为对于等式约束问题，则左义罚函数为,3 +丄|q3|,11然后用开始介绍的3种方法

38、来汁算，这样我们就拓展了最优化算法的范用，使得实际运用时更加方 便最后，我们非常具体的说明了无约朿最优化问题无导数解法的三种方法，Powell直接法、轴 向搜索法、黄金分割法。我们通过对这三种方法的详细深入的分析，列岀了就解决实际问题的解题 过程，最后运用MATLAB编程求出问题的有效结果。总的来说，最优化方法是应用数学的一个分支, 又是现代工程分析最佳设计四种主要方法之一，最优化方法能获得明显的经济意义、技术价值和管 理效益，所以我们对此问题的分析是非常有价值的。主要参考文献：1 李董辉，童小娇，万中编数值最优化M.北京:科学出版社,2005. 5.2 易大义，陈道琦.数值分析引论M.浙江：

39、浙江大学岀版社,1998. 9.3 汪卉琴，刘目楼.数值分析M.冶金工业出版社，2003.4 陈宝林编著.最优化理论与算法H.北京：淸华大学岀版社，1999.5 何坚勇编著.最优化方法M.北京：淸华大学出版社，1999.6 厲焕文，秦学志编著M.大连：大连理工大学出版社，2004.7 曹卫华，郭正.最优化技术方法及MATLAB的实现M.北京：化学工业出版社，2005.8 朱徳通.最优化模型与试验M.上海:同济大学出版社，2003.9 阳明盛，罗长童.最优化原理及求解软件M.科学出版社，1988.10 邓扬.无约朿最优化计算方法M.北京：科学出版社，1982.11 杨冰实用最优化方法及讣算机程M

40、.西安：西安交通大学出版社，198&12 郭科，陈聆，魏友华.最优化方法及其应用M.髙等教弃出版社.13 王本鉴，郭科.优化仿真技术用于深部储层解释J,物探化探汁算技术，1990.14 胥泽银，郭科.最优化方法在油田控水稳油中的应用J,四川大学学报1999.15 R K. AHUJA, T L MAGNANTI, J. B. Orin, NetworkFlows:Theory, Algorithms.Applications.MPrentice-Hall, Englewood Cliffs, N J,199316 Richard LBurden and JDouglas, Numerical

41、Analysis EMWadsworth Group B rooks, 2001.17 Jorge Nocedal, Stephen J. Wright Numerical Optimization 影E卩版北京：科 学出版社，2006.18 JEDennis, Jr Robert B Schnabel Numeical methods for unconstrained opt imization and nonlinear equationsM 影印版北京：科学出版社.附录1黄金分割法的MATLAB程序：程序1： function y=f(x) y=x2-5*x+8;文件劣为f.m进行保存

42、。 程序2：function r=goldCut(a, b) rl=a+0. 382*(b-a);r2=a+0. 618* (b-a); fl=f(rl);f2=f(r2);while abs(b-a)=l. Oe-4 if flf2b=r2;r2=a+0. 618* (b-a);rl=a+0. 382* (b-a); fl=f(rl);f2=f (r2);elsea=rl;r2=a+0. 618* (b-a); rl=a+0. 382* (b-a); fl=f(rl);f2=f(r2);endend r=(rl+r2)/2;附录2Powell直接法的MATLAB程序：程序3：function

43、 x_star, k=Powell_DirectMethodxO 二1 1，；dO = 1 -1;dl = 0 1;eps = 1. 0e-5;k = 1;max_iter = 1000;while(1)alphaO 二 - xO*dO/(dO*dO);xl = xO + alphaO*dO;alphal = - xl* *dl/ (dV *dl);x2 = xl + alphal*dl;d2 = x2 - xO;if norm(d2, 2) delta_y2t = o；max_.deIta_y = delta_yl;elset = 1;max_delta_y = delta_y2;endde

44、lta = fun (xO) - 2*fun(x2) + fun(2*x2 - xO);if delta = 2*max_delta_yxO = x3;elseif t = 0dO = dl;dl = d2;endif t = 1dl = d2;endxO = x3;endk = k + 1;if k max_iterbreak;endendfunction y = fun(x)y = x(l). *2 + x(2). 2;附录3Hookes-Jeeves 算法的 MATLAB 程序：function x_star, k二HookeJeeves_Method xo = 2 0;eO = 1 O

45、P ;el = 0 13,;e = eO el;delta = 1/2;alpha = 1;eps 二 0. 4;beta = 0.5*eps;yo = xo;k = 1;max_iter = 1000;while (1)for j = 1:2if fun(yo + delta*e(:, j) fun(yo)yn = yo + delta*e(:, j):elseif fun(yo - delta*e(:, j) fun(yo) yn = yo - delta*e(:, j):elseyn = yo;endendyo = yn;endif fun(yn) fun(xo)xn = yn;yo =

46、 xn + alpha*(xn - xo);k = k + 1;xo = xn;continue;elseif delta max_iterbreak;endendfunction y = fun(x)y = x 2 + x2;文献综述无约束最优化问题无导数解法一、前言部分在科学研究和工程应用中，涉及到各类工程、军事、生产、管理、经济等 领域内实用性非常强。最优化方法已成为许多工程技术人员、管理工作者和研 究人员的必备工具。最优化理论与算法是一个重要的数学分支，它所研究的问题是讨论在众多 的设计方案中什么样的方案最优以及怎样找出最优方案。这类问题普遍从在在 实际生活当中，例如，工业设讣中怎么样

47、选择设讣参数，使得设计方案满足设 计要求，乂能降低成本；资源分配中，怎样分配有限资源，才能使得分配方案 既能满足各方面的基本要求，乂能获得好的经济效益；生产评价安排中，选择 怎样的汁划方案才能提高产值和利润；原料配比问题中，怎样确定各种成分的 比例，才能提高质量，降低成本：建设规划中，怎样安排工厂、机关、学校、 商店、医院、住户和其他单位的合理布局，才能方便群众，有利于城市各行各 业的发展；农田规划中，怎样安排各种农作物的合理布局才能保持高产稳产， 发挥地区的优势；在军事战斗指挥中，怎样确定最佳作战方案，才能有效的歼 灭敌人，保存自己的实力，而有利于整场战斗的全局，诸如此类，不胜枚举。 最优化

48、这一数学分支，正是为这些问题的解决提供理论基础和求解方法，它是 一门应用广泛、实用性很强的学科。在上面的选题背景中，我们可以看出最优化设计在实际生活中的应 用非常的广泛，我们可以通过数值最优化中的基础知识和计算方法来解决实际 生活中问题，运用科学的讣算方法和网络编程来使我们的工作变得更加效率、 科学。下面我们通过以下实例来体会下最优化设计能给我们带哪些方便。无约束最优化问题的一般数学模型为：min /(x), xeRH解这两个问题我们要用到以下无约束优化问题的解法： Powell直接法轴向搜索法，黃金分割法在经济中，我们需要将一些很复朵的问题通过无约束最优化无导数算法来实现，显然，在函数min

49、 /(a)中的兀是不受约束的，并且/(X)是很复杂的，没规律的，不可能求导数的，那么对于这样的问题的解决，我们可以用上面说的方法来解。对于一些从在约束条件的，比如mill f(x) ?；W = 0,我们也可以把它们化成这种形式来w 丿 ,cr(x)0, /er,计算。通过将忖标函数和嵌入约束条件的罚函数相结合，我们可以通过求解一个序列的 无约束问题。例如，只有等式约束条件，我们可以定义罚函数为念)+右工弘)2待其中“0作为罚参数，q(x)为约束条件。然后，我们对这一序列逐渐增加的求解这 个无约束函数，直到能达到约束优化问题解的足够精确。如果我们使用一个精确的罚函数，可能只要解一个无约束最小化问

50、题就可以求解 有约束的最优化问题了。对于等式约束问题，令11应其中取某个充分小的正常数，就能获得一个精确惩罚函数。然而，精确惩罚函 数通常是不可微，并且它们的极小化需要求解一个序列的子问题。在障碍方法中，我们在目标函数中添加一项，当A在可行域内部时，此项是微不 足道的；当;V趋于边界时，它趋于零。举例来说，如果mill /(x)中q(x)是只有不等式 疋0约束条件时，对数障碍函数有如下形式/(%) - “Ylogq(x),Ff其中0被称为障碍参数。当“Jo,时在一定条件下可以证明这个函数的极小化子趋 于原来约束问题的解。同样，通常的策略是对一个递减序列“求近似极小化子。在增强拉格朗日方法中，我

51、们定义一个函数，当只有等式约束条件时，所谓的增 广拉格朗日函数具有以下的形式：固定几为最优拉格朗日乘子的某个估计和“为某个正数，然后找到J的一个近似极小 化子X,这个新的尤用于更新兄，“可能会降低，并重复这个过程。后来我们发现，这 种方法避免了以上讨论的障碍函数方法中求解极小化子的一些数值困难。在序列线性化约束方法中，在每个迭代步我们极小化一个带线性化约束条件的拉 格朗日函数。这种方法主要用于求解大规模问题这样，我们可以通过加一个罚函数来把有约束的优化问题化成无约束的优化问题 来解决。主题部分2. 1 MATLAB软件简介MATLAB是一个基本的应用程丿了；，是一种面向科学和工程计算的高级语言

52、，通过 对现实生活中的问题进行编程，并创建M文件运行得到结果，整个计算过程和编程过 程非常便捷。所以我们的U的就是运用MATLAB软件对对现实中经济学问题进行编程并 得到解。MATLA有一个称为标准工具箱的巨大程序模块库。MATLAB工具箱包括解决实际问 题的扩展库，如：求根、插值、数值积分、线性和非线性方程组求解以及常微分方程 组求解。山于继承了 UNPACK、EISPACK和LAPACK的特性，MATLAB对数值线性代数来 说是一个高可靠的优化系统。许多数值作业能够用线性代数语言精确地表示。MATLAB 和线性代数的密切关系是程序员能够用很短的MATLAB语言来解决复杂的数值作业。标 准工具箱还包括数据可视化的扩展图形库，有简单的点、线和复杂的三维图形和动画。 所有的MATLAB程序都可以使用这些函数，这样就可以在所有程序和程序集中分析并生 成达到出版质量的图示。对图形的快速访问能有效地提高用户的效率。诊断点有助于 调试程序和检验算法是否正确执行。低级的图形函数为自定义图形用户接口的分析代 码提供了扩展空间。除了标准工具箱，可以使用其他的工具箱，如：信号处理、图像 处理、优化、统计分析、偏微分方程的求解和许多数