最优化理论与方法概述ppt课件

1、第一章是优化问题和凸分析基础。在日常生活中，无论你做什么，总是有很多选择，可能会有很多不同的结果。当我们做这些事情时，我们总是有意识或无意识地选择一个最佳方案，以达到最佳结果。这个追求最佳方案以达到最佳结果的学科就是最优化。寻求最佳方案的方法是最优化方法。该方法的理论基础是最优化理论，凸分析是最优化理论的基础之一。最优化问题：寻找一元函数或多元函数的极值。在微积分中，我们已经接触到一些简单的极值问题。让我们举一个具体的例子来看看什么是优化。2，1.1优化问题的一个例子，例1:对于边长为A的正方形铁板，在四个角上切下相等的正方形，制成一个正方形的无盖水箱，并询问如何切割的方法，使水箱的容积最大化

2、。解决方法：让切割正方形的边长为X，这很容易从问题的含义中知道。这个问题的数学模型是，3，配料，每磅配料的营养成分，钙，蛋白质，纤维，每磅成本(元)，石灰石颗粒大豆粉，0.380 0 0.00 0.00 0.001 0.09 0.002 0.50 0 0.0让我们假设每天需要的混合饲料的批次是100磅，并且这种饲料必须含有至少0.8%但不超过1.2%的钙；至少22%的蛋白质；高达5%的粗纤维。假设主要成分包括石灰石、谷物和大豆粉。这些成分的主要营养成分如下表所示。尝试确定以最低成本满足动物营养需求的最佳混合饲料。根据上面介绍的建模元素，该问题的数学模型如下：是生产100磅混合饲料所需的石灰石、

3、谷物和大豆粉的量(磅)。5，1.2优化问题的数学模型，一般形式为向量形式，其中，6、目标函数、不等式约束和等式约束称为可行解或可行点，所有可行点的集合称为可行集。如果它是一个连续函数，它就是一个闭集。7、在可行集中找到一点，使目标函数在该点取最小值，即满足的过程：是优化求解过程。它被称为问题的最佳点或最佳解和最佳值。定义1:全局(全局)最优解：如果它存在于所有事物中，它被称为优化问题的全局最优解。定义2:局部最优解：如果有一个特定的邻域，它被称为最优化问题的局部最优解，如果它对所有事物都是常数。严格最优解：当有严格最优解时，它被称为问题的严格最优解。8，f(X)，局部最优解，全局最优解，9，1

4、.3优化问题的分类，与时间的关系：静态问题，动态问题是否有约束：约束问题，无约束问题函数类型：线性规划，非线性规划，10，2，梯度和Hesse矩阵，2.1轮廓二维问题在空间直角坐标系中，平面和曲面在平面上相交的投影曲线是得到不同值的不同投影曲线。每条投影曲线对应一个值，所以我们称这条投影曲线为目标函数的等值线。当常数取不同值时，重复上述讨论，得到平面上的一系列曲线等值线。等值线的形状完全由曲面的形状决定；相反，曲面的形状也可以从轮廓形状推断出来。12，例如，在坐标平面上绘制目标函数的轮廓解，因为当目标函数取一个常数时，曲线代表一个以原点为中心、半径为中心的圆，所以轮廓是一族以原点为中心的同心圆

5、(如图所示)，13，2.2元函数的可微性和梯度，梯度：多元函数的一阶导数。Hesse矩阵：多元函数的二阶偏导数矩阵，15、例：求目标函数的梯度和Hesse矩阵。解决方法：因为Hesse矩阵是：16，下面的公式在将来通常被使用：(1)，然后(2)，然后(单位矩阵)，(3)，q是对称的，然后(4)如果，其中f:那么：17，3，多元函数的泰勒展开，多元函数的泰勒展开在最优化理论中许多方法及其收敛性的证明都是基于它的。定理：让它有一个二阶连续偏导数。然后：01，18，其他形式的多元函数的泰勒展开：19，20，21，22，23，24，凸集和凸函数在非线性规划理论中起着重要作用。这里有一些关于凸集和凸函数

6、的基本知识。5，凸集，凸函数和凸规划，25，例如，规定了欧洲空间是凸集，空集是凸集，单点集X是凸集，26其中a是mn矩阵，b是m维向量。证明：如果你拿它，那么，27，例如，给定线性规划，如果它是，它是一个凸集。28，凸集的性质，有限凸集的交集仍然是凸集。让它是凸集，那么它就是凸集。如果它是凸集，它就是凸集。凸集的和集仍然是凸集。让它是凸集，那么它就是凸集。推论：如果它是凸集，它也是凸集。29，定义3个极点(顶点):设d是一个凸集。如果D中的点x不能是D中任何线段的内点，那么x称为凸集D的极点.设d是凸集，XD。如果X不能用x (1) d和x (2) d的凸组合表示为X=X(1)(1)-X(2)

7、，其中01，那么X称为d的极点，定义2。凸组合：让X(1)、X(2)和X(k)是N维欧氏空间中的k个点。如果有1，2和k满足0i1，(I=1，2和k)，让X=1X(1) 2 X(2) k X(k)，30，多边形的顶点是凸集的极点(顶点)。圆周上的所有点都是凸集的极点(顶点)。性质1: f (x)是凸集d上的凹函数当且仅当-f(x)是凸集d上的凸函数，33、34，例：证明线性函数是凸集d上的凸函数。同样，可以证明线性函数是世界上的凹函数。35，36，证明：必要性，即泰勒公式，让，37，集，充分性，让，即，所以，同样的原因，38，定理3(二阶条件):让d是r中的一个非空凸集和定义在d上的二次可微函

8、数，那么凸函数的充要条件是x d，n，39，证明：必要，所以，通过泰勒公式，因为它是一个开集。通过一阶条件，所以通过p的任意性，半正定。40，充分性，这里它是凸函数，因为它是半正定的。那么，严格凸函数？41，充分性，因为它是正定的，所以它是严格凸函数。例如，42，判断下列函数的凹凸性。(1) (2)解：43，6:凸规划设D是凸集和定义在D上的凸函数，那么这个规划问题就叫做凸规划。线性规划是凸规划。数学规划很容易知道，而且是凸函数，所以规划是凸的。46，对于一般规划(p)，它的局部最优解不一定是全局最优解，它的可行集不一定是凸集。然而，如果(p)是凸规划，可以得出以下结论。定理4:让规划(P)是凸的，那么(1) (P)的可行集R是凸的；(2)p的最优解集R*是凸集；(3)p的任何局部最优解都是全局最优