《最优化方法》复习题

最优化方法复习题一、简略问题1、确定函数是否为凸函数的方法。(例如，判断函数是否为凸函数。）2，写几个迭代收敛条件。3、擅长使用单纯形表解决线性规划问题(包括大m方法和两步方法)。见书第61页(使用单纯形表解决)；69页示例(大m方法，使用两步方法解决)；4、简述牛顿法和拟牛顿法的优缺点。简述共轭梯度法的基本思想。Goldstein，Wolfe为不精确的一维线性检索构建公式。5、说明常用优化算法的迭代公式。(1)0.618方法的迭代公式：(2)斐波纳契法的重复公式：(3)牛顿一维搜索方法的迭代公式：(4)推导了问题最陡下降方法的迭代公式：(5)牛顿法的迭代公式：(6)问题共轭方向法的迭代公式：.二、计算问题双折线练习题教材第135页范例3.9.1FR共轭梯度法实例：教科书150页实例4.3.5第二套计划有效：教科书第213页是6.3.2，留下的所有课后练习。三、练习题：1，设定为对称矩阵，寻找任意点的坡度比和Hesse矩阵。解决方案。2，设定，其中2次诱导，尝试。解决方案。3，证明：凸规划的所有局部最优解必须是全局最优解。证明设置为反证法。设置为凸规划问题的局部最优解，即存在的邻接项之一。如果不是全局最佳解决方案，则存在。因为是的凸函数是.如果足够接近1，那么，矛盾。这是全球最优解。4、已知线性配置：(1)用单纯形法求解线性规划问题。(2)写出线性规划的对偶问题。(1)引入了将指定线性编程问题转换为标准格式的变量：给定问题的最佳解决方案是。(2)给定问题的两重性问题如下。5，用0.618方法求解，要求缩短的间隔长度不超过0.2，初始间隔。解开第一个重复：拿去。决定初始考试点，寻找目标函数值：比较目标函数值：比较。第二次重复：.第三次重复：.第四次重复：.第五次重复：.第六次重复：.第七次重复：.第八次重复：.第九次重复：.所以。6，用最快的下降方法解决，采取，重复两次。解决方法，要写的格式。第一次重复：.第二次重复：.7，使用FR conjugate gradient方法解决，采取，重复两次。对给定的决定也需要反复计算。解决方法，重写，第一次重复：、命令、一维搜索，即沿着最佳解决方案.第一次重复：.在出发时进行一维搜索，即最佳解决方案.这时.问题的最佳解决方案是不再需要重复计算。8、故障排除(方法不限)取初始点。9、使用精确搜索解决以下不受约束的问题的BFGS算法：解法：选取重复步骤1:，命令，追求；重复第二步：，、命令、追求。因此，因为，是最佳解决方案。10、使用有效的集方法解决以下二次编程问题：解法：使用初始可执行点解决方程式限制子问题相应的la grange乘数和转入第二次迭代。等式约束子问题求解海得岛州逮捕令转入第三次迭代。等式约束子问题求解相应的la grange乘数和因此，二次编程问题的最佳解决方案是：而且，相应的la grange乘数是最陡降法的优缺点：优点：方法简单，计算少。最快的下降方法是全局收敛。最初的要求很少。缺点：最快下降法的收敛速度与变量的大小有很大关系是的，在很小的点附近发生了相当多的锯齿现象，收敛很慢。最多降级方法最快的降级只是一个本地特性。也就是说，在本地查看目标函数的值下降最快，但从整体上看，可能走了很多弯路。牛顿法的优缺点：优点：牛顿法是快速收敛，二次收敛；公式很简单。计算方便。缺点：牛顿法需要f(x)二次可微分，迭代时需要多次计算牛顿法具有局部收敛性，对初始点的要求相对苛刻。共轭梯度法的优点和缺点：优点：简单的计算公式，存储容量少，初始时间要求少，有两个二次函数具有二次终止性。收敛速度在最快的下降方法和牛顿方法中。高维(大于n)的非线性函数的效率很高。关于两个人二次函数具有二次终止性，通常优于共轭梯度法。缺点：共轭梯度法的收敛性依赖于精确的一维搜索，计算量更大大；大。共轭梯度法的一些理论背景尚不明确，如周期性再生开始、初始搜索安心选择、一维搜索的准确性等共轭梯度执法的影响还需要进一步研究。准牛顿法的优缺点：优点：拟牛顿法收敛速度快(超线性)。对于二次函