最优化课程设计--共轭梯度法算法分析与实现.doc

最优化方法课程设计（设计程序）题目 共轭梯度法算法分析与实现 班级 / 学号 14140101/2011041401011 学 生 姓 名 黄中武 指 导 教 师 王吉波 王微微 课 程 设 计 任 务 书课 程 名 称 最优化方法课程设计 院（系） 理学院 专业 信息与计算科学 课程设计题目 共轭梯度法算法分析与实现 课程设计时间: 2014 年 6月 16日至 2014 年 6月 27日课程设计的要求及内容：要求1. 学习态度要认真，要积极参与课程设计，锻炼独立思考能力；2. 严格遵守上机时间安排；3. 按照MATLAB编程训练的任务要求来编写程序；4. 根据任务书来完成课程设计论文；5. 报告书写格式要求按照沈阳航空航天大学“课程设计报告撰写规范”；6. 报告上交时间：课程设计结束时上交报告；7. 严禁抄袭行为，一旦发现，课程设计成绩为不及格。一、 运用共轭梯度法求解无约束最优化问题要求：1）了解求解无约束最优化问题的共轭梯度法； 2）绘出程序流程图； 3）编写求解无约束最优化问题的共轭梯度法MATLAB程序； 4）利用编写文件求解某无约束最优化问题； 5）给出程序注释。指导教师 年 月 日负责教师 年 月 日学生签字 年 月 日沈阳航空航天大学课 程 设 计 成 绩 评 定 单课 程 名 称 最优化理论与算法课程设计 院（系） 理学院 专业 信息与计算科学 课程设计题目 共轭梯度法算法分析与实现 学号 2011041401011 姓名 黄中武 指导教师评语：课程设计成绩 指导教师签字 年 月 日最优化方法课程设计 沈阳航空航天大学 课程设计用纸 目 录目 录一、正文1二、总结2参考文献3附 录4第 8 页最优化方法课程设计 沈阳航空航天大学 课程设计用纸 正 文一、正文 一 无约束最优化问题的共轭梯度法共轭梯度法最初是由Hesteness和Stiefel于1952年为求解线形方程组而提出的。后来，人们把这种方法用于求解无约束最优化问题，使之成为一种重要的最优化方法。下面，重点介绍Fletcher-Reeves共轭梯度法，简称FR法。共轭梯度法的基本思想是把共轭性与最速下降法相结合，利用已知点处的梯度构造一组共轭方向，并沿这组方向进行搜索，求出目标函数的极小点。根据共轭梯度方向的基本性质，这种方法具有二次终止性。首先讨论对于二次函数的共轭梯度法，然后再把这种方法推广到极小化一般函数的情形。考虑问题 其中A是对称正定矩阵，c是常数。具体求解方法如下：首先，任意给定一个初始点，计算出目变函数在这点的梯度，若=0，则停止计算，否则，令沿方向搜索，得到点，计算在处的梯度，若，则利用和构造第二个搜索方向，再沿搜索。一般地，若已知点和搜索方向，则从出发，沿进行搜索，得到其中步长满足此时可求出的显式表达。令求得极小点，令根据二次函数的梯度表达式，即 （10.3.16）由（10.3.16）式得到 （10.3.17）计算在处的梯度，若，则停止计算；否则，用和构造下一个搜索方向，并使和关于共轭。按此设想，令 （10.3.18）上式两端左乘，并令由此得到 （10.3.19）再从出发，沿方向搜索综上分析，在第一个搜索方向取负梯度的前提下，重复使用公式（10.3.14），（10.3.17），（10.3.18）和（10.3.19），就能伴随计算点的增加，构造出一组搜索方向。二 程序流程图开始输入初始点x0精度e继续迭代满足精度要求 N Y 输出迭代结果 结束图一 共轭梯度法程序流程图三 共轭梯度法的MATLAB程序function x,val,k=frcg(fun,gfun,x0)maxk=5000;rho=0.6;sigma=0.4;k=0;epsilon=1e-7;n=length(x0);while (k=0) d=-g; end end if (norm(g)epsilon) break; end m=0; mk=0; while (m20) if (feval(fun,x0+rhom*d)feval(fun,x0)+sigma*rhom*g*d) mk=m; break; end m=m+1; end x0=x0+rhomk*d; val=feval(fun,x0); g0=g; d0=d; k=k+1;endx=x0;val=feval(fun,x);function f=fun(x)f=100*(x(1)2-x(2)2+(x(1)-1)2;function g=gfun(x)g=400*x(1)*(x(1)2-x(2)+2*(x(1)-1),-200*(x(1)2-x(2)四 利用所编程序求解实际问题例 该问题有精确解利用所编程序求解此问题，在命令窗口输入：运行结果为：五 程序注释function x,val,k=frcg(fun,gfun,x0)%用FR共轭梯度法求解无约束问题：min f(x)%输入：x0时初始点，fun，gfun分别是目标函数和梯度%输出：x，val分别是近似最优点和最优值，k是迭代次数。maxk=5000;%最大迭代次数rho=0.6;sigma=0.4;k=0;epsilon=1e-7;n=length(x0);while (k=0) d=-g; end end if (norm(g)epsilon)%检验终止条件 break; end m=0; mk=0; while (m20) if (feval(fun,x0+rhom*d)feval(fun,x0)+sigma*rhom*g*d) mk=m; break; end m=m+1; end x0=x0+rhomk*d; val=feval(fun,x0); g0=g; d0=d; k=k+1;endx=x0;val=feval(fun,x);function f=fun(x)f=100*(x(1)2-x(2)2+(x(1)-1)2;%需要求解的函数function g=gfun(x)g=400*x(1)*(x(1)2-x(2)+2*(x(1)-1),-200*(x(1)2-x(2)%梯度二、总结不知不觉，一个学期就这样过去了，随着期末尾声的到来，最优化这门课也已经结课了，接着而来的是为期两个星期的课程设计。作为信息与计算科学系的一员，我们在课堂上接触最多的就是理论部分，刚好课程设计可以给我们验证理论，联系实际的机会，所以，这次课程设计，我一直都在认真完成。在拿到自己的课程设计题目的时候，我对它进行了一定时间的审题，题目中要求我用共轭梯度法求解无约束优化问题， 所以我拿到课本，仔细地看了共轭梯度法的原理与例题求解，以便帮助我更好的理解共轭梯度法的应用。我记得，再一次研究生面试中，有的老师问过考生：你在你的大学生涯中学到了什么？如果让我回答，我会说：我学到了一种发现问题与解决问题的方法，这种方法是在我的学习中慢慢形成的一种潜移默化的思想，关于学到的内容，我们不会一直保留太清晰的记忆，也不会在以后的生活中用到太多，就像买菜不会用到微积分，不会求导，但是，数学方法和思想给我们思考问题所带来的方法论却是大有裨益。这次课程设计，我发现我的很多不足，比如在MATLAB上的应用上，我还不熟练，这与我在平时的练习中没有加以重视有关，而且在最优化的很多知识点上，自己还没有很好地掌握。最后 ，我要感谢我们的任课教师王吉波老师，感谢他在给我们上课中的带来的幽默感和知识的传授。在此，祝愿老师身体健康，工作顺利。完稿日期: 2014 年 6月 21日最优化方法课程设计 沈阳航空航天大学 课程设计用纸 参考文献参考文献1 陈宝林.最优化理论与算法M.北京,清华大学出版社,2013.2 刘卫国.MATLAB程序设计教程M.北京,中国水利水电出版社,2010.3 马昌凤.最优化方法及其MATLAB程序设计M.北京,科学出版社,2010.第 11 页最优化方法课程设计 沈阳航空航天大学 课程设计用纸 附 录附 录源程序:function x,val,k=frcg(fun,gfun,x0)maxk=5000;rho=0.6;sigma=0.4;k=0;epsilon=1e-7;n=length(x0);while (k=0) d=-g; end end if (norm(g)epsilon) break; end m=0; mk=0; while (m20) if (feval(fun,x0+rhom*d)feval(fun,x0)+sigma*rhom*g*d) mk=m; break; end m=m+1; end x0=x0