线性共轭梯度法解决二次正定优化问题

最优化理论与算法实验报告(四)实验名称线性共轭梯度法解决二次正定优化问题实验时间姓名专业班级 学号成绩1、 实验目的和内容实验目的：通过实验, 让学生掌握线性共轭梯度法解决二次正定优化问题的具体实现, 同时对于具体的问题设计, 让学生根据在实验中出现的数值计算结果, 分析并发现共轭梯度法存在的不足. 理解共轭梯度法的基本思想.实验内容：请采用FR方法采用精确的线搜索求解问题终止的准则, .2、 相关背景知识介绍共轭梯度法在迭代过程中通过对负梯度方向进行适当校正获得共轭方向, 当算法用于正定二次函数时，可以在有限多次迭代后终止，得到最优解. 设 其中为正定矩阵，则. 对二次函数总有: 1）设为初始点. 首先取，令 （为精确步长因子）则有：（精确一维搜索性质）. 2）令，适当选择，使，得 （从而得到） 且有正交性：，, ，3）再令，适当选择，使得 （），由此得：， 4） 一般地，在第次迭代中，令 适当选取，使 （），可得到 （）利用归纳法可以证明: （），再由与的关系得： （） 所以当时，而.共轭梯度法的迭代公式为：（为共轭方向，为最佳步长因子）对二次函数: ；算法如下描述:Step 1: 取初始点, 如果, 则停机; 否则, Step 2: 计算精确步长, 如果, 则停机; 否则 go to Step 3；Step 3: , , go to Step 23、 代码function f=getd(x0,t) x=x0; syms xi yi a f=xi2+4*yi2-4*xi-8*yi;fx=diff(f,xi);fy=diff(f,yi); fx=subs(fx,xi,yi,x0);fy=subs(fy,xi,yi,x0); fi=fx,fy; c=0; while double(sqrt(fx2+fy2)t s=-fi; if c=0 s=-fi; else s=s1; end x=x+a*s; f=subs(f,xi,yi,x); f1=diff(f); f1=solve(f1); if f1=0 ai=double(f1); else break x,f=subs(f,xi,yi,x),c end x=subs(x,a,ai); f=xi-xi2+2*xi*yi+yi2; fxi=diff(f,xi); fyi=diff(f,yi); fxi=subs(fxi,xi,yi,x); fyi=subs(fyi,xi,yi,x); fii=fxi,fyi; d=(fxi2+fyi2)/(fx2+fy2); s1=-fii+d*s; c=c+1; fx=fxi; fy=fyi;end x,f=subs(f,xi,yi,x),c4、 数值结果f=getd(0,0,0.)运算次数8最优解X1=0.2500, x2= -0.2500函数最小值 0.12505、 计算结果的分析最速下降法在接近极小值时步长越小，前进越慢。牛顿法要求二阶导数，计算量很大。共轭梯度法是介于最速下降和牛顿法之间的算法，克服了最速下降法的收敛速度慢的缺点，还减少了计算量。6、 计算中出现的问题，解决方法及体会群众的力量是伟大的，我在对于这一次的实习报告时，其实我对于这方面的学习还是不够的，但是我在编写代码的时候，虚心请教同学，在遇到了一些问题的时候，通过自己查找资料和请教于同学，得以将问