凸函数的性质和应用

XX工业大学工学硕士学位论文.-PAGEII-....毕业设计题目：凸函数的性质及其应用院、系：__指导系主任：年月日XXXXXX毕业设计〔论文评语学生____学院：专业：任务起止时间：毕业设计〔论文题目：凸函数的性质及其应用指导教师对毕业设计〔论文的评语：指导教师签名：指导教师职称：评阅教师对毕业设计〔论文的评语：评阅教师签名：评阅教师职称：答辩委员会对毕业设计〔论文的评语：答辩委员会评定,该生毕业设计〔论文成绩为：答辩委员会主席签名：职称：年月日教务处制表XXXX大学毕业设计〔论文任务书学生____学院：专业：任务起止时间：毕业设计〔论文题目：凸函数的性质及其应用毕业设计工作内容：第一阶段：资料收集与整理〔第一周至第四周。第二阶段：确定论文框架及完善〔第五周至第十周。第三阶段：完成论文主体内容及完善〔第十一至第十四周。第四阶段：完成初稿,交由导师审阅〔第十五周。第五阶段：定稿及答辩〔第十六周。资料:[1]华东师范大学数学系.数学分析.第三版<上册>.高等教育出版社.2001[2]华东师范大学数学系.数学分析.第三版<下册>.高等教育出版社.2001[3]张小明.几何凸函数.XX大学出版社.2004[4]华罗庚,王元.高等数学引论<第一册>.高等教育出版社.2009[5]G.H.Hardy,J.E.Littlewood,G.Polya.Inequalities<第二版>.人民邮电出版社.2010指导教师意见：签名：年月日系主任意见：签名：年月日教务处制表..凸函数的性质及其应用摘要凸函数是一种性质特殊的函数,在数学各个领域中都有着广泛的应用,由于其本身的优良特性,它在函数的研究中占有十分重要的地位。利用凸函数证明一些比较复杂的不等式,有时可以减少证明的难度。关于凸函数,很多数学分析书中都作了介绍,但是大都显得很零碎。为了使大家对凸函数有一个较全面的了解,本文将由介绍凸函数的定义和性质出发,对所选文献中关于凸函数的材料加以整合,系统地对其所引出的一些命题、定理进行说明与证明,并对凸函数的三个判定定理进行了论述。Jensen不等式是凸函数理论中的重要不等式,在不等式证明领域有着无可替代的作用,本文将会单独列出此命题并详细论述了其证明过程。最后介绍凸函数在证明一些经典不等式以及在概率论中的应用。关键词凸函数；不等式；应用ThePropertyandApplicationsofConvexFunctionsAbstractConvexfunctionisaspecialnatureofthefunction,thereareawiderangeofapplicationsineachfieldofmathematics.Becauseofitsowngoodcharacteristic,itthefunctioninstudyoccupiesveryimportantposition.Usingofconvexfunctionofsomeofthemorecomplexthatinequality,sometimescanreducethedifficult-yoftheproof.Aboutconvexfunction,alotofmathematicalanalysisbooksintroduceit,butmostlyappeartobebroken.Inordertomakeeveryonehasamorecomprehensi-veunderstandingaboutconvexfunction,thisarticlewillintroduceconvexfunct-ionbythedefinitionandpropertiesofselectedtoliteratureregardingconvexfu-nctionmaterialtointegration,andsystemoftheextractedsomepropositionthe-orem,andproofthat,andtheconvexfunctionthreedecisiontheoremarediscus-sedinthispaper.Jenseninequalityisconvexfunctionofthetheoryofimportantinequality,ininequalityproofareahasirreplaceablefunction,thepaperwillbelistedthepropositionanddiscussestheprocesstheproof.Finally,Iwillintrodu-cethenatureoftheconvexfunctiontheoremofsomeclassicalinequality,thenproveit,andintroducetheapplicationofthetheoryofprobabilityconvexfunct-ion.Keywordsconvexfunctions；inequality；application.PAGEII--.目录摘要=1\*ROMANIAbstractII第1章绪论11.1选题背景11.2选题意义11.3国内外研究现状、初步设想及拟解决的问题1第2章凸函数的定义及性质32.1凸函数的定义32.2凸函数的性质42.2.1凸函数的线性性质凸函数的解析性质42.3本章小结10第3章凸函数的判定定理及Jensen不等式的证明113.1判定定理113.2Jensen不等式及其证明133.3本章小结14第4章凸函数的应用154.1凸函数在不等式证明中的应用154.2凸函数在概率论中的应用204.3本章小结23结论24致谢25参考文献26附录A27附录B30.-PAGE10-.绪论1.1选题背景凸函数是数学领域的一个重要概念,一百多年来,凸函数及其推广是分析不等式研究中的一个热点,它的概念最早见于Jensen[1905]著述中。凸性是函数的一个重要性质,具有很好的几何性质,因此具有重要的理论研究价值和广泛的应用价值。到目前为止,凸函数的研究已经从定义的研究到凸性的研究再到凸性与连续性的关系、半连续、一直不变凸函数的性质的研究,对凸函数的研究已经十分深入,广泛应用于数学规划、控制论、黎曼几何、复分析等领域,比如利用凸函数的性质证明不等式、产品的外形设计,优化产品设计等。1.2选题意义凸函数是一种性质特殊的函数,在数学中作为一个分支进行研究,在函数的研究领域中占有十分重要的地位。到目前为止,凸函数的研究已经从定义的研究到凸性的研究,再到凸性应用的方面的研究。对函数凹凸性的研究,在数学分析的多个分支都有用处。特别是在函数图形的描绘和不等式的推导方面,凸函数起着十分重要的作用。凸函数有其独特的良好性质,由于凸函数理论的广泛性,及其在数学各个领域都有广泛的应用,因此,对凸函数的理论进一步深入地研究和推广,就显得尤为重要。同时,凸函数作为数学分析中一类特殊的函数,在实际课本中一般只介绍其定义以及判定,然而它在证明不等式中具有得天独厚的功用,却极少涉及。所以,总结一些凸函数性质,并且利用这些性质证明一些初等数学无法证明的不等式,用以说明凸函数在不等式中的应用,是十分重要的。1.3国内外研究现状、初步设想及拟解决的问题凸函数理论的奠基工作可追溯到本世纪初前后Holder,Jensen和Minkouski的著作。但是真正引起人们广泛重视的工作则是40—50年代VonNeumann、Dantzig、Kuhn和Tucker等人关于对策论和数学规划的研究。由于这方面的需要,从50年代初到60年代末,人们对凸函数进行了大量的深入细致的研究。60年代中期产生了凸分析,凸函数的概念也被按多种途径进行推广,提出了许多广义凸性的概念,其中影响较大、应用较广的有拟凸<格拟凸,强拟凸>数、<严格>伪凸函数等。不等式理论很早就被大数学家Gauss,Cauchy等人所着重研究。较近的有Hardy,Littlewood及Polya。我们可以说数学分析,无论是理论还是应用都离不开不等式。同时也没有万能的理论来对付不等式,但是1923年Schur把某类些常用初等及高级不等式归类起来,用演绎出一套较为完备的理论来处理某些特定的不等式,而这一理论大部分涉及到凸函数的性质,所以深入的研究与探讨凸函数在不等试中的应用显得尤为的重要。目前,凸函数的研究已经从定义的研究到凸性的研究,再到凸性应用的方面的研究。主要集中在：中间凸函数情形下函数成为凸函数的条件,利用半严格凸和中间凸性给出凸函数的一个判别准则,实值函数成为凸函数的一些条件等。凸凹函数理论在应用上越来越重要,其在数学规划论、对策论、数理经济学、变分学和最有控制论等领域中起着重要的作用,并且有着无限的发展潜力和发展前景。凸函数的定义及性质本章将主要介绍凸函数的六种定义,并对其线性性质、解析性质做详细的说明。凸函数的定义定义1设为定义在区间上的函数,若对上的任意两点和任意实数,总有则称为上的凸函数。注：上式中""改成"<"则是严格凸函数的定义。定义2设在区间上连续,如果对上任意两点,恒有那么称是区间上的凸函数,并称在内的图形是向下凸的。定义3设函数定义在区间上,对任意的,下列不等式之一成立：称为区间上的凸函数。注：上式中""改成"<"则是严格凸函数的定义。定义4在区间上连续且可导,当且仅当曲线的切线恒保持在曲线下方,则称是区间上的凸函数。注：〔1在定义4中,除切点外,切线严格保持在曲线的下方,则称是区间上的严格凸函数。<2定义4即为凸函数的几何定义。定义5设函数在区间内有定义则称为区间内的上凸函数。定义6设函数在区间内有定义则称为区间内的上凸函数。注：一些定义之间的相互关系〔1在定义1中,若为连续函数且,定义1即为定义2；〔2在定义3中,若取,则,且,代入定义3中的任意一式,变形后即得定义1的形式。凸函数的性质凸函数的线性性质定理1若均为上的凸函数,则也是上的凸函数。定理2设为上的凸函数,为正数,则也为上的凸函数。定理3若是单调递增的凸函数,也是凸函数,则复合函数也是凸函数。定理4设与都是上的非单调递增的凸函数,则也是其上的凸函数。凸函数的解析性质.1凸函数的连续性质定理1若在区间为凸函数,则在区间的任意一点连续。证明：因,故对,使,因此且当严格增加时,严格增加,由单调有界性定理知存在,即在内点左可导,同理可证在内点右可导,从而在内点连续,因此在区间意一点连续。.2凸函数的微分性质定义设为上的凸函数,QUOTEx∈a,b,若常数满足：则称常数为在的一个次梯度；在的所有次梯度构成一个集合,称为在的次微分,记为,即因为是一个非空闭凸集,且当在可微时有引理1设为上的连续凸函数,,则为在上的极小值点当且仅当。证明：因为在上连续,所以在上有界。设若,则有即所以为在上的极小值点。反之,如果为在上的极小值点,则必有所以由之前定义知定理2设为上的连续凸函数,则对于任意的及任意的,总存在两个异于的点,使得证明：我们分两种情况来证明结论：1>的情形。此时,据引理1可知为在上的极小值。<1>如果,可取,,使得：<2>如果。不失一般性,可设当时,由为在上的极小值及的凸性可知,这表明在上取常值,此时令,就有当时,注意到且在上连续,可知,存在,使得。此时取便有2的情形。构造函数,这里则满足：<1>为上的连续凸函数；<2>第一点很容易验证。以下来说明第二点。事实上,由于,据次梯度的定义可知,于是有这表明。由情形1可知,此时存在两个异于的点使得即证毕。当在可微时有在。于是得到:推论1设在上为连续凸函数,在内可导,则对于任意的,总存在两个异于,使得推论2设为上的连续严格凸函数,则对于任意的及任意的,总存,,使得推论3设在上为连续严格凸函数,在内可导,则对于任意的,总存在,,使得定理3设函数是区间上的凸函数,则要么是上的单调函数,要么存在,使得在上单调减少,在上单调增加。证明：设不是上的单调函数,则必存在,且使得〔而是不可能的,否则将导致与是凸函数矛盾。不妨设,由在上连续,则必在上连续,故存在,使可得因而对,有若,则于是有从而即在上单调减少,同理可证在单调增加,证毕。.3凸函数的积分性质引理2设是上的连续凸函数,则与在内存在,且对,,下式成立引理3设是上的凸函数,对,则存在,使下列成立引理4设是上的凸函数,则在上除至多只有可数个点外,处处可导。定理4设是上的连续凸函数,.若在上连续且不变号,其一个原函数是,则〔2-1证明：情形1与均存在。定义=与=,由引理2可知：与在上单调递增。从而可知〔2-1式中两个积分有意义,不妨设在上非负,令由微分中值定理及引理3可知：存在,,使,由非负及上两式可得=〔2-2对式两端让,则有〔2-3由引理4知,在上几乎处处成立,则〔2-3式两端相等,即〔2-1式成立。情形2条件1,存在；条件2存在,；条件3,。由已知条件知：在上连续。当条件1成立时,则==即〔2-1式成立。当条件2或条件3成立时,同理可证〔2-1式成立,证毕。定理5设是上的连续凸函数,在上有连续的导函数且至多只有有限个零点,则<2-4>证明：先假设在上不变号,不妨设在上非负〔同理可证非正的情形,且与均存在,令由微分中值定理及引理3可得：存在,,使下式成立+=对上式两端让,则有由引理4知：=在上几乎处处成立,则上式两端相等,即〔2-4式成立。当=与存在,存在与=,=与=三者之一成立时,则仿照定理1中情形2的证法亦可证得〔2-4式成立。当在上有有限个零点时,则仿照定理3的推论的证法亦可证得〔2-4式成立。本章小结本章主要介绍凸函数的六种定义,并简要介绍了个别定义之间的关系。此外,本章还对凸函数的线性性质进行了说明,并对凸函数的解析性质进行了详细的论述与证明。由这些性质所推导出的引理与定理在对凸函数的应用上,尤其是对不等式的证明有十分重要的作用。凸函数的判定定理及Jensen不等式的证明本章主要介绍凸函数的3个判定定理及其证明过程。此外,还介绍了凸函数理论中一个重要的不等式：Jensen不等式,并对它进行了证明。判定定理定理1为上的凸函数的充要条件是：对于上的任意三点,总有〔3-1证明：[必要性]记,则由的凸性知道,从而有整理后既得〔3-1式。[充分性]在上任取两点,在上任取一点即由必要性的推导逆过程,可证得故为上的凸函数。同理可证,为上的凸函数的充要条件是：对于的任意三点,有定理2设为区间上的可导函数,则下列论断互相等价：1为上的凸函数；2为上的增函数；3对上的任意两点,有〔3-2证明：任取上的两点及充分小得正数。由于,根据的凸性及第三章定理1,有由是可导函数,令时可得所以为上的递增函数。在以为端点的区间上,应用拉格朗日中值定理和递增条件,有移项后即得〔3-2式成立,且当时仍可得到相同结论。设以为上的任意两点由论断,并利用与分别用和乘上列两式并相加,便得从而为上的凸函数。定理3设为区间上的二阶可导函数,则在上的为凸〔凹函数的充要条件是[必要性]且,已知在区间内为凸函数,根据第三章定理2,有与从而即函数在区间上单调增加,于是有对任意,有[充分性]对,由泰勒公式,有其中,已知,有,则则为区间上的凸函数。Jensen不等式及其证明定理1若为上的凸函数,则,,有证明：应用数学归纳法.当时,由定义1命题显然成立。设时命题成立,即对任何与,都有现设及,令则由数学归纳法假设可推得==即对任何正整数,上述不等式成立。推论设在区间I上是凸函数,则对于任意的和都有本章小结本章主要介绍了凸函数的三个判定定理和Jensen不等式。其中,Jensen不等式是凸函数理论的重要结论之一,在不等式的证明领域有着举足轻重的作用,在下一章凸函数的应用中将在很多证明过程中见到它的身影,我把它单独列出论述并予以了证明。..第四章凸函数的应用本章主要以例题证明的形式介绍凸函数在对不等式的证明中所起的重要作用,另外还介绍了凸函数在概率论中的应用。4.1凸函数在不等式证明中的应用例1用Jensen不等式证明霍尔德<Holder>不等式。设有其中证明:令因为,由判定定理知,在上是严格凸函数,由Jensen不等式,得到今设为非负实数且,在上述表达式中以代替,得到由题设知,令,不妨设,代入上式便得Holder不等式特别地,取时就得到Cauchy不等式：例2利用霍尔德<Holder>不等式证明Minkowski不等式设,,,证明：证明：因为利用Holder不等式得=〔其中,并对此式两边除以即得例3设为区间内的凸函数,试证：在上的任一内闭区间上满足条件。证明：要证明在区间上满足条件,即要证明：使得有<4-1>因为,故可取充分小,使得与此若取.由凸性,〔其中分别表示在上的上下界,从而<4-2>若可取由的凸性,有从而由此可得<4-2>式成立。若,则〔4-2式明显成立。这就证明了〔4-2式对一切皆成立。因此〔4-2式当与互换位置也成立,故有令则〔4-1式也获证。例4证明不等式,其中均为正数。证明；设,由可见在时为严格凸函数.由Jensen不等式有从而即又因,所以例5求证：〔为正整数证明：设,因为,由定义4,在为凸函数,由Jensen不等式的推论知,所以例6应用Jensen不等式证明：设,有证明：取函数,因为是区间上严格凹函数,则对及1.,则上式等号成立；2.若不全相等,则由Jensen不等式〔4-3即〔4-4即因为在上单调递增,综合〔4-3式〔4-4式结论得命题成立。例7设是上连续凸函数,记.则有〔4-5在上式中将""换成""仍成立。证明：由设是上连续凸函数可得：存在使,且在与上分别单调递减与单调递增且均连续,可得.将上两式相加并整理可得〔4-5式,证毕。例8,求证证明：设,令因为是下凸函数,由Jensen不等式我们有于是我们只需要证明上式展开之后即等价于由AM-GM不等式,得证。〔注：AM-GM不等式即为算术平均不等式为非负实数,则当且仅当时取等号。4.2凸函数在概率论中的应用定理1设是内的凸函数,并满足条件其中为有限实数,则对概率空间上定义的任一随机变量,必有若进一步假设为一可积的随机变量,则证明：对任意取定的,有作为的函数分别为不增与不减函数,从而得知必存在但不一定为有限。而此即必存在但不一定为有限。令,可得所以对,必存在某一正数,使得,,注意到在上连续,从而得到定理2设是内的凸函数,是一可积的随机变量,则〔1可积的充要条件是其中为的正部,即〔2存在,则证明：〔1由,可得从而推知的负部可积,为一有限数,且存在但不一定为有限,而故可积的充要条件是〔2由由Jensen不等式可得从上述不等式可得,存在,将上述不等式中的用取代,得定理3设是一可积的随机变量,为上定义的可测函数,及均为不减函数,可积,则可积,且对上的任一凸函数及任一有限实数,有证明：先证可积,由是的不减函数,可得由是不减函数,得两边取期望可得从而得知故知可积。记则若,则定理全部得证,否则必存在,,使得取则显然若,则若,则再根据〔4-6注意到为不减函数,可得由于故从〔4-6式取期望可得因为可积,则对任意取定的实数,,有以分别取代上述定理中的即可得证,若特别地取则得,又若取,则可得Jensen不等式4.3本章小结本章介绍了凸函数在数学领域中的的两种应用。1.在证明不等式时的重要作用,尤其是Jensen不等式在证明不等式中的应用,利用Jensen不等式可以推导出很多重要的不等式,为我们在以后证明不等式的过程中开辟了新道路；2.凸函数在概率论中的应用,我们可以通过凸函数的某些优良性质简化与概率论有关的定理的证明过程,这在数学上是十分有用的。结论本文从凸函数的定义出发,详细介绍了凸函数的线性、解析性质,并对凸函数的判定定理与数学领域的重要不等式——Jensen不等式做了详细的分析证明。在介绍中,我们可以充分体会到凸函数的特殊性,尤其是它在应用方面所展现出的优良性质。例如在不等式的证明领域,由凸函数的性质所推导出的定理、推论在对不等式的证明中可以起到化难为易、化繁为简的作用,Jensen不等式在其中的应用则更增加了这种效果,大大促进了不等式证明领域的发展；在概率论中的应用则体现了凸函数在数学领域广泛的应用。本文只是列举了凸函数在不等式和概率论中的应用,其实凸函数在数学各个领域都有涉及,并有广阔的发展前景。由于篇幅有限、时间仓促,还有很多关于凸函数的性质、定理没有介绍,在它的应用上本文列举出的更只是冰山一角。即使如此,在论文撰写过程中我还是从中得到了很多的知识与体会,让我对凸函数有了更深的认识,使我受益匪浅。致谢由于工作实习占用了大量时间,导致论文的撰写时间十分仓促,但是在此非常感谢老师耗费大量心血对我的论文予以指导与帮助,使我在规定时间内完成毕业设计的撰写工作。大学生活即将结束,在此对老师辛勤的工作表示最诚挚的感谢！参考文献1华东师范大学数学系.数学分析.第三版<上册>.高等教育出版社,2001：148~1532华东师范大学数学系.数学分析.第三版<下册>.高等教育出版社,2001:12~143张小明.几何凸函数.XX大学出版社,2004:53~604华罗庚,王元.高等数学引论<第一册>.高等教育出版社,2009:100~1045G.H.Hardy,J.E.Littlewood,G.Polya.Inequalities<第二版>.人民邮电出版社,2010:55~826徐利治,王兴华.数学分析的方法和例题选讲.高等教育出版社,1984:98~1207MiZhou,YongWang,XiaolanLiu,etc.PropertiesofD--properlyPrequasiinvexFunctions.JournalofHainanNormalUniversity,2009：56~608DimitriP.Bertsekas.ConvexOptimizationTheory.清华大学出版社,2011:7~109韩京俊.初等不等式的证明方法.XX工业大学出版社,2011:176~17710匡继昌.常用不等式〔第四版.XX科学技术出版社,2010:425~45311裴礼文.数学分析中的典型问题和方法.高等教育出版社,1988:213~22012TomM.Apostol.MathematicalAnalysis.<SecondEdition>.机械工业出版社,2004:53~6013单墫.数学奥林匹克题典.XX大学出版社,1995:61~6214陈计,叶中豪.初等数学前沿.XX出版社,1996:12~1415杨之.初等数学研究的问题与课题.XX教育出版社,1993:132~13316王明明.凸函数的性质及其应用.XX学院学士论文,2008:5~7附录A凸优化理论关于凸性理论的论述在今天已经是相当详细了。它几乎涉及到了数学学科所有主要方面的问题,这对于发展凸优化理论的核心分析问题已经是很充分了。数学的先决条件的决定是线性代数和分析学中重要的过程。附录中提供了一个与材料的总结。先验知识的线性和非线性优化理论没有假设,虽然它无疑将有助于提供背景和观点。除了这微薄的背景,本文的理论发展是独立的,并且提供有严格的论证依据。我们旨在统一发展的最可能的形式的对偶和最经济的使用凸性理论。为此,本文我们的分析往往不同于洛克菲勒〔Rockafellar在1970年出版的关于凸性理论的经典著作以及关于记录芬切尔/洛克菲勒〔Fenchel/Rockafellar形式主义的其他著作。例如,我们会区别对待封闭集相交理论和保存封闭下的线性变换〔第章和第章；我们将利用约束条件下的优化对偶理论来发展不同于以往的微分演算〔第章；我们不依赖例如infimal卷积,图像,极性集和功能,bifunctions函数和共轭函数。也许是我们与经典理论最大的偏离是在对偶理论本身：类似与芬切尔/洛克菲勒〔Fenchel/Rockafellar理论,我们的进展有赖于勒让德/芬切尔〔Legendre/Fenchel共轭的想法,但比其更形象也更直观。我们的对偶框架是以两个简单的几何问题为基础的：最小的共同点问题和最大的交叉点问题。最小的相同于最大的交叉〔MC/MC的框架的显著特点是其具有高度的几何直观性,通过它,关于对偶理论的所有核心问题变得显而易见,另外我们可以在一个统一的方式下进行分析。我们的方法是在通过获得一些广泛适用定理进行最小的相同于最大的交叉〔MC/MC框架的建立,并专门用于特定类型的问题〔约束优化,对偶,极小极大问题,等等的研究。我们通过此方法解决所有的二元性问题〔存在对偶间隙,存在的双重结构的最优解,对偶最优解集,和其他问题〔微分理论,定理的对偶间隙,这样的估计。从根本上,最小的相同于最大的交叉〔MC/MC框架是紧密相连的共轭体系,这种联系是欠缺一些较强说服力和普遍的联系。然而,这个框架为分析提供了互补的出发点,并提供了对偶几何基础的不同视角：共轭强调功能/代数描述,而最小的相同于最大的交叉〔MC/MC强调设置/题词描述。最小的相同于最大的交叉〔MC/MC架构更简单,似乎更适合可视化和研究强对偶和存在的双重最优解的问题。重点在于描述其功能的共轭性框架更适合当有凸函数涉及其中的数学运算,微积分的共轭函数可以用于分析或计算。本书创作始于早期的关于此主题的作者〔A.Nedi′c与A.Ozdaglar合作的著作,但是有不同的性质和目标。20XX出版的此著作流传的非常广泛,是以结构性性形成研究专著〔至少在部分上,旨在弥补利用非光滑分析的概念进行研究的凸和非凸优化之间的差距。相比之下,本书是不同的组织,有性格的教科书,并只集中在凸优化。尽管存在不同,这两本书也有类似的风格和复杂的数学水平,并分享一些材料。本章逐章描述本书结构如下：第1章：本章介绍了在随后的对偶理论章节所要用到的所有凸分析工具。它包括基本代数概念,如凸壳,超平面和拓扑等概念例如相对内部概念,闭包,保存下闭线性变换,和超平面分离。此外,它在人们特别感兴趣的优化、对偶等学科进行了研究发展,如衰退锥和共轭函数。第2章：本章涵盖多面体凸极值点的概念：极值点,Minkowski-Weyl与Farkas定理,和它们的一些在线性规划方面的应用。这是没有必要的理论,在以后的章节中可能被跳过,或在每章开头简略提及。第3章：本章的重点是基本的优化的概念：极小类型,解的存在,以及在对偶理论中一些特别感兴趣的主题,如局部极小和极大极小理论。第4章：本章介绍最小的相同于最大的交叉〔MC/MC对偶框架。它讨论了它与共轭理论的联系和图表应用约束优化和极大极小问题。然后开发涉及强对偶和存在的双重最优解的广泛适用的定理。第5章：本章专门研究针对第四章的对偶定理,并得出与线性规划,凸规划,和极大极小理论重要的关系。它还利用这些定理作为援助研究发展更多的凸分析工具,如一个强大的Farkas’Lemma非线性版本的相容的引理,微分理论,和一些可供选择的定理。最后一节是专门为研究非凸问题和对偶间隙的估计,特别侧重于可分问题。为了使本书更为简洁,我省略了一些主题,这是一个作者所希望的。一个这样的遗漏是应用特殊结构问题；由Boyd和Vanderbergue所著的著作,以及我的书在并行与分布式计算与约翰齐齐克利斯〔JohnTsitsiklis的著作在材料覆盖方面十分广泛〔书籍可在线浏览。另一个重要的遗漏是计算方法。然而,我写了一个很长的补充第六章〔100页,其中涵盖了最流行的凸优化算法〔和一些新的。这一章,连同凸分析,优化理论,对偶性,和算法问题我将做更全面的论述,这将是一个更广泛的教科书,我正在写。直到那时,本章将为那些希望在除了对偶理论外发展涵盖凸优化算法的人服务〔就像我在麻省理工学院教授课程的人们。这是一个"活"章,将定期更新。目前的研究内容如下：第6章对算法：6.1问题的结构和计算方法；6.2算法的下降；6.3Subgradient方法；6.4多面体逼近方法；6.5近端和束方法；6.6dual邻近点算法；6.7内点方法；6.8近似梯度方法；6.9优化算法与复杂性。虽然在书中我并没有提供一些用于练习的题目,但我在该书的网站上已经提供了相当数量的练习〔有详细的解答。读者/老师也可以使用的最终章的问题〔共175个,其中也有类似与本书的风格和符号。本书可作为凸优化课程的文本理论；在过去的十年,我在麻省理工学院和其他地方教过几种这种课程的不同变种。它也可以用来作为补充来源来教授非线性规划课程,并作为主要是凸优化模型〔而不是理论的理论基础。本书已经被结构化,可以使读者/教师可以对使用材料进行选择。例如,第二章的多面体凸材料可以全部省略,因为在第三章到第五章用不到它。同样,对材料的极大极小理论〔3.4部分,部分和5.5部分也可以省略；如果这样做,3.3部分和5.3.4部分,使用工具的局部极小,可忽略。此外,部分"终端",可以省略,不影响其他部分。"最小"的独立的选择,是我在麻省理工学院教授的非线性规化课程〔连同补充网络第六章算法,包括以下：*第1章,除部分和部分。*3.1部分节。*第4章,除部分。*第5章,除5.2部分,部分,和部分。这一选择的重点是非线性凸优化理论,并排除所有有关的材料多面体凸极大极小理论。我想向对本书做出过贡献的同事表达我最诚挚的谢意。我与AngeliaNedi′c和AsumanOzdaglar合著的20XX版本的书对于奠定本书的基础是十分重要的。Huizhen<JaneyYu仔细阅读早期草稿书的部分,并提出了一些建议。PaulTseng曾大大地促进了我们通过联合研究所得出的相交理论,给出了在部分〔这项研究的动机起源于AngeliaNedi′c。对于学生和同事〔包括DimitrisBisias,VivekBorkar,JohnTsitsiklis,MengdiWang,andYunjianXu的反馈,在此我表示由衷的感谢。最后,我要感谢在我班级的很多优秀的学生,他们是我持续的撰写本书的源动力与灵感来源。附录BConvexOptimizationTheoryThetreatmentofconvexitytheoryisfairlydetailed.Ittouchesuponnearlyallmajoraspectsofthesubject,anditissufficientforthedevelopmentofthecoreanalyticalissuesofconvexoptimization.Themathematicalprerequisitesareafirstcourseinlinearalgebraandafirstcourseinrealanalysis.Asummaryoftherelevantmaterialisprovidedinanappendix.Priorknowledgeoflinearandnonlinearoptimizationtheoryisnotassumed,althoughitwillundoubtedlybehelpfulinprovidingcontextandperspective.Otherthanthismodestbackground,thedevelopmentisself-contained,withrigorousproofsprovidedthroughout.Wehaveaimedataunifieddevelopmentofthestrongestpossibleformsofdualitywiththemosteconomicuseofconvexitytheory.Tothisend,ouranalysisoftendepartsfromthelinesofRockafellar’sclassic1970bookandotherbooksthatfollowedtheFenchel/Rockafellarformalism.Forexample,wetreatdifferentlyclosedsetintersectiontheoryandpreservationofclosureunderlineartransformations<Sections1.4.2and1.4.3>;wedevelopsubdifferentialcalculusbyusingconstrainedoptimizationduality<Section>;andwedonotrelyonconceptssuchasinfimalconvolution,image,polarsetsandfunctions,bifunctions,andconjugatesaddlefunctions.Perhapsourgreatestdepartureisindualitytheoryitself:similartoFenchel/Rockafellar,ourdevelopmentrestsonLegendre/Fenchelconjugacyideas,butisfarmoregeometricalandvisuallyintuitive.Ourdualityframeworkisbasedontwosimplegeometricalproblems:themincommonpointproblemandthemaxcrossingpointproblem.Thesalientfeatureofthemincommon/maxcrossing<MC/MC>frameworkisitshighlyvisualgeometry,throughwhichallthecoreissuesofdualitytheorybecomeapparentandcanbeanalyzedinaunifiedway.OurapproachistoobtainahandfulofbroadlyapplicabletheoremswithintheMC/MCframe-work,andthenspecializethemtoparticulartypesofproblems<constrainedoptimization,Fenchelduality,minimaxproblems,etc>.Weaddressalldualityquestions<existenceofdualitygap,existenceofdualoptimalsolutions,structureofthedualoptimalsolutionset>,andotherissues<subdifferentialtheory,theoremsofthealternative,dualitygapestimates>inthisway.Fundamentally,theMC/MCframeworkiscloselyconnectedtotheconjugacyframework,andowesitspowerandgeneralitytothisconnection.However,thetwoframeworksoffercomplementarystartingpointsforanalysisandprovidealternativeviewsofthegeometricfoundationofduality:conjugacyemphasizesfunctional/algebraicdescriptions,whileMC/MCemphasizesset/epigraphdescriptions.TheMC/MCframeworkissimpler,andseemsbettersuitedforvisualizingandinvestigatingquestionsofstrongdualityandexistenceofdualoptimalsolutions.Theconjugacyframework,withitsemphasisonfunctionaldescriptions,ismoresuitablewhenmathematicaloperationsonconvexfunctionsareinvolved,andthecalculusofconjugatefunctionscanbebroughttobearforanalysisorcomputation.Thebookevolvedfromtheearlierbookoftheauthor[BNO03]onthesubject<coauthoredwithA.Nedi′candA.Ozdaglar>,buthasdifferentcharacterandobjectives.The2003bookwasquiteextensive,wasstructured<atleastinpart>asaresearchmonograph,andaimedtobridgethegapbetweenconvexandnonconvexoptimizationusingconceptsofnonsmoothanalysis.Bycontrast,thepresentbookisorganizeddifferently,hasthecharacterofatextbook,andconcentratesexclusivelyonconvexoptimization.Despitethedifferences,thetwobookshavesimilarstyleandlevelofmathematicalsophistication,andsharesomematerial.Thechapter-by-chapterdescriptionofthebookfollows:Chapter1:Thischapterdevelopsalloftheconvexanalysistoolsthatareneededforthedevelopmentofdualitytheoryinsubsequentchapters.Itcoversbasicalgebraicconceptssuchasconvexhullsandhyperplanes,andtopologicalconceptssuchasrelativeinterior,closure,preservationofclosenessunderlineartransformations,andhyperplaneseparation.Inaddition,itdevelopssubjectsofspecialinterestindualityandoptimization,suchasrecessionconesandconjugatefunctions.Chapter2:Thischaptercoverspolyhedralconvexityconcepts:extremepoints,theFarkasandMinkowski-Weyltheorems,andsomeoftheirapplicationsinlinearprogramming.Itisnotneededforthedevelopmentsofsubsequentchapters,andmaybeskippedatfirstreading.Chapter3:Thischapterfocusesonbasicoptimizationconcepts:typesofminima,existenceofsolutions,andafewtopicsofspecialinterestfordualitytheory,suchaspartialminimizationandminimaxtheory.Chapter4:ThischapterintroducestheMC/MCdualityframework.Itdiscussesitsconnectionwithconjugacytheory,anditchartsitsapplicationstoconstrainedoptimizationandminimaxproblems.Itthendevelopsbroadlyapplicabletheoremsrelatingtostrongdualityandexistenceofdualoptimalsolutions.Chapter5:ThischapterspecializesthedualitytheoremsofChapter4toimportantcontextsrelatingtolinearprogramming,convexprogramming,andminimaxtheory.Italsousesthesetheoremsasanaidforthedevelopmentofadditionalconvexanalysistools,suchasapowerfulnonlinearversionofFarkas’Lemma,subdifferentialtheory,andtheoremsofthealternative.Afinalsectionisdevotedtononconvexproblemsandestimatesofthedualitygap,withspecialfocusonseparableproblems.Inaimingforbrevity,Ihaveomittedanumberoftopicsthataninstructormaywishfor.Onesuchomissionisapplicationstospeciallystructuredproblems;thebookbyBoydandVanderbergue[BoV04],aswellasmybookonparallelanddistributedcomputationwithJohnTsitsiklis[BeT89]coverthismaterialextensively<bothbooksareavailableonline>.Anotherimportantomissioniscomputationalmethods.However,Ihavewrittenalongsupplementarysixthchapter<over100pages>,whichcoversthemostpopularconvexoptimizationalgorithms<andsomenewones>.Thischapter,togetherwithamorecomprehensivetreatmentofconvexanalysis,optimization,duality,andalgorithmswillbepartofamoreextensivetextbookthatIamcurrentlywriting.Untilthattime,thechapterwillserveinstructorswhowishtocoverconvexoptimizationalgorithmsinadditiontoduality<asIdoinmyM.I.T.course>.Thisisa"living"chapterthatwillbeperiodicallyupdated.Itscurrentcontentsareasfollows:Chapter6onAlgorithms:6.1.ProblemStructuresandComputationalApproaches;6.2.AlgorithmicDescent;6.3.SubgradientMethods;6.4.PolyhedralApproximationMethods;6.5.ProximalandBundleMethods;6.6.DualProximalPointAlgorithms;6.7.InteriorPointMethods;6.8.ApproximateSubgradientMethods;6.9.OptimalAlgorithmsandComplexity.WhileIdidnotprovideexercisesinthetext,Ihavesuppliedasubstantialnumberofexercises<withdetailedsolutions>atthebook’swebpage.Thereader/instructormaya