第三节-凸函数市公开课一等奖省赛课获奖课件

最优化设计

汕头大学工学院第1页学习目标1、了解凸函数定义，并能进行简单凸函数证实。2、了解凸函数基本性质。3、掌握凸函数一阶与二阶判定方法。第2页第三节凸函数凸函数定义凸函数性质凸函数判定第3页一、凸函数定义定义1设函数f(x)为定义在凸集D上n元实函数。假如任取D中两个不一样点x1，x2，以及λ∈[0,1]，都有f[λx1+(1-λ)x2]≤λf(x1)+(1-λ)f(x2)则称f(x)是定义集D上凸函数。第4页定义2严格凸函数f[λx1+(1-λ)x2]＜λf(x1)+(1-λ)f(x2)则称f(x)是定义集D上凸函数。注：将上述定义中不等式反向，能够得到凹函数定义。第5页凸函数几何性质

对一元函数f(x),在几何上λf(x1)+(1-λ)f(x2)（0≤α≤1)表示连接(x1，f(x1))，(x2，f(x2))线段。f[λx1+(1-λ)x2]表示在点λx1+(1-λ)x2处函数值。所以一元凸函数表示连接函数图形上任意两点线段总是位于曲线弧上方。第6页第7页

例1：设f(x)=(x-1)2,试证实f(x)在（-∞，+∞）上是严格凸函数。证实：设x，y∈R，且x≠y，λ∈（0，1）都有：f[λx+(1-λ)y]-[λf(x)+(1-λ)f(y)]=[λx+(1-λ)y-1]2-λ(x-1)2-(1-λ)(y-1)2=

-λ(1-λ)(x-y)2＜0所以f(x)在（-∞，+∞）上是严格凸函数。第8页

例2：试证线性函数是Rn上凸函数。

f(x)=cTx=c1x1+c2x2+…+cnxn证实：设x，y∈R，α∈（0,1），则

f[αx+(1-α)y]=cT[αx+(1-α)y]=αcTx+(1-α)cTy=αf(x)+(1-α)f(y)

所以cTx是凸函数。类似能够证实cTx是凸函数。第9页二、凸函数性质性质1：定义在同一凸集上有限个凸函数非负线性组合是凸函数。

证实:设fi(x),i=1,2,…,k是定义在同一凸集D上k个凸函数，α1，α2，…αk是k个非负数。记f(x)=fi(x)现任取D内两个点x1，x2，以及λ∈（0,1），因为

是D上凸函数，必有

fi[λx1+(1-λ)x2]≤λfi(x1)+(1-λ)fi(x2)，i=1,2,…,k

第10页

f[λx1+(1-λ)x2]=fi(λx1+(1-λ)x2)

≤[λfi(x1)+(1-λ)f(x2)]=λfi(x1)+(1-λ)f(x2)=λf(x1)+(1-λ)f(x2)由凸函数定义，可知f(x)是D上凸函数。第11页定义3（α-水平集）

设f(x)是定义在集合R上实函数，α是实数，则称以下集合Sα={x|x∈R,f(x)≤α}是函数f(x)α-水平集。第12页性质2凸函数任一α-水平集是凸集。

证实设f(x)是定义在凸集D上凸函数，α是任一给定实数。现任取Sα内两点x1,x2以及λ∈（0,1），则由Sα定义f(xi)≤α，且xi∈D,i=1，2D是凸集λx1+(1-λ)x2∈D又因为f(x)是D上凸函数，所以有

f[λx1+(1-λ)x2]≤λf(x1)+(1-λ)f(x2)≤λα+(1-λ)α=α表明，λx1+(1-λ)x2∈Sα所以，

Sα是凸集。第13页

下面图形给出了凸函数f(x,y)=x4+3x2+y4+y2+xy等值线图形，能够看出水平集是凸集。

第14页性质3设D是内部非空凸集，f(x)是定义在D上凸函数，则f(x)在D内部连续。

注意：凸函数在定义域边界有可能不连续。

比如，设f(x)定义域是区间[1,4]x2,1<x<42,x=1

f(x)是区间[1,4]上凸函数，但显然在边界点x=1处不连续。

第15页三、凸函数判定定理1

（凸函数一阶充要条件）

设D是开凸集，f(x)在D上含有一阶连续导数。那么，f(x)是D上凸函数充要条件是：对D上任意两个不一样点x1,x2，恒有

f(x2)≥f(x1)+▽f(x1)T(x2-x1)第16页证实

（必要性）X1+λ(x2-x1)=λx2+(1-λ)x1∈D由一阶Taylor展式，有f(x1+λ(x2-x1))=

f(x1)+λ▽f(x1)T(x2-x1)+o(λ)

(1)而因为f(x)是D上凸函数，又有f(x1+λ(x2-x1))=f(λx2+

(1-λ)x1)

≤

λf(x2)+

(1-λ)f(x1)(2)两式联立，有λf(x2)+

(1-λ)f(x1)≥f(x1)+λ▽f(x1)T(x2-x1)+o(λ)第17页

f(x2)≥f(x1)+▽f(x1)T(x2-x1)+令λ→0+，则有→0故

f(x2)≥f(x1)+▽f(x1)T(x2-x1)（充分性）任取0＜λ＜1，记X=λx1+(1-λ)x2由已知条件有

f(x1)≥f(x)+▽f(x)T(x1-x)

f(x2)≥f(x)+▽f(x)T(x2-x)所以λf(x1)≥λf(x)+λ▽f(x)T(x1-x)第18页

(1-λ)f(x2)≥(1-λ)f(x)+(1-λ)▽f(x)T(x2-x)两式相加，并进行整理，得λf(x1)+(1-λ)f(x2)≥f(x)+▽f(x)T[λx1+(1-λ)x2-x]注意到恰好有X=λx1+(1-λ)x2所以λf(x1)+(1-λ)f(x2)≥f(x)=f[λx1+(1-λ)x2]表明λf(x)是凸集D上凸函数。第19页定理1'（严格凸函数一阶充要条件）设D为开凸集，f(x)在D上含有一阶连续导数。那么，f(x)是D上凸函数充要条件是：对D上任意两个不一样点x1,x2，恒有f(x2)＞f(x1)+▽f(x1)T(x2-x1)第20页例3设f(x)=x4，x属于（-∞，+∞），判断函数凸凹性。解：任取两相异点x1，x2，则有▽f(x1)=f'(x1)=4x13f(x2)-[f(x1)+▽f(x1)T(x2-x1)]=x24-x14-4x13(x2-x1)=x24-2x12x22+x14+2x12x22-4x13x2+2x14

=(x12-x22)2+2x12(x1-x2)2＞0由定理1'，知f(x)是严格凸函数。第21页定理2（凸函数二阶充要条件）

设D是开凸集，f(x)在D上二次可微。那么，f(x)是D上凸函数充要条件是：

f(x)在D上Hesse矩阵▽2f(x)是半正定。第22页证实（充分性）设对D上任一点X，

▽2f(x)是半正定矩阵。现任取D上两相异点x1,x2,由Taylor展式，有f(x2)=f(x1)+▽f(x1)T(x2-x1)+

(x2-x1)T▽2(x2-x1)其中，=λx1+(1-λ)x2,0≤λ≤1因为D是凸集，故∈D,由已知条件，当然▽2也是半正定矩阵。于是有(x2-x1)T▽2(X2-X1)≥0第23页（所以，

f(x2)＞f(x1)+▽f(x1)T(x2-x1)

表明f(x)确为凸函数。（必要性）因为D是开集，故对D上任意点X，以及任一给定非零向量Y，总可找到充分小正数λ，使得X+λY∈D由Taylor展式，有f(X+λY)=f(X)+λ▽f(X)TY+YT▽2f()TY+o(λ2)第24页又因为f(X)是D上凸函数，由凸函数一阶条件，有f(X+λY)

≥

f(X)+λ▽f(X)TY所以YT▽2f()TY+o(λ2)≥0

YT▽2f()Y+≥0令λ→0+，则有→0则YT▽2f()Y≥0由半正定矩阵定义，知▽2f()是半正定矩阵。第25页定理2'

（严格凸函数二阶充分条件）设f(x)是开凸集上实函数，若f(x)Hesse矩阵▽2f(x)在D上处处正定，则f(x)是D上严格凸函数。

证实略第26页

例4试判断以下函数凸凹性。

a)f(x)=5x12+x1x2+x22-5x1+4x2,x∈（-∞,+∞）b)f(x)=-x12+3x1x2-4x22-6x1+3,x∈（-∞,+∞）c)f(x)=x12+2x23-x3,x1≥0,x2≥0,-∞≤x3≤+∞d)f(x)=x12+4x1x2-x22第27页解a)因为▽2f(x)一阶次序主子式为10，大于零，2阶行列式为

第