高级微观经济学课件_最优化.ppt

1、A2,微积分与最优化,A2.1,微积分,2020/7/6,3,设D是一个非退化的实值区间在此区间上,f是二次可微的.如下的1至3阐述是等价的: 1.f是凹的. 2.f(x)0,xD. 3.对于一切x0D, f(x)f(x0)+ f(x0)(x-x0) 4.如果f(x)0, xD,那么,f是严格凹的.,定理A2.1 凹性与一阶和二阶导数,2020/7/6,4,A2.1.2 多变量函数,的偏导数可以定义为：,n,n,n,i,i,i,n,x,f,t,g,t,R,t,tz,x,f,t,g,x,f,f,x,z,z,z,z,h,x,x,f,x,h,x,x,f,x,x,f,x,f,x,x,f,y,1,1,1

2、,1,),(,),(,0,.,),(,),(,),(,),.,(,),.,(,),.,.,(,lim,),(,),.,(,=,=,+,=,=,-,+,=,=,右边项便是f在x点处沿z方向上的方向导数。 g(0)=f(x)z,时，,，这里定义,设函数为：,开始发生怎样的变化。,由,的值将会,，,的方向偏离点,设,关于,令,偏导数反映的是函数沿坐标轴方向的变化率 我们还必须要研究沿某一方向的导数,这就 是方向导数,2020/7/6,5,证明,由于函数可微，则增量可表示为,两边同除以,得到,2020/7/6,6,故有方向导数,2020/7/6,7,梯度的概念,2020/7/6,8,有最大值,.,20

3、20/7/6,9,2020/7/6,10,2020/7/6,11,定理A2.2 杨格定理,梯度取梯度=海赛矩阵,例题A2.2 考虑函数f(x1,x2)=x1x22+x1x2,验证杨格定理,对于二次连续可微函数f(x),2020/7/6,12,定理A2.3 单变量与多变量的凹性,设f是一个定义在Rn的凸子集上的实值函数,那么,当且仅当对于每个xD与每个非零的zRn,函数g(t)=f(x+tz)在tRx+tzD上是(严格)凹的.那么,f是(严格)凹的.,证明1:设f是一个凹函数.令xD且z Rn,我们要证明g(t)=f(x+tz)在C=tRx+tzD上是凹的. 即要证明: g(t0+(1-)t1)

4、g(t0)+(1-)g(t1),(P.1),2020/7/6,13,C是一个凸集,使得g(t0+(1-)t1)C,g(t0+(1-)t1)=f(x+(t0+(1-)t1)z),=f(x+t0z)+(1-)(x+t1z),f(x+t0z)+(1-)f(x+t1z)(f是凹的),=g(t0)+(1-)g(t1),=f(x+t0z)+(1-)(x+t1z),2020/7/6,14,证明2:g是凹的,证明f是凹的,2020/7/6,15,定理A2.4 关于多变量函数的斜率,曲率与凹性,设D是Rn一个凸子集,在此集的一个非空的内部, f是二次连续可微的. 如下三个命题是等价的: 1.f是凹的. 2.对于

5、D中的所有x,H(X)是负正定的. 3.对于一切x0D,f(x)f(x0)+ f(x0)(x-x0) ,xD. 此外, 4.如果对于D中所有x,H(x)是负定的,那么,f是严格凹的.,2020/7/6,16,由于f是二次连续可微的,它足以在D内建立定理.连续性将关注边界点.因此,xintD与zRn.设C=tRx+tzR,并设对于所有tC,g(t)=f(x+tz).注意g承袭f的二次连续可微性.,定理A2.4证明,现在,设1成立,f是凹的.,g在C是也是凹的,g(t)0,t C (P.1),根据A2.1,根据A2.3,g(t)g(t0)+ g(t0)(t-t0) t0,t C (P.2),根据P

6、.1,g(t)= f(x+tz)z (P.3),为充分利用这些结论,我们计算g和f的一阶和二阶导数,根据P.1,为充分利用这些结论,我们计算g和f的一阶和二阶导数,2020/7/6,17,为计算g(t),最简单的方法是将g(t)写成,对右边的式子微分,fi(x+tz)关于t的导数正好是fi在x+tz点沿z方向导数它可以写成,此式可以改写为,注意0C，依据（P.1）g(0)0。由于（P.4），这意味着,这意味着H(x)是负半定的,12,2020/7/6,18,定理A2.5 凹性,凸性与关于变量本身的二阶便偏导数,设f:DR是一个二次可微函数. 1.如果f是凹的,那么,x,fii(x)0,i=1,

7、n. 2.如果f是凸的,那么,x,fii(x)0,i=1,n.,2020/7/6,19,A2.1.3、齐次函数,例子A.2.3: 柯布道格拉斯生产函数（C-D）,，表示劳动和资本在产出中的贡献额度,2020/7/6,20,，表示劳动和资本 在产出中的贡献额度,2020/7/6,21,因此把柯布道格拉斯函数为：,这说明，生产要素投入量增加的倍数与产量增加的倍数是相同的。,大致为，因此把柯布道格拉斯函数看成为线性齐次生产函数,2020/7/6,22,定理A2.6 齐次函数的偏导数,如果f(x)是k次齐次函数,那么它的偏导数将是k-1次齐次函数. 证明:设f(x)是k次齐次函数, f(tx)= tk

8、f(x),t0 (P.1),xi,x,f,tk,x,tkf,x,t,xi,tx,f,xi,xi,tx,tx,f,tx,f,x,i,i,i,=,=,=,),(,),(,(,),(,),(,),(,(,(P.3),2020/7/6,23,由于（P.1）是恒等式,（P.2）必定会等于(P.3),因此有:,用t除两边得到:,对于i=1,n,并且t0,证明完毕.,2020/7/6,24,定理A2.7 欧拉定理,欧拉定理证明:定义t的函数是十分有用的,g(t)f(tx),固定x ,对t微分,有,(p.2),在t=1时:,(p.3),2020/7/6,25,证明必要性,设f(x)是k次齐次,使得对一切t0与

9、任何x, f(tx)=tkf(x),由于(P.1),我们有g(t)= tkf(x),求微分, g(t)=ktk-1f(x),并且在t=1处取值.我们得到g(1)=kf(x).利用(P.3),得到,(P.4),证明充分性,为证明充分性,设(P.4)成立,在tx处取值得到:,(P.5),给(P.2)式两边同乘t,同(P.5)相比较,发现tg(t)=kg(t),(P.6),2020/7/6,26,考虑函数t-kg(t).如果对此求关于t的微分,得到:,从(p.6)来看,它的导数必为零,因此,我们可以得出这样结论,即对于一些常数c,t-kg(t)=c.为找到c,在t=1处求值并注意到g(1)=c.利用

10、定义( P.1),得到c=f(x).我们知道,g(t)=tkf(x). 再次把( P.1)代入,我们得到,对于所有x,则有,f(tx)=tkf(x).,A2.2,最优化,2020/7/6,28,设f(x)是一个二次可微的单变量函数,那么f(x)将会获得一个局部内点最优值. 1.在 x*处有最大值f(x)=0(FONC) f(x)0(SONC) 2.在 x*处有最小值f(x)=0(FONC) f(x)0(SONC),定理A2.8 单变量情形中局部内点最优化的必要条件,2020/7/6,29,定理2.9 实值函数局部内点最优化的一阶必要条件,如果可微函数f(x)在点x*处达到了一个局部内点极大值或

11、极小值,那么,x*为如下联立方程组的解:,2020/7/6,30,证明:,证明思路:我们设f(x)在x*处获得了一个局部内部极值,并设法证明f(x*)=0.,证明:选择任意向量zRn,那么,对于任意标量t,我们有: g(t)=f(x*+tz) (P.1),从(P.1)我们知道,g(t)不过是f(x)的另一种表现形式.t0时, x*+tz正好是不同于x*的向量,故g(t)正好同f的一些值相同.t=0,x*+tz等于x*,因此,g(0)正好是f在x* 处的值.已经假设 f在x*处取得极值,那么g(t)必定在t=0处获得一个局部极值.那么,g(0)=0,2020/7/6,31,2020/7/6,32

12、,A2.2.2 二阶条件,实值函数局部内点最优化的二阶必要条件 设f(x)是二次连续可微的. 1.如果在点x*处f(x)达到了一个局部内点极大值,那么,H(X*)是负半定的. 2.如果f(x)在点x处达到了一个局部内点极小值,那么,H(X)是负正定的.,定理A2.10,2020/7/6,33,或者H(X*)0,由于z是任意取的,这以为着H(X*)是负半定的.同理,如果在点x=x处f被最小化,那么, g(0)0,使得,H(X)是半正定的.,设f(x)在x=x*处取得最大值,根据定理A2.8 必定有g(0)0. 在点x*处或者在t=0处给(p.1)取值,2020/7/6,34,定理A2.11 海赛

13、矩阵负定与正定的充分条件,设f(x)是二次连续可微的,并设Di(x)是海赛矩阵H(x)的第i阶的主子式. 1.如果(-1)iDi(x)0,i=1,n,那么,H(x)是负定的. 2.如果Di(x)0,i=1,n,那么,H(x)是正定的. 如果在定义域内,对所有x,条件1成立,那么f是严格凹的.如果在定义域内,对所有x,条件2成立,那么f是严格凸的.,2020/7/6,35,定理A2.11海赛矩阵负定与正定的充分条件证明,证明思路:借助定理A2.4的第四条(如果对于D中所有x,H(x)是负定的,那么,f是严格凹的.)将定理A2.12转化为矩阵的主子式改变符号是负定的,全为正为正定的.,(P.2),

14、2020/7/6,36,2020/7/6,37,定理A2.12 实值函数局部内点最优化的充分条件,设f(x)是二次连续可微的,则: 1.如果fi(x*)=0,(-1)iDi(x)0,i=1,n,那么, f(x)在x*处将会获得一个局部极大值 2.如果fi(x)=0 并且Di(x)0,i=1,n,那么, f(x)在x处将会获得一个局部极小值,2020/7/6,38,2020/7/6,39,定理A2.13 (无约束的)局部与全局最优化,设f(x)是D上一个二次连续可微的实值凹函数.这里,点x*是D的一个内部点,那么如下三个命题等价: 1.f(x*)=0 2.在x*处f获得一个局部极大值. 3.在x

15、*处f获得一个全局极大值.,证明:显然,32,并依A2.9,21,因此,只需证明13 由1.假设,f(x*)=0,由于f是凹的,定理A2.4蕴涵对于定义域的所有x, f(x)f(x*)+ f(x*)(x-x*) 结合假设: f(x)f(x*) 所以,f在x*处达到全局最大值.,2020/7/6,40,定理A2.14 严格凹性/凸性与全局最优化的唯一性,1.如果x*最大化了严格凹函数f,那么,x*是唯一全局最大化值点.例如,设f(x*)f(x),xD,xx*. 2.如果x最小化了严格凹函数f,那么,x是唯一全局最小化值点.例如,设f(x)f(x),xD,xx*.,证明:用反证法.如果x*是函数f

16、的全局最大值点,但x*不唯一,存在xx*使得f(x)=f(x*). 如果,设xt=tx+(1-t)x*,那么,根据严格凹性, f(xt)tf(x)+(1-t)f(x*),t(0,1) 由于, f(x)=f(x*), f(xt)tf(x)+(1-t)f(x), 即f(xt)f(x),这与假设x是f的一个全局最大值的假设矛盾,因此,严格凹函数的任何全局最大值必是唯一的.,2020/7/6,41,定理A2.15 唯一全局最优化的充分条件,设f(x)是D上一个二次连续可微的. 1.如果f(x)是严格凹的,并且fi(x*)=0,i=1,n;那么,x*是f(x)的唯一全局最大化值点. 2.如果f(x)是严

17、格凸的,并且fi(x)=0,i=1,n;那么,x是f(x)的唯一全局最小化值点.,2020/7/6,42,A2.3 约束最优化,Maxf(x1,x2),受约束于 g(x1,x2)=0,x1,x2,目标函数,选择变量,约束集或者可行集,求解方法:代入法,2020/7/6,43,A2.4 拉格朗日方法,L(x1,x2,)f(x1,x2)+ g(x1,x2),定理A2.16 拉格朗日定理,2020/7/6,44,A2.3.6 库恩塔克条件,L(x1,x2,)f(x1,x2)+ g(x1,x2),非线性规划问题,2020/7/6,45,A2.20 受不等式条件约束的实值函数最优化的(库恩塔克)必要条件,2020/7/6,46,A2.4 值函数,x,Maxf(x1,x2),受约束于 g(x,a)=0,且x0,M(a)=maxf(x,a), 受约束于g(x,a)=0, x0,图A2.10:在约束条件g(x,a)=0限定下的f(x,a)的最大值,