最优化方法第2章课件

1、第 二 章基本概念 和基本理论 0 s s L在 平面上任给一点 ，就对应有一个目标函数值这个值就是过 点作 平面的垂线与S曲面交点的纵坐标。 反之，任给一个值 ,使目标函数 取值为 的点z的 个数就不相同了。可能没有，可能只有一个，可能有多个。 这一事实的几何意义是：过 f 轴上坐标为 的点作 坐标 平面的平行平面L，可能与曲面S无交点（ 时），可能与S 有一个交点（ 时），可能与S交成一条曲线（ ）。凸集非凸集非凸集多胞形 H(x1 , x2 , , xm)： 由 x1 , x2 , , xm的所有凸组合构成。单纯形：若多胞形 H(x1 , x2 , , xm)满足， x2-x1 , x3

2、 -x1 , , xm- x1线性无关。多胞形单纯形单纯形性质3：分离与支撑： 凸集边界上任意点存在支撑超平面 两个互相不交的凸集之间存在分离超平面支撑强分离分离非正常分离Def：C Rn, 若 x C, 0 有 x C, 则称 C 是以 0 为顶点的锥。如果 C 还是凸集，则称为凸锥。集合 0 、Rn 是凸锥。命题：C是凸锥C中任意有限点的半正组合属于S0定理： f(x) 为凸集 S 上的凸函数 S 上任意有限点的凸组合的函数值不大于各点函数值的凸组合。思考：设f1, f2是凸函数，设1, 2 0, 1f1+2f2 , 1f1 - 2f2是否凸函数？f(x)= max f1(x) , f2

3、(x) , g(x)= min f1(x) , f2 (x) 是否凸函数？ 定义：设集合 S Rn ，函数 f :SR， R ，称 S = x Sf(x) 为 f(x) 在 S 上 的 水平集。定理：设集合 S Rn 是凸集，函数 f :SR是凸函数，则对 R ，S 是凸集。注：水平集的概念相当于在地形图中，海拔高度不高于某一数值的区域。上述定理的逆不真。 考虑分段函数f(x)=1(x0)或0(x 0 充分小时有 x*+d S, 如果 lim f(x*+ d )-f(x*) / 存在（包括 ） 则称 f(x) 为在点沿方向的方向导数存在，记 f (x*;d) = lim f(x*+ d )-f

4、(x*) / 若 f(x) 在 x* 可导，则 f (x*;d) = f (x*) Td .二、凸函数 2、凸函数的性质：以下设 S Rn 为非空凸集，函数 f :SR2）若f 凸，则 f 在 S 的内点集上连续； 注： f 在 S 上不一定连续。 例: f(x)2(当x=1)； f(x)x2 (当x 0 , 总有 x + d S. d(1) = d(2) ( 0) 时，称 d(1)和d(2)同方向。4) 极方向：方向 d 不能表示为两个不同方向的组合 ( d = d(1)+d(2) ) .2.3 多面体、极点、极方向多面体 S = xRnAx = b , x0 的极点和极方向定理1（极点特征

5、）设 A 满秩，x 是 S 极点的充分必要条件是: 存在分解 A = B , N ，其中B为m阶非奇异矩阵，使 xT = xBT, xNT , 这里 xB = B-1b0, xN =0.S中必存在有限多个极点。( Cnm )2.3 多面体、极点、极方向多面体 S = xRnAx = b , x0 的极点和极方向定理2（极方向特征）设 A = p1, p2, ,pn满秩，d 是 S 极方向的充分必要条件是: 存在分解 A = B , N ，其中B为m阶非奇异矩阵，对于N中的列向量 pj 使 B-1pj0, dT = dBT, dNT , 这里 j dB = -B-1pj , dN = (0, .

6、 , 1, ,0)TS中必存在有限多个极方向。( (n-m)Cnm )考虑多面体 S = xRnAx = b , x0 ，其中 3 2 1 0 0 65 A = 2 1 0 1 0 b = 40 0 3 0 0 1 75 即 3 x1 + 2 x2 + x3 = 65 2 x1 + x2 + x4 = 40 3 x2 + x5 = 75 x1 , x2 , x3 , x4 , x5 0 例题 3 2 1 0 0A = P1 , P2 , P3 , P4 , P5 = 2 1 0 1 0 0 3 0 0 1 A矩阵包含以下10个33的子矩阵： B1=p1 ，p2 ，p3 B2=p1 ，p2 ，p

7、4 B3=p1 ，p2 ，p5 B4=p1 ，p3 ，p4 B5=p1 ，p3 ，p5 B6=p1 ，p4 ，p5 B7=p2 ，p3 ，p4 B8=p2 ，p3 ，p5 B9=p2 ，p4 ，p5 B10=p3 ，p4 ，p5 例题 其中B4= 0，因而B4不能构成极点和极方向。其余均为非奇异方阵，因此该问题共有9个可构成极点、极方向的子矩阵，我们称之为基。 对于基B3=p1 ，p2 ，p5，令x3 = 0， x4 = 0，在等式约束中令x3 = 0，x4 = 0，解线性方程组： 3 x1 + 2 x2 + 0 x5 = 65 2 x1 + x2 + 0 x5 = 40 0 x1 + 3 x

8、2 + x5 = 75 得到x1 =15，x2 = 10，x5 = 45，对应的极点： x = (x1，x2，x3，x4，x5 )T = (15，10，0，0，45 )T例题 类似可得到极点 x(2) = (5, 25, 0, 5, 0 )T （对应B2） x(7) = (20, 0, 5, 0, 75 )T （对应B5） x(8) = (0, 25, 15, 15, 0 )T （对应B7） x(9) = (0, 0, 65, 40, 75 )T （对应B10）而 x(3)= (0, 32.5, 0, 7.5, -22.5 )T（对应B9） x(4)= (65/3, 0, 0, -10/3, 75 )T （对应B6） x(5)= ( 7.5, 25, -7.5, 0, 0 )T （对应B1） x(6) = ( 0, 40, -15, 0, -45 )T （对应B8） 不是极点例题 2.3 多面体、极点、极方向多面体 S = xRnAx = b , x0 的极点和极方向定理3（表示定理）考虑上述多面体S， 设A满秩，x(1),x(2) , ,x(k