数学讲义(高微)

一 函数 1 凹 凸 函数 1 1 凸集 凸集 Convex Set 对于任意两点uS 和vS 且对于每一个 0 1 当且仅当 1 wuvS 为真时 集合为凸集 n SR 凸集要求集合内的任意两点 其连线也在集合内 即该集合不存在任何孔 它的边缘也 不能有缩进 例如 平面中 一条线段就是一个凸集 而一个圆圈则不是 1 2 凹 凸 函数 引入凸集的概念后我们就可以介绍凹 凸 函数 不管是凹函数还是凸函数都要求其定 义域是凸集 我们可以先举个例子直观感受下凹 凸 函数的特征 比如函数 2 44yxx 就是一个凹函数 它在定义域内呈现的形状是一只倒立的碗 而函数 是一个凸函数 它在定义域内呈现的形状就像一只碗 2 4yxx 4 现在具体给出凹 凸 函数的定义 x为自变量向量 对于函数 fD R 其定义域内任意两个不同的点和 当且仅当 1 x 2 x 1212 x 1 x x 1 x 0 1 tft ff ttt 时 函数 f 为凹函数 Concave Function 对于函数 fD R 其定义域内任意两个不同的点和 当且仅当 1 x 2 x 1212 x 1 x x 1 x 0 1 tft ff ttt 时 函数 f 为凸函数 Convex Function 如果 f 为一元函数 我们能从图形上看 凸函数的定义是指该曲线上任何两点之间的连 线在曲线的上面 而凹函数则要求曲线上任何两点之间的连线在曲线的下面 如果是二元函 数 则把 曲线 改为 曲面 也可以感受它们的特征 若将不等号 和 分别变换成严格不等号 因为凹函数的定义域为凸集 因此点也一定在函数的定义域内 12 x 1 xtt 我们可以利用凹 凸 函数和严格凹 凸 函数判断函数极值的情况 在满足无约束极 值一阶必要条件的前提下 凹函数一定存在全局最大值的解 但全局最大值的解可能不是唯 一的 因为如果山峰包含一个平顶 则全局最大值的解有很多个 仅当我们限定它为严格凹 形函数时 全局最大值的解才可能是唯一的 1 3 凹 凸 函数与凸集的关系 首先我们必须区别凸集与凸函数的概念 根据定义 可知当 凸的 在描述集合时 它要求该集合不能出现任何孔 边缘也不能 有缩进 这不同于之前的凹 凸 函数 当 凸的 在描述函数时 它确定的是一条曲线或 曲面是如何弯曲的 但凹 凸 函数确实与凸集有关 除了定义域都要求是凸集之外 它们都可以引致一个 凸集 定理 x f是凹函数 x x x AyD f y是凸集 x f是凸函数 x x x AyD f y是凸集 即 由函数上的点以及函数曲线 曲面 之下的点组成的集合若是凸集 该函数为凹函数 由函数上的点以及函数曲线 曲面 之上的点组成的集合若是凸集 该函数为凸函数 注意 这里的 A 是关于点 x y 的集合 1 4 用海塞矩阵判定凹 凸 函数 当函数为二阶连续可导时 我们还可以利用海塞矩阵判定它是否为凹 凸 函数 定义 海 塞 矩 阵 为 函 数 二 阶 导 数 和 交 叉 导 数 构 成 的 矩 阵 如 根据杨格定理 11121 21222 12 x x x x x x x x x x n n nnnn fff fff H fff ijji ff 因此海塞矩阵为对称 矩阵 通过判定海塞矩阵的负 正 定 我们可以判定函数的凹 凸 性 规则为 1 函数为严格凹函数 其海塞矩阵负定 x H 2 函数为严格凸函数 其海塞矩阵正定 x H 接下来就介绍判断海塞矩阵正负定的方法 定义 主子阵 对n矩阵 A 由 A 的 k 个主对角线元素及其对应的非对角线元素来得到的 矩阵 称为 A 的 k 阶主子阵 由 A 的前 k 个主对角线元素及其对应的非对角线元素来得到 的矩阵 为 k 阶前主子阵 n 主子阵的行列式为主子式 前主子阵的行列式为顺序主子式 我们用表示的 k 阶顺序主子式 其中 k D x H1 2 3 kn 如 111 x x Df 1112 2 2122 x x x x x ff D ff 11121 21222 12 x x x x x x x x x x n n k nnnn fff fff D fff 定理 对于二次连续可微函数 12 n yf x xx 1 海塞矩阵正定 x 0 1 2 k Dkn 2 海塞矩阵负定 1 x 0 1 2 k k Dkn 用H 表示海塞矩阵 H 的指标 1 2 3 n 的任意排序 k D 为H 的 k 阶顺序主 子式 则 3 海塞矩阵半正定 x 0 1 2 k Dk n n 4 海塞矩阵半负定 1 x 0 1 2 k k Dk 2 拟凹 拟凸 函数 不管是凹 凸 函数还是严格凹 凸 函数 它们对函数都有比较强的设定 我们需要 更弱的假定来增加理论的一般性和解释力 拟凹 拟凸 函数则是一个相对而言更弱的条件 拟凹 拟凸 函数的定义如下 DR 其定义域内任意两个不同的点和 当且仅当 1 x 2 xf 对于函数 1212 min x x x 1 x 0 1 fff ttforallt 时 函数 f 为拟凹函数 Quasiconcave Function 对于函数 fD R 其定义域内任意两个不同的点和 当且仅当 1 x 2 x 1212 max x x x 1 x 0 1 fff ttforallt 时 函数 f 为拟凸函数 Quasiconvex Function 若将不等号 和 分别变换成严格不等号 我们也可以通过更直观的方法检验函数的拟凹性和拟凸性 定义 0 x x x S yD fy x 0 为函数f在 0 y水平上的上等值集 Upper Contour Set 00 I x x x yD fy x 为函数f在 0 y水平上的下等值集 Lower Contour Set 注意 不论是上等值集还是下等值集 它们都是关于选择变量 x 的集合 区别于之前与 凹 凸 函数有关的 A 集合 定理 对于值域内的所有 y 值 都是凸集 y S fDR 是拟凹函数 对于值域内的所有 y 值 y I都是凸集 fDR 是拟凸函数 经济学中常假设拟凹的效用函数 根据定理 拟凹的效用函数保证了其上等值集为凸集 2 1 用加边海塞矩阵判定拟凹 拟凸 函数 当函数为二次连续可微时 我们还可以利用加边海塞矩阵判定拟凹 拟凸 函数 定义 加边海塞矩阵 由海塞矩阵和函数的一阶导数 边 构成的矩阵 如二元函数 12 yf x x 的加边海塞矩阵 112212 1211211121212 21221122212 0 f x xfx x H x xf x xfx xfx x fx xfx xfx x 加边海塞矩阵也是对称 矩阵 k B为加边海塞矩阵的 k 1 阶顺序主子式 如 112212 21211211121212 21221122212 0 f x xfx x B x xf x xfx xfx x fx xfx xfx x 12 0 k k T kk f Bx x fH 其中表示海塞矩阵的指标 1 2 3 n 的任意 排序 为的 k 阶子式 x H x H x k H x H 通过加边海塞矩阵判定函数的拟凹 拟凸 性的规则为 1 函数为拟凹函数 1 x 0 1 2 k k Bkn 2 函数为严格拟凹函数 1 x 0 1 2 k k Bkn 3 函数为拟凸函数 x 0 1 2 k Bkn 4 函数为严格拟凸函数 x 0 1 2 k Bkn 3 函数间关系 1 x f是 严格 凹函数 x f 是 严格 凸函数 2 x f是 严格 拟凹函数 x f 是 严格 拟凸函数 3 x f是 严格 凹函数 x f是 严格 拟凹函数 反之不成立 4 x f是 严格 凸函数 x f是 严格 拟凸函数 反之不成立 5 单调函数既是拟凹函数也是拟凸函数 6 凹 凸 函数相加后仍为凹 凸 函数 拟凹和拟凸函数则没有类似关系 4 常见的拟凹函数 拟凹的效用函数上等值集为凸集 凸的无差异曲线 因为等产量曲线的概念几乎与无差异曲线是一致的 我们可以类推 拟凹的生产函数上等值集为凸集 凸的等产量曲线 二 无约束的最优化问题 1 一元函数的无约束极值 本讲义讨论的函数都是二次连续可微的 给定一个一元函数 易知 它在 yf x xx 处取得局部极值的一阶必要条件为 而该局部极值究竟是全局最大值还是全局最小值得看 0fx fx的符号 若 则 0fx x为唯一的全局最小值的解 利用上述极值的导数条件 我们可以推导出极值的微分条件 即 0dyfx dx 2 对于任意非零dx 函数在极值处的一阶全微分为零 这是局部 极值的一阶必要条件 22 d yd fx dxfx dxfx dx 对于任意非零dx 我们也可以通过计 算函数的二阶全微分来判断局部极值是全局最大值还是全局最小值 综上 当函数为二次连续可微时 它取得极值的必要条件为 1 x为函数的全局最大值的解 对于任意非零都成立 22 0 0 dyfx dx d yfx dx dx 2 x为函数的全局最小值的解 对于任意非零都成立 22 0 0 dyfx dx d yfx dx dx 在满足必要条件的前提下 若函数取得唯一的最值的解 它的充分条件为 1 对于任意非零都成立 2 0d yfx dx 2 x为函数唯一的全局最小值 的解 只要将改为一阶微分向量 以上极值的微分条件能直接从单变量的情况推广至两 个甚至多个变量的情况 dxxd 2 多元函数的最优化问题 2 1 一阶条件 F O C 定义 稳态值 n 元函数 12 n yf x xx 的稳态值 12 x T n x xx 在该点处 下面 几个等式同时成立 112 212 12 0 0 0 n n nn f xxx fxxx fxxx 定理 如 果 在 点 我 们 可 能 得 到 局 部 最 大 小 值 即 对 于 一个尽可能小的邻域内 所有点 12 x T n x xx 12 x T n x xx 12 x T n x xx 都有 1212 nn f x xxf x xx 那么稳态条件必然满足 2 2 二阶条件 S O C 2 2 1 二阶条件 一元函数极值条件扩展后的微分形式 直觉上 多元函数与一元函数一样 在稳态值取得全局最大值还是全局最小值 这与的 符号有关 即 在满足必要条件的前提下 函数取得唯一的最值时充分条件为 2 d y 1 对于任意非零都成立 为函数唯一的全局最大值的解 2 0d y xd x 我们先对dy进行微分 可得 2 1122 1111121211 2121222222 1122 1112 x x x x x x x x x x x x x x x nn nn nn nnnnnnn T d ydfdxdfdxdfdx n fdx dxfdx dxfdx dx fdx dxfdx dxfdx dx fdx dxfdx dxfdx dx ff d 1 21222 12 x x x x x x x x n n nnnn f fff d fff 其中 为海塞矩阵 11121 21222 12 x x x x x x x x x x n n nnnn fff fff H fff 在判断的符号之前 我们先正 负 定矩阵及其判定方法 2 d y 定理 A 为对称矩阵 若对于所有的x 始终成立 则称正定 A 为正定矩阵 0 x xx 0 T qA x q 若对于所有的x 0 x xx0 T qA 始终成立 则称负定 A 为负定矩阵 x q 若对于所有的 始终成立 则称半正定 A 为半正定矩阵 x0 x xx0 T qA x q 若对于所有的x 0 x xx0 T qA 始终成立 则称半负定 A 为半负定矩阵 x q 根据以上定理 若要判断的符号 我们只需判定与其对应的海塞矩阵的正 负 定 2 d y 1 海塞矩阵负定 x H 2 0d y x 为函数唯一的全局最小值的解 2 2 2 二阶条件 利用函数的凹凸性 定理 凹函数在稳态值处取得全局最大值 凸函数在稳态值处取得全局最小值 根据定理 在无约束最优化问题中 如果已知目标函数是凹 凸 函数 我们可以直接 通过求解一阶必要条件得到全局最大 小 值的解 如果问题中我们事先不知道二次连续可 导的目标函数是凹函数还是凸函数 那么我们根据判定规则借助海塞矩阵的正负定来判断 综上 解决无约束最优化问题的思路是 已知目标函数为一个二次连续可微函数 12 x n yf x xxf 首先我们或已知或通过海塞矩阵的半负 正 定判定目标函数 是凹 凸 函数 然后通过求解一阶必要条件 12 0 1 2 in f x xxin 求出稳态值 则根据以下规则 我们可以判定极值的情况 1 其海塞矩阵半负定凹函数 为函数的全局最大值的解 x H x 2 其海塞矩阵负定严格凹函数 为函数唯一的全局最小值的解 x H x 3 其海塞矩阵半正定凸函数 为函数的全局最小值的解 x H x 4 其海塞矩阵正定严格凸函数 为函数唯一的全局最小值的解 x H x 3 举例 二元函数的无约束极值问题 有一个二次连续可微函数 12 yf x x 可知其海塞矩阵为 11121212 12 21122212 fx xfx x H x x fx xfx x 则 1121112 D x xfx x 11121212 212 21122212 fx xfx x D x x fx xfx x 11211122212 Dx xfx xfx x 1112121222122112 212 2112221212121112 fx xfx xfx xfx x Dx x fx xfx xfx xfx x 根据之前的判定规则 1 凹函数 为函数的全局最大值的解 112 0Dx x 212 0Dx x x 2 严格凹函数 为函数唯一的全局最小值的解 112 0D x x x 3 凸函数 为函数的全局最小值的解 112 0Dx x 212 0Dx x x 4 严格凸函数 为函数唯一的全局最小值的解 112 0D x x 212 0D x x x 判断函数的凹凸性后 若 112212 0f x xfx x 则可判定函数在点 12 x x取得的 是全局最大值还是全局最小值 三 具有约束条件的最优化问题 之前在求极值的过程中 我们没有对选择变量的值进行约束 从而解的取值可能是负值 也可能很大 但考虑到经济学是建立在稀缺的资源如何配置的问题上的 因而在经济学的最 优化求解过程中 我们通常不得不面临资源的稀缺性 对选择变量的值加上约束条件 约束条件大致分三类 等式约束 非负约束以及更普遍的 其它形式的不等式约束 我 们将依次介绍对应的求解方法 从现在开始 讨论将以最大化问题为主 关于最小化问题的 条件 我们可以对最大化条件稍微进行调整得到 1 等式约束 关于解决等式约束的方法 其实我们已经学过了 就是利用拉格朗日方法求解的过程 现在简要回顾拉格朗日函数 1 1 二元目标函数 一个等式约束的约束最优化条件 考虑二元函数下 具有约束条件的最优化问题 12 1 max x x yf x x2 12 stg x xc 其中 c 是一个常数 y 和 g 都是二次连续可微函数 该问题的拉格朗日函数为 1212 Lf x xcg x x 一阶条件要求 121212121 11112 0 L x xf x xg x xf x xx xxxg x xx 1 121212122 22212 0 L x xf x xg x xf x xx xxxg x xx 2 12 1212 0 L x x cg x xcg x x 求出上述一阶条件 可得 12 x x 二阶条件 将拉格朗日乘子也看作是变量 则最大化拉格朗日函数的过程可视为无约束最优化过 程 这也就是说 如果解 12 x x 满足 L 的无约束极值中极大值的二阶条件 我们便可 确定 12 x x 是我们约束最优化问题的解 事实上在二阶条件求导过程中 这里与无约束 最优化关键区别在于 与的取值不再是任意非零即可 等式约束中与的取值 有关 1 dx 2 dx 1 dx 2 dx 对等式约束两边求一阶全微分 可得 12 cg x x 112 1121212221 212 0 g x x dgg x x dxgx x dxdxdx gx x 因此等式约束要求 112 21 212 g x x dxdx gx x 对函数 12 yf x x 在 12 x x处进行二阶全微分可得 2 12 12 2 2 111211212122121 1 2 2 121212221222122 2 2 1112112121222 2 dydy d yd dydxdx xx dx fx x dxfx x dx dxfx xdx x dx fx x dx dxfx x dxfx xdx x fx x dxfx x dx dxfx 2 2 1222122 x dxfx x d x 对进行二阶全微分 化简可得 12 g x xc 2 2 2 11121121212221222122 2 2 21112112121222122 212 2 0 1 2 d gd dggx x dxgx x dx dxgx x dxgx x d x d xgx x dxgx x dx dxgx x dx gx x 2 2 将上式代入 可得 2 d y 2 2 2 2 1 1112211221212122212112 2 212 2 dx d yLx xgg x x gx x Lx xLx xgx x gx x 而 2 2 1112211221212122212112 12 11112 22122 2 0g x x x x x x x x Lx x gg x x gx x Lx xLx x gx x g gLL gLL 其中 12 11112 22122 0g x x x x x x x x x g HgLL gLL 为加边海塞矩阵 该加边海塞矩阵的行列式 为 12 11112 22122 0g x x x x x x x x x g DgLL gLL 从而 2 2 1 2 2 1 x x dx d yD g 综上 我们可以得到目标为二元函数 仅包含一个等式约束的最优化条件 在 12 x x 满足拉格朗日函数的一阶条件的前提下 1 12 x 0 Dx x为局部约束最大值的解 1 2 多元目标函数 m 个等式约束的约束最优化条件 现在将拉格朗日方法应用于多元函数 面临的最优化问题为 12 12 max n x xxn yf x xx 1 121 2 122 12 n n m nm stgx xxc gx xxc gx xxc 拉格朗日函数为 1 x x x m j jj j Lfcg 一阶条件 1 x x 0 1 2 j m j j iii Lfg in xxx x 0 1 2 j j j L cgjm 二阶条件 此时加边海塞矩阵为 11 1 1 1 1111 1 1 0 0 0 0 x n mm n m n m nnn gg gg H ggLL ggLL 1 nn 定义 11 1 1 1 11111 1 1 0 0 0 0 x 1 k mm k k m k m kkkkk gg gg Dk ggLL ggLL mn mn 是函数的局部约束最大值的解 x 2 x 0 1 2 k Dkmmn 是函数的局部约束最小值的解 x 2 非线性规划 约束最优化问题中 不等式约束以及选择变量非负的最优化问题称之为非线性规划问 题 我们将先后讨论非负约束和其它形式的不等式约束下极值的一阶条件 即库恩 塔克条 件 然后再给出其二阶条件 2 1 非负约束 考虑一元可微函数 max f x 0stx 由于约束条件 因此可能会出现三种情况 0 x 1 在 x大于零时 取得全局最大值 此时我们得到了一个内点解 在这种情况下 一阶条件是 0fx 和经典问题一样 2 x 等于零时 取得全局最大值 此时我们得到了一个角点解 但仍然 成立 0fx 3 x 小于零时 取得全局最大值 此时我们得到了角点解 但因为作为非线性约束 问题中的一个局部约束最大值 候选点必须比可行域中的邻近点高 从而要求 0fx 2 且 0fx 0 x 3 且 0fx 0 xy stp xp yB x y 拉格朗日函数为 ln xy LyaxBp xp y 该问题的目标函数是拟凹的 约束集是凸集 故可利用库恩 塔克条件求得全局约束最大值 该问题的库恩 塔克条件为 0 0 x L xya px xx 且 0 L xy x x 10 0 y L xy py y 且 0 L xy y y 0 0 xy L xy Bp xp y 且 0 L xy 如何求解 一般情况下 我们讨论在内的8种情况 不过 在具体的问题中 我们可以通过分析题目中隐含的条件 经济含义 初步确定未知量 的范围 以减少讨论的可能情形 0 0 x 0 0 y 0 0 比如 在此问题中 一定成立 另外 由效用函数形式可知 一定成立 因 此 我们只需要讨论两种情况 0 0 x 1 0 0 0 xy 此时库恩 塔克条件变为 0 0 x L xya px xx 10 y L xy py y 0 0 0 xy L xy Bp xp y 解得 0 x B x p y a B 并且有 y Bap 这是一个角点解 2 0 0 0 xy 此时 库恩 塔克条件为 0 0 x L xya px xx 1 0 y L xy py y 0 0 0 xy L xy Bp xp y 解得 1 y x y y y ap x p Bap y p p 并且有 y Bap 这是一个内点解 通过这个例子的讨论 我们知道 虽然非线性规划的库恩 塔克条件的求解过程一般需 要讨论选择变量和拉格朗日乘子为零和大于零所组合成的每一种情形 但我们可以通过对变 量范围的初步分析 以减少情形的可能性从而简化求解的过程 四 最优化的其他主题 接下来我们将回到经典的等式约束最优化领域来讨论包络定理 1 极大值函数 极大值函数是当选择变量都是最优值时候的目标函数 这些选择变量的最优值是外生变 量和参数的函数 一旦选择变量的最优值代入原目标函数中 那么目标函数就间接地称为参 数的函数 因此 极大值函数也称间接目标函数 它是当参数发生变化的时候 目标函数极 大 小 值变化的轨迹 举例 通过求解 max Uu x y 0 xy stp xp yB x y 我们可得 xyxy xxppByyppB 将最优值代入 Uu x y 则可得间接 效用函数 2 包络定理 xy V ppB 包络定理 即使在外生变量可能作为内生选择变量的解的一部分间接进入极大值函数的 情况下 也只有外生变量参数变化的直接效应才需要考虑 为了阐释这一概念 考察下面的无约束最优化问题 其中包含两个变量 x 和 y 以及一 个参数 max f x y 一阶求导可得 0 0 f xy xxx vf xy f xyyy y 如果 v 对外生变量 求导 可得 xy vf xyxx fxyfxyfxy 因为 从而 0 xy fxyfxy v fxy 这一结果表明 间接目标函数对外生变量求导时 只需考虑