第七章 动态规划方法建模.doc

第七章 动态规划方法建模动态规划是由理查德贝尔曼（Richard Bellman）所建立的，它是解最优化问题的一个特殊“技术”.我们这里用“技术”，是因为动态规划不是一个或一种特殊算法.7.1 动态规划的基本概念在生产和科学实验中，有一类活动的过程，由于它的特殊性，可将过程分为若干个互相联系的阶段，在它的每一个阶段都需要作出决策，从而使整个过程达到最好的活动效果.因此，各个阶段决策的选取不是任意确定的，它依赖于当前面临的状态，又影响以后的发展.当各个阶段决策确定后，就组成了一个决策序列，因此也就决定了整个过程的一条活动路线.这种把一个问题可看作是一个前后关联具有链状结构的多阶段过程（如图7.1）就称为多阶段决策过程，也称序贯决策过程.这种问题就称为多阶段决策问题.在多阶段决策问题中，各个阶段采取的决策，一般来说是与时间有关的，决策依赖于当前的状态，又随即引起状态的转移，一个决策序列就是在变化的状态中产生出来的，故有“动态”的含义.因此，把处理它的方法称为动态规划方法.但是，一些与时间没有关系的静态规划（如线性规划、非线性规划等）问题，只要人为地引进“时间”因素，也可把它视为多阶段决策问题，用动态规划方法来处理.涉及到动态规划，总会有下面几个概念：7.1.1 动态规划的基本概念（）阶段把所给问题的过程，恰当地分为若干个相互联系的阶段，以便能按一定的次序求解.描述阶段的变量称为阶段变量，常用表示.阶段的划分，一般是根据时间和空间的自然特征来划分，但要便于把问题的过程能转化成为多阶段决策的过程.（）状态状态表示每个阶段开始所处的自然状况或客观条件，它描述了研究问题的状况，又称不可控因素.在最短路问题中，状态就是某阶段的出发位置.它既是该阶段某支路的起点，又是前一阶段某支路的终点.通常一个阶段有若干个状态（一般第一个阶段只有一个状态，它构成动态规划的递推方程的出口），每一个阶段的所有状态构成一个集合，叫做状态集合.用一个变量来描述在第个阶段的状态集合上的取值，此变量称为状态变量（如7.2节中最短路问题中的，以及后面要介绍的背包问题、分割问题及设备更新问题中的参数）.这里所说的状态是具体的属于某阶段的，它应具备下面的性质：如果某阶段状态给定后，则在这阶段以后过程的发展不受这阶段以前各阶段状态的影响.换句话说，过程的过去历史只能通过当前的状态去影响它未来的发展，当前的状态是以往历史的总结.这个性质称为无后效性，也称马尔可夫（Markov）性.如果状态仅仅描述过程的具体特征，则并不是任何实际过程都能满足无后效性的要求.所以，在构造决策过程的动态规划模型时，不能仅由描述过程的具体特征这点着眼去规定状态变量，而要充分注意到是否满足无后效性的要求.如果状态的某种规定方式可能导致不满足无后效性，则应适当地改变状态的规定方法，达到能使它满足无后效性的要求.（）决策决策表示当过程处于某一阶段的某一状态时，可以作出不同的决定（或选择），从而确定下一阶段的状态，这种决定称为决策.在最优控制中也称为控制（只有它才是我们能够控制的）.描述决策的变量称为决策变量.它可以用一个数、一组数或一个向量来描述.常用表示第阶段当状态处于时的决策变量，它是状态或状态变量的函数（可能是向量值函数或多值函数）.在实际问题中，决策变量的取值往往限制在某一范围之内，此范围称为允许决策集合.常用表示第阶段当状态处于出发的允许决策集合，显然有.例如，在最短路问题中，.（）策略策略是一个按顺序排列的决策组成的集合.由过程的第阶段开始到终止状态为止的过程，称为问题的后部子过程.由每段的决策按顺序排列组成的决策函数序列称为子策略，记为当时，此决策函数序列即为一个策略.在实际问题中，可供选择的策略有一定的范围，此范围称为允许策略集合.从允许策略集合中找到达到最优效果的策略称为最优策略.（）状态转移方程状态转移方程式确定过程有一个状态到另一个状态的演变过程.若给定第阶段状态和该阶段的决策变量，则第阶段的状态也就完全确定.即的值随和的值变化而变化.这种确定的对应关系，记为，它描述了由第阶段到第阶段的状态转移规律，称为状态转移方程.称为状态转移函数.例如，在最短路问题中，状态转移方程为.（）指标函数和最优值函数用来衡量所实现过程优劣的数量指标，称为指标函数.它是定义在全过程和所有后部子过程上确定的函数.对于要构成动态规划模型的指标函数，应具有可分性，并满足递推关系（详见文献），在实际问题中，很多指标函数都满足此性质.指标函数的最优值，称为最优值函数.根据问题，取min或max之一.在动态规划模型中，总会出现一个或一组递推关系，我们把它称为动态规划的基本方程.7.1.2 动态规划方法的基本思想现将动态规划方法的基本思想归纳如下：一、动态规划方法的关键在于正确写出基本的递推关系式和恰当的边界条件（基本方程）.要做到这一点，必须先将问题的整个过程分成几个相互联系的阶段，恰当地选取状态变量和决策变量及定义最优值函数，从而把一个大问题化成一族同类型的子问题，然后逐个求解.即从边界条件开始，逐段递推寻优，在每一个子问题的求解中，均利用了它前面的子问题的最优化结果，依次进行，最后一个子问题所得的最优解，就是整个问题的最优解.二、在多阶段决策过程中，动态规划方法是既把当前一段和未来各段分开，又把当前效益和未来效益结合起来考虑的一种最优化方法.因此，每段决策的选取是从全局来考虑的，与该段的最优选择答案一般是不同的.三、在求整个问题的最优策略时，由于初始状态是已知的，而每段的决策都是该段状态的函数，故最优策略所经过的各段状态便可逐次变换得到，从而确定了最优策略.动态规划的理论基础叫做动态规划的最优化原理，它是这样描述的：作为整个过程的最优策略具有这样的性质：即无论过去的状态和决策如何，对前面决策所形成的状态而言，余下的诸决策必须构成最优策略.简言之，一个最优策略的子策略总是最优的.动态规划的优劣：优点：（1）易于确定全局最优解.因为它求解的全是一维问题，所以容易确定.（2）能得到一族（全部的）最优解，有利于分析结果.（3）能利用经验，提高求解效率.缺点：（1）到目前为止，没有一个统一的标准模型可供应用.由于问题的不同，有时要将问题转化成满足条件（无后效性、目标函数的可分性）的多阶段决策过程是非常困难的，需要丰富的想象力和灵活的技巧.（2）应用的局限性.“无后效性”条件的限制，降低了动态规划的通用性.（3）在数值计算时，存在所谓的“维数灾难”.当阶段数目较多且每一阶段的允许状态也较多时，计算成本变得非常昂贵，有时使得计算不可能进行下去.在二维或三维动态规划中，问题显得更加突出.7.2 最短路问题问题：某人想进行一次旅行.他住在城市1，而希望到达城市10，见图7.2.这是一次长途的旅行，而且他还必须进行三次中间停留.对他旅行中的三个中间停留站的每一站，都有两到三个不同的城市可供他选择.选择不同的中间站，旅行的花费是不同的.两城市之间的花费以及连接示于图7.2中.由于他希望为这次旅行付出的总花费达到最小，他将确定哪些城市作为他的中间站，显然，它可以用枚举法来解决此问题，总的可能的路线有18条（33218）.但问题肯定有更好的解法，下面我们用更好的方法来解决此问题.我们从终点（城市10）逆序来分析这个问题.第一步：若我们处在第3站，可通过城市8或城市9到达城市10.可用表7.2.1（1）说明： 表7.2.1（1）城市最小花费路径第3站89380280810910第二步：现在假设在第2站，并问哪一条是到达城市10且花费最小的路径.若在城市5，最小花费是510，即（210380，230280）中的最小值，将选用路径5910.同理，若在城市6，最小花费是660，即（350380，380280）中的最小值，将选择路径6910.此结果列于表7.2.1（2）中.表7.2.1（2）城市最小花费路径第2站567510660670591069107810第三步：假定处在第1站.用类似于第2站的分析方法进行分析，例如，由城市2到达城市10的最小花费是830min（320510，350660，400670）括号中和式的第一项是由城市2到城市5、6、7的花费，第二项是城市5、6、7到城市10的最小花费，它可由表31（2）查到，最小花费路径是25910.第1站的所有计算结果有表7.2.1（3）给出.表7.2.1（3）城市最小花费路径第1站234830860810259103591045910第四步：假设处在城市1，这是起点.必须由城市1到城市2、3、4中的一个.最小花费的路径是那一条呢？应用表7.2.1（3）的结果和由城市1到城市2、3、4的花费，则可计算出全旅程的最小花费为： min（300830，200860，350810）min（1130，1060，1160）1060最小花费路径是：135910.上面的解决非常简单.它是基于这样的思考：不论现在处于那一个城市，从最后一个城市开始，将总是选择最优（最小花费）的路径.若在城市10（第4站），就留在那里.若在城市5（第3站），则从城市8或9到达城市10.如此继续下去，直到发现自己在城市1（第0站），并且顺序地找到了最小花费的解，以及实现最小花费的路径.应当注意，即使没有达到第0站，最优解将是什么样，也是清楚的.我们注意到，在第1站，最小费用将是由城市3到城市10的最小费用加上200.另外，如果他改变了他的愿望，并决定从任何其它城市起始，我们也知道最优解是什么.上面的解法虽然简单，但它却富有启发性.一方面，在计算过程中，我们使用了已经计算出的数据，这大大的节约了计算成本；另一方面，我们得到了比我们预期多得多的信息，我们不仅仅解得了从城市1（起点）到城市10的最小费用路径，而且还得到了其它任何一个城市到达城市10的最小费用路径.显然，如果在原问题的旅行图前又增添了一些新的城市，我们已经计算出的数据仍然可以利用，并且进一步的计算不会比上面的计算更复杂.下面我们将上面的解法步骤用符号表示，以期望得到更一般的形式.用符号()表示10个城市.表示城市到城市的距离.如果城市到城市必须经过其它城市，则.于是所有数据构成一个矩阵，即为用表示第站所有城市构成的集合.即，.用表示从第站的城市到目的地的最小费用值.于是上面的解题过程可由下面的递推公式完成： (7.2.1)当然，在每步极小化时，应记住极小值点，这样才能确定最小费用路径.显然，根据对称性，你还可以使用“顺推法”.与之对应，上面的过程称为“逆推法”.7.3 背包问题问题：有人在某地旅游结束后，决定购买一些“特产”，打算带回家，再卖给他的一些同事，指望得到一笔诚实无欺的利润.他知道在他的行李中最多只能带20，才不会超重.他可以购买四种不同类型的特产，其特征如见表7.3.1.表7.3.1项目重量（）估计利润（元）12342354110160260210由于这些项目不可能分割包装，这就限制了只能取其整数倍.根据第六章，此问题可以用整数线性规划来描述.设，表示准备带回家的各种特产的数量，则问题变为求解 (7.3.1) (7.3.2)下面我们将用动态规划技术来解此问题.假设已知的最优值，记为.若是这种情况，我们只需要解一个单变量问题，将代入式(7.3.1)(7.3.2)中，可得 (7.3.3)约束为 (7.3.4)为整数 (7.3.5)由于是一个常数（若已知的值），则目标函数式(7.3.3)仅仅是 (7.3.6)自然，是未知的.但是，我们知道必须满足203 (7.3.7)否则的话，问题式(7.3.3)-(7.3.5)是无解的.若我们规定一个新的变量，通常称为状态变量，则可将式(7.3.4)写成为 (7.3.8)其中，可为，20中任何一个值，因为在这里实际上 是未知的.现在来解由式(7.3.6)和式(7.3.8)给出的一维问题，即 （7.3.9）约束为 (7.3.10)对于每一个值，此问题是易于求解的.例如：得出得出若定义 (7.3.11)则给出的最大值，并且是给出极大值的的值.和二者为的函数，因此极大化将限制在的某些特定值上.若对全部的求解(7.3.9)，可得表7.3.2（1）：表7.3.2（1）012345600110110220220330001122378910111213330440440550550660660344556614151617181920770770880880990990110077889910考虑到，现在已经知道满足原问题(7.3.1)-(7.3.2)的约束的最优值是怎样地取决于，以及怎样地取决于原问题的任一可能的限制.现在来考虑下述问题： (7.3.12)约束为 (7.3.13)为什么要考虑式(7.3.12)和(7.3.13)形式的最优化问题呢？首先我们注意到，这个问题的所有可行解，也是原问题的可行解.其次，若固定于某些值上，则问题是单变量问题，这可从下面的一些论述看出.利用定义式(7.3.11)可看出，在式(7.3.12)中是.所以，式(7.3.12)可写为 (7.3.14)注意，对于固定的，式(7.3.14)是一个单变量最优化问题.然而，式(7.3.14)不是完全的.由式(7.3.13)和的非负性，可看出，所以有 (7.3.15)其中，.于是可将式(7.3.14)写为 (7.3.16)其中.式(7.3.16)是相当重要的.首先，它是一个单变量最优化问题，易于求解；而且对于全部可能的值，在表7.3.1（1）中已经给出，求只需查表7.3.1（1）就行.这样，利用式(7.3.16)和表7.3.1（1）可计算出的值.结果见表7.3.2（2）中.表7.3.2（）012345600110160220270330000101078910111213380440490550600660710101010114151617181920770820880930990104011000101010同理，下面我们来考虑问题 (7.3.17)约束为 (7.3.18)此外，若用式(7.3.12)给出的，式(7.3.17)可写为 (7.3.19)并且，由于，可获得类似于式(7.3.16)的形式，即 (7.3.20)其中.现在可以用式(7.3.20)和表7.3.2（2）可求出的值.见表7.3.2（3）：表7.3.2（3）012345600110160220270330000000078910111213380440490550600660710000000014151617181920770820880930990104011000000000最后，我们来考察如下问题： (7.3.21)其中极大化是从0到之间的整数上考虑的.回到原问题，因为意味着允许携带物品的总重量，故此时只须求时的值，即利用表7.3.2（2）的值，可知道.此时，.我们已经得到了最优值以及，注意到，从表7.3.2（3）可知道，而且.同理，表7.3.2（2）告诉和.最后，在表7.3.1（1）中得到.于是原问题的解为：， ，.在这个例子中，我们的解题方法有类似于上一节最短路问题求解的特征：(1)用解四个单变量的最优化问题，代替解一个四变量的最优化问题.(2)就象最短路问题一样，我们先来处理一个变量（最短路问题中，先考虑最后1站），接着是两个变量，直到最后我们才处理了全部变量.(3)尽管我们感兴趣的是的情形，但是除了最后一步仅是对求解外，我们对的全部可能的整数值（），求解了问题.如果用和分别表示第种物品的重量和获利（）.表示剩余下的用于携带物品的重量.表示用于携带物品的重量为时带第种物品的最大利润.则有下面的递推方程可表示上面的解题过程： (7.3.22)用此方法解题，可以节约计算.7.4 分割问题问题：给定一个正数，将其分成个部分，使这部分的乘积最大.下面我们用动态规划的方法来解决这个问题.注意到是未指定的.首先我们令 即表示任何一个正数分成部分，它们乘积的最大值.乘积的最大值可这样分解：它的第1部分为，且剩余的为分成部分时乘积的最大值.第一步：考虑的情形（最简单的情形）.对于这个问题，即任何一个正数分成部分，显然乘积的最大值为.因此，我们定义 (7.4.1)第二步：考虑的情形.即将数分成乘积最大的部分.设其中的一部分为，则另一部分为，于是 (7.4.2)利用式(7.4.1)上式也可写成这是一个含参数的单变量最大化问题，可用数学分析的方法求最大化.对右端函数的变量求导数并令其导数等于，就得到时有最大值.因此我们求得了的显式表达式：且其第部分为. (7.4.3)第三步：考虑的情形.即将数分成乘积最大的部分.设其中的一部分为，则剩余部分的和为，于是 (7.4.4)利用式(7.4.1)上式也可写成这是一个含参数的单变量最大化问题，可用数学分析的方法求最大化.对右端函数的变量求导数并令其导数等于就得到时有最大值.因此我们求得了的显式表达式：且其第部分为. (7.4.5)第四步：根据(7.4.1)(7.4.3)(7.4.5)，现在我们猜测且其第部分为. (7.4.6)下面用归纳法来证明.事实上，的情形已经证明.假设时(7.4.6)成立.第五步：当时，因为 (7.4.7)利用假设，则这仍然是一个单变量的最优化问题.利用数学分析的知识可求得且其第部分为.这样就完成了归纳法的证明.最后：将代入式(7.4.6)，我们得到正数分割成部分时最大乘积为且分割的第一部分为，剩余部分为，将此部分分割成份，使得乘积最大的分割中第一部分为，又剩余了，再将此部分分割成份，依次下去，我们会得到每一部分都是.于是，原问题就解决了.答案是：给定一个正数，将其等分成个部分，这样部分的乘积最大.我们仍然将上面的计算方法归结为下面的递推方程： (7.4.8)值的注意的是，我们的方法当问题改变为如下时仍然有效：将一个正整数分割成（）个正整数使其乘积最大.但在每一步求解最优化时不能使用经典方法.建议读者动手做做.7.5 简单的设备更新问题一部用于化学处理的设备，特别易于遭到腐蚀的损坏，致使影响生产效率.设当用了年后，从运转中得到的净收入（扣除运转费用后），可用下式给出 (7.5.1)由式(7.5.1)可看出，这部设备在使用一定年限后应该淘汰.更新的价值为22，并且当它被更换后，它又有了五年的生产寿命.经常保持有一部已用了一年的设备在运转.若每年做一次决策，继续保持这部设备或更换它，那么采用什么策略会使一个规划期限内（五年）的总赢利为最大？由于式子(7.5.1)给出了净收入，可看出，年赢利是收入与花费之差（即扣除运转费用）.由此，若保持这部现用设备，则赢利为 (7.5.2)而更换这部设备，赢利为 (7.5.3)由于这部设备已没有挽救的价值，所以从新设备中的净赢利不取决于所更新设备的使用年限.所以为从新设备中第一年的赢利.现在让我们把问题公式化.我们希望求出五个逐年决策的序列，即，保持或更换，使从五年运转中的赢利为最大.所以希望 (7.5.4)其中，由式(7.5.2)或式(7.5.3)给出，哪一个由作出的决策来定.现在让我们来处理这个多级最佳化问题.若倒过来排各级的序号，则分析起来将方便些，即，第一级表示还剩下一年，因此从第五级开始.图7.3上表示了我们将采用的符号，对于时间，将做出保持或更换的决策.若决策保持这个设备，可看出可由下式给出 (7.5.5) 若更换这个设备，则.图7.4更详细地解释了上述记号与约定.现在假设剩下的运转时间为一年（最后一级）.定义当设备使用了年时，进入最后一个运转年，采取或时获得的最大赢利.那么，很清楚有 (7.5.6)用式(7.5.6)的采样计算如下：表7.5.1中第一栏包含了，当设备还剩一年运转时间时，对不同使用期的设备全部计算.表7.5.1设备役令剩下的运转年限23.543.559719122035.547.5(或)67.583315.527.547.563（或）78.541027.547.563755427.547.563756427.547.56375现在我们需要对还剩下两年或更多年运转期的设备，发展一种计算最大赢利的一般方法.定义具有役令的设备进入第运转年时采用或R的最大赢利.可由定义很清楚地给出 (7.5.7)应用最佳化原理、定义和式(7.5.7),可得 (7.5.8)现在用式(7.5.8)计算.由式(7.5.5)知.一些采样计算为 我们前面已经计算了.由此得 同理 剩余的计算结果列表于7.5.1的各栏中. 现在我们能够回答原始的问题了.若目前有一运转了一年的设备，查表7中行的第五栏，由此可计算最佳的五年策略.可看出，最大的赢利为91，并保持这个设备一年.现在移到第四栏的第二行，应为现在设备已用了两年.可看出，最佳的策 仍是保持设备.现在移到第三栏第三行，则必需更换设备.若这样做，则移到了第二栏第一行.继续保持设备，并移到第一栏第二行.这条路径已描绘在表7.5.1中.可看出，最佳策略是.这就是说，在运转的前两年我们保持设备，在第三年更换，然后继续保持两年.最大的赢利将为91.当然，我们可以用这个算出来的表，来回答可能提出的其它问题.例如，假设我们希望在下一个五年里获得最大的赢利，起始点是使用了两年的设备.对于这种情况，存在有两种最佳的策略，得出相同的赢利为83.这些最佳策略是 或读者可通过表74绘出这些路径.当这两种策略得到相同的总赢利83时，若一个是考虑到在五年周期中的前两年产生43.5的赢利，另一个在前两年中只产生35.5，如果企求获得较多赢利越早越好（实际上常是这样），则第一个策略比第二个更好. 练习用动态规划解下面问题：（）（）（）（）某工业部门根据国家计划的安排，拟将某种高效率的设备五台，分配给所属的甲、乙、丙三个工厂，各工厂若获得这种设备之后，可为国家提供的盈利如表7.5.2所示.问：这五台设备如何分配给各工厂，才能使国家得到的盈利最大.表7.5.2工厂设备台数甲乙丙某工厂要对一种产品制订今后四个时期的生产计划，据估计在今后四个时期内，市场对于该产品的需求量如表7.5.3所示.表7.5.3时期需求量假定该厂生产每批产品的固定成本为千元，若不生产就为；每单位产品成本为千元；每个时期生产能力所允许的最大生产批量不超过个单位；每个时期末未售出的产品，每单位需付存储费.5千元.还假定在第一个时期的初始库存为，第四个时期末的库存量也为.试问该厂应如何安排各个时期的生产与库存，才能在满足市场需求的条件下，使总成本最小.阅读材料渡河问题 人、狼、鸡、米渡河问题：人、狼、鸡、米各一均要过河，船一只.船需要人划，另外至多还能载一物，而当人不在时，狼要吃鸡，鸡要吃米.问人、狼、鸡、米怎样过河才能无一损失？这是一个有趣的数学游戏，问题比较简单，可用递推方法解决.但我们并不想这样做，我们希望更有意义的解决方案.解法一：因为问题中出现了四种不同的元素，故我们期望用四维向量表示它们，即 （Man, Wolf, Cock, Rice）又因为当河的一岸上的情形已知时，另一岸上的情形必然已知.故可用1或0表示是否在该岸上，具体如下：左岸右岸（1，1，1，1） （0，0，0，0）（1，1，1，0）（0，0，0，1）（1，1，0，0）（0，0，1，1）（1，0，0，0）（0，1，1，1）（1，0，1，0）（0，1，0，1）（1，0，0，1）（0，1，1，0）（1，0，1，1）（0，1，0，0）（1，1，0，1）（0，0，1，0）表中列出了所有可能的16种状态，当然，根据对称性，河的一岸还会出现另一岸的8种情形.这种向量的表示意义也很明确，如（1，0，1，1）表示人、鸡、米在该处，而狼在另一处，等等.根据题意，有些状态是不能允许的，就是表中用标记的6种，因为这6种状态中会出现河的一岸一物被另一物所吃的情况.剩下的10种状态我们用标记出，这些都是系统允许出现的，所以我们称为可取状态.接下来的问题是如何表示船的一次运载.船上的状态也可以用前面的四维向量表示，例如，船上装有人（人必须在船上）和鸡表示为（1，0，1，0）.因为“船需要人划，另外至多还能载一物”，故船上只有4种可能状态：（1，0，0，0），（1，1，0， 0），（1，0，1，0），（1，0，0，1）.我们在这四个向量前面加上表示第次渡河.这样我们可以通过加法运算来表示船的一次运载.例如：在状态（1，0，1，1）之下船运载了米，即 （1，0，1，1）（1，0，0，1）（0，0，1，0）.自然，由于问题的要求，运算的结果状态必须是可取状态.在上面的处理下，问题有了如下的的提法：寻求一种齐数步的系统状态转移过程，使系统从初始状态（1，1，1，1）变换到状态（0，0，0，0）.如果没有这样的转移过程，或所有状态转移过程陷入循环状态，则问题无解.具体解答过程为： 上面过程中标记“”的为不允许状态（或不可取状态），标记“”的为不可能状态，标记“！”的为虽然是可取状态但产生了循环的情形.从上面的过程看出，经过7次状态转移，就能使状态从初始状态（1，1，1，1）变为（0，0，0，0），所以经过7次渡