运筹学第五章动态规划

运筹学第五章动态规划第1页，课件共86页，创作于2023年2月

美国数学家贝尔曼（Richard.Bellman)创始时间上个世纪50年代创始人第2页，课件共86页，创作于2023年2月多阶段决策过程的最优化第一节第3页，课件共86页，创作于2023年2月

动态规划是用来解决多阶段决策过程最优化的一种数量方法这类活动可以按时间顺序分解成若干个相互联系的阶段，每个阶段都有若干个方案可供选择多阶段决策过程的最优化的目标：达到整个活动过程的总体效果最优第4页，课件共86页，创作于2023年2月

系统的动态过程可以按照时间进程分为状态相互联系而又相互区别的各个阶段，每个阶段都要进行决策,目的是使整个过程的决策达到最优效果。12n状态决策状态决策状态状态决策阶段阶段阶段第5页，课件共86页，创作于2023年2月分类动态规划离散确定型离散随机型连续确定型连续随机型

根据决策过程的时间参数是离散的还是连续的、过程的演变是确定性的还是随机性的第6页，课件共86页，创作于2023年2月

动态规划是求解某类问题的一种方法，是考察问题的一种途径，而不是一种算法。

必须对具体问题进行具体分析，运用动态规划的原理和方法，建立相应的模型，然后再用动态规划方法去求解。注意：第7页，课件共86页，创作于2023年2月1.生产决策问题：企业在生产过程中，由于需求是随时间变化的，因此企业为了获得全年的最佳生产效益，就要在整个生产过程中逐月或逐季度地根据库存和需求决定生产计划。多阶段决策问题的典型例子：第8页，课件共86页，创作于2023年2月

这时，机器的年完好率为a，即如果年初完好机器的数量为u，到年终完好的机器就为au,0<a<1。

在低负荷下生产时，产品的年产量h和投入生产的机器数量u2的关系为

h=h(u2)

假定开始生产时完好的机器数量为s1。要求制定一个五年计划，在每年开始时，决定如何重新分配完好的机器在两种不同的负荷下生产的数量，使在五年内产品的总产量达到最高。

相应的机器年完好率b,0<b<1。

2.机器负荷分配问题：某种机器可以在高低两种不同的负荷下进行生产。在高负荷下进行生产时，产品的年产量g和投入生产的机器数量u1的关系为g=g(u1)第9页，课件共86页，创作于2023年2月

不包含时间因素的静态决策问题（本质上是一次决策问题）也可以适当地引入阶段的概念，作为多阶段的决策问题用动态规划方法来解决。3.线性规划、非线性规划等静态的规划问题也可以通过适当地引入阶段的概念，应用动态规划方法加以解决。第10页，课件共86页，创作于2023年2月4.

最短路问题：给定一个交通网络图如下，其中两点之间的数字表示距离（或花费），试求从A点到G点的最短距离（总费用最小）。123456AB1B2C1C2C3C4D1D2D3E1E2E3F1F2G531368763685338422213335256643第11页，课件共86页，创作于2023年2月第二节基本概念和基本原理12n状态决策状态决策状态状态决策阶段阶段阶段策略状态转移指标函数基本概念第12页，课件共86页，创作于2023年2月设从甘肃要铺一条煤气管道到北京，途中须经过三个省：陕西、山西、河北，每省设一个中间站。各省建站可供选择的地点及各段距离如下图，现要求选择一条甘肃到北京的铺管线路使总距离最短。○1○2○3○4○5○6○7○8○9○10北京河北山西陕西甘肃8458961610967738423最短路问题多阶段决策问题○1○3○5○8○10路长=21○1○4○6○9○10路长=16每一个阶段的决策合在一起构成一个铺设方案铺设方案1：铺设方案2：一个策略每个策略对应一个路长寻找最优策略寻找路长最短的铺设方案策略第13页，课件共86页，创作于2023年2月1、阶段：○1○2○3○4○5○6○7○8○9○10北京河北山西陕西甘肃8458961610967738423如最短路问题：问题分成4个阶段：通常用k表示阶段，是指对整个过程的自然划分k=1，2，3，412，13，1458，7968，59，69，78，划分阶段的规则：根据时间顺序或空间特征来划分阶段目的：以便按次序来解优化问题线路：第一阶段，甘肃陕西第三阶段：山西河北线路：k=1：k=3：第14页，课件共86页，创作于2023年2月2、状态：第一阶段的状态：○1第二阶段的状态：○2○3○4状态变量描述各阶段状态的变量○1○2○3○4○5○6○7○8○9○10北京河北山西陕西甘肃8458961610967738423如最短路问题：sk第k阶段的状态变量s4第4阶段的初始状态变量s4=⑧第4阶段的初始状态为○8Sk={sk}第k阶段的状态集合S3={s3}={⑤，⑥，⑦}注：n个阶段的决策过程有个n+1状态变量sn+1,表示sn演变的结果，简称为状态各阶段开始时所处的自然状况或客观条件S5={⑩}第15页，课件共86页，创作于2023年2月动态规划中的状态应具有以下性质：1、能描述过程的特征2、具有无后效性(马尔可夫性)当某阶段的状态给定时，这个阶段以后过程的演变与该阶段以前各阶段的状态无关3、状态是直接或间接可以观测的第16页，课件共86页，创作于2023年2月3、决策：当一个阶段的状态确定后，可以作出各种选择从而演变到下一阶段的某个状态，这种选择手段称为决策○1○2○3○4○5○6○7○8○9○10北京河北山西陕西甘肃8458961610967738423决策变量描述决策的变量决策第2阶段当状态为③时的决策变量可取值为：⑤，⑥，⑦={⑤，⑥，⑦}，简称为决策允许决策集合第17页，课件共86页，创作于2023年2月4、策略：由各阶段的决策组成的序列称为策略○1○2○3○4○5○6○7○8○9○10北京河北山西陕西甘肃8458961610967738423最短路问题：策略=铺设方案如{}——允许策略集合最优策略：使整个问题达到最优效果的策略策略：{}最优策略=最短的铺设路线策略第18页，课件共86页，创作于2023年2月策略：由各阶段的决策组成的序列称为策略原过程：一个n段决策过程，从1到n叫作问题的原过程原过程的一个后部子过程：

对于任意给定的k（1≤k≤n），从第k段到第n段的过程称为原过程的一个后部子过程原过程的策略原过程的一个后部子过程的策略：第19页，课件共86页，创作于2023年2月○1○2○3○4○5○6○7○8○9○10北京河北山西陕西甘肃8458961610967738423最短路问题：原过程的一个策略：后部子过程的策略后部子过程的策略后部子过程的策略{①→③，③→⑦，⑦→⑨，⑨→⑩}=p1，4（①）{③→⑦，⑦→⑨，⑨→⑩}{⑦→⑨，⑨→⑩}{⑨→⑩}第20页，课件共86页，创作于2023年2月5、状态转移方程：是确定过程由一个状态到另一个状态的演变过程，描述了状态转移规律。sk第k阶段的状态变量状态转移方程：第21页，课件共86页，创作于2023年2月6、指标函数用于衡量所选定的策略优劣的数量指标称为指标函数最优策略第22页，课件共86页，创作于2023年2月动态规划的基本原理第23页，课件共86页，创作于2023年2月最优化原理：

一个过程的最优策略具有这样的性质，即无论初始状态及初始决策如何，对于先前决策所形成的状态而言，其以后的所有决策必构成最优策略对最短路问题：A○○B1○F○B2○B3○C1○C2○C3○D2○D1○E2○E1则不论前面A如何到达B，B又如何到达C1第24页，课件共86页，创作于2023年2月对最短路问题：来源于动态规划的最优化原理最短路问题的基本方程：k=4,3,2,1由后向前迭代递推公式第25页，课件共86页，创作于2023年2月建立动态规划模型的步骤

1、划分阶段划分阶段是运用动态规划求解多阶段决策问题的第一步，在确定多阶段特性后，按时间或空间先后顺序，将过程划分为若干相互联系的阶段。对于静态问题要人为地赋予“时间”概念，以便划分阶段。

2、正确选择状态变量选择变量既要能确切描述过程演变又要满足无后效性，而且各阶段状态变量的取值能够确定。一般地，状态变量的选择是从过程演变的特点中寻找。

3、确定决策变量及允许决策集合通常选择所求解问题的关键变量作为决策变量，同时要给出决策变量的取值范围，即确定允许决策集合。第26页，课件共86页，创作于2023年2月4、确定状态转移方程根据k阶段状态变量和决策变量，写出k+1阶段状态变量，状态转移方程应当具有递推关系。

5、确定阶段指标函数和最优指标函数，建立动态规划基本方程阶段指标函数是指第k

阶段的收益，最优指标函数是指从第k阶段状态出发到第n阶段末所获得收益的最优值，最后写出动态规划基本方程。

以上五步是建立动态规划数学模型的一般步骤。由于动态规划模型与线性规划模型不同，动态规划模型没有统一的模式，建模时必须根据具体问题具体分析，只有通过不断实践总结，才能较好掌握建模方法与技巧。第27页，课件共86页，创作于2023年2月例一、从A

地到D

地要铺设一条煤气管道,其中需经过两级中间站，两点之间的连线上的数字表示距离，如图所示。问应该选择什么路线，使总距离最短？AB1B2C1C2C3D24333321114最短路径问题第28页，课件共86页，创作于2023年2月

解：整个计算过程分三个阶段，从最后一个阶段开始。

第一阶段（C→D）：C

有三条路线到终点D

。

AB1B2C1C2C3D24333321114DC1C2C3显然有f1(C1)

=1；

f1(C2)

=3；

f1(C3)

=4

第29页，课件共86页，创作于2023年2月

d(B1,C1)+f1(C1)

3+1f2(B1)=mind(B1,C2

)+f1(C2)

=min3+3

d(B1,C3)+f1(C3)1+44=min6=45第二阶段（B→C）：B到C

有六条路线。AB1B2C1C2C3D24333321114DC1C2C3B1B2(最短路线为B1→C1→D)第30页，课件共86页，创作于2023年2月

d(B2,C1)+f1(C1)

2+1f2(B2)=mind(B2,C2

)+f1(C2)

=min3+3

d(B2,C3)+f1(C3)1+43=min6=35AB1B2C1C2C3D24333321114DC1C2C3B1B2(最短路线为B2→C1→D)第31页，课件共86页，创作于2023年2月第三阶段（

A→B

）：A到B有二条路线。

f3(A)1=d(A,B1)＋f2(B1)＝2＋4＝6

f3(A)2=d(A,B2)＋f2(B2)＝4＋3＝7∴f3(A)

=min=min｛6,7｝=6d(A,B1)＋f2(B1)d(A,B2)＋f2(B2)(最短路线为A→B1→C1→D)AB1B2C1C2C3D24333321114DC1C2C3B1B2A第32页，课件共86页，创作于2023年2月AB1B2C1C2C3D24333321114DC1C2C3B1B2A最短路线为A→B1→C1→D

路长为6第33页，课件共86页，创作于2023年2月练习1：AB1B2C1C2C3C4D1D2D3E1E2E3F1F2G53136876368533842221333525664最优路线为：A→B1→C2→D1→E2→F2→G

路长＝18求从A到G的最短路径3第34页，课件共86页，创作于2023年2月k=5，出发点E1、E2、E3u5(E1)=F1E1F1GAB1B2C1C2C3C4D1D2D3E1E2E3F1F2G531368766835338422123335526643u5(E2)=F2E2F2Gu5(E3)=F2E3F2Gk=6,F1Gf6(F1)=4F2G

,f6(F2)=3第35页，课件共86页，创作于2023年2月k=4，f4(D1)=7

u4(D1)=E2f4(D2)=6

u4(D2)=E2f4(D3)=8

u4(D3)=E2k=2,f2(B1)=13

u2(B1)=C2f2(B2)=16u2(B2)=C3f3(C1)=13

u3(C1)=D1f3(C2)=10

u3(C2)=D1f3(C3)=9

u3(C3)=D1f3(C4)=12

u3(C4)=D3k=3,=minf1(A)=mind1(A,B1)+f2(B1)d1(A,B2)+f2(B2)5+133+16=18k=1,u1(A)=B1u2(B1)=C2u3(C2)=D1u4(D1)=E2第36页，课件共86页，创作于2023年2月u1(A)=B1u2(B1)=C2u3(C2)=D1u4(D1)=E2u5(E1)=F1E1F1Gu5(E2)=F2E2F2Gu5(E3)=F2E3F2G759

u5(E2)=F2u6(F2)=G最优策略AB1B2C1C2C3C4D1D2D3E1E2E3F1F2G531368763685338422213335256643第37页，课件共86页，创作于2023年2月求从A到E的最短路径路线为A→B2→C1→D1→E

，最短路径为19AB2B1B3C1C3D1D2EC25214112610104312111396581052练习2：1第38页，课件共86页，创作于2023年2月

生产与存储问题：某工厂生产并销售某种产品。已知今四个月市场需求预测如下表，又每月生产j个单位产品的费用为

每月库存i个单位产品的费用E(i)=0.5i(千元），该厂最大库存容量为3个单位，每月最大生产能力为6个单位，计划开始和计划期末库存量都是零，试制定四个月的生产计划，在满足用户需求条件下，使总费用最小。阶段k=1，2，3，4第k阶段的状态变量ski月1234g(i)需求2324S1={0}，S2={0,1,2,3}，S3={0,1,2,3}，S4={0,1,2,3}=第k个月月初的库存量第39页，课件共86页，创作于2023年2月

生产与存储问题某工厂生产并销售某种产品。已知今后四个月市场需求预测及每月生产j个单位产品的费用如下：

月1234需求2324k=1，2，3，4sk=第k个月月初的库存量S1={0}S2={0,1,2,3}S3={0,1,2,3}S4={0,1,2,3}={2,3,4,5}每月库存i个单位产品的费用E(i)=0.5i(千元），该厂最大库存容量为3个单位，每月最大生产能力为6个单位，计划开始和计划期末库存量都是零，试制定四个月的生产计划，在满足用户需求条件下，使总费用最小。={2,3,4,5}={0,1,2,3}={3}第40页，课件共86页，创作于2023年2月生产与存储问题某工厂生产并销售某种产品。已知今四个月市场需求预测如下表，又每月生产j个单位产品的费用为

每月库存i个单位产品的费用E(i)=0.5i(千元），该厂最大库存容量为3个单位，每月最大生产能力为6个单位，计划开始和计划期末库存量都是零，试制定四个月的生产计划，在满足用户需求条件下，使总费用最小。i月1234g(i)需求2324k=1，2，3，4sk=第k个月月初的库存量一个策略=一个生产方案2，5，0，42，3，2，4费用：21（千元）费用：23（千元）最优策略：使总费用最小的生产方案第41页，课件共86页，创作于2023年2月

生产与存储问题某工厂生产并销售某种产品。已知今四个月市场需求预测如下表，又每月生产j个单位产品的费用为

每月库存i个单位产品的费用E(i)=0.5i(千元），该厂最大库存容量为3个单位，每月最大生产能力为6个单位，计划开始和计划期末库存量都是零，试制定四个月的生产计划，在满足用户需求条件下，使总费用最小。阶段k=1，2，3，4状态变量sk=第k个月月初的库存量i月1234g(i)需求2324状态转移方程：第42页，课件共86页，创作于2023年2月当k=4时，u4(s4)对应的总费用=生产费+库存费i月1234g(i)需求2324库存费E(i)=0.5i，最大库存容量为3个单位，最大生产能力为6个单位，计划开始和计划期末库存量为零012347436.5326215.51第43页，课件共86页，创作于2023年2月当k=3时，i月1234g(i)需求2324库存费E(i)=0.5i，最大库存容量为3个单位，最大生产能力为6个单位，计划开始和计划期末库存量为零012301230u3(3)对应的总费用=生产费+库存费第44页，课件共86页，创作于2023年2月i月1234g(i)需求2324库存费E(i)=0.5i，最大库存容量为3个单位，最大生产能力为6个单位，计划开始和计划期末库存量为零023451212.51313.51221123411.51212.51311.5120123811.51212.580301288011.512012347436.5326215.51第45页，课件共86页，创作于2023年2月当k=2时，i月1234g(i)需求2324u2(s2)对应的总费用=生产费+库存费第46页，课件共86页，创作于2023年2月023451212.51313.51221123411.51212.51311.5120123811.51212.5803012811.51280k=3当k=2时，012334561818.51617165234517.51815.516.5123417012313.51714.515.515.5415313.5017.51516第47页，课件共86页，创作于2023年2月当k=1时，i月1234g(i)需求2324u1(0)对应的总费用=生产费第48页，课件共86页，创作于2023年2月k=2012334561818.51617165234517.51815.516.512341717.51516012313.51714.515.515.5415313.50当k=1时，023452221.52122121.5第49页，课件共86页，创作于2023年2月生产存储问题的基本方程：第50页，课件共86页，创作于2023年2月最优化原理：一个过程的最优策略具有这样的性质，即无论初始状态及初始决策如何，对于先前决策所形成的状态而言，其以后的所有决策必构成最优策略最短路问题的基本方程：k=4,3,2,1生产存储问题的基本方程为：第51页，课件共86页，创作于2023年2月k=n,n-1,n-2,…,3,2,1动态规划的基本方程为：其中opt为最优，可取min或max第52页，课件共86页，创作于2023年2月

现有数量为a（万元）的资金，计划分配给n个工厂,用于扩大再生产。假设：xi为分配给第i个工厂的资金数量（万元）；gi(xi)为第i个工厂得到资金后提供的利润值（万元）。问题是如何确定各工厂的资金数，使得总的利润为最大。据此，有下式：投资分配问题第53页，课件共86页，创作于2023年2月

令：fk(x)=以数量为x的资金分配给前k

个工厂，所得到的最大利润值。用动态规划求解，就是求fn(a)的问题。

当k=1

时，f1(x)=g1(x)（因为只给一个工厂）

当1＜k≤n

时，其递推关系如下：设：y

为分给第k个工厂的资金（其中0≤y≤x

），此时还剩x

－y（万元）的资金需要分配给前k-1

个工厂,如果采取最优策略，则得到的最大利润为fk－1(x－y),因此总的利润为：

gk(y)＋fk－1(x－y)

第54页，课件共86页，创作于2023年2月

如果a

是以万元为资金分配单位，则式中的y只取非负整数0，1，2，…，x。上式可变为：所以，根据动态规划的最优化原理，有下式：第55页，课件共86页，创作于2023年2月

例题：设国家拨给60万元投资，供四个工厂扩建使用，每个工厂扩建后的利润与投资额的大小有关，投资后的利润函数如下表所示。

投资利润0102030405060g1(x)0205065808585g2(x)0204050556065g3(x)0256085100110115g4(x)0254050606570解：依据题意，是要求f4(60)

。第56页，课件共86页，创作于2023年2月按顺序解法计算。第一阶段：求f1(x)。显然有f1(x)＝g1(x)，得到下表

投资利润0102030405060f1(x)＝

g1(x)0205065808585最优策略0102030405060第二阶段：求f2(x)。此时需考虑第一、第二个工厂如何进行投资分配，以取得最大的总利润。第57页，课件共86页，创作于2023年2月最优策略为（40，20），此时最大利润为120万元。同理可求得其它f2(x)

的值。第58页，课件共86页，创作于2023年2月最优策略为（30，20），此时最大利润为105万元。第59页，课件共86页，创作于2023年2月最优策略为（20，20），此时最大利润为90万元。最优策略为（20，10），此时最大利润为70万元。第60页，课件共86页，创作于2023年2月最优策略为（10，0）或（0，10），此时最大利润为20万元。

f2(0)

＝0。最优策略为（0，0），最大利润为0万元。得到下表最优策略为（20，0），此时最大利润为50万元。第61页，课件共86页，创作于2023年2月

投资利润0102030405060f2(x)020507090105120最优策略(0,0)(10,0)(0,10)(20,0)(20,10)(20,20)(30,20)(40,20)第三阶段：求f3(x)。此时需考虑第一、第二及第三个工厂如何进行投资分配，以取得最大的总利润。第62页，课件共86页，创作于2023年2月最优策略为（20，10，30），最大利润为155万元。同理可求得其它f3(x)

的值。得到下表第63页，课件共86页，创作于2023年2月

投资利润0102030405060f3(x)0256085110135155最优策略(0,0,0)(0,0,10)(0,0,20)(0,0,30)(20,0,20)(20,0,30)(20,10,30)第四阶段：求f4(60)。即问题的最优策略。第64页，课件共86页，创作于2023年2月最优策略为（20，0，30，10），最大利润为160万元。第65页，课件共86页，创作于2023年2月

练习：求投资分配问题得最优策略，其中a＝50万元，其余资料如表所示。

投资利润01020304050g1(x)02140528085g2(x)015365073100g3(x)02560656870第66页，课件共86页，创作于2023年2月例：某公司打算在3个不同的地区设置4个销售点，根据市场部门估计，在不同地区设置不同数量的销售点每月可得到的利润如表所示。试问在各地区如何设置销售点可使每月总利润最大。地区销售点01234123000161210251714302116322217x1=2，x2=1，x3=1，f3(4)=47

第67页，课件共86页，创作于2023年2月

有一个徒步旅行者，其可携带物品重量的限度为a公斤，设有n

种物品可供他选择装入包中。已知每种物品的重量及使用价值（作用），问此人应如何选择携带的物品（各几件），使所起作用（使用价值）最大？物品

12…j…n重量（公斤/件）a1a2…

aj…

an每件使用价值c1c2…cj…

cn

这就是背包问题。类似的还有工厂里的下料问题、运输中的货物装载问题、人造卫星内的物品装载问题等。四、背包问题第68页，课件共86页，创作于2023年2月设xj为第j种物品的装件数（非负整数）则问题的数学模型如下：用动态规划方法求解，令

fx(y)=总重量不超过

y公斤，包中只装有前k种物品时的最大使用价值。其中y≥0，k

＝1,2,…,n。所以问题就是求fn(a)

第69页，课件共86页，创作于2023年2月其递推关系式为：当k=1时，有：第70页，课件共86页，创作于2023年2月例题：求下面背包问题的最优解物品123重量（公斤）325使用价值8512解：a＝5

，问题是求f3(5)第71页，课件共86页，创作于2023年2月第72页，课件共86页，创作于2023年2月