管理运筹学第9章动态规划课件

第9章动态规划2/6/20231课件教学目标与要求【教学目标】1.理解下列基本概念：状态变量，决策变量，策略，状态转移方程，指标函数和最优值函数2.理解动态规划的基本方程和最优化原理3.理解动态规划模型建立过程5.掌握顺序算法与逆序算法解题方法【知识结构】2/6/20232课件[引例]马车驿站问题124833538667863235AB2B1D2D1C3C2C4C1EA—B—C—D—E阶段1阶段2阶段3阶段44个阶段EED1

D2D1

D2D1

D2D1

D2C2

C3

C4C1

C2

C31D1E1D2E2C4D1

C4D22C3D1

C3D22C2D1

C2D22C1D1

C1D23B2C2

B2C3

B2C43B1C1

B1C2

B1C3B1

B22AB1

AB2AB2B1C4C3C2C1D1D24321终点路线数可选路线起点阶段一共有2×3×2×1=12条不同的路线f(E)=0f(D1)=2f(D2)=1f(C1)=8f(C2)=5f(C3)=4f(C1)=5f(B1)=8f(B2)=11f(A)=13回顾分析过程:1.将分析对象划分成4阶段;2.每阶段始点状态与终点状态有关,而不考虑始终点状态如何形成(无记忆性);3.每阶段各始点状态为终点状态与始点至终点距离之和的最小值(状态转移)这种最优化方法称为动态规划,由美国数学家贝尔曼等人于20世纪50年代创立.2/6/20233课件9.1.1动态规划的基本概念1.阶段:把所给问题的过程，恰当地分为若干个相互联系的阶段，以便能按一定的次序去求解。描述阶段的变量称为阶段变量，常用k表示。[导入案例]中k=1,2,3,42.状态变量:每个阶段开始所处的自然状况或客观条件(用点集表示).如引例:

第1阶段的状态就是起点A,记为s1={A};

第2阶段有2个状态{B1,B2},记为s2={B1,B2};

第3阶段有4个状态{C1,C2,C3,C4},记为s3={C1,C2,C3,C4};

第4阶段有2个状态{D1,D2},记为s4={D1,D2};3.决策变量:在某一阶段的某个状态时的不同选择,如引例中B1状态下有3种选择:

B1—C1,B1—C2,B1—C3

这3种选择构成了允许决策的集合。不同状态下允许决策的集合也不同，故决策变量是状态变量的函数，即xk(sk)∈D(sk)124833538667863235AB2B1D2D1C3C2C4C1EA—B—C—D—E阶段1阶段2阶段3阶段44个阶段4.策略按顺序排列的决策组成的集合，由过程的第k阶段开始到终止状态为止的过程(或k子过程),k子过程的策略称子策略，记为Pk,n(sk),即Pk,n(sk)={xk(sk),xk+1(sk+1),…,xn(sn)}当k=1时，即为全过程的一个策略。如引例中：D—E，即4到5过程起始有2个状态，D1和D2，因此有P4,5={D1—E，D2—E}5.状态转移方程确定过程是由一个状态到另一个状态的演变过程。第k阶段状态变量值给定后，如果确定决策变量，第k+1阶段状态变量值就完全确定。即：sk+1=T(sk,xk)如引例中：若对A—B1,A—B2选择了A—B1,则s2=5,B1到C有3种选择:B1—C1、B1—C2、B1—C3，若选择了B1—C2,则s3=s2+d(B1,C2)=86.指标函数用来衡量所实现过程优劣的一种数量指标。其基本方程有加法和乘法两种形式，通常加法形式用的较多，其公式为：7.边界条件起始或终止条件。2/6/20235课件5.1.2动态规划的基本原理124833538667863235AB2B1D2D1C3C2C4C1EA—B—C—D—E阶段1阶段2阶段3阶段44个阶段最优化原理

(Optimalityprinciple):最优策略具备这样的性质:无论初始状态与初始决策如何,以后诸决策对以第一个决策所形成的状态作为初始状态的过程而言,必然构成最优策策略.通俗地说:最优策略的子策略也是最优的.例如，在导入案例中，最优策略是A—B1—C2—D1—E,最短距离为13,其子策略:B1—C2—D1—E,C2—D1—E,D1—E也是最优的。依据这一原理，从后往前推各阶段最优子过程，从而得到全程最优过程。设f(i)表示从点i到终点E的最短距离,d(i,j)表示点i,j之间的距离.显然f(E)=0,为该问题的边界条件.k=4决策：D1Ek=3决策：D2E决策：C1D1决策：C2D1k=2决策：C3D2决策：C4D2决策：B1C2决策：B2C3k=1决策：AB1最短路线:AB1C2D1E最短路长:132/6/20236课件5.1.2动态规划的最优化原理2/6/20237课件9.2.1动态规划模型的建立指标函数通常有两种形式：加法形式和乘法形式。2/6/20239课件9.2.2动态规划问题的解法:逆序法最优值函数f(k):从k阶段到E的最短距离；阶段指标函数,即该阶段选择不同路线的距离。从后向前推。S1={A}S2={B1,B2}S3={C1,C2,C3,C4}S4={D1,D2}S5={E}f5(E)=0同理f4(D1)=2,f4(D2)=1同理f3(C2)=5,f3(C3)=4,f3(c4)=5同理f2(B2)=11124833538667863235AB2B1D2D1C3C2C4C1EA—B—C—D—E阶段1阶段2阶段3阶段42/6/202310课件9.2.2动态规划问题的解法:顺序法124833538667863235AB2B1D2D1C3C2C4C1EA—B—C—D—E阶段1阶段2阶段3阶段4最优值函数f(k):从A到k阶段的最短距离；阶段指标函数,即该阶段选择不同路线的距离。从前向后推。S0={A}S1={B1,B2}S2={C1,C2,C3,C4}S3={D1,D2}S4={E}最优值函数:f0(A)=0f1(B1)=5,f2(B2)=3f2(C1)=7,f3(C2)=8,f3(C3)=10,f3(c4)=9f3(D1)=11,f4(D2)=132/6/202311课件k=3x3s3P3(x3)f3(s3)x3*0123450123450379111203791112012345k=2x2s2P2(x2)+f3(s2-x2)f2(s2)x2*01234501234500+30+70+90+110+125+05+35+75+95+119+09+39+79+911+011+311+712+012+312+00591216180121，222，3k=1x1s1P1(x1)+f2(s1-x1)f1(s1)x1*01234550+184+168+1211+911+511+0201，2，3012345甲乙丙00045389711119111211111212方案一:1,2,2方案二:2,1,2方案三:2,2,1方案四:3,2,02/6/202313课件案例2设备负荷问题某种机器可在高低两种不同的负荷下进行生产，设机器在高负荷下生产的产量函数为g=9x，其中x为投入生产的机器数量，季度完好率为a=0.65，在低负荷下生产的产量函数为h=4y，其中y为投入生产的机器数量，季度完好率为b=0.95。设资源拥有量100.解4季度看成4阶段

sk第k季初拥有完好机器数

xk第k季分配给高负荷机器数,则低负荷分配数sk-xk

下季度初完好机器数sk+1=0.65xk+0.95(sk-xk)

第k季产量vk=6xk+4(sk-xk)2/6/202314课件k=4f4是x4的增函数,故最大值解为x4*=s4,相应地有f4(s4)=9s4k=3f3是x3的增函数,故最大值解为x3*=s3,相应地有f3(s3)=14.85s32/6/202315课件Lingo程序model:

sets: JD/1..4/:s,x,v; !定义状态变量、决策变量和指标函数; ZB/1..5/:f; !定义最优值函数;

endsets f(5)=0; !初始化最优值函数; s(1)=100; !初始化状态变量;

@for(jd:x<=s); !决策变量取值限制;

@for(jd(k)|k#lt#4:s(k+1)=0.65*x(k)+0.95*(s(k)-x(k));); !状态转移方程;

@for(jd(k):v(k)=9*x(k)+4*(s(k)-x(k))); !指标函数表达式;

@for(zb(k)|k#lt#5:f(k)=v(k)+f(k+1);); !基本方程;

max=f(1);

!目标;end2/6/202317课件案例3生产库存问题2/6/202318课件案例3生产库存问题2/6/202319课件案例3生产库存问题阶段12345需求/dk23243逆推:f5=26.5,s5=0,x5*=0或3s4=3↑x4*=6←s4=0↑→x4*=0s3=1↑s3=4↑x3*=0或3←→x3*=6s2=3↑s2=0↑s2=0↑x2*=6←→x2*=0→x2*=0s1=0↑x1*=2←s1=3↑→x1*=5s1=3↑→x1*=52/6/202321课件案例4背包问题2/6/202322课件案例4背包问题2/6/202323课件本章小结本章介绍了动态规划的基本概念、基本原理和几种典型的应用问题。要求1）理解动态规划的核心概念状态与状态变量、决策与决策变量、策略、状态转移方程、指标函