状态转移算法及其在工业过程建模与控制中的应用.ppt

状态转移算法及其在工业过程建模与控制中的应用,信息科学与工程学院,周晓君,Part 0 引子 Part 1 建模中的优化问题 part 2 控制中的优化问题 part 3 智能优化算法及状态转移算法 part 4 未来研究方向,Outline,Part 0 引子,一类行测题：数字推理,数字推理题是行测（行政职业能力测验）考试的必考项目，其数字规律纷繁复杂，一般要求作答者在几秒内得出答案。,(1) 7, 9, -1, 5, () A 4; B 2; C -1; D-3 分析：选D，7+9=16； 9-1=8；-1+5=4；5-3=2，16,8,4,2形成等比数列 (2) 1, 2, 5, 29, () A 34; B 841; C 866; D 37 分析：选C，5=12+22；29=22+52；（）=52+292=866,Part 0 引子,(3) 2, 12, 30, () A 56; B 65; C 75; D 56 分析：选D，12=2；34=12；56=30；78=56 (4) 4, 2, 2, 3, 6, () A 6; B 8; C 10; D 15 分析：选D，2/4=0.5; 2/2=1; 3/2=1.5; 6/3=2; 0.5, 1, 1.5, 2成等差，所以后项为2.56=15 (5) 1, 7, 8, 57, () A 123; B 122; C 121; D 120 分析：选C，12+7= 8；72+8 =57； 82+57=121 (6) 95, 88, 71, 61, 50, () A 40; B 39; C 38; D 37 分析：选A ，95-9-5=81；88-8-8=72；71-7-1=63；61-1-6=54；50-5-0=45；40-4-0=36，构成等差数列,Part 0 引子,答案：多做多练，孰能生巧，摸清出题者的思路。,那么出题者的思路是什么呢？,经过分析不难发现，出题者出题的思路千变万化。这好比出题者自己掌握了一套密码（规则），要作答者去猜他的密码。,这是什么逻辑？,答案：毫无逻辑。,做这类题目的方法是什么呢？怎样以最快的速度解决该类问题呢？,既然没有逻辑，那么数字推理题是不是没有答案，或者任何答案都合理？,答案：是。,Part 0 引子,要证明一个结论错误往往比证明它正确容易，因为一个反例就够了！,(1) 7, 9, -1, 5, () A 4; B 2; C -1; D-3 分析：选D，7+9=16； 9-1=8；-1+5=4；5-3=2，16,8,4,2形成等比数列,Part 1 建模中的优化问题,优化视角下的建模问题 非线性系统辨识问题 应用实例,Part 1 建模中的优化问题,小结：,引子里面讲的数字推理题和我们平常接触到的建模问题从本质上是一致的，由“BP网络可以拟合任意非线性”可知，采用BP网络也是可以拟合上面问题的，只是答案或许不在选择中。引子中给出的答案其实和BP网络无关，它是一种多项式拟合，但从本质上属于“核函数理论”。,直接依靠数据进行经验建模，需要确定模型结构和优化模型参数，由于模型结构不确定性，通常采用机理分析或间接的方法。从某种意义上说，机理模型就是完善的经验模型（螺旋分级机）。,优化算法一般用在优化模型参数上，但也有优化模型结构的，比如神经网络结构（层数和隐含层节点数），这从理论上和实践上可行，但从逻辑上讲不通。,Part 2 控制中的优化问题,鲁棒控制问题 PID控制问题,小结：,控制中的优化问题有些是控制中本身存在的优化问题，比如LMI问题。,Part 2 控制中的优化问题,Part 2 控制中的优化问题,Part 2 控制中的优化问题,对其他控制问题，可以将其转换为优化问题的形式。比如PID控制,这一类问题中，一般控制器结构确定，需要优化控制器结构参数。比如采用模糊控制器时，可以优化隶属度函数；采用滑模控制器时，可以优化切换函数系数。采用神经网络控制器时，可以优化网络结构，权系数等。,Part 3 智能优化算法及状态转移算法,常用的智能优化算法 遗传算法（1975） 模拟退火算法（1987） 粒子群算法（1995） 差分进化算法（1995） 人工免疫系统（1996） 蚁群算法（1997） CMA-ES（2001） ,Part 3 智能优化算法及状态转移算法,智能优化算法种类多，机理各异，存在的普遍问题：寻优能力不足，统计性能差。根据“没有免费的午餐”理论，没有一种优化算法能在所有的优化问题上有效。,造成这种情况的原因是: (1)优化问题本身的复杂性：不可微，高维，多模态等。(2) 优化算法的局限性（认识上的不足）。,初中(配方),Part 3 智能优化算法及状态转移算法,高中 (求导，特殊函数),大学 (多元函数极值),Part 3 智能优化算法及状态转移算法,Part 3 智能优化算法及状态转移算法,研究生 （函数的复杂性）,多模态 高维,Part 3 智能优化算法及状态转移算法,收敛性问题,最速下降法 遗传算法 粒子群算法,小结： 基于梯度的优化算法的收敛性，仅是证明算法能使,证明这个结论实际上是没有多大含义的，因为这个条件一般是迭代算法的终止条件，由费马引理可知，函数在极值点的导数为0。也就是说，对于凸优化问题，这个点是永远存在的，只是迭代时间的长短。,Part 3 智能优化算法及状态转移算法,其他智能优化算法的收敛性证明仅证明算法能全局收敛到某一点，但这一点是否是全局最优点没有判定。 全局收敛和收敛到全局最优解是两回事。在一般的智能优化算法中，都采用“贪婪准则”（精英选择）选择个体，这样能保证后代比父代优越，这样保证了算法不会发散。 实际上，最早的随机搜索算法已经证明了其全局收敛性。 Random optimization（1965）,Part 3 智能优化算法及状态转移算法,Part 3 智能优化算法及状态转移算法,最初版本的状态转移算法 带有新算子的状态转移算法 引入交流机制的状态转移算法,Part 4 未来研究方向,状态转移算法的参数学习(正在研究) 基于状态转移算法的约束优化（正在研究） 基于状态转移算法的多目标优化（待研究） 状态转移算法的其他应用（待研究）,选择状态转移算法的理由： （1）物理几何意义明确。 （2）全局搜索能力好。 （