学术报告-智能优化方法及其在控制系统中的应用

智能优化方法及其在控制系统中应用,北京理工大学自动化学院任雪梅 联系方式：,智能优化方法,智能优化方法的来源于：生物界的活动规律动物群体的运动现象生物的生存规则总之，希望从自然界或者人类的运动规律受到启发，为解决科学和工程的难题找到一种新途径和新方法。 智能优化方法-仿生优化方法,主要内容,仿生优化方法概念人工神经网络遗传算法粒子群算法蚁群算法仿生优化算法在控制系统中的应用,一、仿生优化方法的基本概念,基本概念：根据自然界中生物的活动规律、群体运动以及生存原理，形成仿生智能优化方法，以便解决科学和工程中计算难题。学习自然界的生物目标：解决工程难题有效性 实时性,人工神经网络,人工神经网络是国内外研究的重点和热点，它是受人脑结构启发的智能方法。,多学科交叉技术领域 功能上模拟人脑单个神经元多层神经元连接模型分布式并行信息处理,遗传算法,达尔文生物进化论原则1：适者生存原则2：优胜劣汰 自然选择模拟自然界进化过程得 到的优化算法随机性,粒子群算法,模拟鸟群扑食模拟鱼群扑食随机性群体性自己以往经验别人以往经验效率高,蚁群算法,灵感来自于：蚂蚁在寻找食物过程中发现路径的行为。觅食规则 移动规则 避障规则 播撒信息素规则 越多蚂蚁，信息素越多越少蚂蚁，信息素越少,蚂蚁搬食物,仿生智能优化方法的特点,仿生算法群体性随机性并行性高效性全局优化与局部优化,二、人工神经网络,大脑皮层上的神经细胞相互连接生物神经网络分析工具数学和信息处理抽象人脑神经网络建立简化数学模型总之，人工神经网络是一种旨在模仿人脑结构及其功能的信息处理系统,人工神经网络特征及应用领域,主要特征：并行处理、分布式存储与容错性自学习、自组织和自适应性应用领域： 联想记忆；参数辨识； 神经网络控制；智能检测； 函数的非线性映射；模式分类与模式识别； 智能优化计算,神经元,脑组织的基本单位结构的最小单位功能的最小单位主要是由以下几种组成细胞体：神经元的主体树突：细胞体向外延伸突起的神经纤维轴突：细胞体伸出最长的一条神经纤维突触：神经元之间的输入输出接口,细胞体相当于一个微处理器，在生物神经元中，突触为输入输出接口，树突和细胞体为输入端，接受突触点的输入信号。兴奋状态与抑制状态；突触延时与不应期；突触结构的可塑性、学习、遗忘与疲劳；,生物神经元的信息处理,人工神经元的输出仅有一个，用j 表示神经元输出，则输出与输入的对应关系如图中的某种函数表示，被称为转移函数（非线性）,令 表示t时刻神经元j接收的来自神经元i的信息输入， 表示时刻神经元j的信息输出，则神经元j的状态表达式：,-神经元的阈值 -神经元i到j的突触 -神经元转移函数或激励函数,神经元的数学模型,感知器的数学模型,单个神经元数学模型(感知器)为,感知器对苹果和橘子分类,感知器对苹果分类,感知器对橘子分类,多层神经网络,单隐层前馈网（三层前馈网或三层感知器）：输入层、隐藏层和输出层。,BP神经网络,三层的前馈神经网络，即无反馈性网络。BP网络是一个全局性的逼近器，即对解空间中所有的数据进行逼近。,BP算法更新后的结果,神经网络的优点神经网络的逼近能力强系统建模泛化能力强缺点：神经网络的理论分析很难（二次非线性映射）神经网络是一个“黑箱”神经网络容易陷入局部极小值神经网络的训练时间长神经网络对初始权值有较大影响,人工神经网络在控制中的应用,控制器与辨识器解决复杂非线性、不确定系统控制问题增强系统鲁棒性，改善系统性能的方法神经网络控制所具有的独特优点非线性逼近能力学习能力强自适应性不依赖于模型的控制方法,神经网络在控制中的作用有以下几种：一般控制系统动态系统建模一般控制系统控制器的参数优化作用反馈控制系统控制器与其他智能控制方法相融合,在忽略A/D、D/A转换器的误差，控制器、辨识器的计算误差与计算延时情况下，可简化下图：,神经控制系统的简化框图,确定性系统神经网络控制的设计,设计控制器，校正对象的特性，使控制系统达到要求的性能指标，即使控制系统在r作用下，由控制器给出的控制量u作用于对象，使其输出y跟踪r。,在已知被控对象的一些先验知识情况下：神经网络做辨识器，在线识别对象模型。可自适应学习环境的变化，获取准确的系统信息。神经网络做控制器，自适应学习对象、环境的变化，并实现给定的控制性能。,一般实际系统特点：不确定不确知随机,PID控制基本算法为式中，u(k)为控制器在k时刻的输出，e(k)为控制系统在k时刻的误差； 分别为比例、积分、微分系数。,PID控制,神经网络优化PID参数,比例环节:控制分量为：与误差e(k)成比例，比例系数增大，可减小稳态误差，提高控制精度，但会降低系统稳定性。积分环节:控制分量为 与误差e(k)的积分成比例，可提高系统无差度，使系统稳态性能得到提高。,PID控制器各环节的作用,微分环节:控制分量为其中,该环节在 时起作用，有助于提高系统稳定性，增加系统阻尼比，但是放大了噪音信号。,问题：PID控制器各环节的参数如何调节才能使系统具有好的性能？（过渡时间短，超调量小，稳定性好）,PID 控制要取得好的控制效果，就必须对比例、积分和微分三种控制作用进行调整以形成相互配合又相互制约的关系，这种关系不是简单的“线性组合”，可从变化无穷的非线性组合中找出最佳的关系。神经网络所具有的任意非线性表示能力，可以通过对系统性能的学习来实现具有最佳组合的PID 控制。,神经网络调节PID控制器各环节的参数,例1 已知被控线性离散系统为 控制系统阶跃输入r(k)=1,用CHNN进行PI控制器参数的优化设计。,应用例子：,PI控制器为CHNN由两个神经元组成。网络的能量函数为：控制系统的目标函数为：,设计神经PID控制器，网络的权系值V=v1,v2,v3是PID的三个系数。,神经网络和PID结合的另一种方式：神经PID控制器,准则函数：,则权值调整算法为：,例2：被控对象具有非线性特征，仿真模型,（a）：系统输出；（b): 控制器输出。,神经网络控制有两个神经网络：NNI系统辨识器，NNC自适应PID控制器工作原理： 由NNI对被控对象在线辨识，通过对NNC的权值进行实时调整，使系统具有自适应性，达到有效控制.,神经网路控制系统框图,神经网络控制,遗传算法（GA）,遗传算法（Genetic Algorithm）是模拟达尔文生物进化论的自然选择和遗传学机理的生物进化过程的计算模型，是一种通过模拟自然进化过程搜索最优解的方法。启发式自然进化算法继承选择交叉变异,发明人： 美国Michigan大学J.Holland教授时间：1975专著：Adaptation in Natural and Artificial Systems简单遗传算法（SGA）,美国密歇根大学,J.Holland教授,生物遗传学与遗传算法基础术语对照表,遗传算法的流程图,编码形式：解的形式适应度函数：目标函数选择算子：寻找最优解交叉算子：寻找最优解变异算子：跳出局部极值,选择算子（selection）,从群体中选择优胜的个体，淘汰劣质个体的操作叫选择。轮盘赌选择法:各个个体的选择概率和其适应度值成比例 适应度比例方法随机遍历抽样法局部选择法 当个体适应度越大其被选择的概率越高、反之亦然。,交叉算子（crossover）,模拟生物遗传基因的重组 两个父代个体的部分结构加以替换重组而生成新个体的操作 实值重组 ：离散、中间、线性、扩展线性 二进制交叉 ：单点 、多点 、均匀洗牌、缩小代理,单点交叉,变异算子（mutation）,对群体中的个体串的某些基因座上的基因值作变动 对群中所有个体以事先设定的编译概率判断是否进行变异 对进行变异的个体随机选择变异位进行变异。 克服遗传算法陷入局部极值保持群体的多样性,遗传算法特点,处理对象：不是参数，而是参数集（编码的个体）不是单个可行解，而是多个可行解的集合适应度函数值来评估个体好坏概率的变迁规则指导搜索方向,遗传算法在控制中的应用,通常情况下，遗传算法在控制中作用：在线参数估计控制模型的参数辨识控制器的参数优化可以应用于很多控制系统中，如：机器人控制，伺服系统等和其他优化方法结合起来应用，如：神经网络控制，模糊控制,遗传算法在系统辨识中的应用,假定A(z-1)、B(z-1)和C(z-1)未知，则待辨识参数为及d，参数向量包含na+ nb+ nc+1个参数，即 真参数为： 要应用遗传算法对参数向量进行在线优化的参数辨识，必须解决两个问题，一个是确定多参数编码映射方法，另一个是如何根据目标函数确定适值。,遗传算法参数辨识仿真,设线性离散系统的数学模型，其中 d=2采用伪随机二进制序列（PRBS）输入，辨识系统参数为 及时滞。设参数的范围是-2,+2，要求辨识精度0.02，则每个参数需要用l+m二进制位串表示，取l=2，m=6，即每个参数可用8位的位串表示，若时滞d不大于4，则时滞可用2位的位串表示，所以参数集位串长度为48+2=34位。,参数设置,种群规模N=50交叉概率Pc=0.90变异概率Pm=0.001适值函数中的cmax值分段选取操作初期，cmax=1.85m操作后期，cmax=1.6m优化精度0.0001,初期种群的系统辨识的平均值和整体收敛情况。可以看出，参数和时滞是同步的，仿真在第150步之后就明显地向真值收敛。平均m参数和时滞d为a1=-1.712240, a2=0.727344b0=0.802865, b1=0.802865, d0=2.000,(a)初期系统辨识 (b)后期系统辨识,GA的相关网站,The Genetic Algorithms Archive /galist/Genetic Adaptive Systems LAB (GASLAB) GASLAB is hosted by the Computer Science Department of the University of Nevada-Reno. /sushil/papers/conference/conf.html / http:/www.mat.sbg.ac.at/uhl/GA.html /research/gag/ email: publications: (downloading website) /research/gas/pubs.html Illinois Genetic Algorithms Laboratory Prof. David E. Goldberg, Director ./illigal.home.html Michigan State University Genetic Algorithms Research and Applications Group (GARAGE)Bill Punch (,517-353-3541)Erik Goodman (,517-355-6453) //pub/EC/GA/遗传算法教程www.doc.ic.ac.uk/nd/surprise_96/journal/vol4/tcw2/report.html遗传算法资源链接 www.scs.carleton.ca/csgs/resources/gaal.html遗传算法FAQ /faqs/ai-faq/genetic/,粒子群算法,粒子群算法是模拟鸟群、鱼群寻找食物的优化方法。由于该方法容易实现、精度高、收敛速度快等优点，则在解决实际过程中得到了广泛应用。又名：粒子群优化算法（Particle Swarm Optimization） 发明时间：1995年Eberhart博士和Kennedy博士,核心原理图,智能优化算法的最根本任务：在解空间中找到最优解（最小值或最大值）。,假设每只鸟知道周围鸟的情况数学模型粒子是没有质量，只有速度和位置第一部分：与原来的速度相关量第二部分：自我认识第三部分：社会认识重要的参数： w, c1, c2Pi（t）：当前粒子所经历的最好位置Gi（t）：所有粒子所经历的最好位置,重要结论：算法的收敛性：w, c1, c2和网络的拓扑结构相关粒子群最重要：平衡“开发”和“探索”二种能力 “开发”能力强，即收敛速度快，但易陷入局部极值。 “探索”能力强，即寻找到全局最优解几率高，但搜索速度慢。收敛性分析很难，因为数学模型中有随机变量。当处理实际问题相结合时，只需要给出实际的目标函数即可。,PSO 算法主要步骤初始参数：粒子数目，维数，位置，速度，参数，P，G等等。计算每个粒子的 适应度函数（目标函数）；如果比P(每个粒子所经历中最好的)好，则更新P;选择目前P中最好的粒子，如果比G(所有粒子中经历最好的)更好，则更新G;更新粒子的速度和位置判断是否达到结束的条件，如果没有，转向第二步；否则，结束程序；,例子：PSO算法和递归神经网络的非线性系统辨识,动态递归Elman神经网络粒子群优化（PSO）学习算法辨识的参数包括：网络结构、权值、自反馈系数。采用二步策略辨识第一步是采用基于PSO算法来优化Elman网络的初态和结构，用梯度下降法来训练网络；第二步在整个辨识过程中均用PSO算法来在线训练Elman网络。结论1：自动优化动态递归神经网络结论2：改善模型辨识的收敛性结论3：有效的非线性动态系统辨识方法,对象：超声波马达(USM)作为一种新型马达具有许多显著的优点及广泛的应用性，因此超声波马达的辨识与控制也就变得尤为重要。传统的马达都是基于电磁原理工作的，将电磁能量变换成转动能量。而USM则是基于利用超声波振动能量变换成转动能量的全新原理来工作的。 影响超声波马达的运行因素有很多，如温度、负载、工作频率和工作电压以及其它许多参数，用传统的辨识方法很难建立一个精确而有效的数学模型。粒子优化算法使Elman神经网络的网络结构、权值、结构层初值、自反馈系数均得到了优化，提高了神经网络的辨识能力。,Elman 神经网络,Elman网络是一种含有三层神经元的递归神经网络，包括输入神经层、隐层、输出层和结构层，结构层用来记忆隐层的前一时刻状态，可认为是一步延迟算子。前馈层的连接权值是不变的，而反馈层的连接权值是可变的。其次，网络中每个节点增加一个自反馈连接。,参数设置,PSO算法确定Elman网络的初态和结构，用梯度下降学习算法来训练网络；在整个过程中均用PSO算法来在线训练Elman网络USM（超声波马达）模型的参数设置有： 工作频率为27.8kHZ 工作电压幅值为300V 额定输出力矩为2.5kg.cm 旋转速度3.8m/s。Elman网络的参数设置为： 所有权值的初始值范围均为-5,5 自反馈系数初值为0.4 隐层神经元的初始个数为10,USM辨识与建模方框图,初始状态的速度辨识曲线,振动状态的速度辨识曲线,扰动状态的辨识误差曲线,稳定状态的速度辨识曲线,实验结论,辨识结果表明在整个运行过程中，PSO算法的最大辨识误差不大于10-6，辨识精度提高至99.99%.当系统受到外部躁声的扰动时，该算法能实现在线学习的能力。可以应用于非线性系统的辨识,PSO 相关网站,/wiki/Particle_swarm_optimization/matlabcentral/fileexchange/7506（matlab工具箱）/较好的期刊和杂志IEEE Transcations on Evolutionary ComputationIEEE Transcations on System, Man and Control, A, B, CApplied Soft ComputationSoft Computation,蚁群算法,蚁群算法(ant colony optimization, ACO) 寻找优化路径的机率型算法 作者：Marco Dorigo 时间：1992模拟进化算法,灵感来源：蚂蚁觅食时的通讯机制的启发解决计算机算法学中经典的“旅行商问题（Traveling Salesman Problem, TSP）”。TSP问题属于易于描述但难于解决的著名难题之一，至今世界上还有不少人在研究它。TSP问题的基本描述：某售货员要到若干个村庄售货，各村庄之间的路程是已知的，为了提高效率，售货员决定从所在商店出发，到每个村庄都售货一次后再返回商店，问他应选择一条什么路线才能使所走的总路程最短? 其实有很多实际问题可归结为TSP问题。,蚁群算法的原理,蚁群算法是对自然界蚂蚁的寻径方式进行模似而得出的一种仿生算法。信息传递：外激素(pheromone)的物质正反馈现象：某一路径上走过的蚂蚁越多，则后来者选择该路径的概率就越大。,蚂蚁寻找食物的过程,（1）在蚁群寻找食物时，它们总能找到一条从食物到巢穴之间的最优路径。这是因为蚂蚁在寻找路径时会在路径上释放出一种特殊的信息素。（2）当它们碰到一个还没有走过的路口时，就随机地挑选一条路径前行。（3）释放出与路径长度有关的信息素。路径越长，释放的激素浓度会越低。当后来的蚂蚁再次碰到这个路口的时候，选择激素浓度较高路径概率就会相对较大。这样形成一个正反馈。最优路径上的激索浓度越来越大，而其它的路径上激素浓度却会随着时间的流逝而消减。,蚂蚁从A点出发，速度相同，食物在D点，可能随机选择路线ABD或ACD。假设初始时每条分配路线一只蚂蚁，每个时间单位行走一步，本图为经过9个时间单位时的情形：走ABD的蚂蚁到达终点，而走ACD的蚂蚁刚好走到C点，为一半路程。,本图为从开始算起，经过18个时间单位时的情形：走ABD的蚂蚁到达终点后得到食物又返回了起点A，而走ACD的蚂蚁刚好走到D点。 按信息素的指导，最终所有的蚂蚁会放弃ACD路线，而选择ABD路线，这也就是正反馈效应。,蚁群算法与TSP问题,随着城市个数n的增长，TSP问题的可能解在迅速地增长，从而产生所谓的组合爆炸。例如： 10城市的TSP问题有大约180000个可能解。20城市的TSP问题有大61016个可能解。50城市的TSP问题有大约1062个可能解，假设目前世界上最快的计算机(运算速度每秒万亿次)每次运算可以完成一个解的计算，它也需要用31041年才能算完全部的结果！而宇宙的历史也仅仅只有1.5109年!,数学符号,为模拟实际蚂蚁的行为，首先引入如下记号：m：蚁群中蚂蚁数量；bi(t)：t时刻位于城市i的蚂蚁个数；dij ：两城市i和j之间的距离；ij：路径（i，j）的能见度，反映由城市i转移到城市j的启发程度；ij ：路径（i，j）上的信息素轨迹强度；Pkij 在城市i的蚂蚁k的转移概率，j是尚未访问的城市。,重要规则,蚂蚁k从城市i到城市j的转移概率 ：较多的信息素一般对应着较短的路径蚂蚁选择较短路径的概率更大,重要步骤,1、初始化A(t) ：初始化蚁群2、评价A(t) 根据目标函数对每只蚂蚁的适应度做一评价3、释放信息素 根据适应度，对蚂蚁虽经过的路径按一定的比例释放信息素。适应度越高，所释放的信息素越多。4、蚂蚁移动 蚂蚁依据前面蚂蚁所留下的信息素和自己的判断选择路径5、信息素的挥发 信息素会随着时间不断消散,参数选择,人工蚂蚁数量n=20信息素重要程度参数=1启发式因子重要程度参数=1.5信息素蒸发系数1-取0.1迭代次数为100次,实验结果,最佳路线图,最短路径长度迭代次数图,另一个TSP问题,实验结论,不能保证找到最优解不易陷入极小值能找到可行解效率比较高运行时间较少,智能优化算法在实验室研究平台中的应用,无人电动自行车四自由度机械手视觉伺服转台系统三级水箱实验平台群机器的定位与跟踪,无人电动自行车,基本组成模块,控制系统传感器系统无线通信模块把手调节系统自保护系统车速调节系统智能控制算法,试车视频,目前研究所涉及的问题,遥控器控制车速斜角传感器的数据采集和去噪电子罗盘的数据采集无线模块的调试无人自行车的平衡问题,机械臂是工业机器人的一种，它由操作机、控制器、伺服驱动系统和检测传感装置构成，是一种仿人操作、自动控制、可重复编程、能在三维空间完成各种作业。,四自由度机械手,机器臂系统的基本组成,硬件和软件界面,驱动器,编码器,控制卡,机械臂人机界面,机械臂演示,机械臂写简单汉字“二”字,视觉转台跟踪系统,多轴转台是航天、航海等领域中进行模拟和测试的关键设备，应用十分普遍。视觉的转台跟踪系统反馈：视觉信息目的：目标的检测 目标的跟踪验证：模拟跟踪过程 验证相关算法,系统简介,主体：两维数控转台反馈信号：摄像头所获的图像信息控制芯片：TI6420 和TI2812 DSP图像处理算法转台电机控制算法总之，通过图像处理获得系统信号，通过系统总线传入控制器，并计算和给出电机驱动信号，使驱动电机完成目标跟踪。,系统结构图,转台所涉及的研究内容,两轴转台系统动力学建模 数字图像采集和图像处理算法 交流永磁同步电机控制系统建模 基于神经网络的非线性补偿 DSP通信技术及上位机控制界面的开发基于粒子群算法的目标定位与跟踪,识别的目标：黄色的脸目标函数：矩形区域的RGB值与黄色比较目标的定位目标的跟踪,三级水箱实验平台,过程控制系统经过长期不断的发展，尤其是在充分利用计算机技术的基础上取得了很大的进步，在日常生产过程中已发挥其重要作用。过程控制系统特点：多变量分布参数大时延大惯性非线性,THSA-1型过控综合自动化控制系统,被控对象是由不锈钢储水箱、（上、中、下）三个串接有机玻璃水箱、4.5KW三相电加热模拟锅炉(由不锈钢锅炉内胆加温筒和封闭式锅炉夹套构成)、盘管和敷塑不锈钢管道等组成。 水箱模拟锅炉盘管管道及阀门,检测装置和执行机构,检测装置 压力传感器温度传感器 流量传感器变送器,执行机构 电动调节阀 水泵 电磁阀 三相电加热管,软件界面,单容控制主要由单容PID控制、单容改进PID控制、单容单神经元控制、单容BP网络控制、单容模糊控制，以及单容神经网络预测控制。,实验结果,单容改进PID控制及控制变量界面,单容单神经元控制及控制变量界面,单容BP网络控制及控制变量界面,单容神经网络预测控制及控制变量界面,单容模糊控制及控制变量界面,最近几年的国际期刊论文,1 X. M. Ren, A. B. Rad, P. T. Chan, and W. L. Lo, “Online identification of continuous time systems with unknown time delay”, IEEE Transactions on Automatic Control, Vol.50, No.9, 1418-1422, 2005.2 X. M. Ren and A. B. Rad, “Identification of nonlinear systems with unknown time delay based on time delay neural networks”, IEEE Transactions on Neural Networks, vol.18,no.5, 1536-1541, 2007.3 Xuemei Ren, Frank L Lewis and Jingliang Zhang, “Neural network compensation control for mechanical systems with disturbances”, Automatica, Vol. 45, No.5, 1221-1226, 2009. 4 X. M. Ren, Cai. C. Y, V. Venkataramanan, Frank L Lewis, S. S. Ge, “Feedforward control based on neural network for disturbance rejection in hard disk drives”, IET Control Theory and Applications, Vol. 3, No.4, 411 418, 2009. 5 Xuemei Ren, Frank L Lewis, Shuzhi Sam Ge, “Feedforward control based on neural networks for hard disk drives”, IEEE Transactions on Magnetics, Vol.45, No.7, 3025-3030,2009.6 X. M. Ren, A. B. Rad, P. T. Chan, and W. L. Lo, “Identification and control of continuous-time nonlinear systems via dynamic neural networks”, IEEE Transactions on Industrial Electronics, Vol.50, No.3, 478-486, 2003.7 X.M.Ren, A.B.Rad，Adaptive nonlinear compensation control based on neural networks for nonlinear systems with time delay，International Journal of Systems Science，Vol.40, No.2, 1283-1292,2009.8 Jing Na, Xuemei Ren, Neural Network Control of Nonlinear Time-delay System with Unknown Dead-Zone and its Application to a Robotic Servo System, Trends in Intelligent Robotics: Communications in Computer and Information Science, Springer, Berlin, vol.103, pp.338-345, 2010.,9 Jing Na, Xuemei Ren, Adaptive Neural Network State Predictor and Control for Nonlinear Time-delay Systems, International Journal of Innovative Computing, Information and Control,vol. 6, no.2, pp.627- 639, 2010.10 Jing Na, Xuemei Ren, Repetitive Controller for Time-delay Systems Bas