关于蜂群算法

1、关于蜂群算法人工蜂群算法，俗称为ABC算法。其实用的并不算多，而且本身这个算法的感觉就像是AFSA人工鱼群算法与ACA也就是蚁群算法的混合。0 引言人工蜂群算法是基于蜜蜂群体的特定智能行为的最优化算法。比较了人工蜂群算法、 差分进化算法(differential evolution )、粒子群算法(PSO和进化算法(EA来解决多维数值问题。 ABC算法的模拟结果比上述几个算法更好，并且能够高效地用于解决多维工程问题。不过这个算法也挺吃具体用来训练的数据集的，不能绝对保证一定会比上述的算法效果好1 扼要介绍进化算法是工人的最优化算法， 能够找到数值问题的近似解路径。 进行算法的优化越来越成 为常

2、规操作， 可能是从算法的根本上进行创新， 这个往往难度较大， 大部分人都是使用第三 方算法对于原本的算法或者是其中的一部分进行某些优化，这其实就算是一个进步了。 当然了，如果对于某个算法进行某些方面的升级， 可能这个算法也就不能算法原版的算法了， 就 好像是 fate stay night 与魔法使之夜的关系，根基相似，作者为同一个人，但是实现的人员 就不同，更不必说流程不同，因此这两个根本就不能算一个东西，最多算是同根生。但是并不能在合理计算时间内找到最佳解路径。一种最近新发表的进化算法就是差分进化算法。差分进化算法已经计划用来克服遗传算法在局部搜索能力方面的不足。遗传算法和差分进化算法最大

3、的不同就是他们实施的算子选择selection operation 不同。遗传算法中， 一个解被选择的机会主要依赖于解的适应度函数。 这其实也是这类算法的一个 顽疾， 那就是这个适应度函数到底应该怎么确定， 按照王小川老师在他的书中的说法， 那些 如果最终的需求是进行函数的取值的最终的拟定的， 倒可以在较多的场合之下把适应度函数 设定为待拟定的函数的取值的倒数， 不过如果是具有实际函数的相关问题， 那就没有固定说 法了，大部分拟定为某个样本的数值与 cluster 中的总 mean 的差的平方求和的倒数， 不过也 有不能满足要求的时候。在差分进化算法中， 所有的解都有相同的机会被选为下一代，

4、也就是它的概率和适应度无关。 在使用自适应变异和交叉变异之后， 新的解和他们的父代一起竞争为下一代的算子。 换句话 说，一个贪心的计划被应用于选择他们的下一代上。 有自适应能力的变异操作、 交叉和贪心 的使用， 这种情况下排除极小概率之下的突然变异的恶性影响， 大部分时候差分进化算法具 有更好的收敛速度。 除了他的简便和灵活性， 差分进化算法也并不像二分遗传算法那样， 面 临任何 Hamming Cliff 问题。因此差分进化算法受到了广泛的关注，并且已经被应用于解决 实际问题中。近年来，群体智能已经成为了很多相关领域科研人员的研究方向。群体智能被定义为：“被社会性的昆虫群体或者是其他社会性动

5、物的聚集性行为所启发的，尝试去设计算法或分布式的问题解决策略”Bon abeau。感觉这个年代仿生学已经无孔不入了。Bonabeau 关注了他们在只在社会性昆虫的上观点，例如白蚁、蜜蜂、黄蜂和一切其他的蚁类物种。但是，群体这个名词被更普遍用来值得是“受限制的互相之间有影响作用的个体 ( agents and individuals )聚集行为” 。经典的群体例子是：围绕蜂巢的蜜蜂群体，然而这个 类比( metaphor )可以使用一个相似的构架扩展其他系统中去。例如，一个蚁群可以认为是一种成员是蚂蚁的群体，鸟群、人群(就是一堆举例)。ACA蚁群算法如果熟悉它会发现其实它很多的设定与 AFSA十

6、分相似。 粒子群算法的出镜率明显要比利用仿生学的原理进行改编的算法的出镜率要高。 粒子群优化算法最近比较热门， 对鸟群或鱼群进行建模。 基于群体 ( population-based )的、 概率性的(stochastic)最优化技术，应用于多维最优化非线性函数问题。粒子群体在搜索空间中飞行， 寻找问题的解。每一个粒子具有一个位置向量，代表问题的候选解。每个粒子都 有一个小的存储他们自己最有位置的存储空间， 和通过他相邻的粒子获得的一个全局最好位 置。其实关于候选解，在不同的模型中也有比较多的不同说法，核心思想大体相似。 生物学中的某些现象应用到机器学习中的例子很多， 比较著名的有基于 “物竞

7、天择适者生存” 的遗传算法， 它应用的还算广泛， 北京航空航天大学的王小川在他的书中也花了 3 章的篇幅 取说明这个算法的应用。后来也有了蚁群算法以及AFSA或者是其变种的萤火虫算法等。后来又有机器学习的前辈们突发奇想， 他们针对蜜蜂也发现了一些它们的生长规律与生活习 性， 大受启发。 他们发现一些蜜蜂群体智能行为的模型已经被用来解决组合问题 ( combinatorial )。文献中只有一种基于蜜蜂群体智能行为的数字化最优算法，Yang 发现了一种虚拟蜜蜂算法 VBA去解决数值最优化问题。VBA被引入去解决2个参数的最优化问题。 在 VBA 中，一个虚拟蜜蜂群体被生成( generate)

8、，并且在空间中随机移动。当他们找到一 些目标花蜜的时候，这些蜜蜂互相交流。目标花蜜对应着一些已经编码的函数值(encodedvalues of function )。最优化问题的解可以通过蜜蜂反应的强弱( intensity )来获得，为了解 决多变量数值函数最优化问题，Karaboga已经将"bee swarm algorithm ”成为"artificial beecolony algorithm ”，和虚拟蜜蜂算法不同， Basturk 和 Karaboga 比较了 ABC 和遗传算法的性 能在他们的论文中。这个反应花蜜的强弱程度的函数其实十分类似ACA中的营养素函数

9、。工作中比较了 ACB和DE、PS0算法，EA,通过一个著名的测试函数(testfunctions )。当然，ABC算法的性能已经在改变控制参数的值的情况下被分析。第二部分，是真实蜜蜂的行为买欧式，第三部分是人工蜂群算法介绍。第四部分是经验学习(experimental )第五部分是获得的模拟结果的展示。2 蜜蜂的真实行为其实这里说明蜜蜂的真实的行为， 侧重点并不在于它们的生物学或者是生态学意义， 而是便 于快速的仿真与建模。最小觅食选择模型导致了模型导致了蜜蜂集体智慧的出现。蜂群包括三个重要组成部分： 食物源、雇佣蜂、和非雇佣蜂。定义了两个引领模式：招募和放弃蜜源。(1) 食物源：蜜源的价值

10、取决于许多因素，比如他的和蜂巢的距离proximity 、丰富程度、能量浓度(concentration浓度，集中)，和采蜜(extracting，提取)减少的能量。简单起见， 适应度可以用一个数量来藐视。感觉完全可以类比 ACA算法中的营养素函数取理解，在ACA 中也是使得样本(或者是物种)最终也是朝着营养素函数搞的区域移动，这样的话cluster的距离也会逐渐的减小，经过一定次数的迭代之后也会变得更为易于分类。(2) 雇佣蜂：被一个特定的、正在开采的食物源关联。他们带着这个特定蜜源的信息距离、 方向、适应度， 并且以一种特定的概率来分享这些信息。 用来分享信息的地方在蜂群 算法中竟然也叫公

11、告板，这个说法与ACA中的说法完全相同。都是用来表示“探路”“开视野”的这波样本到了什么样的程度， 这个具体的程度使用一定的函数或者是中间量的参数表 示出来，将定性的问题定量分析。(3) 非雇佣蜂：找蜜源去开采。他们有两种模式：侦查员搜索附近蜜源， 旁观者(oniookers) 在蜂巢等待，并且从雇佣蜂的信息获得蜜源信息。侦查蜂的平均数量大约是5-10%。RTS玩家对于这个应该深有感触，没有探路开视野操作的RTS玩家根本不适合这个类型的游戏。蜜蜂间的信息交换是最重要的集体知识。 当检测整个蜂巢， 可能区别到一些部分是在整个蜂 巢中都是普遍存在的。 最重要的部分是跳舞区。 食物源质量信息交换发生

12、在跳舞区。 八字舞(waggle dance)，因为现在所有的丰富眠的信息对于旁观者(on looker )是可见的，他可以观看所有舞蹈并且选择一个最合适的蜜源。 更高质量的蜜源有着更高的被选择的可能性。 雇 佣蜂有一定概率分享信息， 和食物适应度成正比， 并且 waggle dance 持续的时间会更长。 因 此，招募是和蜜源适应度成正比的。为了去明白基础的觅食模式：A、B 两个是已发现的食物源，一开始，一个可能的觅食者将会作为一个未雇佣蜂出发。 蜜蜂对于蜂巢周围的食物源知之甚少， 那现在就有两种可能的选 择：(1) 由于内在动力或者外在线索，能够搜索附近的食物(2) 通过观看别的蜜蜂的八字

13、舞被公用不过这里其实也说明了一个隐形的问题， 使用蜂群算法确实可以在一定程度上规避神经网络 的多次迭代中可能会遇到的突然出现的局部极小值的问题，但是这个是建立在随机折返回去的基础之上，并不完全意义上的消除了局部极小值的可能性。在找到食物源之后， 蜜蜂利用自己的能力去记忆位置并且立刻前往开采。因此， 蜜蜂将会变成一个“雇佣蜂” 。雇佣蜂将会从蜜源处背负花蜜返回蜂巢，并且卸货。在卸下蜂蜜之后， 蜜蜂将会有一下选择(1) 放弃蜜源，成为不受约束的蜜蜂( 2)继续采蜜，在离开前，跳招募舞蹈( 3)继续采蜜，不跳招募舞蹈。 很重要的一点是，不是所有蜜蜂会同事开始觅食。实验表明，新的蜜蜂去觅食的几率是和，

14、 最终的总的蜜蜂和现在觅食的成比例的。而且，这三种状态如果赋予了机器学习的含义，也需要敲定在何种状态了进行的是行为1、2 还是 3，而且用来进行最终判断的阈值的确定也是一个明显的问题或者说是短板3 人工蜂群算法人工蜂群算法中，一共有三种蜜蜂，雇佣蜂(employed bee )、观察蜂(onlooker )、搜索蜂(scouts)。群体中一半是雇佣蜂， 另一半是观察蜂。 对于每一个食物源， 只有一个雇佣蜂， 也就是说， 雇佣蜂数量和食物源数量相等。 在放弃蜜源的蜂会变成搜索蜂。 蜜蜂的搜索行为 被概括为以下几点：(1) 雇佣蜂在他们记忆中的附近的食物源决定一个食物源(2) 雇佣蜂和观察蜂在蜂巢

15、分享他们的信息，然后观察蜂决定一个食物源。当然了，具体 的分享出来的位置应该先放在公告板中(3) 观察蜂选择一个他们自己选择的食物源附近选择一个食物源，第一次的选择当然是随 机决定的。(4) 放弃蜜源成为搜索蜂的雇佣蜂开始随机搜索一个新的蜜源3.1主要步骤初始化REPEAT（1 ）将雇佣蜂移动到食物源，并且决定他们的蜂蜜数量（2 ）将观察蜂移动到食物源，并且决定他们的蜂蜜数量（3）移动搜索蜂去搜索新的蜜源（4）记忆迄今为止找到的最好的食物源，暂定的位置当然是公告板中UNTIL （找到满足需求的解）每一次的搜索过程都包含三个步骤：（1 ）移动雇佣蜂和观察蜂到食物源（2）计算他们的蜂蜜数量（3）

16、移动搜索蜂，并且把他们随机放到可能的蜜源（使用轮盘赌法roulette wheel selection ）,这并不是第一次使用到轮盘赌的方法，实际上在随机森林里当根据对应的列向量把每一个决策树都确定好了之后，投票的时候也用上了经典的轮盘赌方法。食物源的蜂蜜数量代表解的质量。每个群体都有搜索蜂， 搜索蜂在搜寻食物的时候，没有任何的导向性。 他们首先忙于找到任何种类的食物源。这种搜索是以低的搜索成本和低的平均蜜源质量为特征的，偶然情况下， 搜索蜂可以找到丰富的、完全未知的食物源。 在人工蜜蜂的例子中， 搜索蜂以发现最快可行解作为目标。算法中，雇佣蜂会被选择并且分类为搜索蜂。分类会被“limit ”

17、参数控制。如果解在预定义的一个尝试次数中，没有得到提高，食物源将会被放弃， 雇佣蜂将会成为搜索蜂。放弃蜜源的实验次数等于limit参数。在一个强壮的搜索过程中，探索和开采行为必须同时进行。当观察蜂和雇佣蜂在解空间中实施开采行为，搜索蜂控制探索行为。 在真是蜜蜂行为中， 招募率代表一个多快蜜蜂群体能搞 找到并开采新发现蜜源的的估计值。虚拟招募将会使用类似的速度值，用不同优化问题中的可行解或者是优质解代替。蜜蜂群体的生存和进化依赖于快速发现和有效使用食物源。相似的工程问题的成功解，也会被类似地用相对快速发现于食物源。尤其是需要实时解决的问题。3.2使用公式说明相关的步骤假设问题的解空间是维的，采蜜蜂与观察蜂的个数都是，采蜜蜂的个数或观察蜂的个数与蜜源的数量相等。则标准的ABC算法将优化问题的求解过程看成是在维搜索空间中进行搜索。 每个蜜源的位置代表问题的一个可能解，蜜源的花蜜量对应于相应的解的适应度。一个采蜜蜂与一个蜜源是相对应的。与第个蜜源相对应的采蜜蜂依据如下公式寻找新的蜜源：K中皇 a, 0-L20 5是区间HiLb的随机数n 怖准的柯算法将新生