委员会机器模型及其应用

1、委员会机器模型及其应用【摘要】：委员会机器是由一个门网络和多 个专家神经网络组成的模块化集成系统。门网络将任务划分成多个子 任务，专家神经网络各自承担全局任务中的一项子任务 ，最后将各子任 务的解进行组合，实现对全局任务的求解。大量文献已经证实，整个系 统的泛化性能可通过联合多个简单专家网络并组成委员会机器的方 法得以提高。但在现实应用中，人们常因问题太复杂而无法对任务进 行准确分解；由于现实问题的复杂程度千差万别，导致对委员会机器中 专家网络 简单”程度把握的困难。因此,如何自动地更准确划分任务并 为各子任务分配合适的专家网络，成为发挥委员会机器潜在性能的关 键。针对这些问题，本文着重做了以

2、下工作:1.传统的委员会机器使用 模糊C均值算法(FCM)对样本集进行聚类，以实现分解任务的目的。 针对FCM算法只能对类别规模相似的数据集进行聚类的情况，提出了含影响力因子的模糊C均值算法(FCMef)。为每个类别都赋予一个影 响力因子，使各类别的规模可以通过影响力因子得以控制。利用影响 力因子指数来调节各类别的影响力对比度，使FCM算法和FCMef算 法统一到一个通用的模型中。2提出了自适应的含影响力因子的模糊 C均值算法(AFCMef)及相对更稳定的两阶段 AFCMef算法。在FCMef 算法中:1)影响力因子取值较大时更能体现类别间的规模差异 ；2)如果 影响力因子过大，则会出现类别消

3、失的迹象。AFCMef算法利用上述两 个现象，启发式地寻找最优影响力因子指数。3针对传统的委员会机器 中采用单层线性网络作为专家网络时 简单”程度过于单一的情况，对 单层非线性专家网络作了推广，并最终推广到了采用多层BP网络作 为专家网络的更一般情况。4概括了神经网络(专家网络)训练的一般 过程,总结了训练过程中对训练结果的影响因素，从训练策略的角度提 出了积极训练策略和消极训练策略。5分别对降水、南中国海台风移 动路径和恶意代码行为特征三类实际数据进行实验，肯定了委员会机 器及本文对它所做的一些改进的作用。特别地，在利用降水数据对改 进的委员会机器模型进行参数建模，得到三个关键参数在模型中取

4、得 较好预测效果时取值的相互关系规律，为同类问题的参数取值提供参 考。【关键词】：委员会机器人工神经网络聚类模块化类规模【学位授予单位】：华东师范大学【学位级别】：博士【学位授予年份】：2008【分类号】：TP183【目录】：摘要6-7ABSTRACT7-17符号说明17-19第1章绪论19-371.1委员会机器的产生背景19-221.1.1人工神经网络的产生和发 展19-201.1.2委员会机器的产生20-221.2委员会机器国内外研究现状 22-281.2.1相关概念22-241.2.2委员会机器的优势和条件241.2.3委员 会机器的结构24-281.3专家混成系统与模块化模糊神经网络

5、(MFNN)28-331.3.1Modular模糊神经网络的网络结构29-301.3.2Modular模糊神经网络的门网络训练 30-331.3.3Modular模 糊神经网络的专家网络训练 331.4内容及组织结构33-371.4.1委员会 机器模型存在的若干问题33-351.4.2研究目标及组织结构35-37第2 章基于门网络的改进技术37-772.1C均值目标函数37-382.2含影响力因子的硬聚类算法（HCMef）38-622.2.1HCM算法回顾38-402.2.2HCMef 算法 40-52223 自适应 HCMef 算法（AHCMef）和两 阶段聚类策略52-582.2.4AHC

6、Mef算法实验58-622.3含影响力因子的 模糊聚类算法（FCMef）62-742.3.1FCM算法回顾62-632.3.2FCMef算法 63-692.3.3AFCMef算法和两阶段聚类策略 692.3.4AFCMef算法实验 69-742.4小结74-77第3章基于专家网络的改进技术 77-1113.1含单 层专家网络的委员会机器模型 77-933.1.1线性神经元77-803.1.2线性 委员会机器80-843.1.3S形神经元84-893.1.4S形委员会机器89-933.2 含多层专家网络的委员会机器模型93-1103.2.1BP网络概况93-953.2.2BP 网络结构 95-9

7、73.2.3BP训练算法回顾 97-1063.2.4BP 网 络应用于委员会机器106-1093.2.5增加专家数量与提高单个专家能力 109-1103.3小结110-111第4章神经网络训练策略111-1314.1训练策 略相关因素111-1254.1.1训练过程111-1124.1.2结束训练条件 112-1144.1.3权值更新条件114-1154.1.4增量训练与批量训练 115-1184.1.5学习率调整技术118-1254.2消极和积极训练策略 125-1284.3小结128-131第5章实验数据模拟131-1495.1实际数据介 绍 131-1335.1.1DS_RAINFALL

8、 数据集 1315.1.2DS_TYPHOON 数据集 1315.1.3DS_VIRUS 数据集 131-1335.2数据模拟结果 133-1495.2.1 线 性委员会机器对DS_RAINFALL数据集的比较分析133-1375.2.2线性 委员会机器对DS_RAINFALL数据集的参数建模137-1405.2.3BP委 员会机器对DS_RAINFALL数据集的测试140-1415.2.4线性委员会机器对DS TYPHOON数据集的测试141-143525委员会机器对DS_VIRUS数据集的测试143-149第6章结论及展望149-1536.1本文小结及主要创新点149-1506.2本文局限

9、不足和今后研究方向150-153 致谢153-155参考文献155-163作者在学期间取得的学术成果163-165附录A完整数据165-171A.1Sine曲线(DS_SINE)165-166A.2非线性方 程数据 166-168A.2.1Takagi-Suge no连续数据 (DS_TS_C)166-167A.2.2Takagi-Suge no离散数据 (DS_TS_D)167-168A.3Zimm 数据(DS_ZIMM)168-169A.4 两类相同规 模点集(DS_C2E)169A.5两类不同规模点集(DS_C2UE)169-170A.6多 类不同规模点集(DS_CNUE)170-171

10、本论文购买请联系页眉网站。出师表两汉：诸葛亮先帝创业未半而中道崩殂，今天下三分，益州疲弊，此诚危急存亡之秋也。然侍卫之臣不懈于内，忠志之士忘身于外者，盖追先帝之殊遇，欲报之于陛下也。诚宜开张圣听，以光先帝遗德，恢弘志士之气，不宜妄自菲薄，引喻失义，以塞忠谏之路也。宫中府中，俱为一体；陟罚臧否，不宜异同。若有作奸犯科及为忠善者，宜付有司论其刑赏，以昭陛下平明之理；不宜偏私，使内外异法也。侍中、侍郎郭攸之、费祎、董允等，此皆良实，志虑忠纯，是以先帝简拔以遗陛下：愚以为宫中之事，事无大小，悉以咨之，然后施行，必能裨补阙漏，有所广益。将军向宠，性行淑均，晓畅军事，试用于昔日，先帝称之曰能”是以众议举宠

11、为督：愚以为营中之事，悉以咨之，必能使行阵和睦，优劣得所。亲贤臣，远小人，此先汉所以兴隆也； 亲小人，远贤臣，此后汉所以倾颓也。 先帝在时，每与臣论此事，未尝不叹息痛恨于桓、 灵也。侍中、尚书、长史、参军，此悉贞良死节之臣， 愿陛下亲之、信之，则汉室之隆，可计日而待也“。臣本布衣，躬耕于南阳，苟全性命于乱世，不求闻达于诸侯。先帝不以臣卑鄙，猥自枉 屈，三顾臣于草庐之中，咨臣以当世之事，由是感激，遂许先帝以驱驰。后值倾覆，受任于 败军之际，奉命于危难之间，尔来二十有一年矣。先帝知臣谨慎，故临崩寄臣以大事也。受命以来，夙夜忧叹，恐托付不效，以伤先帝之 明；故五月渡泸，深入不毛。今南方已定，兵甲已足，当奖