（计算机软件与理论专业论文）蚁群神经网络在运动负荷预测中的应用研究.pdf

蚁群神经网络在运动负荷预测中的应用研究 摘要 人工神经网络( a n n ) 是一种非线性动力学系统，是借鉴于生物神经网络发展 起来的新型智能信息处理系统。a n n 以其独特的信息处理方式被广泛应用于各领 域，例如工业生产监控、分类、预测预报、分析处理、疾病的辅助诊断、环境污 染及净化预测等等。b p 神经网络是各种神经网络模型中具有代表意义的神经网 络模型之一，已经获得广泛的应用。但是b p 算法存在着效率较低、收敛速度慢、 易于陷入局部极小值等缺陷，制约了b p 网络在各个领域中的应用。蚁群优化算 法( a n tc o l o n yo p t i m i z a t i o n ，a g o ) 是一种新颖的仿生进化算法，在求解复杂 优化问题尤其是离散优化问题方面展现出了优异的性能和巨大的发展潜力。a c o 作为一种全局优化的启发式算法，用来训练神经网络的权值，可以避免b p 神经 网络的缺陷。 在运动学领域中，研究人体的各项生理生化指标与运动负荷之间的复杂关系 是一项很重要的内容。在生理生化指标和体育运动中运动员所承受的运动训练负 荷之间建立对应关系，是一个典型的不确定的、非线性问题。我国的网球运动正 处于发展阶段，为了迸一步提高我国网球运动竞技实力，缩短与世界一流水平的 差距，需要进行科学化的训练。本文针对网球运动技巧性很强，对训练负荷的量 化分析十分复杂的特点，提出了自己的解决方案。 本文以国家网球队运动员的生理生化指标检测数据作为训练样本，采用将 a c o 与b p 算法相融合共同完成神经网络训练的方法，即a c o - b p 算法，建立针对 运动负荷的蚁群神经网络预测模型，得出网球运动中生理生化指标与训练负荷之 间的对应关系。首先采用a c o 对神经网络权值进行整体寻优，克服b p 算法容易 陷入局部最优的不足；然后以找到的较优的权值为初值，采用b p 算法做进一步 的寻优，克服单一a c o 训练网络时间较长、精度不高的缺点。通过m a t l a b 仿真 试验证明了所用方法的正确性。将该模型应用于“国家网球队信息化平台”中， 进一步验证了模型的有效性和实用性，起到了预期的效果。 关键词：神经网络；b p 算法；蚁群优化算法；负荷分析；生理生化指标 a p p iic a tio na n dr e s e a r c ho fa n tc olo n yn e t w o r kf o r f o r e c a s to fs p o r tl o a d a b s t r a c t a r t i f i c i a ln e u r a ln e t w o r k ( a n n ) i san o n l i n e a rd y n a m i cs y s t e m i ti san e wk i n d o fi n t e l l i g e n ti n f o r m a t i o np r o c e s ss y s t e mb a s e do nt h ed e v e l o p m e n to ft h eb i o l o g i c a l n e u r a ln e t w o r k a n nh a sb e e na p p l i e ab r o a d l yi nm a n yf i e l d sf o ri t su n i q u ef o r mo f d i s p o s i n go fi n f o r m a t i o n ，s u c ha si n d u s t r yp r o d u c em o n i t o r i n ga n dc o n t r o l l i n g ，s t o c k a n a l y s i s ，c l a s s i f i c a t i o n 。b a c k - p r o p a g a t i o nn e t w o r k , w h i c hh a sg o t t e nb r o a d l y a p p l i c a t i o n ，i sr e p r e s e n t a t i v en e t w o r km o d e li nt h e s ed i f f e r e n tn e t w o r km o d e l s b u ti t h a sw e a k n e s s e ss u c h 舔i n e f f i c i e n t ，s l o wc o n v e r g e n ts p e e da n de a s yg e t t i n gi n t ol o c a l m i n i m u m , w h i c hr e s t r i c tt h en e u r a ln e t w o r k sa p p l i c a t i o ni na l lf i e l d s a n tc o l o n y o p t i m i z a t i o n ( a c o ) i san o v e le v o l u t i o n a r ya l g o r i t h m , w h i c hh a ss u p e r i o r i t yo f s o l v i n gc o m p l i c a t e dc o m b i n a t o r i a lo p t i m i z a t i o np r o b l e m se s p e c i a l l yt h ed i s c r e t e o p t i m i z a t i o np r o b l e m s a c oi sah e u r i s t i c sg l o b a lo p t i m i z a t i o n ，i tc a nb eu s e df o r t r a i n i n gn e u r a ln e t w o r ki no r d e rt oa v o i dt h ed e f e c t so fb pn e u r a ln e t w o r k t h er e s e a r c ho ft h er e l a t i o nb e t w e e np h y s i c a li n d e xa n db i o c h e m i c a li n d e xw i t h s p o r t st r a i n i n gb a di sv e r yi m p o r t a n ti nt h ef i e l do fk i n e m a t i c s 。s p o r t st r a i n i n gl o a d a n a l y s i si s at y p i c a lu n c e r t a i na n dn o n l i n e a rp r o b l e mb e c a u s eo ft h ec o m p l e x r e l a t i o n s h i pa m o n gt h ep h y s i c a li n d e xa n db i o c h e m i c a li n d e x t h et e n n i so fc h i n ai si n d e v e l o p m e n ts t a g e i no r d e rt oe n h a n c et h ec o m p e t i t i v es t r e n g t ho fc h i n a st e n n i sa n d n a r r o wt h eg a pw i t ht h eh i g h l e v e la t h l e t e sf r o mt h eo t h e rc o u n t r y , t h en a t i o n a lt e n n i s t e a mm u s tp r o c e s ss c i e n t i f i ct r a i n i n g a c c o r d i n gt ot h e c h a r a c t e r i s t i co ft e n n i s ，t h e p a p e rp r o v i d e san e w m e t h o d i nt h i sp a p e rt h ed a t ao fa t h l e t e s 曲y s i c a li n d e xa n db i o c h e m i c a li n d e xa r eu s e d a st h e t r a i n i n gs a m p l e s a n dan e wn e u r a ln e t w o r kt r a i n i n ga l g o r i t h m , a c o - b p a l g o r i t h m ，i sp r o p o s e dt oe s t a b l i s ha n tc o l o n yn e t w o r km o d e lo fg e t t i n gc o r r e s p o n d i n g r e l a t i o n s h i pb e t w e e np h y s i c a li n d e xa n db i o c h e m i c a li n d e xw i t hs p o r t st r m n l n gl o a d a c o b ps c h e m ea d o p t sa c ot os e a r c ht h eo p t i m a lc o m b i n a t i o n so fw e i g h t si nt h e s o l u t i o ns p a c e ，t h e nu s e sb pa l g o r i t h mt oo b t a i nt h ea c c u r a t eo p t i m a ls o l u t i o n sq u i c k l y t h em e t h o dh a sb e e np r o v e dt ob ev a l i d t h em o d e lf o rf o r e c a s to fs p o r tl o a di s a p p l i e dt ot h ei n f o r m a t i o np l a t f o r mo fn a t i o n a lt e n n i st e a mt ov e r i f yt h ev a l i d i t ya n d p r a c t i c a l i t yo ft h em o d e l ，a n di tp l a y sad e s i r e de f f e c t * h 一 k e yw o r d ：a r t i f i c i a ln e u r a ln e t w o r k ；b pn e t w o r k ；a n tc o l o n yo p t i m i z a t i o n ； l o a df o r e c a s t i n g ；p h y s i c a li n d e xa n db i o c h e m i c a li n d e x h i 独创声明 本人声明所呈交的学位论文是本人在导师指导下进行的研究工作及取得的 研究成果。据我所知，除了文中特别加以标注和致谢的地方外，论文孛不包含其 他人已经发表或撰写过的研究成果，也不包含末获得由国渔滋太堂或其他教 育桩构的学位或证书使用过的材料。与我一同工作的同志对本研究所做的任何贡 献均已在论文中作了明确的说明并表示谢意。 学位论文作者签名：姥碰磁签字嚣期：彬年声月；，e l 学位论文版权使用授权书 本学位论文作者完全了解学校有关保留、使用学位论文的规定，有权保留并 向匿家有关部门或机构送交论文的复印件和磁盘，允许论文被查阅和借阅。本人 授权学校可以将学位论文的全部或部分内容编入有关数据库进行检索，可以采用 影印、缩印或扫描等复制手段保存、汇编学位论文。同时授权中国科学技术信息 研究所将本学位论文收录到中国学位论文全文数据库，并通过网络向社会公 众提供信息服务。( 保密的学位论文在解密后适用本授权书) 学位论文作者签名：批龋嗣移 导师签字： 榔名留 签字尽甥：豳年，胃彭e t 蚊群神经网络在运动负荷预测中的应用研究 1 绪论 当今体育科技竞争日益激烈，想要提高运动成绩必须要有科学的训练方法和 手段，运动竞赛就是科技的大比拼。实旄竞技体育科技工作的指导思想就是要全 面贯彻落实科学技术是第一生产力的思想，实施“科教兴体 战略，完善运动训 练与体育科技紧密结合的管理体制和运动机制。我们的研究就是以训练中的实际 需要为着眼点，针对训练实践中的关键问题，进行科研公关，加强技术创新。全 面推进运动训练的科学化，充分发挥科技酌先导作用，提高我国运动员的运动技 术水平和在世界大赛的竞争实力，为我国运动员在2 0 0 8 年奥运会上取得好成绩 夺取金牌微波贡献。 。 研究背景 自我国网球运动员获得雅典奥运会网球比赛女子双打项誉冠军戬来，圈球运 动在我国已有了长足发展，在一系列国际大赛中创造了优异成绩。在众多的体育 项嚣中，网球项目已成为了2 8 年北京奥运会上我国重要的夺牌顼冒。 在日常训练、比赛中我们采集了大量的监控数据。面对这些大量的数据，如 何综合利用，以帮助教练员、运动员提高训练承平和效果，在比赛孛取褥优异戒 绩，使得这些宝贵的数据信息发挥出应有的作用，是一个迫切需要解决的课题。 针对这种闻题，国家体育总局提出了开发“国家队信息化平台辨的要求。根据各 个国家队的不同情况，分批分期建设其信息化平台。网球作为北京奥运会极有希 望获得金牌的顼霉之一，燕时，也具有较好的科研基础，所以国家霹球队成失第 一批建设国家科技训练信息化平台的十三支国家队之一。 鼷球项匿是一项技巧性很强的体育竞技项露，其训练方法、训练负荷的量化 分析是十分复杂的，目前关于这方面的研究在国内外都还比较少。很多教练员在 力运动员铡定训练计划和方案时，缺乏对已有数据进行科学的、量化靛统计分析。 另一方面，运动员承受训练负荷状态的诊断应是一个多指标、多层次、多因素的 整体综合评定f 渊，其中运动员的身体机能状态是很重要的因素。目前国家网球队 运动员的身体检查情况是由专门的研究所进行分析研究，信息反馈需要一段时 阕，不利于教练员及时把握运动员身体情况，做出裾应的训练调整。 为了协助国家网球队教练更加科学地指导运动员进行运动训练，提高运动成 蚁群神经阏络在运动负荷预测中的陂用研究 绩，在奥运会上取得优异成绩，本文提出在利用“蓬家网球队信息化平台所采 集到的运动员生理生化指标监控信息的基础上，建立针对网球运动特色的运动负 荷预测分析模型。 1 2 课题研究现状及意义 为了提高运动成绩，必须进行合理、系统、科学的训练。科学训练的重要性 在子使人们找到最大限度地挖掘运动员潜力的最佳途径，其中重要的前提是运动 员必须具备良好的身体机能。身体机能水平直接影响运动素质、技术发挥，进而 影响运动成绩。因此，在训练各个阶段需要对身体机能做定期地测试和评定，并 反馈于运动训练，否则可能会达不至恻| 练要求或嚣为引起过度疲劳而终止训练。 早在2 0 世纪7 0 一8 0 年代，西方许多国家就开始对运动身体机能状况进行较 系统的检查与评定，特别是前苏联和西德，都建立了相应的评定标准，丽且在实 践中不断改进，以此促进优秀运动员的培养。近年来，各国都在进行运动员身体 机能状况的相关检测与评定方法的研究，并力求篱便、准确快速和系统化，确保 适合实际使用的特点。随着计算机技术的发展，数学模型也不断的应用到体育运 动领域，1 9 6 5 年l o 胃，莫斯科体协组织了一次程序教学机器的科学讨论大会， 讨论的中心议题是体育运动中采用程序数学控制的理论问题；同年1 1 月，莫斯 科体育学院举行了以“控制论与运动”为题的国际体育科学学术会议，探讨了体 育领域里运用控制论的可能性、必然性和基本途径。这两次会议是控制论引入体 育领域的重要里程碎。此后越来越多的学者进行了更加广泛深入的研究。1 9 7 3 年，美国学者t b k e l l e r 利用最优控制论理论，对竞赛问题建立了一个涉及4 个生理参数的最优速度模型。在我国，梁荣辉、何洋两位学者，对体育领域中应 用线性回归诊断所存在的问题进行了讨论，指出线性回归分析的假设条件( 即马 尔可夫条件不哥疏忽；1 9 9 0 年，孙学川等在国家体委资助项匿人体机能评定 数模法的研究中，采用幂级多项式对心律指标建立数学模型。近年来，其他一 些科研人员采用多项式拟合法，k - m e a n 聚类分析法等方法对心肺功能指标之闻 的关系做了深入研究【1 】【2 1 。 运动员承受训练受荷状态的诊断应是一个多指标、多层次、多嚣素的综合评 定。可根据评定的目的和测试对象的年龄、运动专项、训练水平等具体情况选择 蚁群神经网络在运动负荷预测中的应用研究 测试指标，并依据运动生理生化原理，对测试结果做出客观、全面、科学的综合 评定，从而科学地掌握和指导运动训练过程，有效地提高训练效果。 不同性质的体育运动，生理生化指标会呈现不同反映。目前已有人专门对游 泳、短跑、击剑等运动项目进行了生理生化指标与运动负荷之间的关系进行了分 析研究，但对网球这方面的研究还比较少。本课题利用蚁群优化算法对神经网络 进行优化训练，对多项生理生化指标进行综合分析，建立与运动负荷之间的对应 关系，为运动员身体机能状况的检测与评定提供了一种新方法，其他类似的运动 项目的训练也可以参照本研究课题的技术成果，所以本课题也具有十分重要的研 究意义和使用价值。 1 3 论文的组织结构 本文的研究工作主要有以下几个部分： ( 1 ) 了解人工神经网络特别是b p 算法的基础知识，了解蚁群算法的基础知 识以及蚁群优化算法与人工神经网络融合的方法和应用； ( 2 ) 了解m a t l a b 神经网络工具箱的建模方法，以m a t l a b 6 5 为开发环境，进 行蚁群神经网络的训练设计； ( 3 ) 使用具体数据进行仿真试验，检验模型的效果； ( 4 ) 用d e l p h i 设计人机交互界面并调用m a t l a b 实现神经网络预测模型的。、 本文其他章节内容组织安排如下： 第2 章人工神经网络。介绍人工神经网络的基本原理，重点介绍本文所采 用b p 算法并且分析b p 算法的不足之处和有关的改进方法。 第3 章蚁群优化算法，介绍了蚁群算法的研究发展和基本理论及其主要特 点和存在的不足之处，并介绍了几种主要的改进算法。 第4 章基于蚁群神经网络的运动负荷预测模型。分析与身体运动负荷有关 的生理生化指标以及如何利用蚁群优化算法进行b p 神经网络的训 练设计。利用数据进行仿真试验，检验模型的预测效果。 第5 章系统实现。简要介绍了应用预测模型的信息系统平台；介绍了该模 。型在系统中的具体实现。 第6 章结束语。全文总结，并提出下一步的研究方向。 蚁群神经网络在运动负衙预测中的应用研究 2 人工神经网络 2 。| 1 人工神经网络概述 人的大脑是迄今为止自然冕所造就的最高级的产物，它无论在结构上，还是 功能上，都是计算机无法比拟的。人工神经网络( a r t i f i c i a ln e u r a ln e t w o r k ，触蝌) 技术作为人工智能技术新手段，是一门交叉学科，综合了诗算机科学、神经生理 学、数学、心理学、物理学、通讯科学等学科的知识，是目前国际上迅速发展的 热点研究方向之一。 早在上世纪4 0 年代初期，心理学家m c c u u o c hw 、数理逻辑学家p i t t sw 就 提出了第一个篱单的人工神经嬲络模型，简称m p 模型，从此开创了神经科学 的研究时代。1 9 5 7 年，r o s e n b l a t tf 首次提出并设计了著名的感知机模型，第一 次使得人工神经网络从理论研究转入工程实现阶段，掀起了a n n 研究的高潮。 8 0 年代，美国加州理工学院生物物理学家h o p f i e l dj j 博士先后发表了两篇重要 的论文，在其所提出的h o p f i c l d 网络模型中首次弓l 入了网络能量的概念，阐明了 神经网络与动力学的关系，并且给出了网络稳定的判定依据，指出信息存储在网 络中神经元的连接土。该成果使神经网络的研究取得了突破性髂进展。1 9 8 6 年 r u m e l h a r t 和m c c l e l l a n d 提出了前向多层人工神经网络的“逆推( b a c k p r o p a g a t i o n ) 学习算法( 简称b p 算法) ，解决了前向多层人王神经网络的学习闯 题。 7 隧着人工神经网络技术的不断成熟和发展，神经网络的智能化特征与能力使 其应用领域日益扩大，许多利用传统信息处理方法无法解决的问题在采用神经网 络后取得了良好的效果，特别是在工程领域中得到了广泛的应用。随着神经网络 理论本身以及相关理论、技术的不断发展，人工神经网络的应用一定会更加深入 和广泛。 2 。1 1 人工神经鼹络的基本特点 人工神经网络是由种或多种类型的神经元相互连接箍成的非线性动力系 统，是对人脑的模拟和抽象。它的特点和优越性主要表现在以下几个方面嘲：， ( 1 ) 具有自适应( 学习) 功能：人类大脑有很强的自适应与自组织特性。神 蚁群神绕阏络在运幼负荷预测中的应用研究 经鼷络是由简单神经元籀互连接而成的璃络结构，也具有初步的自适应氍叁组织 能力，这种功能对于预测有特别重要的意义。 国具有联想记忆和分布式存储功能：信息在神经网络中的存储是按内容分 布于许多神经元之中的。网络能从信息的部分恢复到信息的整体( 自联想) ，从 一种信息去获得另一种信息( 异联想) ，这样使得神经嬲络具有很强的鲁棒性。 ( 3 ) 大规模并行处理：由于人脑是一个大规模并行和串行组合处理系统，因 丽在许多问题上可以做出快速判断、决策和处理，其速度可以远高于串行结构的 冯诺依曼计算机。人工神经网络的基本结构模仿人脑，各个信息处理单元同时 进行着类似的信息处理过程，所以n n 是大规模并行的信息处理方式。 ( 4 ) 层次性：大多数n n 模型是分层组织的。信息在大脑中的传递过程，实 际上是在不阕层次的裤经回路中逐级进行的信息处理过程。 神经网络的研究可以分为理论研究和应用研究两大方面。 理论研究可分为以下两类： ( 1 ) 利用神经生理与认知科学研究人类思维及智能机理。 ( 2 ) 利用神经基础理论的研究成果，用数理方法探索功能更加完善、性能更 加优越的神经网络模型，深入研究网络算法和性能，如稳定性、收敛性、容错性 等，开发新的网络数理理论，如神经鼹络动力学等。 应用研究可分为以下两类 ( 王) 神经网络的软件模拟和硬件实现的研究。 ( 2 ) 神经网络在各个领域中应用的研究。这些领域主要包括模式识别、信号 处理、知识工程、专家系统、优化组合、机器人控制等。 2 。王。2 人工神经网络的工作机理 神经元网络对信息的处理是由大量的神经元共同完成的，是一种集合的功 能。网络由不同层次的节点集合组成，信息在各节点之间传递，并且通过节点之 间不同的连接权值被放大、衰减或者抑制。隐含层在整个神经网络系统中起着决 定性作用，它将输入样本的特征形成更接近于输出模式的概念。 人工神经网络的动力学过程可以分为两个阶段：学习阶段和工作阶段。在学 习阶段中，将经过选择的学习样本以( 输入，输出) 样本对的形式依次加在初始 蚁群神经网络在运动负荷预测中的应用研究 权值随机设定的网络中。当样本输入经过网络所产生的实际输出与期望的样本输 出存在着差别时，根据计算偏差按一定的算法调整人工神经网络的权值及其结 构，直至网络实际输出与期望输出完全相同或者充分接近为止。仅仅依据一个( 输 入，输出) 样本对来进行学习调整的权值不一定能够满足其他( 输入，输出) 样本对 的要求，因此需要反复地输入所有学习样本对其进行学习。学习阶段结束后人工 神经网络进入工作过程。此时连接权固定，已经达到某种稳定状态。神经网络就 可以根据输入模式，计算出相应的输出模式。 2 1 3 人工神经网络的分类 人工神经网络有三个要素：拓扑结构、连接方式和学习规则。下面从这三个 方面对神经网络进行分类【6 】。 1 神经网络的拓扑结构 神经网络的单元通常按照层次排列，根据网络的层次数，可以将神经网络分 为单层神经网络、两层神经网络和三层神经网络等结构。结构简单的神经网络， 在学习时收敛的速度快，但是准确率较低。神经网络的层数和每层的神经元数依 据问题复杂程度而定。一般来说，问题越复杂，神经网络的层数也就应该更多。 例如，两层神经网络常用来解决线性问题，而多层网络就可以解决多元非线性问 题。 2 神经网络的连接方式 神经网络的连接包括层次之间的连接和每一层内部的连接，连接的强度用权 系数表示。通常所说的人工神经网络结构，主要是指它的连接方式。从结构上大 体可以分为层状和网状两大类：层状结构的神经网络是由若干层组成，每层中有 一定数量的神经元，相邻层中的神经元为单向连接，同层中的神经元不能连接； 在网状结构的神经网络中，任何两个神经元之间都可能双向连接。 一般常用的神经网络有如下几种网络结构： ( 1 ) 前向网络( 前馈网络) 前向网络通常包含很多层，如图2 1 所示为三层网络。这种网络的特点是单 向连接，只有前后相邻两层之间的神经元存在相互连接，各个神经元之间没有反 馈。每个神经元可以从前一层接收多个输入，并且只有一个输入送给下一层的各 蚊群神经网络在运动负荷预测巾的应用研究 享枣经元。前向网络分为输入层、隐含层和输出层。在前向网络中有计算功筢的节 点称为计算单元，而输入节点则无计算单元。 输入层稳含层输出层 图2 _ 1 前向网络 国反馈网络 反馈网络从输入层到输出层有反馈，即每一个节点都是计算单元，同时也可 接收输入，并向外界输出。它可以画戒一个无向图( 如毽2 - 2 所示) ，其中每个 连接线都是双向的，也可以画成图2 3 形式，如总单元数为n ，则每一个节点有 n 1 个输入和王个输患。 圈2 - 2 单层全连接反馈弼络无南甏 图2 - 3 单层全连接反馈网络 蚁群神经网络在运动负荷预测中的应用研究 ( 3 ) 相互结合型网终 相互结合型网络属于网状结构，如图2 _ 4 所示。构成网络的每个神经元都可 能相互双向连接，所有神经元既作为输入，同时也用于输出。这种网络对信息处 理的方式与前向网络不同。在前馈网络中，信息处理是从输入层通过中间层( 隐 含层) 到输出屡后，处理就结束了。面在这种网络中，如采在某个时刻麸神经圈 络外部施加一个输入，各个神经元一边相互作用，一边进行信息处理，直到使网 络中所有的享枣经元的输出值收敛于某个平均堕为止，才结束信息的处理。 圈2 4 网状结构网终 ( 4 ) 混合型网络 前向网络和相互结合型网络分别是典型的层状网络和嬲状结构网络。混合型 网络是介于二者之间的种联结方式，如图2 5 所示，在前向网络的同一层间有 神经元互连的结构。这种在同一层内的互连，目的是为了限制同一层蠹同时兴奋 或抑制的神经元数目，以完成特定的功能。 豳2 - 5 混念型隧终 3 席申经网络的学习 耄孛经网络的学习算法有很多，根据广泛采用的分类方法可将神经网络归纳为 以下三类： 蚁群神经网络在运动负荷预测中的应用研究 ( 1 ) 有导师学习也称为有监督学习，采用纠错规则。在学习训练过程中需 要不断给网络成对提供一个输入模式和一个期望网络正确输出的模式，称为“教 师信号。该类网络在执行工作任务之前必须先经过学习，当网络能对各种给定 的输入产生所期望的输出时，则可以认定网络已经在导师的指导下“学会 了训 练数据集中包含的知识和规则，可以用来进行工作了。 ( 2 ) 无导师学习也称为无监督学习。在学习的过程中，需要不断地给网络 提供动态输入信息，网络能根据特有的内部结构和学习规则，在输入信息流中发 现任何可能存在的模式和规律，并根据网络的功能和输入信息调整权值。该类网 络的学习评价标准隐含于网络的内部。 ( 3 ) 死记式学习指网络事先设计成能记忆特定的例子，以后当给定有关该 例子的输入信息时，例子便能够被回忆起来。该类网络的权值一旦设计好了就不 能再变动，因此其学习是一次性的，而不是一个训练过程。 2 2b p 神经网络 b p 神经网络是目前应用最为广泛和成功的神经网络之一，是一种多层前馈 网络误差反向传播的“逆推 学习算法。 人工神经网络的实际应用中，绝大多数的神经网络模型是采用b p 网络和它 的变化形式。主要原因在于：它只需要模拟现实复杂系统的输入和输出，网络又 具有极强的非线性映射能力，使网络的结构十分简单；该神经网络的容错能力很 好，在局部节点或连接失效的情况下，仍然能正常工作；b p 神经网络可以通过 有监督学习或无监督学习来模拟过去必须由人来完成的一些操作。这些优点使其 在各个专业领域都具有很强的竞争优势。b p 网络是前向网络的核心部分，体现 了人工神经网络中最精华的部分。 2 2 1b p 网络模型 b p 神经网络是具有三层或者三层以上的阶层型神经网络，属于典型的前向 网络，由输入层、若干隐含层和输出层构成，相邻两层的神经元之间形成完全互 连接，同层神经元互不连接。图2 - 6 所示为一个具有隐含层的三层b p 网络。 蚁群神经网络在运动负荷预测中的应用研究 输入节点i 隐层节点， 输出节点k 图撕三层b p 神经网络结构示意图 在图2 - 6 中，假设输入层、隐含层和输出层的单元数分别是，、j 和k ，输入 为( x o , x l , x 2 ，, x 1 z ) ，隐含层输出为( h o w l , h 2 ，h j - 1 ) ，网络实际输出为 ( y o , y l , y 2 ，y k - d ，( a o , d l , d 2 ，, d k - o 表示训练样本期望输出。输入层单元f 到隐含 层单元j 的权值为蜥，隐含层单元歹到输出层单元k 的权值为峋，用秒，和a t , 来 分别表示隐含层单元和输出层单元的阈值。 于是，该网络隐含层单元的输出值为： ，- 1 h j 一厂( 薹y 捕一嘭) 式( 2 - 1 ) 输出层各个单元的输出值为： _ ，- 1 y k f ( 荟w j k h j o k ) 式( 2 - 2 ) 2 2 2 标准b p 网络的学习算法 b p 网络是一种有教师的学习过程，其基本思想是学习过程由信号的正向传 播与误差的反向传播两个过程组成。利用均方差和梯度下降法实现对网络连接权 值的修正，目的是使网络的实际输出与理想输出之间的均方差在预期的误差范围 之内。b p 算法分为两个阶段：第一阶段( 正向传播过程) 输入信息从输入层经 隐含层逐层计算各单元的输出值；第二阶段( 反向传播阶段) 输出误差逐层向前 算出隐含层各单元的误差，并用此误差修正前层权值。其中的网络的权值调整采 用d e l t a 学习规则，即根据梯度法沿着误差曲面的梯度最速下降，从而实现网络 误差的最小化。 蚁群神经网络在运动负荷预测中的应用研究 1 正向计算输出阶段 以图2 。6 所示的为例，假设b p 网络的输入层节点数为，隐含层节点数为j ， 输黑层节点数为爱。输入向量败( x o , x l , x 2 ，, x t - ；) ，其期望输出向量为 矿- ( d o 而函，如j ) ，则有： ( 羔) 输入层：o i = x i ，i = 0 ，1 ，2 j - 1 ( 2 ) 隐含层：为简化推导，把各点的阈值当作一种特殊的连接权值，其对应 的输入恒为。1 ，对予第歹个神经元的输入为： 露吩一乏q ，其中o r = _ 1 、埯为闽值 式( 2 - 3 ) 其第_ 个节点的输出为：0 ，* f ( n e t ，) ，- = 0 ，1 ，2 ，少1 式( 2 4 ) ( 3 ) 输出层：固理，对予第k 个霉搴经元的输入为 n e t k 一薹喙q ，其中o m 一1 、呦为阈值； 式( 2 - 5 ) 其第k 个节点的输出为：o k f ( n e t k ) ，k = - o ，1 ，2 ，, k - 1 式( 2 6 ) 定义b p 网络的能量露数( 误差函数) 为 e p 一三1 雠一o d 2 则n 个样本的总误差为： 式( 2 - 7 ) 。素荟乏雠一钟) 2 式( 2 8 ) 式中：e 。一卞的输出误差； 群一一样本p 的期望输出； 掣一一输出层神经元的实际输出。 2 。误差反向传播阶段( 网络的权值修改阶段) 通过调整权值和阈值，使得误差能量达到最小时，网络趋于稳定状态，学习 结束。求解无约束最优化方程( 式( 2 - 7 ) ) 的常用方法有：牛顿迭代法、拟牛顿迭代 法、最佳梯度下降法等。但前两种方法涉及矩阵求逆，其计算量大，因此本文采 用后一种方法来调整权值。 ( 1 ) 输出层与隐含层之间的权值调整，对每一个帐的修正值为：。 蚁群神经网络在运动负荷预测中的应用研究 w 肚；叩导。叩羔o 札n e ，t k 式( 2 - 9 ) 蛳肚4 叩瓦。叩面a w 陡 式 式中：r 为学习步长，取值范围为( 0 ，1 ) 对式( 2 - 5 ) 求其偏导得： 警= o j 式( 2 1 0 ) 咖碡 一。 记：6 。一旦 o n e t k 则有： 小一盖一茜鲁咆一o a f 式唧) 将式( 2 _ 1 0 ) 、式( 2 _ 1 1 ) 代入式( 2 9 ) 中得 咖弦2 叩薏4 叩面o e 瓦o n e t k 州以 式( 2 _ 1 2 ) ( 2 ) 隐含层与输入层的权值调整 同理，对每一个w 的调整值为： a v m 叩盖叩盖等吲一盖m 鹕d j 式( 2 - 1 3 ) 叩瓦叩磊石。丐47 7 ( 一磊i q 。刀6 ，d j 式( 2 - 1 3 ) 其中，6 ；。一旦。一旦旦 o n e t id u jo n e t j 再由： 一面o ei 一可o 【虿i 磊x - , ( d t 一。t ) 2 ) 一篆k - i ( d 一。) 杀暑百o n e f tk k 薹- i ( d 。一。) 厂b 甜。) w 弦- 薹 得到： + 6 ，。，o 甜嚷以w 弦 式( 2 - 1 4 ) 综上所述，如果b p 神经网络每一层的激活函数均取单极s 型函数，即 一 f ( n 甜) 。矗 则可以方便地计算出该网络各层的权值修i f _ 量： ( 1 ) 对于输出层：， a w 七一，7 d ， i q ) f ( n e t i ) = t 7 d f 似i o k ) o k 0 一o k )式( 2 1 5 ) 蚁群神经网络在运动负荷预测中的应用研究 ( 2 ) 对于隐含层 2 2 3 标准b p 网络的工作过程 式( 2 1 6 ) b p 神经网络的工作过程通常有两个阶段组成：在第一个阶段，神经网络各 个节点的连接权值固定不变，网络的计算从输入层开始，逐层逐个节点地计算每 一个节点的输出，计算完毕后，进入第二个阶段，即学习阶段。在学习阶段，各 节点的输出保持不变，网络学习从输出层开始，反向逐层逐个节点地计算各连接 权值的修改量，以修改各连接的权值，直到输入层为止。 这两个阶段称为正向传播和反向传播过程，在正向传播中，如果在输出层的 网络输出与期望输出相差较大，则开始反向传播过程，根据网络输出与所期望输 出的信号误差，对网络节点间的各连接权值进行修改，以此来减小网络实际输出 与所期望输出的误差。b p 网络正是通过这样不断进行的正向传播和反向传播计 算过程，最终使得网络输出层的输出值与期望值趋于一致。 b p 神经网络的总体步骤如下所示： ( 1 ) 权值初始化：w , j , r a n d o m ( ) 、= r a n d o m ( ) ，其中w q 表示网络输 入层单元到隐含层单元的连接权值；w ，七表示网络隐含层单元到输出层单元的连 接权值。 ( 2 ) 依次输入p 个学习样本。假设当前输入为第p 个样本。 ( 3 ) 以此计算各层的输出：o j 、o k ；其中0 1 为隐含层上第j 个神经元的输出。 d 七为输出层上第k 个神经元的输出。 ( 4 ) 根据式( 2 1 1 ) 、式( 2 1 4 ) ，求解网络各层的反传误差： 瓯一 七一q ) 厂。( n e t k )式( 2 - 1 7 ) k 一1 6 一厂o e f j ) z 以 式( 2 1 8 ) 并且记下各个d 5 川、d f p ) 的值； ( 5 ) 记录已经学习过的样本个数p 。如果p p ，转到步骤( 2 ) 继续计算；如果 p = p ，转到步骤( 6 ) 。 q 肚 七 6 h x 岛 、- 、q qq叩 = d 雄 w 七 6 h 孓岛 、， 甜 0可 皇 v y 蚁群神经网络在运动负荷预测中的应用研究 ( 6 ) 按权值修正公式修正各层的权值和阈值。 ( 7 ) 按新的权值再计算。j 川、o k ( p ) 和一亩1 荟p - 1 荟k - i f 一啡) 2 ，如果对每个p 样本和相应的第七个输出神经元，都满足陂川一唾p ) i 1 ，经验值是1 0 5 ；夕为学习速率减 小倍数，0 夕 强大的全局寻优糍力 当求解许多复杂问题时，从一点出发的搜索受到局部特征的限制，可能得不 劐所求闻题的满意解。丽基本蚁群算法则可以看侔是一个分布式静多智能体系 统，使用随机生成的蚂蚁群体而不是单只蚂蚁，它在问题空间的多点同时独立地 进行解搜索，使得算法找到全局最优解的概率增加。另外，使用概率规则而不是 确定性规则指导搜索，使得算法能够逃离局部最优。而传统优化算法对初值、迭 代步长的选择较敏感，一量陷入局部最优就很难逃离。 ( 3 ) 适应性强 蚁群算法对搜索空闻没有任俺特殊要求，如鬻标函数的连续性、可导性以 及目标函数和约束函数的精确数学描述。 鳓易于与其它算法结合 蚁群算法解的构造过程是逐步完成的，在这个过程中可以方便地结合该领域 的先验知识。蚁群算法的解构造机制还有一个非常好的优点，就是能够方便地处 理约束条件，蚂蚁可以在解构造过程中动态的调整下一步可访问的节点从而保证 解的可行性，而处理复杂约束条件则是遗传算法的个薄弱环节。 3 。3 蚁群算法中的主要参数分析魏羽 蚁群算法是种新颖的仿生进化算法。仿生进化算法也是一种启发式算法， 该类算法的一个主要特征就是牺牲求解结果的精确性换取求解的效率，因而通常 不可能在每次执行算法时都得到阆题的精确最优解，往往只是不断的逼近闯题的 最优解。这个特点决定了仿生进化算法在求解实际问题的过程中有很大的调整余 地，丽对算法的调整主要体现在参数的具体选择上。因此蚁群算法的参数选择对 求解结果的优劣有很大地影响，所以我们有必要讨论一下各个参数地选择。在人 工蚂蚁系统中，影响求解结果的参数主要苞括以下几个： 信息激素的启发因子口； 蚊群神缀鬻络在运动受荷预测中的应用研究 自启发量嚣子参； 信息激素残留系数p ； 蚂蚁群体中蚂蚁静数量m ； 下面就具体分析下这几个参数对蚁群算法求解性能的影响。 1 。信患激素的庭发因子g 和鑫窟发量因子零的分析 首先，根据蚁群算法的抽象过程和前文的论述可以看出，在蚂蚁构造解的过 程中既利蔫了信息素爹蘑，也跟反映问题空闻本身特征僚愚酶叁癌发量露够耱关， 而信息激素启发因子积和自启发量启发因子则分别代表这两个信息在算法执 行过程孛各鑫的攘对重要缝。参数g 反映了人工蚂蚁在运动过程中所积累的信息 激素( 即残留信息激素r i j ) 在指导蚁群搜索中的相对重要程度，参数炒则反映 了人工蚂蚁在运动过程孛宣赢发量露莳在指导蚁群搜索中盼相对重要程度。 通过人们对8 及婶不同取值的仿真实验结果可以总结出，蚁群算法中罐及多 的不同选取对算法搜索性能会产生极大的影响： ( 1 ) 口及芦均过大；差的搜索结果凰出现早熟停滞。对于过大的毯健，摆当 于对路径上的信息激素f 移在蚂蚁的搜索过程中的重要性给予充分的重视，蚂蚁 完全依赖信愚激素的罨l 导进行搜索，如果此时窦启发量露誊的因子量相对也比较 大的话，将导致局部最优路径上的信息正反馈作用极强，算法必将陷入早熟停滞， 当阕题的规模较大时，在这种情况下搜索到的解透常是局部最优解。 ( 2 ) 口及声均过小。差的搜索结果但不出现早熟停滞。对于过小的戊值，相 当乎对路径上的信息激素f 嚣在蚂蚁的搜索过程中豹重要性未给予足够的重视， 蚂蚁完全依赖自启发爨r l 订的弓i 导进行搜索，如果此时自启发量因子夕相对也比 较小的话，则算法必然隆入纯粹的、无体止的随枧搜索孛，在这种情况下所进行 的搜索一般也很难找到最优解。 国适当的选取技及多：好酶搜索结果。一般来说取如下组合：疆= 羔，f l = 1 ) ， ( a 黜1 ，卢= 2 ) ，( 口= 1 ，= 5 ) ，( 髓= o 5 ，= 5 ) 。此时即便相互有不同的参数组合， 蚊群算法均能获得较好酶搜索结果，并且算法豹循耳次数嚣收敛速度) 非常接 近。因此，本文实例中选取( 掰= 1 ，芦茹1 ) 。 乏信息激素挥发系数p 麓分拼 在蚁群算法中，人工蚂蚁是具有记忆功能的，随着时间的推穆，以前鼹下的 蚁群神经阏终在运动煎荷预测中的应用研究 信息将要逐渐消透。蚁群算法与遗传算法等各种彷生进纯算法一样，也存在着收 敛速度慢、易于陷入局部最优解等缺陷。而信息激素残留系数p 的大小直攘关系 鬟蚁群算法的全是搜索瑟力及其收敛速度。在蚁群算法中信息激素残蜜系数夕 是一个0 到l _ 之间的数，表示信息激素残留程度，而1 p 就是信息激素挥发程 度，它盼大小从另一个侧面反映了螭毁群体孛个体之闻影响静强弱。 蚁群算法在执行过程中往往出现停滞行为，即在蚁群算法运行段时间后， 所有爵螭蚁都沿着其中的一条或者凡条路径行走，算法不蒜寻找新熬解。这实际 上是算法收敛的必然结果，但令人遗憾的是多数情况下蚂蚁收敛的解并不是问题 酶全勰最缆解。产生这种现象的原因裁在于，蚁群算法在运行过程中过旱的放弃 了原本属于最优路径的边，而迅速的将信息激素堆积在少数的路径上。避免这种 现象的出现，根本的方法