（机械工程专业论文）神经网络理论及其在生物信号识别中的应用研究.pdf

摘要神经例络理论应 j 于医学信号模式识别，是生物医学工程中的一个重要发展方向。本文主要研究了神经网络有关理论及其在心率变异性信号识别中的应用。现作如下概述：第一章论述了神经网络最新发展及应用现状，综述了目自u 神经网络在生物信号识别中应用的研究方向。( 最后小结了本文主要研究成果卜一第二章首先介绍了心率变异性信号的概念，指出h r v 信号在疾病诊断中的意义。盼析了分形布朗运动模型( f b m ) 及其稳定性，并作h r v 信号的f b m模型谱分析，可获取更多的信息，此方法可作为生物医学信号的一种很有前景的分析方法。同时，对h r v 信号的谱信息提取运用特征结构参数，其物理概念清楚，工程实现容易。还把高阶网络引入到特征结构提取中，该方法简单明了，为特征提取丌辟了一种新途径。并且提出白适应跟踪神经网络方法，对特征结构进行自适应跟踪、估计，实验表明可有较好的跟踪效果。卜一、一一第三章从子空间角度对前馈网络分类器内部运行机理，作了较深刻的分析。陆述了广义模糊熵的定义，并将广义模糊熵作为神经网络的学 - j 准则，能快速获取有效的网络结构参数，也即广义模糊熵足神经网络系统的优良指导函数。同时提出一种多输入多输出模糊变换集的模糊联想记忆模式分类器，用来解决通常的模糊联想记忆网络输出域类别相互交锚排列关系而影响分类效果问题。提出了- - ；f o j j n 权接近度多特征模糊识别的理论设计方法，具有实用价值。最后还改善了一种基函数网络的算法，使之避免了隐层节点和权值初始化，且收敛快、分类准确率高。又提出一种概率判决基函数网络，使之可以拒判任何不属于已知确定类别的数据，并使假拒判率最小户一第四章分析了自i 馈网络非线性辨识机理。f 提出并建立了模糊p i s i g m a 神经网络，它是模糊逻辑控制器的一种网络实现，由j 二这种用符号表达控制经验及推理过程的网络，其精度不够理想，为此，设计了模糊p i s i g m a 神经网络的自适应逼近控制，它是数学模型与归纳探讨融合成的自适应模糊控制形成一个闭环系统，实验表明它的识别精度明显提高。广r 一第五章分析了前馈网络的插值机理。( 把网络学习过程看作在给定样本上的插值过程。由于前馈网络b p 算法有理论依据坚实，推导过程严谨，物理概念清楚等优点，仍是一种主要应用的算法，但它有泛化能力相对较差等缺点。因此，提出多目标优化神经网络的理论模型，并基于拉格朗月函数，求解最优加权系统的神经刚络优化方法，并在算法中引入遗忘因子，大大加快了收敛速率。为神经网络神经网络的模式识别开辟一科嘶途径了1 卜一，一、关键词：神经网络了生物信号：特征提取：模糊，非线性，多目标优化。a b s i i t a c tb i o m e d i c a ls i g n a lp a r e mr e c o g n i t i o nb a s e do nn e u r a ln e t w o r ki sad e v e l o p m e n td i r e c t i o no fi m p o r t a n ti nb i o m e d i c a le n g i n e e r i n g t h i sp a p e rr e s e a r c h e sm a i n l yt h en e u r a ln e t w o r kt h e o r ya n dh e a r tr a t ev a r i a b i l i t ys i g n a lu s i n gt h en e u r a ln e t w o r k s u m m a r yi sa sf o l l o w s ：i nc h a p t e ro n e ，d e v e l o p m e n to ft h en e u r a ln e t w o r ka n dt h eb i o m e d i c a ls i g n a lr e s e a r c h i n ga tp r e s e n ts i t u a t i o na r ed i s c u s s e d a l lp o s i t i v er e s u l t sa r es u m m a r i z e df i n a l l y i nc h a p t e rt w o ，w ei n t r o d u c et h ec o n c e p ta b o u th r vs i g n a lp r o p o s et h es i g n i f i c a n c eo nd i s e a s ed i a g n o s i s w ba p p l i e df r a c t a lb r o w nm o t i o nt ot h eh r vs i g n a l ，a ss p e c t r u me s t i m a t e ，s ot h a tm o r ei n f o r m a t i o nc o u l db eo b t a i n e d i ti se s t i m a t em e t h o do fb i o m e d i c a ls i g n a lw i t ht h ep r o s p e c t w ja d o p tw i mf e a t u r es t r u c t u r ep a r a m e t e rm e t h o d ，u s i n ge x t r a c t i o no fs p e c t r u mp a r a m e t e r o t h e r , h i g h o r d e rn e u r a ln e t w o r ki sa p p l i e dt ot h ee x t r a c t i o no f f e a t u r es t r u c t u r e i ti ss i m p l ya n dc l e a r l y w bp u tf o r w a r dan e wm e t h o df o re x t r a c t i o no ff e a t u r es t r u c t u r ea n da na d a p t i v et r a c ef e a t u r es t r u c t u r e ，i no r d e rt om a k et h et r a c ef o rf e a t u r es t r u c t u r e i nc h a p t e rt h r e e ，w es t u d yd e e p l yt h ec l a s s i f i e rp r i n c i p l e si n t e rf e e d f o r w a r dn e t w o r k ，f r o mt h ep e r s p e c t i v eo ft h es u b s p a c e g e n e r a l i z e df u z z ye n w o p yi sa r el e a r n i n gc r i t e r i o n ，e m c i e n ts t r u c t u r ep a r a m e t e ri so b t a i n e dq u i c k l y i n0 t 1 1 e rw o r d s g e n e r a l i z e df u z z ye n t r o p yh a sb e r e rg u i d a n c ef u n c t i o ni nn e u r a ln e t w o r ks y s t e md e s i g n w ep r o p o s eaf u z z ya s s o c i a t i v em e m o r yp a r e mc l a s s i f i e rb a s e do nt h em u l t i i n p u t m u l t i o u t p u tf u z z ys e tm a p t h i sc l a s s i f i e rc o n q u e r st h es h o r t a g e s w h i c ha f f e c tt h ec l a s s i f i c a t i o np e r f o r m a n c eb e c a u s et h eo u t p u td o m a i ni sa r r a n g e dm u t u a l l y w ed e s i g nt h em u l t i f e a t u r ef u z z yr e c o g n i t i o no fw e i g h t e da p p r o a c h i n gd e g r e e w ei m p r o v ea l g o r i t h mo fab a s i sf u n c t i o nn e t w o r k ；i ta v o i d st h ep r o b l e mo ft h eh i d d e nn o ds e l e c t i o na n dt h ew e i g h t e di n i t i a l i z a t i o n ，b u ta l s ow i t hf a s tt e s t i n gv e l o c i t ya n db e a e rc l a s s i f i c a t i o n w eg i v eap r o b a b i l i s t i cd e c i s i o n b a s e df u n c t i o nn e t w o r k i ti sv e r ye f f e c t i v ei nr e j e c t i o nd a t an o tb e l o n g i n gt oa n yk n o w nc l a s s e sa n dm i n i m i z a t i o no ff a l s er e j e c t i o nf i n a l l y i nc h a p t e rf o u r , t h ep r i n c i p l e sn o n l i n e a ri d e n t i f i c a t i o ni nf e e d f o r w a r dn e t w o r ki sa n a l y z e d w es e tu paf u z z yp i - s i g m an e u r a ln e t w o r k i ti st h en e u r a ln e t w o r ki m p l e m e n to ff u z z yl o g i cc o n t r o l l e rb e c a u s et h en e u r a ln e t w o r kt h r o u g ho fs y m b o l i ce x p r e s s i n ga n dr e a s o n i n gp r o c e s sa r ep o o r l yi na c c u r a t ed e g r e e s u c ht h a tt h ea d a p t i v ec o n t r o la p p r o x i m a t eo ft h ef u z z yp i s i g m an e u r a ln e t w o r ki sp u tf o r w a r d i ti sm a t h e m a t i c ：a lm o d e la n dh e u r i s t i c si n t oa d a p t i v ef u z z y c o n t r o l l e r s s ot h a tt h ec l o s e l o o pi sf u r m e d e x p e r i m e n ts h o w sa c c u r a t ed e g r e ei si m p r o v e do b v i o u s l y i nc h a p t e rf i v e ，t h ei n t e r p o l a t i o np r i n c i p l eo ff e e d f o r w a r dn e u r a ln e t w o r k ，t h a tt h en e u r a ln e t w o r kl e a r n i n gc o u r s ei sr e g a r da si n t e r p o l a t i o np r o c e s sw i t hk n o w ns a m p l e b pa l g o r i t h mo ff e e d f o r w a r dn e u r a ln e t w o r kh a st h er e l i a b l et h e o r y , s t r i c tc a l c u l a t e ，c l e a rc o n c e p t ，h o w e v e lg e n e r a l i z a t i o na b i l i t yi st h ep o o r e ew eg i v et h et h e o r ym o d e lo f m u l t i o b j e c t i v eo p t i m i z a t i o nn e u r a ln e t w o r ka n ds o l v en e u r a in e t w o r ko p t i m i z a t i o nm e t h o do ft h em o s to p t i m i z a t i o nw e i g h t e ds y s t e md e p e n d e n c eo nl a g r a n g ef u n c t i o n b u tt h a tf o r g e t t i n gf a c t o ri sa p p l i e dt ot h ea l g o r i t h m s ot h a tg e tan e wm e t h o di np a a e mr e c o g n i t i o nw i t ht h en e u r a ln e t w o r k f i n a l l y , w eg i v eo u ts u m m a r yo ft h i sp a p e ra n df u r t h e rd e v e l o p m e n to b j e c t k e y w o r d s ：n e u r a ln e t w o r k ，b i o l o g ys i g n a l ，f e a t u r ee x t r a c t i o n ，f u z z y , n o n l i n e a rm u l t i o b j e c t i v eo p t i m i z a t i o n1 绪论1 绪论1 1 神经网络发展及应用概述近十余年来，如果人工智能虽有很大进步，然而在比拟人脑的联想、分类、演绎、自适应、专注等能力方面，仍存在巨大困难，并看不出短期会有突破。而人工智能中的一个重要分支一神经网络则已在一些方面表现了潜在能力，如通过网络的一个小部分展示完全复杂的信息联想能力；以及由外界刺激的响应来学习、自组织地获取知识等，促使扩展神经网络的研究，它的发展为人工智能的模式识别与信息处理等学科带来了新的希望。计算机发展的需要也是神经网络研究又一动力。传统的计算机虽然快到毫微秒，但认知人脸孔的能力还不及一个小孩，尽管人类视觉神经运算速度慢于毫秒，人脑可以在几百个毫秒实现视觉辨识和语音识别。因此神经的联结模型、并行和分布式处理似乎是计算机进一步全新发展的唯一途径。神经网络突出的特性是大规模的处理单元及其相互联结，单元虽然简单，由于非线性，其集合行为可以十分复杂，并有并行和分布处理能力。对人工神经网络模型的研究已有相当长的历史。四十年前，已有学者推导有关的数学模型。特别近年来，基于新的网络拓c b s h 算法的研究，v l s i 的神经网络处理器j 苎= 片已经到了设计和实现阶段。这些芯片用作大量神经处理算法的硬件平台。v l s i 芯片执行神经计算的处理能力超过每秒数亿次，其高速和大容量的计算能力可用于实时处理场合。现有的人工神经网络已不下百种。随着应用研究的不断深入，新的神经网络模型也在不断推出。目前最具代表性的大致可分为五类：( 1 ) 前馈网络( f e e d f o r w a r dn e t w o r k ) ，以8 0 年代中期d e p u m e l h a r t 提出的多层感知机为代表；( 2 )反馈网络( b a c k f o r w a r dn e t w o r k ) ，以j j h o p f i e l d 提出的具有联想记忆的反馈互连网络为代表；( 3 ) 自组织网络( s e l f - o r g a n i z i n g n e t w o r k ) ，以k o h o n e n 的s o m自组织特征映射模型和s g r o s s s b e r g 的a r t 自适应共振理论为代表；( 4 ) 随机神经网络( r a n d o mn e t w o r k ) ，有h i n t o n 提出的b o l t z m a n n 机和s e j n o w s k i 提出的高阶b o l t z m a n n 机，它可以看成h o p f i e l d 提出的具有联想记忆模型的推广，与h o p f i e l d 网络不同的是，b o l t z m a n n 机具有概率状态转移机制而h o p f i e l d 是确定性的。此外，b o l t z m a r m 机还允许含有隐单元来捕获学习中的高阶规则。( 5 )模糊神经网络( f u z z yn e u r a ln e t w o r k ) ，c a q a e n t e r 、g r o s s b e r g 和r o s e n 提出了模糊自适应共振( a r t ) 模型等。例如神经网络在信号处理应用中。从被噪声污染或失真的波形中恢复信号。据文献【1 】介绍，有人针对心电信号将一种利用误差反向传播法的神经网络的滤波能力与利用l m s 算法的自适应线性滤波器进行了比较，结果神经网络能够更准确地跟踪期望输出。文献【2 报道，新近推出的a n z a 神经网络计算机上对心电信号的处理再次证明了神经网络在连续信号处理中的优势，它解决了常规的数字滤波技术难以克服的高频失真问题，即使当心电图信号淹没在噪声中时也能准确地将其恢复。解决信号恢复问题的成熟的工具是最优估计理论，神经网络提供了一种很好的迭代逼近方法，即将估计方程变成能量函数形式，从而寻找最大拟然估计就等价于寻找一个能量函数的最小值。对于从噪声中恢复信号问题，在许多情况下是按最小距离准则，根据对问题性质的了解来设计恢复算法的。许多算法都是一种映射变换，即将一个预滤波后的观测空间映射到一个特征空间和信号空间。可以从优化的观点把这种恢复过程看成二次规划问题。文献 3 】提出了一种类似于自适应共振( a r t ) 网络的神经网络结构，实现模拟的二次规划。在维纳滤波、高斯噪声中的最优参数估计、解卷积等信号处理中，无约束最小均方误差( m m s e ) 估计也是一种重要手段。文献 4 将h o p f i e l d网络用于无约束m m s e 估计，对自适应白化及噪声抵消等问题得出了令人满意的结果。快速变换是数字信号处理的重要工具。传统的快速变换算法不能对所有的采样数据同时运算，且随着矢量长度的增加，处理时间也增加。文献 4 】提出了用神经网络的学习方法来设计对最佳变换( k a r h u n e n l o e v e 变换) 的快速逼近。能够使信息损失最小的最佳变换一直没有快速算法，因此利用神经网络对k l 变换的快速逼近是很有意义的。当然神经网络在信号处理问题中的应用价值仍值得进一步探索。例如，谱估计虽然发展迅速，但许多重要方法( 如信号矩阵奇异值分解法) 的前提是假定已知信号的自相关矩阵，在某些场合下这是很苛刻的要求。一些神经网络可以从原始数据中得到要求的特征向量，因此对于谱估计是很有意义的。神经网络广泛地应用于各个领域，如神经网络计算机的研制、优化计算、计算机视觉与图像处理、模式识别、非线性系统辨识、智能控制、神经网络专家系统等f 5 ，6 ，7 。例如其中较为吸引人的方向是将神经网络与符号推理人工智能结合起来，把精确计算和模糊处理结合起来，解决传统方法难以解决的问题。但是人工神经网络与生物神经系统相比，无论在结构还是在规模上，都只是简单模拟。人工神经网络处于算法研究阶段较多，硬件实现还较缓慢。另外人工神经网络的应用，都是为某种特定的用途而开展的，其设计规则没有推广性。因此，作为致力于研究的方面是：( 1 ) 研究人工神经网络类似人类的知识获取过程( 2 ) 研究神经网络动态特性，提出改进的学习规则和算法，包括网络的层数、每层节点数、连接方式、激发函数的类型等：( 3 ) 研制神经网络硬件芯片以提高运行速度。当然它有赖于超大规模集成电路v l s i 、光学与分子器件的发展：f 4 1 应用神经网络解决实际问题，特别是传统方法不易解决的问题。1 2 生物( 电) 信号模式识别的现状模式识别的目标是研究类似人脑的高级识别方法和识别系统。神经网络是l 绪论一种模式分布模型，用于模式识别是十分自然和有效的。由于神经网络自身的特点，它用于模式识别比传统的识别系统具有如下优势：能识别带噪声或变形的输入模式；具有很强的自适应学习能力，能把识别处理和若干预处理融合一体进行；识别速度快等；传统的模式识别大都需要利用明确表达的知识和经验，但知识的获取一般是很困难的，神经网络( 如模型) 由于其高度的非线性和隐层结构，基于它的模式分类器可以抽取输入输出关系中不易表达的知识和经验，具有自组织地形成复杂识别盐面的能力。神经网络的这些能力，使得它在复杂模式聚类和分类分析中的作用十分明显。也应强调，用于模式识别的网络大都是前向网络，但是由于前向网络本身存在一些尚未解决的问题，如局部极小问题、收敛速度慢和隐层节点数目的选取没有理论指导等，必然影响前向网络在模式识别中的应用f 8 , 9 ，1 0 1 。生物( 电) 信号现象普遍存在于生物界中，大量的研究表明，生物( 电) 信号的存在不是细胞或器官机能活动的伴随物，而是细胞或器官完成生理机能的关键因素，因而，生物( 电) 信号现象是一种普遍的生理现象，是兴奋的重要标志，也是活组织的基本特征之一。目前能够进行宏观测量到的生物( 电) 信号主要包括心电、脑电、肌电、胃电、眼电、神经电位，以及声音、血压等。因为人体是一个有机体和活动体，个体之间的差异性较大。因此生物( 电) 信号检测具有一些特殊性：( 1 ) 其信号通常比较微弱，容易淹没在噪声之中；( 2 ) 人体与测量电极的结合，为了检测电信号，必须用适合人体的电极，特别需要考虑电极与人体的接触位置；( 3 ) 人体各种电信号之间的相互串扰的噪声和外部噪声干扰；( 4 ) 对人体无损害，同时防止病人感觉痛苦或引起生理上的反射。长时间测量过程中，环境、情绪、精神等影响；( 5 ) 长对问记录电信号，其统计特性随时间的变化丽变化。由于影响生物( 电) 信号的因素很多，它所遵循的规律尚未完全被认识，所以一般不能用确知数学函数来描述，主要从大量统计结果中呈现出来，借助信号处理技术，来检测和辨识它们。无论是研究生理病理，还是防病治病，都要首先获得生理信息。因此传感器庸置疑是重要的。但由于生物( 电) 信号具有很强的随机性，且往往是非平稳、非各态遍历；噪声非常强，信噪比很低；缺乏信号的先验知识。因而对具有很强的随机性和非平稳的生物( 电) 信号，如何应用现代信号处理方法来提取识别生理信息具有十分重要的意义。近年来，例如非平稳信号的准平稳处理，不需先验知识的后验维纳滤波，移动平均建立模板的匹配滤波，参数模型方法及奇异值解法等颇受重视。特别是象自适应处理法( 如自适应抵消噪声等) ，由于既能适应非平稳过程，又很少需要先验知识丽被认为很有前途。模式识别是利用计算机对某些物理对象进行分类，在错误概率最小的条件下，使识别的结果尽量与客观事物相符 1 1 】。模式分类是根据模式的特征，按模式的统计特性、结构特性、模糊特性进行分类。在模式识别的研究中，有一类是对生物( 电) 信号的识别，如图1 1 是三层前馈神经网络对生物( 电) 信号分3 类示意图，生物( 电) 信号模式分类的技术主要包括：统计学技术，句法分析技术，模糊识别技术和神经网络分类技术。统计学分类技术有四种：最小距离分类( 贝叶斯距离分类) ，是基于模式在特征空间的距离进行分类；最大拟然估计，基于相似性对某一参数进行优化；f i s h e r s 线性分辨法，通过降低特征矢量的维数进行分类：熵判据，基于最小不确定性进行分类。句法分类技术：对信号，句法分类技术包括序列匹配、语法分析、句法学习及有限状态自动控制。句法结构识别着眼于模式结构而不是着眼于特征。对于一个复杂的模式可以一部分一部分的加以描述，把一个复杂的模式按结构分解成几个子模式。将模式识别的问题类比于语言分析。这种方法在生物( 电) 信号模式分类中主要应用于神经电生理信号。模糊分类技术：高精度和高复杂度是不能兼容的。为了能够分析对于一般定量技术来说太复杂或定义太不完善的系统，使计算机作出有意义的论断就必须放弃高标准的严格性和精确性。这种思想就是模糊模式识别的基础。人类对客体的分类，有时并不要求非常精确，只要求得出模糊性的结论。一种待识客体的模糊特性的能否充分利用，其关键在于能否获得或建立良好的隶属关系。功率谱麟款i 仁二 i图1 1 生物电信号分类示意图神经网络分类技术：在先验的分类信息已知时，神经网络是最优的选择。神经网络由许多具有非线性映射能力的神经元组成，包括一个输入层，一个输出层，和一个( 或多个) 中间层，神经元之间通过权系数相连接。神经网络的训练是通过将某一己知模式送入输入层，并不断调节中间层的权系数，以得到一个需要的输出，网络的信息分布存储于连接权系数中，使网络具有很高的容错性，而模式识别中往往存在噪声干扰或输入模式的部分损失。如图1 - 1 所示，神经网络从心电图等生物( 电) 信号中去除随机噪声后分类或从不完全信号恢复原来信号研究也取得进展。实验表明，神经网络与有限冲激响应滤波器方法相比，其输出生物( 电) 波形具有较好的逼真度。此外，即使对那些没有训练过的波形，其逼真度也很好。目前在实际应用中的趋势是把各种方法结合起来，互有分工，互为补充。因为模式识别的最终目的是避免主观识别与客观实际的差异，对于任何缩小差异，提取更多信息的方法都是不能拒绝的。例如随着人工智能的广泛应用，专家系统引入医学诊断领域是颇为引人注目的。医学专家诊断经验的总结，结合到计算机的模式识别中去构成智能诊断系统，将会取得更好的效果，目前研究1 绪论正在进行中。生物( 电) 信号分析与处理的目的在于：应用生物( 电) 信号探索人体奥秘，提取生物电中的新信息；研究生物( 电) 信号与生命活动的关系，例如为临床诊断和治疗提供科学依据等。为了诊断疾病，在普查和长时间的监护中，就需要应用应用模式识别技术进行自动判别与分类。疾病种类十分繁多，且往往存在很多症状“不典型”，不同医学专家有不同判断。所以特征量的提取、选择、分类都很困难。目前多数还只是作两类( 正常与不正常) 分类。以研究最多，波形较明显的心电信号来说，至今也还没有可靠的模式识别方法。如果没有突破性进展，还不易取得医生的完全信任。生物( 电) 信息处理包括两种基本方式，即在线处理和离线处理。在线处理是指计算机和生物电放大器直接相连，由a d 转换器将数据采集进入计算机，要求实时地将采集到的数据进行处理，输出结果并及时利用。离线处理是指把生物( 电) 信号先用记录器记录下来，在做完实验后再将记录下来的信号重新放出来，送往计算机进行分析和处理。从系统功能上，生物( 电) 信号识别处理包括：前端的信号检测部分，即电极、放大器和a d 转换器等；信号预处理，滤波、奇异点剔除、信号正态性、周期性、平稳性检验、干扰消除、相关检验等：特征参数提取，用一些特征参数来表示信号中的信息，包括频率域特征参数，时域特征参数，以及变换域特征参数等；模式分类与识别，把提取出的有用特征参数聚类，构成信号识别系统，从而达到自动诊断目的；智能诊断和专家系统，为了达到最终应用目的，该系统应当具有智能诊断功能，其中包括一些专家的经验和知识。1 3 本文所研究的工作神经网络理论以其迅速发展，在生物医学信号的分析、识别领域获得广泛应用，引起极大关注，形成独立体系，展示了良好的应用前景。本文主要研究的是多层前馈式神经网络，并以心率变异性( 脓v ) 信号为例( 同时也作了部分脑电实验) ，进行了应用实验研究。主要做了如下方面的工作：1 ) 研究了分形布朗运动模型及其稳定性，并将分形布朗运动模型用于h 3 v信号的分析，取得健康者和疾病患者的双对数功率谱，计算其特征信息参数。推导出一种适用于f l r v 信号谱特征信息提取的方法。还研究了把高阶神经网络引入到特征结构提取中，获得了基于神经网络的特征提取的理论方法。并提出了用自适应跟踪神经网络方法，对特征结构进行自适应跟踪、估计。2 ) 从子空问变换角度，研究了前馈网络的分类机理，证明了非线性输出前馈网络教师分类器对应的类别权矢量位于互反的类别子空间内。把有重要意义的模糊熵引入到神经网络中，作为其学习准则，能迅速获得有效的网络结构参数。同时针对模糊联想记忆分类器输出域交错排列关系而影响了分类效果，提出一种基于多输入多输出模糊集变换的模糊联想记忆模式分类器，可以克服上述缺陷。又由心律识别为例而博士论文神经网络理论菠粪髭生物( 电) 信号中的应用研究引发，提出了加权接近度多特征模糊分类的设计方法。最后研究了一种适合于生物( 电) 信号分类的基函数网络，改善其算法，使之具有避免隐层节点选择和权值初始化，且有较快的收敛速率。并且提出一种概率判决基函数网络，它是用判决基学习规则来微调网络参数，拒判不确定或未知的类别数据。3 ) 研究了前馈网络的非线性辨识机理，分析了一种高阶神经网络即p i s i g m a 网络，并建立起模糊p i s i g m a 网络，作为模糊逻辑控制器的网络实现，但其精度不够理想，为此进一步研究并提出一种类似于c m a c网络的模糊p i s i g m a 网络自适应控制逼近方式，使模糊p i s i g m a 网络的识别效果进一步提高。4 ) 分析了前馈网络的插值机理，针对前馈网络的泛化能力等问题，根据多目标优化的思想，提出多目标优化模型的神经网络实现，研究其基于拉格朗日函数，适合求解最优加权系统的神经网络优化方法。并在其算法中加入遗忘因子，进一步提高网络性能，为神经网络识别提供另一途径的有效方法。1 4 本文的安排第一章主要介绍了当前神经网络理论的发展方向，概括了生物( 电) 信号识别的理论方法及研究现状，提出神经网络理论在生物电信号识别中的研究方向。第二章，解释了心率变异性( h e a r tr a t ev a r i a b i l i t y , h r v ) 信号概念，针对h r v信号的特点，进行了分形布朗运动的功率谱分析，提出了一种参数结构的谱特征提取，将高阶前馈神经网络引入到特征结构的提取中，同时将所要提取的特征结构与网络稳定时的输出直接对应起来，可对特征结构进行自适应跟踪，提出一种自适应跟踪神经网络方法。第三章有从线性代数的角度，对f f n 分类器的分类机理做了一定分析。研究了一种可描述各种各样模糊熵的广义模糊熵，讨论了它在模糊神经网络分类器设计中的指导函数。提出了基于基于模糊集变换和模糊规则方法的模糊联想记忆模式分类器( f a m p c ) ，以及基于模糊神经混合系统理论，由模糊神经网络生成实现的分类器。提出加权接近度法多特征模糊模式识别在实际生物电信号中的应用，及研究的必要性。最后研究了一种基函数网络( b f n ) ，它避免了隐层节点选择和权值初始化。并深入研究了高斯混合模式的概率判决基函数神经网络( p d b n n s ) 的判决边界，通过p d b n n s 的闽值机理这个最有力之处，说明对任何不属于已知确定类别的数据，具有很强( 有效) 的拒判能力。第四章首先分析了前馈神经网络的非线性辨识机理；研究分析了一种高阶神经网络即p i s i g m a 网络，以及提出对它的模糊建模；基于模糊i f t h e n 规则提出非线性自适应控制器设计的框架，模糊逻辑给出转换归纳探讨方法成数学式的系统过程( 以模糊i f 一，| h e n 规则的形式) ，由此提出一种数学模型和归纳探讨融合的自适应模糊控制方法。1 绪论第五章首先研究了前馈神经网络的插值机理：研究了对求解多目标优化的参数方法本质上是将多日标评价函数中的权系数视为可变参数：提出了一种改善的基于l a g r a n g e 乘子法的非线性规划神经网络；最后提出多目标优化的神经网络实现，说明多目标优化网络具有较好的泛化能力及可以改善其他性能。为网络的实用化提供一个有效方法。最后，在结束语中对全文作了归纳性总结，并根据所做的阶段性工作，提出下一步的工作方向。2 生物信号的特征提取2 生物信号的特征提取2 1 引言模式识别的目的是对模式进行分类，检测及参数估计。为了能够解决模式识别的问题，首先要对模式进行特征提取，即提取信息的要点，其次根据模式的特征进行分类。特征提取基于一定的标准，为分类选取最合适的特征提供方法。特征是在损失重要信息最少时表示模式，如果一个给定的特征使得测量表达的误差最小，这种特征提取的方法是最优的。象神经网络等分类系统性能的好坏，在很大程度上取决于特征提取的优劣。生物信号分类的实质是寻求一种数学方法把高维向量空间f 生物信号的采样信号) 映射到一个尽可能保留原生物信号中对疾病有诊断意义的主要特征的低维子空间，然后在此基础上对生物信号进行分类。生物信号提取的信息特征，不仅需可以灵敏反映有诊断意义的信号，而且需要具有强的可分离性，便于分类和对测量误差，噪声不敏感的特点。生物信号特征提取的方法有：( 1 ) 非变换信号特征；主要包括矩和模型参数。在模式识别中常用的一阶矩( 即信号的均值) ，二阶矩( 信号功率) ，和二阶中心矩( 信号的标准差) ，高阶矩高阶谱。参数模型法，如a r 模型，a r m a 模型等。( 2 )变换信号特征；。包括傅里叶变换，c o s i n e 变换，h a r r 变换，w a l s h 变换，k l变换，奇异值分解，子波变换等。( 3 ) 结构描述法和图形描述法；包括正规语言，语法分析技术，行匹配技术，特征图，相关图和语义网络。此法在生物信号模式识别中应用较少。在此章中，首先解释了心率变异性( h e a r tr a t ev a r i a b i l i t y , h r v ) 信号概念，针对h r v 信号的特点，进行了分形布朗运动的功率谱分析；提出了一种参数结构的谱特征提取：并在能量函数表示的基础上，通过对该能量函数的适当变换，将高阶前馈神经网络引入到特征结构的提取中；同时将所要提取的特征结构与网络稳定时的输出直接对应起来，可对特征结构进行自适应跟踪，提出一种自适应跟踪神经网络方法。2 2 心率变异性信号的表述心脏有规律的搏动是维持生命活动的主要保证，心脏搏动的频率( 心率) 一般( 包括人安静、活动及精神紧张) 在6 0 次分1 0 0 次范围之内，因此，机体为适应生理需要，心率要有一定程度变化，这主要是由心脏的自主神经系统f a u t o n o m i cn e r v o u ss y s t e m ) 进行调节的，交感神经兴奋使心率和激动传导加快，迷走神经兴奋使心率和激动传导减慢。心肌的电稳定，即维持心搏的正常运行，取决于两者的协调和平衡。因此，正常的心脏搏动( 心率) 是有一定的心率变异性( h e a r tr a t ev a r i a b i l i t y , w ) ，若此种变异性减低，就可反映为某些疾病的存在，尤其在一些器质性心脏病时，可使h r v 减低或消失，甚至可发生心性猝死。所以临床上常以了解病人h r v 改变的情况，作为一项无创性测定心脏自博士论文神经网络理论及其在生物信号识剐中的应用研究主神经活动性是否正常的定量方法。心搏间期时序展示了有恒定量特性的自发波动 1 2 1 4 】。临床医学证明了心脏猝死、缺血性心衰、高血压、冠心病等心血管疾病患者的h r v 较正常人明显降低。所以心率变异性的功率谱变换特征和相关特性的研究对心血管疾病的早期诊断及预后评估等均有重要意义。心率变异性( h r v ) 也称心律振荡或心律波动，即连续心跳间r - r 间期的微小涨落，也即通过e c g 的q r s 波检出心动周期所得到的关于心动瞬时频率的信号。它所研究的是r - r 间期数据的变化而非心率数据的变化。已有证明心搏中常表现出l f 杂音现象【1 5 】，1 f 杂音( 也称模糊杂音) 是功率谱与波动数f 的倒数厂1 成比例时起伏的总称。即s o c l 胪，其参数且一般不是整数，l f 杂音具有某种自相似性 1 5 。由于人体血管系统功能状态的时变性，h r v 信号从本质上讲是非平稳的随机信号，故很难满足平稳随机信号的理论检测准则。事实上h r v 信号的动态功率谱的极低频部分，即1 f 涨落正是具有分形信号的特征。而目前h r v 信号功率谱分析计算主要采用f f t 变换、a r 模型、a p u m a 模型法，但是对l 型谱结构的物理过程，仅仅采用模型分析方法，如a r 模型，a r m a 模型，是难于对这类过程提供一个准确的描述。其困难之处在于，这类过程往往表现出长时的相关性，并且没有描述的自然尺度。而分形几何学的出现为分析和描述具有某种自相似的现象提供了一种有效的工具。分形布朗运动模型规则可以较好描述具有统计自相似性的一类随机过程现象 1 6 ，1 7 。但由于分形布朗运动模型本身不具稳定性，因此不易于对它分析和描述。还须解决分形布朗运动模型的稳定性。2 3i t r v 信号的分形布朗运动功率谱的频域分析2 3 1 分形布规运动的表达随机过程可用有限维联合概率分布来近似描述其统计特性。对马尔科夫过程而言，其n 维概率分布( 密度) 可表示为，p 1p ，( x 1 ，工2 ，一，x n ；i ，t 2 ，。，r n ) = p x ( x l ，1 ) n p x ( x k + 1 , t k + 1x k ；t k ) ，( z - dk = lf l t 2 0 ：称为布朗运动。它是一种特殊的马尔科夫过程。马尔科夫过程适合于大多数物理过程，具有较好的精确度；并有较简单的数学描述。分形布朗运动( f r a c t i o n a lb r o w n i a am o t i o n , f b m ) 是拓广布朗运动得到的。分形布朗运动是描述具有统计自相似性随机过程的一个模型 1 8 ，1 9 】。定义2 2 ：h 满足0 h l , b 。为任意实数，若随机函数满足：b h ( 0 ，c o ) = b o ；= 而投 。- - $ ) h - 1 2 + 护s ) 弘“2 龇国) j ( 2 - 2 )b h ( f ，) 称为分形布朗运动，h 为分形参数，b 。为初始值，属于样本空间q 。h = 1 2 是普通的布朗运动。b n ( t ，) 简记为b h o ) 。f b m 的性质为：( 1 ) 满足零均值高斯分布，即e b h ( t + a t ) 一b 0 ) = 0( 2 ) 方差e 【i b h o + a t ) 一b h ( t ) 1 2 = 巧2i f l 。“。( 3 ) - 阶绝对矩e 1 b 0 + r ) 一b h ( 0 i - ) 2 ，石盯j 址i ”。( 4 ) 协方差e b h ( i + f ) 一j ( o 】= 1 2 c r 2 【i t l 2 + is 1 2 一i t - s 1 2 , q 】。( 5 ) 相关函数e 【( f ) 占( s ) = ( p 0 2 ) i t l 2 县+ i s l 2 日一i t j 1 2 ，其中p 0 = e l b h ( t + 1 ) b h u ) 1 2 = r ( 1 2 h ) c o s ( z - ) ( z - ) 。( 6 ) 对于t l t l 2 时，它们正相关，即相关系数大于零；当h 0 ，由于 i2 “ - 2 b h ( t ) t；艮炉h 一日i l 二j两边同除以 = v m t 埘，则相关系数，= 2 2 h 一一1( 2 4 )3 礅 2 0 q , a 给出了f b m 的平均谱密度的一种表达式s ( ，) “了丢鬲= 1 ，厂卢( 2 。5 )当h = l 2 ，9 = 2 ，即是普通布朗运动的功率谱正比于1 f o 而当0 h i ，1 6 - - - - 6 k m j k ，籼m # 6 j ，k 6 l m = 0( 2 - 6 )( 2 - 7 )( 2 - 8 )e c g 予波函数和尺度函数选择用c h a p a - r a g h u v e e r 算法1 2 8 。一对正交镜面滤波器，在离散子波分解中的带通乳和低通分析滤波器，在以h l 为基的线性组合中用来表达母波函数y 和尺度函数。y ( f ) = 2 乳( 2 f k )( 2 - 9 )k - 一o o( f ) = 2 h k b ( 2 t k )( 2 1 0 )基于c h a p a - r a g h u v e e r 自适应子波算法的高、低通滤波器，它们可用来计算下列采样数据序列的子波系数：即通过n 个点数据序列x ( n ) 分别与a ( ，z ) 和g ( n )循环卷积后，形成采样点降低的两个n 2 点序列h x ( n ) 和g x ( n ) 。序列h x ( n ) 进一步分解成_ ，次分辨率的j x ( n ) 和g h e x ( n ) 。2 f b m 的子波变换w f ( s ，x ) 为厂l z ( r ) 的连续子波变换是町( 5 ，= 己，( f ) y 肖d t ( 2 - 1 1 )吖aa式中口是尺度参数。分形布朗运动子波变