（电路与系统专业论文）人工神经网络在吸毒者脉象信号识别中的应用.pdf

重庆大学硕士学位论文 中文摘要 摘要 中医独特的诊断方法及其治病疗效在我国医疗保健事业中发挥着重要作用。 切脉是中医诊断的主要方法之一。随着传感器和计算机技术的发展，依托于信息 处理技术，中医脉诊的客观化的研究成为可能。 人工神经网络( a n n ) 是在对人脑组织结构和运行机制的认识理解基础之上模 拟其结构和智能行为的一种工程系统，具有很强的自适应学习能力以及鲁棒性和 容错能力。通过这种网络能够实现任意的非线性映射关系，这种映射关系体现在 构成网络的神经元之间的分布连接权上，经训练的神经网络可用来进行模式分类， 信号处理与检测等。 针对海洛因吸毒者的脉象信号与正常人脉象信号的特征差异，本文成功地应 用自组织网络和概率神经网络对1 5 例海洛因吸毒者和1 5 例正常人的脉象信号进 行了识别。首先建立了一个3 8 以也的二层自组织竞争网络和一个3 8 , - - 2 的二层自 组织特征映射网络，选取每一例脉象信号的2 3 , - - 6 0 这3 8 点作为网络的输入信号， 采用k o h o n e n 算法学习网络输出层权值。训练完成的网络对2 0 例训练样本的识别 率达到1 0 0 ，在用该网络对1 0 例测试样本进行分析时，实验结果显示有3 例脉 象被误判，其中正常人z 0 1 、z 1 0 被误判为吸毒者，吸毒者b 1 3 被误判为正常人。 两种自组织网络的总正确识别率均为9 0 。l v q 网络的总正确识别率达9 3 3 。 用概率神经网络分析3 0 例脉象信号时，网络的正确识别率高达9 6 7 。 研究表明，用自组织网络分析脉象信号时，识别正确率高，结构简单，且训 练速度较快。用概率神经网络分析脉象信号时，网络训练速度也较快，且网络的 识别正确率比自组织网络高。 本论文还对自组织网络和概率神经网络的理论和算法进行推导、验证，对神 经网络的相关基础理论做了较系统的阐述，包括神经网络的结构分类、学习算法 和训练函数等。 关键词：神经网络，自组织网络，概率神经网络，脉象信号，海洛因吸毒者 重庆大学硕士学位论文 英文摘要 a b s t r a c t t h ed i a g n o s t i cm e t h o d sa n dp a r t i c u l a r l yc u r a t i v ee f f e c to ft r a d i t i o n a lc h i n e s e m e d i c i n eh a v eb e e np l a y i n ga ni m p o r t a n tr o l eo fn a t i o n a lh e a l t hc a r e p u l s e - f e e l i n gi s o n eo ft h ep r i m a r yd i a g n o s t i cm e t h o d si nt r a d i t i o n a lc h i n e s em e d i c i n e a l o n gw i t ht h e d e v e l o p m e n to f s e n s o r sa n dc o m p u t e rt e c h n o l o g y , t h ei n v e s t i g a t i o no f o b j e c t i v i t yo f t h e c h i n e s em e d i c i n ep u l s e - f e e l i n gb e c o m ep o s s i b l e a r t i f i c i a ln e u r a ln e t w o r k ( a n n ) i sac l a s so fe n g i n e e r i n gs y s t e m ，w h i c hi m i t a t e s t h es t r u c t u r ea n da p t i t u d ea c t i o no f h u m a nc e r e b r ab yc o m p r e h e n d i n gi t ss t r u c t u r e sa n d r u n n i n gm e c h a n i s m a n nh a st h es t r o n gs e l f - a d a p t a b i l i t ya n ds e l f - l e a r n i n g - a b i l i t ya s w e l la se x c e l l e n tr o b u s t n e s sa n dt o l e r a n c ea b i l i t y a no p t i o n a ln o n l i i l c a ri n p u t - o u t p u t m a p p i n gr e l a t i o n s h i pc a nb ea c h i e v e dt h r o w i g h t h en e t w o r k c o n c r e t em a p p i n g r e l a t i o n s h i pm a t e r i a l i z e sa tt h ed i s t r i b u t e dl i n k i n gw e i g h tv a l u e sb e t w e e n n e i ：t r o n st h a t b u i l d 印t h ea n n at r a i n e dn e u r a ln e t w o r km a yb eu s e dt or e a l i z ep a t t e r nr e c o g n i t i o n s ， s i g n a lp r o c e s s i n ga n dd e t e c t i o l l ，e t c 7 c o n s i d e r i n gt h ec h a r a c t e r i s t i cd i f f e r e n c e sb e t w e e nt h ep u l s es i g n a l so fh e r o i n a d d i c t sa n dh e a l t h yp c l s o l l s ，w es u c c e s s f u l l yu s es e l f - o r g a n i z i n gf e a t u r em a p ( s o f m ) n e t w o r ka n dp r o b a b i l i s t i cn e o r a ln e t w o r k ( p n a 0t oi d e n t i f yh e r o i na d d i c t sf r o mt h e p u l s es i g n a l so f1 5h e r o i na d d i c t sa n d1 5h e a l t h yp e r s o n s f i r s t l y , at w o l a y e r s e l f - o r g a n i z i n gn e t w o r kw i t h3 8 2 2i sc o n s t r u c t e di nt h i sp a p e r 1 1 璩i n p u ts i g n a l so f t h en e t w o r ka r eo b t a i n e db yc l i p p i n gt h ec h a r a c t e r i s t i cs e c t i o no f e v e r yp u l s es i g n a l 1 1 l e n e t w o r ki st r a i n e dt h r o u g ht h ek o h o n e na r i t h m e t i c w h e nt h e2 0t r a i n i n gp u l s es i g n a l s a r et e s t e di nt h et r a i n e dn e t w o r k , a l lo ft h eh e r o i na d d i c t sa n dt h eh e a l t h yp e r s o n sa r e c o r r e c t l yi d e n t i f i e d b u tw h e nu s et h et r a i n e dn e t w o r kt ot h e1 0t e s t i n gp u l s es i g n a l s ， e x p e r i m e n ts h o w st h ep u l s es i g n a l sa r ei d e n t i f i e de x c e p tt h a th e a l t h yp e r s o n sz 0 1a n d z i oa n dh c r o ma d d i c tb 1 3a r em i s j u d g e d t h ee x a c t n e s sr a t i oo fs e l f - o r g a n i z i n g n e t w o r kr e a c h e st o9 0 0 , 6 w h e nt h e3 0o r i g t i l a lp u l s es i g n a l sa r et r a i n e da n dt e s t e di nt h e p n n t h ee x a c t n e s sr a t i or e a c h e st o9 6 7 n er e s e a r c hs h o w st h a tt h ee x a c t l l e s sr a t i oi sh i g h ，t h en e ts t r u c t u r ei ss i m p l ea n d t h et r a i n i n gs p e e di sf a s tw h e nt h ep n n a n a l y s e st h ep u l s es i g n a l s a n dt h er e s e a r c h a l s os h o w st h a tt h et r a i n i n gs p e e do ft h es o f mn e t w o r ki sf a s t ，b u tt h ee x a c t n e s sr a t i o i si n f e r i o rt ot h a to f t h ep n n b e s i d e st h et h e o r i e sa n da l g o r i t h m so ft h es o f mn e t w o r ka n dt h ep n na r e 重庆大学硕士学位论文 英文摘要 d e d u c e da n dp r o v e di nt h i sp a p e r , a n dt h eb a s i ct h e o r i e sc o h e r e n tt on e u r a ln e t w o r ka l e c o l l e c t e da n dg e n e r a l i z e d ，w h i c hi n c l u d e st h ec l a s s i f i c a t i o no ft h en e u r a ln e t w o r k s t r u c t u r e ，t h ea l g o r i t h m sa n dt h et r a i n i n gf u n c t i o n k e y w o r d s ：n e u r a ln e t w o r k , s o f mn e t w o r k , p r o b a b i l i s t i en e p a ln e t w o r k ，p u l s es i g n a l ， h e r o i na d d i c t s l l i 独创性声明 本人声明所呈交的学位论文是本人在导师指导下进行的研究工作及取 得的研究成果。据我所知，除了文中特别加以标注和致谢的地方外，论文 中不包含其他人已经发表或撰写过的研究成果，也不包含为获得重废太堂 或其他教育机构的学位或证书而使用过的材料。与我一同工作的同志对本 研究所做的任何贡献均已在论文中作了明确的说明并表示谢意。 学位做作者签名。丫香 签字日期：卯矿厂年历月石目 学位论文版权使用授权书 本学位论文作者完全了解重废太堂有关保留、使用学位论文的 规定，有权保留并向国家有关部门或机构送交论文的复印件和磁盘，允许 论文被查阅和借阅。本人授权重庆太堂可以将学位论文的全部或部 分内容编入有关数据库进行检索，可以采用影印、缩印或扫描等复制手段 保存、汇编学位论文。 保密() ，在年解密后适用本授权书。 本学位论文属于 不保密( 、) 。 ( 请只在上述一个括号内打“”) 学位论文作者签名。歹茸 签字魄1 年易月6 日 导师签名：吾j 害 亍 签字日期彦7 年占月7 日 重庆大学硕士学位论文1 绪论 1 绪论 1 1 课题研究的目的及意义 本课题旨在对人工神经网络及其在中医脉象信号处理中的应用进行研究，利 用自组织神经网络和概率神经网络检测识别吸毒者的脉象信号，希望能为戒毒治 疗的评估和治疗方案的改进提供客观的依据。 中医历史悠久，源远流长，它为中华民族的繁荣昌盛立下了不可磨灭的功绩。 中医脉诊最早可以追溯到公元前七世纪，是我国最早创用的独特诊断方法，经过 历代医学家的反复临床实践与不断研究，已使之发展成为一门诊断学科一脉象 学【1 1 。脉象学是通过检查与分析脉象的变化，了解人体气血的运行状态，脏腑生理 病理改变，以及阴阳、寒热、虚实程度与疾病的表里等来达到临床诊断和治疗的 目的【l 】。所谓脉诊就是医生运用手指切按病人有关动脉，以手指触觉探测脉搏的脉 象借以了解病情，辨别病症的诊断方法【2 1 。脉诊古有遍诊法、三部诊法和寸口诊 法。后世则以寸口诊法为主，并依脉的位、数、律、形、势，在归纳总结之后分 为2 8 种脉象。“微妙在脉，不可不察”，脉诊对于察知体内病变，具有重要的诊断 意义。中医诊断疾病通过望、闻、问、切四诊合参，进行综合分析从而得出正确 诊断结果【3 1 ，是一种简便、可靠、无创伤的诊断方法，受到历代医家的高度重视。 现代医学认为脉象是心脏、血管、血液的质和量等因素共同作用，互相影响 的表现，反映整个循环系统的状态，而循环系统又受植物神经系统和内分泌系统 功能的影响。祖国医学认为，心、脉是形成脉象的主要器脏，气、血是形成脉象 的物质基础；与肺的呼吸系统、脾的生化、肝的疏泻、肾的温煦推动都有关，反 映的是人体整体功甜4 】。因而，脉象可对人体的许多疾病的性质和发展趋势提供重 要信息。然而，诸如脉象信号的生物医学信号是一种相当复杂的信号，其主要特 点是随机性强、背景噪声强等【5 】。脉象反映的是人体生物信息，包含有人体自身在 生命运动过程中产生的生理、生化信息，也有人体受到外界环境刺激所产生的信 息，因而其重复性差，具有整体性和可调性，非线性等特点【5 】。中医理论体系是建 立在古代朴素的辩证法之上的，长期以来未能从经验医学中解脱出来，中医诊断学 的某些内容长期停留在直观的臆测上，这一切束缚了中医事业的发展，也限制了 中医疗效的提高。脉诊是“切”诊的主要内容，自古以来只是靠不同指法下的指面感 觉来分辨脉象，尽管力求用生动的自然现象来取类比象，但由于缺乏明确的物理 含义，加之切脉者的主观差异，脉象的鉴别始终没有统一的客观标准，“在心易了， 指下难明”反映了学习和掌握脉诊的困斛3 1 。因此，人们希望能有专门的测量和记 录仪器，将中医脉象客观化、规范化，进而建立一定的指标，直接用于临床诊断。 重庆大学硕士学位论文1 绪论 应用现代科学技术，客观，准确地将脉搏信号提取出来并进行相应的信号处理、 分析，具有重要的临床诊疗意义。 当今社会，毒品泛滥，吸毒已经成为全世界面临的严重问题之一。中国的吸 毒现象自上世纪8 0 年代后也是沉渣泛起，具有来势凶猛，蔓延快等特点【6 】。吸毒 者不仅自身组织器官全面受损，还极易引起传染病和爱滋病的传播与流行m 。长期 吸毒，导致人体全身器官均发生严重的病理改变，尤以对心脏、肝脏、血液和肺 的损害最大，并且随着吸龄的增加，毒害会加深【引。近年来，吸毒已经引起社会的 广泛关注，如何帮助吸毒者戒毒也成为大家关注的焦点。根据中医诊断学理论1 9 】， 人体左手关位的脉搏可以反映肝脏的生理及病理信息，因此，本文分别选取了吸 毒者和正常人左手关位为取脉部位，模拟中医切脉进行脉象信号的分析，希望能 为戒毒治疗的研究提供现代化的诊疗手段。 本文将利用人工神经网络对吸毒者和正常人的脉象信号进行分析。人工神经 网络是一种模拟大脑神经传递信息的方式而建立起来的一种人工智能的方法，它 是一种分布式的并行处理系统，其处理结果以权值形式分布存储在矩阵中。这种 网络能够实现任意的非线性输入输出映射关系，具体的映射关系体现在构成网络 的神经元之间的分布连接权i - j 1 0 】。由于人工神经网络是基于生物神经网络的自适 应非线性动态系统，因此它具有独特的功能和特点【l l 】：可以充分逼近任意复杂 的非线性关系；所有定量和定性的信息的保存为等势分布，储存在网络内的各 种神经元上，具有很强的鲁棒性和容错性；并行分布处理使得运用计算机和 特定的硬件，快速进行大量的运算成为可能；可学习和自适应未知的或不确定 的系统；能够同时处理定量和定性的知识。神经网络可以把专家知识和先验知 识结合进一个数学框架，完成提取特征和分类、识别等功能，而不需要任何对数 据和噪声的先验假设，也不需要把专家知识和经验归纳成严密的条文，很适应于 研究和分析生物医学信号【1 2 1 。 人工神经网络的最新发展使其成为信号处理的强有力工具，对于那些用其它 信号处理技术无法解决的问题，神经网络的应用开辟了新的领域，广泛应用于模 式识别、模糊控制、医学信号的识别和处理中，在微电子、半导体、电力系统等 邻域均有广泛的运用【1 3 1 引。在所查的文献资料中，尚未发现自组织神经网络和概 率神经网络在中医脉象信号中的应用的例子。 1 2 脉象信号的分析 脉诊的客观化要求研制出能实现中医指感特征检测的脉象仪，以便准确提取人 体的脉象信号。用脉象仪描记脉搏信号已经有百余年的历史。1 8 6 0 年，法国的 v i e r o r d t 研制出第一台弹簧杠杆式脉搏描记仪，使脉象研究由示意图阶段进入示波 2 重庆大学硕士学位论文1 绪论 图阶副1 9 l 。自本世纪5 0 年代以来，已经研制出种类繁多的脉象仪。其主要方法都 是把适当的换能器置于被测部位上，将脉搏的脉动转换成电信号，再输入放大电 路，将微弱的生理、病理信号用记录仪记录，或运用电子计算机处理，对脉搏波 进行分析诊断【冽。脉象仪的总体构成包括信号检测、信号预处理和信号分析3 个 环节。从测量原理上讲脉象传感器可分为机械式、压电式、光电容积式等几种， 其中以压电式较为成熟和实用 2 u 。 脉象信息的分析方法随着数学、生物力学、工程学的发展而发展，同时又受 到脉象信息检测方法所制约。近年来，常用的脉象信号分析方法有如下所述： 1 、时域分析法：主要分析波幅的高度和脉动时相的关系，即脉象图的波、 峡的高度、相应时值，脉图面积( 收缩期面积和舒张期面积) ，从而了解脉动频率 和节律、脉力的强弱、脉势的虚实和脉象形态特征等，直接通过脉图的形态分 析，来阐明动脉血管内流体参量与时间和空间的函数关系。该方法比较简单直 观，是目前广泛应用的分析方法。但这种方法存在明显不足【2 2 】：“脉象图”中 的许多时域特征不明显，很难确定，仍凭经验估计，随机误差很大。时域脉 图法的参数很多，目前不能确定出统一的标准。时域图法分析的是一个周期 的波形特征，不能将脉搏所包含的全部信息利用和体现出来。时域内对脉象的 识别正确率很低。与时域分析不同，脉搏信号的频域特征可分辨性好，因此8 0 。 年代以来国内外一些学者开始在频域内对脉搏信号进行分析。 2 、频谱分析法：频谱分析是近代工程力学中常用的一种处理波动信息的方 法，主要采用傅里叶频谱分析法。它把一个很复杂的由许多重叠波构成的脉搏波 分解成不同的谐波，这样就能把其中所包含的信息和能量提取出来，因此较时域 分析法更能清楚地反映、分析脉象的各种变化。但其只能刻画整个时间域上信号 的频谱特征，不能反映局部时间区间上的信息。窗口傅里叶变换也由于其窗口的 形状、大小与频率无关，保持不变，不符合高频信号应比低频信号的时间分辨率 高( 频率越高，时窗越短) 的要求。 3 、时频分析法：脉象信号作为一种生物医学信号具有非平稳与时变特性， 而单纯的时、频分析方法通过傅里叶变换联系起来，它们的截然分开是以频率的 时不变特性或统计特性平稳为前提的。但由于时域和频域分辨率的“不确定性原 理”，不可能在时域和频域同时获得较高的分辨率。只有把时间和频率结合起来 进行处理才能取得更好的结果。目前应用的方法有小波方法、短时傅里叶变换以 及g a b o r 展开等。 4 、模糊识别法【2 3 】：某些脉图所属脉象不甚明确，是与否的界限不很明显， 从而采用模糊数学的方法，可按模糊理论中的择近原理，将数据进行类比，定出 脉象的类型。用此方法避免手指的主观感觉的误判，使难以区别的脉象可较准确 重庆大学硕士学位论文1 绪论 地识别。 5 、速率图分析法 2 3 1 ：速率又称为斜率，即动脉内压力的变化率，反映脉波 在每一点上的变化速度。斜率波与脉波相对应，正向波为升支斜率，反映脉波上 升的变化速度；负向波为降支斜率，反映了脉波下降的变化速度。分析斜率图可 更灵敏地了解各种脉象的变化趋向。 6 、多因素脉图识别法【2 3 】：将中医切脉时的指下感觉( 即脉道深浅、脉管粗细、 脉力强弱、脉博频率、节律、弦柔、滑涩、长短等) 以“举按寻诊脉趋势图”、“血 管粗细示意图”、“传统脉象图”三张图显示出来，然后综合分析以判断脉象的性 质。如李景堂提出每个寸、关、尺脉均应包括脉波一脉位趋势图、脉象波形图、 脉率趋势图、脉道形态示意图进行脉象的多因素分析。 7 、神经网络识别法： 人工神经网络是反映人脑结构及功能的一种抽象数学模型，一个人工神经网 络是由大量神经元节点互连而成的复杂网络，用以模拟人类进行知识的表示与存 储以及利用知识进行推理的行为。一个基于人工神经网络的智能系统是通过学习 获取知识后建立的。从本质上讲，人工神经网络的学习是一种归纳学习方式，它 通过对大量样本的反复学习，由内部自适应过程不断修改各神经元之间互连的权 值，最终使神经网络的权值分布收敛于一个稳定的范围。一个已建立的神经网络 可用于相关问题的求解，对于特定的输入模式，神经网络通过前向计算可得出一 个输出模式，从而得到输入模式的一个特定解。人工神经网络是由大量简单的神 经元以一定的方式连接而成的，单个神经元的作用是实现输入到输出的一个线性 或非线性函数关系，它们之间广泛的连接组合就使得整个神经网络具有了复杂的 非线性特性。神经网络将大量的信息隐含在其连接权值及阈值上，根据一定的学 习算法调节权值和阈值，使神经网络实现从m 维空间到n 维空间复杂的非线性映 射。神经网络具有强大的模式识别能力，可以对任意复杂状态或过程进行分类和 识别。但是必须首先用反映输入特征量的大量样本对网络进行学习训练后，才具 有这种功能。神经网络有两个与用传统方法进行信息处理完全不同的性质。第一， 神经网络是自适应和可以被训练的，它有自学习能力。如果它的输出不满足期望 的结果，网络可以自动调整权重加到每个输入上去产生一个新的结果，整个修正 过程可以通过训练算法来实现。第二，神经网络本身就决定了它的大规模并行机 制，也就是说，神经网络从原理上看比传统方法要快得多，它擅长通过大量复杂 的数据进行分类和发现模式或规律。 脉搏信号的各种分析方法，为中医脉诊获取各种病理信息作出了贡献，极大 地推动了中医脉诊向客观化、规范化方向发展。 4 重庆大学硕士学位论文1 绪论 1 3 神经网络的发展及国内外研究现状 人工神经网络的研究始于上个世纪4 0 年代初，至今已经有6 0 多年的历史了。 在这6 0 多年的发展史中，大体可以分为以下几个发展阶段口2 】m 6 】。 1 、初期阶段及第一次热潮 1 9 4 3 年美国心理学家w a r r e nsm o c u l l o c h 与数学家w a l t e rhp i t t s 用逻辑的数 学工具，研究客观事件在形式神经网络中的表述，最早建立了兴奋与抑制型神经 元模型，从此开创了对神经网络的理论研究。他们提出了m p 模型，这是第一个 用数理语言描述脑的信息处理过程的模型。 r o s c n b l a t 于1 9 5 7 年提出了著名的感知机模型。该模型包含了现代计算机的一 些原理，是第一个完整的人工神经网络，完成了从单个神经元到三层神经网络的 过渡。原型感知机的三层由感知层、连接层和反应层构成。由于从感知层到连接 层的连结权固定，从连接层到反应层的连接权具有因学习而变化的能力，因此它 只是一种只有输入层和输出层的单层神经网络。 w i n d r o w 和h o 仟1 9 6 0 年提出了自适应线性神经网络，这是在当时研究大脑 自适应学习系统的基础上提出的单层前馈感知机模型。它使用的均方误差最小化 算法与感知机的误差修正算法形式上相同，差别仅在于阈值符号的改变，但两者 的学习有着本质的区别： 前者的数学基础在于超平面位置调整，后者的数学基础在于误差曲面上的梯 度下降。它可用于自适应滤波、预测和模式识别。在数学模拟理论发展的同时， 有些研究者利用电子元件进行电子模拟，开发出跑迷津的金属老鼠、会下棋的机 器等，以对a n n 数学模型进行电子学的硬件实现，形成了a n n 研究的第一个热 潮。至此，人工神经网络的研究进入了第一个高潮。 2 、人工神经网络发展的萧条期 在对a n n 进行了大量的研究之后，a n n 在当时的一些局限性也越来越多的 呈现在人们面前，造成这种情况的原因是发展过程中遇到了本质的困难，即电子 线路交叉极限的困难( 对n 个神经元就存在一条连线) 。由于当时网络实现方案相对 较少，常用的感知器也只采用单层，无法形成复杂的逻辑函数，连比较简单的“异 或”问题也难以解决，受到一些学者的攻击。1 9 6 9 年，人工智能学者m i n s k y 和 p a p e r t 编写了影响很大的 p e r c e p t r o n s ) 一书。从理论上证明单层感知机的能力 有限，如不能解某些简单运算问题，而且不能训练己发现的许多模式。他们进而 推测多层网络的感知机能力也不过如此，由于作者的权威及影响很大，且当时数 字计算机正处于全盛时期，人工智能和专家系统正处于发展高潮，其问题和局限 性尚未暴露，此外单层神经网络功能有限以及多层神经网络缺少有效的学习算 法，因此这个观点很快被不少人接受。在这之后近1 0 年，神经网络研究进入了一 5 重庆大学硕士学位论文l 绪论 个缓慢发展的萧条期。这期间，g r o s s b e r g 深入研究了心理学和生物学的处理， 以及人类信息处理的现象，把思维和脑紧密地结合在一起，成为了统一的理论， 他于1 9 7 6 年提出了自适应共振理论( a d a p t i v er e s o n a n c e th e o r y , a r t ) 。此外， f u k u s h i m a 于1 9 8 0 年将单层感知机增加了隐含层，通过抑制性反馈和兴奋性前馈 作用实现自组织学习，从而使多层感知机实现了联想学习和模式分类识别。芬兰 学者k o h o n c n 于1 9 8 1 年提出了自组织特征映射( s e l f - o r g a n i z i n gm a p ，s o m ) n 论， 反映了大脑神经细胞的自组织特性、记忆方式以及神经细胞兴奋刺激的规律。这 些研究成果对以后的神经网络的发展产生了重要影响。 3 、人工神经网络的第二次热潮 a n n 的研究在陷入低谷之后，一些a n n 的痴迷者很快对如何解决非线性分 割问题找到了可行的方案。1 9 8 2 年，h o p f i e l d 提出j h o p f i e l d 模型，h o p f i e l d 在美 国科学院院刊发表的两篇文章，有力地推动了神经网络的研究，引起了研究神经 网络的又一次热潮。新的神经网络模型- h o p f i d d 网络模型，首次引入了网络 能量函数( 李雅苔诺夫函数) 的概念，给出了网络稳定性的判定依据。1 9 8 4 年，他 又提出了网络模型实现的电子电路，为神经网络的工程实现指明了方向，他的研 究成果开拓了神经网络用于联想记忆的优化计算的新途径，并为神经计算机研究 奠定了基础。h i n t o n 等人于1 9 8 4 年将模拟退火算法引入到神经网络中，提出了“隐 单元”概念，推出大规模并行处理的b o l t z m a n n 机网络模型，采用多层神经网络并 行分布改变各单元连接权，克服了单层网络的局限性，为神经网络进入非线性处 理领域奠定了基础。r u m e l h a r t 于1 9 8 6 年提出了并行分布处理( p a r a l l e lc o n t r i b u t e d p r o c e s s i n g ) 的理论，致力于认知的微观结构的探索，并提出了多层网络的误差反 向传播算法，成为至今为止影响很大的一种网络学习方法。h e e h t - n i e l s e n 于1 9 8 7 年提出了对( c o u n t e rp r o p a g a t i o n ) 传播神经网络，该网络具有分类灵活、算法简 练等优点，可用于模式分类、函数逼近、统计分析和数据压缩等领域。c h u a 等 人于1 9 8 8 年提出了细胞神经网络( c n n ) 模型，它在视觉初级加工上得到了广泛应 用。 e d e l m a n 于1 9 9 0 年提出了d a r w i n i s m 模型，建立了神经网络系统理论。之后， 1 9 9 1 年，a i h a r a 等人在前人推导和实验的基础上，给出了一个混沌神经元模型， 该模型己成为一种经典的混沌神经网络模型，该模型可用于联想记忆。同年， h e r t z 探讨了神经计算理论，对神经网络的计算复杂性分析具有重要意义，c h a y 等人提出用耦合的混沌振荡子作为某个神经元，构造混沌神经网络模型，为它的 广泛应用前景指明了道路。1 9 9 2 年，h o l l a n d 用模拟生物进化的方式提出了遗传 算法，用来求解复杂优化问题。 随着理论工作的发展，神经网络的应用研究也取得了突破性进展，渗透到模 6 重庆大学硕士学位论文1 绪论 式识别、反馈控制、智能仪表、模糊控制、信号处理、系统辨识、模糊判决、知 识处理、组合优化、专家系统、过程自动化、故障诊断、自动检测等领域，并且 和它们密切结合成新的分支，如模糊神经系统、神经网络模式识别理论等。涉及 的学科有神经生理学、认识科学、数理科学、心理学、信息科学、计算机科学、 微电子学、光学、动力学、生物电子学等。近年来，现代人工神经网络技术是一 个快速发展着的新兴学科，新的模型、新的理论、新的应用成果正在层出不穷地 涌现出来，成为一个不可忽略的工具。 4 、国内外研究现状 近年来，神经网络的硬件实现技术取得了突破性的进展，使神经网络逐渐从 实验室走向了国民经济主战场，这一点在日本体现得尤为明显。日本松下电气工 业公司研制出一种可用算法直接处理光信号而不需将光信号变成电信号的光学神 经网络神经元。这种神经元是一种用于对自学习结果信息进行检验的特殊薄膜。 新研制的此种系统无需受电控制，因而可制得很轻巧，预期可将其用作传感器和 检测机器人的“眼睛”，或将用于手写字符识别系统。日本三菱电机公司i s i 研究所 采用硅i s i 技术研制成世界上规模最大的动态型模拟神经芯片。该芯片由4 0 0 多个 神经元、4 万余个突触组成，具有自学习功能，可识别数十个字符图形，其运算和 自学习速度分别为2 x 1 0 c p s 和8 0 x 1 0 u p s 。日本n e c 公司已开发出一种神经网络， 可利用类似于人脑的演算方式侦测股情之相似性【2 6 】。 我国学术界大约在8 0 年代中期关注神经网络领域，有一些科学家起到先导的 作用。1 9 8 4 年和1 9 8 5 年，生物物理学家汪云九提出了视觉神经元的广义g a b o r 函数( e g ) 模型，以及有关立体视觉、纹理检测、运动方向检测、超视觉度现象的 计算模型。汪云九等人还建立了初级视觉神经动力学框架，开辟了一条新的途径。 从这时起，我国有些数学家和计算机科学家开始对这一领域产生兴趣，开展了一 定的研究工作。 1 9 9 0 年我国召开了首届全国神经网络学术年会，成立了“中国神经网络委员 会”，由4 5 位专家教授组成，负责组织全国学术会议和与国际同行联系。现已召 开过四届全国学术会议和两届在北京召开的国际会议。国内也出版了不少有关著 作，并有数百人的队伍从事a n n 的研究。 1 9 9 4 年寥晓昕对细胞神经网络建立了新的数学理论与基础，得出了一系列结 果。如耗散性、平衡位置的数目及表示，平衡态的全局稳定性、区域稳定性、周 期解的存在性和吸引性等。使这个领域取得了新的进展。 值得重视的是，吴佑寿等人提出了一种激励函数可调的神经网络模型，对神 经网络理论的发展有重要意义。可以认为，先验知识不充分利用岂不可惜，但问 题是先验知识有时不一定抓住了实质，存在一定局限性。因此，在设计激励函数 7 重庆大学硕士学位论文1 绪论 可调网络( t a f ) 时要谨慎。针对一个典型的模式分类难题，即双螺线问题来讨论t a f 网络的设计、激励函数的推导及其网络训练等，其实验结果表明这种网络方法的 有效性和正确性，尤其对一些可用数学描述的问题。另外，对模式识别中的手写 汉字识别问题研究，有重要的理论和应用价值。郝红卫和戴汝为把统计识别方法 与多层感知机网络综合起来，提出了一种网络集成法，对4 个不同手写汉字分类 器进行集成。这个方法有一定的推广性，对其它类似问题提供了一个范例。 9 0 年代，国内许多学者对h o p f i e l d 神经网络的进一步研究很感兴趣，使它得 到了一定的完善和发展。戴先中等人提出了连续非线性系统的神经网络a 阶逆系 统控制方法，他们一方面用静态神经网络逼近静态非线性函数；另一方面用积分 器或微分器来体现系统的动态特性，并结合线性系统理论和方法，从而构成一种 满足系统要求的复合控制器 2 7 】。 神经网络的应用领域很广，包括金融、股票预测，自动控制、机器人，模式 识别，计算机视觉和图像处理，信号处理等等。从所查的文献来看，神经网络在 医学信号处理【1 2 1 7 ，电力系统故障分类、检测 2 9 1 1 3 0 ，控制系统【3 l 】，材料加 t o o 】，金融预测【3 2 】等等方面获得了广泛应用。 综上所述，人工神经网络的发展正在成熟，它的研究还在进一步深入，其应 用领域也将越来越广。 1 4 本论文的研究工作 1 、对神经网络基本概念和基础知识进行了较系统的阐述，对自组织神经网络 ( 包括自组织竞争网络、自组织特征映射神经网络和l v q 网络) 的理论和算法进行 了推导和验证。 2 、建立了3 8 2 2 的二层自组织竞争网络，3 8 - - 2 的二层s o f m 网络，3 8 - 4 , - - 2 的二层l v q 网络。为了减小网络的规模，输入信号是选取每一例脉象信号的一段， 即2 3 - - 6 0 这3 8 个点，输出层神经元的数目为1 。网络选取目标输出l 代表输入信 号为正常人对应的脉象，目标输出1 代表输入信号为吸毒者对应的脉象。训练完 成的自组织竞争网络、自组织特征映射神经网络对3 0 例脉象信号进行了分析，均 有3 例脉象信号被误判，其中两例正常人被误判为吸毒者，一例吸毒者被误判为 正常人，正确识别率达到9 0 。用l v q 网络分析时正确识别率达到9 3 3 。 3 、对概率神经网络( p n n ) 的理论和算法进行了推导和验证。用训练完成的概 率神经网络对3 0 例脉象信号进行了分析，正常人和吸毒者中只有1 例正常人被误 判，正确识别率达到9 6 7 。 4 、对自组织网络和概率神经网络分析脉象信号的性能做了比较，得出了实验 结论，并初步分析了原因。 5 、用m a t l a b 7 0 编写自组织神经网络和概率神经网络分析脉象信号的程序。 在上述研究工作中，具有创新性的工作是第2 点、3 点和4 点。 重庆大学硕士学位论文 2 神经网络的基本概念和基础理论 2 神经网络的基本概念和基础理论 2 1 人工神经网络的特征 人工神经网络是由大量的简单处理单元( 即神经元) 所构成的非线性动力学系 统，它具有众多良好的特性和能力：高度非线性、并行性、存贮分布性、结构可 变性、自学习性和自组织性、高度的鲁棒性和很强的学习联想等特点。因此，它 能解决常规信息处理方法难以解决或无法解决的问题，具有较强的数学迫近、映 射、优化、模式聚类、模式分类和概率密度函数估计等信息处理能力。它已被应 用于生物、电子、计算机、数学、物理等学科。作为一种新的方法体系，人工神 经网络具有以下一些特征： l 、整体性、系统性和非线性 人工神经网络是大量神经元的集体行为，并不是各单元行为简单地相加，而 表现出一般复杂非线性动态系统的特性，如不可预测性、不可逆性和出现混沌现 象等。大量神经元通过互连成网络之后具有自适应自学习的功能，具有善于联想、 概括、类比和推广的整体运算能力，会产生出某种趋向一致的整体效应。人工神 经网络具有理智而敏捷的判断思维，可处理一些环境颇为复杂、知识背景不清晰、 推理规律模糊、信息模式多变、甚至相互矛盾的问题，可从典型实例中正确处理 具体事例，给出令人满意的结果。 2 、自学习、白组织和自适应 人工神经网络的信息处理和存储是在节点间连接权上进行的，其自适应、自 学习过程属于一个递归调用过程。每一次学习之后，它就会检查输出信号是否达 到了要求，若尚未达到规定值，则自动地调整内部各参数，继续进行学习。神经 网络自适应、自学习的目的旨在验证其输出层的实际输出值与所需输出值的误差， 使其减至最小。在自适应、自学习过程中误差值逐渐减小，直至达到允许值为止。 它不仅可处理各种变化的信息，而且在处理信息的同时其自身亦在不断地变化， 即通过某种自学习机制，自身总结经验，可对一些无规律的问题，做出及时的反 应与对策。神经网络可以按照一定的方式调整自身的规模以及神经元的连接方式， 使其本身具有最佳的结构以达到对外界信息的最佳响应。 3 、大规模并行处理能力 人工神经网络是由大量简单处理元件相互连接构成的高度并行的非线性系 统，具有大规模并行性处理特征。虽然每个处理单元的功能十分简单，但大量简 单处理单元的并行活动使网络呈现出丰富的功能并具有较快的速度。一个神经网 络可存储多种信息，其中每个神经元的连接权中存储的是多种信息的一部份。当 需要获得己存储的知识时，神经网络在输入信息激励下采用“联想”的办法进行回 9 重庆大学硕士学位论文 2 神经网络的基本概念和基础理论 忆，因而具有联想记忆功能。神经网络内在的并行性与分布性表现在其信息的存 储与处理都是空间上分布、时间上并行的。 4 、极强的容错性和鲁棒性 在神经网络中，一个信息并不是存放于一个地方，而是分布于整个网络内， 网络中每一处可以存入多个信息。网络的每部分对信息的存储有等势作用，其存 储区与运算区合为一体。存储知识的获得通过联想方式来实现，当向一个神经网 络输入一个激励时，它要在己存的知识中寻找与该输入匹配最好的存储知识作为 其解。这种存储方式的优点在于若部分信息不完全( 如丢失、含有错误的信息) 或者 系统局部受损，它仍能恢复原来正确的完整的信息，系统仍能运行，从而使得网 络具有很强的容错性以及鲁棒性。 5 、极强的分类与识别能力 人工神经网络对外界输入样本具有很强的识别与分类能力。对输入样本的分 类实际上是在样本空间找出符合分类要求的分割区域，由于神经网络可以很好地 解决对非线性曲面的逼近，因此比传统的分类器具有更好的分类与识别能力。 2 2 生物神经元简介 人脑由大量( 约1 0 1 1 个) 高度互连的单元( 每个单元约有1 0 4 个连接) 组成，这些 单元被称为神经元。这些神经元由三部分组成：树突、细胞体和轴突。树突是树 状的神经纤维接收网络，它将电信号传送到细胞体，细胞体对这些输入信号进行 整合并进行阈值处理。轴突是单根长纤维，它把细胞体的输出信号导向其他神经 元。一个神经细胞的轴突和另一个神经细胞树突的结合点称为突触。神经元的排 列和突触的强度( 由复杂的化学过程决定) 确立了神经网络的功能。图2 1 是两个生 物神经元的简化图示。 根 图2 1 生物神经元简图 f i 9 2 1s c h e m a t i cd r a w i n go f b i o l o g i c a ln 1 t - o n s 1 0 重庆大学硕士学位论文 2 神经网络的基本概念和基础理论 神经结构在整个生命期内不断地进行着改变，后期的改变主要是加强或减弱 突触连接。例如，现在已经确认，新记忆的形成是通过改变突触强度而实现的。 人工神经网络没有人脑那么复杂，但它们之间有关键的相似之处。两个网络的构 成都是可计算单元的高度互连，而人工神经元比生物神经元简单得多，处理单元 之间的连接决定了网络的功能。 2 2 节参考了文献3 3 1 。 2 3 人工神经元模型和网络结构 2 3 1 单输入神经元 一个单输入神经元如图2 2 所示。标量输入p 乘上标量权值w 得