（信号与信息处理专业论文）忆阻器rtd混合结构细胞神经网络及应用.pdf

摘要 忆阻器r t d 混合结构细胞神经网络及应用奎 学科专业：信号与信息处理 指导老师：段书凯教授 摘要 研究方向：信号与信息处理 硕士研究生：高士咏 随着信息技术的高速发展，需要处理的信息量激增，而晶体管体积缩小即将达到极限， 使得依赖于集成电路技术的领域发展遇到了瓶颈。细胞神经网络是一种应用广泛的非线性网 络，虽然在进行大规模实时信息处理和集成电路实现方面有着无可比拟优势，但也遇到了此类 问题。融入忆阻器天然的记忆效应优势和共振隧道二极管的负差分电阻特性，能够构建全新 的细胞神经网络，该网络具有结构简单、应用灵活的优势。同时，忆阻器和共振隧道二极管 均为纳米级元件，将使得电路体积大大缩小，系统集成度显著提高。 本文将对忆阻器，共振隧道二极管与细胞神经网络进行深入研究，探讨三者有效的结合 机制，构建新型细胞神经网络，并探讨在其图像处理中的应用。主要内容包括以下四个部分： ( 1 ) 介绍了标准细胞神经网络的动力学特性，分析了细胞神经网络的稳定性及容错性， 论证了细胞神经网络在图像处理中的有效性和可行性。针对细胞神经网络的结构特点，讨论 对其进行改进的原因及思路。 ( 2 ) 根据忆阻器理论模型( c h u a ，1 9 7 1 年) 和物理模型( h p 实验室，2 0 0 8 年) ，建立适 合嵌入细胞神经网络的忆阻器模型，并进行m a t l a b 仿真和s i m u l i n k 仿真，分析忆阻器的暂 态特性，以及在不同激励下的响应。在此基础上，探讨了忆阻器与细胞神经网络相结合的机 制。 ( 3 ) 根据忆阻器的记忆特性，使用忆阻器替代细胞间的连接权值，研究其工作机制，构 建新型忆阻细胞神经网络( m c n n i 型) 。细胞神经网络的应用原理是借助不同的模板实现不 基金项目：国家自然科学基金项目( 6 0 9 7 2 1 5 5 ) 和教育部中央高校基本科研业务费专项重大培育项目 ( x d j k 2 0 1 2 a 0 0 7 ) 西南大学硕+ 毕业论文 同的功能，不同的模板代表着连接权值的改变。标准的细胞神经网络通过乘法器实现模板的 权值，但乘法器不仅体积大，而且当修改模板时就需要更换乘法器。i 型忆阻细胞神经网络使 用纳米级器件_ 忆阻器实现细胞间的连接权值，当需要更换模板时，只需使用外加电压源 改变忆阻器的阻值即可。因而，该网络模型模板更为灵活，更易更改，应用更加多样化。 ( 4 ) 根据忆阻器的负差分电阻特性，使用忆阻器替代细胞电路中的电阻，构建了i i 型忆 阻细胞神经网络模型( h c n n - ) 。由于忆阻器是一种具有负差分电阻特性的元件，将其融入 到细胞电路中，就不再需要引入反馈机制，可以大大简化电路结构。文中对上述网络进行稳 定性分析和计算机仿真，证明其在图像处理中的应用。 ( 5 ) 由于忆阻器的负差分电阻特性在硬开关状态下才显得特别明显，并不是一种用于替 换细胞电路中电阻的理想元件，而另一种纳米级元件- 共振隧道二极管( r t d ) 具有理想的 负差分电阻特性。我们在分析了r t d 的基本特性的基础上，利用r t d 完美的负差分电阻特性 和忆阻器的自动记忆功能，构建了忆阻器r t d 混合结构细胞神经网络。这种网络融合了i 型 忆阻细胞神经网络模板灵活和r t d 细胞神经网络电路简单的优势，有望使得网络体积进一步 减小，应用更加灵活。随后对该网络的稳定性和容错性进行分析，并使用适当的模板对图像 进行处理，验证该网络进行图像处理的有效性，为后续j 【作的展开奠定理论基础。 最后，总结本文所做的工作并对可以进一步展开的研究进行了展望。 i i 关键词：细胞神经网络忆阻器共振隧道二极管图像处理 a b s t r a c t 曼鼍曼曼曼曼曼曼皇曼曼量窖曼寰曼量曼詈曼曼曼舅曼曼量曼曼曼曼曼曼曼曼曼置i l l 皇量皇曼曼量皇曼蔓璺皇曼笪曼曼皇曼蔓曼皇曼曼曼皇曼曼璺 c e l l u l a rn e u r a ln e t w o r k sb a s e d0 9h y b r i d m e m r i s t o r r t ds t r u c t u r ew i t hi t sa p p l i c a t i o n s m a j o r ：s i g n a l & i n f o r m a t i o np r o c e s s i n g s u p e r v i s o r ：p r o f s h u k u a id u a n d i r e c t i o n ：s i g n a l & i n f o r m a t i o np r o c e s s i n g a u t h o r ：s h i y o n gg a o ( 112 0 0 9 3 15 0 015 0 4 ) a b s t r a c t w i t ht h er a p i dd e v e l o p m e n to fi n f o r m a t i o nt e c h n o l o g y , m o r ea n dm o r ei n f o r m a t i o n n e e dt ob ep r o c e s s e d h o w e v e r ，b e c a u s et h ed e c r e a s ei ns i z eo f t r a n s i s t o ra p p r o a c h e st h e u t m o s ta n da l lt h ef i e l d sd e p e n d i n go ni ct e c h n o l o g ym e e tab o t t l e n e c k t h ec e l l u l a r n e u r a ln e t w o r ki sak i n do fn o n l i n e a rn e t w o r kw h i c hu s e dw i d e l ya n di ta l t h o u g hh a s e x c e l l e n ta d v a n t a g e si nt h ea s p e c t so fl a r g e - s c a l er e a l - t i m ei n f o r m a t i o np r o c e s s i n ga n d i cr e a l i z a t i o n , i th a st h es a m ep r o b l e m u s i n gt h ea d v a n t a g eo fm e m o r ye f f e c to f m e m r i s t o ra n dt h en e g m i v ed i f f e r e n t i a lr e s i s t a n c ep r o p e r t yo fr e s o n a n tt u n n e l i n gd i o d e ， t h e nan o v e lc e l l u l a rn e u r a ln e t w o r kw a sp r o p o s e d t h en e t w o r kh a sa d v a n t a g e so f s i m p l es t r u c t u r ea n df l e x i b l ea p p l i c a t i o n ，m e a n w h i l e , t h em e m r i s t o ra n dt h er e s o n a n t t u n n e l i n gd i m eb o t ha r et h en a n o s c a l ec o m p o n e n t s ，s ot h e s i z eo fc i r c u i tw i l lb e 罄r e a t l y r e d u c e da n dt h ei n t e g r a t i o nd e n s i t yo fs y s t e mw i l lb es i g n i f i c a n t l yi m p r o v e d i nt h i sp a p e r , ad e t a i l e ds t u d yo fm e m r i s t o r , r e s o n a n tt u n n e l i n gd i o d e sa n dc e l l u l a r n e u r a ln e t w o r k sa r ep r o v i d e d ，t h e nt h ee f f e c t i v ec o m b i n a t i o nm e c h a n i s mo ft h et h r e ei s i n v e s t i g a t e da n dt h en o v e lc e l l u l a rn e u r a ln e t w o r ki sp r e s e n t e d ，a n dm e a n w h i l et h e a p p l i c a t i o ni ni m a g ep r o c e s s i n gi si n v e s t i g a t e d t h i sp a p e ri n c l u d e sf o u rp a r t sm a i n l y a s f o l l o w i n g ： ( 1 ) t h ed y n a m i cc h a r a c t e r i s t i c so ft h es t a n d a r dc e l l u l a rn e u r a l n e t w o r ka l e i n t r o d u c e da n dt h es t a b i l i t ya n df a u l t - t o l e r a n c eo fc e l l u l a rn e u r a ln e t w o r k sa r ea n a l y z e d ， t h e nt h ee f f e c t i v e n e s sa n df e a s i b i l i t yi ni m a g ep r o c e s s i n ga r ep r o v e d b a s e d0 1 1t h e s t r u c t u r eo ft h ec e l l u l a rn e u r a ln e t w o r k ，w ed i s c u s st h ew h ya n dh o wt oi m p r o v ei t s p e r f o r m a n c e ( 2 ) a c c o r d i n gt ot h et h e o r e t i c a lm o d e l ( c h u a , 19 71 ) a n dp h y s i c a lm o d e l ( h pl a b s ， 2 0 0 8 1o ft h em e m r i s t o r , a n dw ef o u n dt h a tt h em e m r i s t o rm o d e l w h i c hi ss u i t a b l ef o rt h e i i i 两南大学硕十毕业论文 c e l l u l a rn e u r a ln e t w o r k ，a n dh a dc a r r i e do nt h e 唆r l a bs i m u l a t i o na n ds i m u l i n k s i m u l a t i o na n da n a l y z e dt h et r a n s i e n tb e h a v i o ra n dr e s p o n s eo fm e m r i s t o ru n d e rv a r i o u s i n c e n t i v e s o nt h i sb a s i s ，w ei n v e s t i g a t et h ec o m b i n a t i o nm e c h a n i s mo fm e m r i s t o ra n d t h ec e l l u l a rn e u r a ln e t w o r k ( 3 ) a c c o r d i n gt ot h em e m o r yf e a t u r eo fm e m r i s t o r , an e wm e m r i s t i v ec e l l u l a r n e u r a ln e t w o r k ( t y p em ( n n i ) i se s t a b l i s h e db yr e p l a c i n gt h ei n t e r c e l l u l a rc o n n e c t i o n w e i g h tw i t l lt h em e m r i s t o r , a n dt h e nt h ew o r k i n gm e c h a n i s mo ft h i sn e t w o r ki ss t u d i e d w ek n o wt h a tt h ea p p l i c a t i o nt h e o r yo fc e l l u l a rn e u r a ln e t w o r kd e p e n d so nd i f f e r e n t t e m p l a t e sr e a l i z ed i f f e r e n tf u n c t i o n s ，a n dt h ed i f f e r e n tt e m p l a t e sr e p r e s e n tt h ec h a n g eo f c o n n e c t i o nw e i g h t s t h es t a n d a r dc e l l u l a rn e u r a ln e t w o r kr e a l i z e st h ew e i g h t so f t e m p l a t e sb ym u l t i p l i e rw h i c hi sn o to n l yt o ob u l k y , b u tn e e dt ob ec h a n g e dw h e n m o d i f y i n gt h et e m p l a t e s h o w e v e r t y p eim e m r i s t i v ec e l l u l a rn e u r a ln e t w o r kr e a l i z e s t h ec o n n e c t i o nw e i g h t sb yu s i n gn a n o s c a l ed e v i c e - - m e m r i s t o r , s ow h e nw en e e dt o r e p l a c et h et e m p l a t e ，o n l yn e e dt oc h a n g et h ev a l u eo fm e m r i s t o rb yc h a n g i n gv o l t a g e s o u r c e t h u st h et e m p l a t eo ft h en e t w o r km o d e li sm o r ef l e x i b l e ，e a s i e rt oc h a n g ea n d i t sa p p l i c a t i o n sa r em o r ed i v e r s e ( 4 ) a c c o r d i n gt ot h en e g a t i v ed i f f e r e n t i a lr e s i s t a n c ep r o p e r t yo fm e m r i s t o r , w e r e p l a c e t h e r e s i s t a n c e i nc e l l u l a rc i r c u i tw i t hm e m r i s t o r , a n dc o n s t r u c tt y p ei i m e m r i s t i v ec e l l u l a rn e u r a ln e t w o r km o d e l t h e r ei sn on e e dt oa d daf e e d b a c k m e c h a n i s mi n t os y s t e mi fm e m r i s t o ri sb l e n d e di n t oi t ，b e c a u s em e m r i s t o ri sak i n do f e l e m e n t 、丽t l ln e g a t i v ed i f f e r e n t i a lr e s i s t a n c ep r o p e r t y i nt h i sp a p e r ，w ep r e s e n tt h e s t a b i l i t ya n a l y s i sa n dc o m p u t e rs i m u l a t i o nf o rt h ea b o v en e t w o r k , a n dp r o v ei t s a p p l i c a t i o ni ni m a g ep r o c e s s i n g ( 5 ) b e c a u s et h en e g a t i v ed i f f e r e n t i a l r e s i s t a n c ec h a r a c t e r i s t i co fm e m r i s t o ri s p a r t i c u l a r l yc l e a ro n l yu n d e rt h eh a r d s w i t c hs t a t ea n di t s n o ta ni d e a le l e m e n tt o r e p l a c et h er e s i s t a n c ei nt h ec e l l u l a rc i r c u i tb u ta n t h e rn a n o s c a l ee l e m e n t - - t h er e s o n a n t t u n n e ld i o d e s ( r t d ) h a st h ei d e a ln e g a t i v ed i f f e r e n t i a lr e s i s t a n c ec h a r a c t e r i s t i c t 1 1 e b a s i cc h a r a c t e r i s t i c so fr e s o n a n tt u n n e l i n gd i o d ea r ea n a l y z e da n dr t dc e l l u l a rn e u r a l n e t w o r kb a s e do nm e m r i s t o ri sb u i l tu pb yu t i l i z i n gn e g a t i v ed i f f e r e n t i a lr e s i s t a n c e p r o p e r t yo fr t da n da u t o - m e m o r yf u n c t i o n t l l i sn e t w o r kc o m b i n e st h ef l e x i b i l i t yo f t y p eim e m r i s t i v ec e l l u l a rn e u r a ln e t w o r kt e m p l a t ea n dt h es i m p l i c i t yo fr t dc e l l u l a r n e u r a ln e t w o r kc i r c u i t ，i ti sh o p e f u lt om a k et h es i z eo fn e t w o r kb e c o m es m a l l e ra n di t s a p p l i c a t i o nb e c o m em o r ef l e x i b l e a f t e rt h a tt h es t a b i l i t ya n df a u l t - t o l e r a n c eo ft h e a b s t r a c t m_基m-mm_11mii曼i n e t w o r ka l ea n a l y z e d ，a n dt h ei m a g ei sp r o c e s s e db yu s i n gt h ea p p r o p r i a t et e m p l a t e ， a n dt h ev a l i d i t yo ft h en e t w o r kf o ri m a g ep r o c e s s i n gi sv e r i f i e d ，w h i c hp r o v i d e st h e t h e o r e t i c a lf o u n d a t i o nf o rt h es u b s e q u e n tw o r k f i n a l l y , t h ew o r kw eh a v ed o n ei nt h i sp a p e ri s s u m m a r i z e da n dt h ef u r t h e r d i s c u s s i o ni sf o r e c a s t e d k e y w o r d s ：c e l l u l a rn e u r a ln e t w o r k ；m e m r i s t o r ；r e s o n a n tt u n n e l i n gd i o d e ；i m a g e p r o c e s s i n g v 第一章引言 - - i ! i l l m l 鼍量量曼皇曼曼曼 第一章引言 1 1 人工神经网络的发展 人工神经网络( a n n ，a r t i f i c i a ln e u r a ln e t w o r k ) 是一种通过模拟生物过程来 反映人脑某些特性的计算结构，其研究基础为现代神经生物学。人工神经网络的 研究始于上世纪4 0 年代初，经历了兴起、高潮、反思、再高潮及稳步发展的曲折 道路。 1 9 4 3 年，心理学家w m e c u l l o e h 和数理逻辑学家w p i t t s 首先提出了一个 对人工神经网络的研究起着至关重要作用的概念神经元的数学模型【ij ；1 9 4 8 年，冯诺依曼提出了以简单神经元构成的可再生自动机网络结构；2 0 世纪5 0 年代 末，f r o s e n b l a t t 设计制作了称之为“感知机”的多层神经网络，首次实现人工 神经网络的研究从理论探讨到实践的转变【2 l ；6 0 年代初期，w i d r o w 提出了自适应 线性元件网络，这是一种连续取值的线性加权求和闺值网络，并实现了非线性多 层自适应网络【3 1 。这些都是人工神经网络模型的初型。之后，人工神经网络经过了 一段发展的低潮期。8 0 年代初期，美国物理学家h o p f i e l d 发表了一篇关于人工神 经网络研究论文，引起了巨大的反响，使人们重新认识到神经网络的价值以及应 用的现实性。随后，研究人员围绕着h o p f i e l d 提出的方法展开了进一步的研究工 作，并最终形成了8 0 年代中期以来的人工神经网络研究热潮。 人工神经网络是具有自适应性的非线性动态系统，由大量结构和功能比较相近 且简单的神经元组成，进而产生非常复杂的系统行为。人工神经网络能够反映人 脑功能的若干基本特性，但这并非是生物系统的逼真描述，仅仅是某种模仿、简 化和抽象。但与数字计算机比较，人工神经网络在构成原理和功能特点等方面更 加类似于人脑，它并不是按给定的程序一步一步地执行运算，而是通过自身适应 环境、总结规律，进而完成某种运算、识别或过程控制1 4 】，可用于各种复杂的处理 和运算。 对于人工神经网络的实现，目前主要有两种方案：第一种是利用现有冯诺曼体 系结构的数字计算机，用编制程序( 用软件) 来模拟实现，该方案具有成本低、 使用方便、灵活性强等优点。第二种方案是借助于微电子、光或光电技术，通过 硬件直接实现，这种方案能够保证人工神经网络广泛并行处理信息的基本特征【5 j 。 其中，用硬件直接实现人工神经网络有三种基本方法，即用电子学方法实现【6 ，7 】， 用光电方法实现【8 j 和用光学方法实现。 由于人工神经网络采用大量比较简单的人工神经元作为基本单元，通过单元之 间复杂繁多的连接关系进而构成具有良好功能的网络，是一种以分布式存贮和广 两南大学硕十毕业论文 泛并行协同处理为特征的网络，具有容错性、联想记忆和自学习进化等特性。因 而，人工神经网络被认为是解决智能产业难题的主要途径。但目前，研究对象的 网络规模和网络行为的复杂性迅速增加，使得怎样提高人工神经网络的速度和集 成度，成为研究、发展与实际应用中的重中之重。目前，人工神经网络的应用已 遍及诸多领域，研究建立了许多实用网络模型和算法，主要有前馈型人工神经网 络，反馈型人工神经网络，自组织竞争人工神经网络三类。随着人工神经网络研 究的发展，仍将有许多改进型的网络模型和算法问世。 1 2 细胞神经网络 h o p f i e l d 于1 9 8 2 年和1 9 8 4 年发表两篇举世瞩目的论文提出著名的h o p f i e l d 模型，使动态反馈神经网络受到广泛的关注【9 1 0 1 。细胞神经网络是由c h u a 和y a n g 于1 9 8 8 年基于h o p f i e l d 神经网络所提出的神经网络模型1 1 】，是一个大规模非线性 模拟系统，继承了细胞自动机( 细胞神经元之间的连接是局部的) 和h o p f i e l d 神 经网络的特点，具有以下几个突出的优点，十分适用于进行图像识别： 第一，连续时间特性使其在数字领域域中具有所需的实时信号处理能力； 第二，局部互联性使其适用于v l s i 实现，并特别适于高速并行处理； 第三，处理速度与图像规模无关。 1 2 1 细胞神经网络研究的分类 ：当前人们对于c n n ( c e l l u l a r n e u r a ln e t w o r k ) 的研究，可以大体分为三大类， 即理论研究、应用研究和v l s i 实现研究。 ( 1 ) c n n 的理论研究 1 9 8 8 年，c h u a 在细胞自动机和神经网络的基础上提出了细胞神经网络1 1 1 | 。随 后，研究者们从状态方程入手，h h a r r e r 等提出的离散时间c n n d t c n n ( 即状 态方程离散化，输出方程为二值符号函数) 1 1 2 1 、延迟c n n d c n n ( 即在传统c n n 基础上再引入延时权重模板分别作用在延时输出和延时输入上) u ，以c h u a 氏电 路为细胞单体的c n n 研究( 即以三阶微分方程描述状态方程，输出方程为三阶线 性函数) 【1 4 】，并以上述c n n 的稳定性【1 5 l 、分叉和混沌特性【1 6 】等为主要研究内容。 ( 2 ) a 蝌的应用研究 c n n 广泛应用于图像处理与模式识别，这也是c h u a l o 第一篇关于c n n 应用的文章中提到的领域，包括噪声消除、边缘提取【1 7 】、图像细化、图像恢复、 地图识别、字符特征【1 8 】和图像的全局连通性探测等。也有研究人员将c n n 用于视 觉信号处理和联想记忆。为了将c n n 用于保密通信，g i l l im 研究了c n n 的超混 第一章引言 - - , , i i _ i | i i i 皇曼鼍罾曼量曼鼍曼鼍曼置皇曼量曼曼 沌广义同步【i9 l 。此外细胞神经网络还可以用于解三类偏微分方程，即扩散方程、 l a p l a c e 方程和波动方程。 ( 3 ) c n n 模型的v l s i 实现研究 c n n 局部互联的特点，使得网络元件间连线明显减少，很适合于用v l s i 实 现，国内外在这方面的研究很多f 2 们，目前已经可以用专用集成电路( 如a c e l 4 k ) 实现c n n 理论模型。 1 2 2 细胞神经网络的发展现状 近些年来，c n n 研究取得了很大发展，特别是在图像处理和模式识别等方面 【2 1 1 。1 9 9 0 年，在匈牙利布达佩斯召开了c n n 国际专题研讨会，发表近百篇论文。 c h u a 于1 9 9 7 年提出了无外部输入的自控细胞神经网络模型，用来模拟和产生来自 生物、化学等领域的许多图形和非线性波现象 2 2 】。1 9 9 8 年t a oy a n g 和l i n b a oy a n g 提出了一种用于图像处理的全新模式一模糊细胞神经网络，用于进行噪声消除和 在低信噪比条件下的边缘检测【2 3 1 。2 0 0 2 年在德国法兰克福召开第七届细胞神经网 络的专题研讨会，推动了细胞神经网络的进一步发展。 目前，细胞神经网络已经广泛应用于图像处理水平线检测、垂直线检测、噪 声消除、空洞填充2 4 1 、运动检测【2 5 1 、特征检测等诸多领域。还有的研究领域包 括：图像处理中的二维滤波器、图像编码【2 7 1 、机器人视觉【2 8 1 、水印加科2 9 1 、目标 跟踪【3 0 1 等。此外还有r t d c n n 模型( 3 ，高阶细胞神经网络模型p 2 1 、w a t - c n n 模 型【3 3 1 、时变细胞神经网络模型t 3 4 1 、s - c c n n 模型【3 5 】和模糊细胞神经网络模型【3 6 】等， 用于处理更复杂的图像，如手写字体辨认，纺织品瑕疵探测，图像细化( i m a g e t h i n n i n g ) ，几何图形的全局连接性问题，字迹识别，受损的图像的恢复处理，图 像压缩等方面的应用研究。我国在这方面的研究也取得了一些成果，例如：将c n n 应用于字符图像平滑，用c n n 解决通信n p 复杂度问题，同时在扩频通信和混频 通信也运用c n n ，取得了一些重要的进展【3 7 】。 1 3 研究背景和研究意义 1 9 8 8 年，在细胞自动机和人工神经网络的基础上，美国加州大学伯克利分校 c h u a l 0 提出了细胞神经网络【i 。细胞神经网络由称为细胞的电路单元局部接连 而成，具有强大的非线性、并行处理能力，已经广泛地应用于图像处理、模式识 别、运动检测、机器人以及其他需要复杂实时计算的问题中，表现出高速计算密 集任务的能力【3 8 】。这种网络结构简单，与其他人工神经网络相比，更易于集成和 超大规模集成电路( v l s i ) 实现1 3 9 1 。 西南大学硕十毕业论文 另一方面，现代电子技术经历了飞速的发展，上世纪6 0 年代，英特尔公司创 始人之一戈登摩尔提出了著名的摩尔定律 4 0 l ：集成电路上可容纳的晶体管数目， 约每隔1 8 个月便会增加一倍，性能也将提升一倍。四十多年来，半导体芯片的集 成化趋势不可思议地验证了这个定律。然而，随着晶体管体积缩小即将达到极限， 芯片的进一步小型化遇到越来越多的技术局限，各个依赖于集成电路技术的领域 发展均遇到了瓶颈。在上个二十年间，c m o s 技术的急速前进以至于超越了物理 和制造的极限，终结了分频晶体管的纪元。为了延续摩尔定律指出的集成电路指 数增长，纳米技术被提出用来突破c m o s 技术的局限。 忆阻器是一种纳米级的电路元件，是c h u a 于1 9 7 1 年基于电路完整理论提出的， 同时指出它具有电阻、电容和电感都无法模拟的独特电气特性，将它称为第四种 基本电路元件【4 l 】。直到2 0 0 8 年，h p 实验室的研究人员发表文章宣称他们实现了 忆阻器的物理模型【4 2 1 ，并公布了物理结构，才第一次真正实现了忆阻器。忆阻器 具有天然的记忆功能和纳米级的物理尺寸，使其应用成为研究热点，它的潜在应 用也逐渐被人们挖掘出来。 同样地，随着电子技术由微米时代进入纳米时代，基于量子隧穿效应的器件 和电路显示出其优越性。在一些已提出的纳米电子设备中，共振隧穿二极管( r 1 d ， r e s o n a n tt u n n e l i n gd i o d e ) 具有快速、高频、低压和低功耗特征，其制造工艺简单， 在用于构成数字逻辑集成电路时，可以大幅提高功能集成密度。而且由于其具有 独特的对叠负差分电阻( n d r ) 电流电压( i v ) 特性【4 3 m ，4 5 ) ，r t d 在数字和模拟 电路中已实现了一些应用 4 6 a 7 】。研究人员认为其在接近t h z 的微波振荡电路方面 有广阔的应用前景，是下一代高速数字集成电路逻辑单元基本组成元件的重要候 选技术之一郴j 。 如果将忆阻器以及r t d 两种纳米级元件，同细胞神经网络强大的高速并行处 理能力相结合，可望构成处理能力更强，运行速度更快，结构更加紧凑的网络。 在众多领域中有巨大的应用潜力，也必将对这些产业产生巨大而深远的影响。 1 4 论文主要工作及结构 论文第一章讨论了细胞神经网络的发展现状及对细胞神经网络进行改进的背 景。第二章和第三章分别对细胞神经网络和忆阻器进行了详细的研究和论述。第 四章构建一种新型忆阻细胞神经网络模型，用忆阻器替代细胞间的连接权值，并 进行稳定性分析。第五章用忆阻器替代细胞电路中的电阻，构建了i i 型细胞神经 网络。第六章构建了忆阻器r t d 混合结构细胞神经网络，在对该细胞神经网络进 行性能分析的基础上，对网络进行了仿真实验，验证了该细胞神经网络进行图像 4 第一章引言 处理的有效性。第七章对本文的工作进行了总结和展望。 第二章细胞神经网络的数学模型与分析 第二章细胞神经网络的数学模型与分析 1 9 8 8 年，c h u a 提出一种称之为细胞神经网络的新型电路结构【l l 】，这种结构兼 具细胞自动机和神经网络的特点，并在图像处理和模式识别等领域有着广泛的应 用。 2 1 细胞神经网络的建模 细胞神经网络，像神经网络一样，是一种用于实时信号处理的大规模非线性模 拟电路。又类似细胞自动机，由大规模的相同细胞电路单元在空间上规则排列而 成，细胞只与最近邻居之间进行直接通信。每个细胞由一个线性电容，一个非线 性电压控制电流源，以及几个线性电阻元件组成。 细胞神经网络结合了神经网络和细胞自动机的特性：连续时间特性弥补了数字 域上实时信号处理的不足；局部互联特性使其可应用于定制超大规模集成电路。 2 1 i 细胞神经网络的电路结构 近年来，细胞神经网络凭借其自身优势受到了研究者们的高度关注，在图像处 理和模式识别等方面的研究有了很大进展，已经广泛应用于图像处理等诸多领域。 最初c h l m 提出的细胞神经网络结构如图2 i 所示1 1 1 1 ，其中每一个细胞的等效电路 如图2 2 所示，c 为线性电容，如，风和毋均为线性电阻，i 为独立电流源， k ( f ，；七，) 和b 【f ，_ ，；七，) 为电压控制电流源，i p = 1 r y f ( x i ) 表示一个分段线性电 压控制电流源，占 ，为独立电压源。 c ( 1 ，l i - i c ( 1 ，2 ) i - ! c 1 1 ，3 | 一1c ( 1 ，j i - 一l c ( 1 ，n c r ，1 ) i 1 c ( 2 ，2 li - 1 c 2 ，3 ) r 1c ( 2 j r _ 1 c ( 2 ，n c ( 3 ，1 i - 1 c ( 3 ，2 i - 1 c ( 3 ，3 广一 - ic ( 3 ，j r 1 c 3 ，n c ( i ，1 ) i - ic ( i 2 ) i - ic ( i ，3 卜” c 蛳 卜i c 辑n 囱蚰目一周 图2 im n 的二维细胞神经网络结构示意图 西南大学硕十毕业论文 悱三 多 u ( 2 1 9 ) 其中：，( f ，) 表示细胞( ，) 在m x n 范围内的邻域。( f ) ，( ，) ，v y o ( t ) 分别为细 胞( t ，) 的状态，输入和输出。注： ( 1 ) 细胞神经网络的所有内部单元都有相同的电路结构。这些内部单元是指 拥有( 2 ，+ 1 ) 个相邻细胞的细胞，而其他所有的细胞被称为边界细胞。细胞神经 网络的特点完全由所有的非线性微分方程组( 2 1 a - g ) 以及与细胞相关的电路所决 定。 8 第二章细胞神经网络的数学模型与分析 ( 2 ) 每一个细胞神经网络的细胞都有至少3 个节点。由于所有的细胞都具有 相同的数据节点，并且所有的电路元件都是受电压控制的，这样就对细胞神经网 络的节点分析提供了理想的选择。此外，由于互连是局部的，那么对于规模较大 的电路来说，相关矩阵的节点方程是稀疏的。 ( 3 ) 一个细胞神经网络的动态特性既有输出反馈，又有输入控制机制。其中 输出反馈的影响取决于交互式参数彳( f ，；七，) ，而输入控制的影响取决于 口( f ，- ；七，) 。因此，有时候将彳( f ，；七，) 作为一个反馈算子，将b ( f ，；七，) 作为控制 算子。 ( 4 ) 为了实际中的应用方便，该电路元件的值可以改变。灭和r y 决定了该 电路的功耗，通常选择r x = 1 施和r ，= 1 m o 。c r ，是电路的动态时间常数，取值 为：1 0 。8 1 0 - 5 s 。 c n n 的基本电路单元叫做细胞，包含线性和非线性电路元件，典型的有线性 电容，线性电阻，线性和非线性受控源，以及独立源。与细胞自动机一样，整个 网络可理解为大规模电路( 即细胞) 空间规律性复制的集合，每个细胞直接与最 邻近细胞进行相互通信。在进行通信过程中就涉及大量的权值连接，通过设置权 值的大小形成不同的模板，不同的模板能够实现c n n 的各种处理应用。 在传统的细胞神经网络中，激活函数厂为一个分段线性函数，在研究中，为了 实现不同的应用，人们提出了多种形式的激活函数。 文献【1 l 】中的激活函数为【4 9 】： 1 v y o ( t ) = 专( 1 l j f ) + 1l i o ) 一1i ) ， ( 2 2 ) 二 如图2 3 所示，为一个分段线性函数，经过证明可以使得细胞神经网络稳定i l 。 图2 3 激活函数 两南大学硕+ 毕业论文 2 2 细胞神经网络的系统分析 2 2 1 细胞神经网络的动态范围 在设计一个物理细胞神经恻络之前，需要了解它的动态范围，以保证满足动态 方程中规定的假设。接下来的定理为我们提供了设计的基础： 定义2 1 ： 对于所有t o 时刻，细胞神经网络的都是有界的，而且任何细胞神经网络 的都可以由以下公式计算出来： 。v m a x = l + r x i 卅+ 戤。，必m a 。x 上毛o 以；屯，】+ i 砘；毛叫( 2 证明：首先，改写细胞动态方程( 2 1 a ) ： 1 a v x o 厂( o = 一币1 v 硝+ 厂 ，o ) + g ，。) + 拿，1 继m ；1 ( 2 4 ) 其中： 厂 ，o 2 石1c ( 叫) 毛加) 砒训，脚i i m ；i j n 旺5 ) g f ，0 ) = 石1砘j ；k ，) 1 f m ；1 n ( 2 6 ) 。 l c j 写“f 。) 且： 7 = z c ( 2 7 ) 其中，铭兰 瑚啪表示一个m x n 维的常输入向量。方程( 2 4 ) 是一阶常微分方 程，其解为： o ) = ( o ) 方- - t + 。e - “r t 训厂l y o ( r ) + g 抄母 ( 2 8 ) 1 0 由此可见： 第二章细胞神经网络的数学模犁与分析 k o j k ( o ) 刮+ 上j e 万- ( i - , ) l - r 六( )