（电路与系统专业论文）信息处理中的随机共振现象研究.pdf

u n i v e r s i t yo fs c i e n c ea n dt e c h n o l o g yo fc h i n a ad i s s e r t a t i o nf o rm a s t o r ，sd e g r e e r e s e a r c ho fs t o c h a s t i cr e s o n a n c e inin f o r m a t i o np r o c e s s i n g a u t h o r sn a m e ： s p e c i a l i t y ： 一 一 一 s u p e r v l s o r ： f i n i s h e dt i m e ： j i a o s h iz h a n g c i r c u i t sa n ds y s t e m s a s s o p r o f j i e c h e n gl u a p r i l2 0 t h ，2 0 1 2 中国科学技术大学学位论文原创性声明 本人声明所呈交的学位论文，是本人在导师指导下进行研究工作所取得的成 果。除已特别加以标注和致谢的地方外，论文中不包含任何他人已经发表或撰写 过的研究成果。与我一同工作的同志对本研究所做的贡献均已在论文中作了明确 的说明。 作者签名：超壑 签字日期：如i z 箩2 乡 中国科学技术大学学位论文授权使用声明 作为申请学位的条件之一，学位论文著作权拥有者授权中国科学技术大学拥 有学位论文的部分使用权，即：学校有权按有关规定向国家有关部门或机构送交 论文的复印件和电子版，允许论文被查阅和借阅，可以将学位论文编入有关数据 库进行检索，可以采用影印、缩印或扫描等复制手段保存、汇编学位论文。本人 提交的电子文档的内容和纸质论文的内容相一致。 保密的学位论文在解密后也遵守此规定。 口公开口保密(年) 作者签名：私礁乃导师签名：事旁 导师签名：z 幺形弋 签字日期： 丝! 苎墅 摘要 摘要 在信息传输和处理过程中，噪声通常被认为是有害的、不利于信息传输和处 理的因素。但是自从1 9 8 1 年b e n z i 首次提出随机共振的概念，噪声的有利作用 开始打破传统的认识。随机共振是一种现象：在某些非线性系统中，输入信号、 随机噪声与系统本身产生协同作用，使得系统输出响应得到增强。噪声的积极作 用在随机共振现象中得到体现，这种有悖于直觉的效应在很多非线性系统中都观 测到。 本文从随机共振基本理论出发，分析了随机共振的概念及其对于信息处理的 意义。从随机共振的基础理论模型双稳态系统与阈值系统出发，阐明双稳态 随机共振与阈值随机共振基本原理，并通过实验仿真模拟了双稳态系统中的状态 跃迁与阈值系统的阈值跨越行为。总结了随机共振三种评价方法：信噪比、互信 息量、相关系数。 本文主要研究随机共振的一个特殊形式超阈值随机共振。从理论和应用 两方面对超阈值随机共振进行深入研究。 理论方面，提出了适用于周期输入的阈值阵列模型，研究了周期输入下，基 于阈值阵列模型的超阈值随机共振。将阈值阵列系统看成一个利用了噪声有效性 的非线性滤波器，选取输出信噪比增益为评价方法，理论分析了含噪周期输入经 过阈值阵列系统的输出特性及输出信噪比增益的计算方法，在输入为含噪周期信 号且输入信噪比固定的条件下，实验得到输出信噪比增益相对于阈值噪声方差非 单调变化的规律，验证了以输出信噪比增益为测度的超阈值随机共振现象。 应用方面，基于超阈值随机共振机制，提出了一种超阈值随机共振预处理图 像复原算法。对于受不同分布噪声污染的灰度图像，先通过超阈值随机共振系统 进行预处理，再利用传统滤波方法对图像进行复原。引入自适应信号处理方法， 对复原图像质量进行评价，动态调整随机共振系统参数，使得复原效果达到理想。 实验证明了相对于直接利用传统滤波算法得到的复原图像，通过超阈值随机共振 系统预处理后再滤波得到的复原图像质量有明显改善。这也证明了阈值噪声、退 化图像与非线性阈值阵列系统三者间发生了超阈值随机共振。 关键词：超阈值随机共振阈值阵列模型信噪比增益图像复原 摘要 i i a b s t r a c t a b s t r a c t d u r i n gi n f o r m a t i o nt r a n s m i s s i o na n dp r o c e s s i n g ，n o i s ew a sg e n e r a l l yc o n s i d e r e d t 0b eah a r m f u lf a c t o rw h i c hw a sn o tc o n d u c i v et oi n f o r m a t i o nt r a n s m i s s i o na n d p r o c e s s i n g h o w e v e rs i n c eb e n z ip r o p o s e dt h ec o n c e p to fs t o c h a s t i cr e s o n a n c ei n 19 81f o rt h ef i r s tt i m e ，t h eb e n e f i c i a le f f e c to fn o i s eh a db r o k e nt h et r a d i t i o n a l u n d e r s t a n d i n g s t o c h a s t i cr e s o n a n c e i sap h e n o m e n o n ：i ns o m en o n l i n e a rs y s t e m s ，t h e i n p u ts i g n a l ，r a n d o mn o i s ea n dt h en o n l i n e a rs y s t e mt o g e t h e rc r e a t es y n e r g i s t i c r e a c t i o n ，m a k et h es y s t e mo u t p u tr e s p o n s ee n h a n c e d t h ep o s i t i v ee f f e c to fn o i s eh a s b e e nr e f l e c t e di nt h es t o c h a s t i cr e s o n a n c ep h e n o m e n o n ，t h i sc o u n t e r - i n t u i t i v ee f f e c t h a sb e e no b s e r v e di nm a n yn o n l i n e a rs y s t e m s s t a r t i n gf r o mt h eb a s i ct h e o r yo fs t o c h a s t i cr e s o n a n c e ，t h i sa r t i c l eh a sa n a l y z e d t h ec o n c e p to fs t o c h a s t i cr e s o n a n c ea n di t ss i g n i f i c a n c ef o ri n f o r m a t i o np r o c e s s i n g f r o mt h eb a s i cm o d e lo fs t o c h a s t i cr e s o n a n c et h e o r y , a l s ok n o w na sb i s t a b l es y s t e m a n dt h r e s h o l ds y s t e m ，w ec l a r i f i e dt h eb a s i cp r i n c i p l eo fb i s t a b l es t o c h a s t i cr e s o n a n c e a n dt h r e s h o l ds t o c h a s t i cr e s o n a n c e ，s i m u l a t e dt h es t a t et r a n s i t i o no ft h eb i s t a b l e s y s t e ma n dt h et h r e s h o l dc r o s s i n go ft h et h r e s h o l ds y s t e m s i g n a l t on o i s er a t i o ， m u t u a li n f o r m a t i o na n dc o r r e l a t i o nc o e f f i c i e n tw e r es u m m a r i z e da st h em e t h o df o r s t o c h a s t i cr e s o n a n c ee v a l u a t i o n t h i sa r t i c l ef o c u s e do nas p e c i a lf o r mo fs t o c h a s t i cr e s o n a n c e ，w h i c hc o n c l u d e d a ss u p r a t h r e s h o l ds t o c h a s t i cr e s o n a n c e w ed e e p l ys t u d i e ds u p r a t h r e s h o l ds t o c h a s t i c r e s o n a n c ei nb o t ht h e o r e t i c a la n da p p l i e dw a y s t h e o r e t i c a l l yw ep r o p o s e dat h r e s h o l d a r r a ym o d e lf o rp e r i o d i ci n p u t ，s t u d i e dt h e s u p r a t h r e s h o l ds t o c h a s t i cr e s o n a n c ew i t hp e r i o d i ci n p u tb a s e do nt h r e s h o l d a r r a y m o d e l t h em o d e lw a ss e e na san o n l i n e a rf i l t e rw h i c ht o o kt h ea d v a n t a g eo fn o i s e t h e n ，w ec h o s et h eo u t p u ts i g n a lt on o i s er a t i og a i na st h ee v a l u a t i o n ，t h es t a t i s t i c a l p r o p e r t i e so ft h eo u t p u tp r o c e s sa n dt h es i g n a lt on o i s er a t i og a i nw a sc a l c u l a t e d w i t h af i x e di n p u ts i g n a l - t o n o i s er a t i o ，t h eo u t p u ts n rg a i no ft h em o d e lv a r i e di na n o n - m o n o t o n i cw a yw h e ni n j e c t i n gi n d e p e n d e n tt h r e s h o l dn o i s e si n t ot h ea r r a y , w h i c h p r o v e dt h a ts u p r a t h r e s h o l ds t o c h a s t i cr e s o n a n c e h a so c c u r e d 。 i n a p p l i c a t i v ew a y , w ep r o p o s e d as u p r a t h r e s h o l ds t o c h a s t i cr e s o n a n c e p r e t r e a t m e n ti m a g er e s t o r a t i o na l g o r i t h m f o rg r a y s c a l ei m a g e sp o l l u t e db yn o i s eo f d i f f e r e n td i s t r i b u t i o n ，w ef i r s tp r e t r e a t e dt h ei m a g eu s i n gs u p r a t h r e s h o l ds t o c h a s t i c i i i a b s t r a c t r e s o n a n c es y s t e m ，a n dt h e nf i l t e r e di t 、析t ht r a d i t i o n a lm e t h o d b ye v a l u a t i n gt h e r e s t o r e di m a g eq u a l i t y , w ed y n a m i c a l l ya d j u s tt h ep a r a m e t e ro ft h ep r e t r e a t m e n t s y s t e m ，i no r d e rt oa c h i e v et h ed e s i r e dr e s t o r e di m a g e e x p e r i m e n t a lr e s u l t ss h o w e d t h a ti nc o m p a r ew i t ht r a d i t i o n a lm e t h o d ，t h er e s t o r e di m a g eq u a l i t yh a sab e t t e r i m p r o v e m e n t b yt h et i m e ，t h i sa l s op r o v e dt h a ts u p r a t h r e s h o l ds t o c h a s t i cr e s o n a n c e h a st a k e np l a c e di nt h r e s h o l dn o i s e ，d e g r a d e di m a g e ，a sw e l la st h ei l o l l l i i l e a rs y s t e m k e yw o r d s ：s u p r a t h r e s h o l ds t o c h a s t i cr e s o n a n c e ，t h r e s h o l d - a r r a ym o d e l ，s i g n a lt o n o i s er a t i og a i n ，i m a g er e s t o r a t i o n i v 目录 目录 摘要i a b s t r a c t i i i 目录v 第1 章绪论1 1 1 研究背景和研究意义1 1 2 研究现状和发展趋势2 1 2 1 随机共振的理论研究3 1 2 2 随机共振的应用研究6 1 3 本文研究内容和组织结构8 1 3 1 主要研究内容8 1 3 2 本文组织结构8 第2 章随机共振基本理论研究1 l 2 1 随机共振的概念及定义1 1 2 2 双稳态系统模型及仿真实验1 2 2 2 1 双稳态模型+ 1 2 2 2 2 双稳态系统仿真实验1 4 2 3 阈值系统模型及仿真实验1 8 2 3 1 阈值模型1 8 2 3 2 阈值模型仿真实验2 0 2 4 随机共振评价方法2 2 2 4 1 信噪比评价方法2 2 2 4 2 互信息评价方法2 3 2 4 3 相关系数评价方法2 5 2 5 本章小结2 6 第3 章阈值阵列系统中的超阈值随机共振现象2 7 3 1超阈值随机共振的起源2 8 3 1 1 集总平均技术的引入2 8 v 目录 3 1 2 超阈值随机共振模型3 0 3 2 周期输入下的超阈值随机共振3 2 3 2 1 信噪比增益分析3 2 3 2 2 高斯噪声下的超阈值随机共振3 5 3 2 3 输出信噪比与输入信号幅值的关系3 7 3 2 4 非高斯噪声下的超阈值随机共振，3 8 3 3 本章小结4 0 第4 章超阈值随机共振在图像复原中的应用研究4 3 4 1图像复原理论与方法概述4 4 4 1 1 图像复原模型4 4 4 1 2 图像复原方法与图像质量评价准则4 5 4 2 超阈值随机共振预处理图像复原算法4 8 4 2 1 算法基本思想4 8 4 2 2 算法步骤5 0 4 3 超阈值随机共振预处理图像复原实验仿真5 0 4 4 本章小节5 4 第5 章总结与展望5 5 参考文献一5 7 致谢6 l 攻读学位期间发表的学术论文与取得的其他研究成果6 3 v i 第1 章绪论 1 1研究背景和研究意义 第1 章绪论 在信息传输和处理过程中，噪声是无处不在的，既有周围环境噪声又包括信 息传输或处理系统本身的内噪声。噪声被认为是有害的，不利于信息传输和处理 的，所以人们在研究信号处理方法时都注重如何更好地抑制噪声。常规的信号处 理方法主要是线性的，如线性滤波、频谱分析等，利用有用信号和噪声在时域或 者频域特性上的差别尽可能地抑制噪声以提高信噪比。但必须要承认的是，抑制 噪声的同时很有可能也使有用信号受损。然而由于线性方法在信号处理领域已经 非常成熟，人们很少重视非线性方法的利用。 近年来，越来越多的人关注和研究非线性科学。自然科学领域确实存在非线 性系统，非线性的特征与线性是相悖的，某些非线性系统具有不稳定、无序、不 确定、非平衡等特征。2 0 世纪下半叶，人们在对非线性科学的研究中发现微观 运动随机力f 又称噪声或随机涨落力) 对宏观非线性系统的作用，为科学地解释随 机共振( s t o c h a s t i cr e s o n a n c e ，简称s r ) 现象做出了贡献。b e n z i 等人【l j 于1 9 81 年 研究古代气象冰川问题时首次提出随机共振的概念。为了验证随机共振是一种物 理现象而非单纯的概念，f a u v e 等人【2 】于1 9 8 3 年在斯密特( s c h m i t t ) 触发器电路系 统中实验验证了随机共振现象的存在，该触发器具有双稳态输出特性。同时，s 。 f a u v e 第一次将信噪比作为评价方法引入随机共振理论。传统的随机共振是在一 个非线性双稳态系统中发现的，该系统的输出状态在输入微弱周期信号和噪声的 共同作用下在两个稳态之间切换，随着输入噪声强度的增加，系统输出信噪比出 现非单调的变化，即存在一个最佳输入噪声强度使得系统输出信噪比最高。高于 或者低于这一强度的输入噪声都会使得输出信噪比显著降低。这一现象类似于力 学上的共振现象【3 1 ，但随机共振显然跟力学共振不同，这里的“共振”一词意味着 输入信号、非线性系统和噪声三者之间的某种最佳匹配。随着近年来对于随机共 振研究的深入，在很多非线性系统中都发现了随机共振现象，如单稳态系统、阈 值系统、神经元系统、离散非线性自回归系统等等，拓宽了对随机共振的研究。 随机共振现象说明了在一定条件下，系统中额外的噪声有可能增强系统的输 出响应。所以随机共振原理在信息传输和处理领域的应用研究成为了一个非常热 门的课题。近年来，关于随机共振在信息领域中理论和应用研究的文章在s c i 及i e e e 上逐年增加。其中较多是针对随机共振在信号检测、信号估计、信号传 输及图像水印等方面p 1 l j 进行的研究。 第1 章绪论 1 2 研究现状和发展趋势 19 81 年，意大利人b e n z i 等人提出了随机共振( s t o c h a s t i cr e s o n a n c e ，s r ) 的概念【l 】，对古气象中冰川期与暖和期周期交替现象进行了解释：人们在研究地球 气候变化规律时发现，地球绕太阳转动的偏心率的变化周期约为1 0 万年，同时 地球的冰川期与暖和期交替变化是周期性的，且这个变化周期也约为l o 万年。 两个周期的相似性说明了地球受太阳所施加的周期性变化信号的作用，但此周期 信号极其微弱，远不足以使地球气候产生如此大幅度的变化。至此，r o b e r t ob e n z i 等人提出了一种地球气候模型，他们认为地球本身是非线性的，地球气候可能处 于冰川态或暖和态，在太阳施加的小周期信号和地球所受的随机力共同作用之 下，地球气候才发生周期性的大幅变迁。这种弱信号和噪声同时作用于一个非线 性系统所产生的系统输出响应增强的现象被称为随机共振。 与此同时，n i c o l i s 4 1 建立了描述气候变迁的微分方程，模拟出地球气候交替 变化的过程，在绝热近似条件下，求得的结果证实了b e n z i 等人的研究结论。随 机共振作为一种物理现象于1 9 8 3 年首次出现在物理实验中，法国学者s t e p h a n f a u v e 在双稳态斯密特触发器电路系统中发现了随机共振现象 2 】，他还引入信噪比 概念，绘出信噪比与噪声强度的关系曲线，对随机共振进行定量的研究。 继双稳态系统之后，随机共振现象又在阈值系统中产生。1 9 9 4 年w i e s e n f e l d 等人提出双稳态系统输出状态在两个稳态之间切换的现象可以归纳为一种阈值 跨越现象【5 1 ，并证实在单个阈值系统中可以观察到随机共振现象。1 9 9 9 年， l u c h i n s k y 提出f a u v e 于1 9 8 3 年随机共振实验中的双稳态斯密特触发器电路系统 更接近于简单的阈值跨越系统 6 】，再一次实验验证了阈值系统中随机共振现象的 产生。 无论是传统的双稳态随机共振还是阈值随机共振，所研究的输入信号都为低 于双稳态系统势垒或阈值系统静态阈值的亚阈值信号。但对于超阈值信号，传统 的观点认为其不能产生随机共振现象。然而在2 0 0 0 年，n gs t o c k s 在研究基于 j j c o l l i n s 设计的神经元网络模型的随机共振过程中提出了超阈值随机共振 ( s u p r a t h r e s h o l ds t o c h a s t i cr e s o n a n c e ，简称s s r ) t7 1 。他认为对于单个阈值单元模型， 超阈值信号确实无法产生随机共振，但是对于由多个阈值单元组成的阈值阵列模 型，即使信号幅度大于阈值，也可以观察到随机共振现象。并且随着系统阈值单 元的增加，衡量随机共振的度量输入输出互信息量在共振点处获得的峰值也 越大，且趋近于一个极限值。 超阈值随机共振理论和模型的建立对随机共振理论在信息领域的应用研究 具有实际意义。2 0 0 3 年d r o u s s e a u 提出另一个衡量超阂值随机共振的度量 一一f i s h e r 信息【8 。2 0 0 6 年d r o u s s e a u 、g va n a n d 等人【9 研究了非高斯噪声下 第l 章绪论 基于超阈值随机共振的信号检测，认为在非高斯噪声下，利用超阈值随机共振原 理的检测算法可获得比线性检测器更低的错误检测率。2 0 0 7 年d r o u s s e a u 和 f c h a p e a u 提出当含噪输入信号经过阈值阵列系统预处理后，再对其进行贝叶斯 最优估计，估计性能会得到提高，并将此结论归因为阈值阵列系统产生的超阈值 随机共振效应 1 0 】。2 0 1 0 年r k j h a 等人 3 4 】对于对比度不相同的含噪图像，采用 超阈值随机共振方法进行图像分割，得到良好的分割结果。2 0 1 1 年a p a t e l 等人 将基于超阈值随机共振原理的相关检测算法应用在数字图像水印的检测和提取 上，并证明了在阈值阵列模型中，噪声对水印检测起到了积极作用 1 h 。 1 2 1随机共振的理论研究 为了对随机共振现象进行科学的解释，自随机共振首次被提出以来，随机共 振理论研究一直未停止。早期人们主要研究双稳态系统中的随机共振现象【l 引，建 立了描述双稳态势函数在周期输入和噪声的共同作用下的变化的l a n g e v i n 方程， 利用f o k k e r - p l a n c k 方程求解双稳态输出状态的概率密度函数，从双稳态随机共 振的统计特性出发，形成了经典随机共振理论。伴随着随机共振的概念不断被扩 展，在随机共振领域中出现了非经典随机共振理论。 1 经典随机共振理论 针对双稳态随机共振模型，学者们提出的经典随机共振理论主要包括：绝热 近似理谢13 1 、线性响应理论、本征值理论 15 1 ，驻留分布理谢1 4 1 。这些著名的理 论主要是从l a n g e v i n 和f o k k e r - p l a n c k 两个方程入手，研究双稳态随机共振的统 计特性，通过近似方法来描述随机共振的机理。 “绝热近似”要求系统输入信号满足幅值a l 、频率q 1 、噪声强度 d 1 的条件。在绝热近似的假设条件下，mc _ n 锄a r a 【眨】等人利用l a n g e v i n 方 程及其对应系统输出概率密度的f o k k e r - p l a n c k 方程研究双稳态随机共振的统计 特性，建立了双稳态系统的两态模型( t w o s t a t em o d e l ) ，对双稳态随机共振现象 进行理论描述，推导出双稳态变化的主导方程，发现两个稳态之间的跃迁概率与 输入周期信号频率相对应，随着噪声的变化，系统输出信噪比表现出先增大后减 小的非单调变化趋势。但是，绝热近似是一种理想化的假设，实际中很难应用。 由于绝热近似理论仅适用于解释解释输入为极低频、极小幅度信号的双稳态 随机共振，为了完善对双稳态系统输出行为的描述，g a m m a i t o n i 等人于1 9 8 9 年 提出了线性响应理论 1 3 ，又称微扰理论，用来描述双稳态模型的连续状态，在一 定的限制条件下，线性响应理论可以对随机共振系统输出非线性特性正确地预 测。但线性响应理论仍存在实际中无法模拟的假设条件。 驻留时间分布理论【1 4 是由z h o u 和m o s s 在1 9 9 0 年提出的，他们认为驻留 第1 章绪论 时间系统输出在所处状态中的时间，服从某一