（计算数学专业论文）不确定性信息的度量及其应用.pdf

西北大学硕士学位论文 摘要 2 1 世纪的社会是信息的社会，社会的总趋势是社会信息化。信息科学与人们的生产、生 活密切相关。在生产、科研等众多领域无不涉及到对信息的定量分柝，加工及处理。香农 ( c e s h a n n o n ) 指出：信息就是用来消除消息中不确定性的东西。香农研究的信息实际上仅 包含一种特殊的不确定性，即随机不确定性，我们称包含此种不确定性的信息为随机信患。 随着科学、技术的发展，人们意识到还存在着包含其它多种不确定性的信息，根据它们所包 含的不确定性，可分为如模期信息，灰信息、未确知信息等。由于事物的复杂性，研究对象 系统的各要素之间边界不清晰，使研究对象系统中的抽象概念不能给出确切的描述，不能 给出具体的评定标准，使其信息呈现不确定性，包含这种不确定性的信息就是模糊性信息， 简称模糊信息本文的研究围绕着模糊信息展开，主要研究了模糊集合的熵，距离测度，散 度测度等概念，以及它们的性质与相互关系 全文共四章，文章的结构及主要内容如下： 在第一章中，文章简要地说明了本文研究的问题背景、发展现状，指出了本文的研究意 义以及创新之处，并对一些基础性的知识、符号做了简要介绍 第二章研究的是模糊集合的熵与距离溯度。本文分别研究了模糊熵( a 一模糊熵) 、距离 测度( a 一距离测度) 自身的性质，考察了熵与距离测度之间的诱导关系，研究了它们自身的 一些缺陷，并提出了一些新的公式 第三章研究的是模糊集之间的散度测度本文首先研究了散度测度与距离测度这两个 概念在定义上的区别，其次研究了局部散度测度的性质，最后用散度测度引导出了一些新 形式的熵 第四章研究的是模糊信息论在图像处理中的应用，通过模糊叉熵定义了一类新的图象 度量。实验证明，在衡量图象失宾度方面，该图皋度量与传统的图象度量是相容的，更适合 人类的视觉系统，是对原有图像度量的有力补充 关键词：模糊集、熵、叉熵、距离测度、散度测度、不确定性 第1 贞 西北大学硕士学位论文 a b s t r a c t t r a n s m i s s i o no fi n f o r m a t i o ni sa tt h eh e a r to fw h a tw ec a i lc o m m u n i c a t i o n a sa na r e ao f c o n c e r n li ti sq u i t ei m p o r t a n tt os t u d yt h eq u a n t i z a t i o no fi n f o r m a t i o n ，w h i c hi st h ec o r n e r s t o n eo f t h ei n f o r m a t i o ns c i e n t i f i cr e s e a r c h i n1 9 4 8 ，i nt h ei n t r o d u c t i o nt oh i sc l a s s i cp a p e r ，c s h a n n o nw r o t e ：“t h ef u n d a m e n t a lp r o b l e m o fc o m m u n i c a t i o ni st h a to fr e p r o d u c i n ga tt h ep o i n te i t h e re x a c t l yo ra p p r o x i m a t e l yam e s s a g e s e l e c t e da ta n o t h e rp o i n t ”t os o l v et h a tp r o b l e m ，h ec r e a t e d ，ac o m p l e t e l yn e wb r a n c ho fa p p l i e d m a t h e m a t i c s ，w h i c hi st o d a yc a l l e di n f o r m a t i o na n d o rc o d i n gt h e o r y t h ei n f o r m a t i o ns h a n n o ns t u d i e di st h ep r o b a b i l i s t i cu n c e r t a i n t y a ss c i e n c ea n dt e c h n o l o g y d e v e l o p s ，p e o p l er e a l i z et h a tt h e r ea r eo t h e rk i n d so fu n c e r t a i n t y ，s u c ha sf u z z yu n c e r t a i n t y , g r e y u n c e r t a i n t ya n du n c e r t a i n t y i nt h i sp a p e r ，w em a i n l ys t u d yf u z z yu n c e r t a i n t y i nt h ei n t r o d u c t i o nc h a p t e r ，w eg i v eab r i e fi l l u s t r a t i o no ft h eb a c k g r o u n da n dt h ec e n t r a l i d e a lo ft h i sp a p e r t h es y m b o l sa n dt h ea x i o md e f i n i t i o n so ff u z z ye n t r o p y , d i s t a n c em e a s u r ea n d d i v e r g e n c em e a s u r ea r ea l s op r e s e n t e d i nc h a p t e rt w o ，t h er e l a t i o n sb e t w e e nf u z z ye n t r o p ya n dd i s t a n c em e a s u r ea r es t u d i e d s o m e n e wf o r m u l a sa b o u tp r o p e r t i e so f 盯- e n t r o p ya n da - d i s t a n c em e a s u r ea r ep r o p o s e d i nc h a p t e rt h r e e ，鹏m a i n l ys t u d yt h er e l a t i o n sb e t w e e nd i s t a n c em e a s u r ea n dd i v e r g e n c e m e a s u r e s o m ee x a m p l e sa r eg i y e n t h ep r o p e r t i e so fl o c a ld i v e r g e n c em e a s u r ea r ea l s os t u d i e d i nc h a p t e rf o u r ，w ea p p l yf u z z yi n f o r m a t i o nm e t h o di ni m a g ep r o c e s s i n g ac l a s so fi m a g e m e t r i c si sd e f i n e db a s e do l lt h ef i l 可c r o s s - e n t r o p y i ti sv e r yu s e f u li nm e a s u r i n gi m a g ed i s t o r t i o n k e yw o r d s ：f u z z ys e t s ，e n t r o p y ，c r o s s - e n t r o p y , d i s t a n c em e a s u r e ，d i v e r g e n c el e a - s u r e ，u n c e r t a i n t y 第1 i 页 西北大学学位论文知识产权声明书 y 8 9 3 6 0 6 本人完全了解西北大学有关保留、使用学位论文的规定，即：研究生在校读 学位期问论文工作的知识产权单位属于西北大学。学校有权保留并向国家有关 部门或机构送交论文的复印件和电子文档。本人允许论文被查阅和借阅。学校 可l ；之将本学位论文的全部或部分内容编入有关数据库进行检索，可以采用影印、 缩印或扫描等复制手段保存、汇编学位论文。同时本人保证，毕业后结合学位论 文研究课题再撰写的文章一律注明作者单位为西北大学。 保密学位论文在解 学位论文作者签名 作者指导老师签名 日期：砌占年乡月召日 日期：揪，多年岁月弓日 西北大学学位论文独创性声明 本人声明：所呈交的学位论文是本人在导师指导下进行的研究工作及取得的 研究成果。据我所知，除文中特别加以标注和致谢的地方外，论文中不包含其他 人已经发表和撰写过的研究成果，也不包含为获得西北大学或其他教育机构的 学位或证书而使用过的材料。与我一同工作的同志对本研究所做的任何贡献均 已在论文中作了明确的说明并表示谢意。 学位论文作者签名日期：彻香年；月易日 西北大学硕士学位论文 第一章绪论 1 1问题背景 2 l 世纪的社会是信息的社会，社会的总趋势是社会信息化。信息科学与人们的生产、生 活密切相关。在生产、科研等众多领域无不涉及到对信息的定量分析，加工及处理。那么， 信息到底是什么? 信息论的创始人香农( c e s h a n n o n ) 指出：信息就是用来消除消息中不确 定性的东函。香农研究的信息实际上仅包含一种特殊的不确定性，即随机不确定性，我们称 包含此种不确定性的信息为随机信息。随着科学、技术的发展，人们对信息的认识早已超出 了随机信息的范畴，信息涉及到的系统越来越复杂，其对数学处理方法的要求也越来越苛 刻。目前，人们发现还存在着包含其它多种不确定性的信息，根据所含的不确定性，可分为 如模糊信息、灰信息、未确知信息等。本文的研究围绕着模糊信息展开，主要研究了模糊集 合的熵，距离测度，散度测度等概念，以及它们的性质与相互关系。 随机信息的研究源于长期i ；来人们对通信系统的实践和研究。香农于1 9 4 8 年发表的 通信中的数学理论【矧一文中，用概率的方法给出了信源、信道的数学模型，并对信息 作出了定量的规定，称信息置为信息，并用熵表示。这一论文的发表，标志着信息科学的创 立。从此，信息科学就蓬勃地发展起来了。香农将信息论应用到通信问题中去，取得了辉煌 的成就，从而被世人公认为信息论的鼻祖。研究随机信息的数学工具是传统的经典数学，主 要有：概率论、数理统计以及随机过程。 模糊信息的研究则是伴随着模糊数学的诞生而开始的。在模糊数学出现之前，由于传 统数学对模糊现象地描述存在着缺陷，人们对模糊不确定性的研究也就无从谈起了。美国 自动控制专家扎德( l a z a d e h ) 于1 9 6 5 年发表了模糊集f 2 8 l 一文，标志着模糊数学的创 立。模糊数学是在当今科学发展中面临的一个非常突出的矛盾：模糊性与精确性对立的情况 下产生的。正如扎德在对互克性原理的描述中所说：“当系统的复杂性舀趋增长时，我们作 出的对系统特性的精确而有意义的描述能力将相应降低，直至达到这样一个阈值，一旦超 过它，猜确性和有意义性将变成两个几乎相互排斥的特性。”也就是说，复杂程度越高，有 意义的精确化能力就越低。在过去的科学发展中，人们可以回避模糊性而应用传统的经典 数学，在当今的高科技时代，人类再也无法回避模糊性，于是产生了模糊数学。模糊数学诞 生后人们一直想将它与信息论结合起来，用模糊数学的方法来研究信息论，这也是模糊信 息科学的研究重点。d el u c a 和t e r m i n i 于1 9 7 2 年仿照香农熵的形式，给出了模糊集的熵的 公理化定义，以及具体实例【3 l 。在d el u c a 和t e r m i n i 的公理化定义之上，人们做了大量的 工作，形成了许多优秀的结果。模糊信息科学在人们的生产、生活中也得到了越来越广泛地 应用，其研究工具主要是模糊数学。 灰度理论由我国学者邓聚龙教授创立，灰信息主要由灰色系统和灰色数学方法处理。而 未确知信息尚没有成熟的数学工具用以表达和处理【3 5 】。由于灰信息和未确知信息不在本文 研究范围之内，本文在此就不一一赘述了。 第l 页 西北人学硕士学位论文 随机性与模糊性存在着本质的区别 3 6 】。随机性是对事件的发生与否而言的，由于条件 不充分，事件可能发生也可能不发生；而模糊性是指事件的含义是不明确的，但对于事件发 生与否是明确的。香农信息论与模糊信息论同属于语法信息的研究领域，但有着不同的研 究对象、不同的研究工具、不同的研究内容、不同的应用环境和不同的研究目标。 如果把仅含一种不确定性的信息称之为单式信息，那么随机信息、模糊信息、灰信息和 未确知信息都是单式信息。对单式信息数学处理的研究，国内外学者已做了很多工作，有很 多成型的优秀成果。但是，系统中呈现的信息通常不是单式信息，而是含有两种或两种以上 不确定性的信息，对含多种不确定性信息的处理是当今国内外研究的新课题。除模糊性与 随机性相结合的模糊随机性外，至今尚未发现其它方面成型的研究成果。除了随机信息、模 糊信息、灰信息和未确知信息外，还存在哪些不确定性信息? 现在人们还不得而知，或着说 信息混沌是要求人们着手研究的课题。本文将着手于对随机信息与模糊信息的结合进行研 究。 1 2 本文的结构安排及创新成果 全文共四章，文章的结构及主要内容如下： 在第一章中，文章简要地说明了本文研究的问题背景、发展现状，指出了本文的研究意 义以及创新之处，并对一些基础性的知识、符号做了简要介绍。 第二章研究的是模糊集合的熵与距离测度。本文分别研究了模糊熵旧模糊熵) 、距离 测度( 一距离测度) 自身的一些薪性质，通过引入模糊集合之间新的运算研究了它们之间的 相互诱导关系，研究了它们自身的一些缺陷，并提出了一些新的公式。 第三章研究的是模糊集之问的教度测度。由于散度测度，距离测度均可用来度量模糊 集合之间的差异，为了以后研究的方便，本文研究二者概念上的区别。在此基础上，本文通 过考察一距离测度的性质研究了局部散度测度的性质，还用散度测度引导出了一些新形式 的熵。 第四章研究的是模糊信息论在图像处理中的一点应用。文章通过模糊叉熵定义了一类 新的图象度量。实验证明，在衡量图象失真度方面，该图象度量与传统的图象度量( 包括峰 值信噪比( p n s r ) 等) 是相容的，更适合人类的视觉系统，是对原有图像度量的有力补充。 在文章的结束语中，我们对本文的内容进行了总结，简述了本文的创新之处，并提出了 有待进一步研究的问题。 总之，本文对模糊集、混合集的熵、距离测度及散度澳4 度的一些闻题进行了研究，得到 了一些较有意义的结果。 1 3基础知识介绍及符号说明 在本文中，我们记r + = 【o ，+ 。) ，x 为论域，p ( x ) 为论域x 上的全体清晰集，f ( x ) 为论域x 上的全体模糊集。m ( z ) 是模糊集 的隶属度函数，陋】为论域x 上全体元素的 第2 页 西北大学硕士学位论文 隶属度均为a 的模糊集，即对任意的$ x ，有p 嘲( z ) = a ，其中a 【o ，1 】。 称a 为模糊集 的锐化，如果对任意的z x ，总有p ( z ) m ( z ) 1 2 或 p ( z ) 肛 ( 。) 1 2 。 记距离模糊集a 最近的清晰集为如。，距离模糊集a 最远的清晰集为a 加，其隶属 度函数定义为 肛a ，c z ，= 1 p 。；：1 7 2p n ，c z ，= 。卢a ( z ，) i 0p a ( x1 2 1 p a ( z 1 2 2 ) 。 1) ，定义 如( a ，b ) = ( 壹l ， ( 氟) 一p 占扛i ) i p ) ； p 1 当p 取值分别为1 ，2 时，分别称匈 ，b ) 为h a m m i r g 距离和欧氏e u c l i d 距离。很容 易验证，由( a ，b ) 是f ( x ) 的* 距离测度。 定理2 4如果d 是f ( x ) 上的口距离测度，对任意的d p 暖) ，有 d ( a u d ，b u d ) = d ( a nd c ，b n d e ) 证明 由于d 是f ( x ) 上的一一距离测度，根据一一距离测度的定义，有 d ( a u d ，b u d ) = d ( ( u d ) n d ，( b u d ) n d ) + d ( ( a u d ) n d 。，( b u d ) n d 。) = d ( d ，d ) + d ( a n d 。，b n d 。) = d ( a n d 。，b n d 。) 证毕。 第7 页 西北人学硕士学位论文 定理2 5 如果d 是f ( x ) 上的口距离测度，则有 d ( a ，a 。) d ( a + ，a “) 证明令d a = z x l u a ( = ) ；) ，d 2 ；( x l p ( z ) p c ( z ) ) ，有 n d l n d 2 c a n d ln d 2 c a c n d l nd 2 c a + 。n d a n d 2 a + n d l n d 5 c a n d an 明c a 。n d a nd 耋 a + 。n d l n d ； a c n d ；n d 2c a 。n d i n d 2 c a n d n d 2c a + n d i n d 2 a 。n 磁n 瞒ca c nd c nd cca n 研nd 薹ca + nd c nd 墨 因而， a ( a ，a 。) = d ( 4 n d l n d 2 ，a 。n d xnd 2 ) + d ( a n d i n d l ，a 。n d a n d ；) + d ( a n d ；n d 2 ，a 。n d n d 2 ) + d ( a n d i n d ，a 。n d i n d ；) a ( a + n d a n d 2 ，a + 。n d l n d 2 ) + d ( a + n d l n d 5 ，a + 。n d i n d ) + d ( a + n d ；n d 2 ，a 杜n d f n d 2 ) + d ( a n d f n d ；，4 “n d n d l ) = d ( a ，a ”) 证毕。 定理2 6 如果d 是f ( x ) 上的口距离测度，对任意的a ，b ，c f ) ，有 m o $ a ( a n g br l c ) ，d ( a u a b u c ) ) d ( a ，b ) 证明我们只证明d ( a n g b n g ) d ( a ，b ) ，d ( a u c ，b u c ) d ( 且，b ) 的证明是类似的。 首先，我们将论域x 分为六个互不相交的清晰子集： x = zp ( z ) p 宜( z ) ，o ( z ) u $ ip 口( 。) 肛a ( 。) p g ( z ) u 茁ip ( z ) 弘a ( z ) p 日( ) ) u 善i p 口( 霉) p c ( z ) 肛 ( z ) ) u zp g ( 王) ，l ( z ) p 且( z ) ) u zp c ( ) p 日( z ) e 。( 曰) = 1 5 7 9 0 ， 勺( ) = o 7 0 0 0 1 2 在第一个部分里，我们有 o p ( z t ) 卢 ( 。t ) ； j 1 p c ( 甄) p c ( 甄) 1 因而 o p a * n a * e ( x o 似n c ( ) i 1 ：p u c ( z ) p a * u a * c ( z i ) 1 因此，对第一部分中所有的z ，有 0 丝蜊丛号型1 芦a u a c l i ，舰u a c ( o l ， 因此， 【删熙【兰i * a 描产磅lp u c ( z 。) 、。u a c ( 霉t ) 1 同理，可证对第二部分中所有的z ，以上不等式依然成立。因此，有 e ( a ) e ( a ) 对于条件四，由于( a c ) 。= a ，因此， ( a n a 。) = a n a 。，( a u a 。) 。= a u a 。 进而 e ( a ) = e ( a c ) 从而证明了e 是f ( x ) 上的熵。 类似于以上证明，我们有 定理2 1 2 设e 是f ( x ) 上的熵，则对于任意的1 ，e 也是f ( x ) 上的熵。 定理2 1 3 e = i 砉帅“瑚 是f ( x ) 上的熵 第1 3 页 西北大学硕士学位论文 第三章散度测度 3 1 引言 长期以来，人们用模糊距离测度来衡量模糊集之间的差异。x c l i u 提出了模糊距离测度 的公理化定义f 1 3 】，并提出了一距离畏i 度的概念。人们对模糊距离测度的性质也十分地了解， 并将其成功的应用到自动控制，人工智能等生产生活领域。2 0 0 2 年s m o n t e s 。i c o n s o ，p g i l 以及c b e r t o l u z z a 于【2 1 】文中首次提出了模糊散度的公理化定义，并给出了一类具体的模 糊散度测度和局部模糊散度。散度测度既是一个模糊程度的度量，也是一个模糊分类中差 异程度的度量，这一理论在闯卷调查等领域中发挥出重要的作用。 既然距离测度，散度测度都可以用来刻画模糊集之间的差异，它们之间必定存在着某 种关联。在本文中我们就将讨论散度测度与模糊熵、模糊距离测度之间的关系，同时研究了 局部模糊散度的性质，并由此导出一些新的模糊熵公式。 3 2 局部散度测度与曲距离测度 我们先从模糊距离测度与散度灏度的公理亿定义看二者之间的差剐。散度测度公理化 定义的前两个条件与模糊距离测度公理化定义的前两条是相同的。距离测度定义的第四条 描述的是：给定任意三个模糊集，隶属度函数之差越大，那么，它们之间的距离也就越大。 而散度测度定义的第三条说的是：两个模糊集经过与任意另一个模糊集的交或并运算后，它 们之间的散度不应比运算之前大。其实，两个模糊集经过与任意另一个模糊集的交或并运 算后，它们之间的隶属度函数之差不应比运算之前大，因而，它们之间的散度不应比运算前 大。总而言之，它 f 】都是通过隶属度函数之差的大小来表述整体差异的大小。散度测度满足 距离测度的第四条定义。这是因为，对任意的a ，b ，o f ( x ) ，如果有acbcc ，那么 anb=a，bnc=b，aub=bbug=c 再跟据散度测度定义的第三条，有d ( a ，e ) d ( a ，b ) 而且d ( a ，c ) d ( b ，g ) 。但散度测 度不一定满足距离测度的第三条，所以说，它们是两个不太相同的概念。总体来说，散度测 度的条件要更松些，所描述的范围更广。 定义3 2 1f 2 0 】称散度测度d ( a ，b ) 具有局部性，或简称之为局部散度测度。如果对任意 的a ，b f ( x ) ，z x ，有 d ( a ，b ) 一d ( au z t ，bu 1 ) = ( p ( z t ) ，p 日( z ) ) 其中，h 是任意的一个二元函数。 不是所有的散度测度都具有局部性。 第1 4 页 西北大学硕士学位论文 例1 1 2 0 1 定义d ( a ，b ) = 9 7 m x x x 【i a ( z ) 一b ( z ) i l ，d 是f ) 上的散度测度( 也可以看成是 距离测度) ，但不具有局部性。 根据局部散度的定义，模糊集之间散度测度的变化仅依赖于隶属度函数发生变化的元 素，而与其他元素无关。这一点与* 距离测度很相似。 定理3 1 【2 0 1 模糊散度d 具有局部性当且仅当对任意的a ，b f ( x ) ，d p ) ，有 d ( a ，口) = d ( a n d ，b n d ) + d ( a n d 。，b n d 。) 定理3 2f ( x ) 上的散度测度d 是局部的当且仅当，对任意的a ，b f ( x ) ，d p ( x ) 有 a ( a ，b ) = d ( a o d ，b u d ) + a ( a o d 。，b u d 。)( 1 ) 证明由定理3 1 ，我i f - 知f ( x ) 上的散度d 具有局部性当且仅当对任意的a ，b f ( x ) ，d p ( x ) ，有 a ( a ，b ) = a ( a o d ，b n d ) + d ( a n d 。，b n d 。)( 2 ) 我们只需证明( 2 ) 能推出( 1 ) ，反之亦然。 从( 2 ) 式，我们可以得到 d ( a u d ，b u d ) = d ( ( a u d ) n d ，( b u d ) n d ) + d ( ( a u d ) n d c ，( b u d ) n d 。) = a ( d ，d ) + a ( a n d 。，b n d 。) 同样地，我们有d ( a u d 。，b u d 。) = d ( a n d ，b o d ) 。从而， d ( a u d ，b u d ) + d ( a ud c ，b u d 。) = a ( a nd c ，b o d 。) + d ( a n d ，b n d ) = d ( a ，b ) 即定理成立。 根据以上的讨论及定理2 6 ，我们有 定理3 3口一距离测度d 一定是局部散度测度 对于a 一距离测度d ，学者们做了大量的研究，已有很多优秀的结果1 5 ，6 ，7 l 。在本章中 我们将通过考察一距离测度所具有的性质，来研究局部散度测度的性质。 定理3 4 如果d 是f ( x ) 上的局部散度测度，那么 d ( a ，a n “r ) d ( a 4 ，a n e ”) ，d ( a ，a t n r ) d ( a + ，a ，n r ) 第1 5 页 西北大学硕士学位论文 证明由于 a n a 舢rc a 。n a n e c a n 柏r ， 【o c a + n a ，胛c a ，盯 因而， d ( a n a ，a 一”) d i a + n a n e 口r ，a e a r ) ，d ( a n a i ”，【0 1 ) d ( a + n a 。，【0 】) 令g = a 。，有 d ( a ，a ) = d ( ana n e 。r ，a n e a rf la n e 。r ) + d ( an ( a 。，) 。，a 。，n ( ，) 。) = d ( a n a n “r ，且n t o r ) + d ( a n a 如r ， 0 1 ) d ( a + na n c o r ，a n e a r ) + d ( a + na f n r ，i q ) = d ( a + na 椰r ，a n rn 如e 。r ) + d ( a + n ( w ) 。，a 。盯n ( 如。卵) 。) = d ( a + ，a 。) 同理可证 d ( a ，a f 。，) d ( a ，以，。) 定理3 5 设d 是f ) 上的局部散度测度，如果对任意的d p ( x ) ，d ( ；d ，【o ) = d ( d ，d ) ， 鄢么 d ( a ，a n m r ) d ( a ，a l a r ) ，d ( a ，a m ”) = d ( a ， ；。，) ，d ( a ，a ，。，) = d ( a ，a ；。，) 证明令d = a ，我们有 d ( a ， 。，) = d ( an n e ”，a n e ”) + a ( ana t 。， 0 1 ) 令d = a 。，我们有 d ( a a f ) = d ( a n a ，盯，a ，酊) + d ( a n 埘蛐r ，1 0 】) 由于 o lci 。ca n a 。ca 。，我们有 d ( an a 。， 。) d ( ；a 。，4 。) = d ( ； 。，i o 】) d ( a na 。， o d 由于【o 】c a n a f 。，cj 1 a ，。，c a i a ，我们有 d ( an a i 。，【q ) d ( i 1a ，。， 0 ) = d ( 1 a f a ，a t 。，) d ( an ，o ，且，盯) 因此，d ( a ，a 。) a ( a ，a ，。) 令g = 。x i 卢 ( z ) = ；) ，有 a r n g 。= a 。，n g 。，a n g = ；g ， n e ”n g = g ， a 。，n g = 【o 】 第1 6 页 西北大学硕士学位论文 从 d ( a ， n e n r ) = d ( a n c ， n e b r n c ) + o r ( a n 6 忙a 盯n g 。) = d ( i g ，g ) + d ( a c i g , e ，a a r n g c ) 1 d ( a ， a r ) = d ( a n c ，苟n r n o ) + a ( a n c c ， 知r f 、c c ) = d ( i g ，1 0 】) + d ( a n g e , a ，c a r n g 。) 可得d ( a ，a n e n r ) = a ( a ， ) 同理可证：a ( a ，a ，。，) = d ( a ，a ：。) 。 定理3 6如果d 是f ( x ) 上的局部散度测度，有 d ( a ，a u b ) = d ( b ，a n 口) ，d ( a ，a n b ) = d ( b ，a u b ) 证明我们只证明d ( a ，a u b ) = d ( b ，a n b ) ，d ( j 4 ，a n b ) = d ( b ，a u b ) 的证明是类似的。 令g = z x l u a ( z ) 肛宣( ) ) ，有 d ( a ，a u b ) = d ( a n g ，( a u 丑) n g ) + d ( a n g 。，【a u b ) n g 。) = d ( a n g ，b n g ) + d ( a n g 6 ，a f l g 。) = d ( a n g ，b n g ) d ( b ，a n b ) = d ( b n g ，a n b n g ) + d ( b n g 。，a n b ng c ) = d ( b n g ，a n g ) + d ( b ng c ，b n g 。) = d ( b n g ，a n g ) 因而，d ( a ，a u 口) = _ d ( b ，a n 口) 。 定理3 7 如果d 是f ( x ) 上昀局部散度测度，褥么 d ( a ，b ) = d ( a ，a n b ) + d ( a ，a u b ) = o ( b ，a n b ) + d ( b ，a u b ) 证明令g = $ x i p a ( ) p 口( ) ) ，有 d ( a ，b ) = d ( a n g ，b n g ) + d ( a ng c ，b n 酽) = d ( a ，a u b ) + d ( a ，a n b ) = d ( b ，a n b ) + d ( b ，a u b ) 证毕。 定理3 8 设d 是f ( x ) 上的局部散度测度，如果对任意的a ，b ，c f 僻) ，有 d ( a ，b ) + d ( a ，c ) = d ( a ，b n c ) + d ( a ，b u g ) d ( a ，b u c ) o ( a ，b ) + o ( a ，g ) o ( a ，b n g ) d ( a ，b + d ( a ，c ) 第1 7 页 西北大学硕士学位论文 证明我们只证明等式d ( a ，b ) + d ( a ，e ) = d ( a ，b n c ) + d ( a ，b u g ) ，剩余的两个不等式 可看作该等式的推论。令g = z x l u a ( = ) 蛐( 。) ) ，有 d ( a ，b n g ) = d ( a n g ，b n c n g ) + d ( a ng c ，b n c ng c ) = d ( a n g ，b n g ) + d ( a ng c ，c ug c ) d ( a ，日u c ) = d ( a n g ，( b u c ) n g ) + d ( a ng c ，( b u c ) n 酽) = d ( a n g ，c n g ) + o ( a i 1g c ，b n g 。) 因此， d ( a ，b n c ) + d ( a ，b t j c ) = d ( a n g ，b n g ) + d ( a ng c ，c n g 。) + o ( a n g ，e n g ) + d ( a ng c ，b u g 。) = d ( a ，口) + d ( a ，c ) 证毕。 定理3 9 设d 是f ( x ) 上的局部散度测度，如果对任意的a ，b ，g f ) ，d 满足 1 、d ( a ，b ) = 0 ，当且仅当a = b 2 、对任意的a c b c g ，有 d ( a ，b ) + d ( b ，c ) = d ( a ，c ) 那么，d 是f ( x ) 上的度量。 证明很显然d 满足度量的定义的前两条：正定性和对称性，现在只需证明它满足三角不 等式即可。假设a c g ，令 g 1 = x l u b ( = ) p ( z ) i 。g ( $ ) 6 1 2 = f z x l u a ( = ) 弘口( z ) 卢g ( 嚣) ) 侥= z x l u a ( = ) p g ( z ) d ( a n d ，f 争d ) + d ( a n d 。，f ；j d ) = d ( a 由 我耵 有e 9 ( a ) = 1 2 d ( a + ，【麴) 1 2 d ( a ，【射) = e 9 ( 4 ) e 9 ( ) 满足熵的公理化定义第四条： e 9 ( a 。) = 1 - 2 d ( a 。，咖= l 一嬲i l ) = e 9 ( a ) 3 、最后证明e g ( a ) 是f ( x ) 上的一熵。 对于任意的d p ( x ) ，有 e g ( a n d ) = 1 2 d ( a n d ，咖 = 1 2 【d ( n d ，；d ) + d ( a n d nd c ，j 1 d 。) l = 1 2 i d ( a n d ，；d ) + d ( 【o l ，j 1 d 。) 】 e 9 ( a n 伊) = 1 2 d ( a n d c i l ；】) = 1 2 d ( a n n d ，；d ) + d ( a n d 。，i 1 d 。) = l 一2 d ( a n d ，j 1 d 。) + d ( 1 0 】，：d ) l 第2 1 页 西北大学硕士学位论文 从向 e 9 ( a n d ) + e 9 ( a n d 。) = 1 - 2 | d ( a n d ，：d ) + d ( o l ，；d ) 】+ 1 - 2 【d ( a n d 。，互1 d 。) + d ( 【0 】，；d ) = 2 2 d ( a n d ，；d ) + d ( a n d 。，j 1 d 。) + d ( 【0 】，；d ) + d ( 【0 1 ，；d 。) 】 = 2 2 a ( a ，【；】) + d ( 【0 】，【扣 = 1 2 a ( a ，【；】) = e e ( a ) 证毕。 类似地，我们可以得到下面的定理： 定理3 2 2 如果d 为f ( x ) 上的局部模糊散度，且满足上个定理的条件，那么 d ( a ， 1 ) - - d ( a 。，f ；】) = d ( a n 。，【；】) = d ( a u a 。， ：1 ) 定理3 2 3 如果d 为f ( x ) 上的局部模糊散度，且满足 1 、对任意的d p ) ，有d ( d ，【0 1 ) = d ( d ，d ) 2 、对任意的a ，b f ( x ) ，有d ( a 。，b 。) = d ( a ，b ) 那么， e l 。( a ) = 面d ( a 丽, a , t e a r ) 是f ( x ) 上的熵。 定理3 2 4 如果d 为f ( x ) 上的局部模糊散度，且满足 1 、对任意的d p ( x ) ，有d ( d ，f 0 1 ) = d ( d ，d ) 2 、对任意的a ，b f ( x ) ，有a ( a 。，b 。) = d ( a ，b ) 那么， e n ( a ) = d ( a ，a 。，) + 1 一d ( a ，a ，。) 是f ( x ) 上的熵。 第2 2 页 西北大学硕士学位论文 第四章模糊信息论在图像处理中的应用 4 1 引言 图象度量问题是图象( 信号) 处理中一个非常重要的问题。在利用计算机进行图象处理 的过程中，首先要把现实世界的图象用采样的方法转化为数字信号，即量化处理。为了评价 图象量化的效果以及检查经处理过后的图象( 恢复图象) 与原图象之间的差别，人们必须研 究并建立一种评价图象失真度的方法。这就要求我们从数学上去寻找一种合适的度量来解 决这个问题。 以往的图象度量，如k ，k ，h a u s d o r f f 度量等在刻划图象的失真度方面的缺陷 3 3 】，主 要表现在： 1 、抗干扰能力差，两幅图像相对应的某几个象素的差稍大就会影响整幅图像之间的度 量值。一般来说，根据人类的视觉习惯，局部象素的改变不应该对整幅图像产生大的影响。 2 、不便于计算。 3 、对图像间的失真度较差，有时单从一个距离值我们无法判断两幅图像在视觉卜的相 似程度。 目前在图像处理领域使用较多的失真度度量f 峰值性噪比p s n r ，均方根误差e r m s ， 均方根信噪比s n r ) 多数情况下能反映两幅图像之间的差异，但有时也不符合人的视觉系 统。 本文基于模糊叉熵的失真度量将很大程度地克服以往的图象度量的缺陷，经实验证明 是一种客观合理的、符合人的视觉习惯、计算简单，并有较强的抗干扰能力的图象度量，并 且它与传统的图像度量是相容的。 4 2用模糊叉熵定义的图象度量 设i = 【0 ，1 】，d = i x l ，我们只考虑值域为j 的离散灰度图象。并用x = ( z 1 ，z 2 ，。l 一1 ) y = ( y l ，2 ，y l 一1 ) 表示处理前后的两幅图像x 和y ，其中，戤，鼽分别代表图像x 和y 中灰度级为i 的象素点出现的频率，则定义从图象x 到图象y 的叉熵( 又称为鉴别信息) 为 l l k ( x ，y ) = z i l n 热 = 0 o2 l i n 指出由k u l l b a c k 1 1 】等人定义的叉熵的缺陷，将其改造成以上形式，经证明，k ( x ，y ) 具有众多的优良性质【1 2 j 口我们在此基础上，进一步将其改造成 d ( x ，y ) = ( x ，y ) + ( y x ) 第2 3 页 西北大学硕士学位论文 图4 1 原图 图像熵的变化 很显然，d ( x ，y ) 具有对称性，当且仅当x = y 时，d ( x ，y ) = 0 。我们将d ( x ，y ) 看作是 从图象x 到图象y 的图像度量。同时，我们定义图像x 的模糊熵为 n 日( x ) = 一【x i l o g x l + ( 1 一x i ) l o g ( 1 一孔) 】 t 土l 4 3实验数据及分析 在试验中。我们采用了大量的图像，得到了大同小异的结果，下面是一些试验的数据及 分析。 试验过程中，我们用m a t l a b 将原图进行了压缩，按压缩比例从1 - 1 0 0 进行编号，编号 越小，压缩后图像所占空间越小，压缩比例越高。从上图可以看出，编号越小，其图像熵也 越小。 从以上压缩比例对传统度量的试验曲线可以看出，压缩比例与传统的图像度量也是相 容的。 以下是按顺序从处理后的图像中取出的一些图像 编号1 0 0 ，8 0 的图像与原图像从视觉上看，它们的差距并不太大，随着编号的不断缩小， 得到的图像越模糊，当然它们与原图的失真度也就相应的越来越大，这些都可以从模糊义 熵对传统度量的试验曲线上看出。 4 4 结论 综上所述，我们对图像度量d ( x ，y ) 得到如下结论 1 ) 、算法简单； 第2 4 页 西北大学硕士学位论文 ( t ；闲 图4 2 压缩比例对传统度量的试验曲线叉熵对e r m s 的试验曲线 图4 3 叉熵对s n r 的试验曲线叉熵对p s n r 的试验曲线 第2 5 页 西北大学硕士学位论文 第2 6 负 西北大学硕士学位论文 2 ) 、符合人的视觉特性，即使是很小的差异，在图像叉熵上也能反映出来； 3 ) 、图像叉熵与传统的图像度量是相容的，在某些领域，图像叉熵可以作为传统图像度 量的有力补充。 从图像熵的变化曲线中我们也能看出，由d el u c a 和t e r m i n i 定义的模糊熵，完全可以 作为图像包含信息的度量。在实际应用中，我们可以选择合适模糊度量去定义相应图像度 量，与传统的图像度量一起，以其达到最佳的应用效果。 第2