（信号与信息处理专业论文）基于小波高阶统计量和最小分类错误概率的纹理分类算法研究.pdf

基于小波高阶统计量和最小分类错误概率的 纹理分类算法研究 摘要 纹理图像是由紧密交织在一起的基元组成的某种结构，具有局部的不变规 则和整体的规律性。纹理分类是计算机视觉研究领域的一个基础性问题，有着 重要的研究意义，其研究成果在图像分割、图像检索、模式识别、机器视觉等 领域中都有重要的应用。 纹理图像的一个本质特性是具有超高斯概率密度分布；另外，当选取小波 变换作为纹理变换的算法时，图像的小波表达具有非高斯分布特征。在特征选 取方面，目前大家用的最多的是二阶统计量( 如方差) 。但是二阶统计量本质上 是无法全面描述非高斯特征的。为了解决这一闯题，本研究中，我们选取高阶 统计量，如偏态系数( s k e w n e s s ) 和尖态系数( k u r t o s i s ) 作为描述纹理图像信 息的特征。将高阶统计量融入到纹理的特征表达可以有两种方式。第一种是将 高阶统计量和二阶统计量结合使用的紧凑表达方式，这种方式可以提高所提取 的特征对于图像信息的描述能力，进而在此基础上提高图像的分类准确率另 外一种是选取谱直方图( s p e c t r a lh i s t o g r a m s ) 作为特征来描述纹理信息的全面 表达方式，它是采用图像滤波变换后的概率分布来特征化图像信息，这样更有 利于纹理图像信息的表达。该研究中，这两种方式均得到了运用。 分类器的性能是和判别式准则的选择紧密相联的，一个令人满意的判别式 准则应该与分类的性能相一致，并且应该易于实现分类器参数的最优化。目前 普遍使用的判别式准则有感知器准则、松弛准则和最小平方误差( m s e ) 准则。 以上三种判别式准则的最大缺点在于：它们的决策准则没有深入到用函数形式 表示的适合最优化的误差函数里，结果导致判别式准则与最小分类错误概率的 目标不相一致。因此，使用这三种判别式准则去设计分类器的话，分类器并不 能达到最优化的效果，从而分类的结果也达不到最小错误率的要求。为了解决 这一问题，本研究中，我们使用了一种新的判别式准则一最小分类错误( m c e ) 准则，它用函数的形式来表达决策过程，这样更利于最优化的实现。同传统的 判别式准则相比，m c e 准则与最小分类错误概率的目标更加一致。因此，建立 在m c e 准则基础上的分类器设计将能真正的满足最优化的条件，从而达到一 个另人满意的分类效果。 从上述两点出发，本文研究开发了一种新的纹理分类的算法，使用该算法 对2 5 类b r o d t e x 纹理图像进行了评估，分类精确度达到9 0 以上。 关键词：纹理分类；无抽样小波变换；高阶统计量；最小分类错误 t e x t u r ec l a s s i f i c a t i o nb a s e do i lw a v e l e t h i g h e r - o r d e r s t a t i s t i c sa n dm i n i m u mc l a s s i f i c a t i o ne r r o rp r o b a b i l i t y a b s t r a e t t e x t u r ei m a g ei sas o r to ff r a m e ，w h i c hi sm a d eu po fs o m ec l o s ec o n j o i n t e l e m e n t s i th a sl o c a li n v a r i a b l er e g u l a t i o na n dh o l i s t i c d i s c i p l i n a r i a n t e x t u r e c l a s s i f i c a t i o ni sab a s a lq u e s t i o ni nr e s e a r c h f u lf i e l do fc o m p u t e rv i s i o n ，w h i c hh a s i m p o r t a n ts i g n i f i c a n c eo fr e s e a r c h t e x t u r ec l a s s i f i c a t i o nh a sm a n yi m p o r t a n t a p p l i c a t i o n s i nt h ef i e l d so fi m a g e s e g m e n t a t i o n ，i m a g er e t r i e v a l ，p a t t e r n r e c o g n i t i o n ，m a c h i n ev i s i o n ，e t e e x c e e d i n gg a u s sp r o b a b i l i t yd i s t r i b u t i n gi s a ne s s e n t i a lc h a r a c t e r i s t i co f t e x t u r ei m a g e s ；i na d d i t i o n ，w h i l es e l e c t i n gw a v e l e tt r a n s f o r ma st h e o r e mo ft e x t u r e t r a n s f o r m ，e x p r e s s i o no fw a v e l e to fi m a g et a k e so nn o n g a u s s i ac h a r a c t e r i s t i c m o s t o ft h e o r e m so ft e x t u r ec l a s s i f i c a t i o n a d o p tt w o o r d e rs t a t i s t i c so ft e x t u r e ，f o r e x a m p l eo fv a r i a n c e ，t od e s c r i b ec h a r a c t e r i s t i co ft e x t u r e s h o w e v e r , t w o o r d e r s t a t i s t i c sc a nn o td e s c r i b er o u n d l yn o n g a u s s i a c h a r a c t e r i s t i c i no r d e rt os o l v e t h i s p r o b l e m ，w ec h o o s eh i g h e r o r d e rs t a t i s t i c s ，s u c ha ss c e n e sa n dk u r t o s i s ，a s c h a r a c t e ro ft e x t u r e t h e r ea r et w ow a y so fm a k i n gu s eo f h i g h e r o r d e rs t a t i s t i c si n d e s c r i b i n gt e x t u r e t h ef i r s tw a yi sc o m p a c te x p r e s s i o n ，w h i c hi st oc o m b i n e t w o o r d e rs t a t i s t i c sa n dh i g h e r - o r d e rs t a t i s t i c st od e s c r i b et e x t u r e t h i sw a yc o u l d h e i g h t e nc a p a b i l i t yo fe x p r e s s i n go fd i s t i l l e dc h a r a c t e r , w h i c hc a ni n c r e a s ev e r a c i t y o fc l a s s i f i c a t i o n a n o t h e ro n ei so v e r a l lw a y w h i c hi st ou s eh i s t o g r a m sa s c h a r a c t e ro fd e s c r i b i n gt e x t u r e i tu t i l i z e sp r o b a b i l i t yd i s t r i b u t i n go ff i l t e r e di m a g e s t od e s c r i b et e x t u r e ，w h i c hi si nf a v o ro fe x p r e s s i n gr o u n d l yt e x t u r e i nt h i sp a p e r , t h et w ow a y sw e r eu s e d t h ep e r f o r m a n c eo ft h ed e s i g n e dc l a s s i f i e ri sc l o s e l yr e l a t e dt ot h es e l e c t i o no f t h ed i s c r i m i n a n tc r i t e r i o n ad e s i r a b l ed i s c r i m i n a n tc r i t e r i o ns h o u l db ec o n s i s t e n t w i t ht h ep e r f o r m a n c eo ft h ec l a s s i f i c a t i o n t h a ti s ，n o to n l yf o rt h ed e s i g ns a m p l e s ， b u ta l s of o rt h eu n k n o w ns a m p l e s m o r e o v e r ，t h ed i s c r i m i n a n tc r i t e r i o ns h o u l db e a n a l y t i c a l l yt r a c t a b l ea n ds u i t a b l ef o ro p t i m i z a t i o no v e rt h ep a r a m e t e r so fc l a s s i f i e r w i t han u m e r i c a ls e a r c hm e t h o d s e v e r a la n a l y t i c a l l ym o r et r a c t a b l el o s sf u n c t i o n s a r et h ep e r c e p t r o nc r i t e r i o n ，t h er e l a x a t i o nc r i t e r i o na n dt h em i n i m u m s q u a r e d e r r o r f m s e ) c r i t e r i o n t h e s ed i s c r i m i n a n tc r i t e r i a i st h a tt h ed e c i s i o nr u l ei sn o t e m b e d d e di nt h el o s sf u n c t i o ni naf u n c t i o n a lf o r ms u i t a b l ef o ro p t i m i z a t i o n a sa r e s u l t ，t h ed i s c r i m i n a n tc r i t e r i o ni sn o tc o n s i s t e n tw i t ht h eo b j e c t i v eo fm i n i m u m c l a s s i f i c a t i o ne r r o rp r o b a b i l i t y t os o l v et h i sp r o b l e m ，an e wd i s c r i m i n a n tc r i t e r i o n ， t h em c ec r i t e r i o n ，w a sp r o p o s e df o rt h ed e s i g no ft h ed i s c r i m i n a n tf u n c t i o n b a s e d c l a s s i f i e r t h em c ec r i t e r i o n i n c o r p o r a t e s t h ee l a s s i f i e a t i o n o p e r a t i o n a n d a p p r o x i m a t e st h ec l a s s i f i c a t i o ne r r o rp r o b a b i l i t y b a s e dp e r f o r m a n c ee v a l u a t i o ni na s m o o t hf u n c t i o n a lf o r m c o m p a r e dt ot h et r a d i t i o n a ld i s c r i m i n a n tc r i t e r i a ，t h em c e c r i t e r i o ni sm o r ec o n s i s t e n tw i t ht h eo b j e c t i v eo fm i n i m u mc l a s s i f i c a t i o ne r r o r p r o b a b i l i t y b a s e da b o v ea s p e c t s ，w er e s e a r c ha n di m p o l d e ran e wa r i t h m e t i co ft e x t u r e c l a s s i f i c a t i o n t h ep r o p o s e dm e t h o dh a sb e e ne v a l u a t e do nt h ec l a s s i f i c a t i o no f2 5 b r o d t e xt e x t u r e a n dm o r et h a n9 0 c l a s s i f i c a t i o na c c u r a c yh a sb e e na c h i e v e d k e yw o r d s ：t e x t u r ec l a s s i f i c a t i o n ；u n d e c i m a t e dw a v e l e tt r a n s f o r m ；h i g h e r o r d e r s t a t i s t i c s ；m i n i m u mc l a s s i f i c a t i o ne r r o r 图2 1 图2 2 图2 3 图2 4 图2 5 图3 1 图6 1 图6 2 图6 3 图6 4 图6 5 图6 6 图6 7 图6 8 插图清单 三层多分解分析树结构图1 4 二维小波分解算法17 二维小波重构算法1 7 二维无抽样小波分解算法18 二维无抽样小波重构算法1 8 本文方法的整体框图1 9 2 5 幅b r o d t e x 纹理图像4 4 图像b r o d t e x9 和图像b r o d t e x2 2 5 0 图像b r o d t e x1 1 和图像b r o d t e x1 8 5 l 图像b r o d t e x3 和图像b r o d t e x2 2 5 1 图像b r o d t e x5 和图像b r o d t e x2 4 5 2 图像b r o d t e x1 0 和图像b r o d t e x2 5 。5 7 图像b r o d t e x8 和图像b r o d t e x1 1 。5 7 图像b r o d t e x1 8 和图像b r o d t e x2 3 5 8 表6 1 表6 2 表6 3 表6 4 表6 5 表6 6 表6 7 表6 8 表6 9 表6 1 0 表6 1 1 表6 1 2 表6 1 3 表6 1 4 表6 1 5 表6 1 6 表6 1 7 表6 1 8 表6 1 9 表6 2 0 表6 2 l 表6 2 2 表6 2 3 表6 2 4 表6 2 5 表6 2 6 表6 2 7 表6 2 8 表6 2 9 表6 3 0 表6 3 1 表6 3 2 表6 3 3 表6 3 4 插表清单 每幅纹理图像的样本抽取情况4 5 图像窗尺寸对分类结果的影响4 5 五种特征对2 5 幅纹理图像的整体分类结果4 6 图像b r o d t e x1 4 7 图像b r o d t e x2 4 7 图像b r o d t e x3 4 7 图像b r o d t e x4 4 7 图像b r o d t e x5 4 7 图像b r o d t e x6 4 7 图像b r o d t e x7 4 8 图像b r o d t e x8 4 8 图像b r o d t e x9 4 8 图像b r o d t e x1 0 4 8 图像b r o d t e x1 1 4 8 图像b r o d t e x1 2 4 8 图像b r o d t e x1 3 4 8 图像b r o d t e x1 4 4 8 图像b r o d t e x15 4 9 图像b r o d t e x1 6 4 9 图像b r o d t e x1 7 4 9 图像b r o d t e x1 8 4 9 图像b r o d t e x1 9 4 9 图像b r o d t e x2 0 4 9 图像b r o d t e x2 l 4 9 图像b r o d t e x2 2 4 9 图像b r o d t e x2 3 5 0 图像b r o d t e x2 4 5 0 图像b r o d t e x2 5 5 0 基于m c e 训练的纹理分类性能的整体评价5 2 图像b r o d t e x1 5 3 图像b r o d t e x2 5 3 图像b r o d t e x3 5 3 图像b r o d t e x4 5 3 图像b r o d t e x5 5 4 表6 3 5 表6 3 6 表6 3 7 表6 3 8 表6 3 9 表6 4 0 表6 4 l 表6 4 2 表6 4 3 表6 4 4 表6 4 5 表6 4 6 表6 4 7 表6 4 8 表6 4 9 表6 5 0 表6 5 l 表6 5 2 表6 5 3 表6 5 4 图像b r o d t e x6 5 4 图像b r o d t e x 一7 5 4 图像b r o d t e x8 5 4 图像b r o d t e x 一9 5 4 图像b r o d t e x 一1 0 5 4 图像b r o d t e x11 5 4 图像b r o d t e x1 2 5 4 图像b r o d t e x1 3 5 5 图像b r o d t e x1 4 5 5 图像b r o d t e x15 5 5 图像b r o d t e x1 6 5 5 图像b r o d t e x1 7 5 5 图像b r o d t e x1 8 5 5 图像b r o d t e x1 9 5 5 图像b r o d t e x2 0 5 5 图像b r o d t e x2 1 一5 6 图像b r o d t e x2 3 5 6 图像b r o d t e x2 2 5 6 图像b r o d t e x2 4 5 6 图像b r o d t e x2 5 5 6 独创性声明 本人声明所呈交的学位论文是本人在导师指导下进行的研究工作及取得的研究成果。据我所 知，除了文中特别加以标志和致谢的地方外，论文中不包含其他人已经发表或撰写过的研究成果， 也不包含为获得金墼王些太堂或其他教育机构的学位或证书而使用过的材料。与我一同工作 的同志对本研究所做的任何贡献均已在论文中作了明确的说明并表示谢意。 学位论文作者签字黝杰、签字日期：护1 年分月j a 日 学位论文版权使用授权书 本学位论文作者完全了解盒g b 王些盔堂有关保留、使用学位论文的规定，有权保留并向 国家有关部门或机构送交论文的复印件和磁盘允许论文被查阅或借阅。本人授权盒d b 王些太 堂可以将学位论文的全部或部分论文内容编入有关数据库进行检索，可以采用影印、缩印或扫 描等复制手段保存、汇编学位论文。 ( 保密的学位论文在解密后适用本授权书) 学位论文作者签名：j 蔓不j t 导师签名 签字日期：汐叼年l 沪月l a 日 签字旦期 学位论文作者毕业后去向： 工作单位： 通讯地址： 枷掺石 蕊汕 电话： 邮编： 致谢 在我这两年半的研究生的学习和生活阶段，我首先要感谢我的导师杨学志 老师。杨老师不仅学识渊博、治学严谨，而且待人诚恳、诲人不倦。我要感谢 的不仅是他这两年半以来在学术上对我的深刻启发和积极引导，更感谢他在为 人处世、待人接物上对我的教诲。作为他带的第一个研究生，在我的教育和培 养上，倾注了他大量的心血，占据了他本人极为宝贵的科研时间。这里，我再 次向他致以我个人最诚挚的谢意! 同时，我要感谢计算机学院的高隽、曹航、徐静、王新生等老师，在我的 读研阶段，这些老师在我的学习和生活上给予了我很大的帮助，我衷心地祝这 些老师工作顺利，生活愉快! 此外，我要特别感谢我的家人，尤其是我的母亲，因为如果没有他们的关 心和支持，就没有我今天的一切。 最后，我要感谢我的全班同学，正是有了他们的相随相伴，才有了我这两 年半快乐的学习和生活，我祝愿他们都能学有所成，学有所用! 作者：殷保忠 2 0 0 7 年1 2 月2 日 第一章概述 1 1 背景及意义 1 1 1研究背景及意义 纹理一般指人们所观察到的图像中像素( 或子区域) 灰度变换规律，习惯上 把图像中这种微观不规则的、而宏观有规律的特性称之为纹理。纹理图像中灰 度具有某种周期性，即便灰度变化是随机的，它也具有一定的统计特性。纹理 所包含的信息不仅仅来源于单个像素，还与该像素周围空间领域的灰度分布状 况有着密切的联系，是一种由大量或多或少相似的纹理基元或模式组成的结构。 人类所接触的自然世界中，充斥着各种各样的物体。每种物体形态都表现 出一定的纹理特性【1 ，2 】，可以这样讲，纹理无处不在、无时不有，是构成现 实世界的一个基本要素 3 】，从多光谱卫星图片 4 】到细胞组织的图像 5 都可以 看到纹理的存在。同时，人类的认知系统对外部世界的感知也极大地依赖于物 体所表现出的纹理特性，对纹理的感知是人类知觉系统赖以认识世界的重要因 素。这一点己经成为认知科学和计算机科学领域的普遍共识【6 】。 随着对计算机认知科学和人工智能研究的不断深入，计算机视觉和图像处 理等分支得到了长足的发展。计算机正在逐步具有感知周围的视觉世界、进而 了解它的组成和变化规律的能力。纹理，作为一种广泛存在的图像模式，自然 成为计算机视觉和图像处理的重要研究课题【7 ，8 】。 对数字纹理图像进行分析己引起了众多学者的广泛关注【9 ，1 0 】，迄今为止， 对它的研究已有3 0 多年的历史。在这期间，有大量的论文和相关研究著作发表， 并且提出了许多纹理分析的方法。目前，对数字纹理图像进行分析己经成为计 算机视觉和数字图像处理的一个重要研究课题 1 3 1 。 尽管学术界在纹理的研究方面己经做了大量的工作，纹理分类方法的研究 也已取得长足的发展，但实现纹理的高准确率分类仍是人们不断追求的目标， 这些研究对于促进计算机视觉和数字图像处理等的发展有着重要意义。 1 1 2 应用领域 纹理分析理论不仅成为理论研究的热点，而且自二十世纪七十年代开始， 己经在很多的领域得到了广泛的应用 2 0 ，2 1 】。 在遥感方面 2 2 ，2 3 】，纹理分析技术在遥感图像处理过程中，显示出很强 的适用性。在卫星遥感图像中，利用纹理特征，可以识别出森林、湖泊和城市 等。使用灰度共生矩阵来描述遥感图像，还可以得到较高的分类精度。例如以 下几个方面都是纹理分析在遥感方面具体应用的例子： ( 1 ) 在气象方面 2 4 ，2 5 1 ，通过对卫星云图的分析，可以精确地预测未来 的天气情况，并对海浪强度做出准确的预报。卫星云图中云层的厚度、移动方 向和气压的高低，反映到图像上都是纹理的变化。对于海浪来讲，其波长越长， 图像的纹理越粗糙。同时，浪高信息也可以从纹理分析中获得。图像纹理方向 还与波浪走向密切相关。 ( 2 ) 在地质研究中 2 6 ，2 7 】，细微纹理结构一般代表流域、细微粒状沉积 岩；粗糙纹理结构一般代表粗糙沉积岩；块状纹理所代表的区域一般有皱纹； 而蜂巢状纹理一般代表火成岩。同时，有走向的地质构造可以通过纹理分析得 到定量的结果。 ( 3 ) 在植物生长分析方面 3 0 ，3 1 】，同类地形中，植株大小、散布形式的 不同会造成不同的长势，反映在图像上就是纹理的粗细、走向等特征的描述不 同。 ( 4 ) 在土地利用方面【3 2 ，3 3 】，森林比灌木有更为粗糙的纹理，沼泽比湿 地有更为细微的纹理，而湿地和沼泽又比森林和灌木有更为细微的纹理。纹理 越细，色调变化越缓慢。 ( 5 ) 在溢油s a r 图像分类研究方面【5 4 ，5 5 】，近年来越来越严重的海洋 石油污染已经引起了多方的日益关注，因为在许多海洋采油区和油轮经过的航 道上石油污染已经超过海水的自然净化能力，从而引起海面状态的一系列物理、 化学变化和海洋生态的变化。通过对s a r 图像选取合适的特征，利用纹理分析 的方法对其进行分类，从而最终解决这一环境污染问题。 随着工业技术的迅速发展，以及人们对产品质量要求的不断提高，产品质 量检测便被赋予了更高的要求。“快”和“准”是产品质量检测不可缺少的两个 要素，在完全依靠人工检测的条件下，这两个字很难得到真正的体现。此外， 在生产过程中，生产工具会有不同程度的磨损，要想准确及时地把握磨损的程 度，进行实时的监控也是很有必要的。纹理分析在这些方面也有其具体的应用， 例如： ( 1 ) 在纺织品缺陷检测和分类方面 5 0 ，5 1 1 ，可以通过纹理分析的方法对 不同种类的纺织品缺陷进行检测，然后把不同种类的缺陷进行分类，这样就可 以按每种缺陷存在的具体问题进行具体的处理，从而保证了纺织品最终的出厂 质量。 ( 2 ) 在牛肉质量检测方面 5 2 ，5 3 】，决定牛肉质量等级的标准主要是脂肪 的数量和分布，以前都是根据检验员的肉眼以及他们的经验来决定检测的结果， 这样往往会使不同的人对相同质量的牛肉有不同的检测结果。通过超频率音响 技术去特征化肌肉的脂肪，然后利用纹理分析的相关知识就可以对牛肉的质量 作出客观的检测。 ( 3 ) 在刀具磨损状态检测技术方面【4 8 ，5 6 】，把不同磨损程度的刀具表面 看成一幅幅纹理，这样就可以通过纹理分析来对磨损程度进行实时的监测。刀 具监测系统的应用不只局限于刀具，且可向更宽的范围拓展。在现代制造技术 中，生产自动化程度、加工精度越来越高，难加工材料和新材料越来越多，零 件的形状越来越复杂，刀具破损、磨损的在线监测及通过刀具监测来控制其他 过程因素具有重要意义。 此外，在生物医学图像分析方面【2 8 ，2 9 】，x c t ( x 射线断层摄影) 图像、 m r i ( 核磁共振图像) 、b 型超声图像、p e t ( 正电子发射断层摄影) 图像和x 光投 射图像和细胞的显微图像等都有很强的纹理结构特性。在区分正常组织与病变 组织，检查人体内部结构，诊断疾病和判断染色体的分裂状况等方面，纹理分 析已获得大量应用。 通过上面的介绍可以看出，纹理分析己经成为许多实际应用领域不可缺少 的组成部分，对它的深入研究将给人类的生产生活带来可观的效益。 1 2纹理分类的主要方法及其评述 纹理图像的分类一般来说包括两个部分，即特征提取器和分类器。具体地 说，就是先通过特征提取器对需要分类的纹理图像进行特征提取( 每个特征必 须要能表述这幅纹理图像的特性) ，然后通过分类器，并且依据前面提取的特征， 对每幅纹理图像进行具体的分类。从上面的叙述中，我们可以发现：要想对纹 理图像进行正确的分类，特征提取这一环节尤其重要。也就是说，提取出能够 对不同种类的纹理图像具体充分区分能力的特征，是纹理分类能够达到理想效 果的基础和关键一步。 特征提取的方法很多，现将其总结如下： ( 1 ) 基于统计的方法 1 l ，3 6 】： ( 2 ) 基于模型的方法 1 2 ，1 8 1 ； ( 3 ) 基于结构的方法 1 7 】； ( 4 ) 基于信号处理的方法【3 7 】； 在基于统计的方法中，纹理图像的特性是通过灰度值或灰度值间的依赖关 系进行表达的，即通过一阶统计量或二阶统计量。一阶统计量，如平均值、标 准差【3 8 】，能够度量不同种类的纹理图像灰度值之间的不一致。但是，由于这 些特征的定义没有涉及到图像灰度值间的联系，所以它们难以度量灰度值的空 间组织结构，只对灰度值强度与背景有明显差别的纹理图像的分类才有好的效 果。二阶统计量是建立在像素对的联合概率分布基础上，如自相关函数【3 9 】、 共生矩阵【1 5 】等。由于二阶统计量可以携带灰度值间的空间组织结构信息，所 以比一阶统计量对纹理具有更好的辨别能力。另一方面，二阶统计量对图像的 尺寸有一定的要求。如果图像尺寸太小的话，会导致其估计的可靠性的下降。 此外，二阶统计量的计算量也是非常大的【4 0 】。 在第二种方法中，使用高斯马尔可夫随机场f 1 6 1 对纹理图像的局部统计依 赖性进行模块化，通过一系列模型参数对纹理模型进行描述，而这些模型参数 可以作为区分不同种类纹理的特征。与二阶统计量方法相比，该方法对纹理图 像灰度值的空间相互关系具有更强大的表现力，也就是说，它对不同种类的纹 理具有更加优良的区分能力，但前提是这种模型必须能准确描述潜在的纹理。 此外，同二阶统计量方法一样，它的弱点在于对小尺寸的纹理图像的鉴别力不 是很好。 从结构的观点来看，纹理是由纹理基元所组成的，纹理基元按特定的布置 规则周期性地排列。通过不同的结构，基于纹理基元的性质或其布置规则的特 征提取可以被用于纹理的鉴别。基于结构的方法就是通过纹理图像的结构特性， 以及他们之间联合的布置规则来表现纹理图像的性质。很明显地，这一方法只 适用于具有明显结构规则的大块纹理图像。 以上三种方法都是通过纹理的可视化特性对纹理进行区别，而基于信号处 理的方法是运用各种信号处理技术来提取纹理图像的特征。这一方法又可进一 步分为： ( 1 ) 空间滤波方法【4 l 】； ( 2 ) k a r h u n e n l o e v e 变换方法 4 2 1 ； ( 3 ) 傅立叶变换方法 1 4 】； ( 4 ) g a b o r 变换方法 4 3 】； ( 5 ) 小波变换方法【1 9 ，4 3 】； 不同种类的纹理图像的边缘信息在各个等级和方向上都是不一样的。空间 滤波方法的目标就是通过设计一套空间的掩饰，从而加强不同种类纹理边缘信 息的异同。这种方法的缺点在于：它的性能受图像的噪声影响非常明显。 k a r h u n e n l o e v e 变换方法可以把纹理图像的能量转变成无关联的系数。这些系 数虽然可以很好地表达某些纹理图像的特性，但却不能很好的鉴别不同种类的 纹理图像。傅立叶变换能够捕获纹理的周期结构，但由于傅立叶基在空域没有 局部性支持，所以从傅立叶变换提取的特征对细微的纹理鉴别能力有限。小波 变换和g a b o r 变换在不同级别和方向对纹理图像提供了局部化的空频域分析， 对纹理的鉴别能力要强于单一化级别的分析方法 4 4 】。同g a b o r 变换相比，小 波变换对纹理图像的分解更加灵活【4 5 】。综合以上分析，小波变换是各种特征 提取方法中最合适的一种方法。 在特征提取器完成了特征提取工作后，分类器就要按照提取的特征对纹理 图像进行分类，具体分类的方法有以下两种： ( 1 ) 贝叶斯决策理论方法 4 6 】； ( 2 ) 判别式函数方法【4 6 】； 在贝叶新决策理论中，由于各个类别的先验概率和类条件概率密度函数是 不知道的，因此贝叶斯决策理论无法直接运用于分类器的设计中，而是将分类 器设计问题转化为概率密度估计问题。但这样又会遇到另外两个问题。首先， 在实际应用中，所有分布要参数化，因此设计分类器时需要确定这些分布的正 确的参数表示形式，但对绝大多数现实世界的问题来说，这是困难的，所以通 常选取那些数学上易处理的分布函数( 如高斯分布) 来代替，但这却导致了与 实际分布的不一致；其次，需要有足够的训练样本来估计出可靠的参数，但在 实际应用当中，收集大量的训练样本是比较困难的。 能否不依赖于这种转化( 即将分类器设计问题转化为概率密度估计问题) 而直接设计分类器呢? 事实上，分类器就是一个( 或一系列) 判别函数( 或决 策面) ，如果能够从要解决的问题和训练样本出发直接求出判别函数，就可以不 必进行概率密度的估计。另一方面，在某些情况下，判别函数可以具有较简单 的形式，比如为线性或二次函数形式。如果我们能够事先确定判别函数或决策 面的形式( 或为了实现方便的考虑将判别函数设定为某种较简单的形式) ，再通 过训练样本确定其中的参数，就可以更简单地设计出分类器。这就是从样本出 发直接设计分类器的思路，也是判别式函数方法的思想来源。概括来说就是首 先给定某个判别函数类，然后利用样本集确定出判别函数中的未知参数。因此， 在判别式函数方法中，对概率分布是不要求知道的。此外，与贝叶斯决策理论 方法相比，该方法在实现上更加简单，在分析上更加容易处理。因此，我们选 取了后者作为分类器设计的方法。 1 3 本项研究的动机、目标及内容 1 3 1 研究的动机 虽然很多纹理图像的分类方法中都应用了小波变换，并且取得了良好的效 果，但是这些方法还是存在着如下的一些问题。 ( 1 ) 特征提取部分的闯题 一方面，纹理图像的一个本质特性是具有超高斯概率密度分布；另一方面， 当选取小波变换作为纹理变换的算法时，图像的小波表达具有非高斯分布特征。 但是在特征选取方面，目前大家用的最多的是二阶统计量( 如方差) 。二阶统计 量是通过灰度间的依赖关系来表达纹理图像的特性，由于它可以携带灰度间的 空间组织结构信息，因此对纹理的表达能力比一阶统计量要强。但二阶统计量 本质上是无法全面描述非高斯特征的。通过上面的分析，我们很容易看出这样 一个问题：在基于小波变换的纹理图像特征提取中，二阶统计量对纹理图像信 息的描述能力并不强。 ( 2 ) 分类部分的问题 分类器的性能是和判别式准则的选择紧密相联的，一个令人满意的判别式 准则应该与分类的性能相一致，并且应该易于实现分类器参数的最优化。目前 普遍使用的判别式准则有感知器准则、松弛准则和最小平方误差( m s e ) 准则 4 6 】。感知器准则是分段线性的，因此它的梯度是不连续的。同感知器准则相 比，松弛准贝f j 有连续的梯度。利用这两种准则对分类器进行训练主要集中在线 性可分离训练样本。另外，这两种准则仅仅是对被错误分类的训练样本进行定 义的，这与整个分类性能是不相一致的。而m s e 准则是对所有训练样本进行定 义的，但是，m s e 准则的性能依赖于边缘向量的选择。随意地选择了边缘向量 的m s e 准则是不能达到良好效果的。而且，m s e 准则对错误概率的最小化是 不能保证的。以上三种判别式准则的最大缺点在于：它们的决策准则没有深入 到用函数形式表示的适合最优化的误差函数里，结果导致判别式准则与最小分 类错误概率的目标不相一致。因此，使用这三种判别式准则去设计分类器的话， 分类器并不能达到最优化的效果，从而分类的结果也达不到最小错误率的要求。 总结以上两点，在使用小波变换进行纹理特征提取时，需要选择更加准确 描述纹理图像信息的特征。在进行分类器的设计时，要使判别式函数的决策准 则和最小分类错误概率的目标直接一致。 1 3 2 研究的目标及内容 本研究工作的目标就是研究与开发一种高准确率的纹理分类方法。从上文 的分析中可以看到，很多纹理分类方法中，特征提取单元和分类单元还存在着 一些问题。所以，为了有效描述纹理并使纹理分类器满足最小错误率的要求， 针对现有特征提取单元和分类单元存在的问题进行了改进。具体研究目标及内 容有： ( 1 ) 研究开发一种有效描述纹理图像特性的特征提取方法 从上面的问题( 1 ) 中可以看到，二阶统计量对纹理图像信息的描述能力不 够理想。为了解决这一问题，该研究中，我们选取高阶统计量，如偏态系数 ( s k e w n e s s ) 和尖态系数( k u r t o s i s ) 作为描述纹理图像信息的特征。将高阶统 计量融入到纹理的特征表达可以有两种方式。第一种是将高阶统计量和二阶统 计量结合使用的紧凑表达方式，这种方式可以提高所提取的特征对于图像信息 的描述能力，进而在此基础上提高图像的分类准确率。另外一种是选取谱直方 图( s p e c t r a lh i s t o g r a m s ) 作为特征来描述纹理信息的全面表达方式，它是采用 图像滤波变换后的概率分布来特征化图像信息，这样更有利于纹理图像信息的 表达。此外，原始的小波特征或许不适合分类的目的。为了解决这一问题，一 种新的方法，即导向性分类特征提取器在分类单元中得到了应用 5 0 】。这种特 征提取器是通过线性转换器来实现的，并且是和欧几里得距离分类器进行联合 设计的。在这种方法中，不同种类纹理图像的更加显著的特征被提取了出来， 从而大大提高了分类的性能。 ( 2 ) 研究开发一种基于最小分类错误概率( m c e ) 的分类器设计方法 从上面的问题( 2 ) 中可以看到，现在普遍使用的这些判别式准则并不能使 分类器的分类效果达到最优化。为了解决这一问题，该研究中，我们使用了一 种新的判别式准则一最小分类错误( m c e ) 准则4 9 ，它用函数的形式来表达 决策过程，这样更有利于最优化的实现。m c e 准则的定义具体分三步 4 9 1 ，通 过这三步的定义，m c e 准则合并了分类操作，并且用一种平滑函数的形式对基 于分类错误概率的性能评估进行了近似。此外，在m c e 训练中，一般使用最 速梯度下降法作为最优化的方法，为了更好地发挥最优化的效果，在本研究中， 我们使用q u a s i n e w t o n 3 5 最优化方法来代替最速梯度下降法。同传统的判别 式准则相比，m c e 准则与最小分类错误概率的目标更加一致 4 9 】。因此，建立 在m c e 准则基础上的分类器设计将能真正的满足最优化的条件，从而达到一 个另人满意的分类效果。实验表明，在都使用欧几里得距离分类器的情况下， 该方法的分类性能明显优于最大似然方