（计算机系统结构专业论文）采用支持向量机的纹理图像分类.pdf

at h e s i si nc o m p u t e ra r c h i t e c t u r e t e x t u r ei m a g e sc l a s s i f i c a t i o nu s i n gs u p p o r t v e c t o rm a c h i n e b yz h a ol e i s u p e r v i s o r ：p r o f e s s o rm az o n g m i n n o r t h e a s t e r nu n i v e r s i t y j u n e2 0 0 8 独创性声明 本人声明，所呈交的学位论文是在导师的指导下完成的。论文中 取得的研究成果除加以标注和致谢的地方外，不包含其他人己经发表 或撰写过的研究成果，也不包括本人为获得其他学位而使用过的材料。 与我一同工作的同志对本研究所做的任何贡献均己在论文中作了明确 的说明并表示谢意。 学位论文作者签名：声送磊 日 期：z ，矿孑年钥 学位论文版权使用授权书 本学位论文作者和指导教师完全了解东北大学有关保留、使用学 位论文的规定：即学校有权保留并向国家有关部门或机构送交论文的 复印件和磁盘，允许论文被查阅和借阅。本人同意东北大学可以将学 位论文的全部或部分内容编入有关数据库进行检索、交流。 作者和导师同意网上交流的时间为作者获得学位后： 半年口一年口一年半口两年 学位论文作者签名：愁犯 签字日期：勾。晦阴 翩虢醣民 签字日期：乃。留年f 月 i i i l j 东北大学硕士学位论文 摘要 采用支持向量机的纹理图像分类 摘要 基于内容的图像检索( c o n t e n t b a s e di m a g er e t r i e v a l ) 研究的目的是实现自动 地、智能地检索图像，研究的对象是使查询者可以方便、快速、准确地从图像数 据库中查找特定图像的方法和技术。纹理特征的分类是纹理c b i r 系统的关键技 术，然而传统的统计预测方法需要很强的先验知识，研究的前提是样本数目趋于 无穷大时的渐进理论。受维数影响较大，维数增加有时导致了分类性能的下将， 这就限制了它们在纹理非线性分类中的应用。因为在进行纹理非线性分类中，需 要把低维特征映射到高维空间，维数必然增加。所以为了有效的进行纹理非线性 分类这就需要一种受维数影响较少的方法。 进行纹理分类前先要提取纹理特征，本文采用g a b o r 小波的方法对纹理特征 进行提取。以往构造g a b o r 小波滤波器时，参数的选择没有统一的方法，不同的 作者采用不同的参数，原因在于对于各个参数的作用不明了。本文通过仔细设计 的实验方法，对g a b o r 小波各个参数在纹理分类中的作用进行了研究，发现了各 个参数的重要性，得到的结果对于滤波器的构造具有指导意义。基于线性预测编 码和高斯方程本文构造了一种新的核函数，并对核函数的可分性和局部性进行了 研究，结果表明提出的核函数对样本具有良好的线性可分性和较强的插值能力， 比较善于提取样本的局部特征。最后利用多项式核函数善于全局特性的优点，把 提出的核函数和多项式核函数结合得到一个最终的核函数和支持向量机 l g s v m 。 在进行的纹理分类实验中，本文提出的方法与两种传统的纹理分类方法进行 比较，结果表明本文提出方法的分类的准确率总是优于其它方法，当维数增加时， 其它方法的分类性能有时会下降而本文提出的方法分类性能总是得到了提高。 关键词：纹理特征提取，纹理特征分类，g a b o r 小波，支持向量机 i i i 东北大学硕士学位论文 摘要 i v t e x t u r ei m a g ec l a s s i f i c a t i o nu s i n gs u p p o r t v e c t o rm a c h i n e a b s t r a c t t h ep u r p o s eo ft h er e s e a r c ho fc o n t e n t b a s e di m a g er e t r i e v a l ( c b i r ) i st or e a l i z e r e t r i e v i n gi m a g e sa u t o m a t i c a l l y a n di n t e l l i g e n t l y t h eo b je c t so ft h er e s e a r c ha le m e t h o d sa n dt e c h n o l o g yt h a tc a nh e l pt h eu s e rr e t r i e v ep a r t i c u l a ri m a g e sf r o mi m a g e d a t a b a s ec o n v e n i e n t l nq u i c k l ya n da c c u r a t e l y t e x t u r ef e a t u r ec l a s s i f i c a t i o ni st h ek e y t e c h n o l o g yi nt h et e x t u r ei m a g ec b i rs y s t e m t h et r a d i t i o n a ls t a t i s t i c a lp r e d i c t i v e m e t h o d sr e q u i r et r a n s c e n d e n tk n o w l e d g e t h er e s e a r c h i n gp r e m i s eo ft h e mi st h a tt h e n u m b e ro fs a m p l e si si n f i n i t e w h e nt h ed i m e n s i o ni n c r e a s e s ，t h ep e r f o r m a n c eo f t e x t u r ec l a s s i f i c a t i o ns o m e t i m e sd e c l i n e t h eu s eo ft h e s e m e t h o d si nt e x t u r e c l a s s i f i c a t i o ni sl i m i t e db e c a u s ew h e nd o i n gt h en o n l i n e a rt e x t u r ec l a s s i f i c a t i o n ，t h e t e x t u r ef e a t u r es h o u l db em a p p e dt oah i g h e rd i m e n s i o n s oam e t h o di n f l u e n c e db yt h e d i m e n s i o nl i t t l ei sn e e d e dt oc a r r yo u tt h en o n l i n e a rt e x t u r ec l a s s i f i c a t i o n b e f o r ec l a s s i f y i n gt e x t u r ef e a t u r e ，w em u s tf i r s te x t r a c tt e x t u r ef e a t u r e t h i st h e s i s a d o p t e dt h em e t h o do fg a b o rw a v e l e tt o e x t r a c tt e x t u r ef e a t u r e i nt h ep a s t ，w h e n c o n s t r u c t i n gg a b o rf i l t e r s ，t h e r ew a sn o tau n i f o r mm e t h o d t os e l e c tp a r a m e t e r s d i f f e r e n ta u t h o r su s e dd i f f e r e n tp a r a m e t e r sb e c a u s et h ee f f e c t so fp a r a m e t e r sa r en o t c l e a r t h i sp a p e rr e s e a r c h e dt h ee f f e c t so fp a r a m e t e r so fg a b o rf u n c t i o ni nt e x t u r e c l a s s i f i c a t i o na n df o u n do u tt h ei m p o r t a n c eo ft h e mb yc a r e f u l l yd e s i g n e de x p e r i m e n t t h er u s u l tc a l lb eu s e dt og u i d et h ec o n s t r u c t i o no fg a b o rf i l t e r s b a s e do nl i n e a r p r e d i c t i v ec o d i n ga n dg a u s sf u n c t i o n ，t h i sp a p e rc o n s t r u c t e dan e w k e r n e lf u n c t i o n , a n da n a l y s e dt h es e p a r a b l ea n dl o c a lc h a r a c t e ro ft h ek e r n e lf u n c t i o n w eg o tt h e c o n c l u s i o nt h a tt h e k e r n e lf u n c t i o nh a s g o o d l i n e a r s e p a r a b l e c h a r a c t e ra n d i n t e r p o l a t i o na b i l i t y ，a n di sg o o da te x t a c t i n gt h el o c a lf e a t u r e f i n a l l y ，w et o o kt h e v 东北大学硕士学位论文a b s t r a c t a d v a n t a g eo fp o l y n o m i a lk e r n e lf u n c t i o ni ne x t r a c t i n go v e r a l lf e a t u r e ，a n dc o m b i n e t h en e wk e r n e lf u n c t i o na n dt h ep o l y n o m i a lk e m e lf u n c t i o nt og e taf i n a lk e m e l f u n c t i o na n das v m ，l g s v m i nt h ee x p e r i m e n to ft e x t u r ec l a s s i f i c a t i o n ，w ec o m p a r e dt h en e wm e t h o dw i t ht w o c l a s s i c a lm e t h o d s t h er e s u l t ss h o w e dt h a tt h ec l a s s i f i c a t i o np r e c i s i o no fo u rm e t h o d w a sa l w a y sh i g h e rt h a no t h e r s a n da st h ed i m e n s i o ni n c r e a s e s ，t h ep e r f o r m a n c eo f o t h e rm e t h o dd r o p p e ds o m e t i m e s ，b u to u rm e t h o dw a si n f l u n c e dl i t t l e k e yw o r d s ：t e x t u r ef e a t u r ee x t r a c t i o n ，t e x t u r ef e a t u r ec l a s s i f i c a t i o n ，g a b o rw a v e l e t ， s u p p o r tv e c t o rm a c h i n e v i 东北大学硕士学位论文目录 目录 独创性声明i 摘要i i i a b s t r a c t v 第1 章绪论1 1 1 研究的背景和意义l 1 2c b i r 组成和关键技术1 1 3 纹理特征的提取和分类4 1 3 1 纹理特征提取5 1 3 2 纹理特征分类6 1 4 纹理分类的研究现状与发展趋势8 1 5 本文的内容和结构9 第2 章纹理分析方法研究1 1 2 1g a b o r 变换。1 l 2 2 小波变换1 2 2 2 1 原理。1 2 2 2 2 多分辨率分析。1 3 2 2 3 二维小波变换。1 4 2 2 4f o u r i e r 、g a b o r 和小波变换的比较1 5 2 3 二维g a b o r 小波。1 6 2 4 支持向量机18 2 4 1 统计学习理论。19 2 4 2 支持向量机分类2 l 第3 章g a b o r 小波参数对纹理分类的影响2 7 3 1 实验方法和过程2 7 3 1 1 实验对象的选择2 7 3 1 2 特征表达2 9 3 1 3 距离度量2 9 v i l 东北大学硕士学位论文 目录 3 1 4 分类过程和分类器的比较2 9 3 1 5 实验设计3 0 3 2 实验结果分析31 3 2 1 第一组实验结果3 1 3 2 2 第二组实验结果3 3 3 2 3 两组实验结果比较3 4 3 3 本章小结3 5 第4 章纹理分类支持向量机的构造。3 7 4 1 核函数方法3 7 4 2 支持向量机l g s v m 一3 9 4 2 1 线性预测编码3 9 4 2 2 核函数4 2 4 2 - 3 性质以及参数优化4 2 4 2 4l g - s v m 4 7 4 3 本章小结4 7 第5 章实验和分析4 9 5 1 金字塔结构算法一4 9 5 2 纹理分类及比较5 2 5 2 1 实验数据5 3 5 2 2 选用的比较方法5 3 5 2 3 实验结果及分析5 4 5 3 本章小结5 7 第6 章总结和展望5 9 6 1 总结5 9 6 2 展望5 9 参考文献6 1 致谢。6 7 v i i i 东北大学硕士学位论文第1 章绪论 1 1 研究的背景和意义 第1 章绪论 随着计算机和互联网的飞速发展，图像资料呈爆炸性增长。每天都在产生大量 的视觉信息，这些巨大的多媒体信息海洋进一步导致了超大型图像信息库的产生， 如何有效地帮助人们快速、有效地从大型图像库中找到所需要的图像，成了图像 检索系统所要解决的核心问题。传统的基于文本的检索技术已不适用于大规模图 像集。其主要有两大缺点：人工注释图像工作量大；主观性理解和表达造成注 释信息不稳定。第二点直接影响图像检索结果的可靠性，于是2 0 世纪9 0 年代初， 研究者们提出了基于内容的图像检索( c o n t e n t - b a s e di m a g er e t r i e v a l ，c b i r ) 捌， 在某种程度上克服了传统纯粹依赖文本标注进行检索的缺陷，转而利用图像自身 携带的信息进行检索，提高了图像检索的自动化程度，成为一项倍受关注的技术。 基于内容的图像检索的基本原理是：对图像库中的每幅图像，先进行图像分 析，提取图像特征或目标的特征向量，建立相应的特征向量库。在建立图像库的 同时，建立与图像库相连的特征库。在进行图像检索时，对给定的查询例图，先 提取该例图的特征向量，然后将该例图的特征向量与特征库中的特征向量进行匹 配，并根据匹配结果到图像库中搜索，就可检索出所需的图像。 1 2c b i r 组成和关键技术 c b i r 的核心是使用图像的可视特征对图像进行检索。本质上讲，它是一种近 似匹配技术，融合了计算机视觉、图像处理、图像理解和数据库等多个领域的技 术成果，其中的特征提取和索引的建立可由计算机自动完成，避免了人工描述的 主观性。一个典型的c b i r 系统的基本组成如图1 1 所示。用户检索的过程一般 是提供一个样例图像( q u e r yb ye x a m p l e ) 或描绘一幅草图( q u e r yb ys k e t c h ) ，系统 抽取该查询图像的特征，然后与数据库中的特征进行比较，并将与查询特征相似的 图像返回给用户。 东北大学硕士学位论文第1 章绪论 图1 1 基于内容的图像检索系统结构 f i g 1 1 t h ea r c h i t e c t u r eo fc b i rs y s t e m c b i r 的关键技术主要包括：图像预处理、特征提取、相似性度量、特征匹 配、检索性能的评价和相关反馈。 ( 1 ) 图像的预处理 在原始图像转换成数字图像的过程中，由于各种原因，图像的画质可能会出 现各种不如意的退化。例如：灰度偏移、几何变形以及图像模糊不清等。所以，要 去除各种使图像退化的噪音信号，增强图像的原始信号，以及将观测到的不同图 像在同一条件下进行校正处理就显得非常重要了。常用的方法有：滤波、几何变 换、直方图均衡化、图像锐化等。 ( 2 ) 特征提取 图像内容可以分为两类：低层视觉特征，其内容主要包括颜色、形状、纹理等； 语义内容，它包含高层的概念( 如“海上升明月”) ，需要对物体进行识别和解释。 往往要借助人类的知识推理。由于目前计算机视觉和图像理解的发展水平所限， 使得c b i r 还无法真正支持基于语义的图像检索，所以目前研究得较多也比较成 熟的检索算法大部分是基于图像的低层特征的，即利用图像的颜色、纹理、形状 等特征来检索。 特征提取是基于内容的图像检索的关键技术之一，特征的选择和提取的好坏 将关系到后面处理的进行和整个c b i r 系统的性能。所以特征提取技术的要求是 准确和快速，通常考虑一下四个因素： 图像的分辨能力，应该能区分视觉上差异较大的图像； 一次查询中相关图像占检索到的图像的比重，即无关图像的排除能力； 特征计算的简易程度，过度复杂的计算会影响系统的相应时间； 东北大学硕士学位论文 第1 章绪论 特征对存储空间的要求不能过多。 ( 3 ) 相似性度量 相似性度量主要是对提取的颜色、纹理、形状和空间关系特征进行匹配的过 程。c b i r 中的两个关键的问题是【3 1 ：如何有效的利用图像的低级可视特征如颜 色、纹理、形状等有效的表示图像的内容，即有效的特征提取；如何度量图像 的相似性。在c b i r 中图像的相似性是通过提取的特征向量的相似性来度量的。 例如，一种在欧式空间度量相似的方法是，将图像的特征向量看作是特征空间的 点，特征的接近程度用两点之间的距离俩表示，距离越d , 贝j j 表示它们所代表的图 像也相似。用户检索图像时可以不使用关键字而是提供事例图，然后系统建将事 例图用特征向量来表示，接着系统计算事例图特征向量与数据库中图像特征向量 的距离，如果小于预先设定的域值，则认为两幅图像匹配。 ( 4 ) 特征匹配 特征匹配是图像检索的一个关键环节，具有特征依赖的特点，不同的特征应该 采用不同的度量方法。在检索的过程中，根据系统相似性度量的算法计算查询特 征与特征库中对应的每组特征的相似程度，把所得结果由大到小排序后得到一个 匹配图像序列返回给用户。其间可以通过人机交互，对检索的结果逐步求精，不 断缩小匹配集合的范围，从而定位到目标。匹配过程常利用特征向量之间的距离 函数来进行相似性度量，模仿人类的认知过程，近似得到数据库的认知排序。 ( 5 ) 检索性能的评价 图像检索评价的方法很多，最常用的是查准率( p r e c i s i o n ) 和查全率( r e c a l l ) 引。 查准率是指一次查询过程中检索到的相关图像与检索到的所有图像的比值； 查全率是指一次查询过程中，检索到的相关图像的数目和图像数据库中所有相关 图像的数目的比值。查询时一般要设定一个阈值，相似度量大于阈值时作为相似 图像返回。查全率与查准率一般成反比关系；提高阈值返回的图像减少，查全率 降低而查准率提高，反之亦然。所以要综合考虑这两个指标来度量图像检索技术 的性能。 ( 6 ) 用户相关反馈 虽然人们对基于图像特征的算法进行了大量的研究，但是c b i r 系统的查询 结果往往不如人意。这主要是由于图像的低级视觉特征和图像的语义之间存在很 大的差别。为了克服这个缺点，近几年来人们提出了相关反馈技术。相关反馈的 目标是从用户与查询系统的实际交互过程中进行学习，发现并捕捉用户的实际查 东北大学硕士学位论文第1 章绪论 询意图，并以此修正系统的查询策略，从而得到与用户实际需求尽可能相吻合的 查询结果。由于相关反馈可以实时地修改系统的查询策略，从而为图像检索系统 增加了自适应功能。 传统的相关反馈检索过程如下：首先由用户向系统提出查询请求，系统根据 查询实例的特征在特征索引库中查找与之相似的特征向量，从而返回给用户这些 特征向量所对应的图像。然后，用户对系统检索的图像与查询图像之间的相似度 做出评价，比如简单地评价为相似或不相似或标注出检索到的图像与查询实例的 相似程度。将此信息反馈给系统，系统对查询实例的特征和特征分量在相似度度 量中的权重进行修改然后再做特征匹配进而返回更接近于用户查询意图的图像。 经过这样一次次的反馈，系统逐渐返回给用户所期望的结果。 本文研究了图像纹理特征的提取和分类，其中重点研究了g a b o r 小波滤波器 的构造和纹理特征的非线性分类方法。 1 3 纹理特征的提取和分类 纹理反映了图像灰度模式的空间分布，包含了图像的表面信息及其与周围环 境的关系，更好地兼顾了图像的宏观结构与微观结构，具有准周期性的统计特性。 在这个纷繁复杂的大干世界里，存在着大量以纹理为主导特性的图像。多数自然 景物的表面都显现出一定的纹理。下面几幅图像，如图1 2a 中的木纹和麻绳、b 中的杂草和石块、c 中的结晶体和泥土组合等等。很容易发现，这些对象在局部 区域内呈现出不规则性，但在整体上却呈现出某种规律性。目前对图像纹理的概 念并没有确切的数学定义，总结前人对图像纹理的描述，总体上可概括为【5 】： ( 1 ) 图像局部不规则而全局又呈现某种规律的物理现象。 ( 2 ) 由许多相互接近、相互编织的元素以一定的形式排列构成，并常伴有几 种周期性。 ( 3 ) 图像的灰度统计信息、空间分布信息和结构信息的综合反映。 ( 4 ) 一种区域特性，在恰当的区域内测量才有意义。 东北大学硕士学位论文 第1 章绪论 图1 2 自然纹理图 f i g 1 2 s e v e r a ln a t u r et e x t u r ei m a g e s 图像若能表现出纹理特性，总是某一个像元块一纹理基元( t e x t o n ) ，以周期的 形式进行重复，而只有当这种重复比较规则、比较频繁的时候，认为它具有较好 的纹理特性，基元是纹理区域中重复出现的局部特征，不同的纹理基元表现出不 同的统计特性，是能够反映纹理差别的显著特征。纹理具有粗细度、对比度、方 向性、线性、规则性、粗糙度、凸凹性，从人类的视觉系统对纹理的认知来看， 纹理还应具有平移不变性、尺度不变性和旋转不变性，即对纹理的感知基本上与 图像的位置、和方向无关。 1 3 1 纹理特征提取 早期的纹理特征提取方法主要集中在纹理的一阶或者二阶统计特性、高斯马 尔可夫随机场和自相关等统计模型的分析上【6 】，随着空域频域分析的发展，例如 g a b o r 滤波器【7 1 、小波变换【8 】、小波包【9 1 、小波框架【l o 】等为纹理分析和分类提供了 多分辨率分析的工具。t u c e r y a n 和j a i n 总结出五种常用的纹理特征表述方法：基 于统计、基于几何、基于结构、基于模型和基于频谱处理的方法【l ，其中，基于 统计、基于结构、基于模型和基于频谱处理的方法最为常用。 ( 1 ) 统计法。它分析纹理的主要思想是通过图像中灰度级分布的随机属性来描 述纹理特征。最简单的统计法是借助于灰度直方图的矩来描述纹理，但这种方法 没有利用像素相对位置的空间信息。为了利用这些信息，h a r a l i c k 等人提出了用 共生矩阵来表示纹理特征【1 2 】。该方法研究了纹理的空间灰度级相关性，构造出 一个基于图像像素间方向和距离的共生矩阵，并且从矩阵中提取出反差、能量、 熵等统计量作为特征量表示纹理特征。t a m u r a 等人基于人类视觉的心理学研究 ；i；。q；蠢i lil罗莺，囊q，囊v；扎镀|i；，；，；，q；薹 东北大学硕士学位论文第1 章绪论 后提出了一些不同的方法来描述纹理特征【1 3 】，给出了几个不同的描述纹理特征 的术语：粗糙度( c o a r s e n e s s ) 、对比度( c o n t r a s t ) 、方向( d i r e c t i o n a l i t y ) 、线性度 ( l i n e l i k e n e s s ) 、规则度( r e g u l a r i t y ) 、粗略度( r o u g h n e s s ) 等。t a m u r a 纹理和共生 矩阵表示的主要区别在于：前者的所有纹理属性都是视觉意义上的，而后者的某 些纹理属性不具有视觉意义( 如信息熵) 。这一特点使得t a m u r a 的纹理表示在图像 检索中使用得较多。 ( 2 ) 结构法。它分析纹理的基本思想是假定纹理模式由纹理基元以一定的、有 规律的形式重复排列组合而成，特征提取就变为确定这些基元并定量分析它们的 排列规则。c a r l u c c i 1 4 提出一个使用直线段、开放多边形和封闭多边形作为纹理 基元的纹理模型，其排列规则由一种图状语法结构定义。l ua n df u 给出一种树型 语法结构表示纹理，他们将纹理按照9 x 9 的窗口进行分割，每个分解单元的空间结 构表示为一棵树。因为实际的纹理大都是无规则的，因此结构法受到很大限制。 ( 3 ) 模型法。它利用一些成熟的图像模型来描述纹理，如基于随机场统计学的 马尔可夫随机场、子回归模型，以及在此基础上产生的多尺度子回归模型【1 5 】 ( m u l t i 2 r e s o l u t i o ns i m u l t a n e o u sa u t o r e g r e s s i v e ，m r s a ) 等。这些模型的共同特点 是通过少量的参数表征纹理。m r s a 区分不同纹理模式的能力较强，但同时计算 开销也较大。 ( 4 ) 频谱法。它借助于频率特性来描述纹理特征，包括傅里叶功率谱法【1 6 j 、 g a b o r 变捌17 1 、塔式小波变换( p y r a m i dw a v e l e tt r a n s f o r m ，p w t ) 18 1 、树型小波变 换( t r e ew a v e l e tt r a n s f o r m ，t w t ) 【1 8 】等方法。m a n j u n a t ha n dm a 1 7 】通过实验指出， g a b o r 小波特征提供了最佳的模式检索精度，具有旋转不变性和尺度不变性的特 点。检索性能优于树状小波变换( t w t ) 和金字塔结构小波变换( p w t ) ，略微优于 m r s a ，目前的缺点是参数作用和重要性不明确，导致参数设置过多，计算速度 慢。 1 3 2 纹理特征分类 纹理分类构成了图像分析与理解的重要方面，纹理分类所关心的是一个较大 区域内的纹理，它的目标是对所考察的纹理图像进行分类并判断每幅图像所属的 纹理类别。其基本内容可以概括为：确定纹理图像中不同纹理的特征表述，并且 从方便分类判别的角度出发对这些特征表述进行处理获得特征向量；建立分类器， 将训练集特征向量送入分类器进行训练，最后用训练好的分类器对测试集进行分 东北大学硕士学位论文笫1 章绪论 类，原理框图如图1 3 所示。 图1 3 分类算法原理框图 f i g 1 3 t h ef r a m eo fc l a s s i f i c a t i o na l g o r i t h m 纹理特征分类是将相同或相似的纹理特征归并到同一类中，从而将图像划分 成若干个具有不同纹理特性的有限区域。常用的纹理特征分类方法有距离分类法、 聚类算法、神经网络分类法及支持向量机分类法等【1 9 2 2 1 。 ( 1 ) 距离度量算法。计算参考图像和数据库中图像间的距离，距离最近的图像 被认为是最相似的。最简单常用的为欧式距离，h 维特征向量v i 和v j 间的欧式距 离定义为： 阿 d ( _ i v j ) = ( 一) 2 ( 1 1 ) k = l ( 2 ) 聚类算法。在所有基于最小化目标函数的聚类算法中，属于硬聚类方法的 k 均值聚类算法是应用和研究最为广泛的算法之一。其基本思想是：选定聚类数 目k 和选取k 个初始聚类中心，按最小距离原则将各样本划分到k 类中的某一类， 之后不断地计算类中心和调整各样本的类别，最终使各样本到其所属类别中心的 距离平方和最小。 ( 3 ) 神经网络分类算法。神经网络已经在大量实际问题中有了成功的应用，包 括线性网络、b p 网络、径向基网络、l v q 网络等，首先用训练集纹理的特征向 量对网络进行训练，然后对测试集纹理的特征向量进行分类，输出每个特征向量 的纹理类别。 ( 4 ) 支持向量机算法。支持向量机是基于结构风险最小化的处理原则，因此， 由有限样本得到小的误差能保证对独立的测试集仍保持小的误差，而且它是一个 凸二次规划问题，避免了局部最优解，引入了核函数理论，克服了“维数灾”问题， 很容易推广到非线性情形。支持向量机有着坚实的理论基础，在解决小样本学习 问题时显示了极大的优越性，是一项很有发展前景的新技术【2 3 , 2 4 1 。 东北大学硕士学位论文第1 章绪论 1 4 纹理分类的研究现状与发展趋势 图像纹理分析是从上世纪7 0 年代发展起来的- - f q 技术。三十多年来纹理分析 一直是图像分析中一个相当活跃的领域。纹理分析的早期研究主要集中在纹理信 息的表达与描述和纹理图像的分割，研究领域遍及神经生理学、心理物理学、心 理学、影像分析、医学诊断等各个方面，成为图像分析和计算机视觉中的基本技 术之一。 近年来纹理分析在不同的图像处理中得到了广泛的应用，如图像分割、模式 识别、形状分析、纹理合成和图像压缩等。常用的纹理模型很多，其中t a m u r a 模型与人眼的视觉感受相一致。g a r c i a 等人研究了布尔模型在灰度图像纹理分析 中的应用。t a m u r a 等研究了对应于人眼视觉感受的纹理特征【2 5 】。h a y e s 等人对纹 理粗糙度进行了进一步的实验分析。对基于纹理特征的图像检索，学者们进行了 大量的研究工作。k a r u 等人对图像中是否含有纹理进行了研究，并提出了一种纹 理区域快速检测算法【2 6 1 。g i m e l 等人研究了基于子图像多像素对求交结构的灰度 差异直方图，并提出了对具有不同旋转角度和缩放比例的相同类型的纹理进行匹 配的距离度量函数【27 1 。t s l e e 将g a b o r 小波特征用于纹理分析和图像数据的浏 览和检索1 2 8 】。 随着小波、分形、模糊数学等新兴工具的蓬勃发展，学者们在前人工作的基 础上，又开始探索新的图像纹理分类方法和途径，目前国际上已提出的纹理分类 方法达数十种之多。最近的主要新技术有模糊聚类概念的分类模型【2 9 1 ，基于小波 分析和小波变换的分类模型【3 0 】，基于神经网络的分类模型【3 1 1 ，基于分形理论的分 类模型3 2 1 ，基于数学形态学的分类模型等。 图像难免会受到位置、方向和噪声等一些随机因素的影响，这些情况下应该 仍然能够对纹理图像进行正确的分类，因此，平移和旋转不变性纹理特征提取成 为近年来纹理图像研究的焦点。g a b o r 小波结合了g a b o r 变换具有的平移和旋转 不变的特点和小波分析具有的多分辨率的特性，应此在纹理特征提取中取得了理 想的效果。 在分类算法方面，常用的分类算法有距离度量、聚类算法、神经网络等，但 这些算法普遍存在着正确率低、运算时间长和受特征维数影响较大等问题。支持 向量机是近年发展起来的性能优越的分类算法，在很多应用领域都获得了很大的 成功，它在处理高维空间的分类问题方面显示出了很强的优越性，较传统方法有 东北大学硕士学位论文 第1 章绪论 着明显的优势。由于支持向量机是基于结构风险最小化的处理原则，因此，由有 限样本得n d , 的误差能保证对独立的测试集仍保持小的误差，而且它是一个凸二 次规划问题，避免了局部最优解，引入了核函数理论，克服了“维数灾”问题，很 容易推广到非线性情形。支持向量机有着坚实的理论基础，在解决小样本学习问 题时显示了极大的优越性，是一项很有发展前景的新技术。 总之，对纹理图像的分类至今也没有形成一套普遍适用的方法，实际应用中， 许多算法仍普遍存在着计算复杂、正确分类率低等问题，在一定程度上制约了这 些算法的应用，如何提取有效的纹理特征并进行准确的分类还需要进一步研究和 探索，一些新理论、新技术的不断提出为纹理分类算法的进一步完善提供了广阔 的前景。 1 5 本文的内容和结构 首先，本文重点研究了纹理频谱分析方法中的g a b o r 变换和小波变换，深入 分析了二者在频域分析中的优势和缺点；g a b o r 变换具有旋转和平移不变的特性， 但是窗宽固定无法进行多分辨率分析，小波变换基于多分辨率思想适应信号的频 率变化，所以把二者结合使用g a b o r 小波作为纹理特征提取的工具。以往g a b o r 小波参数的选择没有统一的标准，只有各个参数设置正确才能获得较好的性能。 不同的作者根据自己的需要构造滤波器，但是没有对于参数的作用进行研究。本 文通过详细设计的实验，对g a b o r 小波的参数在纹理分类中的作用进行了研究， 发现各个参数的重要性，得到的结果对于滤波器的构造具有指导作用。 其次，对支持向量机的原理进行进行了介绍和分析，从理论上说明非线性不 可分问题可以通过一个核函数把输入空间映射到特征空间，这样非线性不可分问 题就转化为另一空间的线性可分问题。为了解决纹理非线性分类问题利用了线性 预测编码和高斯方程的性质提出一个核函数，并对核函数的可分性和局部性进行 了理论上的研究，结果表明核函数的对样本具有很好的可分性和较强的局部插值 能力，同时对核参数选择和惩罚参数进行了详细的研究。本文利用多项式核函数 善予样本全局性质的特点，把提出的核函数与多项式核函数相结合，得到一个最 终的核函数和支持向量机：l g s v m 。 最后，在实验验证阶段，实验中使用金字塔结构算法作为小波分解的标准算 法，采用g a b o r 小波作为基小波来进行纹理特征的提取，在构造g a b o r 小波滤波 器组时，依据得到的g a b o r 小波参数的重要性的不同，对参数的数值进行了仔细 东北大学硕士学位论文第1 章绪论 地挑选，避免了对不重要参数不必要的设置，节省了计算时间，加速了纹理特征 提取过程。纹理特征提取后，采用本文提出的核函数进行纹理特征的分类，并与 常用的贝叶斯分类方法和学习矢量量化神经网络方法进行了比较，结果表明本文 提出方法的分类的准确率总是优于这两种方法，当维数增加时其它方法的分类性 能有时下降而本文提出方法的性能却到了提高。证明了本文提出的方法在进行纹 理分类时受维数的影响很小，并且能有效地利用特征信息。 第1 章绪论 对基于内容的图像检索的研究背景、意义和关键技术进行了概要介绍。重点 分析了纹理特征的提取和分类方法。 第2 章纹理分析方法研究 介绍g a b o r 变换和小波变换方法，给出了g a b o r 小波变换公式和各个参数的 意义。深入研究支持向量机的原理和方法，并对分类情况进行了介绍。 第3 章g a b o r 小波参数对纹理分类的影响 通过实验的方法，研究了g a b o r 小波各个参数取值的不同所提取的特征，对 纹理分类的影响，得到的结论对以滤波器的构造具有指导意义。 第4 章纹理分类支持向量机的构造 根据纹理分类的需要提出一种的核函数，并对核函数的性质进行了研究，参数 选择进行了讨论，并把提出的核函数与多项式核函数结合，得到一个最终的核函 数和支持向量机：l g s v m 。 第5 章实验和分析 首先使用小波标准分解算法：金字塔小波变换( p w t ) 算法，以g a b o r 小波为 基小波，进行纹理特征提取，构造滤波器时以第二章得出的结论对g a b o r 小波的 参数进行。然后，使用第四章提出的l g s v m 对提取的特征进行分类，并与两种 流行的分类方法进行比较，验证了本文提出方法的优越性。 第6 章总结和展望 总结了本文所做的工作和取得的成果，并对今后的研究工作进行了展望。 东北大学硕士学位论文第2 章纹理分析方法研究 第2 章纹理分析方法研究 纹理分析主要包括纹理特征的提取和分类。本章首先介绍了纹理特征的频谱 提取方法g a b o r 变换、小波变换和二者的结合g a b o r 小波变换的原理。然后对纹 理特征分类中采用的支持向量机方法的原理进行了介绍。 2 1g a b o r 变换 f o u r i e r 变换是信号在整个时域内的积分，因此f o u r i e r 频谱只是信号频率的 统计特性，没有局部化分析信号的功能，即f o u r i e r 变换是时域与频域完全分离的， 对于f o u r i e r 谱中的某一频率，无法知道这个频率是在什么时候产生的【3 4 1 。f o u r i e r 变换适合处理长时间内比较稳定的信号，而在实际的信号处理中，尤其是对非平 稳信号( 如语音信号、探地信号等) 的处理中，这些信号的频域特性随时问变化【3 5 1 ， 所以信号在任意时刻附近的频域特征都很重要，这种情况下时频两域便不能完全 分离。这样，f o u r i e r 变换在时域和频域局部化的问题上就显现出了它的局限性。 这就促使人们去寻找一种新的分析方法，能将信号的时域和频域结合来构成信号 的频谱，也就是所谓的时频分析法。 针对f o u r i e r 变换不能局部化分析的缺点，在2 0 世纪4 0 年代法国学者d g a b o r 提