（电路与系统专业论文）图象特征提取及分类识别的算法研究.pdf

摘要 随着计算机的发展，信息化进程的加速，尤其是多媒体技术的日益完善，在 大量军事领域和一些民用领域中，图像识别都有着十分广泛的应用，其领域包括 导弹防御系统、空中地面交通管制系统，身份认证系统，指纹虹膜识别系统等 等。为此，各国尤其是技术发达国家均投入了大量的人力物力用于目标识别系统 的研究，以寻找各种快速而有效的目标识别方法。目前，在这一领域中己经取得 了大量的成果。虽然图像识别的理论研究已经有了很长时间的历史，具备了较为 完善的体系，但是在应用方面，仍然存在着许多难以克服的缺陷和问题，无论在 特征提取方面，目标检测方面还是识别方面，目前国内外仍在进行深入的研究， 不断提出新的概念，新的算法，传统的一些目标识别算法也受到了很大的挑战。 这就要求我们对算法和理论部分不断的提出新的概念，完善老的算法。这也就是 本论文主要研究的内容。 本文的主要工作和成果如下： 1 在图像特征提取的算法方面，详细研究了多通道g a b o r 小波变换，该变换能 较好地描述了生物视觉神经元的感受问题，根据特定的视觉需要可相应地调 整它的空间与频率采样特性，从而获得我们感兴趣的目标特征。对于频域变 换来说，目标物体的几何特征是否能在频域得到较好的描述一直是一个关键 性而又难以较好解决的问题，几何特征是描述目标物体最直观，最有力的特 征向量。另一个特征提取算法中的难点是如何克服目标物体的局部遮挡问题。 针对上述两个问题，在本文中提出并发展了一种基于直脊变换来描述物体边 缘曲线的特征提取算法。综合利用g a b o r 滤波，r a d o n 变换和小波变换等方 法对图像进行子带分解、并对脊片断进行直脊变换，从而完成了该算法在数 字图像上的实现。实验表明，该算法在图象重构及去噪方面都有良好的效果， 能比较充分的表述物体的几何特征和纹理特征。针对局部遮挡问题，基于信 息融合的概念，引入不变矩的概念提取另一组特征向量，综合两组特征向量 进行分类识别，分类结果表明基于不变矩的算法在一定程度上能克服物体的 遮挡问题。速度较慢是该算法需要克服的问题。 2 在分类检测方面，在详细论述了基于统计学习理论上发展起来的支持向量机 摘要 算法的基础上，实现了采用各种核函数的s v m 快速算法在二类问题上的分 类检测，并对前面提取的特征向量进行分类，和传统的神经网络分类的结果 进行了比较，实验结果表明：该算法训练速度远远超过传统的神经网络分类 算法，并且能够克服传统神经网络分类算法中一旦特征向量维数改变，为了 保证迭代结果的收敛需要不断调整网络结构和激活函数的类型等弊病。分类 的准确率也比传统的神经网络高。 3 在匹配算法方面，着重讨论了基于g a b o r 模板匹配的算法，为了克服传统的 匹配算法计算量大，运算速度慢效率不高，并且由于受环境条件的影响，一 旦目标图象存在一定程度的变形或遮挡，很难保证其准确率等缺点，利用弹 性网格匹配，自动模拟物体的弹性变形，实验结果表明该算法能够大大克服 对由于背景和目标变化而引起的识别误差。 本文较为深入的研究了从特征提取，图象分类到识别等一系列的方法和技 术，尤其是在特征提取算法的研究中，提出了一种从概念到理论上都比较新的方 法。在整个图象识别的算法流程中均取得了一定的成果，设计并完成了整个图象 识别算法在数字图像上的实现过程，在结果分析中可以看出该算法具有一定的应 用和推广价值。 i i a b s t r a c t a b s t r a c t w i t ht h e d e v e l o p m e n t o fc o m p u t e r , t h ea c c e l e r a t i o no fo u rs o c i e t yc o m m u n i c a t i o n ， e s p e c i a l l yt h eo fm u l t i m e d i as k i l lp r o g r e s sd a yb yd a y , i m a g ei d e n t i f i c a t i o nh a v eb e e nw i d e l y u s e di nm a n ym i l i t a r ya i _ e a sa n dc i v i l i a na r e a s s u c ha st h es y s t e mo f g u i d e dm i s s i l e t h es y s t e m o f a i ro rg r o u n dt r a f f i cc o n t r o l ，t h es y s t e mo f p e r s o n a lv e r i f i c a t i o n ，t h es y s t e mo f f i n g e r p r i n ta n d i r i s i d e n t i f i c a t i o n ，e t c t h e r e f o r e ，m a n y c o u n t r i e se s p e c i a l l yt h em o d e ms k i l l e dd e v e l o p e d c o u n t d e sh a v ed i v e dm u c hm o n e ya n dt i m ei n t o t h er e s e a r c ho ft h e s y s t e m o fo b j e c t j d e n t i f i c a t i o n i no r d e rt of i n dt h ec e l e r i t ya n de f f e c t i v em e t h o do fo b j e c ti d e n t i f y a tp r e s e n t , t h e r ea r em a n y r e s e a r c hp r o d u c t i o n si nt h i sf i e l d h o w e v e ra l t h o u g h t h er e s e a r c ha tt h e o r yo f i m a g ei d e n t i f yh a s al o n gt i m eh i s t o r y , b e e np r o v i d e dw i t ht h eq u i t ep e r f e c ts y s t e m ，b u ti nt h ea p p l i a n c es i d e ，t h e r e a l s oh a v em a n yl i m i t a t i o na n dp r o b l e m t h a tw ec a n n o tg e to v 自r w h e t h e ra tt h ef e a t u r ee x t r a c t i o n ， o b j e c tc l a s s i f i c a t i o no ro b j e c ti d e n t i f i e s ，i no u rc o u n t r y o ro t h e r sc o u n t i e st h en e wi d e a sa n dn e w m e t h o d sh a v eb e e na d v a n c e du n i n t e r r u p t e d l y e v e ns o m ea d u l tm e t h o da n dt h e o r yh a v eb e e n f a c e dw i t ht h ef o r e g r o u n do f q u i t s ow es h o u l dd e v i s et h en e wt h e o r y t op e r f e c tt h eo l dm e t h o d t h i si sa l s om y p a p e r sm a i n r e s e a r c h i no r d e rt of i n dt h ec e l e r i t ya n de f f e c t i v em e t h o do fo b j e c t 自d e n 畦趣a tp r e s e n t , t h e r ea r em a n y r e s e a r c hp r o d u c t i o n si nt h i sf i e l d h o w e v e ra l t h o u g h t h er e s e a r c h 砒t h e o r yo fi m a g ei d e n t i f yh a s al o n gt i m eh i s t o r y , b e e np r o v i d e dw i t ht h eq u i t ep e r f e c ts y s t e m ，b u ti nt h ea p p l i a n c es i d e ，t h e r e a l s oh a v em a n yl i m i t a t i o na n dp r o b l e m t h a tw ec a n n o t 鲥o v e r w h e t h e r 砒t h ef e a t u r ee x t r a c t i o n , o b j e c tc l a s s i f i c a t i o no ro b j e c ti d e n t i f i e s , i n o u rc o u n t r yo ro t h e r sc o u n t i e st h en e w i d e a sa n dn e w m e t h o d sh a v eb e e na d v a n c e du n i n t e r r u p t e d l y e v e ns o m ea d u l tm e t h o da n dt h e o r yh a v eb e e n f a c e dw i t ht h ef o r e g r o u n do f q u i t s ow es h o u l dd e v i s et h en e wt h e o r y t op e r f e c tt h eo l dm e t h o d t h i si sa l s om y p a p e r sm a i n r a s e a r e h t h em o s ts t u d y i n ga n dr e s e a r c ha sf o l l o w i n gi s s u e s ： i i nt h ef i e l do fi m a g ef e a t u r ee x t r a c t i o n , t r a v e r s et h em u l t ic h a n n e l sg a b o r w a v e l e tt r a n s f o r m ， t h i st r a n s f o r mc a nd e s c r i b et h er e s e c t i o no f b i o l o g yv i s i o n ，w ec a ng e tt h ef e a t u r et h r o u g he d j u s t t h eg a b o rf i l t e r ss p a c ea n df r e q u e n c ys a m p l i n gc h a r a c t e r i s t i c t ot h ef r e q u e n c yt r a n s f o r m ，t h e i a b s t r a c t o b j e c t sg e o m e t r yc h a r a c t e r sw h e t h e rc a l lb ed e s c r i b e db e t t e ri s ak e yp r o b l e m ，b e c a u s et h e g e o m e t r yc h a r a c t e r si st h eb e s ti n t u i t i o n i s tm a dm o s tp o w e r f u lf e a t u r e 。a n o t h e rd i f f i c u l tp r o b l e m i nf e a t u r ee x t r a c t i o nf i e l di sh o wt o g e to v e rt h ep r o b l e mo fl o c a lc o v e r e d i nt h i sp a p e rw e d e v e l o pai l e wm e t h o do ff e a t u r ee x t r a c t i o nb a s e do i lt h er i d g e l e tt r a n s f o r mt od e s c r i b et h e o b j e c t sf r i n g ec u r v i l i n e a r u s et h eg a b o rt r a n s f o r mf i r s li nt h et r a n s f o r mo ff r e q u e n c y t h r o u g ha n a l y s i sb e t w e e nd i f f e r e n tf r e q u e n c ys u b b a n d ，a tt h en i g hf r e q u e n c yb a n d t h a tc a l lr e f l e c tt h e i m a g ed e t a i l sw et a k et h er i d g e l e tt r a n s f o r mt oa b s t r a c tt h e g e o m e t r y c h a r a c t e r o f t a r g e to b j e c t 2 i nt h ec l a s s i f i c a t i o n f i e l d ，d e t a i l e dd i s c u s st h ea l g o r i t h m i co fs u p p o r tv e c t o rm a c h i n e s i m p l e m e mt h eq u i c k l ys v m m e t h o dc l a s s i f i c a t i o n ，a n dc l a s s i f yt h ef e a t u r et h a tb ee ) 【t r a c m di n f r o n t c o m p a r ew i t ht h et r a d i t i o n a ln e r v en e t w o r k ，i th a st h em o r es 砒i s 自哪p e r f o r m a n c ea n d h a sb e t t e rv e r a c b 3 i nt h em a r c h i n ga r i t h m e t i c ，w ef i n a l l ya c h i e v et h em a t c h i n gb e t w e e nt h eo b j e c ta n d t h em o d e la n d g e tt h er e c o g n i t i o nr e s u l tt h r o u g haf l e x i b l em a t c h i n ga p p r o a c hb a s e d o nt h em o d e l g a b o r 鲥d b yd y n a m i c a l l ya d j u s t i n gt h et o p o l o g yo f t h em o d e lg a b o r g r i dt om a k e t h es i m i l a r i t ym e a s u r eb e t w e e nt h eg a b o rw a v e l e t d e c o m p o s i t i o n o f t h e i m a g ea n dt h eg a b o rw a v e l e tf e a t u r e so ft h em o d e lt h eb i g g e s t ，t h ea p p r o a c hc a n h a n d l ea n dr e c o g n i z eo b j e c t sw i n ld i f f e r e n ts c a l e sa n d o b j e c t sw i t l l , s o m ed i s t o r t i o n s s oi ti sr o b u s ta n de r r o r - t o l e r a t e dt oac e r t a i ne x t e n t i nt h i s p a p e rw er e s e a r c haa r r a yo fm e t h o da n dt h e o r e t i c i n i m a g ei d e n t i f i c a t i o n ， e s p e c i a l l y i nt h ef e a t u r ee x t r a c t i o n f i e l d ，w ea d v a n c ean e wm e t h o d a n dw ed e s i g n e dt h e a r i t h m e t i ct oa p p l yi n d i g i t a li m a g e ，e x p e r i m e n t a lr e s u l t ss h o wt h a tt h i sm e t h o dh a sd e f i n i t e v a l u e 刚j舌 本论文重点讨论的是图像处理中图像特征提取以及图像分类识别的一些算 法理论，在广泛参考国内外各种图像处理的新技术，新方法的基础上，希望能够 通过对特征提取，图像分类，匹配等算法的研究，提出一些在理论上有所创新， 在实用上有一定应用价值的新方法，从而完善和丰富现有的图像识别的理论。 对论文的内容我们做了如下的安排： 第一章：简要描述了目标识别领域的发展概况，对图像识别的算法流程进行 了简单的介绍，并且提出了本文图像识别算法流程所采用的方法和理论。 第二章：描述并构造了一组g a b o r d 、波滤波器，将目标的g a b o r d 、波特征( 幅 度、频率和相位特征) 作为目标的识别处理特征； 第三章：为了进一步提取更为有效的特征向量，提出了两种在g a b o r 滤波基 础上的特征提取算法，并对其各自的理论和优越性进行了分析和阐述，重点放在 结合频域特征和几何特征的c u r v e l e t 算法和该算法的核心部分直脊变换上，直脊 变换是为了解决二维或者更高维奇异性分析的种新的工具，对于具有光滑奇异 性曲线的目标函数，曲线波提供了稳定的、高效的和近于最优的表示。因此该算 法对描述目标物体的边缘曲线具有良好的应用价值。 第四章：在前面特征提取的基础上，我们在介绍了一种较传统神经网络更为 优越的分类算法：支持向量机( s v m ) ，并用该算法对图象进行分类检测，和传 统的分类结果进行比较，结果表明该算法便于实现，在扩展性和分辨率上都有较 好的表现，同时也说明了前面的特征提取算法对目标图象的描述较为准确。有良 好的推广价值。 第五章：改进传统模板匹配方法，提出弹性匹配的概念。并在目标图象的 g a b o r d 、波分解与模型g a b o r 网格之间弹性匹配的基础上，根据匹配评估准则，得 到最终的匹配识别结果。 第六章：本文结论并对未来研究提出展望。 第章概述 第一章概述 引言：随着计算机技术的发展和多媒体技术的日益完善，尤其是信息化进程 的加剧，图象处理在越来越多的领域内得到广泛的应用，无论是国防，商务，工 业还是金融等领域，越来越多的图象处理中的理论研究在现实的生产生活中得到 应用。而在图象处理与计算机视觉领域，图象识别是一项困难而又关键的技术。 图象识别在军用方面，如：在目标识别，目标跟踪等领域都是关键性的问题，具 有很高的实用价值。在民用方面，诸如：个人身份认证，犯罪分子的检索识别等 方面都已经被广泛的利用。图象识别技术的涵义很广，主要指通过计算机，采用 数学技术方法，对一个系统前端获取的图象按照特定目的进行相应的处理。图象 识别包括诸如条码识别、生物特征识别( 人脸识别、指纹识别等) 技术、智能交通 中的动态对象识别、手写识别等。可以说，图象识别技术就是人类视觉认知的延 伸。随着计算机技术及人工智能技术的发展，图象识别技术越来越成为人工智能 的基础技术。它涉及的技术领域也越来越广泛，应用越来越深入。其基本分析方 法也随着数学工具的不断进步而不断发展。现在，图象识别技术的应用范围已经 远远突破视觉的范围，而更多的体现为机器智能，数字技术的特点。下面我们从 图象识别整个算法的流程来大体阐述一下它的研究现状和分析。 1 1 图象识别的算法过程 除去前面的图象预处理部分不说，一般来说图象识别过程包括以下三个步 骤，见下图： 物体图象特征向量物体类型 识别结果 图1 1 图象识别算法流程 1 1 1 特征提取，在某种意义上，对于目标识别任务而言，图象特征提取结果 的好坏对识别结果将起至关重要的作用，对于后面检测和识别算法的运算量也有 很大的影响。下面是一些常用的目标识别的特征分类，一般的目标识别方法主要 是根据目标的如下一些特征来进行识别的： 第一章概述 1 ) 形状结构特征：只有当目标图象具有较高的对比度，并且目标在一定距离 范围内时，才可以获得目标的形状结构特征，一般来说目标的形状结构特征 都是基于二值图象来获取的，这些二值图象都是经过图象分割处理之后得到 的物体区域图象，或者是经过边缘提取处理所得到的物体边界。而对于形状 结构特征的表示又有两种方式：一类是数字特征表示，另一类是用字符串和 图等表示的句法语言等5 5 7 2 】； 2 ) 运动特征：通过建立目标运动模型，可以获得目标的运动特征，从而对运 动目标进行检测和识别，但是目标运动模型的建立一般比较困难。对于运动 目标的检测，大致又分为鼯种方法：特征识别法和基于运动的识别法 6 1 , 6 3 。 特征识别法包括两个步骤： a 一是从相继两幅或多幅不同时刻的图象中抽取特征( 如角特征点、特征线 等) ，并且建立对应； b 二是依据这些特征之间的对应来计算物体的结构( 形状、位置等) 和运动。 其优点是可以获取三维运动信息，对目标运动速度无限制，主要难点在于确 定和提取特征。而基于运动的识别法与它有很大不同，它把运动作为目标的 首要特征，一般采用的方法有提取光流场，帧间差分，减背景等1 6 1 , 6 4 ； 3 ) 灰度分布特征：在原始物体图象的基础上，分析物体表面灰度变化的规律， 可以获得物体的纹理特征等灰度分布特征。对于纹理特征的获取与分析，主 要有以下一些方法： a 基于算子的图象纹理特征提取：最有名的通过算子推导出的纹理特征是 l a w s 纹理能量测量。用一个小的( 如：5 5 ) 的算子模板和图象进行卷积， 对卷积后图象每个象素的邻域进行统计量计算( 如：邻域内的方差等) 。将此 统计量作为原始图象中对应象索点的纹理特征值，在此特征值的基础上进行 纹理分割； b 基于统计方法的纹理特征提取：基于灰度空间共发矩阵提取纹理特征的方 法已经有了很长的研究历史，它是一种重要的纹理分析方法。灰度共发矩阵 定义了一系列的特征值如：能量( 角度二阶矩) 、熵、自相关、局部平稳度、 惯性矩、粱类萌、聚类突等。这些特征已经被证明可以成功地用于纹理分割 及纹理分析； 第一章概述 c 基于空频域的特征提取：时频变换是在特征提取中常常用到的工具，自从 小波变换 6 5 , 7 1 1 的概念提出来后，由于其具有多分辨率分析的特点，而且在时 频两域都具有表征信号局部特征的能力，是一种时问窗和频率窗都可以改变 的时频局部分析方法，在图象特征提取方面得到越来越广泛的应用。它的某 些性能优于统计方法。空间频域方法可以表示空间局部区域频域的分布情 况，克服了传统傅立叶( f o u r i e r ) 方法的不足，并且这种方法在频域和空间 域都有较高的分辨率，和人的视觉方式有相似性。 但是。我们知道没有那一种特征能够完全地描述一个物体的特征，并且以上 这些特征大多不能反映目标的本质特征，特别是当目标的姿态发生变化或者周围 环境发生变化时，它们就会随之而改变。这也就给我们特征提取提出了更高的要 求。 良好的特征向量应该具有4 个特点： 可区别性：对于不同类别的对象来说，他们的特征向量应具有明显的差异。 可靠性：对同类的对象特征值应该比较相近。 独立性：所用的各特征之间应彼此不相关。 维数较低：模式识别系统的复杂程度随特征向量的维数迅速增长，尤其重要 的是用来训练分类器和测试结果的样本数量随特征向量的维数呈指数关系增长， 所以特别要求对特征向量维数的控制。 1 1 2 分类算法： 分类器的设计： 分类器的设计包括建立分类器的逻辑结构和分类规则的数学基础。通常对每一个 所遇到的对象，分类器计算出表示该对象与每类典型之间的相似程度，这个值是 该对象特征的一个函数，用来确定该对象属于那一类。 大多数分类器的分类规则都转换成阈值规则，将测量空间划分成互不重叠的区 域，每一个类对应一个( 或多个) 区域。如果特征值落在某一个区域里，就将该 对象归入相应的类别中。在某些情况下，一些区域对应于“无法确定”一类。 分类器的训练： 一旦分类器的基本决策规则确定了以后，需要确定划分类别的阈值。一般的做法 是用一组已知的对象来训练分类器。训练集是由每个类别中已经被正确识别的一 第章概述 部分对象组成的。对这些对象进行特征提取，并将特征向量用决策面划分成不同 的区域，使得对训练样本集的分类准确性最高。 当训练分类器时，你可以采用简单的规则，诸如将分类错误的总量降低至最小值。 如果希望某些错误分类要少于其他的错误分类，可以借助使用损失函数，对不同 的错误分类采用适当的加权。决策规则则变为使分类器操作的整个风险达到最 低。 统计分类方法 下面我们重点介绍一下统计分类的方法： 按照那些统计值为已知数，以及那些需要估计的方法分类器分为参数和非参 数模型两种。如果条件概率分布密度的函数形式已知但其中一些参数( 如：均值， 方差等) 未知，则这种分类器被称为参数型分类器。由于先验概率也是参数，它 也可以是未知的。对于参数型分类器来说，条件p d f 的函数形式是基于人们对 对象本身的某些基本知识而假设的，通常这种假设不仅出于问题本身的考虑，也 出于方便数学计算的目的。如果条件p d f 的一些或全部的函数形式未知，这种 分类器被称为非参数型分类器。这意味着条件p d f 的全部都必须从训练样本集 中估测，这样做所要求的数据远比已知条件p d f 函数形式而只估计若干参数时 大得多。因此，非参数技术只能用在合适的参数模型未知以及可得到大量的训练 样本的情况。使用对象特征向量估计p d f 或他们的参数的过程，称之为训练分 类器。如果已知样本的正确分类，则此训练过程称为监督训练。而如果样本尚未 被分类，则条件p d f 的估计被称为非监督训练。在这种情况下各类别，甚至类 别数都要通过特征空间中点的聚类分析来决定。仅当不便于或者无法获得正确分 类的训练样本集，或类别数量和特征还不能用其他方法决定时，才使用非监督训 练。在这里我们重点讨论两种常用的监督训练的方法：最大似然估计和b a y e s 估 计 6 4 , 7 2 1 。 最大似然估计：为了解释最大似然估计，需作如下假设 ( 1 )参数o 是确定( 非随机) 而未知的量。 ( 2 ) 按类别把样本集分开，假定有c 个类，则可分成c 个样本集z 。，2 2 ，局，以， 其中石中的样本都是从概率密度为p ( x i q ) 的总体中独立抽取出来的。 翌二兰塑堕 ( 3 ) 类条件概率密度p ( _ ：f | 哆) 具有某种确定的函数形式。例如：正态分布，指 数分布等等，但其参数向量只是未知的。为了表示p ( x i q ) 同谚有关，就 把p ( x t q ) 记为p ( x l q ，0 3 。 ( 4 ) 假定乃中的样本不包含关于只( i ，) 的信息，也就是说不同类别的参 数在函数上是独立的，这样就可以分别对每一类进行处理。 在这些假设的前提下，就可以分别处理c 个独立的问题。独立的按照概率密度 p ( x 1 0 ) 抽取样本集z ，用z 去估计出未知的参数目。 己知某一类样本集包含有n 个样本，即z = ( x 。，镌，x 3 ，h ) 由于假设样本是独立抽取的，所以 p ( z i o ) = p ( x 。，z ：，x ni 目) = 1 7 p ( x k1 0 )( 2 1 ) k = l 式( 1 1 ) 是。的函数，把p ( z l 占) 叫做相对于样本集z 的0 的似然函数，( p ) 。似然函 数? ( 口) 给出了从总体中抽出薯，屯，玛，x n 这样n 个样本的概率。最大似然估计量 就是下面方程的解，即d l ? ( o - ) ：0 ，为了便于分析，使用似然函数的对数往往比使 口 用似然函数本身更容易些。 b a y e s 估计： 同最大似然估计相反，b a y e s 估计将未知参数作为随机变量来对待，并且他还假 设未知参数的某些方面是预先知道的。先验p d f 己知，或者可以假设。当口l l 练 样本集被测量之后，使用b a y e s 定理根据采样值对先验p d f 进行修改或调整，这 就得到了未知参数的后验p d f 。我们希望该分布有单的狭窄的尖峰，以该参数 的真是值为中心。 我们将已知函数形式但未知其参数的p d f 表示为p ( xl ) 。它的意义是给定一个 的值时，可知p ( x ) ，如果用x 表示经过对训练集进行特征提取得到的采样值 集，b a y e s 定理给出了对训练集特征提取后t 的后验p d f ： p ( l x ) 2 顸而p ( x 瓦l 。) 而( 2 - 2 ) 第章概述 而我们实际上需要的是p ( x f x ) ，即给出训练集的测量值x 后，p ( x ) 密度的最佳 估计。一种方法是建立卢和z 的联合分布密度并对2 积分，得 p ( , u l x ) = p ( m l x ) 舡= p i n ) p ( 2 1 x ) d n ( 2 - 3 ) 这就是所希望的结果，因为p ( xi ) 是所假设的函数形式而p ( 卢iz ) 是未知参数 的后验概率，它可以由( 2 - 2 ) 式求得。 1 1 3 神经网络 另一种完全不同的图象识别方法来自于人工神经网络技术，近些年来他已经 引起了广泛的关注。人工神经网络的研究最初是受生物神经系统启发的，而现在 则在模式识别，信息的智能化处理，复杂控制等方面得到了广泛的应用，其中出 现了几种同时适用于图象识别问题的监督和非监督口i l 练的神经网络模型。在图象 识别的应用中，神经网络的输入是目标图象的特征向量。这个特征向量将呈现到 第一层所有的处理单元。输入的信息经不同层传播，使得输出层上产生相对应的 输出向量，根据输出的结果将该对象划分到某一类中。神经网络对于鳃决图象识 别问题来说比其他方法有三点经常提到的优势：( 1 ) 它要求对该问题的了解较少； ( 2 ) 它可以实现特征空间较为复杂的划分；( 3 ) 它适用于高速并行处理系统来 实现。以下我们介绍一种在模式识别领域最为适合的神经网络模型b p ( b a e k p r o p a g a t i o nn e t w o r k ) nn 专n i r n 6 7 , 6 8 1 。 b p 神经网络基本原理 b p 网络模型处理信息的基本原理是；输入信号x 通过中间节点( 隐层点) 作用于输出节点，经过非线形变换，产生输出信号t ，网络训练的每个样本包括 输入向量x 和期望输出量t ，网络输出值y 与期望输出值t 之间的偏差，通过调 整输入节点与隐层节点的联接强度取值彬和隐层节点与输出节点之间的联接强 度以以及闽值，使误差沿梯度方向下降，经过反复学习训练，确定与最小误差 相对应的网络参数( 权值和阈值) ，训练即告停止。此时经过训练的神经网络即 能对类似样本的输入信息，自行处理输出误差最小的经过非线形转换的信息。 b p 神经网络模型 b p 网络模型包括其输入输出模型、作用函数模型、误差计算模型和自学习 第一章概述 模型。 如下图所示： 输入层中间层输出层 图1 2b p 神经网络模型 b p 算法不仅有输入层节点、输出层节点，还可有1 个或多个隐含层节点。对于 输入信号，要先向前传播到隐含层节点，经作用函数后，再把隐节点的输出信号 传播到输出节点，最后给出输出结果。节点的作用的激励函数通常选取s 型函数， 如： 厂( x ) 3 i 干；! ：历，式中q 为调整激励函数形式的s i g m o i d 参数。该算法的 学习过程由正向传播和反向传播组成。在正向传播过程中，输入信息从输入层经 隐含层逐层处理，并传向输出层。每一层神经元的状态只影响下一层神经元的状 态。如果输出层得不到期望的输出，则转入反向传播，将误差信号沿原来的连接 通道返回，通过修改各层神经元的权值，使得误差信号最小。 设含有n 个节点的任意网络，各节点之特性为s i g m o i d 型。为简便起见，指定网 络只有一个输出y 任一节点i 的输出为q ，并设有n 个样本( 讳，n ) ( = l ，2 ，3 ，) 对某输入雌，网络输出为儿，节点i 的输出为q ，节点j 的输入为 n p = 0 f 。，并将误差函数定义为e = 寺( y 。一允) 2 ，其中氏为网络实际输 出， 定义& = ( n 一允) 2 = 熹， 且。 2 ，( n ) ， 于是 舞= 鲁箭= 已哦 当j 为输出节点时，o = 允，啄= 一( 儿一允) 厂k n 口k ) ( 2 4 ) 第章概述 若j 不是输出节点，则有 颤= f ( n e t 肛) 鬻= 吼 如果有m 层，而第m 层仅含输出节点，第一层为输入节点，则b p 算法为 第一步，选取初始权值w 。 第二步，重复下述过程直至收敛： 1 1 对于k = l 到n a 计算0 k ，n e t j k 和允的值( 正向过程) ； b 对各层从m 到2 反向计算( 反向过程) ； ( 2 - 5 ) 2 ) 对同一节点j m ，由式( 2 4 ) 和( 2 5 ) 计算占。； 第三步，修正权值，2 一莓畿， o 从上述b p 算法可以看出，b p 模型把一组样本的u o 问题变为一个非线性优化问 题，它使用的是优化中最普通的梯度下降法。如果把神经网络的看成输入到输出 的映射，则这个映射是一个高度非线性映射。 设计一个神经网络专家系统重点在于模型的构成和学习算法的选择。一般 来说，结构是根据所研究领域及要解决的问题确定的。通过对所研究问题的大量 历史资料数据的分析及目前的神经网络理论发展水平，建立合适的模型，并针对 所选的模型采用相应的学习算法，在网络学习过程中，不断地调整网络参数，直 到输出结果满足要求。 1 2 本论文采用的算法 1 2 1 特征提取，如前面对图象识别一般算法流程介绍时所看到的，时频变换是 在特征提取中常常用到的工具，自从小波变换的概念提出来后，由于其具有多分 辨率分析的特点，而且在时频两域都具有表征信号局部特征的能力，是一种时间 窗和频率窗都可以改变的对频局部分析方法，在图象特征提取方面得到越来越广 泛的应用。而其中g a b o r 小波变换【较好地描述了生物视觉神经元的感受问题， 根据特定的视觉需要可相应地调整它的空间与频率采样特性，从而获得我们感兴 趣的目标特征。但是对于频域变换来说，目标物体的几何特征是否能在频域得到 第章概述 较好的描述一直是一个关键性而又难以较好解决的问题，几何特征是描述目标物 体最直观，最有力的特征向量。对图象特征提取算法而言，另一个比较难以解决 的问题就是局部遮挡问题，显然，对于目标图象而言，因为采集手段，来源等等 方面的不同，常常会出现目标物体的变形和局部遮挡，这给以后的分类和识别带 来了很大的困难，所以在特征提取的时候，希望能够考虑到这些问题，尽量保证 提取的特征向量对各种变形和局部遮挡不敏感。综上所述，我们在特征提取方面 采用了如下两种算法： 1 ，o a b o r 小波是这样一组相似的g a b o r 函数，它们相互之间有不同的相移、比 例尺度以及旋转方向：g a b o r 函数在空间一频率域同时进行测量，并且在这 两种域中都是局部的变换，具有明显的方向选择特性和频率选择特性；另外， g a b o r 函数有许多的自由度，允许通过调整空间与频谱特性来满足特定的视 觉需要。由于它可以较好地模拟人类视觉系统某些方面的特点，并且具有一 些非常吸引人的计算特性：如上述在空间域和频率域同时具有最优的局部化 特点等，通过改变g a b o r 小波的形状、带宽、中心频率和方向参数，我们可 以设计一组g a b o r 小波滤波器来采样一幅图象的整个频率域，由k 0 , - - 5 ) 个频率和1 o ，一5 个方向组成3 6 个滤波器，使原图象通过多通道g a b o r 滤 波器组得到一组滤波结果。如果直接采用滤波后的系数作为特征向量，一来 维数过太，对分类算法的计算量影响较大，二来该滤波结果对于方向性敏感， 如果飞机方向发生变化，会影响检测结果。而且识别飞机关键问题是其形状 特性，因此我们计算每个滤波输出图象的4 个不变矩5 ”。为了解决图象中 的平移，旋转，尺度不变性，以及局部遮挡问题，我们对滤波结果计算其四个 不变矩作为反映整体形状特征的特征向量，本身矩的性质决定了它能够较好 的反映图象的几何特征和纹理特征，其次各阶不变矩对旋转，变形，缩放， 局部遮挡等问题都不敏感。能较好的保证分类结果的正确性t 可以看出，不 变矩作为特征提取的算法在对有遮挡图象的分类识别问题方面具有较为广泛 的应用前景。 2 采用g a b o r 变换后子带分割后进行直脊变换的c u r v e l e t 算法【2 9 ，3 5 3 6 1 的思路，提 出了一种新的结合频域纹理特征和物体几何特征的特征提取思想，像小波一 样，c u r v e l c t 变换也是一种多尺度变换，其框架元素以尺度和位置为参数。 第一章概述 但与小波不同的是它还有方向参量。c u r v e l e t 金字塔包含具有高度方向特殊 性的元素，另外，c u r v e l e t 变换是基于各向异性原则的，这区别于小波的各 向同性。这个原则都遵守一个尺度规则，其宽度是长度的平方。这个变换针 对二维连续平面上的目标，该变换被设计用来表达边界和沿着曲线的断点， 而且比传统方法更有效。例如，在给定重建精度时只需要使用较少的系数， 具体地，在方差为1 n 情况下，表达一个边界需要1 n 个小波，但只需要个 1 4 n 个c u r v e l e t s 。该算法可以将直线奇异性的位置和直线的长度有效的定 位，而传统的r a d o n 变换和h o u g h 变换做不到计算直线的长度，同时直脊子 带的划分能够有效的去除噪声干扰，突出奇异性。对于方向性较强的图象， 图象的边缘总是在r a d o n 变换的某些角度才呈现出较大的差别，统计表明： 对于这类图象，只需要r a d o n 的某些方向即可恢复原图象，而其他方向，r a d o n 序列的变化幅度则不是很明显。相较传统的算法而言，该算法对于任意形状 的目标物体的边缘描述具有更好的特性，能够用较少的特征向量重构原图， 在抗噪性等方面也具有很大的优点。 1 2 2 图象检测，我们在前面已经介绍过了几种传统的分类检测方法，诸如基于 贝叶斯先验概率统计的分类算法和神经网络的方法都是在图象检测中常用的方 法，然而它们都有其固有的难以克服的缺点。无论是虽大似然估计还是贝叶斯估 计方法在实际应用中，当样本数比较有限时，我们并不能保证估计出的概率密度 函数能很好的反映真实情况，因此也就不能对在此基础上设计的分类器的性能有 充分的保证。统计决策理论设计最优分类器的前提应该是，或者我们对先验概率 密度和类概率密度函数有充分的先验知识，或者有足够多的样本，可以较好的进 行概率密度估计。如果这些条件不满足，那么采用最优的方法设计出来的分类器 往往并不具备最优的性质，有时甚至比采用简单方法设计的分类器效果更差。因 此在实际应用中往往难以取得令人满意的效果。而神经网络的算法，在神经网络 函数的选择等方面都须要通过大量的实验来设计最优分类神经网络，并且一旦输 入矢量的维数增加，其收敛性和错误率都会发生较大的改变，需要随时根据输入 改变其网络结构和激活函数的类型。这对于训练样本很大的情况下显然是不适用 的。还有在神经网络的算法过程中无法得到所使用的决策过程的透彻理解( 例如： 无法得到特征空间中的决策面) 。这些问题都在一定程度上限制着它们的应用。 第一章概述 支持向量机是在统计学习理论基础上发展起来的一种新颖的模式识别方法，原来 也叫支持向量网络陆7 2 1 。它研究如何构造学习机，实现模式分类问题。支持向 量机在解决小样本学习、非线性和高维学习问题上有很好的表现。s v m 算法基 于其分类问题具有良好的分辨率和扩展性，本文中我们采用s v m 分类算法， k e r n e l 采用径向基，对样本图象的特征向量进行训练后，随机采样目标样本中的 图象通过特征提取通道后带入最优分类函数进行测试。跟神经网络的分类结果进 行比较，证明该算法在检测效