（计算机应用技术专业论文）基于典型相关分析的鉴别特征抽取方法研究.pdf

摘要 摘要 人脸识别技术是计算机模式识别领域非常活跃的研究课题，而特征抽取是人脸 识别中最基本的问题之一，因此能否抽取人脸图像有效的鉴别特征也成为人脸识别 技术的关键问题。典型相关分析方法是一种新的特征融合方法，它将两组特征向量 融合成一组更具有鉴别力的特征向量。本文主要研究了将典型相关分析方法应用到 特征抽取过程中形成了以特征融合为基础的几种组合特征抽取方法，并提出了一种 典型相关分析改进算法。 本文以基于代数特征的方法为着眼点，对基于典型相关分析的特征抽取方法进 行了一定的研究。主要工作和贡献如下： 针对传统的典型相关分析在人脸识别应用中不能充分利用图像中的类别信息 的问题，文本提出了一种融合典型相关分析与最大散度差的特征抽取方法。首先利 用典型相关分析方法实现了特征信息的融合，有效地消除了特征之间的信息冗余。 然后，通过采用最大散度差鉴别分析方法将训练样本中的类别信息加以充分的利 用，从而有效的提高了人脸识别的正确率。该方法不仅有效地融合两组人脸图像特 征向量同时充分利用到其中蕴含的类别信息，这样较大地提高了人脸识别的正确 率。在o r l 标准人脸库和吼e 人脸库上的实验结果验证了该算法的有效性。 传统f i s h e r 准则函数与最大散度差均属于线性鉴别分析方法，具有相同的物理 意义及相似的特征抽取过程，但是由于两者采用了不同的准则函数，其抽取的特征 向量反映了人脸图像中不同侧面的鉴别信息。本文提出了一种增强性的线性鉴别分 析方法。该方法首先通过f i s h e r 准则函数与最大散度差分析方法抽取两组特征向量， 然后采用典型相关分析方法完成特征融合该方法不仅融合了两组线性鉴别信息，而 且消除了两类特征之间的信息冗余，较大地提高了识别率。最后，在o i 也标准人 脸库和y 矾e 人脸库上的实验结果验证了该算法的有效性。 传统的典型相关分析准则函数在界定同组特征集中各元素之间不相关时易出 现保证函数分母中乘积最小却不能符合典型相关分析方法工作目的的问题。为解决 这问题，本文提出了一种改进的典型相关分析方法，对典型相关准则函数分母部 分进行修正，对该方法进行推导得到投影矫正系数，该系数对两组特征集特征方程 进行调整，保证两组特征集同时达到最佳。该方法有效地改善了融合效果、提高了 扬州大学硕士学位论文 人脸识别的正确率。标准人脸库上的实验结果表明该方法的有效性。 关键词：特征抽取，主成分分析，f i s h e r 线性鉴别分析，最大散度差鉴别分析，特 征融合，组合特征抽取，典型相关分析，改进性典型相关分析，准则函数改进，人 脸识别。 a b s t r a c t t h et e 咖l o l o g yo ff i a c er e c 0 鲥t i o ni sa na c t i v es u 巧e c ti nn l ea r c ao fp a t 咖 r e c o g i l i t i o n f e a t u r e 劬【舡a u c t i o n i st l l e e l e m e i l ：谢哆p r o b l e mi l l 也e a r e ao fp a t t e m r e c 0 9 i l i t i o n i ti st l l ek e yt 0s o l v et h ep r o b l 锄ss l i c h 嬲f a c ei d e n t i f i c a t i o n c 锄0 1 1 i c a l c o r r e l a ：t i o na n m y s i si sa 功巴wf e a _ t u r c 如s i o ni n e t h o d ，w h i c h 、析ui n t e g r a t i o no ft h e 铆o f e a ：t u r ev e c t o r si i l ：t 0a e i g e n v e c t o rw i t l li n o r ei d e n t i f 弧n gi i l f o m l a ：t i o n 1 1 1t l l i sp a p e r ，s o m e a j g o r i t l l l n so fc o m b i l l e d 诧a t l l r ee x t r a c t i o ni si i i l j p r 0 v e db y 耐x e dc a l l 0 i l i c a lc o r r e l a ：t i o n 加= l a l y s i si n t 0t 1 1 ep r o c e s so ff e 舭ec x t r a c t i o n ，锄di tp r o p o s e dai n 叩r 0 v e dc 锄o i l i c a l c o n e la _ t i o n t h i sd i s s e r r t a t i o nf o c u s e so nf - a c er e c o g l l i t i o nb a l s e do na l g e b r a i cf c a _ t u r e sw “h c a n o i l i c a lc o n e l a ：t i o n 砌y s i s t h em a i nr c s e a r c hw o r ka 1 1 dc o 嘶b 砸。邶o fi t a r e 硒 f o l l o 姒n g ： 舳t h e 仃a d i t i o n a lc a n o n i c a lc o 玎e l 撕0 na n a l y s i sc a n t 伽l yu s em ec a t e g o 巧 i n f 0 衄矾o no f 也eh a g e sd u 血gm ef a c er e c o g i l i t i o n i n 也i s p a p c r ，an e wi n e 廿1 0 d c o 血b i n e sc 锄o i l i c a lc o 玎e l a t i o na n a l y s i s 趾dm a x i m u ms c a t t e rd i 舵r e n c ed i s c r i r n i n a t c 蛐s i s f o rf e a 哳ee x 扛a c t i o ni sd e v e l o p e d t k sm e a l o dn o to m ye 舵c t i v e l yc o n l b i n e s t l l ee i g e l l v e c t o r e s 行o mt 1 1 ef a c em l a g e sb l i ta l s ot 1 1 ei i l f o m a t i o no fc l a s s e si s 矗n l yu t i l i 乐沮 s o 廿l ec o n e c tm t eo ff 犯er e c o g i l i t i o ni si n c ：r e 嬲e dm u c hm o r e f 洫a l l y ，e x t e i l s i v e e x p 鲥m e n t sa r ep e r f i o m e do nb o t l lo r lf i a c ed a t a b 嬲ea n dy 砒ef a c ed a t a b 嬲ew h i c h v e r i 匆n l ee 日e c t i v e n e s so fm ep r o p o s e dm e t h o d f i s h e rl i n e a rd i s c r i m j 玎a n ta n a l y s i s 锄dm a ) 【i m 啪s c a t t e rd i 舵r e n c ed i s c r i m i n a t e a n a l y s i sb o t hb e l o n gt ol i n e 盯d i s 喇i i l i l l 觚ta n a l y s i s ，a n dt l a ：v e t h es a m ep h y s i c a l m e a i l i i 培a n d 也es i i l m a r i 哆p r o c e s so ff e a _ t u r ee ) 【臼a c t i o n ，b u t 嬲t l l e yu s et h ed i a e r e m d i s c r m i i l a i l tc r i t 耐o n ，m ee i g e n v e c t o r sr e n e c tt l l ed i 饪e r e n ti n f o n n a t i o na b o u tm ea r e a so f f k ei i i l a g e s f i s h e rl i n e 甜d i s c r i m i l l a n ta i l a l y s i sa n dm a ) 【i m u ms c a t t e rd i f | 睹r e n c e d i s c r i 】珂h a t ea i l a l y s i sa r ef i r s ta d o p t e dt oe x 仃tt 、os e t so f f c a m r e si nt h es 锄ep a t t e m s p a c e ，r e s p e c t i v e l y t h ec 觚o i l i c a lc o r r e l a t i o n 觚a l y s i sm e m o di sn l e nu s e dt 0n l s e 廿l e 1 w os e t so ff e a l u r e so b t a i n e da i b o v e 锄dt od e r i v em o i ce a e c t i v ec a n o n i c a ld i s c m 抽a n t f e a n l r e ：s f i n a l l y ，e x t e n s i v ee x p e r i i n e n t sa r ep e r f 0 】m e do nb o mo r lf a c ed a t a b 硒e 髓d i v 扬州大学硕士学位论文 y 越ef 如ed a t a ：b 嬲ea n de x p e r i i n e n t a l = r e s l l l t sv 嘶矽n l ee l j f i e c t i v e n e s so ft l l ep r o p o s e d m e t i l o d 1 kn 们i 6 0 n a lc a n o n i c a lc o n l 撕o n 觚a l y s i s 耐硎o ni nd e f i n i n g 觚c t i o no fm e s a m eg r o u po nt ：h ec o r r e l a d o nb e “e e n 也ee l e m e n t su s en l em u l t i p l i c a t i o no p e r a t i o n ，i ti s ae 嬲yp r o b l e m st l l a ti tc a n tg u a r a n t e et l l et 、) l r og r o u p sc 锄b ei ns m a l l e s tc 0 v a r i a l l c eo f t t l es 锄e 伊o u po fe l e i n e n t sa tt l l es 如6 m e t bs o l v en l i sp r o b l e m ，i tp r o p o s e da 妇p r 0 v e dc 觚o i l i c a lc o r r e l a t i o na l l a l y s i sw h i c hm a k eaa m e i 池n e n ti 1 1t l l ed e n o m i i l a t o ro f 也ec r i t e r i a ，i tw o u l dc k m g e 也em _ u 1 邱l i c a t i o nt 0t l l ea d d i t i o n ，i th 嬲ap r o j e c t i o n c 0 玎e 以o nc o e 伍c i e n tb yd e r i v a t i o i l ，廿1 ep r o j e c t i o nc o 玎e c t i o nc o e m c i e n ta d j u s t e sm e c h 嬲l c l 耐s t i ce q u 枷o i l so ff ea _ n l r es e t s 趾dg u a ra 1 1 _ t e e st l l e 伽og r o u p sc a i lb ei l ls m a l l e s t c o v a r i a l l c eo ft l l es 锄eg r o u po fe l e m e n ：t sa t 也es 锄et i i n e t h en e wm o t l l o de 丘e c t i v e l y 岫p r o v e s 也ei i 崛删i o ne 虢c t 觚d 龇f a c er e c o 酬o nr a t e i i lo r la u l d 嘲ef a c e 出血l b 嬲e s ，廿l ee x p e r i l e n t sv e r i 矽i t se 丘e c t i v e n e s s k e y w o r d s ： f e a t l 】r e e ) ( 仃a c t i o n ，p r i n c i p a lc o m p o n e n ta i l m y s i s ( p c a ) ，f i s h e r l i l l e a r d i s c r i n l i l l a n t l d a ) ，m a x i m 眦s c a t t e rd i 丘宅r e l l c ed i s c n 】：l i 】 1 a n ta n a j y s i s ，f e a t u r e 如s i o n ， c o m b m 记f e a h 鹏e x 仃习嘶o n ，c a i l o i l i c a lc o r r e l a t i o n 删y s i s ( c c a ) ，i n l p r 0 v e dc a n o i l i c a l c o n e l a t i o na i l a l y s i s ，i m p r o v e dd i s c n i l i i l a mc r i 僦o n ，f 她er e c o g i l i t i o n 扬州大学学位论文原创性声明和版权使用授权书 学位论文原创性声明 本人声明：所呈交的学位论文是在导师指导下独立进行研究工作所 取得的研究成果。除文中已经标明引用的内容外，本论文不包含其他个 人或集体已经发表的研究成果。对本文的研究做出贡献的个人和集体， 均已在文中以明确方式标明。本声明的法律结果由本人承担。 学位论文作者签名：彭角倩 签字日期：伽3 年；月多日 学位论文版权使用授权书 本人完全了解学校有关保留、使用学位论文的规定，即：学校有权 保留并向国家有关部门或机构送交学位论文的复印件和电子文档，允许 论文被查阅和借阅。本人授权扬州大学可以将学位论文的全部或部分内 容编入有关数据库进行检索，可以采用影印、缩印或扫描等复制手段保 存、汇编学位论文。同时授权中国科学技术信息研究所将本学位论文收 录到中国学位论文全文数据库，并通过网络向社会公众提供信息服务。 学位论文作者签名：彭鹤确 签字日期：阳b 年月5 日 导师签名：1 移p i 签字日期：阳孑年多月日 1 1 概述 第一章绪论 生物特征识别技术是指通过对人体特征的数字化测量来进行身份鉴别的技术。 指纹、人脸、声音、虹膜、视网膜、签名、掌纹、步态等特征都可被用来尝试进行 身份的鉴定研究。近年来，随着人类社会对安全可靠性需求的增加，快速有效的生 物特征识别技术的研究越来越受到广泛地关注。其中，人脸识别与利用指纹、手掌、 视网膜、虹膜等其他人体生物特征进行个人身份鉴别的方法相比，具有直接、友好、 方便的特点，特别是对于个人来说无任何心理障碍。而且由于其在公安部门、安全 验证系统、信用卡验证、档案管理、人机交互系统等方面的广阔应用前景【l 】，目前 人脸识别已经成为生物特征识别技术的重要课题，是模式识别领域中个非常活跃 的研究方向【l 5 】。 人脸识别技术在商业、司法、监控和视频检索等领域均有着广泛的应用前景。 它首先是司法部门打击犯罪的有力工具，在毒品跟踪、反恐怖活动等监控中有着很 大的应用价值。另外，其商业应用价值也正在日益增长，主要是信用卡或自动取款 机的个人身份核对。人脸识别的具体应用主要有以下几个方面【l 】： 嫌疑犯面部照片( m u g s h o t ) 的匹配 信用卡、驾驶执照、护照与个人身份证的识别 银行、商场安全系统 公共场合监控 专家识别系统 基于目击线索的人脸重构 随年龄增长的人脸估算 表情识别 这些应用包括了从静态的、受控背景的照片到动态的、非控背景的视频图像等 各个方面，每项应用都有着不同的技术难度、处理方法和分析理解方式。基本上可 将它们分为两类：静态匹配( 非视频) 和动态匹配( 视频) 。 嫌疑犯查找是静态匹配中最常见的应用。显然，在嫌疑犯照片的拍摄过程中， 一般来说，可以控制照相背景、光照条件、摄像机的分辨率以及摄像机与被拍照人 2 扬州大学硕士学位论文 之间的距离、角度等，获得多幅正面人脸图像或多幅侧面人脸图像。在这些条件约 束下来获取图像，可简化人脸分割和识别算法。 公共场所监控是典型的动态匹配应用。通过摄像机得到的视频图象质量一般较 差，而且背景比较杂乱，分割人脸就相当困难，但可以利用运动图象分析来分割运 动者的人脸，也可以利用现有的人脸模型，部分重建人脸图像，这在某种程度上会 比静态匹配更容易解决。这方面应用的难点是需要实时处理。 随年龄增长的人脸估算以及人脸表情的识别则不只是图像处理和模式识别领 域的问题，它还涉及到生物技术的范畴，目前还没有成熟的理论来描述此类问题， 还存在很多的难点有待解决。 总之；虽然人类从复杂背景中识别出人脸及表情相当容易，但对人脸图像的自 动机器识别却是一个难度极大的课题。它跨越了模式识别，图像处理、计算机视觉 以及神经生理学、心理学等诸多研究领域。 人脸识别研究一般可分为三个部分【l 】：从具有复杂背景的景物中进行人脸检测 以找到人脸、分割人脸，抽取人脸鉴别特征，然后进行匹配和识别。其中人脸特征 的抽取是人脸识别中最为基本的部分之一，也是本文内容讨论的重点问题。 人脸特征抽取( f a c ef e a n 鹏e x 衄n o n ) 人脸特征抽取( f 犹ef e a ：t l 】r ee x 衄撕o n ) 【1 3 。5 】：即采用某种表示方法表示检测出的人脸与数据库中的己知人脸的有效特征， 为后面的特征匹配与识别做准备。通常的表示方法包括几何特征( 如欧氏距离、曲 率、角度) 、代数特征( 如矩阵特征向量) 、固定特征模板、特征脸等。可见，在分 割出人脸图像后，能否采用有效的方法去除人脸图像的干扰信息，抽取包含有效鉴 别信息的特征，会直接影响最终的识别效果。 人脸的特征一般可分为两类：一是人脸的直观特征( 即几何特征) ，二是人脸 的代数特征。 几何特征1 1 3 伽 众所周知，人脸是由眼睛、鼻子、嘴巴、下巴等部件构成，对这些部件的形 状和结构关系的几何描述，可以作为人脸识别的重要特征。k a i l a d e 【1 3 】用眼角、嘴角、 鼻孔、下巴这些点之间的距离以及所成的角度等几何量作为人脸的特征【2 】，b u l l r 【1 4 】 用图表示法和描述树法给出了人脸的3 3 个主要特征与1 2 个次要特征，主要特征包 括了2 4 个基于眼睛、人脸中心、嘴的测量。y u i l l e 【1 5 j 提出了包括头发、鼻子、嘴并 用弹簧连接边缘的全局人脸模板以抽取眼睛和嘴的特征。c r a w l l 6 】提出了更复杂的人 脸模板，l e e 【1 7 】等抽取人脸的5 个距离量度作为人脸识别特征。 彭倩倩基于典型相关分析的鉴别特征抽取方法研究3 人脸的几何特征比较稳定，受人脸的姿态变化与光照条件等因素的影响小，但 其弱点是目前的几何特征抽取方法均很大程度上依赖于对人脸图像的预处理，而且 测量精度不高，不易抽取。同时几何特征只描述了部件的基本形状和几何关系，却 忽略局部的细微特征，造成部分信息的丢失，因此更适合作粗分类。 代数特征团 7 5 】 所谓代数特征就是将一幅人脸图像看成一个矩阵，通过对图像矩阵做矩阵变换 或线性投影，抽取有效的鉴别特征【2 3 ，2 4 】。由于抽取的代数特征具有良好的全局性和 稳定性以及其容易抽取的特点，所以目前在人脸识别的研究中，基于人脸图像代数 特征的抽取方法仍然是最具有影响力的主流方法之一。其中，基于主分量分析方法 【2 5 7 1 ( 即鼬r h l 】i l e n - l 0 e v e 展开) 的特征脸被广泛用来表示人脸、识别人脸。基于 线性鉴别分析( l d a ) 【3 “1 】的f i s h e r 脸也被很有效地用于人脸识别。另外值得一提 的是，近几年核( k e m e l ) 方法的成功应用，例如：核主分量分析方法( k p c a ) 、 核鉴别分析方法( k f d a ) 被有效地用来抽取人脸图像的非线性代数特征。 除此之外，最近又出现了基于弹性模型的方法、神经网络方法、隐马尔科夫模 型等特征抽取的新方法。 1 2 线性投影分析方法简述 如上所述，特征抽取是人脸识别中最基本的问题之一。在作为主流方法之一的 代数特征抽取中，主分量分析( p c a ，或称k l 变换) 瞄一7 】和f i s h e r 线性鉴别分析 ( l d a ) p 蛐1 1 是特征抽取的两种最为经典和广泛使用的方法。主分量分析的主要思想 是：采用训练样本协方差矩阵的特征向量系作为展开基( 即k l 坐标轴) ，那些对 应若干个最大特征值的特征向量被称为主分量或主成分( p r i n c i p a lc o i n p o n e n t s ) 。模 式样本在这些主分量上线性投影后，所得的投影系数即为主分量特征。从而，原模 式样本可表示为这些主分量与投影系数乘积的代数和。已被证明，这种表示在最小 协方差意义下是最优的【2 4 乃】。 主分量分析的两大优点是：一、消除了模式样本各特征分量之间的相关性；二、 实现了模式样本的维数压缩。k l 变换能将高维的模式样本压缩为更易于处理的低 维样本，换而言之，主分量分析给出了高维数据的一种简约的表示。由于以上优点， 主分量分析被广泛地应用于模式识别，数据压缩等领域。 尽管主分量分析在最小协方差意义下给出了模式样本的最优表示，但由于其物 4扬州大学硕士学位论文 理意义是：使所有的训练样本在空间中总体散度( 总体分散程度) 最大j 所以并没 有利用训练样本的类别信息。因此，这一表示与模式分类并非直接相关的。也就是 说，就模式分类而言，主分量分析所获得的特征并非是最有效的。那么，如何获得 对于分类而言最有效的特征呢? 线性鉴别分析的提出较好地回答了这一问题。 线性鉴别分析【3 1 】的主要思想是直接基于一个与分类相关的准则，即f i s h e r 准 则，确定一组最优鉴别矢量( 投影轴) 。其物理意义是：模式样本在这些最优投影 轴上投影后，类间散布程度与类内散布程度之比达到最大，达到同一类的模式样本 相互集中；不同类的样本相互分离，从而更加有利于分类的效果。因此，如果说主 分量分析获得的是模式样本的最佳表示特征集，那么线性鉴别分析获得的是样本的 最佳鉴别特征集，该特征集更利于模式的分类。 由于主分量分析和f i s h e r 线性鉴别分析都是基于样本向量的线性投影( 变换) 的特征抽取方法，在本文中，我们将这两种方法统称为基于向量的线性投影分析。 最近，杨建、杨静宇等7 】又进一步发展了传统的线性投影分析方法，提出了直接 基于矩阵的图像主分量分析( i m p c a ) 和直接基于图像矩阵的二维线性鉴别分析方 法( 2 d l d a ) 。由于其基本思想都是在不同的准则函数下直接对原始图像矩阵进行 投影分析，所以本文统称为二维图像投影理论。 1 2 1 主分量分析方法概述 有关主分量分析口血c i p a lc o i n p o n t 加l a l y s i s ，简称p c a ) 的理论与方法，k f u k i m a g a 早在1 9 7 2 年出版的专著“i n 们d u c t i o nt 0s 枷s t i 嘲r e c o 础i o n 中就做了 系统的阐述。f u l ( i m a g a 【2 6 】和y 0 蛆g 【2 7 】等人都曾对该方法做过较深入的研究，并讨 论了p c a 作为线性特征抽取方法的稳定性问题。 尽管关于p c a 的研究可谓源远流长，但将其用于解决人脸识别问题却是最近 十年的事。直到二十世纪九十年代初，量洫b y 和s i r o v i c h 【2 9 1 等人才讨论了利用p c a 进行人脸图像的最优表示问题。接着，t u r k 和p e n t l 锄d 【3 l 3 2 1 探讨了这种表示的物理 意义。他们惊奇的发现，k l 展开后的特征向量在还原成图像矩阵时，竟然是一张 张标准化的人脸! 采用k - l 展开表示人脸的本质被揭示了出来，即用一系列标准的 人脸图像( 由特征向量构成，故被形象地称为特征脸，即e i g e i 渤c e ) 通过加权叠加 来表示人脸。用这些表示系数作为人脸的特征进行分类识别。这就是著名的特征脸 i g e n f a c e s ) 方法。识别时将测试图像投影到主元子空间上，得到一组投影系数，和 彭倩倩基于典型相关分析的鉴别特征抽取方法研究 气 各个已知人的人脸图像进行比较进行识别。p e n t l a n d 等人的报告中显示出相当好的 结果，在2 0 0 个人的3 0 0 0 幅图像中得到9 5 的正确识别率，在f e i 冱t 数据库上对 1 5 0 幅正面人脸像只有一个误识别。但系统在进行特征脸方法之前需要作大量预处 理工作如归一化等。在传统特征脸的基础上，研究人员注意到特征值大的特征向量 ( 即特征脸) 并不一定是分类性能好的方向，据此发展了多种特征( 子空间) 选择方法， 如p e n g 的双子空间方法，w 醯g 的线性歧义分析方法，b e l h 哪e u r 的f i s h e r f a c e 方法 等。事实上，特征脸方法是一种显示主元分析人脸建模，一些线性自联想，线性压 缩型b p 网络则为隐式的主元分析方法，它们都是把人脸表示为一些向量的加权和， 这些向量是训练集叉积阵的主特征向量，v 砒e n t i n 对此作了详细讨论。 总之，特征脸方法是一种简单，快速，实用的基于变换系数特征的算法，但由 于它本质上依赖于训练集和测试集图像的灰度相关性，而且要求测试图像与训练集 比较像，所以它有着很大的局限性。 1 2 2 f i s h e r 线性鉴别分析的研究与改进 关于线性鉴别分析的研究应追溯到f i s h e r 在1 9 3 6 发表的经典论文【3 8 】，其基本 思想是选择使得f i s h e r 准则函数达到极值的向量作为最佳投影方向，从而使得样本 在该方向上投影后，达到最大的类间离散度和最小的类内离散度。在f i s h e r 思想的 基础上，w i l l ( s p 川和d u d a 【4 0 】分别提出了鉴别矢量集的概念，即寻找一组鉴别矢量 构成子空间，以原始样本在该子空间内的投影矢量作为鉴别特征用于识别。该方法 被称为经典的f i s h e r 线性鉴别分析方法。目前该方法仍然广泛应用于人脸识别等领 域。除了经典的f i s h e r 线性鉴别分析方法外，在1 9 7 0 年，s a m 脚o n 提出了基于f i s h e r 鉴别准则的最佳鉴别平面【4 1 】的概念，随后，f o l e ya n ds a m m o n 【4 2 1 进一步提出了采 用一组满足正交条件的最佳鉴别矢量集进行特征抽取的方法。该方法被命名f o l e y 觚ds 锄m o n 鉴别分析。在文献【4 2 j 中，f o l e y 给出了求解两类问题的最佳鉴别矢量集 的具体算法。d u c h e 加a n dl e c l e r c q 【4 3 】给出了多类情况下最佳鉴别矢量集的计算公 式。随后，z j i n 觚dj yy 锄gh 5 删等从统计不相关的角度，提出了具有统计不相 关性的最优鉴别矢量集的概念。与f o l e y s a m m o n 鉴别矢量集不同的是，具有统计 不相关性的最优鉴别矢量集是满足共轭正交条件的。j i i la n dy 觚g 的方法被称为不 相关的鉴别分析或j i n g 线性鉴别法。j ma n dy 趾g 在文献【4 ”6 】中给出了求解最 佳鉴别矢量集的精确算法，但该算法的弱点是过程较为复杂，所耗费的计算量较大。 6扬州大学硕士学位论文 之后，杨建、杨静宇等【6 3 】又在此基础上发展了统计不相关的线性鉴别分析方法，给 出了更为简明和全面的算法。 近年来，人们在f i s h e r 线性鉴别分析的基础上，做了不断的完善和扩展【3 8 俐j ， 现在已经形成了一整套较为成熟的算法。但是以上提到的在f i s h e r 鉴别准则下的各 种线性鉴别分析方法仅适用于类内散布矩阵非奇异( 可逆) 的情形，但实际中却存 在着大量的典型的小样本问题，比如在人脸等图像识别问题中，类内散布矩阵经常 是奇异的。这是因为待识别的图像矢量的维数一般较高，而在实际问题中难以找到 或根本不可能找到足够多的训练样本来保证类内散布矩阵的可逆性。因此，在小样 本情况下，如何抽取f i 妇最优鉴别特征成为一个公认的难题【5 2 5 9 】。近几年来关于 小样本情况下线性鉴别分析方法的研究激起了人们的广泛兴趣，不少解决该类问题 的方法相继提出。概括起来，这些方法可分为以下两类： 一、基于变换的m 锄s f 0 珊b a s e d ) 方法。即在采用线性鉴别分析之前，通过事先 给定的线性变换来达到降低图像向量的维数从而消除类内散布矩阵奇异性的目的。 基于变换的典型方法有：b e l h l l i i l e u r 等提出的f i s l 妇e s 方法1 5 2 1 ，d l s 、v e t s 等人提 出的最具有鉴别能力的特征抽取方法( m o s td i s c 血n i m t o d ，f e a n 盯e s ) 0 5 3 j 和c j l i u 等 提出的增强f i s h e r 线性鉴别模型法( e i l l l a i l c e df i s h e rl i n e a rd i s c r i m i n a n tm o d e l s ， e f m ) f 5 4 1 。这三种方法的共同点是，均采用主分量分析( p c a ) 来事先降低图像向量的 维数，在p c a 变换后的特征空间内，再采用f i s h e r 线性鉴别分析做二次特征抽取。 最近，j 证【4 5 ，4 9 】采用另外一种k l 变换方法( 以训练样本的类间散布矩阵作为k - l 变换的产生矩阵) 作首次特征抽取，然后再使用统计不相关的鉴别分析进一步抽取 鉴别特征。 二、基于算法的( a l g o 蒯 l n lb a s e d ) 方法。即从算法本身入手，通过发展直接针对 于小样本问题的算法来解决问题。h o n g 【5 8 】，l i u 【5 9 1 ，g u o 【6 0 1 ，c h e n 【5 5 】等人分别在这方 面进行了探索，他们所建立的算法理论为无疑为这一问题的彻底解决奠定了基础。 h o n g 等提出的扰动法【5 3 】的基本思想是，当类内散布矩阵奇异时，通过对之进行一 个小的扰动，使得扰动后的矩阵变为非奇异的，以扰动后的矩阵代替原来的类内散 布矩阵进行鉴别矢量的求解，从而将问题转化为可逆的情形加以解决。明显地，h o n g 的方法是一个近似算法。与之不同的是，k l i u 给出了一个精确算法，称为正交补 空问法1 5 9 】。该方法首先证明了，小样本情况下的最优鉴别矢量必存在于原始样本空 间的一个子空间的正交补空间内，进而通过空间变换，基于变换后的f i s h e r 准则求 解最优鉴别矢量。g u 0 【6 0 】从鉴别准则函数的角度发展了k l i u 的方法，提出了一个 彭倩倩基于典型相关分析的鉴别特征抽取方法研究 7 广义的f i s h e r 鉴别准则函数，并给出了求解基于该准则函数的最优鉴别矢量集的算 法。事实上，c h e n 的零空间法只是郭跃飞【6 1 】方法的一个特例，即在类内散布矩阵 的零空间内寻找极大化类间散布量的一组标准正交的特征向量并将其作为投影轴。 该方法抛弃了零空间之外的鉴别信息。最近，c 锄e 西em e l l o nu n i v e 璐i 锣的h y u 姐d j y a n g 【5 7 】提出了一种直接的线性鉴别分析方法( d h 优tu ) a ) 。该方法在本质上与文 献【6 3 1 的方法等价。 虽然，几乎在t u 出和p e n u 殂d 提出采用p c a 方法进行人脸识别的同时，j yy a n g 领导的研究小组便开展了采用线性鉴别分析( l d a ) 方法进行人脸识别的理论与应用 研究，经过多年的探索也取得了一系列研究成果。但是，小样本问题一直是制约 f i s h e r 线性鉴别分析在人脸识别中应用的难题。这也决定了对此的研究具有较高的 理论意义。 1 3 二维图像投影理论的发展 前面所叙述的线性投影分析方法在处理人脸等图像识别问题时，遵循着一个共 同的过程，即先将图像矩阵转化为图像向量，然后以该向量作为原始特征进行线性 鉴别分析。由于图像矢量的维数较高，使特征抽取变得相当困难。这样，在进行线 性鉴别分析时不仅会耗费大量的时间，且高维的特征向量不可避免地出现类内散布 矩阵奇异性问题。 针对这一情况，l i l l 【6 2 】提出了一种代数特征抽取的新思路。其基本思想是利用 图像矩阵直接构造图像散布矩阵，并在此基础上进行鉴别分析。杨建等【6 5 】从统计 不相关的角度重新审视并改进了l i u 的方法，从而提出了一种具有统计不相关性的 图像投影鉴别分析方法。该方法秉承l i u 方法的优点，直接基于图像矩阵，与以往 的线性鉴别方法相比，极大地提高了特征抽取的速度。同时，该方法引入共轭正交 条件代替l i u 方法中采用的正交条件，从而消除了鉴别特征向量之间的相关性。 近几年，鉴于二维图像投影理论的快速有效性，已经成为线性鉴别分析的一个 研究热点，2 d - p c a 、2 d l d a 、g i ra m 等1 6 3 棚】对其研究的各种理论和方法相继提 出，这也为线性投影分析提供了一种新思路。 1 4 人脸识别中非线性特征抽取的研究与发展 虽然线性投影分析能够有效地抽取模式样本的线性特征，然而，现实中许多问 题是非线性可分的。例如在人脸识别问题中，由于光照、姿态、表情等不同而引起 人脸图像的差异造成人脸图像的分布非线性且较复杂。所以传统线性投影分析方法 在处理类似人脸等图像识别任务时并不能取得令人满意的结果。那么如何有效地抽 取这些复杂的非线性特征呢? 核方法【珏7 5 j 有效地解决了这一问题。 如一个问题在其定义的空间中不是线性可分的，这时可以考虑通过重新构造新 的特征向量，把原问题转换到一个新的空间中，这个空间一般比原空间维数更高， 但却可以用线性鉴别函数代替原空间中的非线性鉴别函数。实际上，对于任意高次 非线性鉴别函数，都可以通过适当的变换( 映射) 转化为另一空间中的线性鉴别函 数处理。虽然这种变换理论上可以用简单的线性鉴别函数来解决十分复杂的问题， 但由于变换空间的维数往往很高，容易陷入所谓的“维数灾难而使问题变得在现 实中不可实现。 随着s 订中的核方法( k e n l c lt r i c k ) 1 6 h 5 j 的成功应用，为解决“维数灾难” 问题扫清了障碍。其基本思想就是：首先将原始输入空间中的训练样本通过非线性 映射矽映射到某一高维( 甚至是无穷维) 特征空间日中，然后在该空间中采用线性 投影分析，获得一组最优鉴别矢量，用于特征抽取。为了避免显式地计算，定义 一个核函数( 内积运算) 七，使对于任意两个样本模式z ，z ，有七( 五z ) = ( 矽( x ) ，矽( z ) ) 。 可以看到，这一方面不必知道具体采用的非线性变换形式，只要知道核函数尼即可， 另一方面新空间中的线性问题的计算复杂度并没有增加，而且与它的维数无关。该 方法用“核技巧”巧妙地避免了“维数灾难问题，抽取到有效的非线性鉴别特征。 近来，基于核的非线性特征抽取技术【6 8 7 5 】受到了广泛关注，它提供了一种有效 抽取样本的非线性特征的方法，正成为当前模式识别领域中一个迅猛发展的新方 向。 它最初是由v k 【7 5 】提出并应用于支持向量机( s v m ) 中。其中，最著名的 两种基于核的非线性特征抽取技术分别是核主分量分析( k p c a ) 和核f i s h e r 鉴别 分析( k f d a ) 。k p c a 首先由s c h o l l 【o p f 等人【6 9 ，7 0 】提出并应用于特征抽取中。之后， m i k a 等人1 7 1 1 、b a u d a t 和a n o u a r 【7 4 】以及r o 廿l 和s t e i i l l l a g e 【7 3 】利用核方法将f i s h e r 线 性鉴别分析进一步拓广到非线性情形，提出了核f i s h e r 鉴别分析( k f d a ) 方法。 m i l ( a 等人的工作主要解决两类模式的分类问题，而b a u d a t 他们的算法可应用于多 彭倩倩基于典型相关分析的鉴别特征抽取方法研究 。 类模式分类问题。实验结果表明，与主分量分析和f i s h e r 线性鉴别分析相比，c a 和，d a 不仅能够抽取非线性特征，而且具有更优的识别性能。之后，陈才扣等进 一步将统计不相关理论融入其中，提出了一系列具有统计不相关性的核非线性特征 抽取方法。 1 5特征融合技术的发展及其应用现状 1 5 1 特征融合技术的基本思想 信息融合技术是近年来发展起来的一种新的分析理论，它依据准则，将由多个 信息源所获得的信息进行集成和优化组合，以获取被观测对象的更有效鉴别信息 【7 6 】 o 面向图像匹配的信息融合分三个层次：数据级，特征级和决策级融合。数据级融 合是较底层次的，基本上是在原始数据基础上进行，数据处理量大，稳定性差。特 征级融合根据需要对每个信号的特征向量融合，并由获得的联合特征向量产生目标 身份的初步估计。决策级融合是对每个传感器信号都经过变换并获得独立的身份估 计，然后对来自每个传感器信号的属性分类融合【7 7 1 。其中以多分类器组合为代表的 决策级融合技术已经成为当前模式识别领域研究的热点，并在手写体和人脸识别方 面取得了较为成功的应用【7 删，有关特征级融合方面的研究虽然起步较晚，但已初 见端倪【8 1 8 3 1 。特征级融合在信息融合过程中占有十分重要的地位。由多个特征经融 合产生的新特征保留了参与融合的单个特征对各个类别的有效鉴别信息，一定程度 上消除了多个特征之间的信息冗余，实现了可观的信息压缩，有利于信息的实时处 理嗍j 。因此，特征级融合的优势是明显的。事实上，对同一模式所抽取的不同特征 矢量总是反映模式的不同特性，对他们的优化组合，既保留了参与融合的多特征的 有效鉴别信息，又在一定程度上消除了由于主客观因素带来的冗余信息，对分类识 别具有重要的意义。 1 5 2 基于典型相关的特征融合方法及其应用 以往的特征融合方法，一种是将两组特征首尾相连生成一个新的特征矢量【7 6 1 ， 在更高维的特征空间中进行特征抽取；另一种是利用复向量将同一样本的两组特征 10扬州大学硕士学位论文 矢量合并在一起【卿，在复向量空间中进行特征抽取。前一种方法称为串行融合方法， 后一种方法称为并行特征融合方法l s l l 。 与以往的特征融合方法不同，典型相关分析( c 黜i l i c a lc o 仃e l 撕0 n a n a l y s i s ，c c a ) 保证两个随机向量之间具有最大的相关性而同一个向量中的各个元 素之间是不相关的，将两个随机向量有机地融合成一个新的特征向量，同时消除特 征向量中的信息冗余。典型相关分析最初是于1 9 3 6 年由霍特林( h 0 t e l l i n g ) 首先提 出的，是处理两个随机矢量之间相互依赖关系的统计方法，与主分量分析、判别分 析一样，在多元统计分析中占有非常重要的地位，是一种很有价值的多元数据处理 方法【8 2 】。由于典型相关分析可以有效地反映两组统计数据之间的关系，有着重要的 应用背景。比如在宏观经济分析中，近些年来，该方法已逐渐被应用于信号处理、 计算机视觉、语音识别及人脸识别等领域，并取得了一定进展，成为一种新的特征 融合技术。 1 本文主要研究工作概述 本文在已有研究方法的基础上，对基于典型相关分析的人脸识别方法进行进一 步的研究与探索，所做的工作概述如下： ( 1 ) 为有效利用人脸图像蕴含的类别信息，得到更为全面反映训练样本原始 风貌的融合特征集，本文提出了一种融合典型相关分析与最大散度差鉴别分析的特 征抽取新方法。该方法首先使用两种不同的特征抽取方法从同一幅人脸图像中提取 两组特征集，然后利用典型相关分析方法对两组特征集进行典型相关投影处理实现 特征信息的融合同时有效地消除了特征之间的信息冗余，最后通过最大散度差鉴别 分析方法将训练样本中的类别信息加以充分利用。典型相关分析抽