（通信与信息系统专业论文）基于子空间方法的人脸识别技术研究.pdf

ad is s e r t a t i o nf o rt h ed e g r e eo fm e n g t h e s t u d y o nfa c er e c o g n i t i o n c h n o l o g y ba s e do ns u b s p a c em e t h o d s c a n d i d a t e ：z u og u o h u i s u p e r v is o r ：p r o f z h a n gc h a o z h u a c a d e m i cd e g r e ea p p li e df o r ：m a s t e ro fe n g i n e e r i n g s p e c i a l i t y ：c o m m u n i c a t i o na n di n f o r m a t i o ns y s t e m s d a t eo fs u b m i s s i o n ：d e c e m b e r ，2 0 0 9 d a t eo fo r a le x a m i n a t i o n ：m a r c h ，2 0 1 0 u n i v e r s i t y ：h a r b i ne n g i n e e r i n gu n i v e r s i t y 儿 | ， 哈尔滨工程大学 学位论文原创性声明 本人郑重声明：本论文的所有工作，是在导师的指导下，由 作者本人独立完成的。有关观点、方法、数据和文献的引用已在 文中指出，并与参考文献相对应。除文中己注明引用的内容外， 本论文不包含任何其他个人或集体已经公开发表的作品成果。对 本文的研究做出重要贡献的个人和集体，均已在文中以明确方式 标明。本人完全意识到本声明的法律结果由本人承担。 作者( 签字) ：左国f 军 日期： j o l o 年3 月，厂日 哈尔滨工程大学 学位论文授权使用声明 本人完全了解学校保护知识产权的有关规定，即研究生在校 攻读学位期间论文工作的知识产权属于哈尔滨工程大学。哈尔滨 工程大学有权保留并向国家有关部门或机构送交论文的复印件。 本人允许哈尔滨工程大学将论文的部分或全部内容编入有关数据 库进行检索，可采用影印、缩印或扫描等复制手段保存和汇编本 学位论文，可以公布论文的全部内容。同时本人保证毕业后结合 学位论文研究课题再撰写的论文一律注明作者第一署名单位为哈 尔滨工程大学。涉密学位论文待解密后适用本声明。 本论文( 口在授予学位后即可口在授予学位1 2 个月后 口 解密后) 由哈尔滨工程大学送交有关部门进行保存、汇编等。 作者( 签字) ：左l 习辉 日期：加，矿年3 月步日 导师( 签字) ：矽劬成名乞 如刀年3 月矽日 哈尔滨t 程大学硕+ 学何论文 摘要 儿 人脸识别是生物特征识别技术的一种，由于人脸识别技术在安全和人机 l i d 一 交互等领域有着非常广泛的应用，因此它成为了近几十年来模式识别领域最 热门的研究课题之一。在众多人脸识别方法中子空间方法由于其计算复杂度 小，描述能力强及分离效果好的特点成为目前人脸识别的主流研究方向。本 文将基于子空间方法的人脸识别作为研究的重点，主要做了以下几方面的工 作： 1 详细介绍了几种经典的子空间方法p c a 、l d a 、i c a 的基本原理及 其在人脸识别中的应用，通过仿真对这几种算法的识别性能进行了比较。 2 针对2 d p c a 算法中求得的不同投影向量对于识别的影响不同，本文 提出了一种加权的2 d p c a 算法，利用单投影向量的识别率对2 d p c a 的投影 向量集进行加权，在o r l 人脸库的仿真验证新的投影向量集具有更好的识别 效果。 3 d c t 变换是目前国际主流的图像压缩算法如j p e g 、m p e g 等普遍采 用的一种压缩变换。本文将d c t 变换与2 d p c a 算法相结合，提出了一种 d c t + 2 d p c a 的特征抽取方法，从而大大降低了用于识别的特征维数和识别 的时间。另外本文研究了2 d p c a 算法在经过分块d c t 变换处理后的人脸图 像中的应用，验证了算法的可行性。 4 针对二维子空间方法不能提取非线性信息的不足，本文提出了一种基 于核方法二维线性判决分析的人脸识别方法。利用核主成分分析对二维线性 判决分析方法进行改进，通过仿真实验证明了算法的有效性。 j 关键词：人脸识别；子空间方法；2 d p c a ；d c t ；2 d l d a ；核方法 九 ， “ 哈尔滨工程大学硕士学位论文 a bs t r a c t f a c er e c o g n i t i o ni so n eo ft h ep e r s o n a li n d e n t i f i c a t i o nm e t h o d sb a s e do n b i o m e t r i c b e c a u s eo ft h e w i d e l y u s ei n s e c u r i t y a n d h u m a n c o m p u t e r i n t e r a c t i o n ，f a c er e c o g n i t i o nh a sb e e nah o n e s tr e s e a r c ha r e ai n p a t t e r n r e c o g n i t i o nd o m a i ni nt h el a s td e c a d e s a m o n ga l lt h ef a c er e c o g n i t i o nm e t h o d s s u b s p a c ea n a l y s i sh a sb e c o m et h ep o p u l a rr e s e a r c hd i r e c t i o nb e c a u s eo fi t sl o w c o m p u t ec o m p l e x i t y , g o o dd e s c r i p t i o na n ds e p a r a t i o na b i l i t y t h i sp a p e r m a i n l y s t u d yo ns u b s p a c ea n a l y s i s ，舔f o l l o w s ： ( 1 ) t h r e ec l a s s i cs u b s p a c em a t h o d sp c a ，l d a ，i c aa n dt h e i ru s ei nf a c e r e c o g n i t i o n t h e i rr e c o g n i t i o na b i l i t yi sc o m p a r e db ys i m u l a t i o n ( 2 ) d i f f e r e n tp r o j e c t i o nv e c t o r sh a sad i f f e r e n ti n f l u e n c e aw e i g h t e d 2 d p c am e t h o di nw h i c hs i n g l ep r o je c t i o nv e c t o rr e c o g n i t i o nr a t ei su s e dt o w e i g h t i n gt h ep r o j e c t i o nv e c t o r si sp r o p o s e d t h ee x p e r i m e n ti no r lf a c e d a t a b a s es h o w st h ew e i g h t e d2 d p c am e t h o dh a sb e u e r r e c o g n i t i o nr e s u l t ( 3 ) d c ti sw i d e l yu s e di nt h ep o p u l a ri m a g ec o m p r e s s i o nm e t h o d sl i k e j p e g , m p e c li nt h i st h e s i sw ep r o p o s e daf a c er e c o g n i t i o nm e t h o dt h a tu s e d c ta n d2 d p c a t o g e t h e rw h i c hg r e a t l yr e d u c e st h ef e a t h e rd i m e n s i o na n d r e c o g n i t i o nt i m e b e s i d e s2 d p c aa r eu s e do nt h ei m a g e st h a th a v eb e i n g t r a n s f o r m e du s i n gb l o c k - d c t t h ee x p r i m e n tr e s u l ts h o w si ti sw o r k a b l e ( 4 ) f a c er e c o g n i t i o nt h a tb a s e so nt w od i m e n s i o nd i s c r i m i n a n ta n a l y s i s a l g o r i t h md o e sn o tu s et h en o n l i n e a rf e a t h e r w ep r o p o s eat w od i m e n s i o n d i s c r i m i n a n ta n a l y s i s a l g o r i t h mt h a tb a s e so nt h ek e r n e lm e t h o df o rf a c e r e c o g n i t o nt os o l v et h i sp r o b l e m t h ee f f e c t i v e n e s si sp r o v e db ye x p r i m e n t k e yw o r d s ：f a c er e c o g n i t i o n ；s u b s p a c em e t h o d ；2 d p c a ；d c t ；2 d l d a ； k e r n e lm e t h o d 第2 章基于线性子空间方法的人脸识别9 2 1 引言9 2 2 基于主成分分析的人脸识别方法9 2 2 1 主成分分析方法的算法原理1 0 2 2 2 基于主成分分析方法的人脸识别实现1 1 2 2 3 基于主成分分析的人脸识别算法的优缺点1 1 2 3 基于线性判别分析的人脸识别方法- 1 2 2 3 1 线性判决分析的算法原理1 2 2 3 2f i s h e r f a c e 人脸识别方法的实现”1 4 2 3 3 基于线性判决方法的优缺点1 4 2 4 基于独立分量分析的人脸识别方法”15 2 4 1 独立分量分析的算法原理15 2 4 2 基于独立分量分析的人脸识别实现2 0 2 4 3 基于独立分量分析的人脸识别算法的优缺点2 l 2 5 人脸库介绍及算法仿真- 2 2 2 5 1 人脸库2 2 2 5 2 三种子空间方法的实验仿真2 2 哈尔滨下程大学硕十学位论文 2 6 本章小结2 3 第3 章基于二维主成分分析的人脸识别方法2 4 3 1 引言“2 4 3 2 基于2 d p c a 的人脸识别方法2 4 3 2 1 二维主成分分析的算法原理2 4 3 2 2 二维主成分分析算法的人脸识别实现2 6 3 2 3 二维主成分分析算法的优缺点2 7 3 2 4 根据单投影向量加权的2 d p c a 方法2 7 3 2 5 加权函数与加权步骤2 8 3 3d c t 域的2 d p c a 算法”2 9 3 3 1 离散余弦变换的原理2 9 3 3 2d c t 的特性及j p e g 压缩31 3 3 32 d p c a 算法可以用于d c t 域的证明3 2 3 3 4d c t + 2 d p c a 算法流程3 4 3 3 5 分块d c t 对2 d p c a 算法识别性能的影响”3 5 3 4 算法仿真及分析3 7 3 5 本章小结一4 2 第4 章核方法在人脸识别中的应用4 3 4 1 引言4 3 4 2 核函数方法在特征抽取中的应用4 3 4 2 1 核函数的基本原理4 4 4 2 2 几种典型的核函数4 5 4 2 3 核函数的主要特点4 6 4 3 基于核函数的二维线性判别分析的人脸识别方法4 6 4 3 12 d l d a 初次特征抽取“4 6 4 3 2k p c a 二次特征抽取4 7 4 3 3 基于核方法的二维线性判决分析的算法原理4 8 攻读硕士学位期间发表的论文和取得的科研成果5 9 致谢6 0 哈尔滨t 平早大学硕十学何论文 第1 章绪论_ 弟草箔化 1 1 研究背景及意义 随着社会的不断发展进步以及各方面对快速有效的身份识别技术的迫切 需求，生物特征识别技术在最近十年中得到了很快的发展。生物特征识别技 术是为了验证身份而采用自动测量技术对身体的特征或个人行为特点进行采 集处理，并将采集的特征或特点与模板进行比较，从而完成身份验证的一种 解决方案。由于生物特征识别技术利用人本身所具有的特征( 如指纹、虹膜、 人脸等) 进行身份认证，因而它比传统的根据人所携带物品( 如身份 证) 和你所记忆的内容( 如账号和密码) 更加安全和可靠。我们有理由相信 生物特征识别技术将使人们的生活方式产生重大的变化。 人脸识别是生物特征识别技术的一种，它也是人们生活中最常用的一种 身份认证手段，同时它也是当前最热门的模式识别研究课题之一。通过人脸 我们可以判定许多信息：性别、种族、大致年龄及表情等。与其它的生物特 征识别技术相比，人脸识别在采集特征时不需要与采集对象进行直接接触， 因此人们不会产生排斥的心理，所以人脸识别可以成为一种最友好的身份认 证技术。人脸识别应用前景广泛，可用于公安机关罪犯身份的认证，档案管 理，银行的监控系统，入口控制等。 人脸识别对于我们人类而言是一件非常简单的问题，但人脸识别的机制 实际上是非常复杂的。人脸识别的课题涉及到计算机视觉、图像处理、机器 学习、模式识别等很多方面的知识心。近年来人脸识别技术已经取得了很大 发展，产生了很多新颖的方法，一些人脸识别系统也已经投入市场。但还有 很多的因素制约着它的发展，人脸识别的鲁棒性受人脸自身和环境的复杂性， 如表情、姿态、光照变化的影响很大。所以它仍是目前一项非常具有挑战性 的研究课题。 哈尔滨t 程大学硕十学何论文 1 2 国内外研究现状 1 2 1 人脸识别的主要研究内容 一个典型的人脸识别系统一般包括四个部分哺：人脸检测、人脸标准化、 人脸特征提取和人脸分类。 ( 1 ) 人脸检测：从不同场景确定人脸图像是否存在并确定其位置和大小。 ( 2 ) 人脸标准化：定位和标准化人脸的各个分量，如眼睛、鼻子、嘴和整 体轮廓，从而保证在光度学和几何学意义下，能够对人脸图像进行统一的处 理。 ( 3 ) 特征抽取：从标准化后的人脸图像抽取能够用于识别的特征。 ( 4 ) 特征匹配：将待识别的人脸与数据库中的已知人脸比较，得出相关认 证结果。 图1 1 人脸识别系统的结构 构造一个有效的人脸识别系统，需要解决的两个主要问题是：( 1 ) 描述一 张人脸要选择那些特征。( 2 ) 怎样用所选特征来分类一张新的人脸。在人脸识 别中，特征的分类能力、r 算法复杂度和可实现性是确定特征提取法需要考虑 的因素。分类器所能实现的分辨率上限就是各类特征间最大可区分度。因此， 人脸识别的实现需要综合考虑特征选择、特征提取和分类器设计。本文重点 研究的是特征抽取的方法哺1 。 1 2 1 人脸识别的发展历程 人脸识别起步于2 0 世纪6 0 年代，随着计算机技术和模式识别等技术的 发展，人脸识别大致经历了三个发展阶段。： 第一阶段( 1 9 6 4 1 9 9 0 ) ：这一阶段主要采用的是基于几何特征的识别方 2 哈尔滨j f i 稗大学硕十学位论文 法。这种方法提取如眼睛、鼻子、嘴和下巴等局部特征，通过这些特征和特 征之间的联系来作为识别的依据。a l l e n 设计了一种有效且逼真的描述方 法。p a r k 哺。对这一想法进行了计算机实现，并建立了比较高质量的人脸灰度 图模型。人工神经网络在这一时期也被应用到人脸识别系统中。这一时期研 究成果不是很多，而且没有什么实际的应用。 第二阶段( 1 9 9 1 1 9 9 7 ) ：这一阶段随着图像处理技术、模式识别技术以 及计算机处理性能的迅速提高，人脸识别也获得了非常快速的发展，诞生了 很多著名的人脸识别算法，如弹性图匹配n 2 。1 制，子空间方法等。这些方法在 基于正面人脸图像的人脸库测试中取得了非常好的效果。美国军方还在这一 时期组织了著名的f e r e t 人脸识别算法的测试。也出现了一些用于商业化运 行的人脸识别系统( 如v i s i o n i c s ) 。基于整体的识别方法是这一时期的研究重 点，基于整体的识别方法避免了面部局部特征的操作，充分利用了人脸各个 特征点的拓扑关系提高了识别的鲁棒性。 第三阶段( 1 9 9 8 至今) ：对人脸识别算法评估表明：很多主流的人脸识 别算法对于光照姿态变化的适应性不足，因此光照、姿态问题是这一时期的 一个研究重点。很多商业化的人脸识别系统获得了进一步的发展。为此，美 国军方于2 0 0 0 年和2 0 0 2 年在f e r e t 测试的基础上又组织了两次的商用系统 测评。 总体来说，人脸识别技术发展非常迅速，取得了很多的成果。在合理约 束的情况下，人脸侦测、脸部特征定位及识别都已经有非常好的性能，但是 人脸识别仍然是一个非常困难的任务。目前的人脸识别系统大多还不能达到 实际应用的需求。人脸识别研究中仍然有很多具有挑战性的工作需要我们去 做。 1 2 3 人脸识别方法现状 目前为止人脸识别的方法主要有以下几种：基于几何特征的人脸识别、 基于弹性图匹配的人脸识别方法、基于隐马尔科夫模型( h m m ，h i d d e n 哈尔滨t 程大学硕十学何论文 m a r k o vm o d e l ) 的人脸识别方法、基于子空间方法的人脸识别方法以及基于 神经网络的人脸识别方法等。 1 基于几何特征的人脸识别方法 在早期的人脸识别研究中，人们将人脸面部特征点( 如眼睛、耳朵、鼻 子) 的形状及特征点之间的几何关系作为特征进行识别w 。1 。由于每个人的 面部轮廓及特征点的位置、大小、相对位置都不同，所以基于几何特征的人 脸识别方法通过计算人脸面部特征点的形状及分布的几何参数来对不同人进 行区别。对抽取的特征一般采用最近邻分类器进行分类。 早在2 0 世纪7 0 年代k a n a d e w 。就提出了一种基于特征点距离比例的特征 识别方法。而b r u n e l l i 和p o g g i o u 叫以眼睛和鼻子的几何测度、嘴的位置和下 颚的形状作为特征用于人脸识别。这是早期比较有代表性的两种几何特征抽 取方法。 基于几何特征的人脸识别方法特征抽取方法比较简单，识别速率较高。 其识别仅需要提取面目特征点的几何参数及相应间距，虽然简单但同时也导 致识别方法的鲁棒性较差，在视角、表情变化的情况下其识别率较低。这种 方法中的主要问题有：如何自动定位人脸面部的特征点仍是一个难点；过度 强调面部器官及其几何关系忽略人脸图像的细节信息和全局特征，因此造成 信息丢失：人类在进行人脸识别时依靠的是面部特征的模糊描述，而基于几 何特征的方法依靠精确的人脸面部特征参数，这两种方式是相悖的。 2 基于弹性图匹配的人脸识别方法 弹性图匹配n 1 1 4 1 基本思想是动态连接结构( l d a ，d y n a m i cl i n k a r c h i t e c t u r e ) 。弹性图匹配考虑了识别的目标局部特点间的拓扑结构，是一种 具有适应性的匹配方法。弹性图匹配用图来对人脸进行描绘，面部特殊的局 部特征点表示为图的顶点，面部特征之间的拓扑连接关系表示为边。匹配的 测度同时考虑顶点与边之间的距离。这种方法的理论基础是图匹配。 l a d e s 等人在解决非刚体形变物体的识别问题时采用了动态连接模型并 将之应用于人脸识别。在他们的研究中人脸的拓扑结构采用的是稀疏结构。 4 哈尔滨t 稗大学硕十学何论文 脸部图像由一些边和节点来构建，节点对应于人脸图像中特征点( 如眼睛、 口角等) ，边对应节点的连接。人脸图像的相似性通过它们所构建的图的相似 性来衡量。w i c o t t 引对弹性图匹配的方法做了一些改进，用一组图像特征来 表征特征点以增强适应性。 弹性图匹配的方法对光照变化、尺度变化及旋转等有较好的适应性，是 一种比较优越的识别方法。其主要缺点是对每个样本库中的人脸图像都要计 算其模型，因而计算量和存储量比较大。 3 基于隐马尔科夫模型的人脸识别方法 隐马尔科夫模型是用来描述信号的统一特性的一组模型，h m m 模型最 先应用于语音信号的识别中，后被引入人脸识别中。h m m 运用马尔科夫链 来模拟信号统计特性变化，而这一变化又是间接通过观察序列来获得的。因 此h m m 是一个双重的随机过程。在h m m 模型中节点对应状态，边对应于 状态间的转移。一个状态可以具有特征空间中任意的特征，对于同一个特征 不同状态表现出这一状态的概率是不同的。 基于人脸从左至右，从上至下的结构特征。s a m a r i 叫等人首先将h m m 模型用于正面的人脸识别。基于h m m ，k o h i r 。采用低频的d c t 系数作为 观察矢量得到了较好的识别效果。n e f i a n u 副则将二维的d c t 系数作为观察的 矢量运用到人脸识别中。 h m m 算法拥有非常严密和丰富的体系结构，基于隐马尔科夫模型的人 脸识别算法的鲁棒性较好，对表情变化，头部转动有较好的适应性。然而它 的有效性依赖于采样窗口的特性，没有很好的解决特征抽取的问题。另外就 是本算法计算的复杂度较高，不容易实现。 4 基于子空间方法的人脸识别方法 通常图像的空间维数都高，如果把每幅人脸图像看做高维空间中的一个 点，那么人脸图像在这个高维空间中的分布将是非常稀疏的。如果直接进行 分类，计算复杂度将非常大，且分类效果不好。因此从高维输入数据集中发 现内在低维的特征集即进行维数约简是非常必要的。子空间方法n 9 。2 钔根据一 哈尔滨t 程大学硕十学：何论文 定的性能目标寻找一组线性或非线性变换，把原始信号数据压缩到一个低维 子空间中。通过投影使数据在子空间中分布更加紧凑，使数据得到了更好的 描述，也使得计算的复杂度大大降低了。 m k 等人首先将主成分分析( p c a ，p r i n c i p a lc o m p o n e n ta n a l y s i s ) u 剀的 子空间思想引入人脸识别中，并取得了巨大的成功。由于每个特征矢量的图 像形式类似于人脸所以这种算法又叫做特征脸算法。子空间方法被应用于人 脸识别引起了人们的广泛兴趣，陆续出现了几种典型的基于子空间的人脸识 别方法，如线性判决分析( l d a ，l i n e a rd i s c r i m i n a n ta n a l y s i s ) 怛、独立分 量分析( i c a ，i n d e p e n d e n tc o m p o n e n ta n a l y s i s ) l 2 1 j 、非负矩阵因子( n m f , n o n n e g a t i v em a t r i xf a c t o r i z a t i o n ) 瞄副。y a n g 咄副等人提出了基于图像矩阵的二 维主成分分析的抽取方法，将一维子空间方法进行了扩展。随后二维线性判 别分析泓1 等一些其他的二维子空间方法吨9 1 也相继提出。二维子空间的特征 抽取方法因为考虑图像行列间的结构信息，其识别率较之于一维子空间方法 有很大提高。上述的子空间方法都是线性的特征抽取方法，并不能反映由于 光照、视角变化引起的人脸数据的非线性特性。基于核运算的核主成分分析 汹1 和核线性判别分析c 2 a 的相继提出，为人脸中的特征抽取提供了一种全新的 思路。核方法u 通过非线性映射把低维空间中的样本映射到高维的空间， 从而使原本不可分的样本分离性增强。 子空间方法由于其计算复杂度小，描述能力强及分离效果好的特点成为 目前人脸识别的主流研究方向。另外子空间方法在其他模式识别问题、数据 挖掘等方面也有非常好的应用前景。本文将基于子空间方法的人脸识别作为 研究的重点，主要对基于二维子空间方法的人脸识别及核方法在人脸识别中 的应用进行深入的探讨。 5 基于神经网络的人脸识别算法 基于神经网络的人脸识别方法利用神经网络的学习和分类能力对人脸图 像进行特征抽取和分类。对于人脸识别的许多规律我们都无法进行显式的表 达和求解，而神经网络拥有非常强大的学习能力，可以通过反复的训练对人 6 哈尔滨t 程大学硕十学何论文 皇i i i i i i i i i i i i i i i i i i i i i i i i i i i 宣i i i i i i i i i i i i i i i i i i i i i i i i i i i i 宣i 宣i i i i i i i 类人脸识别的规律进行隐式的表达，因此在人脸识别领域神经网络具有独特 的优势。 p a u l 池1 率先用神经网络提取人脸的几何特征，k o h o n c n 捌则将自组织映 射神经网络用于人脸识别。他利用自组织映射神经网络的联想能力“回忆 人脸，即使人脸图像有较强干扰或部分缺失的情况下，也能对人脸进行恢复。 l a w r e n c e b 们等人则将自组织映射与卷积映射相结合来进行人脸识别，取得了 不错的效果。 如前所述基于神经网络的人脸识别有学习能力强的优点，但是它也有些 明显的缺点如：计算需要的训练样本较多；计算量有时很大；对识别过程缺 乏合理的解释等。所以神经网络算法一般只能适用于小型的人脸库。 1 3 论文内容安排 第l 章主要介绍了人脸识别的研究背景和意义，阐述了人脸识别的发展 历程。阐明了人脸识别的主要研究内容。介绍了目前主要的人脸识别方法及 各自的优缺点。 第2 章详细介绍了三种一维子空间方法：p c a 、l d a 、i c a 算法的原理， 在人脸识别中的应用以及各自的优缺点。最后，我们对这三种基本的子空间 方法在o r l 和y a l e 人脸库上进行了仿真对比。 第3 章对p c a 算法的二维扩展形式2 d p c a 算法进行研究。针对2 d p c a 算法的不同投影向量对识别率贡献不同，提出了一种改进的加权2 d p c a 算 法。研究了2 d p c a 算法在d c t 域应用的可能性，提出了一种d c t + 2 d p c a 的人脸识别方法，在保持了识别率的情况下，减少了2 d p c a 算法的输入特 征维数，从而减少了最终用于识别的特征维数，减少了识别的时间。另外， 本章研究了j p e g 等国际压缩标准中的分块d c t 及z 字型编对2 d p c a 算法 的影响，得出了2 d p c a 可以应用在经过分块d c t 处理后的人脸图像识别的 结论。 7 哈尔滨丁稃大学硕十学何论文 i ll i i i i i i i i 宣i i i i i i i i i 宣i i i i i i i i i i i i i i i i i i i i i i i i i i i i i i i i i i i 宣i i i i i i i i i i i i i i i i i i i 第4 章针对二维线性判决分析算法不能够有效的提取非线性信息的问 题，提出了一种基于核方法的二维线性判决分析的人脸识别算法，减少了送 入分类器的特征维数，提高了识别效果。经过仿真验证了算法的有效性。最 后我们对核函数的参数选择问题进行了研究和探讨。 第5 章对本文的主要研究内容进行了总结，分析未来的人脸识别的研究 方向。 8 哈尔滨t 程大学硕十学仲论文 第2 章基于线性子空间方法的人脸识别 2 1 引言 人脸识别的过程主要由三个环节组成：人脸定位、特征抽取、分类器识 别。而其中最重要的环节就是特征抽取，如何在光照、表情等变化的情况下 保证得到有利的分类特征是人脸识别能否成功的关键。基于子空间的特征抽 取方法是目前应用最多也是最成功的特征抽取方法。 由于人脸图像稀疏的分布在一个相当高维的空间之中，如果直接进行分 类，则不仅计算量很大，且分类效果不好。子空间方法通过线性或非线性的 映射将人脸图像投影到一个低维的子空间中，然后在这个子空间中进行分类 识别。经过投影人脸图像在空间中的分布更加紧密，减少了分类计算量。根 据不同的投影准则，可以得到具有不同分类效果的分类器。 线性子空间方法是人脸识别中经常用到的维数约简的方法之一。线性子 空间方法假定人脸数据集具有内在的低维结构，观测空间中的人脸数据集与 其相应的低维结构之间的映射可以通过基函数的线性组合来表示。目前主要 的线性子空间方法有：主成分分析方法( p c a ，p r i n c i p a lc o m p o n e n t a n a l y s i s ) 1 9 , 3 s 、线性判决分析( l d a ，l i n e a rd i s c r i m i n a n ta n a l y i s i s ) 2 引、独立分量分 析( i c a ，i n d e p e n d e n tc o m p o n e n ta n a l y s i s ) l z l j 、二维主成分分析( 2 d p c a ) 2 引、二维线性判别分析( 2 d l d a ) 2 4 1 等。本章详细介绍主成分分析方法、 线性判决分析方法和独立分量分析的原理及其在人脸识别中的应用。 2 2 基于主成分分析的人脸识别方法 在统计模式识别问题中，主成分分析方法被广泛的用于维数约简和特征 抽取。主成分分析方法或者说k l 变换( k a r h u n a n l o e v et r a n s f o r m ) 通过求 解训练样本的散布矩阵特征值问题，得出一组数量远小于样本空间维数的正 交基，然后用这组正交基来表征训练样本所张成的子空间。从线性重建的角 度而言，这组基可以充分的表征样本。基于主成分分析的人脸识别方法通过 9 哈尔滨一f ：稗大学硕+ 学位论文 主成分分析得到能够表征人脸子空间的正交基，然后将人脸图像向这组正交 基投影得到的投影向量做为识别的特征送入分类器进行识别。从物理意义而 言，投影向量即为人脸图像在子空间中的空间位置。 2 2 1 主成分分析方法的算法原理 假设用于训练人脸图像个数为三个，将这三个训练样本按行或按列串联 成l 个列向量：x 。，x ：，x ，x l 。则训练样本的平均向量为： p ：圭x i ( 2 1 ) p2 了己x i l z j ，j 。i = 1 训练样本与均值的差值为，= x ，- t ，由此可以求出训练样本协方差矩 阵为： j c = 7 1 m i m i 7 = a a 7 ( 2 - 2 ) 其中a = 【m ：西l 】，主成分分析方法的投影矩阵的列向量是由协方差矩 阵c 对应的前时个最大的特征向量组成的。将这些特征向量按照图像阵列排 列，可以得到近似人脸的图案，所以主成分分析方法又叫做特征脸方法。 对于一个n xn 的人脸图像其协方差矩阵的大小为n 2 n 2 ，求解特征值 和特征向量是十分困难的。所以我们考虑一个大小为l l 的矩阵a t a ，设 其特征向量为v 。( f = 1 , 2 ，l ) ，则有： a 7 a v ，= 丑v i ( 2 3 ) 上式两边同乘以a ，则有： a a t a v i = x , a v i ( 2 4 ) 从上式可以看出a v 。为协方差矩阵c 的特征向量，所以矩阵c 的特征向量可 表示为： u i = v l k m k ( 2 - 5 ) 其中f = 1 , 2 l 。所以特征子空间u 表示如下： 哈尔滨丁稃大学硕十学何论文 u = a v( 2 6 ) 通过上面的方法使得求解特征脸成为可能。 2 2 2 基于主成分分析方法的人脸识别实现 下面我们根据上- d , 节中给出的原理给出主成分分析方法在人脸识别中 的具体实现步骤： 1 建立人脸库，库中应该包含每个人的几幅人脸图像，这几幅图像包含 有光照、表情变化。本文用人脸算法测试广泛应用的o r l 人脸库来验证算法； 2 从人脸库中选择一定数量的人脸图像用作训练，其它的图像用于测试。 将训练样本和测试样本均按行或列排列成一个列向量。求训练样本的均值， 将训练样本与均值相减后根据公式( 2 2 ) 计算协方差矩阵c ； 3 根据上- d , 节中所提到的简化方法计算协方差矩阵c 的特征值丑和特 征向量u 。选择特征值最大的m 个最大的特征值所对应的特征向量 i i l ，t 1 2 i 1 m 组成特征子空间u ； 4 将每一幅人脸图像与均值图像的差值向量投影到特征子空间上得到投 影系数： q = ( w l ，w 2 ，w m ) = u 。m ( 2 - 7 ) 然后将训练样本和待识别图像的投影系数送入分类器中进行识别，得出 识别结果。 2 2 3 基于主成分分析的人脸识别算法的优缺点 主成分分析方法是一种简单、高效的算法，其特征的抽取通过线性的变 换来实现。从信息论的角度而言，基于k l 变换的主成分分析算法是统计最 优的，它使得数据压缩前后的均方误差最小，且经过变换后人脸图像在子空 间中有比较好的分辨率。但是这种方法也有一些明显的不足之处： 1 p c a 方法所生成的子空间具有最佳的表示特性，但是它并没有考虑 到类的可分性问题。 2 它是基于图像的灰度统计值的，或者说它依赖于训练样本与测试样本 哈尔滨t 程大学硕十学位论文 之间的灰度相关性，因而算法对外在因素带来的图像差异和人脸姿态变化的 适应性较差。 3 算法在小样本人脸库的识别效果较好，对于大样本的情况下识别效果 不太理想，无法实用。 基于主成分分析的方法的主要贡献不仅仅在于它为图像目标识别提供了 一种方法，更重要的是它基于变换进行降维和特征抽取的子空间思想为图像 识别提供了一种方法论。 2 3 基于线性判别分析的人脸识别方法 基于主成分分析的人脸识别方法对于描述数据样本的分布非常有效，但 没有考虑类内、类间的差异，因此不能得到最好的分类效果。f i s h e r 脸方法 的提出就是为了解决这一问题。f i s h e r 脸方法以基于f i s h e r 准则的线性判决 分析为基础生成子空间。其基本的思想是使得人脸图像在子空间中的类间散 度最大，同时类内的散度最小。所以说基于线性判决分析的子空间以实现最 好的可分性为目标，因此具有比特征脸更好的识别效果。 2 3 1 线性判决分析的算法原理 假设训练样本中共有c 类人脸图像，m 为训练样本的总数，m ，为第f 类 训练样本的个数，矢量x ：表示第f 类中的第个训练样本。令p 。表示第f 类训 练样本的均值矢量，p 表示训练样本的总体均值矢量，则有： m 1 1 。玄善x t ( 2 名) p = 上g 艺# m l 螂。 由此可以计算类间散布矩阵s 。和类内散布矩阵s 。和总散度s t ： 1 c s “2 玄善( 州”帆刊7 ) ( 2 9 ) ( 2 1 0 ) 类间散度最大的同时类内散度最小的准则。即类间散度距离与类内散度距离 的比值最大。 设训练样本在鉴别矢量上投影系数的类间散布矩阵与类内散布矩阵分别 为d 。和d 。则线性判别函数的定义为： u w ，= 器= 筹器 亿 由上式可以得出，使得l 删( w ) 达到最大的w l d a 应该满足： 一。ax冈1wtsbwiwlda g m= 【w w 。】 协 一。舣丽2 【w - w z w m 】 2 - 1 4 ) 其中w i ( i = 1 , 2 朋) 应满足下式： s b w j = s 。w j ( 2 1 5 ) 也就是说线性判决分析所提取的鉴别矢量集、k 队，即为式( 2 - 1 4 ) 这一广义 特征值求解问题中，最大七个特征值所对应的特征向量组成的鉴别矢量集。 假设s 。不是奇异阵，则上式两边同时左乘以s - i ，可以将问题转化为一个一 般的特征值求解问题，即s ? s 。w 。= 丑w 。求解其中最大的几个特征值对应 特征向量组成投影矢量w l d a 。 将训练样本和测试样本分别投影到所求子空间中，最后选择合适的分类 器进行识别。 哈尔滨_ t 程大 i i ii ii i i 2 3 2f i s h e r f a c e 人脸识别方法的实现 上节提到的线性判决方法的实现前提是s 。是非奇异的，然而在人脸识别 过程中我们经常遇n d , 样本的问题，i i p i j l l 练样本数远小于样本的维数，在这 种情况下s 。是奇异的。为了解决这一问题s w e t 等人提出了f i s h e r f a c e 的方法， 即先对样本进行p e a 降维，然后在降维后的子空间中用l d a 方法进行识别。 这种识别方法比之于单独的p c a 和l d a 的方法都具有更好的识别效果。 在2 2 1 假设的前提下，f i s h e r f a c e 的识别步骤如下： ( 1 ) 利用式( 2 1 0 ) 、( 2 1 1 ) 、( 2 1 2 ) 计算类间散布矩阵s 。和类内散布 矩阵s _ 和总教度s t ； ( 2 ) 将训练样本用p c a 的方法进行降维处理，得到最佳的投影向量矩 阵w p c a ，将训练样本进行投影，计算投影后的类间散布矩阵s ： 、类内散布 矩阵s ：及总体散布矩阵s ：； s ：= w p c a s b w p “1 ( 2 1 6 ) s ：r = w k a s 。w k l ( 2 - 1 7 ) s w ；c a s t w 嗽1 ( 2 1 8 ) ( 3 ) 用线性判别函数进行投影，得到投影矩阵， w l m = a r g 网 w r s b w ( 2 - 1 9 ) 进而可以求出最佳的投影矩阵为： w o p t = w l , d w p “ ( 2 - 2 0 ) ( 4 ) 将训练样本和测试样本向得到的投影矩阵投影，将得到的投影系数 送入分类器中进行分类识别。 2 3 3 基于线性判决方法的优缺点 与主成分分析的方法相似，基于线性判决的方法也是一种线性子空间的 方法。它通过线性投影使得识别问题转化到低维的子空间中进行，有效的降 哈尔滨t 稗大学硕+ 学位论文 低计算的复杂度，提高了可分性。与主成分分析方法的不同之处在于：前者 选取的基向量代表了样本最大变化的方向，其投影方向使得所有样本之间的 投影最大化了；而后者最大化类间散度的同时使得类内散度最小化，增加类 的可分性。所以说主成分分析方法适合于图像的重建，而基于线性判决的方 法更适合于分类。 在大多数的情况下线性判决方法的识别率要优于基于主成分分析的方 法，然而其不足之处在于，当样本数量较少时，其识别率较差，因此算法的 推广受到了一定限制。 2 4 基于独立分量分析的人脸识别方法 从统计的角度来说，基于p c a 的人脸识别方法其假定了样本数据集是具 有内在的独立高斯分布的，因此，它仅仅利用了数据集的二阶统计特性，然 而人脸数据集的很多重要的判决信息需要从更高阶的关系中提取，而p c a 的 方法无法做到这一点。而i c a 3 7 。3 鲫作为p c a 的一种有效推广，为解决这一问 题提供了手段。i c a 假定输入信号是统计独立的非高斯信号，它通过对多路 观测信号进行线性变换，将其分解成相互统计独立的分量。与传统的多路信 号分析的方法不同，独立分量分析不仅能够去除各分量间的一阶和二阶的相 关性，同时也能够去除掉信号的高阶的相关性。i c a 目前已经在语音信号、 医学信号、图像信号的处理中取得了非常广泛