（应用数学专业论文）基于小波包的人脸识别算法.pdf

中山大学硕士学位论文基于小渡包的人脸识别算法 基于小波包的人脸识别算法 专业名称：应用数学 硕士生：杨颖娴 指导教师：戴道清教授 摘要 人脸自动识别系统研究是计算机领域的一项重要课题在最近的1 0 年里产生 了许多人脸识别算法。主元分析法和线性判别分析属于统计方法的范畴是解决分 类识别问题的重要工具。但是在人脸自动识别系统研究中，这些方法在对信号图 像高频部分进行处理时效果不明显。 本文使用基于小波包的l d b ( l o c a id i s c r i m i n a n tb a s i s ) 方法来解决这一 问题。本文采用的方法是先用小波包对信号图像进行分解，在最优基的选择过程 中利用新的l d b 方法作为阕值标准。本文在对y a l e 数据库和f e r e t 数据库的测试表 明该方法能够容忍一定程度的表情，姿态，光照，旋转等的差异。另外与同类方 法相比，基于小波包的l d b 方法具有以下优点： ( 1 ) 在结合小波包进行人脸识别的过程中，对于图像的高频部分的处理效果明 显，能够获取更多的人脸图像的细节信息，而处理所需的代价相对较低； ( 2 ) 在本文章所提到的统计识别方法中，需要进行人脸图像先验概率的估计， 但本文方法通过原始的l o b 方法，进行数学推导，可以跳过对图像先验概 率的估计，直接利用图像的时频能量作为小波包最优基选择的阈值标准。 试验结果表明，把l d b 方法运用到小波包的人脸识别算法中，识别率会有所 提升。 关键词：人脸识别，小波包特征提取。l d b 方法 中山大学硬士学位论文 基于小拔包的人脸识别算法 f a c e r e c o g n i t i o na l g o r i t h m b a s e do nw a v e l e t p a c k e t m a j o r ：a p p l i e dm a t h e m a t i c s n a m e ：y a n gy m g x i a n s u p e r v i s o r ：d a id a o q i n g p i o f c s s 0 r a b s t r a c t i d e n t i f i c a t i o no fp a r s o n sw i t ha u t o m a t i cc o m p u t e ri n t e r f a c e sh a s a r o u s e di n c r e a s i n gi n t e r e s t si nc o m p u t e rc o m = n j n i t y t h e r eh a s b e e nag r e a t d e v e i 哪n t i nf a c er e c o g n i t i o na l g o r i t h mi nt h ei a s tt e ny e a r s t h e p r i n c i p a i c o m p o n e n ta n a l y s i s a n d ii n e a rd i s c r i m i n a n t a r i a l y s i s a r e s t a t i s t i c a lm e t h o d sf o rc l e s s i f i c a t i o n b u t a s t r a i g h t f o r w a r d a p p li c a t i o n o ft h e mm a ys t iil b e c 啪驴u t a t i o n a ll y t o oe x p e n s i v ef o r h i g h - d i m e n s i o n a ip r o b l e m s i ni d e n t i f i c a t i o no fp a r s o n s t h i sp a p e ri n t r o d u c e san e wm a t h o dl d bt oc a r r yo u tt h i sp r o b i e m f i r s t l y ，d e c e m p o s e t h e i m a g eb y w a v e i e t p a c k e t t h e n l e tt h e t i m e - f r e q u e n c ye n e r g y b et h r e s h e i dt oc h o o s et h eb e s t - b a s i s t h e s i b u i a t i o nr e s u i t so nt h ey a i ed a t a b a s oa n df e r e td a t a b a s es h o wt h a tt h e n e wm e t h o dh a sac e r t a i nd e g r o et o l e r a n c et 0 e x p r e s s i o n d i f f e r e n c e 。 p o s t u r ed i f f e r e n c e ，i il u m i n a t i o na n d r o t a t i o n s c o m p a r i n gw i t h o t h e r m e t h o d sp o s s e s s e st h ef o ll o w i n ga d v a n t a g e s ： ( 1 ) o u rl o bb a s e d m e t h o di sl o wc o s tf o rc a r r y i n g o u tt h eh i g h d i m e n s i o n a i p r o b l e ma n dg e t t i n gm a r ed e t a i l e di n f o r m a t i o no ff a c e ( 2 ) c o b p a r et h eo t h e rm a t h o d s ( p c l n ) ，t h en e wm e t h o dd o e sn o tn e e dt o e s t i m a t et h ee m p i r i c a lp r o b a b ii i t y d e n s i t i e s l e tt h et i m e - f r e q u e n c y e n e r g yh et h r e s h o i dt oc h o o s et h eb e s t b a s i s t h ee x p e r i m e n t a ir e s u l t ss h o wt h a tt h en e we e t h e dw il ir a i s et h e r e c n g n i t i o n r a t e k e 3 m o r d s ：f a c er e c o g n i t i o n ，w a v e l e tp a c k e t ，f e a t u r ee x t r a c t o r ，l d b 中山大学硕士学位论文基于小渡包的人脸识翘算法 1 1人脸识别技术概述 第一章引言 人脸识别研究开始于上世纪7 0 年代并且自从1 9 9 0 年以来，一直是计算机科学 以及信息科学技术领域中非常活跃和令人激动的一个方向。它与指纹识别，虹膜 识别等同属于生物特征识别技术范畴【1 】【2 】。它之所以取得如此的关注，主要是 由于其在商业，执法领域的广泛应用价值，以及3 0 年来积累的可行性技术。 计算机人脸识别技术就是利用计算机识别人脸，从中提取出有效的识别信 息，来辨认身份的一种技术。人脸识别技术应用广泛，可用于公安系统，驾驶执 照及护照核对系统，银行及海关的监控系统及自动门卫系统，银行信用卡验证， 医学，档案管理，视频会议，人机交互系统等多方面。 与指纹，视网膜，虹膜，基因等其他人体生物特征识别系统相比，人脸识别 系统更加直接友好，使用者不存在心理障碍，而且通过对人脸的表情，姿态等的 分析。我们可以得到其他识别系统无法得到的信息。 虽然人类的人脸识别能力很强，能够记住并辨别上千个不同人脸，可是这对 于计算机而言却很困难。主要原因包括入脸表情丰富；人脸随年龄增长而变化： 人脸受光照，成像角度及成像距离的影响；从二维图形重建三维图形是一个病态 的过程，目前还没有很好的描述人脸的三维模型等。另外，人脸识别还涉及到图 像处理，计算机视觉，模式识别，统计分类，神经网络，生理，心理学等多方面 的知识，这诸多因素使人脸识别成为一项极富挑战性的课题。 1 2 人脸识别系统的历史研究 人脸识别的数字图像通常有三种情况：正面，倾斜，侧面。在实际中对人脸 正面模式的研究最多，他的研究发展大致可分为三个阶段【1 】，第一阶段以人工的 中山大学顿士学位论文基于小渡包的入脸识别算法 方式，由操作人员定出人脸图像的特征点并将他们的位置输入计算机，再由计算 机根据最近邻法则或其他法则进行分类判别。这一阶段的特点是识别过程依赖于 操作人员，并不是一种可以完成自动识别的系统。第二阶段是人机交互识别阶段， 代表工作是k a y a 3 采用了统计识别方法。用欧式距离来表征人脸特征，如嘴唇 和鼻子之闻的距离等，嘴唇的厚度等。根据改方法设计的识别系统已经能够实现 快速的识别人脸，是一个很大的进步。但总的来说这种方法需要操作人员的某些 先验知识，仍然摆脱不了人的干预。第三阶段是真正的机器自动识别阶段。 1 3 人脸识别的几个阶段和方法 近几十年来，随着计算机的大型化高速化和人脸识别方法的发展，产生了多 种人脸自动识别系统。广义的人脸识别系统包括人脸检测，特征提取，人脸鉴别 等几个阶段。 1 3 1 人脸检测 人脸检测是人脸识别中非常重要的一个环节，也是难度最大的一个环节。人 脸分割的好坏直接影响到识别率的高低。背景的复杂程度，光照条件的好坏，姿 势，表情等是影响人脸检测精度的因素。直到年代，人脸检测还是集中在从一 个简单或者复杂的背景分割出一个单一的人脸区域。其方法主要包括人脸模板， 基于特征的可变形模板，肤色，和神经鸸络等方法。在过去的几年里产生了一些 更加可靠的人脸检测方法来处理复杂背景中的多人脸分割问题。 一般来说可以将人脸检测方法主要分为以下几大类【4 】； 1 基于知识的方法( k n o w i e d g e b a s e dm e t h o d s ) ：这种方法主要基于人们对一 张典型人脸的构成的知识，即人脸局部特征的空间位置和几何关系来定位人脸。 这种方法的主要缺点是很难将人们的知识转化为定义良好的规则。如果规则太 2 中山大学硕士学位论文基于小渡包的人脸识别算法 细，那么检测时很难满足所有规则，如果规则太简单，那么你可能得到太多的人 脸。所以这种方法对于正面像具有较好的效果。 c l i n 5 发展了一种由复杂背景中分割多个人脸的方法。第一步，首先读 出人脸图像将其二值化，然后标识出图像区域中的所有4 连接块并找出这些块 的中心。再将中心可以组成等腰三角形( 正面像) ，或直角三角形( 侧面像) 的 任意三块区域纪录下来当作潜在的人脸区域。第二步，首先标准化所有潜在的人 脸区域，并按照他们提出的分量掩模方程计算这些潜在人脸区域的分量。然后根 据分量阈值来判断此区域是否为人脸。 2 特征不变方法：这种方法是抽取一些不变的特征来定位人脸。这些不变特征 包括人脸特征，纹理特征，肤色以及组合特征。利用边缘检测来得到人脸特征， 如眼睛，眉毛，嘴巴，鼻子等。利用这些检测出来的人脸特征可以构造出统计模 型来确认人脸的存在性。这种方法的主要问题是检测人脸特征的算法会因为光 线，表情，噪声的影响而性能迅速降低，这样就直接影响到人脸检测结果的准确 性。 g y a n g 6 给出了一种基于特征的人脸检测方法。他们首先对图像在频域进 行滤波检测出一些特征点，然后利用几何关系将这些点分组到一些可能是人脸的 区域。最后利用概率的方法来验证这些区域是否为人脸。 3 模板匹配方法：这种方法首先预先给定一些不同的标准样本模板，然后利用 这些模板在日标图像上根据相似性大小进行匹配检测。这种方法既可以用来定 位，也可以用来检测人脸。这种方法的优点是容易实现，但是很难有效的处理姿 势和尺度变化问题。 粱 7 】提出了一种多模板匹配的单人脸检测方法，包括双眼模板和不同长宽 比的人脸模板。首先使用双眼模板粗略选定一些候选区域，然后用不同长宽比的 人脸模板确定人脸区域的位置，最后利用人脸器官的边缘特征进行验证。 4 基于外观的方法( a p p e a r a n c e b a s e dm e t h o d s ) ：与模板匹配方法相反，这种 方法是从具有不同表情外观的图像中训练模板，然后用这些模板进行人脸检测。 中山大学硕士学位论文基于小波龟的人脸识别算法 lw i s k o t t 8 提出了一种可以用来检测已知姿势，或表情的人脸的方法。他 们采用一种叫做图束( b u n c hg r a p h ) 的结构来检测人脸并得到人脸上的一些特 征点的位置。他们将人脸上的一些特殊位置的点( 如眼，耳，口，鼻等) 以及相 互间位置关系来构造图( i m a g eg r a p h ) ，每个点由一组g a b o r 小波系数来描述称 为i e t s 。这就构成了图束中的一幅图。首先，他们将所有图做平均，用得到的平 均图对目标图像进行粗略的检测，最匹配处就是人脸的可能位置( 这一步相似性 度量采用的是不带相位信息的度量函数) 。接着用特定姿势或表情的图对上述区 域进行精确的检测，图中的特征点的位置允许小范围的挪动，以达至最佳匹配( 这 一步相似性度量采用的是带相位信息的度量函数) 。这两种度量函数在本文后面 有详细列出。 事实上，对大多数人脸识别系统而言，人脸的定位过程也就是人脸特征生成 的过程。定位算法与以后的识别算法密切相关。 1 3 2 人脸表征 人脸表征是采用某种方法表示出数据库中的已知人脸和检测出的人脸。根据 人脸表征方法的不同我们通常把人脸识别的方法分为以下几类： ( 1 ) 基于几何特征的人脸识别方法 这类识别把人脸用一个几何特征向量表示，根据模式识别中层次聚类的思想 设计分类器达到识别目的，这就要求选取的几何特征具有一定的独特性，能够反 应不同的人脸之间的差别，同时又具有一定的弹性，以消除时间跨度，光线等的 影响。几何特征向量是以人脸器官的形状和几何关系为基础的特征向量，其分量 通常包括人脸指定两点间的欧式距离，曲率，角度等。人脸器官的关键点分别对 应不同的积分投影方式产生出的波峰和波谷，根据人脸结构的先验知识，可以得 出人脸各器官之间几何位置关系。 常用的几何特征识别方法还有边界跟踪，人脸侧面的特征抽取等等。但是由 4 中山大学硕士学位论文基于小波包的人脸识别算法 于几何特征的抽取的过程中过多的依赖先验知识，抽取的特征或是特别严格，使 识别的自适应性不强，或是过于简洁而不足于识别相似度极高的人脸样本。 ( 2 ) 基于统计特征的人脸识别方法 基于统计方法所获取的人脸特征在人脸识别中倍受关注，这类方法把每个人 脸视为d 维空间中的一点，识别的目标是在特定空间建立决策边界，使得属于不 同类的样本尽可能分开。在统计决策理论中，决策边界由同一类样本的概率分布 决定，这种分布既可以被指定也可以通过学习来获得。 统计识别方法中，最经典的方法是特征脸方法：既把人脸图像投影到由“特 征脸”张成的低维子空间上，并在低维空间进行人脸鉴别。 ( 3 ) 基于神经网络的人脸识别方法 神经网络方法根据一系列的规则进行人脸识别，这些规则包括学习规则，自 适应规则，容错规则和计算规则等。他的特点是能学会各种复杂的非线性输入输 出关系，使用有顺序的训练过程，使这些关系适应于数据。应用神经网络进行人 脸的特征提取和分类器的设计，有比较成熟的人脸特征提取方法，如主分量算法， 自适应主分量神经网络提取算法等。研究人员还应用传统方法和神经网络设计了 组合分类器，取得了比较满意的效果，识别率和特征方法相当。该方法在压缩解 码和信息处理方面有独特的优点，但神经元数目多，训练时间过长。 ( 4 ) 其他方法 近几年来又有很多新的方法用于人脸识别，如弹性图匹配方法 9 】，隐马尔 可夫模型方法【1 0 】等另一种比较有效的方法是s 憎( s u p p o r t v e c t o rm a c h i n e s ) 方法【1 1 】，其主要思想是利用模式识别中的最佳分割超平面法对人脸进行分类识 别，在实践中取得了较高的识别率。 5 中山大学碗士学位论文基于小波包的人脸识别算法 1 3 3 人脸鉴别 一旦检测出人脸特征，就可以根据内部特征距离【1 2 】，d e m p s t e r s h a r e r 理 论【1 3 】，随机图( r a n d o mg r a p h ) 1 3 】或者弹性匹配技术( e l a s t i cm a t c h i n g t e c h n i q u e ) 【8 】和贝叶斯方法来进行分类。 在对模式进行分类的时候，需要比较模式之间的相似程度。一般用距离函数 或者用相似性函数来定量表达模式之间的相似程度这其中最传统的方法就是最 小距离分类法和最大相似性分类法。 假设矩阵x = 气，l i n ，1 j s m 和y = 批j 1 - i - n ，1 - ，m ) 代表两 幅n x m 的人脸数据。通常使用的距离函数有： 1 e u c li d e a n 距离 n 广i 一 p ( x ，y ) = ，f 咄) 2 ( 1 - 1 ) i 扣l j = t 2 距离 p ( x p ( x ，y ) ：羔艺i 铂一y i _ ( 1 2 ) ，y ) = l 铂一_ ( 1 2 ) 3 ? 。距离 n fp 二 p ( x ，y ) = ( h y 。舢 ( 1 3 ) 通常使用的相似性函数有： 1 角度相似性函数 s 暖y ) - 蠢南 ( 1 - 4 ) 其中，置7 是z 的转置， n r i 一 i x l - ，f “，) 2 ( 1 - 5 ) y i = 1j = - z 中山大学硕士学位论文基于小渡包的人脸识别算法 2 相差性函数 ( 1 - 6 ) 所谓最小距离分类法就是当进行人脸匹配时，使用某种距离函数如欧氏距 离，距离，f ：距离和修正h a u s d o f f 距离来计算目标人脸与样本像之间的距离， 并将目标人脸分类到与其距离最小的样本人脸所在类。 同样，所谓最大相似性分类法就是当进行人脸匹配时，使用某种相似性函数 如角度相似性函数，相差性函数来计算目标人脸与样本像之间的相似性，并将目 标人脸分类到与其相似性最大的样本人脸所在类。l l i s k o t t 8 】就采用了带相位 信息和不带相位信息两种不同的相似性函数来分别用于人脸检测和匹配。 前面，已经介绍了几种人脸识别方法，这些方法都是利用单一、复杂的算法 来处理各种可能的情况。然而，用单一的方法来处理所有的情况( 包括姿势变化、 光线变化、噪声影响和表情变化等) 是很不容易的。我们知道不同的分类器针对 不同的情况，环境有各自的优势，某种分类器可能仅仅对于某种特殊的情况处理 效果要优于其他分类器，并且被不同分类器所错误分类的那部分不是一定重合 的。所以在分类的时候，组合不同的分类器的信息可能会得到一个更好的结果。 实际上，从广义上来讲这种组合过程实际上也是一种数据融合的过程。自从1 9 8 8 年以来 1 5 】。数据融合技术取得了空前的发展，现在数据融合就被认为是一种提 高系统性能的有效方式。 本文的结构如下，第一章简要介绍了当前用于人脸识别的方法，第二章给出 了小波包的理论基础。第三章将给出三种统计识别方法p e a 方法，i c a 方法和l d a 方法。第四章中给出新的统计识别方法l d b 方法，并把该方法用于基于小波包的 人脸识别算法中。第五章将给出实验结果并做了讨论。 中山大学硕士学位论文基于小波包的人脸识别算法 第二章小波包的理论基础 2 1 小波变换和多分辨率分析 小波分析【1 6 】是近年来发展起来的最具生命力的数学方法之一，小波分析突 破了傅氏分析在应用中的平稳性假设、周期延拓等限制，具有时频定位的能力， 并在算法实旅过程中实现了多分辨分析的功能。这使得小波分析迅速成为数字信 号处理的强大工具，在图像处理、语音识别等领域取得令人瞩目的成绩，成为国 际研究的一个热点。 2 1 1 小波变换的定义 我们称满足条件： el 每) 1 2 pi - l d 毋 4 - o o ( 2 1 ) 的平方可积函数甲( 即甲p 因) 为一基本小波或小波母函数【1 7 】。将母函 数甲o ) 经伸缩或平移后，就可以得到一个小波序列。 对于连续的情况，小波序列为 舻丽1t 砌。( 2 - - 2 ) 其中a 为伸缩因子，b 为平移因子。 对于任意的函数，( 1 ) 工2 饵) 的连续小波变抉为【1 7 】： 啪搠= ( 。，) 埘ii “l ，( f ) 曾( 鲁( 2 - - 3 ) 其逆变换为： 8 中山大学硕士学位论文基于小波包的人脸识别算法 ，( f ) c vf f i r j r b a 2 ，“b ) 甲( 妇曲( 2 - - 4 ) 对于离散的情况，小波序列为： 甲 ( f ) = 2 2 v ( 2 1 t t ) ，j , k z 对于任意的函数，( f ) l 2 僻) 的离散小波变换为【1 7 】 逆变换为： ( 2 5 ) d m = ( ，甲卅) = | 二，( 毋雎( o d e ( 2 6 ) ，= c e d 卅甲，。p ) c 是一个与信号无关的常数。 2 1 2 小波多分辨率分析 ( 2 7 ) 1 9 8 8 年s i l a ll a t 提出了多分辨率分析( m u l t i r e s o l u t i o na n a l y s i s ) 的概 念，从空间的概念上形象地说明了小波地多分辨率特性，将此之前的所有正交小 波基的构造法统一起来，给出正交小波基的构造方法及正交小波变换的快速算 法，a p n a li a t 算法。下面我们给出多分辨率分析的定义【1 7 】： 平方可积函数空间r 僻) 上的多分辨率分析是满足一定条件的闭子空间系 列) ，z ： 单调性：哆c + l 对任意的，z 。 逼近性：2 _ = ( 0 ) ，c h e 妊巧) = 工2 ( r ) 伸缩性：f ( t ) e 巧f ( 2 0 q 。；伸缩性体现了尺度的变化，逼近正交小 波函数的变化和空间变化其有一致性。 平移不变性：对任意七z ，w r ( t ) z o 。，0 一七) s v o 。 r i e 鸵基存在性：存在托) ，使得 一k ) l k z 构成的r i e s z 基。 中山大学硕士学位论文基于小波包的人脸识别算法 这时称 为一个- m 。 我们利用多分辨率分析可以得到空间r ( r ) 上的正交分解。其中表示信号 分解的低频部分，巩表示信号分解的高频部分。 对于f ( t ) e l 2 俾) 。若 巧和g j e 嵋，则= 丘，o g p ，。由于 嗔：j , n z ) 是_ 的规范正交基， 甲，： 起z ) 是的规范正交基，因此 ，g ，可以分别表 示为： = 庐( 2 7 x n ) ，敝) f 2 g = d ：t ( 2 x 一 ) ，) f 2 其中西称为尺度函数，甲称为小波函数。 ( 2 8 ) ( 2 9 ) 有一个r ( r ) 的多分辨率分析以l 。：，我们构造了，使得5 ) = ；构造 了甲，使得5 ( i 王，) = 。 由此我们得到小渡的构造公式： f o ) = 压吒p 一 ) ， l 甲( f ) = 压g 。庐p 万) ， 其中g 。= ( 一1 ) “k 对于r ( r ) ，我们有 l 2 ( r ) = 巧。( 曷形)或r ( r ) = 丫k 其中+ 。= 巧o ，w e z ，o ) = 勺j 办 o ) + d 坩甲似 f j 酣t 其中： 1 0 ( 2 1 0 ) ( 2 1 1 ) 中山大学硕士学位论文基于小渡包的人脸识剐算法 fc j 户( ， l d m = ( ，t 肿) ， m a i l a t 算法 1 7 】：，t z ( 1 ) 分解算法： ( 2 ) 重构算法： 2 2 小波包 = 去卿p d 址= 去轧一。 v zj ( 2 1 2 ) c j + i , k 击萃，巳z + g k - 2 z d j 。) ( 2 - - 1 3 ) 小波变换虽然具有频率愈高相应的时间( 或空间) 分辨率愈高的优点，但其 在频率域上的分辨率却相应降低。小波包在一定程度上弥补小波包的这一缺陷。 小波包分析是小波分析的推广，它能够提供一种更加精细的分析方法，它能对小 波分析没有细分的高频部分进行进一步的分解，并能够根据被分析信号的特征自 适应的选择相应的频带，使之与信号频谱相匹配，从而提高了时频分辨率，因此 小波包具有更广泛的应用价值。 2 2 1 小波包的定义 将尺度子空间和小波予空间彬用一个新的子空间u ；统一起来表征，若令 町2 ，q = w a j z ) ，则h i i b e r t 空间的正交分解巧+ t = + 彤e p w m u ；的分 解统一为 哝，= 哪+ 珥，z ( 2 1 4 ) 1 1 中山大学硬士学位论文基- t - 4 , 波包的人脸识别算法 得到 k ( f ) = 压趣( 2 t 一女) k o ) = 2 砘( 2 t t ) li ( 2 1 5 ) 显然”。o ) 和( f ) 分别为尺度函数矿( f ) 和小波函数w ( t ) ，式( 2 1 5 ) 是式( 2 1 4 ) 的等价表示。 定义子空间u ；是函数“( f ) 的闭包空间，而，尹是“( f ) 的闭包空间，并令 ( f ) 满足下面的双尺度方程： k o ) = 2 枷协一七) 芝(2-16) l “：。( f ) = 2 g k u 。偿一七) 把这种等价推广到n z ( 非负整数) 的情况，即得( 2 1 6 ) 式得等价表示为 u j l 一- - u ，2 4 0 哪“，z ， e z + 这样就可以对小波的子空间再进行二进细分即： 形= u ；= 【，知o u 。 u 知= u 二：o u 二：，u l = u 。o u 三： = ，刍o u 盘1o o u i 一- k + 。o o u 盏_ 1 其中七= 1 2 ，j ，j = 1 2 ，由式( 2 1 6 ) 构造的序列“。p ) ( 其中 e z + ) 称为 由基函数o ) = ( f ) 确定的正交小波包。当n = 0 时，即为( 2 - - 1 5 ) 式的情况。 2 2 2 小波包算法 下面我们给出小波包的分解和重构算法。设g o ) 叼，则g ；可表示为 占；( f ) = a u ( 2 7 t 一，) ( 2 _ 1 7 ) i 1 2 中山大学硕士学位论文基于小波包的人脸识别算法 妇il a t 算法 1 8 】： ( 1 ) 小波包分解算法： d 一：击- 、，z j d ：邮* 一= 去占。妒 v 上z ( 2 1 8 ) ( 2 ) 小波包重构算法： 4 = 魄一。d j ”4 + 乳。d “”1 ) ( 2 1 9 ) 2 3 小波包最优基的选择 对一个信号长度为= 2 l 的信号最多有2 ”种不同的分解方法，同时，一个 深厦为l 的完全二叉子树的二叉子树的个数也为2 n 。由于这个数字很大，对每一 种情况进行一一的列举也是难以想象的。而我们感兴趣的只是，对于某个标准， 能找到一种最优的信号分解方法和一种有效的算法即可，由此，我们引进花费函 数2 l f ( h ) ，对于信号序列k j 而言，花费函数m ( k ) 越小越好。花费函数可以定 义为任何关于序列的实函数m ( ) 。同时我们需要m ( 以) 具有可加性：m ( 0 ) = 0 ， m ( k b = m “) 对于我们信号的具体处理过程中作为评判的标准花费函数 的选择具有很重要的作用。在下面的叙述中，用x 代表信号，毛代表信号z 在一 个正交小波包基上的投影系数。以下是我们常用的花费函数( 熵) ： ( 1 ) s h a n n o n ( 香农) 熵： 对于序列 x l l ，i i f ( x ) = 一p 。l g p 。，其中p l g p = o 当p = o ， 其中a = 昏， 、 2 j i a 五伽) = 一k 1 2l g k l 2 我们可以得到 膨( 功= 悯1 2 2 ( 功+ l g 梅2 中山大学硕士学位论文基于小波包的人脸识别算法 萍t t m ( x ) ，当丑取到最小值时肘0 ) 最小。 ( 2 ) 能量对数熵： m o ) = 一蚓玉1 2 ，约定l g o = 0 j ( 3 ) 范数熵： 肘o ) = 0 k 扎，对于p tp = e ，l o ，。) ) e ，：( _ ) ，：) ) ( 3 - s ) 最早的i c 方法被描述为一种从线性混合信号里恢复出一些基本的源信号的 方法。独立元分析法是一种统计的信号处理技术，它可以看作是一种广义的主元 分析法。独立元分析法的重要思想就是用统计独立或者尽可能独立的元素来表示 一组随机数。将独立元分析应用到人脸识别上来看，这些随即变量就是训练人脸 的特征向量。 记而为一幅人脸数据，可以构造一个训练人脸集合扛。，x ：，) ，其中每个 人脸数据都是n 个独立元素s 。，s ：，j 的线性组合。这些独立元素是互相概率独立 1 9 中山大学硕士学位论文基于小波包的人膻识别算法 的并具有零均值。将观察变量玉记做向量x = 瓴，x 2 , - - , x 。) 7 元素毛为向量 s = 瓴，s ：，s ，) 7 s 与x 的关系可以表述为， x = 1 s ( 3 - 7 ) 其中，一是一个满秩的小n 的矩阵，记做混合1 寺征矩阵。4 的列表示特征，5 表示观察值x 的第i 个特征的幅值。如果独立元素s 。满e s i s 。) = 1 , i = l 2 ， 那么独立元素将是除符号外唯一的。 y u e ne t a 1 _ 【2 l 】修改了标准的ic a 算法，他们按如下方法选择独立元。记x 的f 行，列为4 。 己j 列的类内距离均值为， = 丽1 记，列的类间距离均值为 驴志妻喜户a s , j z 。 其中，一a i , j 2 - i i 荟m n 。舢+ 。，p 是一种距离度量 列 记n 为以= 生b j ，一中每列特征一j 与s 中的每个i c s j 按照，j 的升序排 a = “，一o ，4 ) 和s 。= “，s ，s ：) 7( 3 - 1 0 ) 其中，；对应于4 满足一 ) 一c ，即卿) v ( a l y ) 则将y 归入a 类，反之归入口类。实际上，假设存在先验概率p i ) ，) ，那么 v ( a l y ) = l p o l y 皿可以得到- 这里我们把分类错误率最小作为标准，显然相对 于其他的任何分类器，b a y e s 分类器的错分率是最低的。b a y e s 分类器在实际的应 用中，我们可以看到b a y e s 分类器存在以下问题。首先在实际应用中要构造这样 取褥很好效果的分类器不是很容易。其次，对于待检测的人脸数据库进行分类时， 需要受训的人脸个数相对较大，我们才能得到一个较可靠的估计p o b ) ，如果所 训练的人脸个数有限，报难得到可靠的先验估计。因此，我们对问题的研究可进 一步发展，我们需要对图像进行降维而不失掉重要信息。 ( 2 ) 基于人脸特征构造最优分类器 这个过程我们可以近似的写为， d = go ， ( 4 1 ) 中山大学硕士学位论文基于小波包的人脸识别算法 这里r 为特征提取器，g ：f _ y 的分类器。从上式我们可以看到这样分类 的结果导致分类对象代价高，而且对于分类器g 而言很难找到全局最优的。这样 我们提出了一个新的解决问题的思想投影追踪( p r o j e c t i o np u r s u i t ) ，也就是对 信号图像选择“感兴趣的”低维信息，在实际处理过程中，我们常用的数据分类 方法有p c a ，l b a 方法。但是问题仍然存在其一是这种方法在对信号图像高维进 行处理时花费的代价高；其二由于时频区域分离，对一个特征向量而言对结果的 解释很困难。 ( 3 ) 方法的改进 面对( 1 ) ，( 2 ) 所出现的问题，我们迸一步讨论问题解决的方法，引进所谓 的时频字典的概念。对于人脸图像的基向量而言，这个概念给我们提供两点意义， 其一是同时在时频域对人脸特征进行局部化描述是有效的：其二这些特征的计算 是有效的。前者对于非静止的人脸图像的处理有显著的优点。当然，从讨论我们 可以知道所述的优点是我们在构造分类器的时候，其结果的解释相对于前面( 1 ) ， ( 2 ) 容易很多。 这个构造分类器的过程可以近似写为， d=goo。y(4-2) 其中v e o ( n ) 特征提取器，d 0 ) 为n 维正交矩阵，o ，为特征选择器，g 为分 类器。 这里我们在构造分类器的时候，加了0 ，特征选择器，即从月维坐标中选择 最重要的m ( ) 个特征进行分类。人脸特征的抽取与选择是人脸检测和识别的 关键，它强烈地影响到分类器的性能。对于不同的类别。当选择的特征使得它们 的差别越大，就说明可分性越好，分类器的性能也越好，识别率也就越高。因此， 我们将更多的关注的选择。 在这里我们定义一些向量概念。让d 为时频区域由基向量如，) ， 中山大学硕士学位论文基于小波包的人艟识别算法 i = 1 ，抖( 1 + l o g ：n ) 组成的集族。d 也可表达为所有可能的正交基融j 的集合， j = 1 ，j 】l ，m ，2 1 。令色= 如国p j 。 我们把特征提取器的标准定义如下： 妒2 嘤船占哆) ( 4 3 ) 其中s 为基鼠的功效度量标准，用以进行特征的提取占的具体定义我们会在随 后的原始的l d b 方法和新的l d b 方法中给出。 ( 4 ) 原始的l d b 奠j 法 假设共有h 类图像的特征向量m 。，国2 ，口其中凹，= w ，1 f ，否则毛= o 。对于阈值t 的选择，t 需要足够大去 掉噪音。 中山大学硕士学位论文基于小波包的人脸识别算法 这个方法就是本文所提出的新的l d b 方法，相对于前文所述的各类统计识别 方法，本文的方法具有明显的优点其一，本方法在结合小波包进行人脸识别的过 程中。对于图像的高频部分的处理效果明显，能够获取更多的人脸图像的细节信 息，而处理所需的代价相对较低。其二，在本文章前面所提到的各类统计识别方 法中，不可避免的需要进行人脸图像先验概率的估计，尽管有些方法诸如利用类 间距离等来代替先验概率的估计已有很好的效果，但本文的方法跳过对图像先验 概率的估计，直接利用图像的时频能量作为小波包最优基选择的阙值标准。 4 3 本文方法算法： ( 1 ) 假设共有c 类图像的特征向量国。，吼，国。其训练样本集为 以= f f ，l f s c ，l - k s m i ) ，善= ( 0 p ，露m ，器舢) # or o ，中第| i 个 辨维样本矢量。鸠为拼。的类的样本数。对善进行小波包分解。分解级 数为j = 1 ，2 ，第级中第玎个小波包子空间为 u j ( j = 1 2 ，l j l = o ，1 2 ，2 _ 1 ) 。u ? 中的小波包系数为 m 妒= 1 2 ，暑) 。 ( 2 ) 按式( 4 7 ) 计算u ；中第p - i - d 、波包系数对应的时频能量一 ，) 。 对每一个子空间u ；对每一个特征向量善，计算它的判别式能量 4 皇( r m ( 吼) ，r 怛 。) ) 。 ( 3 ) 对该区域的每一个基b ，估计它的占p ) ，我们通过 矿2 蝣学s ( 丑) 得到最优基，这里占或者是等式( 4 - - 1 2 ) 里的氏或者是等式( 4 - - 1 3 ) 里 的f 。 ( 4 ) 把磊进行降续排列，选取最大的m ( ) 个4 ，从缈中选择拼个相应的向 中山大学硕士学位论文基于小波包的人脸识别算法 ( 5 ) ( 6 ) 量。 根据这所个向量特征，构造分类器g 。 对待识别的人脸按所选择的这j ，个向量进行小波包变换，并选择与对应一 组的小波包系数作为特征矢量，进行小波包的重构。进而判断待识别人脸 的识别率。 本文方法的流程图如下图所示： 图4 1 流程图 下面我们给出一个基于本文方法的小波包最优基选择的例子。小波包分解层 次为2 层，新的l d b 标准作为阈值的标准。 中山大学硕士学位论文基于小波包的人脸识别算法 图4 2 原始的图像 所得到的小波包最优树如下图所示； 圈4 4 小波包的最优基图 3 ) 图4 3 小波包分解后的图像 中山大节顿士学位论文萋于小眭包的人验识别算j 击 第五章试验结果 本文的实验中使用了两个分别来自y a l e 大学的标准人脸数据库和u sa r 哪的 f d r e t 人脸数据库来测试了本文提出的新的人脸识别方法