论文-PCA人脸特征提取技术研究.doc

摘要摘 要人脸识别是生物特征识别中一个活跃的研究领域，与利用指纹、虹膜等其他生物特征识别相比，人脸识别具有直接、友好、方便的特点，是进行身份确认的最自然直接的手段。因此，人脸识别在信息安全、刑事侦破、出入口控制等领域具有广泛的应用前景。人脸识别的一般步骤是图像预处理，特征提取，分类识别。其中特征提取直接决定分类结果的好坏，在人脸识别中占有重要地位。一个好的特征提取方法具有算法简单和速度快等特点，本文主要研究一种经典的特征提取方法主成分分析法（pca），其基本思想是降维。主要的工作如下：挑选人脸库，建立训练集和测试集；对训练集和测试集中的图像进行pca处理，即进行特征提取，求出人脸图像在特征脸空间中的坐标系数，以此来作为人脸图像的特征；选用最近邻分类器实现人脸识别和分类，从识别效果来说明pca的优缺点。关键词： 人脸识别 特征提取 主成分分析法 abstractabstractface recognition is an active research area of biometric identification. compared to the use of fingerprints, iris and other biometric identification ,face recognition is more direct, friendly and convenient.it is the most natural and direct means for identification.therefore, face recognition has a wide range of applications in the information security ,criminal detection and access control area.face recognition generally has three steps:image pre-processing, feature extraction, classification and identification. feathure extraction is important,which directly determines the quality of classification results. a good method for feature extraction should has simple and fast algorithms. this paper mainly researches on a classical method for feature extraction principal component analysis(pca)with the basic idea of dimensionality reduction.the main work is as follows:select a face database,create the training set and test set；feature extraction for the images of the training set and test set，which are the coordinates coefficients in the eigenface space；classification and identification using minimum distance classifier,describe the advantages and disadvantages of pca.keywords: face recognition feature extraction pca 目录目 录第一章 绪论11.1 特征提取的研究背景和意义11.1.1 研究背景和意义11.2 人脸特征提取的研究现状及存在问题31.2.1 人脸图像可以提取的特征31.2.2 人脸特征提取方法31.2.3 特征提取时存在的问题61.3 本文主要研究内容及各章安排81.3.1 本文主要研究内容81.3.2 本文各章安排8第二章 人脸特征提取主成分分析法92.1 概述92.2 k-l变换102.2.1 k-l变换基本原理102.2.2 特征压缩122.3 基于pca算法的人脸特征提取122.3.1 总体散布矩阵的形成132.3.2 维数问题142.3.3 变换矩阵的求解及变换的实现142.3.4 特征脸152.3.5 pca算法162.4 人脸识别的分类准则182.4.1 相似性测度182.4.2 分类器182.5 pca的特点及存在问题202.5.1 特点202.5.2 存在问题20第三章 本文方法的实现及结果233.1 人脸库的选取233.2 识别过程233.3结果分析243.3.1 基于pca的人脸识别243.3.2 低通滤波处理和边缘提取25第四章 总结与展望294.1 全文工作总结294.2 未来工作展望29致 谢31参考文献33第一章 绪论7第一章 绪论1.1 特征提取的研究背景和意义1.1.1 研究背景和意义在科学研究的众多应用领域中，一个普遍存在的问题是如何从采集的数据中获取有用的信息。随着科技的高速发展，大量数据的测量及存储己经不再成为问题，但是获取数据本身显然是不够的，提取产生这些数据的系统本身信息才是根本目的所在。而且，通常所获得的原始数据的数据量相当大，且样本常处于一个高维空间中，如果直接用原始数据进行分类器设计的话，无论从计算的复杂程度还是分类器性能来看都是不适宜的。为了有效地实现分类识别，就要把原始数据映射(或变换)到低维空间，得到最能反映应样本内在本质的特征，以便能更有效的进行分类，这个过程就叫做特征提取或者数据降维1。映射后的特征叫做二次特征，它们是原始特征的某种组合(线性组合或非线性组合)。特征提取或者数据降维的基本任务是如何从许多特征中找出那些最有效的特征，特征的提取强烈影响到分类器的设计及性能，因此，特征提取是模式识别中的一个关键问题，在数据聚类，模式识别等领域有着广泛的应用。从广义上说，特征提取就是指一种变换。若x是测量空间，y是特征空间，则变换a:xy就叫做特征提取器。为了使问题尽可能的简单化以及考虑计算的复杂性，通常对原始数据进行线性变换，因为这会给特征提取的后继分析带来极大的方便。为了便于研究，通常把采集得到的数据看成多维随机变量的一系列样本值，以便于将随机变量的数值统计方法应用到源数据。对于多维信号在时刻t的采样,可看作是m维随机变量的某一观测样本矢量，其中xi(t)，i=1，2，m为各个分量。按照某种准则对其施加一个线性变换，记为f(rmrn): (1-1)为变换的结果，假设这个的f是一个线性变换，于是有y(t)中的每个分量都是原始所有分量的线性组合: (1-2)其中，。对于每个的一组系数，称为一个基向量。式(1-2) 可以简单的写作矩阵形式: (1-3)其实，多维数据的线性变换及降维过程简单地说就是按照一定的准则去找一系列的加权系数组成线性变换矩阵中的每个基向量，而这n个基向量就是一个新的坐标系。将原数据在这样一个坐标系上展开，得到的每个分量便是变换的结果。要求变换后的数据y在最大程度上体现原始数据间的实质结构。并且y的各个分量能够尽可能地代表产生源数据的系统本身的物理机制。基于多维随机变量统计分析的框架，变换矩阵的寻找方法通常是建立在一个体现输出结果y的统计特性的目标函数g(y)。而这种统计特性因算法的基本准准则不同而不同，可能是一，二阶的，如相关系数，协方差等,也可能是高阶的，如互信息，非高斯性等。如主成分分析方法的基本准则是当用新分量对原始数据进行重构时，在最小均方差意义下逼近效果最佳，而线性判别方法的基本准则是使不同类别的样本尽量分开,即选择使得样本类间离散度和样本类内离散度的比值最大。线性变换是历史悠久的重要降维方法，目前在各个领域都得到了广泛应用，也相对比较成熟。该方法利用如上提到的类似线性变换将原数据向量从高维空间映射到低维空间中，通过保留最重要的或者最能体现个体差异性的成分，使得降维后的数据能够最大程度的保留原高维向量的特征或某一个方面的特性。依据线性降维所采用的具体方式不同，又可以分为:主成分分析 (principalcomponent analysis,pca)2，奇异值分解(singular value decomposition,svd)3，线性判别分析4，独立成分分析5，局部特征分析6，多维尺度分析7等数十种主要算法。非线性降维是近年来逐渐发展起来的方法，还比较年轻，各种新的算法也在不断涌现和发展。它与前面所述方法的主要不同在于降维过程中运用的是非线性变换。目前提出的非线性变换方法大体上有两大类：基于核函数的算法8(包括kemelpca，kemellda，kemelica等)以及基于流形学习的方法(包括isom9，局部线性嵌入10，拉普拉斯映射方法11等)。上述各种降维方法已经广泛的应用于信号处理的各个领域:机器学习，数据压缩，可视化，模式识别等。1.2 人脸特征提取的研究现状及存在问题1.2.1 人脸图像可以提取的特征特征提取是模式识别研究的基本问题之一。对于人脸图像识别而言，抽取有效的图像特征是完成图像识别的关键任务。目前用于图像识别的特征可分为如下几种:1、直观性特征。如图像的边缘，轮廓，纹理或区域等。在人脸识别中用得最多的直观性特征是几何特征，即人脸的五官尺寸及相对位置。这类特征虽然具有维数低的特点，但对于同一个人因表情及光照条件变化往往会导致其尺寸及相对位置发生较大的变化，因此识别效果并不令人满意。2、灰度的统计特征。如直方图特征，将图像看作一个二维随机过程，可以引入统计上的各阶矩作为特征来描述和分析图像，他们能够在保留主要分类信息的基础上大大降低特征的维数。3、变换系数特征。对图像作各种数学变换，可以将变换的系数作为图像的一种特征，例如fisher变换，hough变换和小波变换等在图像特征抽取方面均有广泛应用。这类方法的优点是计算比较方便，但是去相关能力不强。系数特征的维数仍然比较大。4、代数特征。它反映图像的一种内在属性。将图像看作矩阵对待，可对其进行各种代数变换，或进行各种矩阵分解。由于矩阵的特征向量反映了矩阵的一种代数属性，并具有不变性，因此可用来作为图像特征。在人脸识别中，用来抽取图像的代数特征的典型方法是pca变换和矩阵的奇异值分解。1.2.2 人特征提取方法人脸识别本质上是三维塑性物体二维投影图像的匹配问题，它的困难体现在：人脸塑性变形(如表情等)的不确定性；人脸模式的多样性(如胡须，发型，眼镜，化妆等)；图像获取过程中的不确定性(如光照的强度，光源方向等)。在对人脸图像进行特征提取之前一般需要做几何归一化和灰度归一化。几何归一化是指根据人脸定位结果将图像中人脸变换到同一位置和同样大小，灰度归一化是指对图像进行光照补偿等处理，光照补偿能够一定程度地克服光照变换的影响而提高识别率12。特征提取是人脸识别的基础，对训练集和待识别的人脸图像采用相同的特征提取方法，然后对待识别的人脸图像进行分类。所以，特征提取作为人脸识别的重要组成部分，对人脸识别进行研究，也就要对特征提取方法进行不断研究探索和实验。随着人脸识别的发展，各种各样的特征提取方法也开始被应用起来。基于几何特征的方法：人脸由眼睛、鼻子、嘴、下巴等部件构成，对这些部件和结构关系的几何描述，可作为识别人脸的重要特征。kanade用几何量作为人脸的特征，这些几何量包括眼角、嘴角、鼻孔、下巴这些点之间的距离以及所成的角。buhr用图表示法和描述树法给出了人脸的33个主要特征与12个次要特征，其主要特征包括了24个基于眼睛、人脸中心、嘴的量测。yuille提出了包括头发、鼻子、嘴并用弹簧连接边缘的全局人脸模板以抽取出眼睛与嘴。craw提出了更复杂的人脸模板，包含了头发线条、眼睛、眉毛、鼻子、嘴和面颊。最近，lee等抽取人脸的5个距离量度作为人脸识别特征口侧。人脸的几何特征比较稳定，受人脸的姿态变化与光照条件等因素的影响小，但弱点是不容易抽取，而且量测精度不高。基于特征脸的方法：线性判别分析(linear discriminant analysis)是统计模式识别的基本方法之一。应用统计方法解决人脸识别问题时，经常碰到的问题之一就是被称之为“维数灾难”的问题。在低维空间里解析上或计算上可行的办法，在高维空间里可能变得毫无实际意义。因此，降低维数就成为处理实际问题的关键并发展了许多压缩特征空间维数的方法。我们希望通过寻求一种线性变换，可以使人脸图像从高维的图像空间映射到低维的特征空间，而不降低人脸的识别能力。特征脸方法是基于线性映射，使人脸图像从图像空间投影到特征空间的方法。采用pca进行降维，寻求使所有的图像样本的总体散布最大的投影方向。turk和pentland提出特征脸的方法，它根据一组人脸训练图像构造主元子空间，由于主元具有脸的形状，也称为特征脸。识别时将测试图像投影到主元子空间上，得到一组投影系数，和各个己知人的人脸图像进行比较进行识别。在12,13中pentland等报告了相当好的结果，在200个人的3000幅图像中得到95%的正确识别率，在feret数据库上对150幅正面人脸像只有一个误识别。但系统在进行特征脸方法之前需要作大量预处理工作如归一化等。在传统特征脸的基础上，研究者注意到特征值大的特征向量(即特征脸) 并不一定是分类性能好的方向，据此发展了多种特征(子空间)选择方法，如peng的双子空间方法，weng的线性歧义分析方法15，belhumeur的fisherface方法等。事实上，特征脸方法是一种显示主元分析人脸建模，一些线性自联想，线性压缩型bp网络则为隐式的主元分析方法，它们都是把人脸表示为一些向量的加权和，这些向量是训练集叉积阵的主特征向量，valentin对此作了详细讨论。总之，特征脸方法是一种简单，快速，实用的基于变换系数特征的算法，但由于它本质上依赖于训练集和测试集图像的灰度相关性，而且要求测试图像与训练集比较像。神经网络方法：前神经网络方法在人脸识别中的研究方兴未艾valentin提出一种方法，首先提取人脸的50个主元，然后用相关神经网络将它映射到5维空间中，再用一个普通的多层感知器进行判别，对一些简单的测试图像效果较好16；intrator等提出了一种混合型神经网络来进行人脸识别，其中非监督神经网络用于特征提取，而监督神经网络用于分类。lee等将人脸的特点用六条规则描述，然后根据这六条规则进行五官的定位，将五官之间的几何距离输入模糊神经网络进行识别，效果较一般的基于欧氏距离的方法有较大改善。laurence等利用卷积神经网络方法进行人脸识别，由于卷积神经网络中集成了相邻象素之间的相关性知识，从而在一定程度上获得了对图像平移，旋转和局部变形的不变性，因此得到了非常理想的识别效果。lin等提出了基于概率决策的神经网络方法(pdbnn)，其主要思想是采用虚拟(正反例)样本进行强化和反强化学习，从而得到较为理想的概率估计结果，并采用模块化的网络结构(ocon)加快网络的学习。这种方法在人脸检测，人脸定位和人脸识别的各个步骤上都得到了较好的应用17；其它研究还有：dai等提出用hopfield网络进行低分辨率人脸联想与识别；gutta等提出将rbf与树型分类器结合起来进行人脸识别的混合分类器模型；philips等人将matching pursuit滤波器用于人脸识别；还有则采用统计学习理论中的支持向量机进行人脸分类。神经网络方法在人脸识别上的应用比起前述几类方法来有一定的优势，因为对人脸识别的许多规律或规则进行显性的描述还是相当困难的，而神经网络方法则可以通过学习的过程获得对这些规律和规则的隐性表达，它的适应性更强，一般也比较容易实现。形变模型方法：lanitis等通过在人脸特征边沿，选择一些稀疏的基准点描述人脸的形状特征，然后将形状变形到所有人脸图像的平均形状，再根据变形后的形状进行纹理灰度变形，形成形状无关的人脸图像。类似地，romdh等采用激光扫描仪获得人脸的3d数据，分别对一些基准点构成的形状和基准点的灰度或彩色完成pca得到3d人脸形状和灰度彩色基图像。通过变化参数就可获得不同的3d人脸模型，通过施加一些先验约束可以避免合成不真实的人脸图像，利用线性形状和纹理误差，通过3d模型向2d输入图像的自动匹配实现人脸识别。其他方法：brunelli等对模板匹配方法作了大量实验，结果表明在尺度，光照，旋转角度等各种条件稳定的情况下，模板匹配的效果优于其他方法18，但它对光照，旋转和表情变化比较敏感，影响了它的直接使用。goudail等人采用局部自相关性作为人脸识别的判断依据，它具有平移不变性，在脸部表情变化一时比较稳定。总体说来，基于线性投影的代数特征方法依然是人脸识别的最具影响力的主流方法。到目前为止，在大样本人脸库上通过测试的三种识别率最高的方法，分别为usc(university of southern california)的方法，umd(university of maryland)的方法，以及massachusetts institute of technology(mit)media lab给出的方法。除了usc的方法外，umd和mit的方法都是先进行主分量分析，再作鉴别分析。不同的是，umd采用的是线性鉴别，而mit采用二次鉴别(quadratic discriminant)。1.2.3 特征提取时存在的问题识别人脸主要依据人脸上的特征，也就是说依据那些在不同个体之间存在较大差异而对于同一个人则比较稳定的度量。目前对人脸图像进行特征提取时基本是对人脸的正面的静态图像进行提取的。但是对于用户不配合，采集条件不理想（如光照恶劣，有遮挡，图像分辨率低等）的情况下，由于人脸变化复杂，因此特征表述和特征提取十分困难。1、光照变化问题光照问题是机器视觉的老问题，在人脸识别中的表现尤为明显。目前即使最好的人脸识别系统在室外光照环境下，其识别率也会陡然下降。尽管研究人员针对光照问题提出了一些解决方案，但目前的光照处理方法还需要进一步地研究解决。2、姿态、表情变化问题与光照问题类似，姿态、表情变化问题也是目前人脸识别研究中需要解决的一个技术难点。针对姿态、表情变化的研究相对比较的少，目前多数的人脸识别算法主要针对正面准正面人脸图像，当发生深度或水平变化的情况下，或是表情发生明显改变的情况下，人脸识别算法的识别率也将会急剧下降。因此，如何提高系统对姿态和表情变化的鲁棒性也是人脸识别研究中一个极具挑战性的问题。3、遮挡问题对于非配合情况下的人脸图像采集，遮挡是一个非常严重的问题。特别是在监控环境下，往往被监控对象都会带眼镜，帽子等饰物，使得被采集的人脸图像有可能不完整，从而影响了后面的特征提取。如何有效地去除遮挡物的影响是一个非常重要的研究课题。4、低质量照片问题目前的多数人脸识别系统在算法设计和模型训练方面往往只针对图像清晰的情况，但对智能监控、公安系统犯罪嫌疑人照片比对等应用而言，由于其来源不一，有的照片的质量非常差，比如模糊、高噪声、分辨率低等。如何提高系统对这些低质量照片的识别能力也是人脸识别亟待解决的关键问题之一。5、大规模人脸识别问题随着人脸数据库规模的增长，数据计算量也就变的很大，对数据降维效果也就要求比较高，也就需要应用相应的特征提取方法。6、人脸信息采集设备带来的问题摄像头是目前主流的人脸信息采集设备，它们的种类、型号、传感方式（比如ccd或者cmos）、采样和量化精度等各不相同，采集时刻的焦距、光圈、增益、白平衡等参数设置区别也很大。这些变化因素使得获取的人脸图像数据的变化更大。如何解决这些问题也是值得关注的。1.3 本文主要研究内容及各章安排1.3.1 本文主要研究内容本文主要研究人脸特征提取的一种经典方法主成分分析法，详细介绍了其基本原理和在人脸识别中的具体应用，并结合了一种简单的分类器，完成了小规模人脸的识别。1.3.2 本文各章安排第一章：绪论。介绍课题的背景和意义、人脸特征提取的方法和困难，最后简要说明了本文所做的主要研究工作以及本文的结构安排；第二章：人脸特征提取的主成分分析（pca）方法。详细地讨论了pca的基本理论和在人脸特征提取方面的应用。这是一种典型的线性特征子空间方法，分析了此方法的优缺点；第三章：实验过程与结果分析。对基于pca的人脸识别给出了相应的实验步骤，过程，通过matlab实现了对算法的仿真。并且对人脸图像先分别进行低通滤波和边缘检测后再进行pca处理，最后对结果进行了分析，讨论； 第四章：总结与展望。对本文的工作进行了总结，对进一步的研究进行了展望。第二章 人脸特征提取主成分分析法23第二章 人脸特征提取主成分分析法2.1 概述在统计特征分析用于人脸识别以前，人脸自动识别系统中忽视了到底是哪一类的人脸特征在人脸识别中起到最主要的作用，而只是假定一些预先设定的一些人脸部位的测量与部位之间关系的测量是有效的，足以体现出不同人脸之间的差异。这种假定显然是不合理的。但是给我们一个重要的启示：可以从信息论的角度来对人脸进行编码和解码，从而达到着重强调一些重要的全局特征和局部特征。用这类方法提取的特征可能与通常直觉观念上的特征有所不同。主成分分析用于人脸识别主要从两方面考虑：一是从信息论的角度，我们要从人脸图像中尽可能的提取人脸图像的相关信息，然后把这些信息同人脸库中的人脸的信息相比较，从而完成了人脸的识别；二是从数学的角度，我们希望找到人脸分布的主要特征，也就是一组人脸图像矩阵相关矩阵的特征向量，这组特征向量可以看成抓住了人脸图像变化的特征。在这种方法中，每张人脸图像可以通过特征向量的线性运算精确的表示。特征向量的数目等于参加训练的人脸图像的数目。也可以选择一些具有最大特征值的特征向量来近似的表示。用统计特征如二阶矩、高阶矩，建立人脸空间中的一个新的坐标系。人脸图像在这个坐标系下的投影即为该图像的特征。对于一张待识别的人脸图像，求出该图像在这个坐标系中的坐标也就是求出了这个图像的特征，然后通过与人脸库中的图像在该坐标系下的坐标相比较，就可以完成对这一幅人脸图像的识别。 把一幅人脸图像视为一个矢量，称为“人脸矢量”。如果图像宽为w个象素，高为h个象素，则矢量的维数为w*h，矢量的每一个元素的值为所对应象素的灰度值。显然这是在w*h的高维空间里描述矢量，我们把这个空间定义为“原始图像空间” 。然而由于人脸固有的相似性（人脸都是由眼睛、鼻子、嘴、眉等构成），所以在“原始图像空间”中，人脸矢量仅分布在一个很小的范围内（图2.1），所以“原始图像空间”对人脸矢量来说不是最优的空间。为了有效的抽取人脸图像特征，有必要建立一个优化的子空间来更好的描述人脸矢量。我们把优化子空间称为“人脸空间”，优化子空间的基矢量称为主元。虽然“原始图像空间”的维数是w*h，但由于人脸图像象素的不完全独立性，每个象素的灰度值都依赖于与它相邻的象素，所以尽管我们不能精确地确定人脸空间的维数，但它肯定大大低于原始图像空间的维数。我们使用主元分析的方法来构造优化子空间“人脸空间”（图2.2是一组二维随机数据进行主元分析的示意图）。 图2.1在原始图像空间中人脸矢量的分布 图2.2一组二维数据的主元分析构造优化子空间可以采用k-l19变换，假设人脸处于低维线性空间，由高维图像空间k-l变换后，可得到一组新的正交基，由此可以通过保留部分正交基获得正交k-l基底，该方法将人脸图像按行(列)展开所形成的一个高维向量看作是一种随机向量，因此可以采用k-l变换获得其正交k-l基底。将k-l变换用于人脸识别的研究，最早见于kirby20等人的工作，他们首先采用k-l变换对人脸图像进行表示，即将人脸图像分解为若干特征分量的加权和，并且能够从部分特征分量中重构原人脸图像。k-l (karhunen-loeve)变换是实现pca的手段。下面就先介绍一下k-l变换基本原理。2.2 k-l变换2.2.1 k-l变换基本原理k-l变换（karhunen-loeve transform）的目的是通过线性变换寻找一组最优的单位正交向量基（即主元），并用其中部分向量的线性组合来重建样本，使重建后的样本和原样本在最小均方意义下的误差最小，以达到最佳的数据压缩效果。给定一个维随机向量，可将其展开成个维基向量的线性组合 (2-1)式中，为随机系数向量。为维的矩阵，即 (2-2)这里，实际上定义了一个从到的线性变换。k-t变换要求，变换后的随机系数向量中的各个分量是相互正交的，由此可以确定的具体形式。按照以上要求，应有 (2-3)即 (2-4)于是，若的自相关矩阵为已知的，则有 (2-5)若进一步要求为归一正交矩阵，即 (2-6)式中为单位阵，可以得到 (2-7)此即的特征方程，有 (2-8)其中，是的一个特征值，是对应的特征向量。因此，变换矩阵可由的自相关矩阵的特征向量构成。由于是实对称且非负定的矩阵，所以能够满足以上对的要求，且其所有的特征值都是非负的。由的归一正交性容易得到以下k-l变换式 (2-9)在k-l变换中，用来产生特征向量集合的自相关矩阵称为生成矩阵，而确定变换性质的矩阵称为变换矩阵。2.2.2 特征压缩以上关于基本变换的讨论中，从到的变换过程中，向量的维数并没有发生变化，下面考虑从的部分分量中重建的问题。将式(2-1)重写为 (2-10)当只取的前个分量，忽略后个分量时，的估计值为 (2-11)此时的误差向量为 (2-12)均方误差为 (2-13)可见，使均方误差最小的选择应该是使忽略掉的分量对应的特征值之和为最小。于是，可以选择前个最大的特征值对应的特征向量构成的变换矩阵 (2-14)利用代替，按照式(2-9)进行变换，则有 (2-15)得到的变换域维向量就是向量经过压缩之后的主成分。理论分析指出，为使均方误差最小，应该使变换前的随机向量均值为零向量。2.3 基于pca算法的人脸特征提取对于计算机中的一幅图像，用f(x,y)表示。这里x和y指空间的坐标，点(x,y)上的f值正比于该点的亮度。一幅图像被读入计算机以后是用矩阵形式存放的，用b(i,j)表示。其行和列标出了图像上的一个点，而矩阵中的相应元素的值则表示该点的灰度等级。这样的数字阵列中的元素就叫做象素。一幅wh大小的人脸图像按列相连而构成一个x=w*h维矢量，它可被视为w*h维空间的一个点。由于人脸结构的相似性，当把很多这样的人脸图像归一化（预处理）之后，这些图像在这一超高维空间中不是随机或散乱地分布，而是存在某种规律。因此，可以通过k-l变换用一个低维子空间描述人脸图像，同时又能保存所需要的识别信息。在人脸识别的实践中，系统给定的是一系列的训练样本，即人脸图像集合。因此，在将k-l变换的基本理论用于人脸识别时，还有一些具体问题需要解决。基于pca的人脸特征提取可以以训练样本集的总体散度矩阵作为k一l变换的产生矩阵，也可以是训练样本集的类间散布矩阵，即可以采用同一人的数张图像的平均来进行训练，这样可在一定程度上消除光线等的干扰，且计算量可以减少，同时识别率不会下降。2.3.1 总体散布矩阵的形成对于的幅人脸图像集，根据图像在成像过程中的具体情况，通常需要首先进行一定的预处理，这可能包括图像平滑和灰度增强等图像处理步骤。然后，一个必要的过程是将矩阵形式的图像按照行或列展开为维的向量，即 (2-16)为了使其均值为零，需要减去其均值向量，即 (2-17)式中叫做训练样本矩阵。为的统计均值估计，即 (2-18)这时，k-l变换中的自相关矩阵变成了协方差矩阵，可按下式求其最大似然估计（忽略了常数） (2-19)该估计又称为总体散布矩阵，这也就是k-l变换的生成矩阵。2.3.2 维数问题当将的人脸图像表示为向量时，其维数为，由此得到总体散布矩阵的维数为。例如，若，则总体散布矩阵就是维的，而人脸数据库中样本的数目通常要小得多，例如几千个左右，这就导致总体散布矩阵的秩是由决定的。从式(2-19)可以看出，在和式的项中，只有项是独立的，因此，总体散布矩阵的秩通常为，这也是其非零特征值的个数，而零特征值对应的特征向量在人脸图像的表示中是没有意义的，这一点可以从节2.2.2关于特征压缩的讨论中得到。综上所述，在人脸的pca方法中，所选择特征向量的数目的上限应为。2.3.3 变换矩阵的求解及变换的实现求解变换矩阵就是求生成矩阵的特征值和特征向量。按照(2-7)和(2-8)式，有 (2-20)或 (2-21)通常，该特征方程的求解有以下三种方式：1、直接求解方式直接求解(2-20)或(2-21)式中的代数方程。由于总体散布矩阵的维数通常非常高，所以这种求解方式耗时比较大。在matlab中可利用以下函数 (2-22)以上matlab函数对得到的特征值不进行排序。2、间接求解方式之一不同于直接求解方式，这里不是对直接求特征值和特征向量，而是通过求的特征值和特征向量得到所求。具体地，对求解特征值和特征向量，有如下特征方程 (2-23)上式两边左乘后，有 (2-24)比较(2-20)式可见，。显然，通过2.3.2小节的讨论可知，的维数是，通常比的维数要低得多。3、间接求解方式之二通过对训练样本矩阵进行奇异值分解（svd），也可间接求解特征方程。的svd可以表示为 (2-25)式中和都为正交矩阵，而为奇异值矩阵，于是，总体散布矩阵可写为 (2-26)进一步整理后得到 (2-27)对比式(2-20)，有，。在matlab中可利用以下函数进行奇异值分解 (2-28)以上matlab函数对得到的奇异值将进行排序。一旦求得了特征值和特征向量，就可以按照式(2-14)的方法，选取前个最大的非零特征值所对应的特征向量构成变换矩阵，并按照下式对所有人脸样本进行k-l变换。 (2-29)2.3.4 特征脸我们将特征值从大到小排序：，其对应的特征向量为0, 1,. m.这样，每一幅人脸都可以投影到由0, 1,. m张成的子空间中，因此每一幅人脸图像对应于子空间中的一个点。同样，子空间中的一点也对应于一幅图像。当特征向量0, 1,. m显示为图像时，这些图像很像人脸，所以它们被称为“特征脸”。有了这样一个由“特征脸”张成的特征子空间，任何一幅人脸图像都可以向其作投影并获得一组坐标系数，这组系数表明了该图像在子空间中的位置，从而可以作为人脸识别的依据。换句话说，任何一幅人脸图像都可以表示为这组“特征脸”的线性组合，其加权系数即是k-l的展开系数，也可以称为该图像的代数特征。图2.3显示了选取的orl人脸库的8个人的图像，图2.4显示了前五幅特征脸。 图2.3 orl人脸库的8个人的图像 图2.4 特征脸的显示2.3.5 pca算法图2.5给出了整个pca算法的详细步骤流程。pca算法（principal component analysis algorithm）描述：基于pca方法，求出图像在特征空间的展开系数（坐标）输入：1、人脸图像训练集2、人脸图像测试集输出：训练集图像，测试集图像在特征空间的展开系数步骤：1、联立以下四式求出，2、求出的特征值和特征向量3、根据求出的特征值和特征向量4、对进行排序5、取前个最大的特征值所对应的特征向量6、对于图像属于训练集，已求出，由和 求得；若属于测试集，由和求出7、返回、图2.5 pca算法的详细步骤流程2.4 人脸识别的分类准则2.4.1 相似性测度人脸样本经过特征提取过程，最终成为特征空间中的点。因此，样本之间的相似性，通常可以通过计算距离或角度实现。给定向量和，常用的相似性测度有1、欧氏距离 (2-30)2、街区距离 (2-31)3、马氏距离（mahalanobis） (2-32)式中为模式的协方差矩阵。有时也可采用以下简化形式 (2-33)其中是第个分量的方差。4、夹角余弦 (2-34)此外，也有人采用明氏距离（minkowski distance，欧氏距离和街区距离的一般化形式）、欧氏距离平方、均方误差、相关系数以及加权的街区距离、加权的均方误差和加权的夹角余弦等。2.4.2 分类器按照距离的分类准则主要有：1、最近邻分类器最近邻（minimum distance）分类器是最常用的距离分类器之一，首先需要求己知样本的类中心（类平均），把待识别样本归为与之距离最近的类中心所在的类。2、最近邻分类器最近邻（nearest neighbor）分类器也是最常用的距离分类器之一，即把待识别样本归为与之距离最近的已知样本所在的类。3、k近邻分类器k近邻（k nearest neighbor）分类器，取待识别样本的k个近邻，这k个近邻中属于哪一类的己知样本多，则把待识别样本归为哪一类。按照其他相似性测度分类的规则与以上分类规则相似。此外，利用样本分布的统计特性的分类器主要有：1、bayes分类器基于bayes决策理论的分类方法是统计模式识别中的一个基本方法，考虑到样本特定概率分布的情况，利用这个方法进行分类时对模式类别有两个基本要求：一是各类别总体的概率分布是己知的，二是待分类的类别数是一定的。采用最大后验概率的bayes判决准则为最小错误概率准则，考虑实际中判决错误导致的结果后，该准则可以改变为最小平均条件风险判别准则。2、隐马尔可夫模型隐马尔可夫模型（hmm）已经成功地应用于对语音、图像和视频中的时域信息进行建模，因此，也在人脸识别中得到了应用。将传统的一维隐马尔可夫链用于两维的图像信号时，需要首先将图像变换为一维的观察序列。高复杂度的两维hmm包括伪两维hmm、嵌入式hmm和嵌入式bayes网络。3、支持向量机分类器支持向量机（svm）是在结构风险最小化基础上，对两种不同类别的样本数据找到一个最优分类界面的方法。在人脸识别中，svm技术通常包括两个方面：第一是采用核方法将样本映射到高维空间，并在此空间中找到具有最大保护余量的分类界面（超平面）；第二是由于svm本来是解决两类模式的分类问题，因此需要推广到多类模式的分类。4、神经网络分类器神经网络在能够实现分类的同时，还具有特征提取的能力。其中，人脸识别中最常用的神经网络是采用反向传播（bp）算法的前馈网络。2.5 pca的特点及存在问题2.5.1 特点pca是人脸识别研究历史上第一种基于人脸全局视觉特征或图像特征的方法，其全新的研究思路使人脸识别的研究进入了柳岸花明的境地。在成像条件受控的情况下，其识别性能良好，识别率可达到80%以上。该方法有坚实的数学理论基础，有很高的可操作性。因此，已经成为继续探索新的人脸识别方法的一个基石。在训练样本的数目和多样性足够的情况下，其对光照和姿态等变化具有一定的鲁棒性。pca主要具有以下特点:1、属于测量空间的任一模式都有唯一的特征矢量与之对应，这一特性说明模式的变换没有丢失分类的主要信息。2、主元具有稳定性。即当输入矢量有微小变化时，其对应的主元变化将小于输入模式的变化。这一特性说明对图像噪声等因素引起的图像灰度变化有不敏感性，所以.可以放宽对输入图像的要求。3、经过映射随着空间维数的降低，模式之间的距离也得到减小，从而避免了在多维空间上进行分类的复杂性。4、最小化所有样本的重构误差，具有重建图像的能力，其重建图像的质量与所用的主分量的多少有关。5、去除了模式之间的相关性。2.5.2 存在问题1、从该方法所依据的数学基础k-l变换来看，其进行特征提取和压缩的准则是均方误差最小，这就决定了pca是一种具有最佳表示性（most expressive）的特征提取方法，而对人脸识别而言，好的特征提取方法应该是具有最佳判别性（most descriminant）的。应该注意到，在该方法中，类别信息在特征提取的过程中并没有用到，或者说，这里所采用的特征提取方法是无监督的。2、该方法的核心是基于整幅图像的线性变换，从上述讨论可知，其生成矩阵的规模通常是非常大的，尽管可采用间接求解特征方程的方法减小计算量，但在训练和识别过程中，仍然难以避免高维的向量和矩阵运算，使该方法在实际系统中的应用受到一定的限制。3、作为两维分布的人脸图像，像素间相关性的强弱与像素间的距离密切相关，而将图像转换为向量后，这种距离信息不复存在，这就降低了这种方法的表示能力。4、作为一种图像的统计方法，图像中所有的像素都被赋予了同等的地位，可是角度、光照、表情等干扰会使识别率下降；其次人脸在人脸空间的分布近似高斯分布，且普通人脸位于均值附近，而特殊人脸则位于边缘分布，可见，越普通的人脸越难分别，该方法的本质是抓住了人群的统计特征，反映了特定人脸库的统计特征。在该方法的使用中，训练样本的数目和代表性对系统的性能有极大的影响，在某些无法得到足够多训练样本的场合，其应用也受到严格的限制。5、作为一种线性特征子空间方法，该方法的前提是假定样本在线性特征子空间中是线性可分的，对于样本的非线性分布，该方法将无能为力。6、传统特征脸方法，特征值大的特征向量（即特征脸）不一定是分类性能最好的方向。第三章 本文方法的实现及结果31第三章 本文方法的实现及结果本文采用主成分分析法对人脸库中的人脸图像进行特征提取，并且进行识别。3.1 人脸库的选取本文选择的是orl人脸数据库。orl人脸数据库是由剑桥大学at&t实验室创建，包含40个人400张面部灰度图像，分辨率为11292。人脸的面部表情和细节均有很大的变化。 现在选择其中8个人的图像作为研究对象，每个人有10幅图像，挑选每个人的4幅图像作为训练图像。这样，训练集就有32张图像。其余的48张图像作为测试图像。3.2 识别过程采用pca方法的人脸识别系统，其组成如下图3.1所示。图中，实线框中的部分实现系统的训练任务，也是特征提取部分，为离线工作方式。其他部分实现识别任务，为在线工作方式。本文模式分类器采用最近邻分类器。图3.1 人脸识别系统框图识别过程包括以下两大部分。1、训练过程对训练样本集的图像进行pca处理，形成特征子空间一个新的坐标系，即由前m个最大特征值对应的特征向量张成的空间，训练集的每幅人脸图像在特征子空间中投影，产生一个坐标，即从原始图像空间到特征子空间的变换系数，以此作为该图像的特征。2、测试过程对于一张待识别的人脸图像，求出该图像在上述坐标系中的坐标也就是求出了这个图像的特征，然后通过与训练集中的图像的特征相比较，本文选择最近邻分类器，这样就可以完成对这一幅人脸图像的识别。3.3 结果分析3.3.1 基于pca的人脸识别本文的工作是基于1m内存，120g硬盘的dell笔记本上进行的，采用matlab r2008a23软件。本文用pca来进行特征提取，在生成特征子空间时，挑选的是前m个最大特征值对应的特征向量张成的空间，m值不同，识别率也会有所不同。图3.2显示了所得结果。图3.2 pca方法的识别结果从上图可以