模式识别-第11讲-基于K-L展开式的特征提取

1、 模式识别授课教师 薛耀红第11讲 基于K-L变换的特征提取回顾：回顾： 两类提取有效信息、压缩特征空间的方法： 特征提取 (extraction)：用映射（或变换）的方法把原始特征变换为较少的新特征 特征选择(selection) ：从原始特征中挑选出一些最有代表性，分类性能最好的特征 常见类别可分离性判据：常见类别可分离性判据： 基于距离的可分性判据基于距离的可分性判据 基于概率密度分布的判据基于概率密度分布的判据基于基于K KL L展开式的特征提取展开式的特征提取 K-L变换，是一种常用的变换，是一种常用的，K-L变变换常用来作为换常用来作为，这里我们用它作，这里我们用它作。 学习这一节

2、主要要掌握以下几个问题：学习这一节主要要掌握以下几个问题： 1什么是正交变换；什么是正交变换； 2K-L变换是一种最佳的正交变换，要弄清是变换是一种最佳的正交变换，要弄清是什么意义的最佳，也就是说它最佳的定义；什么意义的最佳，也就是说它最佳的定义； 3K-L变换的性质；变换的性质； 4K-L变换的重要应用。变换的重要应用。 基于基于K KL L展开式的特征提取展开式的特征提取 变换是一种工具，它的用途归根结底是用来变换是一种工具，它的用途归根结底是用来描述事物描述事物，特别是描述信号用的。例如我们看到一个复杂的时序信特别是描述信号用的。例如我们看到一个复杂的时序信号，希望能够对它进行描述。描述

3、事物的基本方法之一号，希望能够对它进行描述。描述事物的基本方法之一是将复杂的事物化成简单事物的组合是将复杂的事物化成简单事物的组合, 或对其进行分解，或对其进行分解，分析其组成的成分。分析其组成的成分。 例如对一波形，我们希望知道它是快速变化的例如对一波形，我们希望知道它是快速变化的(高频高频)，还是缓慢变化的还是缓慢变化的(低频低频)，或是一成不变的，或是一成不变的(常量常量)。如果。如果它既有快速变化的成分，又有缓慢变化的成分，又有常它既有快速变化的成分，又有缓慢变化的成分，又有常量部分，那么我们往往希望量部分，那么我们往往希望将它的成分析取出来将它的成分析取出来。这时。这时我们就要用到我

4、们就要用到基于基于K KL L展开式的特征提取展开式的特征提取 变换的变换的，例如用大尺，例如用大尺子度量大的东西，用小尺子度量小的东西，在子度量大的东西，用小尺子度量小的东西，在信号处理中用高频，低频或常量来衡量一个信信号处理中用高频，低频或常量来衡量一个信号中的各种不同成分。对某一套完整的工具就号中的各种不同成分。对某一套完整的工具就称为某种变换。称为某种变换。 如如就是用一套随时间正弦、余弦变就是用一套随时间正弦、余弦变化的信号作为度量工具，这些正弦，余弦信号化的信号作为度量工具，这些正弦，余弦信号的频率是各不相同的，才能度量出信号中相应的频率是各不相同的，才能度量出信号中相应的不同频率

5、成分。的不同频率成分。基于基于K KL L展开式的特征提取展开式的特征提取图6-1图6-2a图6-2bq例如，图例如，图6-1中的信号只有一个单一频率的简谐信号，而中的信号只有一个单一频率的简谐信号，而图图6-2(a)中信号就不是一个简谐信号所描述的，它起码可中信号就不是一个简谐信号所描述的，它起码可以分解成图以分解成图6-2中的两个成分，一是基波，另一是三次谐波。中的两个成分，一是基波，另一是三次谐波。基于基于K KL L展开式的特征提取展开式的特征提取 由此可以看出，对事物可以有不同的描述方法，如图由此可以看出，对事物可以有不同的描述方法，如图6-2(a)是对信号的是对信号的，而图，而图6

6、-2(b)则利用则利用，得到该事物的得到该事物的。当将一事物从一种描述转换成。当将一事物从一种描述转换成另一种描述时，就要用不同的工具，因而另一种描述时，就要用不同的工具，因而。 为了对复杂事物进行经济有效的描述，我们希望为了对复杂事物进行经济有效的描述，我们希望将其分解将其分解成相互独立的成分成相互独立的成分，譬如我们分析其快速变化的成分时，譬如我们分析其快速变化的成分时，就希望它只不再混杂其它成分。就希望它只不再混杂其它成分。 傅里叶变换为例，希望它分析出某种频率的成分，就不傅里叶变换为例，希望它分析出某种频率的成分，就不要包含其它任何频率的成分。这就要求，要包含其它任何频率的成分。这就要

7、求，作为变换的工具作为变换的工具中的每个成分是中的每个成分是的，用其中某一个工具就只能从的，用其中某一个工具就只能从信号中分析出一种成分，而分析不出其它成分。信号中分析出一种成分，而分析不出其它成分。基于基于K KL L展开式的特征提取展开式的特征提取 用变换对信号进行分析，所使用的数学工具是用变换对信号进行分析，所使用的数学工具是。点积的。点积的实质就是两个信号中相同成分之间乘积之总和。图实质就是两个信号中相同成分之间乘积之总和。图6-3(a)中是中是两个随时间连续变化的信号，它们之间的点积运算定义为两个随时间连续变化的信号，它们之间的点积运算定义为图6-3a在这里同一成分是指同一时刻在这里

8、同一成分是指同一时刻t两个信号的值两个信号的值F(t)与与G(t)。积分就是。积分就是在在。基于基于K KL L展开式的特征提取展开式的特征提取图图6-3(b)中的向量中的向量A与与B在一个二维空间定义，它们两者分别含有成在一个二维空间定义，它们两者分别含有成分为分为(a1,a2)与与(b1,b2)，a1与与b1是两者的同一种成分，是两者的同一种成分，a2与与b2则是则是另一种成分。故它们的点积定义为另一种成分。故它们的点积定义为a1b1+a2b2，在这种条件下就不在这种条件下就不需要积分，而只是需要积分，而只是图6-3b基于基于K KL L展开式的特征提取展开式的特征提取点积运算的结果是一个

9、数值，或大于零，小于零或等于零点积运算的结果是一个数值，或大于零，小于零或等于零等于零的情况在图等于零的情况在图6-3(b)中出现在中出现在A与与B之间夹角为之间夹角为90的的情况，这表明情况，这表明B中没有中没有A的成分，的成分，A中也没有中也没有B的成分，因的成分，因此又称此又称。由此我们知道作为一种变换，由此我们知道作为一种变换，如果这种变换中的每一种成分如果这种变换中的每一种成分与其它成分都正交时，它们之间的关系就相互独立了与其它成分都正交时，它们之间的关系就相互独立了，每一，每一种成分的作用是其它成分所不能代替的。拿傅里叶变换来说，种成分的作用是其它成分所不能代替的。拿傅里叶变换来说

10、，频率为频率为f的成分只能靠变换频率为的成分只能靠变换频率为f的成分去析取。的成分去析取。另一方面也说明了这套变换必须是完备的，也就是它必须包另一方面也说明了这套变换必须是完备的，也就是它必须包含一切必要的成分，例如必须有基波的任何一次整数倍频率含一切必要的成分，例如必须有基波的任何一次整数倍频率的谐波，否则就会对信号分析不全面。的谐波，否则就会对信号分析不全面。基于基于K KL L展开式的特征提取展开式的特征提取上式中要求上式中要求uiTuj=1，是考虑到，是考虑到ui是作为度量事物的单位应是作为度量事物的单位应用的，它本身的模应该为用的，它本身的模应该为1，ui又称为又称为。而被分解后。而

11、被分解后的任何事物的任何事物(在此指信号在此指信号)可等成各种成分之和。故任一信号可等成各种成分之和。故任一信号X可表示成：可表示成： 其中其中ci是相应基是相应基ui的相应成分。的相应成分。 综合以上分析，我们可以将对这种变换的定义总结为：综合以上分析，我们可以将对这种变换的定义总结为：如果将这种变换中的每一成分，用一个向量如果将这种变换中的每一成分，用一个向量ui表示，表示，i是其是其下标，原理上可以到下标，原理上可以到，则我们要求的正交变换可表示成：，则我们要求的正交变换可表示成：基于基于K KL L展开式的特征提取展开式的特征提取 基于基于Karhunen-Loeve变换的特征提取方法

12、是变换的特征提取方法是由于样本的描述都是离散的向量，因此我们只讨论由于样本的描述都是离散的向量，因此我们只讨论K-L变换的离散情况。变换的离散情况。 K-L变换：对给定一个变换：对给定一个D维训练样本集（原始特征空维训练样本集（原始特征空间），进行特征空间的降维，降到间），进行特征空间的降维，降到d维，维，d2，故最优2x1特征提取器此时的K-L变换式为：19.59.59.57.5C0.8750.4820.4820.875V10.8750.482Uu120.8750.482TTxUxyxux基于基于K KL L变换的数据压缩举例变换的数据压缩举例i给出样本数据如下：给出样本数据如下：试用试用K

13、-LK-L变换作一维数据压缩。变换作一维数据压缩。：1 1）求总体均值向量；）求总体均值向量；2 2）求）求产生矩阵产生矩阵 ； 3 3）求产生矩阵的特征值）求产生矩阵的特征值i 及特征向量及特征向量 ； 4 4）按）按i排序，确定变换矩阵排序，确定变换矩阵W； 5 5）利用）利用 求新的一维样本。求新的一维样本。54,45,56,65,5556,65,54,45,55TyW xK KL L变换的一些典型应用变换的一些典型应用上面我们从数学的角度分析了上面我们从数学的角度分析了K-L变换的变换的性质。归结起来，性质。归结起来，。下面结合一些应用实例来下面结合一些应用实例来说明如何运用说明如何运

14、用K-L变换的这一性质。变换的这一性质。K KL L变换的一些典型应用变换的一些典型应用以人脸图象这个例子看，以人脸图象这个例子看，K-L变换的降维效果是十分明显的。变换的降维效果是十分明显的。对一幅人脸图象，如果它由对一幅人脸图象，如果它由M行与行与N列象素组成，则原始的特列象素组成，则原始的特征空间维数就应为征空间维数就应为MN。而如果在。而如果在K-L变换以后只用到变换以后只用到30个个基，那么维数就降至基，那么维数就降至30，由此可见降维的效果是极其明显的。，由此可见降维的效果是极其明显的。另一方面降维与数据压缩又是紧密联系在一起的。譬如原训另一方面降维与数据压缩又是紧密联系在一起的。

15、譬如原训练样本集的数量为练样本集的数量为V，而现采用，而现采用30个基，每个基实质上是一个基，每个基实质上是一幅图象，再加上每幅图像的描述参数，数据量是大大降低，幅图象，再加上每幅图像的描述参数，数据量是大大降低，尤其是图象数很大时，压缩量是十分明显的。尤其是图象数很大时，压缩量是十分明显的。 1降维与压缩降维与压缩K KL L变换的一些典型应用变换的一些典型应用使用使用K-L变换不仅仅起到降维与压缩数据的作用，更重要的变换不仅仅起到降维与压缩数据的作用，更重要的是是每个描述量都有明确的意义每个描述量都有明确的意义，因而改变某一个参数就可让，因而改变某一个参数就可让图象按所需要的方向变化。在没

16、有使用图象按所需要的方向变化。在没有使用K-L变换的原数据集变换的原数据集中对图象的描述量是每个象素的灰度值，而孤立地改变某个中对图象的描述量是每个象素的灰度值，而孤立地改变某个象素的灰度值是没有意义的。象素的灰度值是没有意义的。而在使用而在使用K-L变换后，每个描述量都有其各自的作用。因此变换后，每个描述量都有其各自的作用。因此通过改变这些参数的值就可实现对模型的有效描述，这在通过改变这些参数的值就可实现对模型的有效描述，这在图象生成中是很有用的。因此利用图象生成中是很有用的。因此利用K-L变换构造出变换构造出可控制的，可控制的，连续可调的参数模型，连续可调的参数模型，这在人脸识别与人脸图象

17、重构采方这在人脸识别与人脸图象重构采方面的应用是十分有效的。面的应用是十分有效的。2构造参数模型构造参数模型K KL L变换的一些典型应用变换的一些典型应用图像重构K KL L变换的一些典型应用变换的一些典型应用是一个著名的方法。其原理：是一个著名的方法。其原理： 首先搜集要识别的人的人脸图象，建立人脸图象库；首先搜集要识别的人的人脸图象，建立人脸图象库； 利用利用K-L变换变换确定相应确定相应的的“特征脸特征脸”图像图像， 再反过来用再反过来用这些这些“特征脸特征脸”图像图像对对人脸图象库中的人脸图人脸图象库中的人脸图象进行象进行K-L变换变换，从而得到，从而得到每幅图象的参数向量每幅图象的

18、参数向量，并将每幅图，并将每幅图的参数向量存起来。的参数向量存起来。在识别时，先对一张所输入的脸图象进行在识别时，先对一张所输入的脸图象进行必要的规范化必要的规范化，再，再进行进行K-L变换分析，得到其变换分析，得到其参数向量参数向量。将这个参数向量与库中每幅图的参数向量进行将这个参数向量与库中每幅图的参数向量进行比较比较，找到最，找到最相似的参数向量，也就等于找到最相似的人脸，从而认为所输相似的参数向量，也就等于找到最相似的人脸，从而认为所输入的人脸图象就是库内该人的一张人脸入的人脸图象就是库内该人的一张人脸, 完成了识别过程。完成了识别过程。 3人脸识别人脸识别 利用特征脸法进行人脸识别的

19、过程由训练阶段和识别阶段两个阶段组成 其具体步骤如下： 训练阶段 第一步：假设训练集有200个样本，由灰度图组成，每个样本大小为M*N 写出训练样本矩阵： 其中向量xi为由第i个图像的每一列向量堆叠成一列的MN维列向量,即把矩阵向量化,如下图所示：Txxxx20021,.,训练阶段 如：第i个图像矩阵为 则xi为987654321963852741训练阶段 第二步：计算平均脸 计算训练图片的平均脸：20012001iiix训练阶段 第三步：计算差值脸 计算每一张人脸与平均脸的差值ixdii训练阶段 第四步：构建协方差矩阵TiTiiAAddC20012001200120021,.,dddA训练阶

20、段 第五步：求协方差矩阵的特征值和特征向量，构造特征脸空间 协方差矩阵的维数为MN*MN，考虑其维数较大，计算量比较大，所以采用奇异值分解(SingularValue Decomposition ,SVD)定理，通过求解 的特征值和特征向量来获得 的特征值和特征向量。TAAAAT训练阶段 求出 的特征值 及其正交归一化特征向量 根据特征值的贡献率选取前p个最大特征值及其对应的特征向量 贡献率是指选取的特征值的和与占所有特征值的和比，即：iiAATiiiiaiiipiii20011训练阶段 一般取 即使训练样本在前p个特征向量集上的投影有99%的能量 求出原协方差矩阵的特征向量 则“特征脸”空间

21、为： %99a),.,2 , 1(1piAvuiiipuuuw，,.,21训练阶段 第六步 将每一幅人脸与平均脸的差值脸矢量投影到“特征脸”空间，即200,.,2 , 1idwiTi识别阶段 第一步：将待识别的人脸图像 与平均脸的差值脸投影到特征脸空间，得到其特征向量表示：Tw识别阶段 第二步：定义阈值,1max, ,1,2,.,2002iji ji j 识别阶段 第三步：采用欧式距离来计算 与每个人脸的距离i200,.,2 , 122iii识别阶段 为了区分人脸和非人脸，还需要计算原始图像 与由特征脸空间重建的图像 之间的距离 其中：f22fwf识别阶段 根据以下规则对人脸进行分类： 1)若

22、 ，则输入图像不是人脸图像； 2)若 ，且 ， 则输入图像包含未知人脸； 3)若 ，且 ， 则输入图像为库中第k个人的人脸。iiii2D-PCA 2D-PCA是在基本PCA算法上的改进，主要不同是协方差矩阵构造方法不同，选取前P个最大特征值和特征向量也有所不同。训练阶段 1 设训练样本集合为： 其中： i表示第i个人，即类别数， j表示第i个人的第j幅图像 N表示识别的人数， K表示每个人包含K幅图像， M表示样本总数且M=NK,1,2,.,1,2,.,im njsRiN JK训练阶段 2 计算所有训练样本的平均图像NiKjijSMS111训练阶段 3 计算样本的协方差矩阵： SSSSMGijTNiKjij111训练阶段 4 求出协方差矩阵的特征值，选取其中最大特征值 对应的正交特征向量 作为投影空间。 用投影矩阵Y的总离散