BP算法在人脸识别中应用.pptx

BP算法在人脸识别中应用,作者:周卫星,MLP(多层感知器网络模型),人工神经网络系统模型中最常用的一种模型是多层感知器网络模型。它是由多层神经元模型构成，每个神经元模型采用Sigmoid激励函数。网络模型最常使用的学习算法是误差反向传播算法，因此又称神经网络。神经网络传统的学习算法是梯度下降法，学习因子是实验者根据经验设定的固定值，但由于误差函数的高维复杂性和学习因子大小设定不当，梯度下降算法在学习过程中存在误差收敛速度过慢甚至不收敛、误差出现震荡、容易陷入局部极小点等问题。,各层梯度求解：,首先需要计算训练误差五对连接到输出层的节点的权值所的梯度，其中,然后计算训练误差E(i)对输入层连接隐含层的权值的梯度：,然后对于误差反向传播算法有(其中Z为学习因子，g为梯度)。又因为传统梯度下降法由专家指定，学习因子如果偏小，可能导致训练速度太慢；如果偏大，有可能使训练过程中的误差函数值不收敛。而且在权值空间的分布上存在着很多波峰和波谷（局部最小值），梯度下降法的起始点往往是随机选取的，可能并不一定在全局的波谷附近，导致得不到全局最小。,几类针对梯度下降法不足的改进,加速梯度下降法：将学习因子修改为根据误差函数对学习因子的梯度为零计算得到；共轭梯度法：是将数学中共轭优化的原理应用到计算学习因子的过程中，它首先计算误差函数对学习因子的梯度的共轭梯度，然后用共轭梯度代替原来的梯度计算学习因子；,输出权值优化算法：通过构造线性方程组计算得到输出层的权值，且其只对输出层做优化(可以和加速梯度法或共轭梯度法结合使用)；学习因子优化算法：是利用了误差函数与学习因子之间的高阶导数信息来计算学习因子；多重学习因子优化算法：是在学习因子优化算法的基础上，将学习因子扩展为一个向量，向量的中每一项对应一个隐含层节点的学习因子。,人脸识别技术,人脸识别技术是指通过分析和计算人面部的图像的特征来进行区分并辨别个人身份的计算机技术。该技术首先是用专用的设备采集图像，然后检测和定位并分离出采集图像中人脸的面部图像，然后再对人面部图像特征提取并表示成特征向量，最后用特定的分类器(神经网络分类器)对特征向量进行识别分类。,人脸识别的过程主要分为两个步骤：人脸特征提取阶段和模式分类识别阶段。人脸特征提取阶段主要是将特定设备采集到的图像进行初步的处理，检测定位出人的面部然后分割出人的面部图像并提取出面部图像特征，然后将其转化成为能够进行模式分类的特征向量。模式分类识别阶段是对提取得到的特征向量用设计分类器进行模式分类，以识别出不同的人脸进行身份验证。这里利用MLP来处理人脸模式识别也是主要从这两个方面进行优化。,复杂光照条件下图片,检测图像中人的面部，把人的面部与背景图像分离,去除外部原因对人脸图像的干扰，以便提取其特征,对预处理后的图像提取有效的特征表示为向量,对于特征表示阶段的转为特征向量的表示方法一般直接用人面部的灰度值排列，但是在复杂光照条件下此效果并不理想，因此需要减少不均匀光照条件的影响。减少不均匀光照影响的理论方法有：基于Retinex理论的方法；基于梯度的方法；基于局部区域二值化转化模型的方法。这里采用第三类方法，使用多尺度、多方向的Gabor滤波器提取特征然后用Fisher判别器进行分类。,首先使用二维的Gabor小波滤波器组对人的面部图像进行预处理，对Gabor图像进行自适应阈值二值化处理，然后对每一幅Gabor图像进行分割，然后对每一个小图提取特征。由Gabor滤波器的多尺度，多方向滤波，并且对图像进行了分割，会产生高维数据。因此先使用主成分分析(PCA)来提取主要特征然后得到人脸图像的特征向量表示，一是对图像的特征向量进行降维，二是去除对人脸的识别基本上没有贡献的特征值。,特征提取过程如下：,构造MPL神经网络分类器,它的输入为上面所示方法提取的特征向量，输入层节点的个数和特征向量的维数相同。它的输出为所分人脸的类别数，输出层节点个数和人脸的类别数相同；隐层节点数一般不少于输入节点；输出节点为32个。,这里选取32个人，正面图像同一姿势下64种不同光照条件的人脸图像作为实验数据集。首先将数据集中的图像进行裁剪，将分辨率统一168x192为。随机选取每一个人脸图像的的32幅图像作为训练集，另外32副图像作为测试集，训练集共有1024幅人脸图像，测试集1024共有幅图像。分别用主成分分析PCA降维得到20维、40维、60维、80维、100维、120维等不同维数的人脸特征向量。然后使用不同的学习算法对训练，比较它们在不同维数下的学习速度的快慢。,这里是在不同维数下的分类数据表：,可以看出在80维时近乎最好，因为后面增幅较之前面不大，且随维数增大，计算更为复杂。,加速梯度下降法(BP)