神经网络实验报告

1、基于 BP 网络的人脸识别技术（国防科学技术大学计算机学院沙 610008）摘 要：近年来，人脸检测和识别受到国内外学术界和企业界的广泛关注，其主要原因是人脸检测和识别在、访问控制、金融支付、刑侦等方面有着广泛应用。与其他传统的识别方法相比，用人脸作为生物特征识别对象，具有稳定、便捷、不易等优点，由于其非接触性、非性，人们对这种技术没有任何排斥心理，因而它是一种最友好的生物特征识别技术。人工神经网络是模拟生物神经网络进行信息处理的一种数学模型，它以对大脑的生理研究为基础，模拟大脑的某些机理与机制，将大量功能简单的神经元通过一定的拓扑结构组织起来群体，并行式处理，实现特定的功能。误差反向（BP）

2、算法的提出，成功解决了求解非线性连续函数的多层前馈神经网络权重调整问题，输出后的误差在向隐含层、输入层逐层反传的过程中按照梯度下降的方式修正各层权值，给多层网络的训练提供了很有效的办法。实验将采用 BP 神经网络进行人脸识别，主要包括特征提取和神经网络识别两大部分：从人脸图像库中选取一定数量的训练图像，用奇异值分解算法分割灰度矩阵， 降低数据复杂度以及提取特征值，并将训练集中的人脸图像用 BP神经网络进行训练，而后对测试样例进试，并对得到的结果进行分析，系统采用编程。：人脸识别，神经网络，BP 算法，奇异值分解，训练一 实验目的了解 BP 网络的基本原理，熟练掌握BP 神经网络算法了解神经网络

3、算法的常规应用方法实验：R2014a实验数据集：ORL 数据库二 实验原理2.1GCBP 网络原理简介反向网络（Backpropagation Neuron Network）算法的基本为激励前向和权 值更新反向两个过程的反复迭代。前向阶段，输入向量由输入层引入，以前馈方式 经隐含层传导至输出层，并计算出网络输出值，此过程中权值固定。反向阶段，以期望 目标值减去网络输出值得到误差信号，根据误差修则来更新网络权值，使网络输出去进 入期望值。共轭梯度 BP 算法（GCBP）是一种改进搜索方向的 BP 算法，它是把前一点的梯度乘以适当的系数，加到该点的梯度上，得到新的搜索方向。因此，可以说共轭梯度 B

4、P 算法是把过去的梯度和现在某点的梯度信息综合利用，用它的线性组合来构造更好的搜索方向。2.2人脸数据库介绍本实验中使用了片。每个人的 10 张ORL 人脸数据库。该数据库由 40 人10 张/人=400 张组成，.bmp 和.pgm 两种图是在不同的时间、变化的光线、面部表情（张开/合拢眼睛、微笑/不微笑）和面部细节（戴眼镜/不戴眼镜）下拍摄的。所有的为实验者的正脸，但有一定程度的朝上下左右的偏转或倾斜，有相似的同质背景。每幅的大小为 112 92 像素 8bit 的灰度图。为了进行比较，它们被分成没有的的训练集和测试集。图 2-1 给出了 ORL 人脸库的部分。由图 1-1 中可以看出，该

5、人脸库中的在人种，面部表情等方面都有着很大的可变性，而且该人脸库没有太多多余的边界，基本上一张就是一副人脸，处理起来比较方便。3.1实验流程图3.2数据的与预处理图 3-1 人脸识别系统体系结构图 2-1 ORL 人脸库的部分通过 allFeature.m 文件读入人脸，将其转换为灰度矩阵，然后将灰度矩阵进行分割，对每个分割后的小矩阵进行降维，减少数据的复杂度，并提取特征值。这里可以输入想要得到的特征维数，运行该程序后，可以在征矩阵。的变量空间中看到一个名为 feature 的变量名，该变量名就是装载进来的需要进行处理 400 张的特可以选择将分割成 8，16，24，32，48，64，80 这

6、几种特征维数，并可以多加训练，以察看特征维数的变化对识别率的影响。3.3划分训练集与测试集对预处理后得到的特征矩阵进行划分，将其划分为训练集 train_data,和测试集 test_data，用以进行训练和测试，建立测试目标集 t，并对训练集和测试集进行归一化处理。运行程序时，需要输入想要将每个人的多少张划分为训练集，运行该程序后，可以在的变量空间中看到一个名为 pn 的变量名，该变量是经过归一化处理后的训练集，pnewn 是归一化后的测试集，num_train 和 num_test 是每个人用于训练和测试的数，由于本试验中的数据源不大，所以除了训练集以外的全部自动划分为测试集。而每个人只有

7、 10 张，所以用户输入的每人选出用作训练集的数目必须小于 10。3.4构建与训练 BP 神经网络构建 BP 神经网络，需要输入如下几个变量：隐含层神经元个数，两个传递函数，训练函数（如表 1 所示），训练目标，训练次数以及学习速率。建立好 BP 神经网络后，可以在变量窗口看到新增变量 net。构建好 BP 神经网络后通过 trainBP.m 文件训练BP 网络。表 1 BP 网络训练参数统计识别率3.5统计用训练好的神经网络进行识别，分别统计训练集识别率，测试集识别率以及总识别率，以便对分类其性能进行。运行该程序后，首先得出测试集上的模拟结果 result_test，训练集上的模拟结果 re

8、sult_train，然后计算出测试集上识别出的数目 count_test，训练集上识别出的数目 count_train，最后根据用于训练和测试的图片数目，算出测试集上的识别率 Test_reg，训练集识别率 Train_reg，以及总识别率 Total_reg。程序执行顺序如下：feature = allFeature(1);/featurenumber=8,16,24,32,48,64,80load(feature.mat)pn,pnewn,t,num_train,num_test = train_test(feature,num_train);/num_train=110net = cr

9、eateBP(pn); /110,tansig,purelnet,tr = trainBP(net,pn,t);rainrp,1e-5,8000,0.005result_test,result_train,count_test,count_traresult(net,pnewn,pn,num_train,num_test);est_reg,Train_reg,Total_reg =4.1采用弹性梯度下降算法设置迭代次数上限为 10000，误差下限为 0.001。学习率为 0.05。输入层神经元个数根据输入图像像素而定，输出层神经元个数根据分类类型数定为 40，隐含层神经元个数定为400。经过3

10、 分钟左右算法收敛（Ploterval=1）。（c）（b）图 4-1 弹性梯度下降算法生成图（16 维）图 4-1 是特征维数为 16 维，且训练函数为 trainrp 生成的各种曲线，图（a）为性能曲线，可以看出该方法在迭代 10000 次后最好的训练性能大约为 4.87e-3，没有达到希望的目标。图（b）用函数treg 利用线性回归的方法，分析了网络输出和目标输出的关系，即网络输出变化相对于目标输出变化的变化率，从而评估了网络的训练结果。其返回值 m 和 b 分别表示最优回归直线的斜率和 Y 轴截距。当 m等于 1，b 等于 0 的时候，网络输出与目标输出完全相同，此时的网络具有最优的性能

11、。R 表示网络输出与目标输出的相关系数，它越接近 1，表示网络输出与目标输出越接近，网络性能越好。图（b）中 m 值与 r 值都接近于 1，b值接近于 0，说明算法的容错泛化能力都很好。图（c）显示了测试的结果，使用了 320 张作为测试样例，余下的 80 张作为训练样例，得到的结果为：测试样例的识别率为 1，训练样例的识别率为 0.6375，总的识别率为 0.9275，总的来说训练结果还是没有达到预期，但在将 Ploterval 参数增加是整体效果都有改善，但 Ploterval 值不是越大越好。（a）（c）（b）图 4-2 弹性梯度下降算法生成图（48 维）由图 4-2 可以看出，在其他条

12、件相同的情况下，将特征维数改为 48 维时，得到的结果均比特征维数为 16 维时好。4.2采用共轭梯度算法设置迭代次数上限为 10000，误差下限为 0.001。学习率为 0.05，特征维数为 48。输入层神经元个数根据输入图像像素而定，输出层神经元个数根据分类类型数定为 40，隐含层神经元个数定为 400。经过 1 分钟算法收敛（Plot erval=1）。迭代次数为 1373 次。由图 4-3 能看出，采用共轭梯度下降算法，在所有条件都相同的情况下，比弹性梯度算法的效果更好。（c）（b）图 4-3 共轭梯度算法生成图（48 维）从前面的分析结果，可以看出共轭梯度算法有着弹性梯度下降法无法比拟的优点。共轭梯度算法收敛速度比梯度下降法快两个数量级，采用共轭梯度算法同时保持了良好的泛化能力。其他方法可以自行验证，只需在构建 BP 网络时修改训练函数就可以，这里将不在赘述。实总本次实验实现了 BP 算法，并将其应用到人脸识别问题上，识别效果