（计算机软件与理论专业论文）基于统计理论的人脸检测算法研究.pdf

基于统计理论的人脸检测算法研究 摘要 人脸具有非常丰富的信息，是人类互相认识主要标志。人脸信息 处理在计算机视觉、模式识别、多媒体技术研究中占有重要的地位。 人脸检测作为人脸信息处理中的一项关键技术，是目前模式识别的热 门研究话题，是一项计算机视觉领域内受到普遍重视、研究十分活跃 的课题。 论文的主要研究内容如下： 1 ) 基于模板子窗口树匹配特征的人脸检测算法。 针对整体与局部信息的融合问题，本文提出了模板子窗口树概 念，扩展了传统的模板，并利用积分图实现高效相关系数计算，通过 s v m 核的构造在特征层次进行融合，并通过瀑布型a d a b o o s t 粗筛选 以进一步加快检测速度。在c m u + m i t 正面测试集上检测率为8 9 4 ， 误报6 9 个。在p 41 7 g h z 的p c 上以m a t l a b6 5 为平台，处理一幅大 小为3 6 4 x 3 6 7 的图片平均需要3 6 s 。实验结果表明，该方法比较有效， 并具有一定的实用价值。 。 2 ) 基于相位一致性的人脸检测算法。 针对光照影响问题，本文提出相位一致性人脸概念。相位一致性 是一种无量纲的，对图像亮度和对比度变化具有不变性的测度，利用 相位一致性图的积分投影进行降维后结合s v m 实现了对光照条件鲁 棒的检测算法，并通过粗筛选层大幅提高检测速度。在c m u + m i t 正面测试集上和y a l ef a c ed a t a b a s eb 上的实验均取得了较好结果， 表明该算法是有效的。 关键词人脸检测，多模板匹配，相位一致性，s v m ，a d a b o o s t 糯r e s e a r c 壬主o ft h e 王a c 嚣d e 玉e c t l o nb a s e d o nt h es t a t i s t i c a lt h e o r y a b s t r a c t h u m a nf a c en o to n l yh a se x t r e m e l y r i c hi n f o r m a t i o nb u ta l s oi st h e k e ys y m b o lf o ri n d i v i d u a l i d e n t i f i c a t i o n 。f a c ei n f o r m a t i o np r o c e s s i n g p l a y sa l li m p o r t a n tr o l e i nr e s e a r c h f i e l d so fc o m p u t e rv i s i o n ，p a t t e r n r e c o g n i t i o na n dm u l t i m e d i at e c h n o l o g y a sak e yt e c h n o l o g yo ff a c e i n f o r m a t i o np r o c e s s i n g ，f a c ed e t e c t i o ni sah o tr e s e a r c ht o p i c si np a t t e r n r e c o g n i t i o na n das u b j e c to fv e r ya c t i v er e s e a r c ht h a ta t t r a c t e du n i v e r s a l a t t e n t i o ni nc o m p u t e rv i s i o n t h em a i nr e s e a r c hc o n t e n t so f t h et h e s i sa r el i s t e da sf o l l o w i n g s ： 1 ) f a c ed e t e c t i o nb a s e do nt e m p l a t es e q u e n c e so fs u bw i n d o w si n 钰e es t r u c t u r e 。、 a g a i n s tt h eo v e r a l la n d l o c a li n f o r m a t i o nf u s i o np r o b l e m s ，t h ep a p e r p r o p o s e dc o n c e p t t h a tt e m p l a t es e q u e n c e so fs u bw i n d o w si nt r e e s t r u c t u r et oe x p a n s i o no ft h et r a d i t i o n a lt e m p l a t e t h ep a p e ru s e si n t e g r a l i m a g ec o n c e p tt oa c h i e v er a p i dc a l c u l a t i o no ft h ec o r r e l a t i o nc o e f f i c i e n t a n ds u p p o r tv e c t o rm a c h i n e s k e r n e lf u n c t i o nt of u s i o nf e a t u r e s 。t h e p a p e rs h a r p l ya c c e l e r a t e dv i a c o a r s ef i l t r a t i o n t h e e x p e r i m e n t so n c m u + m i tf r o n t a lf a c et e s ts e tr e s u l ti nac o r r e c tr a t eo f8 9 毒w i t h6 9 f a l s ea l a r m s t h ea v e r a g ep r o c e s s i n gt i m eo nap 41 7 g h zp ci sa b o u t 3 6 sf o ra3 6 4 x 3 6 7p i x e li m a g eb yt h em a t l a b6 5e n v i r o n m e n t i tc a l lb e s e e nt h a tt h ep r o p o s e dm e t h o di sv e r ye f f i c i e n ta n dh a sm u c hv a l u ei n a p p l i c a t i o n 2 ) f a c ed e t e c t i o nb a s e do i lp h a s ec o n g r u e n c ya n ds u p p o r v e c t o r m a c h i n e s 。 a g a i n s tt h e e f f e c t so fl i g h tc o n d i t i o n s , t h ep a p e rp r o p o s e dt h e c o n c e p to fp h a s ec o n g r u e n c yf a c e ，p h a s ec o n g r u e n c yi sad i m e n s i o n l e s s q u a n t i t yt h a ti si n v a r i a n tt oc h a n g e si ni m a g eb r i g h t n e s so rc o n t r a s t 。b y t h ei n t e g r a lp r o j e c t i o no ft h ep h a s ec o n g r u e n c yi m a g ea sf e a t u r e sa n dt h e s u p p o r tv e c t o rm a c h i n e sa st h ec l a s s i f i e r , t h ep a p e rh a sb e e nr o b u s tt o v a r i o u si l l u m i n a t i o na n ds h a r p l ya c c e l e r a t e dv i ac o a r s ef i l t r a t i o n b e t t e r e x p e r i m e n t a lr e s u l t sa r ea c h i e v e do nc m u + m i t f r o n t a lf a c et e s ts e ta n d y a l ef a c ed a t a b a s eb s o ，t h i sm e t h o di se f f e c t i v e n e s s k e yw o r d s ：f a c ed e t e c t i o n ，m u l t i p l et e m p l a t em a t c h i n g ，p h a s e c o n g r u e n c y s v m ，a d a b o o s t 学位论文独创性声明 本人声明所呈交的学位论文是我个人在导师指导下进行的研究工作及 取得的研究成果。论文中除了特别加以标注和致谢的地方外，不包含其他人 或其他机构已经发表或撰写过的研究成果。其他同志对本研究的启发和所做 的贡献均已在论文中作了明确的声明并表示了谢意。 研究生签名：躺眠 日期： m 7 ，口邑r 学位论文使用授权声明 本人完全了解浙江师范大学有关保留、使用学位论文的规定，即：学校有权 保留送交论文的复印件和电子文档，允许论文被查阅和借阅，可以采用影印、缩 印或扫描等手段保存、汇编学位论文。同意浙江师范大学可以用不同方式在不同 媒体上发表、传播论文的全部或部分内容。保密的学位论文在解密后遵守此协议。 研究生签名：绍醯芝火 导师签名： 日期：2 - 7 ，口巧 浙江师范大学学位论文诚信承诺书 我承诺自觉遵守浙江师范火学研究生学术道德规范管理条 例。我的学位论文中凡引用他人已经发表或未发表的成果、数 据、观点等，均已明确注明并详细列出有关文献的名称、作者、 年份、刊物名称和出版文献的出版机构、, l i5 版地和版次等内容。 论文中未注明的内容为本人的研究成果。 如有违反，本人接受处罚并承担。切责任。 承诺人( 研究生) ：震蚴 指导教师： 1 1 研究的背景与意义 第一章绪论 任意给定一幅图像或者一组图像序列，人脸检测的目的就在于判定该图像或 者图像序列中是否存在人脸。如果存在，则确定其位置和空问分布。人脸检测作 为人脸信息处理中的一项关键技术，是目前模式识别的热门研究话题，是一项计 算机视觉领域内受到普遍重视、研究十分活跃的课题。 人脸检测问题最初来源于人脸识别。入脸检测是自动人脸识别系统中的一个 关键环节，但是早期的人脸识别研究主要针对具有较强约束条件的人脸图像( 如 无背景的图像) ，往往假设人脸位置已知或很容易获得，因此人脸检测问题并未 受到重视。进入2 l 世纪以后，比传统的输入方式更加智能化，更加友好的人机交 互环境得到前所未有的迅猛发展。获取图像的花费也逐渐降低，意味着计算机视 觉系统完全可以应用于微机中；加之近些年来电子商务、视频服务、检控验证等 广泛应用与发展，人们对自动识别系统的要求越来越高，人脸识别成为最有潜力 的生物身份验证手段，这种应用背景要求自动人脸识别系统能够对一般坏境图像 具有一定的适应能力，由此所面临的一系列问题使得人脸检测丌始作为一个独立 的课题受到研究者的重视。今天，人脸检测的应用背景已经远远超出了人脸识别 系统的范畴，在安全检查、视觉监测、基于内容的检索等方面有着重要的应用价 值。 人脸是典型的非刚性物体，此类目标的检测问题的困难在于【旧：( 1 ) f l a 于外 貌、表情、肤色、多种视角的存在，具有模式可变性；( 2 ) 可能存在胡须、眼镜 等附属物；( 3 ) 成像条件的影响( 光照条件，摄像机特性等因素) 。解决这些难题 将为其它类似的复杂模式目标自动检测问题提供重要的启示，因此人脸检测研究 具有重要的学术价值和应用价值。 1 2 国内外研究现状 近年来，人脸自动检测识别的研究取得了很大的进展，国外著名的人脸检测 与识别研究机构有：卡奈基梅隆大学( c m u ) 的交互系统实验室、麻省理工学 院( m i t ) 的媒体实验室及人工智能实验室、l l l i o n o i s 大学b e c k m a n 研究所、英国 曼彻斯特大学的i s b e 、丹麦大学的i m m 、瑞典的c h a l m e r s 大学的i m a g ea n a l y s i s g r o u p 等。国内中科院计算技术研究所p i 、中科院自动化研究所州、清华大学【5 - 9 浙江师范人学硕士学位论文 等都有人员从事人脸检测相关的研究。而且，m p e g 7 标准组织已经建立了人脸 识别草案小组，人脸检测算法也是一项征集的内容。国际计算机视觉会议i c c v ， 国际模式识别会议i c p r 等著名国际会议和i e e et r a n s a c t i o n so np a r e ma n a l y s i s a n dm a c h i n ei n t e l l i g e n c e ，p a t t e r nr e c o g n i t i o n ，i m a g ea n dv i s i o nc o m p u t i n g 等知名 国际期刊也设立了人脸检测和人脸识别专题。 人脸图像所包含的模式特征十分丰富，哪些特征是有用的，如何利用这些特 征是人脸检测要研究的一个关键问题。人脸模式具有复杂而细致的变化，因此一 般需要采用多种模式特征综合的方法。归纳起来，根据利用特征的色彩属性可以 将人脸检测方法分为基于肤色特征的方法和基于灰度特征的方法两类。前者适用 于构造快速的人脸检测和人脸跟踪算法，后者利用了人脸区别于其它物体的更为 本质的特征，是人脸检测领域研究的重点。目前，人脸检测方法主要有基于知识 的方法、基于特征的方法、基于模板的方法、基于统计的方法1 2 1 等。由于人脸检 测问题的复杂性，无论哪一类方法都无法适应所有的情况，一般都针对人脸检测 领域内某个或某些特定的问题。 厌度特征包括人脸轮廓特征、人脸灰度分布特征( 镶嵌图特征、直方图特征 等) 、器官特征( 对称性等) 、模板特征等。 轮廓是人头部的重要特征。c r a w 等【1 0 】首先在低分辨率图像中使用一个轮廓 模板匹配出入脸的大致范围，然后在高分辨率图像中使用s o b e l 算子获得边缘的 位置和方向，并连接出完整的人脸轮廓。w a n g - 等1 4 j 提取边缘特征并根据广义 h o u g h 变换抽取椭圆形状信息。人脸核心区域( 眼睛、鼻子、嘴区域) 具有独特的 灰度分布特征y a n g 等j 首先提出了人脸的镶嵌图( m o s a i ci m a g e ，又称为马赛克 图) 特征。所谓镶嵌图就是将图像划分为一组大d q , h 同的方格，每个方格的灰度 为格中各个像素的平均值。镶嵌图特征是指这些块的值应满足的约束规则。l u 等1 6 l 依据人脸的左右对称性，通过提取投影直方图特征检测人脸的旋转角度，再 提耿镶嵌图特征。d a i 等t 1 2 】提取空问灰度共生矩阵( s g l d ) 特征等等。 人脸区域内的各个器官( 如双眼、鼻子、嘴等) 是人脸的重要特征。k o u z a n i 等【1 3 l 使用人工神经网分别检测眼睛、鼻子、嘴以及人脸的整体特征。人脸区域 的灰度本身可以作为模板特征，通常取仅包含双眼、鼻子和嘴的面部中心区域作 为共性的人脸模板特征【1 4 】，排除掉头发、脸颊两侧变化很大的部分。被广泛地 用于基于统计学习的人脸检测方法中。 人脸的检测过程实际上就是对人脸模式特征的综合判断过程，包括多种方 法。基于启发式模型的方法茸先抽取几何形状、次度、纹理等特征，然后检验它 们是否符合人脸的先验知识。 g o v i n d a r a j u 等e ”l 使用变形模板( d e f o m a b l et e m p l a t e ) 匹配头顶轮廓线和左右 两条面颊轮廓线，实现人脸定位。 2 第一章绪论 y a n g 镣l i l j 提出了基于镶嵌图( m o s a i ci m a g e ，_ 叉称为马赛党圈) 的人脸检测方 法。y a n g 等：l 鍪久验豹纛襄嚣域分弱翔分为4 4 个帮8 8 个骂赛瓷涣，羡蠲一筑囊 则进行检骏，并且利用边缘特征进一步验证。卢春掰等对镶嵌圈方法进行了改进， 按照脸器官的分布将人脸划分为3 3 个马赛克块，在检测中自邋应地调整各块的 大小，使瘸一缀基于各块灰度襄撵发统计特征的知识蕊粼检骏浚区域是否必久 脸，取得了较好的实验缭采。 人脸区域内的各个器官也具有较为恒定的模式，因此一些方法首先检测器官 ( 如双眼、爨子、嘴等) 或局部特征，然后根据它们的相对位置关系判断整个区域 是否是久羧。k o u z a n i 等l 珏l ：| 冬使蠲入王享孛经瓣分潮稳测蠢来豹袋薅、奏子、嘴瑷 及人脸的髂体特征及相甄问的位置关系输入一个模糊神经元网络，根据其中的领 域知识判断被检测的区域是否为人脸。m i a o 等1 1 6 】从输入图像中提取可能对威于 疆毛、眼噫、嘴等器寅嬲水平方向懿憝赛克边缘( m o s a i ce d g e ) ，鞭4 算备段边缘黪 “重心 ( g r a v i t yc e n t e r ) 螽，使瘸“重心”模板进行适配，最后使用荻度和边缘特征验 证匹配的结果。该方法对人脸位姿的变化具有较强的适应能力。采用局部特概检 测方法的述有基于双眼检测的方法【1 7 1 、基于概率框架的局部特征聚类方法【1 8 j 以 及缝褥摸黧、纹理镤登秘特薤模鼙穗结合戆方法1 1 9 1 等。 人脸灰度模板也可以看作是一种启发式模型。粱路宏等1 9 1 使用了直接的平均 脸模板匹配方法。与c a i 辑【4 4 j 的方法不同，该方法考虑到眼睛襁人类辨识人脸过 程中的特殊馋用，使用双跟模板首先进孳亍粗筛选，然蘑使用不溺长宽比鲍入黢模 扳进行莲聚，最后往嗣玛赛克瓶辩遴行验证。 此外遥有l u 等【5 】根据投影直方图分析首先确定人脸的旋转角度，然后使用基 于镶嵌图的方法检测人股；d a i 等【1 2 】根据空间灰度拭现矩阵特缀检测人脸等等。 其它基予翅鼍筵摸鍪豹方法爵酸参冕文簸l 铷。 利用人脸的轮廓、对称性等少量特征的方法通用于较强约柬条件下( 如简单 背景、头肩图像) 的人脸检测。由于使用的特征较少，此类算法可以达到较简的 检测速度，实现实时检测与跟踪。葶 j 明人脸矗宫分蠢特征敬知识模型方法能够在 一定程凄上遥蘑予杂臀袋图像中静入簸检测，露辩遮到较高静捡溯速度，鲡文献 ”6 , 3 1 等。但怒需要看到，硬想进一步提高知识模型的适应能力，需要综合更多的 特征，这实际上涉及到圈像理解这一困难的问题。这是此类方法进一步发展遇到 戆主要薅礴。 由于人脸的复杂性，最式的描述人脸特征具有定的困难，因此基于统计的 方法越来越受到重视，此类方法将人脸区域看作一类模式，即模板特征，使用大 量的“大脸”意非人脸”榉本训练、 勾逑分类器，遁j 筵粼别图像中所有可能区域属 予臻类模式豹方法实瑷入验豹检测。实际上，久验徐溅闷题被转化为统诗模式识 别的二分类问题，有关工作几乎涉及到所有经典模式识别方法。 3 浙江师范大学硕士学位论文 主分量分析( p r i n c i p a l c o m p o n e n t a n a l y s i s ，p c a ) 是一种常用的方法。它根据 图像豹统量 将蠖进行正交交换( k 毛变换) ，以涟赊暇有囱量备个分爨阗兹耀荚性。 变换得到对应特征假依次递减的特征向量，即特征脸。m o g h a d d a m 等【2 l ，2 2 1 发现人 脸程特征脸空瓣的投影聚集比较紧密，因此列用藏装于张特征脸将入验彝鬃投影 到主元予空问f 和与其正交的补空问f ，相鹿的距离度量分别称为d i f s s t a n c e i nf e a t u r es p a c e ) 帮d f f s ( d i s t a n c ef r o mf e a t u r es p a c e ) 。蔚予人脸裣溯闽遂，由于 没有考虑“非人脸”样本的分布，需要同时使用d i f s 和d f f s y j ”能取得较好的效果。 m l 零豹s 潲g 等1 1 4 t 提出了蓥予事铡学习豹方法，秘霄使瓒了1 9 x 1 9 像素分辨率 的“人脸”和“非人脸”样本。样本预处理后按行列顺序展开为样本向艇进行主分量 分聪。采溺b 均篷聚类方法在特征窀溷孛建立6 今“久夔”簇( c l u s t e r s ) ，弱辩建立 包围“人脸”簇的6 个“非人脸”簇，以使“人脸”与“非人脸”模式的边界更为清晰。 s u n g 等镬用梯本至务个簇巾心懿距舞训练一个多屡感氧器遴行分类。霉要撂出夔 是，人脸检测中“非人脸”样本的选取是一个较为困难的问题。s u n g 等使用了“自 举 ( b o o t s t r a p ) 方法加以织决：善先建立一个仅使用“大脸”簇瓣拐始分类器瓣一缝 图像进行检测，将所有的错谖报警( 不是人脸而被错检为“人脸”的结果) 加入“非人 脸”梯本库，构造毅的使用“入脸”与“菲人黢”簇的分类器重耩检测。以上邀程不 断遮代，直剐收集了足够的“非入脸”样本。 属于特征空| 目j 房法的遥有因子分解方法( f a c t o ra n a l y s i s ，f a ) 秘f i s h e r 凇则方 法( f i s h e rl i n e a rd i s c r i m i n a n t ，f l d ) 。y a n g 等口班程混合线性子空间( m i x t u r e so f l i n e a rs u b s p a c e s ) g h x “人脸”和“非人脸”样本的分布进行建模，分别使用基予e m 算法1 2 4 j 的扩最f a 方法和基于自组织映射( s e l fo r g a n i z i n gm a p ，s o m ) 择j 的f 翰方 法构造检测器。此外，小波变换也被用于人脸检测，如文献1 2 5 , 2 6 1 中使用了小波变 换摄取入验豹多分辨率特鬣作为分黉豹依据。 人工神经网( a n n ) 方法是把模式的统计特性隐禽在a n n 的结构和参数乏中， 对予入验这炎复杂静、难疆最式搔逐静模式，基予a n n 的方法其鸯独特静优势。 c m u 的r o w l e y 等2 9 1 使用了多个a n n 检测多姿态的人脸，算法的框架有两类 a n n ：l 令鬣姿捡溺器( p o s e e s t i m a t o r ) 用子 鑫诗输入窑1 1 1 串久验豹彼姿、3 令捡灞 器( d e t e e t 0 0 分别检测正面( f r o n t a l ) 、半侧面( h a l f p r o f i l e ) 和侧丽( p r o f i l e ) 的人脸。使 蔫经逑对准释颈链壤浆“久簸”撵本黻及采蠲“自举”( b o o t s t r a p ) 方法收集分类器错 分的样本作为“非人脸”样本训练各个a n n ，进一步修正分类器。检测时对输入图 像孛溪存爵缝位置帮尺发熬区城蓠宠使弱鬣姿捡测器睡谤入羧篷姿，经校臻秘殒 处理后送入3 个检测器中，最后对检测器的分类结聚进行仲裁。在上述框架下， 删l e v 等对蚕瑟蝼疆久脸秘委瑟旋转入脸的检测肇独进行了磅究印。l 。瓣予正 面端币的人脸，仅使用了萨面人脸检测a n n ，是种三层前向网：输入层对应 2 0 x 2 0 像素嬲图像区域；隐艨苓点分为对应不同入簸区域的薅于组，与输入层邦 4 第一章绪论 分连接；a n n 输出1 至u 1 区间的值表示这个区域怒露为人脸。r o w l e y 等使用相同 豹“久验”徉本蠢不嚣“巍举”过程毅簇麓“菲久簸”榉本铡练了多令正嚣久验检测 a n n ，对眩们的检测结果进行仲裁，以进一步减少错误报警。对于正面旋转入 脸的检测使用了旋转角度检测器及藏丽人脸检测a n n ，并使用相似的多a n n 仲 裁方法降骶错误掇警。纂予人工种经网静方法遥蠢j u e l l 等口o l 秘k o u z a n i 等掇滋的 基于入脸器官检测豹多级网络方法、a n i f a n t i s 等 3 1 1 提出的双输豳人工神经黼的检 测算法等。 基于概率模型方法的一种思路怒计算输入图像区域r e g i o n 属于人脸模式 o b j e e t 鹣掰验壤率痰。毯e e t l r e g i o n ) ，攥魏霹掰寿霹麓兹图像密翻遴行翔爨。c m u 的s c h n e i d e r m a n 等【3 2 j 3 】提出一种基于后验概率估计的人脸检测方法。该方法利 用贝叶斯原理将后验概率估计转化为一个似然度求解问题： p b e 参。咄。嗨e c t i 絮。 p ( r e g i o nlo b j e e t ) 零 五。p ( o b j e c t ) p 幻b j e c t ) 将难以估计的先验概率e ( 0 6 j e c t ) 和p ( o b j e c t ) 用一个比率参数k 代替，作为 辕簧捡溅器敏感疫弱参爨。s e h n e i d e r m a n 等采蔫6 4 6 4 豫素懿模式区域，将箕努 为1 6 个子隧域，通过予区域独立性等假设降低“人脸”和“非人脸”模式分布袭达式 p ( r e g i o ni o b j e c t ) 和p ( r e g i o n o b j e c t ) 的复杂性，最展转化为稀疏编码的直方嘲，通 _ 遘计算碉练样本豹紧发袋褥嚣耱模式豹糕率分套。s c h n e i d e r m a n 等还褥壤率 鑫诗 的方法用于检测正面旋转入脸和侧面入脸，同时使用多分辨率信息复用和由粗到 精搜索的策略提高检测的速度【3 3 1 。属于这一类的述有w e b e r 3 4 1 等提出的视点不变 性学习( v i e w p o i n t 1 n v a r i a n tl e a m i a g ) 憨方法等。 另一种概率模型怒用于籀述信号统计特彀豹隐马尔w 夫模型( h i d d e n m a r k o vm o d e l s ，h m m ) ，目l j 也被成用于人脸检测与识别。n e f i a n 等1 3 5 】根据舻面 人脸由上到下各个区域( 头发、额头、双眼、鼻子、嘴) 具有自然不变的顺膨这一 事实，键蠲一令毽含矗令获态豹一绫连续h m m 热潋表示。将头部鎏覆按照遮五 个区域划分为互有重藏的条块，对备块进行k l 变换，选取前若干个变换系数作 为观测向嫩训练f t m m 。n e f i a n 等【3 6 j 逐提出了基于嵌入式h m m 的人脸检测方法。 该方法翳融考虑到人脸凌左到在各个特短静皂然蹶序，使用了二维h m m ，舞量 采用二维d c t 变换的系数作为观察翔蓬。此外还露m e n g 等1 2 q 锼耀h m m 描述入验 的小波特镊中不同级i h j 的相关性等方法。基于h m m 的方法一般只使用“人脸”样 本进行训缘，主要针对用于人脸识别的头肩部图像。 。 支持惫曩穰( s u p p o r tv e c t o rm a c h i n e s ，s v 磁) 怒v a p n i k 等挺滋熬基于络稳筑验 最小化原理( s t m c t 哪lr i s km i n i m i z a t i o np r i n c i p l e ，s r m ) 的统计学习理论i 3 7 删，用 于分类与脚归问题。s r m 使v c ( v a p n i kc h e r o v n e n k i s ) 维数的上限最小化，遂使得 5 浙江师魏大学硕士学位论文 s v m 方法比基于经验风险最小化( e m p i r i c a lr i s km i n i m i z a t i o np r i n c i p l e e r m ) 的 人工静经嬲方法其鸯燮磐戆泛毒乏戆力。o s u n a 等1 3 9 豫s v m 方法矮予久验检测，取 得了较好豹实验结栗。该方法的基本思路是对每一个1 9 1 9 像豢的检测窗翰使用 s v m 进行分类，以区分“人脸”和“j # 人脸”窗口。s v m 的训练使用了大量人脸样 本和“囊举”方法”4 1 。收榘的“非入脸”样本，并且使用逼近优化躲方法h o 】减少支持 矢量懿数鬣。需要浇碉戆蹙，长期瑷来s v m 豹训练需要求解计算复杂瘦缀裔静 二次规划问题，限制了该方法的应用。p l a i t l 4 1 i 撮出的s m o ( s e q u e n t i a lm i n i m a l o p t i m i z a t i o n ) 算法解决了s v m i ) i i 练困难的问题。 a d a b o o s t 算法是f r e t m d 等人1 4 2 1 鼹囊懿一移b o o s t 算法，它瓣鞋蠡是皂凌蘧鼓 弱分类器空间中挑选出若干个弱分类器整合成一个强分类器。v i o l a 等f 4 3 1 掇出一 种基于h a a r - l i k e 型特征的a d a b o o s t 算法，并利用潍布型分类器实现了实时商效的 人脸检测锋法，为人黢检测的实际成用提供了可能，其瀑布型检测器的优秀憔能 在缀丈程度上要羯功予a d a b o o s t 算法。 1 3 本文主要工作和创新点 1 3 1 本文酾研究内容 图l 一1 人脸检测研究对象毋意图 f i g 1 - 1f a c ed e t e c t i o nr e s e a r c ho b j e c t s 6 第一章绪论 本文以灰度图像中复杂背景下准直立正面人脸的检测为研究对象( 如图l 一1 所示) 。此类问题对场景基本没有约束，而且图像中人脸的数量、尺度、位置、 以及光照条件等均为未知。基于统计模型的方法是目前比较流行的方法，是解决 复杂的人脸检测问题的有效途径。它具有如下优点川( 2 1 ：( 1 ) 不依赖于人脸的先 验知识和参数模型，可以避免不精确或不完整的知识造成的错误；( 2 ) 采用了机 器学习的方法获取模型的参数，在统计意义上更可靠。( 3 ) 速度较快，使得多位 置和多尺度搜索成为可能。( 4 ) 通过扩展样本可以扩充检测模式的范围( 多姿态 和多方向人脸) 、提高检测系统的鲁棒性。基于统计模型的人脸检测算法一般框 架如图1 2 所示： 结果仲裁 图1 - 2 基于统计模型的人脸检测算法框架 f i g 1 - 2f a c ed e t e c t i o nb a s eo 1s t a t i s t i c a lm o d e l 本文工作主要集中在构造特征问题上，并系统化了分类器训练，优化了特征 计算、搜索策略和结果仲裁等环节，准确率取得了一定提高，检测速度得到了显 著提升。 1 3 2 本文的创新点 本文的创新点主要体现在以下3 个方面： 1 ) 提出了模板子窗口树概念，使传统的单模板或根据先验知识的多模板6 7 】 得以扩展，并利用积分图实现高效相关系数计算，通过s v m 核的构造在特征层 次进行融合，并通过瀑布型a d a b o o s t 粗筛选以进一步加速检测速度。此方法在 无先验知识情况实现整体与局部信息的有效融合。 2 ) 针对光照条件对人脸检测的重要影响问题，提出了相位一致性人脸概念， 相位一致性是一种无量纲的，对图像亮度和对比度变化具有不变性的测度，将相 位一致性图的积分投影图作为特征，使相位一致性特征维数得到大幅降低。 3 ) 改进金字塔搜索的检测结果仲裁方式，保留重叠窗1 ：3 中分类器输出值最大 7 浙江师范犬学硕士学位论文 的窗口( 假设大于0 为人脸) 。 1 3 3 本文组织结掏 第一章，绪论。介绍了人脸检测研究的背景和研究现状，本文主要工作和创 薮轰。 ， 第二章，统计学习理论。奔绍了统计学习理论豹基本闷麟和核心内容，霪点 介绍了本文研究的算法涉及的s v m 和a d a b o o s t 算法。 第三露，基于模板子窗口树匹配特征的人脸检测算法。奔绍了积分图的概念， 将穰叛嚣竣菝霆叉秘送行翅努焉撵取莲配将薤，镶劲积分强蜜魏稠关系数鹣快速 计算，结合s v m 进行分类，并使用瀑布型a d a b o o s t 作为粗筛选层。 第四章，基于相位一致性的人脓检测算法。介绍了相位致性模型，滤波器 的没计，以楣佳一致瞧露的入验撩潮区域的积分投影为特链续会s v m 进 亍分类， 并使用瀑布型a d a b o o s t 作为藕筛选朦。 第矗窜，总结与展望。对全文做了总结，提出了存在的一贱问题，指出了今 后应努力的方向和对涞来工作的展凝。 8 2 1 引言 第二章统计学习理论 基于数据的机器学习是现代智能技术中的重要方面，研究从观测数据( 样本) 出发寻找规律，利用这些规律对未来数据或无法观测的数据进行预测。包括模式 识别、神经网络等在内，现有机器学习方法共同的重要理论基础之一是统计学。 传统统计学研究的是样本数目趋于无穷大时的渐近理论，现有学习方法也多是基 于此假设。但在实际问题中，样本数往往是有限的，因此一些理论上很优秀的学 习方法实际中表现却可能不尽人意，存在着一些难以克服的问题，比如说如何确 定网络结构的问题、过学习问题、局部极小值问题等，从本质上来说就是因为理 论上需要无穷样本与实际中样本有限的矛盾造成的。 与传统统计学相比，统计学习理论( s t a t i s t i c a ll e a r n i n gt h e o r y 或s l t ) 是_ 种 专门研究小样本情况下机器学习规律的理论。v a p n i kv 等人从六、七十年代开始 致力于此方面研究【州，到九十年代中期，随着其理论的不断发展和成熟，也由 于神经网络等学习方法在理论上缺乏实质性进展，统计学习理论丌始受到越来越 广泛的重视1 4 5 , 4 6 1 ，我国早在八十年代末就有学者注意到统计学习理论的基础成果 例，9 0 年代末也有较为完整的综述【5 2 】。 统计学习理论是建立在一套较峰实的理论基础之上的，一种专门研究小样本 情况下机器学习规律的理论，它从更本质上研究机器学习问题，为解决有限样本 学习问题提供了一个统一的框架。它能将很多现有方法纳入其中，有望帮助解决 许多原来难以解决的问题( 比如神经网络结构选择问题、局部极小点问题等) ：同 时，在这一理论基础上发展了一种新的通用学习方法支持向量机( s u p p o r t v e c t o rm a c h i n e 或s v m ) ，它具有全局优化、适应性强、理论完备、泛化性能好等 优点，已表现出很多优于已有方法的性能。一些学者认为s l t 和s v m j 下在成为继 神经网络研究之后新的研究热点，并将有力地推动机器学习理论和技术的发展 【4 6 】。 2 2 机器学习的基本问题 2 2 1 问题的表示 基于数据的机器学习是现有智能技术中的重要方面，其机器学习的目的是根 9 浙江师范大学硕士学位论文 掘给定的训练样本求对某系统输入输出之间依赖关系的估计，使它能够对未知输 出作出尽可能准确的预测，如图2 1 所示。 输入j输出， 预测输出， 图2 - 1 机器学习示意图 f i g 2 1m a c h i n el e a r n i n g 可以一般地表示为：变量y 与x 存在一定的未知依赖关系，即遵循某一未知 的联合概率f ，( x 和y 之间的确定性关系可以看作是其特例) ，机器学习问 题就是根据，个独立同分和观测样本： ( ，y 。) ，( 而，y 2 ) ，( 西，- 1 1 )( 2 - 1 ) 在一组函数 f ，叻) 中求一个最优的函数f ( x ，w o ) 对依赖关系进行估计，使期 望风险： 月( ) = p ( y ，( x ，t o ) ) d f ( x ，y ) ( 2 2 ) 最小。其中， f ( x ，叻 称作预测函数集，w 为函数的广义参数， f ( x ，叻 可以 表示任何函数集；l t y ，f ( x ，”) ) 为由于用f ，曲对y 进行预测而造成的损失，不同类 型的学习问题有不同形式的损失函数。预测函数也称作学习函数、学习模型或学 习机器。 有三类基本的机器学习问题，即模式识别、函数逼近和概率密度估计( 这里 暂时没有讨论非监督模式识别问题。实际上，如何在非监督模式识别问题中应用 统计学习理论正是当前值得研究的课题之一) 。对模式识别问题，输出y 是类别 标号，两类情况下尸 0 ，1 ) 或 l ，一1 ，预测函数称作指示函数，损失函数可以定义 为： 上( 弘( x , t o ) ) = ：箩；i ；：二：；， c 2 一s ， 使风险最小就是b a y e s 决策中使错误率最小。在函数逼近问题中，j ，是连续 变量( 这里假设为单值函数) ，损失函数可定义为： l ( y ，( x ，珊) ) = ( y 一厂( 工，脚) ) 2 ( 2 - 4 ) 即采用最小平方误差准则。而对概率密度估计问题，学习的目的是根据训练 样本确定x 的概率密度。记估计的密度函数为p 叻，则损失函数可以定义为 l ( p ( x ，缈) ) ；一l o g p ( x ，彩) ( 2 - 5 ) 第二章统计学习理论 2 2 2 经验风险最小化 在上面的问题表述中，学习的目标在于使期望风险最小化，但是，由于我们 可以利用的信息只有样本( 2 1 ) ，( 2 ，2 ) 式的期望风险并无法计算，因此传统的学习 方法中采用了所谓经验风险最小化( e r m ) 准则，即用样本定义经验风险： 1 r ，( ) = ( m ，厂( ，珊) ) ( 2 6 ) - l 作为对( 2 2 ) 式的估计，设计学习算法使它最小化。对损失函数( 2 3 ) ，经验风 险就是训练样本错误率；对( 2 4 ) 式的损失函数，经验风险就是平方训练误差；而 采用( 2 5 ) 式损失函数的e r m 准则就等价于最大似然方法。 事实上，用e r m 准则代替期望风险最小化并没有经过充分的理论论证，只 是直观上合理的想当然做法，但这种思想却在多年的机器学习方法研究中占据了 主要地位。人们多年来将大部分注意力集中到如何更好地最小化经验风险上，而 实际上，即使可以假定当，趋向于无穷大时( 2 6 ) 式趋近于( 2 2 ) 式，在很多问题中 的样本数目也离无穷大相去甚远。那么在有限样本下e r m 准则得到的结果能使 真实风险也较小吗? 2 2 3 复杂性与推广能力 e r m 准则不成功的一个例子是神经网络的过学习问题。开始，很多注意力 都集中在如何使k 。( 们更小，但很快就发现，训练误差小并不总能导致好的预 测效果。某些情况下，训练误差过小反而会导致推广能力的下降，即真实风险的 增加，这就是过学习问题。出现过学习现象的原因主要是由于学习样本不充分和 学习机器设计不合理，这两个问题是互相关联的。究其原因，是试图用一个十分 复杂的模型去拟合有限的样本，导致丧失了推广能力。由此可看出，有限样本情 况下，1 ) 经验风险最小并不一定意味着期望风险最小；2 ) 学习机器的复杂性不但 应与所研究的系统有关，而且要和有限数目的样本相适应。我们需要一种能够指 导我们在小样本情况下建立有效的学习和推广方法的理论。设计一个好的学习机 器的目标就变成如何在学习能力和推广性之i 日j 取得一个平衡，使得在满足给定学 习能力的前提下，提高其推广性。 2 3 统计学习理论的核心内容 统计学习理论被认为是目前针对小样本统计估计和预测学习的最佳理论。它 从理论上较为系统的研究了1 ) 经验风险最小化准则下统计学习一致性的条件；2 ) 在这些条件下关于统计学习方法推广性的界的结论；3 ) 在这些界的基础上建立的 1 1 浙江师范大学硕士学位论文 小样本归纳推理准则；4 ) 实现新的准则的实际方法( 算法) 等问题。 其中，最有指导性的理论结果是推广性的界的结论，和与此相关的一个核心 概念是函数集的v c 维。 2 3 1 v c 维 为了研究学习过程一致收敛的速度和推广性，统计学习理论定义了一系列有 关函数集学习性能的指标，其中最重要的是v c 维( v a p n i k c h e r v o n e n k i s d i m e n s i o n ) 。模式识别方法中v c 维的直观定义是：对于一个指标函数集，如果 存在h 个样本能够被函数集中的函数按所有可能的2 种形式分开，则称函数集 能够把h 个样本打散；函数集的v c 维就是它能打散的最大样本数目h 。若对任 意数目的样本都有函数能将它们打散，则函数集的v c 维是无穷大。有界实函数 的v c 维可以通过用一定的闽值将其转化为指示函数来定义。 v c 维反映了函数集的学习能力，v c 维越大则学习机器越复杂( 容量越大) 。 遗憾的是，目前尚没有通用的关于任意函数集v c 维计算的理论，只对一些特殊 的函数集知道其v c 维。比如在疗维实数空间中线性分类器和线性实函数的v c 维是时1 ，对于一些比较复杂的学习机器( 如神经网络) ，其v c 维除了与函数集( 神 经网结构) 有关外，还受学习算法等的影响，其确定更加困难。对于给定的学习 函数集，如何( 用理论或实验的方法) 计算其v c 维是当前统计学习理论中有待研 究的一个问题【4 ”。 2 3 2 推广性的界 统计学习理论系统地研究了对于各种类型的函数集，经验风险和实际风险之 问的关系，即推广性的界1 4 5 j 。关于两类分类问题，结论是：对指示函数集中的 所有函数( 包括使经验风险最小的函数) ，经验j x l 险。( 叻和实际风险r ( 叻之间 以至