基于视频序列的人体动作识别

1、密级： 学校代码：10075分类号： 学 号：20081194工学硕士学位论文基于视频序列的人体动作识别 学位申请人： 刘 涛 指导教师：张 欣 教授 学位类别：工学硕士 学科专业：电路与系统 授予单位：河北大学 答辩日期：二一三年六月Classified Index: CODE: 10075U.D.C.: NO: 20081194A Dissertation for the Degree of MasterHuman Action Recognition Based on Video SequencesCandidate：Liu TaoSupervisor：Prof. Zhang XinAc

2、ademic Degree Applied for：Master of EngineeringSpecialty：Circuits and SystemsUniversity：Hebei UniversityDate of Oral Examination：June, 2013河北大学学位论文独创性声明本人郑重声明： 所呈交的学位论文，是本人在导师指导下进行的研究工作及取得的研究成果。尽我所知， 除了文中特别加以标注和致谢的地方外，论文中不包含其他人已经发表或撰写的研究成果，也不包含为获得河北大学或其他教育机构的学位或证书所使用过的材料。与我一同工作的同志对本研究所做的任何贡献均已在论文中作了

3、明确的说明并表示了致谢。作者签名： 日期： 年 月 日学位论文使用授权声明本人完全了解河北大学有关保留、使用学位论文的规定，即：学校有权保留并向国家有关部门或机构送交论文的复印件和电子版，允许论文被查阅和借阅。学校可以公布论文的全部或部分内容，可以采用影印、缩印或其他复制手段保存论文。本学位论文属于1、保密 ，在 年 月 日解密后适用本授权声明。2、不保密 。（ 请在以上相应方格内打“” ）保护知识产权声明本人为申请河北大学学位所提交的题目为（基于视频序列的人体动作识别）的学位论文，是我个人在导师（张欣）指导并与导师合作下取得的研究成果，研究工作及取得的研究成果是在河北大学所提供的研究经费及导

4、师的研究经费资助下完成的。本人完全了解并严格遵守中华人民共和国为保护知识产权所制定的各项法律、行政法规以及河北大学的相关规定。本人声明如下：本论文的成果归河北大学所有，未经征得指导教师和河北大学的书面同意和授权，本人保证不以任何形式公开和传播科研成果和科研工作内容。如果违反本声明，本人愿意承担相应法律责任。声明人： 日期： 年 月 日作者签名： 日期： 年 月 日导师签名： 日期： 年 月 摘 要摘 要人体动作识别是当今机器视觉领域的研究热点，它涉及到图像处理、模式识别、人工智能等多个学科的相关知识。基于视频的人体动作识别包括人体区域检测、动作及姿态分割以及用于进行动作识别的目标分析和行为理解

5、等。在分析总结该领域研究人员相关工作的基础上，本文针对俯卧撑运动的特点进行动作和姿态分割，并对其完整动作进行识别。本文的主要研究内容如下：1、本文针对目标动作的特点提出了一种基于动作变化率特征的动作及姿态分割方法。首先获取图像中动作区域的轮廓信息，根据连续图像序列中轮廓信息的变化情况挖掘出动作的变化率，然后利用量化后的动作变化率界定动作及姿态的分割点，最后按照对动作识别的意义大小，将不同的姿态划分为关键姿态和非关键姿态。由于关键姿态携带了进行动作识别的绝大部分信息，因而只利用关键姿态进行动作识别，这种方式有效地降低了计算复杂度，提高了实时性。2、本文针对视频采集和处理过程中产生的偶然性误差提出

6、了一种基于向量模的误差消除算法，用于消除数据序列中异常数据引起的误差，其基本原理是在原有数据序列的基础上利用多维向量的模构建一组新的数据序列。首先采用某一数据节点及其相邻数据模拟多维向量各方向上的各个分向量，然后计算此多维向量的模并将其作为与当前数据节点对应的新数据序列中的节点。3、本文在动作及姿态分割的基础上采用了基于棍状模型的动作识别方法，通过分别建立各关键姿态的人体模型并与实际动作人体进行比较的方式进行目标分类和动作识别。结合大量的实验对以上方法和算法进行稳定性和准确性的验证，验证结果令人满意。关键词 俯卧撑 动作分割 姿态分割 向量模 模型匹配 动作识别IAbstractAbstrac

7、tHuman action recognition is a hot research field of machine vision today, it comes to the knowledge of image processing, pattern recognition, artificial intelligence and other disciplines. After analyzing and summarizing the work of the researchers in the field, we segment the movements and posture

8、s of push-up based on its characteristics, at last we identify the complete action of push-up with the previous works.The main contents are as follows:1. In this paper, contrary to the characteristics of the target action, we proposed a gesture segmentation method based on the characteristics of the

9、 change rate of action. First, obtain the contour information of the operation area in the image, digging out the operation according to the contour information changes in a continuous sequence of images. Then defines the split point of the movement and the posture with the quantized action change r

10、ate. Finally in accordance with the significance for the action recognition, the gesture is divided into the critical gestures and non-critical ones.2. This paper presents an algorithm to eliminate errors, this algorithm is based on the magnitude of a vector, and it is used to eliminate the errors c

11、aused by the abnormal data in the data sequence. The basic principle is to build a set of vectors using several adjacent data.3. This paper uses a stick-shaped model method for action recognition, create the model of the key postures, and compare with the actual human body, by this way the target cl

12、assification and action recognition. Combined with a large number of experiments, the stability and accuracy of the above methods and algorithms is verified, and the results are satisfactory.Keywords: push-up, action segmentation, gesture segmentation, norm of vector, model matching, action recognit

13、ion目 录目 录第1章 绪 论11.1 人体动作识别11.2 人体动作识别的应用领域21.3 人体动作识别方法简述31.3. 1 基于概率统计的方法31.3.2 基于语法的方法41.3.3 基于模型的方法41.4 人体动作识别的难点和面临的挑战51.5 本文的研究意义及主要工作61.5.1 研究意义61.5.2 主要工作7第2章 人体区域检测82.1 人体区域检测方法82.1.1 静态背景下的人体区域检测82.1.2 动态背景下的人体区域检测92.2 本文中的人体区域检测92.2.1 建立背景模型92.2.2 利用背景减除法得到人体区域102.2.3 人体区域处理10第3章 动作特征提取12

14、3.1 基于特征的方法123.2 基于模型的方法133.3 本文的动作特征提取163.3.1 从人体区域中提取轮廓特征163.3.2 利用轮廓特征的变化获取动作变化率特征173.3.3 动作变化率的优化18第4章 俯卧撑运动的动作及姿态分割204.1 动作分割简述204.2 动作分割中的难点214.2.1 动作过渡区的问题214.2.2 解决方法214.3 基于动作变化率的动作及姿态边界检测224.3.1 动作分割224.3.2 姿态分割224.4 俯卧撑的动作及姿态分割过程及结果224.4.1 运动人体的提取与处理224.4.2 运动状态特征提取与优化234.4.3 俯卧撑的动作及姿态分割2

15、3第5章 俯卧撑运动的动作识别255.1 人体动作识别概述255.1.1 人体动作识别存在的难点255.1.2 人体动作识别所需的理想化条件255.1.3 人体动作识别方法分类265.2 基于运动特征的人体动作识别275.2.1 运动特征选择275.2.2 运动特征匹配285.3 基于模型的人体动作识别285.3.1 人体模型建立285.3.2 俯卧撑模型的建立295.3.3 模型评价305.4 实验过程及结果315.4.1 俯卧撑模型参数的确定315.4.2 利用模型识别待测样本33第6章 总结与展望346.1 本文总结346.2 工作展望34参考文献36致 谢41V第1章 绪 论第1章 绪

16、 论1.1 人体动作识别人类认识世界、接收信息的最主要途径是通过视觉，视觉不仅是指对外界光源的感知，也包括对信息的获取、处理和理解的多个过程。已有的研究表明，人类大脑所接受信息中有80%以上都是来自于视觉。由此可见，作为人类交流中信息传递的最重要方式，视觉在人类的生活和生产中都扮演着极为重要的角色。近年来，随着影视、网络等媒体的高速发展和广泛普及，视频无疑已经成为人们获取信息的重要工具，自动采集和识别视频信息的需求也越来越多。目前，基于视频序列的人体动作识别是一个非常活跃的研究领域，由于人体动作识别的最终目标是让计算机可以自动识别和理解人的行为，包括个人活动、人与人的交流、人与周围事物的交互行

17、为等，而人体动作作为人体运动的构成元素或单元，是进行人体运动识别和分析的基础，因此在该领域内，许多研究人员非常关注对人体动作进行自动识别和分析。针对人体动作所展开的识别工作可追溯到上世纪70年代心理学家Johansson对于运动感知所进行的一系列实验。他通过设置人体的运动的关节点，将人体动作抽象为关节点的位置和变化。实验表明：通过实验中产生的关节点集合序列，就可以获得许多有意义运动信息，例如，可以辨别走路、跑步等运动形态。在过去的二、三十年中，基于视频序列的人体动作识别一直受到研究人员的关注，付出了许多努力，提出了许多行之有效的研究方法，包括对视频序列中运动人体的检测、识别、跟踪以及对其动作进

18、行理解和识别。人体动作识别根据研究对象来分，可以分成针对整体运动的识别和针对身体局部动作展开的识别。其中，整体运动包括两种，一是整体运动轨迹，二是全身所有动作部位共同组成的整体动作。局部动作也可进一步划分成两类：以人脸、唇、手势等为动作部位的小尺度运动和以手臂挥舞、腿部迈动等动作形式的较大尺度运动。从研究内容来分，人体动作识别可以按照难易程度分为静态姿势识别和动态过程识别。初期的动作识别是以静态姿势识别为主，通过将人体运动的动态过程转化成一组静态的姿态进行识别。如今随着人体动作识别技术的不断发展，无论是从识别方法上，还是从计算机的处理能力上来看，都已经具备了识别人体动态过程的条件，这也是当前研

19、究的重点。1.2 人体动作识别的应用领域运动的连续性是视频的重要特性之一，也是形成视频数据处理的复杂性的主要因素。随着视频采集设备（摄像机、实时监控设备等）的价格不断下降以及计算机性能的持续提高，使得视频序列的采集和视频信息的处理都变得更为容易，这也使得相关行业关于人体动作识别的需求越来越多，使人体动作识别和分析成为新的研究热点。人体动作识别的目的在于，成功实现人体运动视频的采集，在此基础上通过分析计算得到人体动作的特征参数，自动识别和评价人体运动类型及运动状态。对人体动作进行自动识别和分析将带来一种全新的交互方式，它在高级人机交互、体育运动分析、自动视频监控、基于内容的检索等方面具有广阔的应

20、用前景1。1）高级人机交互人体动作识别的主要应用领域之一就是高级人机交互。人类交流的方式分为两种，包括自然语言和人体语言，其中对人体语言的理解，包括手势、头部运动、肢体活动等身体动作。在未来的智能化环境中，人与计算机或其它设备之间的交互将不再局限于键盘和鼠标，这种交互要求计算机通过视频采集设备收集人体语言的视频信息，并理解人体动作所表达的内容，从而达到人与机器顺利交互的目的。利用人体语言进行交互的方式不容易受到环境噪声和距离的限制，能从中获取较多细节，对于在自然场景中进行人机之间的智能交流非常有用。2）体育运动分析人体动作识别是体育运动识别的核心部分，而体育运动分析也是人体动作识别的应用领域之

21、一。以往对于人体在体育运动及活动中的识别主要是通过人眼观察和运动经验进行判断和改进。当前，越来越多的体育运动开始借助于智能的人体动作识别，这有助于对体育运动进行客观和量化的分析，统计运动数据，提供科学直观的辅助识别手段。人体动作识别可以用于创建个性化的体育训练和分析系统，加速数字化体育运动训练进程，甚至可以在转播体育比赛的过程中，为观众提供比赛评注和赛况讲解等实时信息。步态识别作为人体运动的重要组成部分是目前被研究较多的运动形式之一23。医学领域的步态识别可用于为诊断和治疗病患提供支持，正常步态与病患的步态的比较，可以作为诊断的依据。步态作为一种生物的自然特征，在人与人之间具有差异性，目前已被

22、用于远距离的身份验证，有望成为一种新式的简单有效的安全防控手段。3）自动视频监控人体动作识别和分析的另一个重要应用是自动视频监控。自动视频监控系统不仅要求能够感知视频序列中的人体，而且要求能够识别并分析人的动作，即：是否有人？他在干什么？步态识别是人体动作识别中的一个研究方向，它可以通过对视频中人走路的形态数据进行识别，从而实时对行为人进行访问控制，可以在一定程度上保障公共安全。自动视频监控的过程一般包括运动目标识别、目标分类、目标跟踪和行为识别等几个部分。通过这些步骤，计算机可以在不借助人工干预的情况下自动监视摄像头所在的场景，在出现异常时发出警报。4）基于内容的检索针对规模较大的视频数据库

23、，我们需要对这些视频进行高效的管理与访问。但是要使检索视频能够像检索文本一样，就要对视频数据作基于内容的检索。通过对视频中的人体运动和动作信息进行识别和识别，正确标识不同类型的视频，帮助人们在视频数据库中快速找到目标片断，从而实现高效地管理和查询视频数据库，提高视频信息的使用效率。人体动作识别在多个其它相关领域也有十分重要的应用。例如，影视片、虚拟现实以及游戏中的动作制作需要使用人体动画技术，通过视频采集人体的动作信息，利用计算机对这些信息进行恢复和重建，然后驱动动画角色做出相似的动作，达到更为形象、逼真的效果。此外，人体动作识别技术的发展还能够对于人体生理和心理学的研究产生一定的促进作用。可

24、见，如今人体动作识别已经渗透在人们日常生活的多个方面，它对于提高和改善人们的生活品质有重要的作用和意义，因此越来越多的研究人员都投入到了该课题的研究当中。基于视频序列的人体动作识别是一项涉及多个学科的研究工作，与之相关的领域包括：机器学习、图象处理、模式识别、计算机视觉等，而且它的研究成果可以应用到其他领域，能够对计算机视觉的整体研究工作产生广泛的推动作用。1.3 人体动作识别方法简述1.3. 1 基于概率统计的方法概率统计的方法基于这样的描述：在任意时刻一个系统均可被描述为处于若干个独立状态中的某一种状态，系统每隔一定时间都会根据与连续状态的概率从而转换到下一个状态。使用概率统计方法来进行动

25、作分析是将动作内的不同姿势各自定义为一个状态或者是状态的集合，然后利用网络的方式将这些状态进行连接，使用概率来描述状态之间的转换情况，可以将一个动作看成是一次这些状态的遍历。设输入点集合D = d1，d2，dt 表示可获取的动作特征数据，输出点集合O = o1，o2，ot 为可预测的输出状态，分析目的是获得一个状态集合O*，使得由该状态集合观测到D的概率P(O|D)最大，其数学表达式为：O* = argmaxP(OID)基于概率统计的方法将运动的微小变化在时间和空间上采用概率的方法建模，并且充分考虑到人体动作发生时的动态过程。因此，基于概率统计的方法对于动作序列在时间和空间上的微小变化具有非常

26、好的鲁棒性，目前已经成为主流的动作分析方法。其中，隐马尔可夫模型（HMM）是最常用的概率图模型4567。1.3.2 基于语法的方法人体动作识别的目的是为了服务于智能化的机器理解。即除了识别人体的动作种类并获取相关的动作信息之外，还需要分析系统或设备理解动作的意义或质量，然后采用更为高级的表达形式，最终完成对人体动作的分析和表达。近些年来，基于语法的分析方法引起了许多研究人员的注意，并被越来越多地应用于人体运动识别和动作分析。语义是以动作特征为基础而抽象出的高层含义，它可以跨越一些底层信息难以表达的细节，而对人体动作进行准确而详尽的细节表述，是描述动作信息的高级形式。使用基于语法的方法来实现人体

27、动作识别，可以很容易过渡到自然语言。例如Ivanov和Bobick 8对智能体的行为交互进行的检测和识别就采用了上下文无关的随机句法分析技术；Cho9等人以多个关节体运动的组合来表达人的行为和动作，应用统计语法推理自动识别人的行为动作10,11。尽管如此，在人体动作识别和分析领域还很不成熟，处于刚刚起步的阶段，有待研究人员的进一步发展。1.3.3 基于模型的方法许多识别和分析在根本上属于分类问题，而对于分类问题，最易理解、最直观的方法就是当前样本与预先准备好的静态模型进行比对，即基于模型的方法。基于模型的方法的主要思想是将图像序列转换为一系列静态形状模型，然后将其在识别过程中和动作样本进行比较

28、，依据相似程度来进行分类，文献 1213采用了这用方法。主要方法有模型匹配（Template Matching）、动态规划（Dynamic Programming）和动态时空规整（Dynamic Time Warping）1415。1.4 人体动作识别的难点和面临的挑战目前，人体动作识别技术虽然已经有了一定的发展和成果，但仍然处于研究阶段，研究人员依然很难设计一套高性能的、完善的人体动作识别方案，还有许多问题有待解决，这些问题产生的主要原因在于：1）人体结构的复杂性和非刚体的人体运动人体是许多部位借助肉体和关节结合的复杂的有机体，一项运动往往包含若干个不同的动作或姿态。人体运动属于非刚体运动，

29、动作作为运动过程中的某个阶段，身体各个部位有不同的姿势以及运动方向，对于计算机处理来说，动作中就会包含复杂的运动特征。除此之外，由于人与人之间所存在的身形体貌、运动习惯等差异，也会使不同的人在做相同的动作时表现出差异，这也会增加识别难度。2）运动分割的准确性运动由一连串不同的动作构成，许多动作之间并没有明显的界点，要进行显式分割非常困难。并且，不同的动作在进行转换时还会有不规则连接姿态，这些连接姿态也不尽相同，同样对运动的分割造成困难。因此，要利用计算机成功地处理人体的连续运动，一个不可忽略的关键因素就是提高运动分割的准确性。3）视频序列与理想数据的差异计算机要处理自然影像，首先要将其存储为视

30、频序列，但由于受到多种因素的制约，这些视频不会是理想的运动数据。造成这些状况的主要因素有：运动人体的晃动、背景干扰、摄像机的抖动、视频的清晰度、光照条件的微弱变化、运动人体的阴影等。因此，在人体动作识别中消除误差也是一个非常重要的环节。4）算法的鲁棒性有待改进尽管人体动作识别已经开始应用到现实生活中，但当前的应用都比较简单，对算法的鲁棒性要求不高，与人工识别和识别有着显著的差距。如果要将该技术更多地应用于生活中，提高分析效果的准确性，朝着更为智能化、人性化的方向发展，就需要进一步提高系统的鲁棒性。另外，动作分析还受限于其它方面的因素：1）运动的分类和定义。目前，对于不同的人体运动形式，国际国内

31、都还没有一个明确的划分标准，运动、行为、行动、基元、动作、姿态等已有的运动层次界限模糊。除此之外，一个具体动作由哪几个姿态构成，可以分成几个阶段，起始结束如何界定，这些内容都是研究人员按照经验和实验需求自行定义和划分。2）数据来源。在相同的标准下进行比较才有意义，同样，只有在相同数据平台上进行的研究实验才会有横向比较的意义，但是就各种人体运动来说，标准数据库还很少，甚至没有，这也加剧了对研究成果价值进行判定的难度。1.5 本文的研究意义及主要工作1.5.1 研究意义在军事训练及体育运动中，人体动作的识别和分析应用相对较少，绝大多数情况下训练动作的观察和物理分析都是依靠人力解决。这种模式存在以下

32、劣势：1）日常训练和体能考核都是人对人的模式，一对一的监督训练模式对人力造成一定的浪费，尤其是在军事体能训练中，有时甚至还会出现多人监督一人的情况。2）在人力监督的情况下，训练中的动作标准难以统一，在监督标准相差较大的情况下，训练和考核的效果就会受到不利影响。3）不能记录训练和考核的过程，不便于日后对训练和考核进行分析或指导。随着视频处理技术的发展以及视频处理硬件设备成本的降低，在军事训练以及体育训练中使用基于视频的动作分析技术不仅有助于避免人力浪费、提高工作效率，还有利于建立规范的训练标准，提升训练效果。当前国内军事科技化程度不断提高，数字化技术越来越多地投入到军事领域，并且日趋紧张的国际国

33、内形势也对军事领域的方方面面提出了更高的要求。提高军队的作战能力，除了要对日益重要的军事装备进行升级，更为关键的因素还在于人的军事素质，其中体能素质军人最基本的军事素质，也是其作战能力的基础。本文着眼于这种态势，选择军事训练过程中的最基本体能动作俯卧撑作为研究对象，研究用视频记录体能训练动作并对其进行识别和分析的过程和方法。1.5.2 主要工作人体动作识别是对运动序列中的人体动作进行识别和理解，本文进行识别的过程主要可以分为人体区域检测、特征提取、动作分割、动作识别。其中，人体区域识别是从视频序列或图像序列中将人体区域检测出来；特征提取是从运动序列中确定并提取必要的动作信息；动作分割是根据所选

34、择的动作特征将一个完整地动作进行分割，姿态分割是将动作具体化为姿态层次，然后将分割出来的姿态库按照重要程度进行分类，便于在后续的识别工作中根据其所含信息权重采取差异化处理，着重识别计算那些具有重要意义姿态，这种处理方式有助于提高自动分析的程度，降低分析的复杂度。动作识别则是借助一定的识别方法在视频序列中对人体动作进行分类，最终确定动作的类别和质量。此外，我们还对识别中出现的偶然性误差进行校正，采用向量的某个维度模拟误差的产生，并用向量差的方式消除误差。围绕以上内容，本文按照以下章节进行组织：第1章 绪论第2章 人体区域检测第3章 动作特征提取第4章 俯卧撑运动的动作及姿态分割第5章 俯卧撑运动

35、的动作识别第6章 总结与展望41第2章 人体区域检测第2章 人体区域检测视频序列中的人体区域检测是一个重要且十分困难的研究领域，在人体运动分析中，人体区域的识别与提取是后续跟踪识别和活动分析的基础。要从图像序列中提取运动人体首先要进行运动目标的检测，运动目标检测是滤除图像中与运动对象无关的信息。正确检测运动目标能极大地提高跟活动分析以及踪识别的正确率。运动目标检测的方法主要可以分为三种：第一种是时间差分法，利用时间序列图像间的差分来检测运动目标；第二种是背景减除法16，将图像序列中的单帧图像与参考背景模型相减来检测运动目标；最后一种是光流法1718，是对图像的运动场进行估计，将相似的运动矢量合

36、并，形成运动目标的检测。2.1 人体区域检测方法人体区域检测是指从视频序列中提取静态图像序列，在其中检测出目标人体，并将其与背景图像分离1920。人体区域检测是进行动作识别的必要前提。检测过程中可能遇到两种类型的背景：静态和动态背景。当视频采集设备位置固定且图像序列中只有人体区域发生变化，背景可视为静态。背景减除法和帧间差分法是在静态背景下经常使用的两种人体检测方法。在图像序列中除了人体还有其他物体发生变化，背景则视为动态的，动态背景下的人体区域检测要相对复杂得多。2.1.1 静态背景下的人体区域检测背景减除方法是目前从图像序列中检测人体区域时最常用的方法。背景减除法比较适合于视频采集设备位置

37、固定的情况，其基本原理是将当前视频帧的图像和预先构建背景模型图像进行差值运算和阈值化，进而检测出人体区域。背景减除法的处理过程一般分为三个步骤：背景模型建立、当前图像与背景模型差分、图像的进一步处理。背景模型建立的相关研究人员已经做了很多意义重大的工作，Lin等人21提出了将背景模型更新方法分为盲目性更新22和选择性更新，Lee23对混合高斯模型的更新方法进行了改进并获得了良好效果。经过背景差分初步获得人体动作区域后，通常还需要对差分图像进行进一步的处理，去除阴影和噪声、进行腐蚀膨胀等。本文进行的实验中，视频采集设备位置固定，应用环境中的光照情况也较为稳定，因此采用背景减除方法检测人体区域。帧

38、间差分法2425一般从视频序列中提取相邻的两帧或三帧图像，依次进行差分，得到图像帧间的不同，然后以阈值化的方式检测人体区域。Collins等人26采用三帧差分并进行了改进，他们通过结合自适应的背景减除法从而更为迅速地检测出人体区域。帧差法无需建立背景模型，能在一定程度上适应光照变化，因此可以适用在某些动态环境中，但是其获得的特征数据点往往不够完整，检测出的人体区域完整性不好，并且在选择相邻图像的数目和间隔时还需要参照人体的运动速度，使用的场合受到制约27。2.1.2 动态背景下的人体区域检测（1）基于变化区域的检测方法，通常认为相邻帧间的背景在全局运动估计和运动补偿后是静止的，这时可通过相邻帧

39、图像的差分检测到运动区域。Neri28认为动作目标具有很强的结构性而噪声具有高斯特性，可利用互帧差的四次高阶统计量分割出背景区域和动作区域。（2）基于光流场和运动参数估计的方法，找出与动作模型的象素区域相匹配的区域，然后连接这些区域构成动作对象。为了适应动态的背景，可以通过计算光流场和运动参数估计，在相邻帧之间进行差分检测到动作区域。文献29利用了光流法，对不同目标和背景的区分借助了运动速度信息。但因为光流估计的可靠性较差，提出了基于贝叶斯法的运动分割方法。贝叶斯法可以做到同时进行分割并进行运动估计，效果较为理想，但计算量大，并且先验参数不好估计，不适用于实时处理系统。针对这些问题，Nuno3

40、0又提出了一种改进的贝叶斯运动分割算法，此算法并不需各种先验参数，需要的仅仅是一个合适的先验表示。2.2 本文中的人体区域检测本文着重研究军事训练中的人体动作识别，在很多情况下，这些动作都是在相对固定的位置内由身体的某个或几个部位协同完成的，因此，我们采用背景减除法进行实验，通过将视频中的图像序列与预先建立的背景模型进行差值计算，可以呈现完整的人体动作。2.2.1 建立背景模型建立背景模型的主要方法有：平均背景模型，非参数化背景模型，高斯背景模型以及CodeBook背景模型。本文采用平均背景模型。 在进行人体动作的视频录制的过程中，当人体还未进入取景范围时，或是人体已经完成动作走出取景范围后，

41、视频采集设备获取的视频序列实际上是纯背景图像。借助这些纯背景图像，我们可以建立平均背景模型。2.2.2 利用背景减除法得到人体区域在提取视频序列中的人体区域时，本文采用了背景减除法。通过平均背景模型的方法建立背景图像，然后将背景图像与后续待测的视频序列中的图像做差值运算并取其结果的绝对值，得到在背景图像的基础上发生变化的图案。检测当前帧的人体区域时，需要用该帧的像素值减去背景模型中相同位置像素的平均值，得到差值，将与一个阈值进行比较，那么得到输出图像output的值如下： 图2.1为减除图像背景的示例，左侧为背景图像，中间为动作序列中的某一帧图像，右侧为前两者作差后取绝对值的图像。 图2-1

42、背景减除2.2.3 人体区域处理由于在进行动作及姿态分割时只需要动作主体的轮廓及边缘等信息，而不涉及颜色等信息，因此，本文在提取出人体区域后将差值图像进行二值化处理，以降低计算的复杂度，提高系统的实时性，图2.2 是参数为二值化阈值为0.1时得到的二值化图像。图2-2 图像二值化进行二值化后的图像存在一些不连续的零散的图案，产生这种零散图案的原因很多，并且在一般的实验环境中难以避免。为了消除零散图案对动作识别的不利影响，我们采用bwareaopen()函数来将图像中的某些零散图案消除，图2.3 是在前一步的基础上消除面积小于50像素的零散图案。图2-3 去除零散图案第3章 动作特征提取第3章

43、动作特征提取人体的动作特征实际上是一系列能够反映动作状态的参数，这些参数从运动或动作序列中进行抽取，包括直接从图像序列中获取的颜色、纹理、尺寸等信息，或是由自动跟踪采集得到的运动学信息，比如动作的速度、加速度、幅度、关节角度、位置等，这些信息都可以用作特征参数。动作特征是进行动作分析的依据，它的选择和提取需要按照分析对象的特点来确定。按照是否使用人体模型，可以将特征提取方法分为两种类型：基于特征的方法以及基于模型的方法，其中基于模型的方法是在基于特征的方法的基础上发展起来的，因此它的处理方式也更为复杂。3.1 基于特征的方法基于特征的方法是动作识别中起步较早的方法，也是较为直接的识别方法，从图

44、像的动作人体或是人体的动作区域上提取有意义的表观特征（一般是二维信息），然后根据这些特征进行识别和分析，找出动作特征并与人体动作进行相关匹配。在图像中经常采用的人体表观特征有：轮廓、颜色、比例、光流等等。现将一些常用动作特征的提取方法总结如下：1）提取动作人体的轮廓特征轮廓特征是人体动作的重要表观特征。星型骨架方法31以及傅立叶描述子32等方法都是常见的轮廓特征描述方法。提取轮廓特征的一般步骤包括：背景减除、人体检测、噪声消除、特征提取。第二章中已经介绍了有关背景减除、人体检测和噪声消除的相关内容，本章着重介绍特征的选择与提取。2）利用图像中的颜色信息对动作部位进行描述或跟踪由于人眼观看视频信

45、息的过程中所获取的许多信息都是基于颜色信息的，因此颜色信息可以在很大程度上对动作进行描述。在早期的动作分析中，通常以一种与动作人体色差较大的颜色作为背景，便于将人体从图像或视频中提取出来。随着相关领域的研究逐渐走向应用，背景的颜色呈现出复杂化的趋势，这对人体动作和分析中基于颜色的环节提出了挑战。在图像中标记颜色的方式有很多种，基于RGB和HSV颜色空间以及基于灰度的颜色是目前最常用的颜色标记方式。3）通过基于光流场和基于全局动作估计的方法进行描述4）多种动作特征相结合动作特征根据实验需要和对动作的描述可以分为多个种类，而且每种动作特征都不能涵盖所有的动作信息，所以经常可以将多种特征结合使用。增

46、加一种参与到动作分析中的特征可以使特征包含更大的信息量，能够对动作进行更为准确的描述，因此，在复杂度可以接受的情况下，可以结合多种动作特征进行分析，以实现更好的分析效果。文献33就是将动作目标的轮廓信息和图像时间特性结合起来，利用规范化的动作图像(Motion History Images简写为MHI)描述人体动作，先是对人体剪影进行差分，含有动作区域的图像在时间累计的过程中成为运动能量图像(Motion Energy Images简写为MEI)，MHI中各个像素的值与其所在位置的持续动作时间成比例关系，最后提取出用于动作分析的特征向量，即基于Zemike矩的统计描述。由于动作特征的获取源于二

47、维图像，只反映了动作的二维特征，并且没有根据人体的物理结构建立人体或动作区域的模型，因此，基于特征的方法相对容易实现，计算量较小，适用于实时分析系统。但由于图形信息的获取易被干扰，且从二维图像中获取的动作特征所反映动作信息的完整度不高，尤其是在人体动作进行过程中常常会产生身体各个部位的互相遮挡，从而导致许多动作信息无法获取，此外，对于人体外形差异和服装差异等因素造成的影响，基于特征方法也难以处理，因此，基于特征方法也有着明显的不足，即分析准确度不高，分析深度有限等。基于表观特征方法通常针对简单的动作分析或是作为模型方法的基础及辅助部分。由于人体外观和形态存在多样性，人体动作细节具有复杂性，所以

48、基于特征的方法在很多时候不能满足进行深度动作分析的需求。研究人员又提出了基于模型的方法，通过建立人体模型来获得更为丰富的动作信息，以便于进行更高层次的人体动作识别。3.2 基于模型的方法通过模型识别人体运动信息，首先利用人体结构的先验知识建立人体模型，然后提取图像底层特征匹配到模型中，并以运动规律加以约束，从而得到人体运动信息。由于采用统一的人体模型表征任意个体，因此能够不受人体外形差异的影响。而在发生特征难以获取或不准确的情况下，运动规律可以指导人体姿态的估计，使之近似于实际情况。因此，比较基于特征的方法，基于模型方法能获得更精确、更完备的特征数据，有利于识别更加复杂的人体运动，已成为人体运

49、动识别发展的趋势。模型建立一般可以分为三个阶段：初始化阶段、动作跟踪阶段、姿态估计阶段。初始化阶段主要是指摄像机的定标，背景图像的获取和背景模型的建立、人体模型的初始参数估计等。跟踪阶段是提取图像的底层特征，并对应帧之间的特征。姿态估计阶段需要将底层特征与人体模型进行匹配，从而得到运动人体在当前帧的特征。在这三个阶段顺利完成之后，就可以得到人体运动特征数据，为运动识别提供依据。根据使用的不同，人体模型可以分成两类，一类是二维模型，采用人体表观特征估计的二维形状来拟和人体各个部分；另一类是三维模型，一般先采用人体多关节骨架模型表示人体，然后根据需要定义一个身体形状模型附着在骨架模型之上，如圆柱、

50、圆锥几何模型3435。人体模型示意见图2.3和图2-4。（1）二维人体建模用于人体动作识别的二维模型相对简单，一般是从图像序列中提取人体的表观特征，将人体按照动作区域进行分割，分割出头、躯干、四肢或是更为细致的多个不同部分，根据这些元素估算人体二维模型的参数。根据所采用模型元素形式的不同，人体二维模型可以分成带状模型、椭圆模型、矩形模型和不规则块模型，如图3-1。二维模型建立时常常简化参数估计，通过减少二维模型的参数数量来对人体投影进行建模。带状模型利用二维带状元素为躯干、四肢建立模型，如图3-1（a）。Geurtz36等人利用椭圆为人体各个部分建立模型。矩形模型是利用矩形为人体的头、躯干、四

51、肢建立模型，如图3-1（b），每个矩形区域都受到旋转参数、平移参数和缩放参数的控制，通过调整这些参数就可以对这些矩形进行操作，模拟某个时间节点上图像中人体的姿态。Wren等人开发的Pfinder系统，按照颜色特征和空间特性将人体各个部分划分成不规则的区块（Blob），每个区块的位置和颜色用高斯分布表示，这些区块分别表示头、躯干和四肢。（b）二维矩形模型（a）二维带状模型 图3-1 人体二维带状和矩形模型示意图人体二维模型的参数相对比较简单，适用于对时间性能要求较高，而对精度要求不高的情况。但是二维模型的方法缺乏深度信息，位置信息也不够精准，难以对人体动作进行细致和全面的分析。如果需要对复杂的动

52、作信息进行较为全面的分析，就需要用到三维人体模型。（2）三维人体模型三维人体建模是计算机仿真领域一个极其重要组成部分，同时它也作为一项热点的研究内容在人体建模领域拥有重要的地位。三维人体模型包括很多种形式，从实体模型建立到线框建模，再到曲面模型的建立，以及基于物理信息的模型建立，这些建模形式都已经取得许多重要的成果。线框建模是指采用构造三维物体的一些图形来表示技术，如：点、直线、圆弧等。它是最早在CAD/CAM等计算机图形学应用中用来表示人体模型的建模方法。这种建模方法仅仅采用点、线的形式表示一个形体，定义过程简单，数据量少，修改和编辑起来也较为容易，符合许多工业应用中的实用性需求。许多复杂的

53、人体模型设计通常先勾画出人体的基本轮廓，然后根据实际应用逐步细化，最后将其用线框图形和关节表示出来。由于线框建模的方法包含的信息有限，其存在的不足有：1）歧义性和模糊性，即在表达三维人体时不能表现出唯一性；2）真实感较差，难以实现三维人体模型自动消隐；3）无法进行剖面操作。尽管如此，线框建模方法可以简单并且直观地模拟人体的动作，还可作为实体建模以及曲面建模的基础，所以仍被广泛应用。实体建模含有两部分内容。第一部分是定义并描述人体元素，人体元素是指用来表示人体模型的基本元素，常见的有球体、柱体、长方体、锥体等元素；第二部分是不同人体元素之间的集合运算，包括合并、差集、交集等。由于采用实体建模的三

54、维人体不再仅仅只能表达人体的外表及轮廓信息，还能表达人体的实心部分，因此人体信息更加完备，从而使对三维人体的描述更接近无二义性的目标。实体建模提供了近乎完整的几何和拓扑信息，包括顶点、边界、表面和实体等，因此它加强了图形的真实感，还可以从空间角度表达人体的体态信息。曲面建模首先要获取三种基本元素：顶点、边缘和表面。除此之外，这三种几何元素间的相互关系也是描述三维人体的关键因素。它最大的特点就是表达了三维人体的表面信息，所以具有较强的真实感，并且可以消除隐藏线。但是由于曲面建模的方法没有对三维人体的实心部分进行明确的定义，因此涉及到实心内容的人体模拟不适合采用曲面建模的方法。目前，国内的研究人员

55、在进行三维人体建模时为了让人体模型获得较高的逼真度，经常采用曲面建模的方法。文献37采用的是基于特征的曲面建模方法。基于物理的建模方法38是基于改善传统人体建模技术的不足而发展起来，传统的人体建模技术往往依赖人体的轮廓特征，而忽略了对外部环境因素以及人体本身物理特征的表达，所以，为了获得更加真实的建模效果，此方法试图将人体的物理特征以及环境方面的外部因素加入到传统的建模方法中，使之成为一种包含更多人体信息和动作信息的模型建立方式。此外，由于时间变量的引入，还可以有效地对人体的动态特征进行有效的表达。这种方法的出现弥补了传统建模方法的不足之处，在许多研究人员的努力下获得了迅速的发展。但是，就计算的复杂程度来说，基于物理的建模方法要比传统建模方法复杂得多，一般采用对微分方程组进行数值求解的方式来进行动态系统的计算，并以此表达人体的动作规律。3.3 本文的动作特征提取本文的研究对象为军事训练中的基本动作，包括俯卧撑、仰卧起坐、深蹲等，在视频记录设备只能记录二维信息的条件下，这些动作具有的一个非常重要的共同点是：人体侧面的图像包含了最多的动作信息。因此，本文进行的视频采集及特征提取都是基于动作人体的侧面图像。俯卧撑是一种在个人锻炼以及体育和军事训练中经常出现的徒手运动项目，在