基于ransac算法的sift特征匹配研究(OpenCV VS2010)(最终版).doc

SHANGHAI JIAO TONG UNIVERSITY学士学位论文THESIS OF BACHELOR 基于ransac算法的sift特征匹配研究（OpenCV+VS2010）1视频图像跟踪系统上海交通大学毕业设计（论文）学术诚信声明本人郑重声明：所呈交的毕业设计（论文），是本人在导师的指导下，独立进行研究工作所取得的成果。除文中已经注明引用的内容外，本论文不包含任何其他个人或集体已经发表或撰写过的作品成果。对本文的研究做出重要贡献的个人和集体，均已在文中以明确方式标明。本人完全意识到本声明的法律结果由本人承担。 作者签名： 日期： 年 月 日1上海交通大学毕业设计（论文）版权使用授权书本毕业设计（论文）作者同意学校保留并向国家有关部门或机构送交论文的复印件和电子版，允许论文被查阅和借阅。本人授权上海交通大学可以将本毕业设计（论文）的全部或部分内容编入有关数据库进行检索，可以采用影印、缩印或扫描等复制手段保存和汇编本毕业设计（论文）。 保密，在 年解密后适用本授权书。本论文属于 不保密。（请在以上方框内打“”）作者签名： 指导教师签名：日期： 年 月 日 日期： 年 月 日视频图像跟踪系统视频图像跟踪系统摘要图像（Image）-是客观世界的景物通过光学系统作用后产生的影像。图像直观地反映了场景中物体的颜色、亮度等特征，从而使我们能清晰分辨他们的形状、大小和空间位置。近30年来人们试图研究基于计算机的视觉系统，并且试图利用其系统来代替工业农业上的有害劳动。这样的视觉系统渐渐地进入我们的生活，让我们的生活变得很丰富，并且我们现在享受着图像处理这学问的成果。在世界上的先进的国家都设立了图像处理研究所，研究解决国防部门所要的问题。本文将介绍基于OpenCV（Open Source Computer Vision Library）的视频图像匹配、拼接、融合和目标跟踪的算法以及方法。说到图像拼接，本文中所用的图像拼接算法是高效的SIFT特征算法。首先，用两个通用的USB摄像头来实时地进行采集图像，并对这两幅图像提取SIFT特征点。然后，进行粗匹配。最后用RANSAC算法对所提取出来的SIFT特征点匹配对进行提纯以及估计模型参数。最后把两幅图像拼接成一幅完整的图像，并且用加权平均算法进行无缝拼接。再进行摄像头标定，求出两个通用摄像头的内外参数，最后进行测距以及跟踪。最终取得了令人满意的结果。关键词：SIFT，匹配,拼接，配准，RANSAC2VIDEO TRACKING SYSTEMABSTRACTFor many years, people have been studying how to make the robot or the computer able to identify targets and obtain information about the surrounding environment. We people can easily see and identify every kind of objects, but for computers or robots, this is a very difficult task and it is a process that involves a lot of scientific knowledge. The main part of object recognition is digital image processing. After the invention of the computer, people began to direct their research on how to make the computer more powerful and useful. For this purpose, many scientists have dedicated their life for the development of computer. The rapid development of computer causes a very fast development of digital image processing. Why we people study science? Of course the answer will be to make our life easier, and to be able to live in our dream life, so that we can enjoy the life in comfort and happiness.Nowadays, Image processing technology is everywhere around us, but sometimes because we are used to this technology so we dont pay attention. For example, the phones handwriting input method, company entrance fingerprint identification system, license plate recognition system, robotics system program for exploring the lunar, medical imaging technology, facial recognition systems, and satellite imaging system and so on. In the last three decades, image processing technology has made a rapid development, which is inseparable from the development of computers, and more inseparable from the development of materials science. We can notice that science now have penetrated into every professional image processing and the image comes to many areas. These days image processing technology is directly related to our standard life, this technology involves image recognition, image analysis and image stitching, etc. Image processing is now facing enormous challenges, due to the development of materials processing industry, CNC machine tools and control theory, image processing technology requirements are very high, Therefore, many scientists have spent their life studying image processing technology, trying to develop more flexible, more reliable, more accurate image processing technology and image processing algorithms. Video tracking system includes the image stitching technology, when we mention image stitching technology, we have to talk about image matching and image registration, because these two modules are the core parts of the image stitching.In this study, I used Scale-invariant feature transform (SIFT) algorithm, this algorithm features repeatability, unique, localized, quantitative, accuracy and efficiency.First from the two cameras (people left and right eye) in synchronous reads the image sequence, and I applied these image sequences RANSAC algorithm based on SIFT feature matching and obtained a good image stitching. Then this image with an image template matching of image recognition and tracking (based on SIFT), while supporting the binocular measurements to obtain distance information. Typically, about two a moment to read the two camera images with a lot SIFT feature point, so the need to purify the data using the RANSAC algorithm, like that filter, however, so there is still a small amount of filtered wrong matching pairs. So we use RANSAC method parameter estimation perspective matrix. The so-called RANSAC method is a widely used model parameter estimation algorithm. Is the first of several randomly matched pairs (the thesis must select at least four pairs above), we see it as interior point, and then estimate the parameters, find out if you meet enough matrix matching pairs, then we think that this model is correct. If there is not enough to meet more than a match for, or very little, then we give up, and then randomly selected a few matches against repeated the above procedure. Experimental results show that seeks out such a perspective matrix is right.This paper describes the steps according to the above video tracking system developed and used by the process; I have improved algorithm and experimental results.Key words: SIFT, OpenCV, matching, RANSAC, video image目录第一章 绪论11.1 论文研究背景21.2 国内外研究现状31.3 论文任务和工作4第二章 SIFT特征算法52.1 有关SIFT算法的术语52.2 SIFT综述62.3 尺度空间和高斯滤波72.4 关键点检测122.5 特征点方向确定以及SIFT特征向量的生成152.6 SIFT特征点匹配162.7 本章小结19第三章 基于RANSAC算法的图像拼接系统设计203.1 对开源库OpenCV的简单的介绍203.2 开发环境的搭建（VS2010+OpenCV2.3.1）203.3 实时采集图像213.4 图像变换模型（矩阵）223.5 基于RANSAC的图像拼接233.6本章小结27第四章 基于OpenCV的摄像头标定以及测距284.1 摄像机标定一般模型（针孔相机模型）284.2 基于OpenCV的测距原理304.3 两个摄像头的标定以及测距334.4本章小结41第五章 总结以及未来的展望42参考文献42谢辞44第一章 绪论很多年来，人们一直研究怎么样才能够让机器人或者计算机识别目标、认知周围环境。在我们看来很简单的物体，计算机或者机器人很难辨别出来。这是一个很艰难的任务，也是一个涉及到很多科学的学问。我们所说的图像处理主要部分是数字图像处理。计算机的发明以后，人们开始着重研究怎么样让计算机的功能更强大更加具有实用性，随着岁月的流逝，很多科学家为了计算机的发展奉献了自己的一生。计算机的飞速发展给图像处理带来了飞速的发展。人类为什么要研究科学？无疑是为了让我们的生活更加滋润，让我们活在我们所设想过的梦幻里。这样我们舒舒服服的享受生活，幸福快乐地过着人生。数字图像处理技术无处不在。只不过我们习惯了没注意而已。比如说，手机的手写输入法、公司门口的指纹识别系统、交通统计时用到的车牌识别系统、探月机器人系统、医学成像技术、脸部识别系统和卫星拍摄系统等等。图像处理技术近三十年来得到了飞速的发展，这离不开电脑发展的伴随，更加离不开材料科学的发展。可见，现在科学的每个专业都渗透到图像处理，而且图像涉及到的领域很多。到哪儿都能感觉到图像处理技术的强大。图像处理技术的应用方面很广，小到我们所用的智能手机里，大到国防工业。在战争的时候，敌机发现是个很关键的问题，因为早发现可以早点做好战斗准备。用雷达发现敌机是主动的，所以容易被发现，但是，如果开发一个双目跟踪系统（利用两个已标定好的摄像头）的话，不会被敌机发现，也就是说被动跟踪方式。这样的系统是降低成本，而且不会被敌机发现，所以，其利用价值是无可限量的。图像处理技术有图像识别、图像分析和图像拼接等等。图像处理现在面临巨大的挑战，随着材料加工业、数控机床和控制理论的发展，各领域对图像处理技术的要求非常的高。所以，很多科学家用自己的一生去研究图像处理技术，试图研发出更灵活、更加可靠、更高精度的图像处理技术以及图像处理算法。作为处理图像的图像处理数学工具，MATLAB和MATHCAD不可缺少。此外，C,C+和Java是目前为止最受欢迎的视觉系统实现语言，这是因为它们在集成高级和低级功能方面力量强大而且编译能力强。1,11除此以外OpenCV开源库作为强大的图像处理开源库得到了广泛的应用。之所以得到了众多科学家开发人员的好评，是因为它是开放的，也就是说免费的，任何人都可以去用，其次呢，是因为它所拥有的图像处理功能非常之强大。比起其他图像处理软件，OpenCV的强大表现在它有很多封装好的函数，这些函数各个都是一个功能，比如说要是用visual c+中实现的功能，在OpenCV上用简单的几个函数来实现。下面着重介绍本论文的研究背景、国内外研究现状以及论文内容和组织结构。1.1 论文研究背景数字图像处理起源于20世纪20年代，当时通过海底电缆从英国的伦敦到美国的纽约采用数字压缩技术传输了第一张数字照片。之后的发展有点缓慢，知道第三代计算机的问世，才开始迅速的发展。3,6作为图像处理软件，OpenCV近十年来一直被人瞩目，一直被很多图像处理科学家们收到宠爱。虽然MATLAB具有很强大的科学计算功能和图像处理功能，但在图像处理功能方面超不过OpenCV的。麻省理工学院计算机科学与人工智能实验室的William T.Freeman曾说过“OpenCV库对从业人员而言非常有用，对初涉该领域的新手而言不失为一个优秀工具。正如其广而告之的那样，它是一套高效的计算机视觉算法。”OpenCV是一个开源的计算机视觉库，是英特尔公司资助的两大图像处理利器之一。作为一个跨平台的计算机视觉库，它为图像处理、模式识别、三维重建、物体跟踪、机器学习和线性代数提供了各种各样的算法。截止2009年8月，在网站的OpenCV下载次数超过2，200，000次。4 过去一周（从2013-05-16到2013-05-22），在的OpenCV下载次数超过了32，942次，这数字仅仅是一周的下载次数。OpenCV开源库至今更新到OpenCV2.4.5。本人在论文中所提到的算法都是用Visual Studio 2010和OpenCV2.3.1的搭建下写程序编译通过的。虽然OpenCV开源库是给大家开放的图像处理算法库，但是，在国内有关OpenCV的书籍和文献极少，针对初涉该领域的新手们的教程只有两本“学习OpenCV”（中文版），“OpenCV教程基础版”。在网上有与OpenCV有关的资料，但是，也是很少，而且相当零散。这种现象造成了很多喜欢玩OpenCV的人很难系统的学到OpenCV。不过，在互联网的飞速的发展的情况下，这样的现象渐渐地少了很多。因为互联网上有关OpenCV的论坛很多，喜欢跟OpenCV打交道的人们可以通过互联网上的论坛或者贴吧互相交流互相帮助。这样在某种程度上形成了OpenCV培训所。写这篇论文之前，本人也在互联网上得到了很多人们的帮助，也帮助过很多人们。但是，这也是一定的范围内进行的，也就是说局限在简单的程序语法或者特定的函数用法等等。本人在论文中用到的算法是尺度不变特征点（SIFT）算法，尺度不变特征点具有可重复性、独特性、局部性、数量型、准确性和高效性。下面看看国内外研究现状。1.2 国内外研究现状OpenCV的更新换代地升级给我们带来了很多好处，以前要写很长的代码完成某功能的操作不需要了，因为OpenCV的版本越高里面嵌在的函数的封装性越来越好。这给了我们极大地好处，只要我们能够了解怎么调用这些函数和图像处理的基础理论就好办了。视频图像跟踪系统其本身包含了图像拼接技术这领域，说道图像拼接技术不得不提起图像匹配和图像配准。因为这两个模块是图像拼接的主要核心部分。现在被广泛使用的匹配有特征匹配和模板匹配等等。其中特征匹配是本论文所利用的。特征匹配的最后效果好坏取决于特征空间的选取，所谓的特征空间就是由参与匹配的图像特征构成的。特征点的类型很多：比如原始灰度、显著特征点、边缘轮廓、统计特征、局部描述符、高层结构特征等。其中SIFT特征点几年来最为被广泛使用。利用SIFT特征空间的匹配大致分为三个步骤。第一步是特征提取，第二步是特征匹配。所谓的特征提取是指从具有共同部分的两幅图像提取共有的特征。特征匹配是对从两幅图像中提取出来的共有的特征点进行对应。Movarac在1980年提出了关于角点的最初算法。在这基础上1988年Harris把这个初始想法正式形式化为称为结构张量的两个特征值性质的问题。从此以后很多科学家加入到了这领域开始研究各种算法。Triggs和Kenney提出了广义角点度量。这时候的算法都有着致命的弱点，那就是对广义的视角的匹配效果并不好，就不适用。为了克服这问题，1995年，张正友提出了用兴趣点附近的图像区域进行匹配的方法。但他的算法无法解决图像旋转、尺度变化、投影变化等问题。直到2004年Lowe完善了根据1999年基于Lindeberg的图像尺度空间理论提出的SIFT（Scale Invariant Feature Transform尺度不变特征）算法。之所以SIFT特征空间被广泛使用，是因为它对缩放、旋转、平移和投影变换等等具有不变性。SIFT特征点匹配算法具有较强的鲁棒性，而且算法速度高、精度高。1.3 论文任务和工作近几年来SIFT特征算法成为了很多科学家以及研究员的研究热点。它以自身的优势渐渐地成为了图像匹配的主流算法。本论文围绕着如何将SIFT特征算法应用于视频图像跟踪系统中，实现从两个usb摄像头中读取的两幅图像进行匹配，怎么样提高匹配速度以及精度等问题开展研究。用SIFT算法进行的特征点的提取和粗匹配后的，效果还是不太理想，因为毕竟存在错误的匹配。所以，要用RANSAC（随机抽样一致性）算法对粗匹配的匹配对进行提纯工作。两个通用USB摄像头毕竟存在畸变性，特别是径向畸变厉害，所以，我们需要用OpenCV的自带函数来进行摄像头标定。在本论文采用的标定方法是张氏法，需要格子板，本论文采用的标定物正是具有9*6=54个角点的格子板标定物。通过OpenCV自带的标定算法以及相关的函数来求出摄像头的内外参数。利用求出来的内外参数进行简单的计算得到实际物体到摄像头的距离信息。利用已经标定好的摄像头进行测距的时候不需要模板匹配，因为只要找到很强的SIFT匹配对，也就是说只要找到正确的匹配对（当然跟目标相关的，其他的丢掉），就可以求出摄像头到物体之间的距离信息。首要条件是把两个摄像头放置的时候它们的光心轴要平行，以使让最后得出的距离接近实际的距离。下面来看看本论文理论结构以及各章的中心内容。下面就是论文主要内容：第1章 ：第一章为绪论，简单的论述了本论文的研究背景和国内外研究现状等。对图像处理经典算法进行了解剖，并论述了SIFT算法的优越性。最后给出了本论文的内容结构以及论文内容。第2章 ：第二章主要介绍了有关SIFT算法的知识以及具体实现的方法。最后还简单的介绍了RANSAC算法的一般原理。第3章 ：第三章是作为本论文的重点，着重介绍了从两个摄像头中读取的两幅图片中怎么样提取SIFT特征点、怎么样构建特征点空间以及怎么样粗匹配，最后介绍了经过RANSAC算法以后图像拼接以及配准原理和方法。给出了评估模型的一般方法。第4章 ：第四章讲述了基于OpenCV的摄像机标定原理和方法。针对双目视频跟踪系统的研制开发讲述了摄像机标定的数学原理以及具体实现方法和实验结果。第5章 ：第五章为总结和展望。第二章 SIFT特征算法作为一种局部描述子，尺度不变形特征变换，Sift(Scale Invariant Feature Transformation)被广泛利用着。它具有尺度不变形，在图像中找出关键点。从SIFT特征算法的诞生以来，出现了很多有关SIFT的算法，人们为了能够在现实中利用，而试图改进它。这些局部特征被广泛利用而且被研究的真正原因在于它能够表述统计意义的图像特征。接下来从下面开始着重看SIFT特征算法具体内容。2.1 有关SIFT算法的术语本节论述本论文常用的一些术语以及概念。（1） 特征点：特征点可以是一个点，可以是一个很小的局部区域，也可以是局部特征，这三个都是相同的概念，知识它们出现的历史时期不一样而已。当然我们想要的特征点最好是一个点，可以理解为我们所研究的数字图像离散化后得到的一个最小的单位-像素点。但是，我们在做研究的时候，我们所关心的就是特征点以及它的领域。因为特征点的领域所表现出来的是某个物体的边缘或者特定的角点，所以特征点的领域对我们后续的研究有很大的帮助。（2） 局部特征：特征可以分为全局特征和局部特征。我们很容易理解全局特征。比如说我们看一幅图片中孤立的物体时，或者看彩色照片的时候很容易检测到某个物体或者某个人的脸。因为我们人类所拥有的眼镜，也就是说人类的视觉系统是具有极高的全局特征辨别能力，不过，让计算机或者机器人能够认知这些全局特征，需要耗费很大的精力和资金的投入。即使做到了，也是在一定的范围内可行的。因为图像处理技术虽然近几十年发展到令人振奋的程度，但是实际应用中还有很多海量的问题需要解决。（3） 几何变换：几何变形有平移变换、平移+旋转变换、相似（平移+缩放+旋转）变换、仿射变换和透视变换。（4） 仿射变换：他所指的是两个互不相同的坐标下的矢量之间的边换。2.2 SIFT综述尺度不变特征转换(Scale-invariantfeaturetransform或SIFT)是一种电脑视觉的算法用来侦测与描述影像中的局部性特征，它在空间尺度中寻找极值点，并提取出其位置、尺度、旋转不变量，此算法由DavidLowe在1999年所发表，2004年完善总结。其应用范围包含物体辨识、机器人地图感知与导航、影像缝合、3D模型建立、手势辨识、影像追踪和动作比对。此算法有其专利，专利拥有者为英属哥伦比亚大学。局部影像特征的描述与侦测可以帮助辨识物体，SIFT特征是基于物体上的一些局部外观的兴趣点而与影像的大小和旋转无关。对于光线、噪声、些微视角改变的容忍度也相当高。基于这些特性，它们是高度显著而且相对容易撷取，在母数庞大的特征数据库中，很容易辨识物体而且鲜有误认。使用SIFT特征描述对于部分物体遮蔽的侦测率也相当高，甚至只需要3个以上的SIFT物体特征就足以计算出位置与方位。在现今的电脑硬件速度下和小型的特征数据库条件下，辨识速度可接近即时运算。SIFT特征的信息量大，适合在海量数据库中快速准确匹配。SIFT算法的特点有：1)SIFT特征是图像的局部特征，其对旋转、尺度缩放、亮度变化保持不变性，对视角变化、仿射变换、噪声也保持一定程度的稳定性；2) 独特性（Distinctiveness）好，信息量丰富，适用于在海量特征数据库中进行快速、准确的匹配；3) 多量性，即使少数的几个物体也可以产生大量的SIFT特征向量；4) 高速性，经优化的SIFT匹配算法甚至可以达到实时的要求；5) 可扩展性，可以很方便的与其他形式的特征向量进行联合。SIFT算法可以解决的问题：目标的自身状态、场景所处的环境和成像器材的成像特性等因素影响图像配准/目标识别跟踪的性能。而SIFT算法在一定程度上可解决：1.) 目标的旋转、缩放、平移（RST）2.) 图像仿射/投影变换（视点viewpoint）3.) 光照影响（illumination）4.) 目标遮挡（occlusion）5.) 杂物场景（clutter）6.) 噪声SIFT算法的实质是在不同的尺度空间上查找关键点(特征点)，并计算出关键点的方向。SIFT所查找到的关键点是一些十分突出，不会因光照，仿射变换和噪音等因素而变化的点，如角点、边缘点、暗区的亮点及亮区的暗点等。Lowe将SIFT算法分解为如下四步：1.尺度空间极值检测：搜索所有尺度上的图像位置。通过高斯微分函数来识别潜在的对于尺度和旋转不变的兴趣点。2.关键点定位：在每个候选的位置上，通过一个拟合精细的模型来确定位置和尺度。关键点的选择依据于它们的稳定程度。3.方向确定：基于图像局部的梯度方向，分配给每个关键点位置一个或多个方向。所有后面的对图像数据的操作都相对于关键点的方向、尺度和位置进行变换，从而提供对于这些变换的不变性。4.关键点描述：在每个关键点周围的邻域内，在选定的尺度上测量图像局部的梯度。这些梯度被变换成一种表示，这种表示允许比较大的局部形状的变形和光照变化。2.3 尺度空间和高斯滤波当用一个具有视觉系统的机器人在未知的场景下分析周围环境的时候，机器人的视觉系统没有办法预先知道图像中物体的真正尺度。所以，需要考虑得到的图像在多尺度下的描述，获得所感兴趣物体尺度。因此，尺度空间的很多处理算子跟哺乳动物视网膜和视觉系统有着极高的相似性。所以，尺度空间理论经常与生物视觉系统相关联。这一节将讨论尺度空间的基本概念以及理论基础。并且利用几个实际图像实例来介绍尺度空间理论在场景分析中的应用。2.2.1 图像的金字塔化图像的金字塔化所指的是对图像进行低通滤波操作。在图像的金字塔化中被利用的低通滤波器是高斯低通滤波器。具体地说，把一幅图像和高斯滤波器进行卷积运算后，再对图像进行横轴和纵轴的方向进行抽样。这样得到的一些列图像称之为已金字塔化的图像序列。不多，它虽然能够表达出图像在多尺度下的描述，但它缺少扎实的理论背景，很难分析图像中物体的各种尺度。早在1983年，Witkin提出信号的尺度空间表达就是利用一系列单参数、款读递增的高斯滤波器将原始信号滤波的道德一组低频信号。说道低通滤波器，虽然其种类很多，但是，Koenderink、Lindeberg、Florack等科学家利用精准的数学理论通过不同途径证明了高斯核就是实现尺度变换的唯一的变换核。2,13由不同高斯核组成的尺度空间是规范的和现行的，而且满足一下的若干性质：平移不变性、尺度不变性和旋转不变性等等。WItkin对尺度空间理论最重要的贡献之一就是把这些表达与信号在不同尺度上的结构用系统方法关联在一起，从而将尺度这个维度很自然的加入到尺度空间表达中，使得跨尺度图像结构的某些行为能够被捕获。2,132.2.2 高斯尺度空间 SIFT算法是在不同的尺度空间上查找关键点，而尺度空间的获取使用高斯模糊来实现，Lindeberg等人已证明高斯卷积核是实现尺度变换的唯一变换核，并且是唯一的线性核。本节先介绍高斯模糊算法。1.二维高斯函数高斯模糊是一种图像滤波过程。高斯模糊所用到的函数就是高斯函数（正态分布）计算模糊模板。使用该模板与原图像进行卷积运算，并且得到一系列模糊图像。N维空间高斯函数方程为： (2-1)其中，是正态分布的标准差，值越大，图像越模糊(平滑)。r为模糊半径，模糊半径是指模板元素到模板中心的距离。如二维模板大小为m*n，则模板上的元素(x,y)对应的高斯计算公式为： (2-2)在二维空间中，这个公式生成的曲面的等高线是从中心开始呈正态分布的同心圆，如图2.1所示。高斯函数是圆对称的分布不为零的像素组成的卷积矩阵与原始图像做变换。每个像素的值都是周围相邻像素值的加权平均。原始像素的值有最大的高斯分布值，所以有最大的权重，相邻像素随着距离原始像素越来越远，其权重也越来越小。这样进行模糊处理比其它的均衡模糊滤波器更高地保留了边缘效果。图2.1理论上来讲，图像中每点的分布都不为零，这也就是说每个像素的计算都需要包含整幅图像。在实际应用中，在计算高斯函数的离散近似时，在大概3距离之外的像素都可以看作不起作用，这些像素的计算也就可以忽略。通常，图像处理程序只需要计算(+1)*( +1)的矩阵就可以保证相关像素影响。2.图像的二维高斯模糊根据的值，计算出高斯模板矩阵的大小(+1)*( +1)，使用公式(1-2)计算高斯模板矩阵的值，与原图像做卷积，即可获得原图像的平滑(高斯模糊)图像。为了确保模板矩阵中的元素在0,1之间，需将模板矩阵归一化。5*5的高斯模板如表2.1所示。 表2-1下图是5*5的高斯模板卷积计算示意图。高斯模板是中心对称的。 图2.33.尺度空间理论以及高斯金字塔的构建尺度空间（scale space）理论早在1962年被Iijima提出了以后，Witkin 和Koenderink等人的推广下，渐渐得到了众多人们的关注，后来在计算机视觉领域内被广泛使用。尺度空间理论的基本思想是在图像信息处理领域里引入一个参数（我们称之为尺度），通过联系变化的尺度参数获取多尺度下的空间序列，并对这些已获取的序列进行轮廓的提取，以该轮廓作为一个特征向量，实现角点、边缘检测以及不同分辨率上的特征提取等。尺度空间方法改变了传统的单尺度图像处理技术，进一步实现了尺度连续变化的图像动态分析框架。尺度是自然存在的，不是认为创造的，高斯尺度空间只是表现尺度空间的一种形式。这样，能够更容易获得原图像的本质特征。尺度空间中各尺度图像的模糊程度逐渐变大，能够模拟人在距离目标由近到远时候的目标在视网膜上的过程。尺度空间要满足对图像的分析和图像的位置、大小、角度以及仿射变换无关，也就是说要满足平移不变性、欧几里得不变性、尺度不变性和仿射不变性。总的来说，要满足视觉不变性。视觉不变性的解释如下：比如拿我们人类所拥有的视觉系统解释。当我们用眼睛观察一个物体的时候，假如物体所处的背景的光照变化了，我们的视网膜上形成的图像的对比度和亮度水平就变了，而且我们和物体之间的距离变化的时候，在我们的视网膜上形成的图像信息不同的，就是说我们的视网膜上形成的图像的位置、大小、形状以及角度是不同的。所以，我们所要利用的尺度空间要克服这些变化，总体来说要满足尺度不变性、欧几里得不变性、平移不变性以及仿射不变性。下面我们来看尺度空间如何表示.一幅图像的尺度空间，定义为具有一个变化尺度的高斯函数与原图像I(x,y)的卷积。即*。 *表示卷积。 上面的公式(2-3) 下面的公式(2-4)X,y所指的是原图像的每个点的像素值，也就是说在图像坐标的坐标值。指的是尺度空间参数。值越小表示图像被平滑的越少，相应的尺度也就越小。大尺度对应于图像的概貌特征，小尺度对应于图像的细节特征。m，n表示高斯模板的维度。接下来要构建金字塔，第一步首先利用上述的公式对原图像进行多尺度的高斯模糊，第二部再进行采样后得到一系列多尺度下的高斯金字塔。 图2.4如同上面的图，可以看出所谓的金字塔模型就是对原图像进行降采样，从大到小，从下到上，把采样得到的图像序列排列的。每个金字塔模型里有n层，第一层就是原图像。金字塔的层数根据所用到的原图像的大小以及最上面的图像大小来决定。而且看图片就可以不难发现每次滤波的尺度参数值就是前一个参数值的两倍，而每次采样时候我们采纳了降采样，就是个点采样一次。所以大小随着层次的上升就横向纵向各取1/2采样。2.4 关键点检测在这节里需要定义尺度空间，这尺度空间叫DoG尺度空间。在上述的内容中提到了用函数表示了图像的尺度空间。它是多尺度的高斯函数和原图像卷积后得到的。DoG尺度空间的定义如下：K为响亮的两个尺度空间倍数的常数。DoG在计算上相邻图像高斯平滑后的图像详见，可见简化了计算。 图2.5 这样获取的一系列高斯差分图像是DoG尺度空间。我们只要看出图像上的像素点变化情况就可以了，也就是说如果像素值变了就说明那个像素点和其领域内存在特征点，如果没有发生什么变化，那就说明没有特征点。这样找出的特征点连起来，往往都是我们所关心的目标的主轮廓。下面的图告诉我们DoG尺度空间所表达的信息以及其效果。从下面的一系列DoG图像来看我们通过DoG空间，能够获取目标的（我们所关心的物体）重要信息，比如轮廓。使用DoG对LoG金丝带来的好处是显而易见的。第一是LoG需要使用两个方向的高斯二维微分卷积核，而DoG直接使用高斯卷积核，省去了对卷积核的生成的运算量；第二是DoG保留了哥哥高斯尺度空间的图像，这样，在省城某以空间尺度的特征时候，可以直接使用产生的尺度空间图像，而无需要重新再次声称该尺度的图像；第三是作为LoG的近似和简化，DoG具有与LoG相同的性质，而且检测特征点检测更加稳定。2,81 图2.6严密的来说，DoG尺度空间也是金字塔，原因很简单。DoG尺度空间是从LoG尺度空间金字塔模型中获取的。将图像金字塔共分O组（Octave），每组共有S层（Level），下一组的图像由上一组图像按照隔点降采样得到，这样做的目的是为了减少卷积运算的工作量。2,81 图2.7 SIFT特征点空间生成示意图 上面的图像就是高斯金字塔与DoG的获取过程。高斯金字塔的第一组图片中相邻的图像相减得到了对应组的DoG空间第一组，要注意的是，这时候因计算的关系少了一个层次，也就是说高斯金字塔第一组里面共有五幅图像，到DoG空间金字塔第一组里面变成了四幅图像。第二组也是这样得出的。以此类推，能够得到高斯金字塔对应的DoG图像金字塔。2,81 特征点的检测是通过同一组内各DoG相邻层之间比较完成的。2,84 为了寻找尺度空间的极值点（极大值和极小值），每个点（这儿的“点”就是采样的点）必须和它所在的层面上的8个领域点、相邻的两个层面上各取18个点，也就是说，要和相邻的26个相邻点进行比较，确定是否极值点。所以，要进行比较的领域点形成了3*3*3的立方体领域。这样获取的极值点并不是真正意义上的极值点，原因是所得到的极值点毕竟是采样点，所以我们得到的极值点附近肯定存在连续图像上的极值点。我们要用插值的方法进行曲线拟合，并且要找到这极值点作为特征利用。利用已知的离散空间点插值得到连续空间极值点的方法叫做子像元插值方法。在这儿我们需要利用三元二次函数来拟合完成插值得到连续的函数，然后根据已得到的极值点来确定真正意义上的极值点。这样就很正确的定位特征点的位置。2.5 特征点方向确定以及SIFT特征向量的生成通过上面叙述的一系列过程，得到特征点以后，需要给每个特征点赋予其方向，所谓的方向所指的是该特征点的方向参数。特征点方向的确定是一个不可缺少的一个极其重要的环节。因为要知道特征点的方向，就可以在后续的匹配过程中容易找到对应的匹配点（也可以是对象）。这样得出来的描述子就可以具备旋转不变性。描述的目的是在关键点（特征点）计算后，用一组向量将这个关键点（特征点）描述出来，这个描述子不但包括关键点（特征点），也包括关键点（特征点）周围对其有贡献的像素点。用来作为目标匹配的依据，也可使关键点（特征点）具有更多的不变性，如光照变化、3D视点变化等。描述的思路：通过对关键点周围图像区域分块，计算块内梯度直方图，生成具有独特性的向量，这个向量是该区域图像信息的一种抽象，具有唯一性。下面的两个式就是（x，y）点地图的模值和角度（方向）。 (2.5) (2.6)对每个特征点，利用上面两个式进行计算以后，再用直方图对该特征点领域内所有点的梯度方向进行统计。梯度直方图范围为0360度，我们每10度一个柱来表示直方图，那就一共36个柱来表示了。主方向，也就是其主峰值对应的方向。峰值大小为主峰值的百分之八十的就是该特征点对应的辅方向。完了上面的整个过程以后，需要生成特征描述符。 图2.8 8个方向直方图以及SIFT算法描述子生成示意图上面是示意图，首先取8*8大小的领域进行统计，然后四个个4*4大小的领域里进行统计，然后从这已经统计好的四个资料再次进行统计，最后得到该特征点（关键点）的直方图。其中峰值最高的就是该关键点（特征点）的主方向（第五个柱），而第二个正是需要的辅方向。这样得到了关键点（特征点）的维数为128维，因为每个点具有8个方向信息，那么每个特征点就对应着128维的向量。这样获得的向量就是对应特征点的SIFT特征向量。为了提高匹配的稳定性，Lowe建议对每个关键点使用4*4共16个种子来描述，这样对于一个关键点就可以产生128维的数据，及最终形成128维的SIFT特征向量。此时的SIFT特征向量已经消除掉了尺度变化、旋转变化等几何变形因素的影响，并具备了稳定性、独特性以及各种不变性（尺度不变性、旋转不变性等）。接下来我们要采用特征点特征向量的欧氏距离来作为两幅待匹配的图像中特征点（关键点）的相似性进行比较。从左摄像机拍到的图像中取某个特征点，并找出有摄像机拍下来的图像中欧氏距离最近的前两个特征点。在这两个特征点中，如果最近的距离出一次近的距离小于某个比例阈值，则接受这一对匹配点。如果我们把这阈值设成小一点，就不难想象，SIFT特征匹配点数目就会减少，但是其稳定性很高。下一步要进行匹配，具体的匹配方法在一节中详细介绍。2.6 SIFT特征点匹配从左右两个摄像头拍摄下来的两幅图像中，各取各图片的SIFT特征点后，我们要进行粗匹配。说道粗匹配，其实已经叙述过，在上一节内容中提到过用BBF搜索法（虽然在上述的内容中没有这么叫，但严格的说是BBF搜索法）确定粗匹配对。但是，这些粗匹配对中正确地匹配也有，错误的匹配也存在。只靠最近邻次近邻距离比法确定粗匹配关系是可以的，而且已经有很多经典算法问世以后被广泛利用着。但是，用这些经典算法来得出来的匹配对在后续的精确匹配工作中会受到很多障碍，因为后续的精确匹