基于结构光与双目视觉

2D和3D的关系,现实存在的问题一般的物体(Objects)都是三维的；图像(Images)却是有关灰度，颜色等信息的阵列；3D的深度(Depth)信息在一幅图像上不能明显的显示出来。2D的分析需要3D的信息物体表面是连续，平滑(Smooth)的；物体都有特定的形状和边界。3D的信息可以通过2D的图像计算出来视差(Disparity)，深度(Depth)信息等等。,为什么需要两个眼睛？,物体的深度信息可以通过双眼的观察得到。,亚像素(Sub-pixel),在某些对精度要求较高的场合，需要对视差进一步精细化(Refinement)，亚像素是其中的一种方法。,立体视觉（StereoVision）,由两幅或多幅从不同视点拍摄的图像恢复场景三维信息的技术两个主要的子问题匹配问题-视差图(DisparitySpaceImage)相似而不是相同遮挡问题:场景的某些部分只在一幅图像中可见重建问题-3D重建所需要的摄像机参数立体摄像机标定,极线几何(EpipolarGeometry),动机:在哪寻找匹配点?极平面极线极点极线约束匹配点必须在极线上,极线几何(EpipolarGeometry),基线：左右两像机光心的连线；极平面：空间点，两像机光心决定的平面；极点：基线与两摄像机图像平面的交点；极线：极平面与图像平面的交线。,基线,Essential矩阵,左右两幅图像相对应的点之间的关系可以通过Essential矩阵或是Fundamental矩阵来表明。Essential矩阵是摄像机标定情况下用的。公式：pr和pl分别是齐次摄像机坐标向量。公式描述了点pr位于与向量Epl相关的外极线上。Essential矩阵是奇异矩阵，并有两个相等的非零奇异值，秩为2。,Fundamental矩阵,当内部参数未知（非标定的摄像机）：公式可表示为：M为内参矩阵ql,qr为图像坐标Fundamental矩阵秩同样为2。Fundamental矩阵是摄像机非标定的情况用的。,Reference:LearningOpenCV,图像校正(RectifiedImages),目的：规范化极线约束中的极线分布，使得匹配效率得到进一步的提高。校正后的图像不需要求极线方程，因为相对应的匹配点在图像相对应的扫描线(Scan-line)上。,图像校正(RectifiedImages),在校正图像中所有极线都平行,关键点,A.图像获取B.相机标定C.特征提取D.立体匹配E.三维重建,图像获取,在进行图像处理之前，先要用摄像机获取三维物体的二维图像。光照条件、相机的几何特性等对后续的图像处理造成很大的影响。,相机标定,通过摄像机标定来建立有效的成像模型，求解出摄像机的内外参数，这样就可以结合图像的匹配结果得到空间中的三维点坐标，从而达到进行三维重建的目的。,特征提取,特征主要包括特征点、特征线和区域。大多数情况下都是以特征点为匹配基元，特征点以何种形式提取与用何种匹配策略紧密联系。因此在进行特征点的提取时需要先确定用哪种匹配方法。特征点提取算法可以总结为：基于方向导数的方法，基于图像亮度对比关系的方法，基于数学形态学的方法三种。,立体匹配,立体匹配,三维重建,有了比较精确的匹配结果，结合摄像机标定的内外参数，就可以恢复出三维场景信息。由于三维重建精度受匹配精度，