工业摄像机标定PPT课件

1、摄像机标定的目的：三维重建摄像机标定的目的：三维重建三维重建：摄像机标定的主要目的，也是计算机视觉的最三维重建：摄像机标定的主要目的，也是计算机视觉的最主要的研究方向主要的研究方向. (Marr 1982)，所谓三维重建就是指从图象，所谓三维重建就是指从图象出发恢复出空间点三维坐标的过程。出发恢复出空间点三维坐标的过程。摄像机标定：建立摄像机图像像素位置与场景点位置之间摄像机标定：建立摄像机图像像素位置与场景点位置之间的关系，其途径是根据摄像机模型，由已知特征点的图像的关系，其途径是根据摄像机模型，由已知特征点的图像坐标求解摄像机的模型参数。坐标求解摄像机的模型参数。三维重建的三个关键步骤三维

2、重建的三个关键步骤摄像机标定：单个像机摄像机标定：单个像机图象对应点的确定：双目图象对应点的确定：双目二图象间摄像机运动参数的确定：单个像机运动二图象间摄像机运动参数的确定：单个像机运动1、引言第1页/共81页O Ou ux xy yv vcXcZcY1OwXwZwYwO wwwZYX,cccZYX,vu,yx,坐标系第2页/共81页sincot00dyyvvdxydxxuuddd为 1Ovu,00,vudydx,图像数字化1O0udydx0vdYdX1100sin/0cot100ddvuuyxvfuffvudyfdxfvu1,1第3页/共81页摄像机的内参数矩阵摄像机的内参数矩阵 K1100

3、sin/0cot100wwwvuuczyxvffuffffvuztRK第4页/共81页 传统摄像机标定方法 基于交比不变的摄像机畸变系数标定2、摄相机标定方法分类第5页/共81页1）传统的摄像机标定方法）传统的摄像机标定方法特点特点利用已知的景物结构信息。常用到标定块。利用已知的景物结构信息。常用到标定块。第6页/共81页1）传统的摄像机标定方法 优点 可以使用于任意的摄像机模型，标定精度高 不足 标定过程复杂，需要高精度的已知结构信息。 在实际应用中很多情况下无法使用标定块。 第7页/共81页2）基于交比不变的摄像机畸变系数标定 特点：将畸变参数单独进行标定 优点：算法简单，与其它内外部参数

4、分离 缺点：误差受样本点的影响第8页/共81页3、摄像机传统标定方法3.1、DLT方法3.2、RAC方法3.3、张正友的平面标定方法(ICCV, 1999)第9页/共81页Abdal-AzizAbdal-Aziz和KararaKarara于7070年代初提出了直接线性变换像机定标的方法，他们从摄影测量学的角度深入的研究了像机图像和环境物体之间的关系，建立了像机成像几何的线性模型，这种线性模型参数的估计完全可以由线性方程的求解来实现。 3.1、直接线性变换（、直接线性变换（DLT变换）变换） 第10页/共81页直接线性变换是将像点和物点的成像几何关系在齐次坐标下写成透视投影矩阵的形式： DLTD

5、LT变换变换11143wwwwwwZYXZYXvusPtRK其中其中 为图像坐标系下的点的齐次坐标，为图像坐标系下的点的齐次坐标， 为为世界坐标系下的空间点的欧氏坐标，世界坐标系下的空间点的欧氏坐标， 为为 的透视投影的透视投影矩矩阵，阵， 为未知尺度因子。为未知尺度因子。 1 ,vuwwwZYX,Ps43第11页/共81页DLTDLT变换变换0034333231242322213433323114131211vpvZpvYpvXppZpYpXpupuZpuYpuXppZpYpXpwwwwwwwwwwww消去消去 ，可以得到方程组，可以得到方程组: :s34333231242322211413

6、121143pppppppppppppijP343332312423222114131211pZpYpXpspZpYpXpsvpZpYpXpsuwwwwwwwww第12页/共81页当已知当已知 个空间点和对应的图像上的点时，可以得到一个个空间点和对应的图像上的点时，可以得到一个含有含有2 2* * 个方程的方程组：个方程的方程组： DLTDLT变换变换0AL其中其中 为为 的矩阵，的矩阵， 为透视投影矩阵元素组成的为透视投影矩阵元素组成的向量向量 。 12*2NLATpppppppppppp343332312423222114131211,NN0034333231242322213433323

7、114131211vpvZpvYpvXppZpYpXpupuZpuYpuXppZpYpXpwwwwwwwwwwww第13页/共81页DLTDLT变换变换 像机定标的任务就是寻找合适的 ，使得 为最小，即 | ALL|minALL给出约束：给出约束： 134pBCCCLTT1)(为为 的前的前1111个元素组成的向量，个元素组成的向量， 为为 前前1111列组成的矩列组成的矩阵，阵， 为为 第第1212列组成的向量。列组成的向量。LCABALL向量的比例有意义向量的比例有意义0034333231242322213433323114131211vpvZpvYpvXppZpYpXpupuZpuYpu

8、XppZpYpXpwwwwwwwwwwww第14页/共81页摄像机内外参数求解100001000000133323123222113121100333231242322211413121134zyxyxtrrrtrrrtrrrvupppppppppppp3334rpp3341pp是正交单位矩阵的第是正交单位矩阵的第三行，行列式为三行，行列式为1zTzyyTTyzxxTTxzTyTxTyxTTTtrtvtrvrtutrurtrtrtrvupppppp3030203013210032421413410010000001第15页/共81页摄像机内外参数求解zTzyyTTyzxxTTxzTyTxTyx

9、TTTtrtvtrvrtutrurtrtrtrvupppppp30302030132100324214134100100000013223431234322343302031234330103343)()(ppppppppprrvrvppprruruppryxTTTyTTTx)()()()(024340143434302341301341vpptupptmtpvpprpuppryyxxzyx第16页/共81页DLTDLT变换变换134p是否合理？是否合理？ 约束约束 不具有旋转和平移的不变性不具有旋转和平移的不变性, ,解将随着世解将随着世界坐标系的选取不同而变化界坐标系的选取不同而变化. .

10、134p证明：证明：世界坐标系作刚性坐标变换世界坐标系作刚性坐标变换10tRPP则则3433323213134ptptptpp显然在一般的情况下显然在一般的情况下3434pp第17页/共81页另一个约束另一个约束 具有旋转和平移的不变性具有旋转和平移的不变性1233232231pppDLTDLT变换变换1coscoscos322212由1321R3P3R2R312111,rrr332313,rrr322212,rrr),(333231ppp向量向量 , , , , 是两两是两两垂直的单位向量垂直的单位向量1R2R3R第18页/共81页3.2、R. Tsai 的的 RAC的定标算法的定标算法 8

11、0 80年代中期TsaiTsai提出的基于RACRAC的定标方法是计算机视觉像机定标方面的一项重要工作，该方法的核心是利用径向一致约束来求解除 （像机光轴方向的平移）外的其它像机外参数，然后再求解像机的其它参数。基于RACRAC方法的最大好处是它所使用的大部分方程是线性方程，从而降低了参数求解的复杂性，因此其定标过程快捷，准确。像机模型 径向一致约束 定标算法 第19页/共81页理想图像坐标到数字图像坐标的变换（只考虑径向偏差） 0221002210)(1)()(1)(vvvukvvuuvukuudddddd像机模型(ud, vd)为一个点的数字化实际坐标，（为一个点的数字化实际坐标，（u,

12、v）为理想的数字化坐标，（为理想的数字化坐标，（u0, v0）为畸变中心）为畸变中心（u0, v0）(ud, vd)（u, v）第20页/共81页径向一致约束 在图像平面上，点在图像平面上，点 ， 共线，与共线，与直线直线 平行或斜率相等平行或斜率相等.理想透视投影成像坐标理想透视投影成像坐标),(uuYXp真实透视投影成像坐标真实透视投影成像坐标),(ddYXp摄像机中坐标摄像机中坐标),(zyxp ),(uuYXp),(ddYXppo 第21页/共81页世界坐标系和摄像机坐标系的关系世界坐标系和摄像机坐标系的关系像机模型cox ozOwywzwxuvzwwwywwwxwwwTzryrxrz

13、TzryrxryTzryrxrx987654321y由径向约束由径向约束ywwwxwwwddTzryrxrTzryrxrYXyx654321第22页/共81页移项得：移项得：yddwdwdwxddwdwdwTXrXzrXyrXxTYrYzrYyrYx654321yTdydwydwydwyxdydwydwydwXTrXzTrXyTrXxTTYTrYzTrYyTrYx154321同除以同除以 得：得：dyyyyxyyydwdwdwddwdwdwXTrTrTrTTTrTrTrXzXyXxYYzYyYx/654321写成矢量形式得：写成矢量形式得： 1010dxxddydus dXuvd Yv第23页

14、/共81页定标算法 1.利用径向一致约束来求解利用径向一致约束来求解 和和 yxTTR,s定标步骤定标步骤:2.求解有效焦距求解有效焦距 、 方向上的平移方向上的平移T T3 3 和畸变参数和畸变参数 fz1k1,0,0,0,0,00vfusfK第24页/共81页123456/xyxyxyxxywidiwidiwididiwidiwidiwididiyyys r Ts rTs rTs TTx Yy Yz YYx Xy Xz XXrTrTrT定标算法步骤一1.1.求解像机外参数旋转矩阵 和 、 方向上的平移和 Rxyxs 1010dxxddydus dXuvd Yv（1）（2）第25页/共81页

15、11,22,33,4,54,65,76,2221/21212121/25674562221/2456/()()()() | ()xyxyxyx xyyyyyyyyas rT as rT as rT as rTarT arT arTaaaTrTrTrTaaa令由于2221/24562221/2566()1|()yaaaTaaa根据正交性，即：，则有：2221/2123ys()|xaaaT（3）（4）第26页/共81页1111221133144123155456166()/,()/()/,()/(),(),(),yxyxyxyxyxyxxyxxyxyywwwxyywwwxyyrTsrTsrTsrT

16、srTsrTsrTsrTsrTrTxrxr yr zTrTrTyr xr yr zTrTrT714825936rrrrrrryy （5） 确定确定 的符号并得到的符号并得到yTxTrr及91假定假定 为正，在标定点中任意选取一个点，进行如下计算为正，在标定点中任意选取一个点，进行如下计算yT若若符号为正，否则为负则符号相同与符号相同且与yddTyYxX,计算计算第27页/共81页diiiYyfz00() ()idiidizfydy vvwdy vvT21217892456789()(1)()()(1)()wiwiwixdiwiwiwizwiwiwiYdiwiwiwizf rxr yrzTXkr

17、 xr yr zTf r xr yr zTYkr xr yr zT定标算法步骤二2. 求解求解Tz, f, k（1）（2）第28页/共81页()()()()()()()()()()()()acbdbcadacbdbcadacbdbcadxxxxCRxxxxyyyyCRyyyyzzzzCRzzzzXxfzYyfz3.3、基于交比不变的摄像机畸变系数标定、基于交比不变的摄像机畸变系数标定 对于空间中同一直线上的四个点：对于空间中同一直线上的四个点：),(),(),(),(dddcccbbbaaazyxDzyxCzyxBzyxA、交比：交比：空间点透空间点透视关系：视关系：第29页/共81页对于空间

18、四个点对应的理想图像点为：对于空间四个点对应的理想图像点为：),(),(),(),(ddccbbaaYXYXYXYX、()()()()()()()()acbdbcadacbdbcadXXXXCRXXXXYYYYCRYYYY2221222(1),(1)XXk rrXYYYk r对于空间四个点对应的实际图像点为：对于空间四个点对应的实际图像点为：),(),(),(),(ddccbbaaYXYXYXYX、第30页/共81页2222212222221222222122222212(1),(1),(1),(1),(1),(1),(1),(1),aaaaaaababbbbbbbbbcccccccccddd

19、ddddddXXk rYYk arXYXXk rYYk rrXYXXk rYYk rrXYXXk rYYk rrXY第31页/共81页张正友方法 0,YXMcXcZcYvum,wXwZwYwOO3.4、张正友的平面标定方法第32页/共81页张正友方法基本原理：基本原理：110121321YXtrrKYXtrrrKvus 在这里假定模板平面在世界坐标系在这里假定模板平面在世界坐标系 的平面上的平面上 其中，其中， 为摄像机的内参数矩阵，为摄像机的内参数矩阵， 为模为模板平面上点的齐次坐标，板平面上点的齐次坐标， 为模板平面上点为模板平面上点投影到图象平面上对应点的齐次坐标，投影到图象平面上对应点

20、的齐次坐标， 和和 分别是摄像机坐标系相对于世界坐标系的旋转矩阵和分别是摄像机坐标系相对于世界坐标系的旋转矩阵和平移向量平移向量KTvum 1TYXM 1t321rrr0ZH第33页/共81页21321trrKhhhH0211hKKhTT212111hKKhhKKhTTTT根据旋转矩阵的性质，即根据旋转矩阵的性质，即 和和 ，每，每幅图象可以获得以下两个对内参数矩阵的基本约束幅图象可以获得以下两个对内参数矩阵的基本约束021rrT121 rr由于摄像机有由于摄像机有5个未知内参数，所以当所摄取得的图象数个未知内参数，所以当所摄取得的图象数目大于等于目大于等于3时，就可以线性唯一求解出时，就可以

21、线性唯一求解出K张正友方法2121111,1hKrhKr第34页/共81页张正友方法所用的平面模板张正友方法第35页/共81页算法描述张正友方法1. 打印一张模板并贴在一个平面上2. 从不同角度拍摄若干张模板图象3. 检测出图象中的特征点4. 求出摄像机的内参数和外参数5. 求出畸变系数6. 优化求精第36页/共81页张正友方法张正友的平面标定方法是介于传统标定方法和自标定方法之间的一种方法。它既避免了传统方法设备要求高，操作繁琐等缺点，又较自标定方法精度高，符合办公、家庭使用的桌面视觉系统(DVS)(DVS)的标定要求。张的方法是需要确定模板上点阵的物理坐标以及图像和模板之间的点的匹配，这给

22、不熟悉计算机视觉的使用者带来了不便。第37页/共81页孟胡方法所用的模版3.5、孟晓桥、胡占义的圆标定方法第38页/共81页孟胡方法 从至少三个不同方位拍摄模板图象，根据射影不变性计算出每幅图象上的圆环点像的坐标，得到关于内参数矩阵的至少六个方程，即可解出所有内参数。第39页/共81页孟胡方法 计算圆环点像的原理：)0 , 1 (i1B模板平面)0 , 1 (i)0 , 1 ( i1AO1B1C2A2B2C无穷远直线无穷远直线圆环点为无穷远点，它是绝圆环点为无穷远点，它是绝对二次曲线上的一对共轭点对二次曲线上的一对共轭点0, 00232221xxxx(1,i,0,0) (1,-i,0,0) 是

23、一对圆环点是一对圆环点第40页/共81页孟胡方法在图像上，两个圆环点的图像 被计算出，则有：21, mm0111mKKmTT0212mKKmTT0 xxTTxxx),(321x0, 00232221xxxxTTxxx)0,()0,(321xX3213210)(1xxxKRxxxtRKvu32111xxxRvuK01)1(1vuKKvuT第41页/共81页孟胡方法 孟胡的方法与张的方法相比： 过程相似； 所用的模版不同，孟胡的方法基于曲线拟合（稳定），并且不需要任何匹配，而张的方法基于点，需要匹配模版的点和图像点。第42页/共81页吴等的标定方法 平行圆：同一个平面上的圆、或平行平面上的圆。 原

24、理：利用摄像机成像的准仿射不变性，计算图像上二此曲线的交点，得到圆环点的图像21, mm0111mKKmTT0212mKKmTT进而：进而：3.6、吴等的平行圆标定方法第43页/共81页该方法从平行圆的最小个数出发，基于准仿射不变性，分析了所有可能情况的计算圆环点的方法吴等的标定方法a) The concentric caseThe line at infinityb) The inner-tangent caseThe line at infinityThe line at infinityc) The outer-tangent casee) The separate caseThe li

25、ne at infinityThe line at infinityf) The enclosing but not concentric caseThe line at infinityd) The intersecting case共面分布：共面分布：第44页/共81页吴等的标定方法以上可进行推广到非共面的平行圆的情形1003042.3493772.138502194.5680417. 83835.1409K第45页/共81页吴等的标定方法利用利用K重建一个垂直角；重建平行线之间的交角重建一个垂直角；重建平行线之间的交角重建的垂直角重建的垂直角89.28重建的平行角重建的平行角0.0000

26、475第46页/共81页吴等的标定方法该方法和以往的基于圆的标定方法相比:(1). 从最小个数出发;(2). 计算圆环点图像简单;(3).只需要从拟合的二次曲线出发, 不需要任何匹配, 不需要计算圆心;(4). 应用场合广泛, 不仅仅限于平面的情形. 可应用基于转盘的重构。第47页/共81页H. Wu, Q. Chen, T. Wada, Visual Line Estimation from a Single Image of Two Eyes. ICPR (3) 2004. 应用于: G. Jiang, L. Quan, H.T. Tsui, Circular motion geometr

27、y by minimal 2 points in 4 images, ICCV2003.自动化所一角(1)视线定位视线定位(2)基于转盘的重建基于转盘的重建(3) 车辆机器车辆机器人等的定位人等的定位第48页/共81页胡占义等的主动视觉标定方法 基于平面单应矩阵的正交运动方法 基于外极点的正交运动方法4、主动视觉标定方法第49页/共81页胡主动视觉标定方法 基于平面单应矩阵的正交运动方法原理 是摄像机一组正交的平移运动，两个单应矩阵： 满足：)2()1(,tt)(1)1(11KdntKIHT)(1)2(22KdntKIHT0)()()()2()1(221221111TTTTnttndKIHKK

28、IHK第50页/共81页胡主动视觉标定方法 基于平面单应矩阵的正交运动方法原理即： ，其中 五组两正交运动可完全求解5个内参数。 0)()(2211IHCIHT1KKCT第51页/共81页胡主动视觉标定方法 第1、2幅图像在第0幅图像的外极点分别是： 则：22Kte 11Kte 111eKt212eKt基于外极点的正交运动方法原理012第52页/共81页胡主动视觉标定方法 基于外极点的正交运动方法原理 从而： 五组两正交运动可完全求解5个内参数。012112tteKKe第53页/共81页胡主动视觉标定方法 这两种主动视觉标定方法与最经典的主动视觉标定方法（马颂德的三正交运动法）相比，具有如下优

29、点： 照相机的二正交运动比三正交运动更容易实现。 可以求解摄像机的所有5个内参数，马颂德的 方法可以求解4个内参数。第54页/共81页5.1、预备知识： 什么是摄像机自标定 ？ 为什么要对摄像机进行自标定 ？ 对极几何 5.2、基于Kruppa方程的自标定方法 5.3、基于绝对二次曲面、无穷远平面的自标定方法 5.4、几种自标定方程的关系5、摄像机自标定方法第55页/共81页摄像机自标定是指不需要标定块，仅仅通过图象点之间的对应关系对摄像机进行标定的过程。什么是自标定？什么是自标定？为什么要进行自标定？为什么要进行自标定？实际应用的需求，主要应用场所的转移优缺点：优缺点：优点：灵活，方便缺点：

30、精度不太高，鲁棒性不足5.1、预备知识第56页/共81页自标定的基本假设及任务自标定的基本假设及任务1、假定图象点之间的对应关系已经确定。2、一般来说，认为在拍摄不同图象时，摄像机的内参数没有发生变化3、所谓的自标定，就是要标定摄像机的内参数矩阵K100000vfusfKvu第57页/共81页一些预备知识一些预备知识1、点的齐次坐标、点的齐次坐标二个齐次坐标如相差一个非零因子，则这二个齐次坐标相同1vuvu2、无穷远直线上的点、无穷远直线上的点如点 为无穷远直线上的点，则 t =0tvu第58页/共81页一些预备知识一些预备知识3、通过二点的直线、通过二点的直线 如果如果 为二图象点，则通过为

31、二图象点，则通过该二点的直线的参数向量为：该二点的直线的参数向量为：22221211,tvuxtuux21xxL0021xLxLTTLx1x2第59页/共81页一些预备知识反对称矩阵反对称矩阵（Anti-symmetric or Skew-Symmetric matrix) 给定向量 ，其对应的反对称矩阵定义为：321aaaa 000121323aaaaaaa则对应任意的向量 b, 有 baba第60页/共81页一些预备知识一些预备知识对偶原理对偶原理如果 C为一非退化的图象二次曲线，即：0CxxJT0)(,CDetCCT0llT 则 1C过x 处的切线参数向量为：CxxJl2则 , 代入上式

32、可得： lCx121对偶线坐标曲线点坐标曲线第61页/共81页一些预备知识一些预备知识l1l2l3l1l2l3对偶曲线示意图C点坐标曲线对偶线坐标曲线x1x2x3第62页/共81页一些预备知识欧几理得空间下的投影矩阵欧几理得空间下的投影矩阵如果如果X 为空间某一点，两摄像机间的坐标变换为：为空间某一点，两摄像机间的坐标变换为： TRxxrlTRKPIKPErEl0则欧几理得空间下的两投影矩阵为：欧几理得空间下的两投影矩阵为： K 为摄像机的内参数矩阵为摄像机的内参数矩阵11XPmXPmErrEll其中其中 X为空间点，为空间点，ml, mr 对应于对应于X 的一对图象对应点的一对图象对应点投影

33、关系第63页/共81页一些预备知识一些预备知识对极几何对极几何（Epipolar Geometry)oIIMomm eel lNn第64页/共81页一些预备知识一些预备知识基本矩阵的推导及形式基本矩阵的推导及形式 1110, 0)(),(,1,1RKTKFFmmmRKTKmRXTmKTTRXKmKXmXPmXPmTTTTErElF 的秩为的秩为2，F在相差一个常数因子下是唯一确定的。在相差一个常数因子下是唯一确定的。F 可以通过可以通过8对图象对应点线性确定。对图象对应点线性确定。第65页/共81页一些预备知识一些预备知识对极几何的一些代数性质对极几何的一些代数性质0FmnT基本矩阵和外极点的

34、关系基本矩阵和外极点的关系0, 0eFFeT0)(iTFme所有的外极线都过对应的外极点，外极点是光心连线所有的外极线都过对应的外极点，外极点是光心连线与图象平面的交点。对应外极线束构成一射影变换与图象平面的交点。对应外极线束构成一射影变换nFlFmlT如果如果 m位于极线位于极线l上，上，n 位于极线位于极线l上，上，m, n不一定不一定是对应点是对应点,下述关系仍然成立：下述关系仍然成立：第66页/共81页一些预备知识一些预备知识emnl0FmnT0FmmTnmFml第67页/共81页一些预备知识一些预备知识中心投影下，如果中心投影下，如果射影平面与空间曲射影平面与空间曲线相切，则射影平线

35、相切，则射影平面与图象平面的交面与图象平面的交线必与空间曲线在线必与空间曲线在图象平面上的投影图象平面上的投影曲线相切曲线相切图象平面空间曲线第68页/共81页一些预备知识一些预备知识绝对二次曲线绝对二次曲线 摄像机自标定的参考标定物摄像机自标定的参考标定物绝对二次曲线是无穷远平面上的一条二次曲线，它的绝对二次曲线是无穷远平面上的一条二次曲线，它的数学定义为：数学定义为：TTzyxXtXX00第69页/共81页一些预备知识一些预备知识绝对二次曲线在图象上投影的性质绝对二次曲线在图象上投影的性质绝对二次曲线的象仅与摄像机的内参数有关，与摄绝对二次曲线的象仅与摄像机的内参数有关，与摄像机的运动参数无关像机的运动参数无关mKRXXTRKmT1,0从定义 XTX0 知，01mKKmTT给定正定矩阵给定正定矩阵 ，则，则 K 可以通过可以通过Cholesky 分解唯一确定分解唯一确定