视觉SLAM(五)特征点提取与匹配

特征点法视觉里程计

特征点提取与匹配

经典 SLAM 模型中以位姿 路标( Landmark )来描述 SLAM 过程
• 路标是三维空间中固定不变的点,能够在特定位姿下观测到
• 数量充足,以实现良好的定位
• 较好的区分性,以实现数据关联
在视觉 SLAM 中,可利用图像特征点作为 SLAM 中的路标

特征点是图像中具有代表性的部分;
具有可重复性,可区别性,高效,本地的特点
特征点的信息
• 位置、大小、方向、评分等 关键点
• 特征点周围的图像信息 描述子( Descriptor)

特征描述应该在光照、视角发生少量变化时仍能保持一致
例子:SIFT/SURF/ORB(见 OpenCV features2d 模块)

典型的特征点

ORB 特征

关键点: Oriented FAST
描述: BRIEF

FAST

• 连续 N 个点的灰度有明显差异

Oriented FAST

• 在 FAST 基础上计算旋转

描述子

BRIEF

• BRIEF 128 :在特征点附近的 128 次像素比较
• ORB :旋转之后的 BRIEF 描述

BRIEF 是一种二进制描述,需要用汉明距离度量

特征匹配

目的: 通过描述子的差异判断哪些特征为同一个点
暴力匹配:比较图 1 中每个特征和图 2 特征的距离
加速:快速最近邻方法(FLANN)

2D-2D 对极几何

特征匹配之后,得到了特征点之间的对应关系
• 如果只有两个单目图像,得到 2D 2D 间的关系——对极几何
• 如果匹配的是帧和地图,得到 3D 2D 间的关系——PnP
• 如果匹配的是 RGB D 图,得到 3D 3D 间的关系——ICP

三角化与深度估计




求E使用八点法来求


从E计算R,t则使用奇异值分解

\[E=U\Sigma V^T \]

一共会生成四个可能的解,但只有一个深度为正。

\[t_1^{\vee}=UR_Z(\pi/2)\Sigma U^T,R_1=UR^T_Z(\pi/2)V^T\\ t_2^{\vee}=UR_Z(-\frac{\pi}{2})\Sigma U^T,R_2=UR^T_Z(-\frac{\pi}{2})V^T \]

SVD 过程中:取\(E = U diag (\frac{\delta_1+\delta_2}{2},\frac{\delta_1+\delta_2}{2},0)V^T\) 因为 E 的内在性质要求它的奇异值为\(\delta,\delta,0\);
• 最少可使用五个点计算 R,t ,称为五点法, 但需要利用 E 的非线性性质,原理较复杂

八点法的讨论

八点法可用于单目 SLAM 的初始化(初始化需要相机运动)

  • 尺度不确定性:归一化 t 或特征点的平均深度(相机运动)
  • 纯旋转问题: t=0 时无法求解
  • 点对数多于八对时:则使用最小二乘法进行求解
  • 有外点时:使用RANSAC进行过滤。

从单应矩阵恢复R,t

  • 八点法在特征点共面时会共面
  • 设特征点位于某平面上:\(n^TR+d=0\)\(-\frac{n^TP}{d}=1\).

小结

2D——2D 情况下,只知道图像坐标之间的对应关系
• 当特征点在平面上时(例如俯视或仰视),使用 H 恢复 R,t
• 否则,使用 E 或 F 恢复 R,t
• t 没有尺度

求得 R,t 后:
• 利用三角化计算特征点的 3D 位置(即深度)
• 实际中用于单目 SLAM 的初始化部分

3D-2D PnP


目的:已经 3D 点的空间位置和相机上的投影点,求相机的旋转和平移(外参)
解法:代数的解法/优化的解法

1. 代数解法

a. DLT(direct Linear Trace)

设空间点\(P=(X,Y,Z,1)^T\),投影点为:\(x=(u,v,1)\) 归一化坐标,则投影关系:\(sx=[R|t]p\)
展开:

• 将它看成一个关于 t 的线性方程,求解 t
• 注意最下一行为\(s=[t_9,t_{10},t_{11},t_{12}][X,Y,Z,1]^T\)
• 用它消掉前两行中的 s ,则一个特征点提供两个方程:

\[t_1=(t_1,t_2,t_3,t_4)^T,\\ t_2=(t_5,t_6,t_7,t_8)^T,\\ t_3=(t_9,t_{10},t_{11},t_{12})^T \]

\[t^T_1P-t^T_3Pu_1=0\\ t_2^TP-t^T_3Pv_1=0 \]

为求解 12 个未知数,Y一般需要 12/2=6 对点。(超定时求最小二乘解)

• DLT 将 R,t 看成独立的未知量,所以在求出结果后,需要将 t 组成的矩阵投影回 SO(3) 3)(通常用 QR 分解实现)
• 此外,也可代入内参矩阵 K ,但 SLAM 中一般假设 K 已知,所以这里没有代入。
为求解 12 个未知数,需要 12/2=6 对点。(超定时求最小二乘解)

b. P3P:利用三对点求相机内参

c. EPnP /UPnP/...

2. 优化解法: Bundle Adjustment

线性化和雅可比



对3D点求导:

4. 3D-3D ICP

ICP 也可以从非线性优化角度求解,但:
• 已知匹配时, ICP 问题存在唯一解或无穷多解的情况。在唯一解的情况下,只要能找到极小值解,那么这个 极小值就是全局最优值 。
• 所以正常情况下, SVD 结果和优化一样,且优化很快收敛。

注:
• 在激光情况下,匹配点未知,将指定最近点为匹配点。此时问题非凸,极小值不一定为最小值。
• 利用非线性优化可以将 ICP 与 PnP 结合在一起求解。

小结

本章介绍了与特征点相关的视觉里程计部分算法,包括:

  • 特征点是如何提取并匹配的;
  • 如何通过2D-2D的特征点估计相机运动;
  • 三角化原理;
  • 3D-2D的PnP问题,线性解法与BA解法;
  • 3D-3D的ICP问题,线性解法与BA解法。

5. 三角化与深度估计


posted @ 2020-06-12 11:46  少年笔谈  阅读(4995)  评论(1编辑  收藏  举报