因子图相关理论汇总

本文主要是学习《Factor Graphs for Robot Perception》一书是记录的笔记，耗时较长，篇幅较大，后续再做细致的分节以及补充相关知识。

问题表达

Measurement predictions and noise models are the core elements of a generative model, which is well matched with the Bayesian network framework.

转换为贝叶斯网络：

联合概率密度：

\[\begin{aligned} p(X,Y) &= p(x_1)p(x_2|x_1)p(x_3|x_2) \\ &\times p(l_1)p(l_2) \\ &\times p(z_1|x_1) \\ &\times p(z_2|x_1,l_1)p(z_3|x_2,l_1)p(z_4|x_3,l_2) \end{aligned} \]

squared Mahalanobis distance:

\[\parallel \theta - \mu \parallel ^{2}_{\Sigma} \triangleq (\theta - \mu)^\top\Sigma^{-1}(\theta - \mu) \]

多维高斯分布：

\[\begin{aligned} \mathcal{N}(\theta;\mu,\Sigma) &= \frac {1}{\sqrt{2\pi|\Sigma|}}\operatorname{exp}(-\frac{1}{2}(\theta - \mu)^T\Sigma^{-1}(\theta - \mu)) \\ &= \frac {1}{\sqrt{2\pi|\Sigma|}}\operatorname{exp}(-\frac{1}{2}\parallel \theta - \mu \parallel ^{2}_{\Sigma}) \end{aligned} \]

a bearing measurement from a given pose x to a given landmark l would be modeled as

\[z = h(x,l)+\eta \\ \eta \sim \mathcal{N}(\theta;0,\Sigma) \]

\[p(z|x,l) = \mathcal{N}(z;h(x,l),R) \]

最大后验概率密度
maximizes the posterior density p(X|Z) of the states X given the measurements Z

\[\begin{aligned} X^{MAP} &= \underset{x}{\text{argmax}}\: p(X|Z) \\ &= \underset{x}{\text{argmax}}\: \frac{p(Z|X)p(X)}{p(Z)} \\ &= \underset{x}{\text{argmax}}\: l(X;Z)p(X) \end{aligned} \]

\(l(X; Z)\) is the likelihood of the states X given the measurements Z.

\[l(X;Z) \propto p(Z|X) \]

通过条件化传感器数据，贝叶斯网络可以很容易得转换为因子图。

使用因子图的原因：

• the distinct division between states X and measurements Z
• the fact that we are more interested in the non-Gaussian likelihood functions, which are not proper probability densities.

因此：

\[\begin{aligned} p(X|Z) &\propto p(x_1)p(x_2|x_1)p(x_3|x_2) \\ &\times p(l_1)p(l_2) \\ &\times l(x_1;z_1) \\ &\times l(x_1,l_1;z_1)l(x_2,l_1;z_3)l(x_3,l_2:z_4) \end{aligned} \]

与贝叶斯网络不同测量值不在明确的显示在图中， 也不再将每个节点与相应的条件概率密度关联起来，而是使用因子（factors）来表示后验概率密度\(p(X|Z)\)。上图中，每个小黑点都是一个因子，只与其所连接的变量有关，例如似然（likelihood）因子\(l(x_3,l_2;z_4)\)只与变量节点\(x_3,l_2\)有关。

每一个因子图都是一个二分图：\(F=(\mathcal{U}, \mathcal{V}, \mathcal{\varepsilon})\)，有两种类型节点 factors \(\phi_i \in \mathcal{U}\)， variables \(x_j \in \mathcal{V}\).edges \(e_{ij} \in \mathcal{\varepsilon}\)
在factor与variable之间。The set of variable nodes \(X_i\) adjacent to a factor \(\phi(i)\) is written as \(\mathcal{N}(\phi(i))\).a factor graph \(\mathcal{F}\) defines the factorization of a global function \(\phi(X)\) as:

\[\phi(X) = \prod_{i}\phi_{i}(X_i) \]

每个因子代表未归一化的后验概率\(\phi(X) \propto P(X|Z)\)。

factor graph factorization:

\[\begin{aligned} \phi(l_1,l_2,x_1,x_2,x_3) &= \phi_1(x_1)\phi_2(x_2,x_1)\phi_3(x_3,x_2) \\ &\times \phi_4(l_1)\phi_5(l_2) \\ &\times \phi_6(x_1) \\ &\times \phi_7(x_1,l_1)\phi_8(x_2,l_1)\phi_9(x_3,l_2) \end{aligned} \]

应该注意到因子与原先概率密度的关系，比如\(\phi_7(x_1,l_1)=l(x_1,l_1;z_1) \propto p(z_1|x_1,l_1)\)。

对于任意的因子图，MAP问题转换成了最大化因子乘积：

\[\begin{aligned} X^{MAP} &= \underset{X}{\text{argmax}} \: \phi(X) \\ &= \underset{X}{\text{argmax}} \: \prod_i \phi_i(X_i) \end{aligned} \]

假设所有的因子服从零均值高斯分布(zero-mean normal distribution)，则

\[\phi_i(X_i) \propto exp(-\frac{1}{2}\parallel h_i(X_i) - z_i \parallel ^{2}_{\Sigma_i}) \]

取负对数，并去除系数\(1/2\)转为非线性最小二乘问题

\[X^{MAP} = \underset{X}{\text{argmin}} \: \Sigma_i\parallel h_i(X_i) - z_i \parallel ^{2}_{\Sigma_i} \]

线性化求解非线性问题：

令\(h(X_i)=h_i(X^0_i + \Delta_i) \approx h_i(X^0_i) + H_i\Delta_i\)

其中\(H_i\)为测量雅可比矩阵

\[H_i = \left.\begin{matrix}\frac{\partial h(X_i)}{\partial X_i} \end{matrix}\right|_{X^0_i} \\ \Delta_i \triangleq X_i - X^0_i \]

\[\parallel e \parallel ^{2}_{\Sigma} \triangleq e^\top\Sigma^{-1}e = (\Sigma^{-1/2}e)^\top(\Sigma^{-1/2}e) = \parallel \Sigma^{-1/2}e \parallel^2_2 \]

上面的过程也叫作白化，误差除以测量标准差，消除了量纲，这样可以将不同类型的误差放在一起处理。
代替最小二乘问题：

\[\begin{aligned} \Delta^* &= \underset{\Delta}{\text{argmin}} \: \sum_i\parallel H_i\Delta_i - \{ z_i - h_i(X^0_i) \} \parallel ^{2}_{\Sigma_i} \\ &= \underset{\Delta}{\text{argmin}} \: \sum_i\parallel \underbrace{A_i}_{\Sigma_i^{-1/2}H_i}\Delta_i - \underbrace{b_i}_{\Sigma_i^{-1/2}(z_i - h_i(X^0_i))} \parallel ^{2}_{2} \\ &= \underset{\Delta}{\text{argmin}} \: \parallel A\Delta - b \parallel \end{aligned} \]

假设矩阵\(A_{m \times n}\)列满秩，通常情况下\(m \ge n\)，那么最小二乘问题有唯一解：

\[A^{\top}A \Delta = A^{\top} \mathbf{b} \]

此时\(A^{\top}A\)正定。

cholesky法求解

其中\(A^{\top}A\)是实对称正定矩阵，Cholesky factorization后信息矩阵 \(\Lambda \triangleq A^{\top}A = R^{\top}R\)，其中\(R\)是上三角矩阵。

\[A^{\top}A \Delta = A^{\top} \mathbf{b} \rightarrow \\ R^{\top}R \Delta = A^{\top} \mathbf{b} \rightarrow \\ R^{\top} \mathbf{y} = A^{\top} \mathbf{b} \]

先求解\(\mathbf{y}\)再求解\(\Delta\)

QR法求解

\[H_{n} \ldots H_{2} H_{1} A = Q_{m \times m}^{\top} A_{m \times n} = \left[\begin{array}{l} R_{n \times n} \\ 0_{(m -n) \times n} \end{array}\right] \]

QR Decomposition with Householder Reflections

与Gram-Schmidt正交化操作相比，Householder reflections在QR分解中更常用。Householder reflections是另外一种正交变换(orthogonal transformation)，它可以将一个向量\(\mathbf{x}\)变换到一个与之平行的向量\(\mathbf{y}\)。

\[H = I - 2vv^T \]

\[\|A \Delta - b \|_{2}^{2} = \left \| Q^{\top} A \Delta - Q^{\top} b \right \|_{2}^{2} = \|R \Delta - d \|_{2}^{2} + \| e \|_{2}^{2} \]

其中

\[Q^{\top} b = \left[\begin{array}{l} d \\ e \end{array}\right] \]

\(\|e\|^{2}\)是QR分解的残差，与\(\Delta\)无关。

\(\Lambda\)被称作信息矩阵可以和另一种无向图模型（undirected graphical model）马科夫随机场联系起来。\(\Lambda\)是\(G\)的伴随矩阵。后续不采用MRF而是使用因子图，是因为因子图可以表达更细粒度的因子化，更贴近于原始问题方程。

Elimination Algorithm

边缘化marginalization
one solution is to remove older variables without removing information

消除算法可以将因子图转换回贝叶斯网络(有向无环图)，但是只关注未知变量\(X\)。对于任意形式为\(\phi(X) = \phi(x_1,x_2, \dots, x_n)\)的因子图，变量消除算法可以将这样的因子图转换为因子化的贝叶斯网络，概率密度函数的形式为：

\[p(X) = p(x_1|S_1)p(x_2|S_2) \dots p(x_n) \]

稀疏高斯因子

\[\begin{aligned} \phi(l_1,l_2,x_1,x_2,x_3) &= \phi_1(x_1)\phi_2(x_2,x_1)\phi_3(x_3,x_2) \\ &\times \phi_4(l_1)\phi_5(l_2) \\ &\times \phi_6(x_1) \\ &\times \phi_7(x_1,l_1)\phi_8(x_2,l_1)\phi_9(x_3,l_2) \end{aligned} \]

\[\phi_i(X_i) \propto \operatorname{exp} \left\{ -\frac{1}{2} \left\| A_iX_i - b_i \right\|^2_2 \right\} \]

\(X_i\)是与因子\(\phi_i\)相关的变量，例如\(\phi_7\)，\(X_7 = \{ x_1;l_1\}\)，分号在这里表示列方向级联。

\[\phi_7(X_7) = \operatorname{exp} \left\{ -\frac{1}{2} \left\| A_{71}l_1 + A_{73}x_1 - b_7 \right\|^2_2 \right\} \]

令\(A_7 = [A_{71}|A_{73}]\)，则

\[\phi_7(X_7) = \operatorname{exp} \left\{ -\frac{1}{2} \left\| A_7X_7 - b_7 \right\|^2_2 \right\} \]

\[\begin{aligned} \psi(x_j,S_j) &= \prod_i \phi_i(X_i) \\ &= \operatorname{exp} \left\{ -\frac{1}{2} \sum_i \left\| A_{i}X_i - b_i \right\|^2_2 \right\} \\ &= \operatorname{exp} \left\{ -\frac{1}{2} \left\| \bar{A}_{j}[x_j;S_j] - \bar{b}_j \right\|^2_2 \right\} \end{aligned} \]

这里以消除\(l_1\)\(为例，与其相邻的因子有\)\phi_4,\phi_7,\phi_8$，因此

\[\begin{aligned} \psi(l_1,\{x_1;x_2\}) &= \operatorname{exp} \left\{ -\frac{1}{2} \left\| \bar{A}_{1}[l_1;x_1;x_2] - \bar{b}_1 \right\|^2_2 \right\} \end{aligned} \]

其中：

\[\bar{A}_{1} = \begin{bmatrix} A_{41} & & \\ A_{71} & A_{73} & \\ A_{81} & & A_{84} \end{bmatrix}, \bar{b}_1 = \begin{bmatrix} b_4 \\ b_7 \\ b_8 \end{bmatrix} \]

这一步只是将多个求和的因子整合到一个大矩阵中。

使用Partial QR消除变量

使用partial QR-factorization将\(\psi(x_j,S_j)\)中提取的增广矩阵\([\bar{A}_{j}|\bar{b}_{j}]\)变换为：

\[[\bar{A}_{j}|\bar{b}_{j}] = Q\begin{bmatrix} R_j & T_j & d_j \\ &\tilde{A}_\tau & \tilde{b}_\tau \end{bmatrix} \]

其中\(Q\)为单位正交阵，\(R_j\)为上三角矩阵。

\[\psi(x_j,S_j) = \operatorname{exp} \left\{ -\frac{1}{2} \left\| \bar{A}_{j}[x_j;S_j] - \bar{b}_j \right\|^2_2 \right\} \]

\[\begin{aligned} \left\| \bar{A}_{j}[x_j;S_j] - \bar{b}_j \right\|^2_2 &= \left\| Q(\begin{bmatrix} R_j & T_j \\ &\tilde{A}_\tau \end{bmatrix}\begin{bmatrix}x_j \\ S_j \end{bmatrix} - \begin{bmatrix}d_j \\ \tilde{b}_\tau \end{bmatrix}) \right\|^2_2 \\ &= \left\| R_jx_j + T_jS_j - d_j \right\|^2_2 + \left\| \tilde{A}_\tau S_j - \tilde{b}_\tau \right\|^2_2 \end{aligned} \]

因此

\[\begin{aligned} \psi(x_j,S_j) &= \operatorname{exp} \left\{ -\frac{1}{2} \left\| R_jx_j + T_jS_j - d_j \right\|^2_2 \right\}\operatorname{exp} \left\{ -\frac{1}{2} \left\| \tilde{A}_\tau S_j - \tilde{b}_\tau \right\|^2_2 \right\} \\ &= p(x_j|S_j)p(S_j) \end{aligned} \]

比如消除变量\(l_1\)，此时

\[\psi(l_1,\{x_1, x_2\}) = \operatorname{exp} \left\{ -\frac{1}{2} \left\| R_1 l_1 + [T_{13}|T_{14}][x_1;x_2] - d_1 \right\|^2_2 \right\}\operatorname{exp} \left\{ -\frac{1}{2} \left\| [\tilde{A}_{13}|\tilde{A}_{14}] [x_1;x_2] - \tilde{b}_1 \right\|^2_2 \right\} \]

\[\left[{\begin{array}{c|c} \begin{matrix} & &A_{13} & & \\ & &A_{23} &A_{24} & \\ & & &A_{34} &A_{35} \\ A_{41} \\ &A_{52} \\ & &A_{63} \\ A_{71} & &A_{73} \\ A_{81} & & &A_{84} \\ &A_{92} & & &A_{95} \end{matrix} & \begin{matrix} b_1 \\ b_2 \\ b_3 \\ b_4 \\ b_5 \\ b_5 \\ b_6 \\b_7 \\ b_8 \\ b_9 \end{matrix} \end{array}} \right] \rightarrow \left[ {\begin{array}{c|cccc|c} R_1 & &T_{13} &T_{14} & &d_1\\ \hline & &A_{13} & & &b_1\\ & &A_{23} &A_{24} & &b_2\\ & & &A_{34} &A_{35} &b_3\\ &A_{52} & & & &b_5 \\ & &A_{63} & & &b_6 \\ &A_{92} & & &A_{95} &b_9 \\ \hline & &\tilde{A}_{13} &\tilde{A}_{14} & &\tilde{b}_1 \end{array}} \right] \]

后续消除后的结果：

a Bayes net is a directed acyclic graph (DAG), and that is exactly the “uppertriangular” property for matrices.
贝叶斯网络是一个有向无环图，相关的矩阵具有可转为上三角矩阵的特性。

转换后的贝叶斯网络很明显是个上三角矩阵，使用倒推法即可倒序求解问题。

Elimination Ordering

消除的顺序对于性能有很大的影响。假设消除所有变量的开销为：

\[f\left(\Phi_{1: n}\right) = \sum_{j=1}^{n} g\left(\Phi_{j: n}, x_{j}\right) \]

其中\(g\left(\Phi_{j: n}, x_{j}\right)\)为从剩下的图结构\(\Phi_{j: n}\)中消除变量\(x_j\)的计算开销。而每一步变量消除的开销主要在partial QR factorization上面。对于一个\(m_k \times n_k\)的矩阵来说，QR分解需要\(4m_kn_k\)次浮点运算，那么总开销可以近似为：

\[g\left(\Phi_{j: n}, x_{j}\right) \approx \sum_{k=1}^{n_{j}} 4 m_{k} n_{k}=\sum_{k=1}^{n_{j}} 4\left(m_{j}-k\right)\left(n_{j}+s_{j}+1-k\right) \]

其中\(n_j\)为待消除变量\(x_j\)的维数，\(s_j\)为\(S_j\)中变量的个数，\(m_j\)为增广矩阵\([\bar{A}_{j}|\bar{b}_{j}]\)的行数。对于一个\(m \times n\)稠密矩阵矩阵做QR分解所需算力为：

\(f\left(\Phi_{1: n}\right)=\sum_{k=1}^{n-1} 4(m-k)(n+1-k)=2(m-n / 3) n^{2}+O(m n)\)

这里假设路标\(l\)为3维，位姿为\(x,y,\theta\)三自由度。则第一步消除(假设稠密矩阵)：4(39)(35+1) = 1728， 第二步消除：4(38)(34+1) = 1248。这里的计算和书中的有出入。\(f\left(\Phi_{1: 5}\right)=1752+1304+1256+608+152=5072 \text { flops}\)
但实际上对于稀疏矩阵来说：\(f\left(\Phi_{1: 5}\right)=32+20+488+488+128=1156 \text { flops }\)。可以看到稀疏矩阵比稠密矩阵的所需的计算少了很多。

变量消除顺序

变量消除顺序对于计算量的影响很大，不同的消除顺序会将因子图转为不同结构的贝叶斯网络，但是描述的是等价的MAP估计。

COLAMD and METIS are best overall performers.The Schur complement trick is an often-used technique in computer vision.

Updating a Matrix Factorization

\[\begin{aligned} \Delta^* &= \underset{\Delta}{\text{argmin}} \: \sum_i\parallel H_i\Delta_i - \{ z_i - h_i(X^0_i) \} \parallel ^{2}_{\Sigma_i} \\ &= \underset{\Delta}{\text{argmin}} \: \sum_i\parallel \underbrace{A_i}_{\Sigma_i^{-1/2}H_i}\Delta_i - \underbrace{b_i}_{\Sigma_i^{-1/2}(z_i - h_i(X^0_i))} \parallel ^{2}_{2} \\ &= \underset{\Delta}{\text{argmin}} \: \parallel A\Delta - b \parallel \end{aligned} \]

而

\[\|A \Delta-b\|_{2}^{2}=\left\|Q^{\top} A \Delta-Q^{\top} b\right\|_{2}^{2}=\|R \Delta-d\|_{2}^{2} + \|e\|_{2}^{2} \\ Q^{\top} b = \left[\begin{array}{l} d \\ e \end{array}\right] \]

当有新的测量值时，假设所带来的影响为\(A' =\left[\begin{array}{l} A \\ a^\top \end{array}\right]，b' = \left[\begin{array}{l} b \\ \beta \end{array}\right]\)。构造新的正交矩阵\(Q'\)为

\[Q' = \left[\begin{array}{l} Q_{m \times m} & 0_{m \times 1} \\ 0_{1 \times m} & 1_{1 \times 1} \end{array}\right] \]

此时

\[\left\| A' \Delta - b' \right\|_{2}^{2} = \left\| Q'^{\top} A' \Delta - Q'^{\top} b' \right\|_{2}^{2} \\ \left[\begin{array}{l} Q^{\top}_{m \times m} & 0_{m \times 1} \\ 0_{1 \times m} & 1_{1 \times 1} \end{array}\right] \left[\begin{array}{l} A_{m \times n} \\ a^\top_{1 \times n} \end{array}\right] = \left[\begin{array}{l} R_{n \times n} \\ 0_{(m -n) \times n} \\ a^\top_{1 \times n} \end{array}\right] = R_a, \quad \left[\begin{array}{l} Q^{\top}_{m \times m} & 0_{m \times 1} \\ 0_{1 \times m} & 1_{1 \times 1} \end{array}\right] \left[\begin{array}{l} b_{m \times 1} \\ \beta_{1 \times 1} \end{array}\right] = \left[\begin{array}{l} d_{n \times 1} \\ e_{(m-n) \times 1} \\\beta_{1 \times 1} \end{array}\right] \]

实际上还有：

\[\left\| A' \Delta - b' \right\|_{2}^{2} = \left\| \left[\begin{array}{l} A \\ a^\top \end{array}\right]\Delta - \left[\begin{array}{l} b \\ \beta \end{array}\right] \right\|_{2}^{2} = \left\| A\Delta - b \right\|_{2}^{2} + \left\| a^{\top}\Delta - \beta \right\|_{2}^{2} \]

我们希望\(R_a\)满足这样的形式:

\[R_a = \left[\begin{array}{l} R' \\ 0 \end{array}\right] \]

使用旋转的方式来更新矩阵分解在数值上更稳定也更精确，给定的旋转为：

\[G = \left[\begin{array}{l} \text{cos}\phi & \text{sin}\phi \\ -\text{sin}\phi & \text{cos}\phi \end{array}\right] \]

挑选参数\(\phi\)可以使\(A\)中的第\((i,j)^{th}\)个元素为0。

上图中最左边的矩阵为\(G\)实际的形式，可以将R中的x位置元素变为0。通过一系列的旋转操作将新添加的行变0，这样以来：

\[G_{j_k} \dots G_{j_2}G_{j_1}R_a = \left[\begin{array}{l} R_{n \times n}' \\ 0_{(m - n + 1) \times n} \end{array}\right] \]

显然这些\(G\)都是正交矩阵，因此

\[\begin{aligned} \|A' \Delta - b' \|_{2}^{2} &= \left\| Q'^{\top} A' \Delta - Q'^{\top} b' \right\|_{2}^{2} \\ &= \left\| G_{j_k} \dots G_{j_2}G_{j_1}[Q'^{\top} A' \Delta - Q'^{\top} b'] \right\|_{2}^{2} \\ &= \left\| \left[\begin{array}{l} R_{n \times n}' \\ 0_{(m - n + 1) \times n} \end{array}\right] \Delta -\left[\begin{array}{l} d_{n \times 1}' \\ e_{(m - n + 1) \times 1} \end{array}\right] \right\|_{2}^{2} \\ &= \|R_{n \times n}' \Delta - d' \|_{2}^{2} + \| e_{(m - n + 1) \times 1} \|_{2}^{2} \end{aligned} \]

The Bayes tree

clique: 一个无向图中，满足两两之间有边连接的顶点的集合，被称为该无向图的团。
chord(弦): 环中的一条连接两个非邻顶点的边；
chordal(弦图): 任何长度超过3的环有一个chord；

在求解非线性问题的时候，矩阵分解的方法没法很好的处理，因此我们引入新的图模型Bayes tree。在推理方面，树结构的图效率很高。构建树结构图模型的步骤：

1. 使用变量消除将因子图转换为贝叶斯网络；
2. 在贝叶斯网络的cliques中找出一个树结构；

为了检测贝叶斯网络中的团结构(clique)，可能需要把贝叶斯网络重写为贝叶斯树。虽然不能明显的看出贝叶斯网络中的团可以形成一个树结构，但是由于弦的属性，事实确实是这样。罗列出无向树中所有的团就是一个团树（clique tree）。

贝叶斯树是一棵有向树，节点代表潜在的弦图贝叶斯网络中的团\(C_k\)。定义每个节点的条件概率密度为\(p(F_k|S_k)\)，分隔因子\(S_k\)是团\(C_k\)与父团\(\prod_k\)的交集。

贝叶斯树更新

增量推导只需要对贝叶斯树做简单的更新。相比于抽象的增量矩阵分解过程，增量更新贝叶斯树可以提供一种更好的解释和理解方式。当一个新的测量值带来一个因子，比如该测量值与有两个变量有关，将会引入一个新的二元因子\(f(x_j,x_{j'})\)，只有包含\(x_j,x_{j'}\)的团之间的边和root节点受影响，这些团下面的子树和其他不包含\(x_j,x_{j'}\)的子树并不会受影响。因此，贝叶斯树更新的过程就是，将树中受影响的部分转换回因子图，然后将新测量相关的新因子添加进去。使用任何便捷的消除方法对这个临时的因子图做消除操作，形成新的贝叶斯树，未受影响的子树再添加上去。

贝叶斯树的两个重要属性保证了只有树的顶部部分会被影响。贝叶树形成于弦图贝叶斯网络的逆向消除顺序，因此团中的变量是从他们的子团消除过程中收集到信息，这就导致任何团中信息只向其根节点方向传播。其次，只有当与因子相关的第一个变量被消除时，该因子的信息才进入消除状态。

流型上的优化

增量旋转

使用轴角\((\bar{\omega},\theta)\)来表示三维旋转更加符合向量值增量的表示形式，\(\bar{\omega} \in S^2\)是球面上的单位向量，表示旋转操作的旋转轴，\(\theta\)是绕该向量旋转的角度。\(\xi = \bar{\omega}\theta \in \mathbb{R}^3\)，对于一个很小的\(\theta\)有

\[R(\xi) \approx \left[ \begin{array}{} 1 & -\xi_{z} & \xi_{y} \\ \xi_{z} & 1 & -\xi_{x} \\ -\xi_{y} & \xi_{x} & 1 \end{array} \right] = I + \hat{\xi} \\ \hat{\xi} \triangleq \left[\begin{array}{ccc} 0 & -\xi_{z} & \xi_{y} \\ \xi_{z} & 0 & -\xi_{x} \\ -\xi_{y} & \xi_{x} & 0 \end{array}\right] \]

其中\(\hat{\xi}\)是\(\xi\)的斜对称矩阵。

指数映射

相比于上面的近似，指数映射可以将三维增量\(\xi\)映射为精确的旋转。

\[\exp \hat{\xi} \triangleq \sum_{k=0}^{\infty} \frac{1}{k !} \hat{\xi}^{k}=I+\hat{\xi}+\frac{\hat{\xi}^{2}}{2 !}+\frac{\hat{\xi}^{3}}{3 !}+\ldots \]

实际上指数映射对于任意大的向量\(\xi\)都有效，这就罗格里德斯公式：

\[\exp \hat{\xi} = I + \frac{\sin \theta}{\theta}\hat{\xi} + \frac{1 - \cos \theta}{\theta ^2}\hat{\xi}^2 \]

局部坐标

指数映射可以将一个局部坐标(Local Coordinates)向量\(\xi \in \mathbb{R}^3\)映射到待评估旋转值\(R_0 \in SO(3)\)的附近。

\[R_{0} \oplus \xi \triangleq R_{0} \cdot \exp \hat{\xi} \]

指数化局部坐标\(\xi\)将会带来以\(R_0\)为基础的增量旋转。

平面旋转

对于平面旋转来说，\(\xi \in \mathbb{R}\)，

\[\hat{\xi} \triangleq\left[\begin{array}{cc} 0 & -\xi \\ \xi & 0 \end{array}\right] \]

\[\exp \hat{\xi} \triangleq \sum_{k=0}^{\infty} \frac{1}{k !} \hat{\xi}^{k} = \left[\begin{array}{cc} 1-\xi^{2} / 2 \ldots & -\xi+\xi^{3} / 6 \ldots \\ \xi-\xi^{3} / 6 \ldots & 1-\xi^{2} / 2 \ldots \end{array}\right]=\left[\begin{array}{cc} \cos \xi & -\sin \xi \\ \sin \xi & \cos \xi \end{array}\right] \]

\[\begin{aligned} R_{0} \oplus \xi & \triangleq R_{0} \cdot \exp \hat{\xi} \\ &=\left[\begin{array}{cc} \cos \theta_{0} & -\sin \theta_{0} \\ \sin \theta_{0} & \cos \theta_{0} \end{array}\right]\left[\begin{array}{cc} \cos \xi & -\sin \xi \\ \sin \xi & \cos \xi \end{array}\right] \\ &=\left[\begin{array}{cc} \cos \left(\theta_{0}+\xi\right) & -\sin \left(\theta_{0}+\xi\right) \\ \sin \left(\theta_{0}+\xi\right) & \cos \left(\theta_{0}+\xi\right) \end{array}\right] \end{aligned} \]

局部位置坐标

假设在有限的时间\(\Delta \tau\)内角速度为\(\omega\)，平移速度为\(v\)，局部位置坐标\(\xi\)为：

\[\xi = \left[ \begin{array}{c} \omega \\ v \end{array} \right] \Delta \tau \]

hat操作符定义为：

\[\hat{ }:\left[\begin{array}{l} \omega \\ v \end{array}\right] \longmapsto \left[\begin{array}{ll} \hat{\omega} & v \\ 0 & 0 \end{array}\right] \]

\(SE(2)\)的hat操作：

\[\hat{} : \mathbb{R}^{3} \rightarrow \mathfrak{s e}(2): \xi \mapsto \left[\begin{array}{cc|c} 0 & -\omega_{z} & v_{x} \\ \omega_{z} & 0 & v_{y} \\ \hline 0 & 0 & 0 \end{array}\right] \Delta \tau \]

\(SE(3)\)的hat操作：

\[\hat{}: \mathbb{R}^{6} \rightarrow \mathfrak{s e}(3): \xi \mapsto\left[\begin{array}{ccc|c} 0 & -\omega_{z} & \omega_{y} & v_{x} \\ \omega_{z} & 0 & -\omega_{x} & v_{y} \\ -\omega_{y} & \omega_{x} & 0 & v_{z} \\ \hline 0 & 0 & 0 & 0 \end{array}\right] \Delta \tau \]

我们可以使用指数映射将一个局部位置坐标映射到初始评估位姿\(x_0\)附近：

\[x_0 \oplus \xi = x_0 \cdot \exp \hat{\xi} \]

矩阵李群

hat操作符将一个向量\(\xi\)映射到李代数\(\mathfrak{g}\)：

\[\hat{}:\mathbb{R}^n \rightarrow \mathfrak{g},\xi \mapsto \hat{\xi} \]

逆操作vee操作符：

\[{}^\vee: \mathfrak{g} \rightarrow \mathbb{R}^n, \hat{\xi} \mapsto \xi \]

指数映射可以将局部坐标\(\xi\)映射到任何初始评估点\(a \in G\)的附近：

\[a \oplus \xi \triangleq a \cdot \exp \hat{\xi} \]

General Manifolds and Retractions

不满足群结构的流型\(\mathcal{M}\)上也可以做上述的映射操作：

retraction \(\mathcal{R}_a: \mathcal{M} \times \mathbb{R}^n \rightarrow \mathcal{M}\)

\[a \oplus \xi \triangleq \mathcal{R}_a(\xi), a \in \mathcal{M} \]

retraction定义在一般流型上，hat操作是定义在群上。