目标跟踪基础：距离度量

本文来自公众号“AI大道理” ——————

距离度量在CV 、NLP以及数据分析等领域都有众多的应用。距离度量可以当做某种相似度，距离越近，越相似。在目标跟踪领域中，需要判断目标之间的距离或相似度，从而判断前后帧的目标是否是同一个目标。

添加图片注释，不超过 140 字（可选）

1、距离

常见距离：

欧式距离
标准化欧式距离
马氏距离
曼哈顿距离
切比雪夫距离
闵氏距离

概率分布的距离度量：

KL散度
JS距离
MMD距离
Principal angle
HSIC
Earth Mover’s Distance

本文主要讲解常见距离。

添加图片注释，不超过 140 字（可选）

常见距离

添加图片注释，不超过 140 字（可选）

2、欧式距离

欧式距离是非常常见和常用的距离度量方式。欧式距离表示在平面上两点之间直线最短，平面就暗含欧式距离适合二维的情况。

欧式距离是从这些点的笛卡尔坐标用勾股定理计算出来。公式：

添加图片注释，不超过 140 字（可选）

等距线：正圆

添加图片注释，不超过 140 字（可选）

缺点：

尽管欧几里德距离是一种常见的距离度量，但它不是尺度不变的，这意味着计算的距离可能是倾斜的，这取决于特征的单位。此外，随着数据维度的增加，欧几里得距离就变得不那么有用了。两大问题：尺度、单位可能不统一问题：如下图，A 与 B 相对于原点的距离是相同的。但是由于样本总体沿着横轴分布，所以B点更有可能是这个样本中的点，而A则更有可能是离群点。

添加图片注释，不超过 140 字（可选）

特征之间很可能存在相关性，不是直角问题：还有一个问题-----如果维度间不独立同分布，样本点一定与欧氏距离近的样本点同类的概率更大吗？A 与 B 相对于原点的距离依旧相等，显然 A 更像是一个离群点。

添加图片注释，不超过 140 字（可选）

3、标准化欧式距离

为了解决欧式距离尺度不一致的问题，引入了标准化欧式距离。公式：

添加图片注释，不超过 140 字（可选）

等距线：正椭圆

添加图片注释，不超过 140 字（可选）

在标准化欧式距离下，x和y可以不同的尺度，换句话说可以根据xy给不同的权重。而欧式距离相当于xy权重是一样的，1：1的。

添加图片注释，不超过 140 字（可选）

4、马氏距离

马氏距离是旋转变换缩放后的欧氏距离。马氏距离将样本的协方差矩阵纳入距离度量计算，相当于对欧式距离的修正。马氏距离完成正交，解决了特征间相关性的问题。马氏距离内含标准化，解决了特征间尺度不一致的问题。

马氏距离可用于判断点到某个分布的距离。

马氏距离是表示数据的协方差距离，计算两个未知样本集的相似度的方法。由主成分分析可知，由于主成分就是特征向量方向，每个方向的方差就是对应的特征值，所以只需要按照特征向量的方向旋转，然后缩放特征值倍就可以了，得到以下结果：

添加图片注释，不超过 140 字（可选）

公式：马氏距离是旋转变换缩放后的欧氏距离，所以马氏距离的计算公式可以由欧式距离推导而来。

添加图片注释，不超过 140 字（可选）

协方差：

添加图片注释，不超过 140 字（可选）

协方差矩阵：

添加图片注释，不超过 140 字（可选）

如果协方差矩阵为单位矩阵，马氏距离就简化为欧式距离。欧式距离两个分量的权值都是1，而马氏距离可以是其他值。

等距线: 旋转椭圆

添加图片注释，不超过 140 字（可选）

马氏距离，将变量按照主成分进行旋转，让维度间相互独立，然后进行标准化，让维度同分布。

计算样本数据的马氏距离分为两个步骤：

坐标旋转
数据压缩

坐标旋转的目标：使旋转后的各个维度之间线性无关，所以该旋转过程就是主成分分析的过程。

数据压缩的目标：所以将不同的维度上的数据压缩成为方差都是1的的数据集。用途：马氏距离用于异常检测：马氏距离可用于异常检测，但它于聚类不同，需要先用正常数据计算得到距离数据中心的边界阈值，然后再判别某点距离该数据集中心的位置是否超过该阈值，超过则判定为异常点。目标跟踪：需要判断下一帧目标属于哪个目标，可以根据历史数据计算马氏距离判断这个点是不是同一个目标点。

马氏距离的问题：

协方差矩阵必须满秩。里面有求逆矩阵的过程，不满秩不行，要求数据要有原维度个特征值，如果没有可以考虑先进行PCA，这种情况下PCA不会损失信息不能处理非线性流形(manifold)上的问题。只对线性空间有效，如果要处理流形，只能在局部定义。