随笔- 36 文章- 0 评论- 24 阅读- 8050

现有的主动学习研究通常在封闭设置下工作，假设所有要标记的数据示例都来自已知的类。在实际的注释中，未标记的数据通常包含大量来自未知类的实例，导致大多数主动学习方法的失败。本文为了解决 Open-Set Annotation 问题提出了 LfOSA。

LfOSA框架引入一个辅助网络，用高斯混合模型对每例的最大激活值分布进行建模，可以动态地从未标记集中的已知类中选择概率最高的示例。通过降低损失函数的温度 $T$ ，利用已知监督和未知监督，进一步优化检测模型。

The OSA Problem Setting

在 OSA 问题中，一个具有有限标记集 $D_{L}$ 和一个巨大的未标记开放数据集 $D_{U}$ ，其中 $D_{L} = {(x_{i}^{L}, y_{i}^{L})}_{i = 1}^{n^{L}}$ ， $D_{U} = {x_{j}^{U}}_{j = 1}^{n^{U}}$ 。设 $D_{U} = X_{k n o} \cup X_{u n k}$ ， $X_{k n o} \cap X_{u n k} \neq \emptyset$ ， $X_{k n o}$ 和 $X_{u n k}$ 分别表示已知类和未知类的例子。每个标记实例 $x_{i}^{L}$ 属于 $k$ 已知类 $Y = {y_{k}}_{k = 1}^{K}$ 中的一个，而未标记实例 $x_{j}^{U}$ 可能属于已知类或未知类。设 $x^{q u e r y}$ 表示每次迭代的查询集，由未知查询集 $X_{u n k}^{q u e r y}$ 和已知查询集 $X_{k n o}^{q u e r y}$ 组成，即 $X^{q u e r y} = X_{u n k}^{q u e r y} \cup X_{k n o}^{q u e r y}$ 。目标是由选择地构造包含尽可能多的已知实力的查询。

在第 $i$ 次迭代中，在标记集 $D_{L}$ 上训练参数为 $θ_{C}$ 的分类器 $f_{θ_{C}}$ 。根据当前训练的模型，在特定条件下选择一批含有 $b$ 个实例的 $X^{q u e r y}$ 。查询标签后，对 $k_{i}$ 个已知样例 $X_{k n o}^{q u e r y}$ 进行标注，标注集更新为 $D_{L} = D_{L} \cup X_{k n o}^{q u e r y}$ ，将 $l_{i}$ 个含有未知类的样例 $X_{u n k}^{q u e r y}$ 添加到无效集 $D_{I}$ 中，则有 $b = k_{i} + l_{i}$ 。第 $i$ 次选择中已知类的查全率和查准率可以定义为：

\begin{matrix} (1) & r e c a l l_{i} = \frac{\sum_{j = 0}^{i} k^{i}}{n_{k n o}}, \end{matrix}

p r e c i s i o n_{i} = \frac{k_{i}}{k_{i} + l_{i}},

其中 $n_{k n o}$ 代表无标签数据集中已知类的样本数量。 $r e c l l_{i}$ 计算在第 $i$ 次查询后查询的已知实例的数量， $p r e c i s i o n_{i}$ 表示目标实例在第 $i$ 次查询中的比例。显然，如果保持较高的 $p r e c i s i o n$ 和 $r e c a l l$ 来准确地选择已知的例子，训练的目标分类器将更有效。

Algorithm Detail

LfOSA的框架 Figure 2 所示，主要由三个部分组成：检测器训练(detector training)、主动采样(active sampling)和分类器训练(classifier training)。

Detector training

除了分类 $K$ 个已知类，检测器还扩展了一个额外的输出 $(K + 1)$ - $t h$ 来预测未知类。对于一个来自有标签或无效数据集给定的实例 $x$ ，用 one-hot 编码 $p$ 对它的标签 $c$ 进行编码，即 $p_{c} = 1$ ，其他的值设置为 $0$ 。利用交叉熵损失训练检测器：

\begin{matrix} (3) & L_{D} (x, c) = - \sum_{c = 1}^{K + 1} p_{c} * \log (q_{c}^{T}), \end{matrix}

其中， $q_{c}^{T} = \frac{\exp (a_{c} / T)}{\sum_{j} \exp (a_{j} / T)}$ ， $a_{c}$ 为最后一个全连接层的第 $c$ 个输出值， $T$ 为温度参数，通常设置为较低值 $(T = 0.5)$ ，易产生更尖锐的类别概率分布 $q_{c}^{T}$ 。通过最小化损失函数，已知类的实例在前 $K$ 维上的激活值较大，在 $(K + 1)$ - $t h$ 维上的激活值较小，而未知类的实例则相反。本文发现降低损失函数的温度 $T$ 可以建议不增强激活层的可区分性。简要分析如下：

\begin{matrix} (4) & \frac{\partial L_{D}}{\partial a_{c}} = \frac{1}{T} (\frac{\exp (a_{c} / T)}{\sum_{j} \exp (a_{j} / T)} - p_{c}) . \end{matrix}

当损失函数 $L_{R}$ 温度下降 $(T ↓)$ 时，概率分布 $q_{c}^{T}$ 会更加尖锐，因此有

T ↓\Rightarrow \frac{1}{T} ↑, \frac{\exp (a_{c} / T)}{\sum_{j} \exp (a_{j} / T)} - p_{c} ↑\Rightarrow \frac{\partial L_{D}}{\partial a_{c}} ↑ .

当 $\frac{\partial L_{R}}{\partial a_{c}}$ 变大时，对于激活值 $a_{c}$ ，已知类和未知类的实例将更加容易区分。

Active sampling

OSA任务的目标是从未标记的开放集中精确地选择尽可能多的已知类实例。经过上述对检测器的训练，可以发现网络的激活层（倒是第二层）具有区分未知实例的能力，即未知类实例的最大激活值(MAV)往往与已知类实例的平均MAV有显著差异。形式上，对于每个预测类 $c$ 的无标记实例 $x_{i}$ ，其最大激活值 $m a v_{i}^{c}$ 定义如下：

\begin{matrix} (5) & m a v_{i}^{c} = max_{c} a_{c}^{i} . \end{matrix}

所有未标记的实例将根据当前检测器的预测分为 $K + 1$ 类。我们可以选择预测为前 $K$ 个已知类的实例j进入下一个循环，同时过滤掉预测为“未知”的实例。然后，对于每个已知类 $c$ ，我们使用 Expectation-Maximization 算法将一个双组分GMM(一个用于已知类，另一个用于未知类)拟合到 $m a v^{c}$ ，其中 $m a v^{c}$ 是一组带有预测类 $c$ 的激活值。

\begin{matrix} (6) & W^{c} = G M M (m a v^{c}, θ_{D}), \end{matrix}

其中 $W^{c}$ 为 $c$ 类的概率。对于 $c$ 类的每个未标记示例 $x_{i}$ ，其已知概率 $w_{i} \in W_{c}$ 为后验概率 $p (g | m a v_{i})$ ，其中g为均值较大(激活值较大)的高斯分量。然后将所有类别的概率归并排序：

\begin{matrix} (7) & W = s o r t (W^{1} \cup W^{2} \cup . . . \cup W^{K}) . \end{matrix}

接下来，选择概率最高的前 $b$ 个示例作为请求注释的查询集。换句话说，我们可以通过在 $w_{i}$ 上设置一个阈值 $τ$ 来获得查询集 $X^{q u e r y}$ ，其中 $τ$ 等于已知的第 $b$ 大概率:

\begin{matrix} (8) & X^{q u e r y} = {(x_{i}, w_{i}) | w_{i} \geq τ, \forall (x_{i}, w_{i}) \in (D_{U}, W)} . \end{matrix}

在查询它们的标签之后，将分别通过添加 $X_{k n o}^{q u e r y}$ 和 $X_{u n k}^{q u e r y}$ 来更新已标记的未知的集合。

Classifier training

在当前标记数据 $D_{L}$ 的基础上，通过最小化标准交叉熵损失来训练 $K$ -类分类器：

\begin{matrix} (9) & L_{C} (x_{i}, y_{i}) = - \sum_{i = 1}^{n^{L}} y_{i} * \log (f (x_{i}; θ_{C})) \end{matrix}

其中， $(x_{i}, y_{i}) \in D_{L}$ ， $n^{L}$ 为当前 $D_{L}$ 的大小。

算法1总结了该方法的过程。首先，给出一个小的标记数据集 $D_{L}$ ，查询批次大小 $b$ 和温度 $T$ 。然后对检测器 $θ_{D}$ 和分类器 $θ_{C}$ 进行随机初始化，将无效集 $D_{I}$ 初始化为空集。在每次迭代中，我们通过对所有未标记的例子最小化公式(3)到推理 $m a v_{i}^{c}$ 来训练检测器。接下来，对每一类，我们收集由检测器预测和模型每个实例的 $M A V$ 设定的 $M A V$ ，以获得已知概率。然后对这些概率进行归并排序，选取概率最高的前 $b$ 个样本作为请求标注的查询集。因此，分类器 $θ_{C}$ 、标记集和无效集可以被更新并输出到下一次迭代中。