Zero-shot / One-shot / Few-shot Learning 简要阐述

1. Introduction

在 迁移学习 中，由于传统深度学习的 学习能力弱，往往需要 海量数据 和 反复训练 才能修得 泛化神功 。为了 “多快好省” 地通往炼丹之路，炼丹师们开始研究 Zero-shot Learning / One-shot Learning / Few-shot Learning。

《董小姐》唱得好：爱上一匹野马 (泛化能力)，可我的家里没有草原 (海量数据) 。下以该例子来结合说明。

2. Learning类型

（1） 零次学习（Zero-shot Learning）

训练集中没有某个类别的样本，但是如果我们可以学到一个牛逼的映射，这个映射好到我们即使在训练的时候没看到这个类，但是我们在遇到的时候依然能通过这个映射得到这个新类的特征。即： 对于 训练集 中 没有出现过 的 类别，模型能自动创造出相应的映射： XX -> YY。

注：既要马儿跑，还 不让 马儿吃草。

（2）一次学习（One-shot Learning）

训练集中，每个类别 都有样本，但都只是 少量样本（只有一个或几个） 。此时，我们可以在一个更大的数据集上或者利用knowledge graph、domain-knowledge 等方法，学到一个一般化的映射，然后再到小数据集上进行更新升级映射。

注：既要马儿跑，还不让马儿 多 吃草

（3） 少量学习（Few-shot Learning）

等同于 一次学习One-shot Learning 。关键就在于如何学到一个好的映射，能应用到没有看到的问题上。

（4） 传统 Learning

即传统深度学习的 海量数据 + 反复训练 炼丹模式。

注：家里一座大草原，马儿马儿你随便吃。