Zero-shot / One-shot / Few-shot Learning 简析

本文转载自https://blog.csdn.net/JNingWei/article/details/79235019，感谢原博主整理分享

1. Introduction

在 迁移学习 中，由于传统深度学习的 学习能力弱，往往需要 海量数据 和 反复训练 才能修得 泛化神功 。为了 “多快好省” 地通往炼丹之路，炼丹师们开始研究 Zero-shot Learning / One-shot Learning / Few-shot Learning。

爱上一匹野马 (泛化能力)，可我的家里没有草原 (海量数据) 。

2. Learning类型

（1） 零次学习（Zero-shot Learning）

训练集中没有某个类别的样本，但是如果我们可以学到一个牛逼的映射，这个映射好到我们即使在训练的时候没看到这个类，但是我们在遇到的时候依然能通过这个映射得到这个新类的特征。即： 对于 训练集 中 没有出现过 的 类别，模型能自动创造出相应的映射： XX -> YY。

注：既要马儿跑，还 不让 马儿吃草。

（2）一次学习（One-shot Learning）

wikipedia：

One-shot learning is an object categorization problem in computer vision. Whereas most machine learning based object categorization algorithms require training on hundreds or thousands of images and very large datasets, one-shot learning aims to learn information about object categories from one, or only a few, training images.

训练集中，每个类别 都有样本，但都只是 少量样本（只有一个或几个） 。此时，我们可以在一个更大的数据集上或者利用knowledge graph、domain-knowledge 等方法，学到一个一般化的映射，然后再到小数据集上进行更新升级映射。

注：既要马儿跑，还不让马儿 多 吃草。

（3） 少量学习（Few-shot Learning）

等同于 一次学习One-shot Learning 。关键就在于如何学到一个好的映射，能应用到没有看到的问题上。

（4） 传统 Learning

即传统深度学习的 海量数据 + 反复训练 炼丹模式。

注：家里一座大草原，马儿马儿你随便吃。