摘要：
论文信息 论文标题：Momentum Contrast for Unsupervised Visual Representation Learning论文作者：Kaiming He、Haoqi Fan、 Yuxin Wu、 Saining Xie、 Ross Girshick论文来源：2020 CV 阅读全文
摘要：
Pretext task 可以理解为是一种为达到特定训练任务而设计的间接任务。 比如，要训练一个网络来对 ImageNet 分类，可以表达为 $f_{\theta}(x): x \rightarrow y$ ，目的是获得具有语义特征提取/推理能力的 $\theta$ 。假设有另外一个任务 (Pret 阅读全文
摘要：
每次只选取1个样本，然后根据运行结果调整参数，这就是著名的随机梯度下降（SGD），而且可称为批大小（batch size）为 1 的 SGD。 批大小，就是每次调整参数前所选取的样本（称为mini-batch或batch）数量： 如果批大小为N，每次会选取N个样本，分别代入网络，算出它们分别对应的参 阅读全文