随笔分类 - 深度学习
摘要：在按照官方的安装教程进行mmdetection安装的时候，出现了一些问题。我的环境信息如下： 最后报错信息如下： 从MMCV Compiler这儿来看，可以看见MMCV CUDA Compiler： not available。 原因是，我使用的mmcv-full的脚本是： pip install
阅读全文
摘要：CLIP 一个简单的Idea，使用互联网上的图片，进行pre-training（具体的讲，就是使用caption去匹配图片这个task）。在训练结束后，自然语言用来参照学习到的视觉概念。然后进行zero-shot transfer learning。 首先是制作一个足够大的图片与文本的集合： 现有的
阅读全文
摘要：Ranking Loss Ranking loss在广泛的领域被使用。它有很多别名，比如对比损失(Contrastive Loss)，边缘损失(Margin Loss)，铰链损失(Hinge Loss)。还有常见的三元组损失(Triplet Loss)。 首先说一下什么是度量学习： 区别于常见的分类
阅读全文
摘要：RFS RFS的策略，对类别c，首先有一个统计量。它的含义是，统计出那些起码包含一个类别c实例的图片所占的所有图片的频率。然后通过公式计算。在这里，t是一个超参数。一般来讲，t = 0.001。 计算出之后，我
阅读全文
摘要：BN BN中有一些比较值得注意的地方： train/test不一致的好处与坏处 推理中的坑：移动平均。 训练中的坑：batch的大小与分布。 微调中的坑：参数化，数据分布等。 实现中的坑：一个多功能的BN的实现。 GN，precise-BN等等改进。 BN在训练和测试的时候，行为是不一致的。 在训练
阅读全文
摘要：1.Stand-Alone Self-Attention in Vision Models url：https://arxiv.org/abs/1906.05909 做了一个纯attention的网络，这里的attention是局部的，并且带了一个全局共享的relative position enc
阅读全文
摘要：1.UNBIASED TEACHER FOR SEMI-SUPERVISED OBJECT DETECTION url:https://openreview.net/forum?id=MJIve1zgR_ code:https://github.com/facebookresearch/unbias
阅读全文
摘要：单阶段目标检测 EfficientDet：EfficientDet: Scalable and Efficient Object Detection url：https://arxiv.org/abs/1911.09070 引入了BiFPN，作者发现PANet涨点挺猛的。然后就在上面改一下，而且不能
阅读全文
摘要：分类： 1.Test-Agnostic Long-Tailed Recognition by Test-Time Aggregating Diverse Experts with Self-Supervision url：https://arxiv.org/pdf/2107.09249.pdf 大家
阅读全文
