摘要：
batch normalization, instance normalization, layer normalization, group normalization （知乎） batch normalization, instance normalization, layer normaliz 阅读全文
摘要：
一文梳理无监督对比学习（MoCo/SimCLR/SwAV/BYOL/SimSiam）（微信推文） 自监督学习（Self-Supervised Learning） 2018-2020年发展综述 （微信推文） 对比学习（Contrastive Learning）综述（知乎） 综述文献： 2020TPAM 阅读全文
摘要：
非极大值抑制（Non-Maximum Suppression，NMS） 单类别NMS的numpy实现 def py_cpu_nms(dets, thresh): """Pure Python NMS baseline.""" #x1、y1、x2、y2、以及score赋值 x1 = dets[:, 0 阅读全文
摘要：
Zero-shot Learning / One-shot Learning / Few-shot Learning 阅读全文
摘要：
top1错误率、top5正确率 阅读全文
摘要：
归纳偏置 如何理解Inductive bias？ 阅读全文
摘要：
台式机安装了一些默认更新后，发现插入耳机没有声音了，不管是前面的耳机孔还是后面的耳机孔，都没有声音。 捣鼓了一阵，解决了这个问题，下面记录一下。 1. 打开控制面板，找到Realtek音频管理器 2. 弹出如下界面，点击设置，再点击选项 3. 把HD音频前面板取消勾，改为在AC97前面板打钩，点击确 阅读全文
摘要：
Attention in RNN 阅读全文
摘要：
微信视频讲解(1) （推荐） 微信视频讲解(2) （推荐） Transformer 详解 （有详细的原理以及pytorch代码实现讲解，推荐） 李宏毅哔哩哔哩视频讲解 Vision Transformer 超详细解读 (原理分析+代码解读) (一) （推荐） 举个例子讲下transformer的输入 阅读全文
摘要：
1. 蒸馏损失函数代码实现 摘自：知识蒸馏loss求解方法 - tangjunjun - 博客园 (cnblogs.com) import torch import torch.nn as nn import numpy as np loss_f = nn.KLDivLoss() # 生成网络输出 阅读全文