摘要：
近期，动态网络在加速推理这方面有很多研究，DGC(Dynamic Group Convolution)将动态网络的思想结合到分组卷积中，使得分组卷积在轻量化的同时能够加强表达能力，整体思路直接清晰，可作为网络设计时的一个不错的选择 来源：晓飞的算法工程笔记 公众号 论文: Dynamic Group 阅读全文
摘要：
S2DNAS最核心的点在于设计了丰富而简洁的搜索空间，从而能够使用常规的NAS方法即可进行动态推理网络的搜索，解决了动态推理网络的设计问题，可进行任意目标网络的转换 来源：晓飞的算法工程笔记 公众号 论文: S2DNAS: Transforming Static CNN Model for Dyna 阅读全文
摘要：
DETR基于标准的Transorfmer结构，性能能够媲美Faster RCNN，而论文整体思想十分简洁，希望能像Faster RCNN为后续的很多研究提供了大致的思路 来源：晓飞的算法工程笔记 公众号 论文: End-to-End Object Detection with Transformer 阅读全文
摘要：
边界对于定位问题十分重要，BorderDet的核心思想BorderAlign巧妙又有效，将边界特征融入到目标定位预测中，而且能够简单地融入到各种目标检测算法中带来较大的性能提升下。在开源实现中，对BorderAlign进行了高效CUDA实现，不会对耗时带来很大的影响，整个工作十分扎实 来源：晓飞的算 阅读全文
摘要：
梯度中心化GC对权值梯度进行零均值化，能够使得网络的训练更加稳定，并且能提高网络的泛化能力，算法思路简单，论文的理论分析十分充分，能够很好地解释GC的作用原理 来源：晓飞的算法工程笔记 公众号 论文: Gradient Centralization: A New Optimization Techn 阅读全文
摘要：
CondenseNet特点在于可学习分组卷积的提出，结合训练过程进行剪枝，不仅能准确地剪枝，还能继续训练，使网络权重更平滑，是个很不错的工作 来源：晓飞的算法工程笔记 公众号 论文:Neural Architecture Search with Reinforcement Learning 论文地址 阅读全文
摘要：
论文提出了移动端的神经网络架构搜索方法，该方法主要有两个思路，首先使用多目标优化方法将模型在实际设备上的耗时融入搜索中，然后使用分解的层次搜索空间，来让网络保持层多样性的同时，搜索空间依然很简洁，能够使得搜索的模型在准确率和耗时中有更好的trade off 来源：【晓飞的算法工程笔记】 公众号 论文 阅读全文
摘要：
MobileNet系列很重要的轻量级网络家族，出自谷歌，MobileNetV1使用深度可分离卷积来构建轻量级网络，MobileNetV2提出创新的inverted residual with linear bottleneck单元，虽然层数变多了，但是整体网络准确率和速度都有提升，MobileNet 阅读全文
摘要：
ShuffleNet系列是轻量级网络中很重要的一个系列，ShuffleNetV1提出了channel shuffle操作，使得网络可以尽情地使用分组卷积来加速，而ShuffleNetV2则推倒V1的大部分设计，从实际出发，提出channel split操作，在加速网络的同时进行了特征重用，达到了很好 阅读全文
摘要：
SqueezeNet系列是比较早期且经典的轻量级网络，SqueezeNet使用Fire模块进行参数压缩，而SqueezeNext则在此基础上加入分离卷积进行改进。虽然SqueezeNet系列不如MobieNet使用广泛，但其架构思想和实验结论还是可以值得借鉴的。 来源：晓飞的算法工程笔记 公众号 S 阅读全文