晓飞的算法工程笔记

摘要： 论文将标准的遗传算法应用到神经网络结构搜索中，首先对网络进行编码表示，然后进行遗传操作，整体方法十分简洁，搜索空间设计的十分简单，基本相当于只搜索节点间的连接方式，但是效果还是挺不错的，十分值得学习 来源：晓飞的算法工程笔记 公众号 论文: Genetic CNN 论文地址： "https://ar 阅读全文

摘要： 论文提出使用进化算法来进行神经网络结构搜索，整体搜索逻辑十分简单，结合权重继承，搜索速度很快，从实验结果来看，搜索的网络准确率挺不错的。由于论文是个比较早期的想法，所以可以有很大的改进空间，后面的很大算法也是基于这种想法进行更好的补充 来源：晓飞的算法工程笔记 公众号 论文: Large Scale 阅读全文

摘要： YOLO系列是目标检测领域里十分经典的结构，虽然目前已经出了很多更高质量更复杂的网络，但YOLO的结构依然可以给算法工程师们带来很多的启发。这3篇论文看下来，感觉像是一本调参说明书，教你如何使用各种trick提高手上的目标检测网络的准确率 来源：晓飞的算法工程笔记 公众号 YOLOv1 论文: Yo 阅读全文

摘要： 论文提出MetaQNN，基于Q Learning的神经网络架构搜索，将优化视觉缩小到单层上，相对于Google Brain的NAS方法着眼与整个网络进行优化，虽然准确率差了2～3%，但搜索过程要简单地多，所以才能仅用100GPU days就可以完成搜索，加速240倍。论文本身是个很初期的想法，可以看 阅读全文

摘要： 论文提出anchor free和proposal free的one stage的目标检测算法FCOS，不再需要anchor相关的的超参数，在目前流行的逐像素(per pixel)预测方法上进行目标检测，根据实验结果来看，FCOS能够与主流的检测算法相比较，达到SOTA，为后面的大热的anchor f 阅读全文

摘要： 论文提出stand alone self attention layer，并且构建了full attention model，验证了content based的相互关系能够作为视觉模型特征提取的主要基底。在图像分类和目标检测实验中，相对于传统的卷积模型，在准确率差不多的情况下，能够大幅减少参数量和计 阅读全文

摘要： 论文提出了实时的超轻量级two stage detector ThunderNet，靠着精心设计的主干网络以及提高特征表达能力的CEM和SAM模块，使用很少的计算量就能超越目前的one stage detectors，在ARM平台也达到了实时性，GPU的速度更是达到267fps 来源：【晓飞的算法工 阅读全文

摘要： 论文提出Light Head R CNN，一个精简的two stage目标检测器设计准则，在表达能力很强的精简特征图上使用轻量级的R CNN子网，不仅大量减少推理耗时，还提高了准确率，结合Xception like的主干网络能够达到30.7mAP和102FPS 来源：【晓飞的算法工程笔记】 公众号 阅读全文

摘要： 论文将搜索空间从整体网络转化为卷积单元(cell)，再按照设定堆叠成新的网络家族NASNet。不仅降低了搜索的复杂度，从原来的28天缩小到4天，而且搜索出来的结构具有扩展性，在小模型和大模型场景下都能使用更少的参数量和计算量来超越人类设计的模型，达到SOTA 来源：【晓飞的算法工程笔记】 公众号 论 阅读全文

摘要： 近年来很多研究将nlp中的attention机制融入到视觉的研究中，得到很不错的结果，于是，论文侧重于从理论和实验去验证self attention可以代替卷积网络独立进行类似卷积的操作，给self attention在图像领域的应用奠定基础 论文: On the Relationship betw 阅读全文