03 2021 档案
摘要:本文主要介绍 CNN 模型复杂度的分析,通常来说模型复杂度一般我们关注:1)时间复杂度:模型训练和推理速度;2)占用 GPU 大小。 模型训练和推理速度 模型的训练和推理速度由“运算量”决定,即 FLOPs,“运算量”代表模型的时间复杂度。FLOPs 越大,模型训练和推理越慢,对于 CNN,每个卷积
阅读全文
摘要:本文主要介绍一下时下很热门的 Attention 机制,从什么是 Attention 机制,到它是如何被运用到 NLP 领域,后来又应用到 CV 领域的。 什么是 Attention 机制? Attention 机制的思想其实是借鉴了生物在观察和学习行为中的过程,也就是我们人类通常在观察和学习的时候
阅读全文
摘要:最近刚刚开始系统了解 Object Detection,欢迎随时 Email 交流。 前言 目标检测网络的任务是要预测出各个物体的边框(Bounding Boxes)和每个物体的分类概率(Confidence Score)。 目前 Object Detection 网络一般可以分为两种:1)基于候选
阅读全文
摘要:本文主要介绍一下分类问题中损失函数的使用,对于二分类、多分类、多标签这个三个不同的场景,在 Pytorch 中的损失函数使用稍有区别。 损失函数 Softmax 在介绍损失函数前,先介绍一下什么是 Softmax,通常在分类问题中会将 Softmax 搭配 Cross Entropy 一同使用。So
阅读全文