2022年7月20日
OREPA：阿里提出训练也很快的重参数策略，内存减半，速度加倍 | CVPR 2022
摘要： 论文提出了在线重参数方法OREPA，在训练阶段就能将复杂的结构重参数为单卷积层，从而降低大量训练的耗时。为了实现这一目标，论文用线性缩放层代替了训练时的BN层，保持了优化方向的多样性和特征表达能力。从实验结果来看，OREPA在各种任务上的准确率和效率都很不错 来源：晓飞的算法工程笔记 公众号 论文: 阅读全文
posted @ 2022-07-20 13:01 晓飞的算法工程笔记 阅读(189) 评论(0) 推荐(0) 编辑