11 2019 档案
摘要:深度学习各种优化函数详解 深度学习中有众多有效的优化函数,比如应用最广泛的SGD,Adam等等,而它们有什么区别,各有什么特征呢?下面就来详细解读一下 一、先来看看有哪些优化函数 BGD 批量梯度下降 所谓的梯度下降方法是无约束条件中最常用的方法。假设f(x)是具有一阶连续偏导的函数,现在的目标是要
阅读全文
摘要:深度学习——分类之ResNeXt 论文:Aggregated Residual Transformations for Deep Neural Networks 作者:Saining Xie, Ross Girshick, Piotr Dollár, Zhuowen Tu, Kaiming He I
阅读全文
摘要:速度与精度的结合 - EfficientNet 详解 来自 google 的 EfficientNet,论文提出了一种多维度混合的模型放缩方法。论文链接(文末有代码): https://arxiv.org/pdf/1905.11946.pdfarxiv.org 作者希望找到一个可以同时兼顾速度与精
阅读全文