参数调优——Batch size

batch size大小选取原则：

1. CPU是非常讨厌16，32，64…… 这样大小的（2^*）数组的；（具体原因网上好像有说明，但没太细看：Data alignment and caches）
2. GPU好像没有类似的问题，但我还是要劝大家，超参的选取随意点。而且GPU上好像推荐取32 的倍数

 

 

个人觉得其他还不错调参tricks：

深度学习调参有哪些技巧？9931 关注 · 56 回答问题

10分钟教你深度学习的调参 - 云+社区 - 腾讯云​cloud.tencent.com/developer/article/1089726

深度学习调参技巧 - ranjiewen - 博客园​www.cnblogs.com/ranjiewen/p/7682309.html

【DL碎片5】深度学习中的正则化（Regularization））​www.jianshu.com/p/db86e9330fff

关于神经网络的调参顺序?559 关注 · 8 回答问题

怎么选取训练神经网络时的Batch size?1666 关注 · 27 回答问题