2020年6月22日
深度神经网络的优化算法
摘要： 目前，深度神经网络的参数学习主要是通过梯度下降法来寻找一组可以最小化结构风险的参数。在具体实现中，梯度下降法可以分为：批量梯度下降、随机梯度下降以及小批量梯度下降三种形式。根据不同的数据量和参数量，可以选择一种具体的实现形式。这里介绍一些在训练神经网络时常用的优化算法，这些优化算法大体上可以分为两类 阅读全文
posted @ 2020-06-22 17:36 Hiidiot 阅读(1906) 评论(0) 推荐(0) 编辑