摘要: 深度学习模型训练的过程本质是对weight(即参数W)进行更新,这需要每个参数有相应的初始值。 阅读全文
posted @ 2018-12-22 12:48 侯凯 阅读(893) 评论(1) 推荐(0) 编辑
摘要: “Xavier”初始化方法是一种很有效的神经网络初始化方法,方法来源于2010年的一篇论文《Understanding the difficulty of training deep feedforward neural networks》 阅读全文
posted @ 2018-12-22 12:47 侯凯 阅读(2592) 评论(0) 推荐(0) 编辑
摘要: 范数在机器学习中的应用 阅读全文
posted @ 2018-12-22 12:45 侯凯 阅读(4604) 评论(0) 推荐(1) 编辑
摘要: 着重介绍hige loss 和 softmax loss。 阅读全文
posted @ 2018-12-22 12:42 侯凯 阅读(1440) 评论(0) 推荐(0) 编辑