2020年12月17日
参数随机初始化
摘要： 转载自：https://zhuanlan.zhihu.com/p/148034113 一：参数初始化类别 参数初始化分为：固定值初始化、预训练初始化和随机初始化。 固定初始化： 是指将模型参数初始化为一个固定的常数，这意味着所有单元具有相同的初始化状态，所有的神经元都具有相同的输出和更新梯度，并进行 阅读全文
posted @ 2020-12-17 14:34 山上有风景 阅读(1205) 评论(0) 推荐(0) 编辑