摘要: 参数初始化的读书笔记。参考图书:深度学习入门: 基于Python的实现,神经网络与深度学习(NNDL)。参数初始化主要分为:随机初始化和预训练初始化。随机初始化直接依赖先验分布来初始化网络参数,而预训练初始化则基于有监督或自监督训练来寻找较好的初始值(便于迁移)。 一、随机初始化 在训练线性模型时, 阅读全文
posted @ 2022-04-25 11:37 LeonYi 阅读(519) 评论(0) 推荐(0) 编辑