问题:神经网络对初始权重十分敏感,那么现今的深度学习时代是如何解决这个问题的呢?
答案:
虽然有很多工作在讨论和研究如何对神经网络进行初始化,但是并不能完全解决该问题,因此在实际过程中我如果发现神经网络的训练结果不是很理想那么就会重新初始化神经网络权重并重新训练。
PS:
有的时候看似难以解答的问题,其答案却是如此的简单(easy),确实有些大跌眼镜。
本博客是博主个人学习时的一些记录,不保证是为原创,个别文章加入了转载的源地址,还有个别文章是汇总网上多份资料所成,在这之中也必有疏漏未加标注处,如有侵权请与博主联系。
如果未特殊标注则为原创,遵循 CC 4.0 BY-SA 版权协议。
posted on 2024-09-12 16:47 Angry_Panda 阅读(9) 评论(0) 编辑 收藏 举报