摘要:
归一化网络的激活函数( Normalizing activations in a network) 在深度学习兴起后,最重要的一个思想是它的一种算法,叫做 Batch 归一化。Batch 归一化会使你的参数搜索问题变得很容易,使神经网络对超参数的选择更加稳定,超参数的范围会更加庞大,工作效果也很好, 阅读全文
摘要:
超参数训练的实践: Pandas VS Caviar( Hyperparameters tuning in practice: Pandas vs. Caviar) 每隔几个月需要重新测试或评估超参数。 关于如何搜索超参数的问题,通常采用的两种重要但不同的方式:熊猫方式和鱼子酱方式。 熊猫方式: 你 阅读全文