摘要: optimizer是在训练中,运用到的训练方法,最常用的是梯度下降法,去寻找最优loss,tf中常见的optimizer有: 通过Dr.Sebastian Ruder 的论文An overview of gradient descent optimization algorithms来详细了解一些优 阅读全文
posted @ 2018-08-21 12:25 InsistPy 阅读(675) 评论(0) 推荐(0) 编辑
摘要: 记录一下filter,也就是用来提取要识别object边缘信息的过滤器的一些规律以及经验: 首先, 大部分卷积神经网络滤波器都会采用逐层递增(1⇒ 3 ⇒ 5 ⇒ 7)的方式。其次,每经过一次池化层,卷积层过滤器的深度都会乘以 2。 提一个知识点,也就是权值共享,每当filter扫过feature 阅读全文
posted @ 2018-08-21 00:03 InsistPy 阅读(3117) 评论(0) 推荐(0) 编辑
隐藏