摘要: I optimizer.minimize(loss, var_list) 我们都知道,TensorFlow为我们提供了丰富的优化函数,例如GradientDescentOptimizer。这个方法会自动根据loss计算对应variable的导数。示例如下: 首先我们看一下 的源代码(为方便说明,部分 阅读全文
posted @ 2018-12-02 22:55 marsggbo 阅读(22021) 评论(0) 推荐(4) 编辑
摘要: 以下这些函数可以用于解决梯度消失或梯度爆炸问题上。 1. tf.clip_by_value Returns: 输入一个张量t,把t中的每一个元素的值都压缩在clip_value_min和clip_value_max之间。小于min的让它等于min,大于max的元素的值等于max。 例子: 2. tf 阅读全文
posted @ 2018-12-02 22:15 marsggbo 阅读(5619) 评论(0) 推荐(2) 编辑