摘要:
欧氏距离(Euclidean distance)也称欧几里得度量、欧几里得度量,是一个通常采用的距离定义,它是在m维空间中两个点之间的真实距离。在二维和三维空间中的欧氏距离的就是两点之间的距离。 Lp space p范数:║x║p=(|x1|^p+|x2|^p+…+|xn|^p)^{1/p} 每个值 阅读全文
摘要:
以下这些函数可以用于解决梯度消失或梯度爆炸问题上。 tensorflow 中的clip_by_norm optimizer = tf.train.AdamOptimizer(learning_rate, beta1=0.5) grads = optimizer.compute_gradients(c 阅读全文
摘要:
I optimizer.minimize(loss, var_list) 我们都知道,TensorFlow为我们提供了丰富的优化函数,例如GradientDescentOptimizer。这个方法会自动根据loss计算对应variable的导数。示例如下: loss = ... opt = tf.t 阅读全文