摘要: 这个函数用于更新参数,就是采用滑动平均的方法更新参数。这个函数初始化需要提供一个衰减速率(decay),用于控制模型的更新速度。这个函数还会维护一个影子变量(也就是更新参数后的参数值),这个影子变量的初始值就是这个变量的初始值,影子变量值的更新方式如下: shadow_variable是影子变量,v 阅读全文
posted @ 2017-11-09 10:55 guqiangjs 阅读(897) 评论(0) 推荐(0) 编辑
摘要: 规则化可以帮助防止过度配合,提高模型的适用性。(让模型无法完美匹配所有的训练项。)(使用规则来使用尽量少的变量去拟合数据) 规则化就是说给需要训练的目标函数加上一些规则(限制),让他们不要自我膨胀。 损失通常被添加到 。 "机器学习的 L1 和 L2 规范" "其他规则化函数 Regularizer 阅读全文
posted @ 2017-11-09 09:34 guqiangjs 阅读(19028) 评论(0) 推荐(0) 编辑
摘要: 占位符 "tf.placeholder" 不必指定初始值 ,可在运行时,通过 ,`Tensor.eval() Operation.run() feed_dict` 参数指定; 阅读全文
posted @ 2017-11-09 09:25 guqiangjs 阅读(268) 评论(0) 推荐(0) 编辑
摘要: 激活函数 这个函数的作用是计算激活函数relu,即max(features, 0) "tf.nn.relu" "其他激活函数" 阅读全文
posted @ 2017-11-09 07:25 guqiangjs 阅读(574) 评论(0) 推荐(0) 编辑
摘要: 矩阵乘法 "tf.matmul" "矩阵乘法 维基百科" "理解矩阵乘法 阮一峰的网络日志" 当A是个 4×2 矩阵和B是个 2×3 矩阵时。分别来自两个矩阵的元素都依箭头方向而两两配对,把每一对中的两个元素相乘,再把这些乘积加总起来,最后得到的值即为箭头相交位置的值。 矩阵相乘最重要的方法是一般矩 阅读全文
posted @ 2017-11-09 07:18 guqiangjs 阅读(1746) 评论(0) 推荐(0) 编辑
摘要: 从截断的正态分布中输出随机值。 生成的值服从具有指定平均值和标准偏差的正态分布,如果生成的值大于平均值2个标准偏差的值则丢弃重新选择。 ARGS: mean:一个python标量或一个标量张量。要生成的随机值的均值。 stddev:一个python标量或一个标量张量。要生成的随机值的标准偏差。 se 阅读全文
posted @ 2017-11-09 06:54 guqiangjs 阅读(14841) 评论(0) 推荐(1) 编辑