2017年12月24日

optimizer

摘要： 在很多机器学习和深度学习的应用中，我们发现用的最多的优化器是 Adam，为什么呢？ 下面是 TensorFlow 中的优化器， https://www.tensorflow.org/api_guides/python/train 在 keras 中也有 SGD，RMSprop，Adagrad，Ada 阅读全文

posted @ 2017-12-24 23:06 alexanderkun 阅读(629) 评论(0) 推荐(0) 编辑

一个深度学习的例子

摘要： 主题介绍：使用 TensorFlow，可以将深度机器学习从一个研究领域转变成一个主流的软件工程方法。在这个视频中，Martin Görner 演示了如何构建和训练一个用于识别手写数字的神经网络。在这个过程中，他将描述一些在神经网络设计中所使用的权衡技巧，最后他将使得其模型的识别准确度超过 99%。本 阅读全文

posted @ 2017-12-24 22:43 alexanderkun 阅读(14424) 评论(1) 推荐(1) 编辑

Batch_Size 详解

摘要： Batch_Size（批尺寸）是机器学习中一个重要参数，涉及诸多矛盾，下面逐一展开。 首先，为什么需要有 Batch_Size 这个参数？ Batch 的选择，首先决定的是下降的方向。如果数据集比较小，完全可以采用全数据集 （ Full Batch Learning ）的形式，这样做至少有 2 个好 阅读全文

posted @ 2017-12-24 22:14 alexanderkun 阅读(53571) 评论(1) 推荐(2) 编辑

softmax函数详解

摘要： 答案来自专栏：机器学习算法与自然语言处理 详解softmax函数以及相关求导过程 这几天学习了一下softmax激活函数，以及它的梯度求导过程，整理一下便于分享和交流。 softmax函数 softmax用于多分类过程中，它将多个神经元的输出，映射到（0,1）区间内，可以看成概率来理解，从而来进行多 阅读全文

posted @ 2017-12-24 18:12 alexanderkun 阅读(147418) 评论(5) 推荐(17) 编辑

导航