摘要： 1.A Click Sequence Model for Web Search（日志分析） 更好的理解用户行为对于推动信息检索系统来说是非常重要的。已有的研究工作仅仅关注于建模和预测一次交互行为，例如点击行为。本文首次关注建模和预测交互事件序列。具体来讲就是点击序列（Sequences of cli 阅读全文

摘要： 由于实验需要，近三个月来，安装过十几次Theano，基本上每次都是从最基本的nvidia driver装起。总结一些粗浅的安装心得。 GPU：Nvidia K40, M40, M60 软件环境：Unbuntu 14 以及Unbuntu 16 （一）检测已有的环境 用Nividia-smi查看是否已经 阅读全文

摘要： 译自：http://sebastianruder.com/multi-task/ 1. 前言 在机器学习中，我们通常关心优化某一特定指标，不管这个指标是一个标准值，还是企业KPI。为了达到这个目标，我们训练单一模型或多个模型集合来完成指定得任务。然后，我们通过精细调参，来改进模型直至性能不再提升。尽 阅读全文

摘要： 译自：http://willwolf.io/2017/04/19/deriving-the-softmax-from-first-principles/ 本文的原始目标是探索softmax函数与sigmoid函数的关系。事实上，两者的关系看起来已经是遥不可及：一个是分子中有指数！一个有求和！一个分母 阅读全文

摘要： 1.Theano中的scan函数 目前先弱弱的认为：相当于symbolic的for循环吧，或者说计算图上的for循环，也可以用来替代repeat-until。 与scan相比，scan_checkpoint减少了内存的使用，只保存最后一步的计算结果。 2.Theano中的shared变量 Varia 阅读全文

摘要： 译自：http://deeplearning.net/software/theano/extending/graphstructures.html#graphstructures 理解Theano计算原理的关键 建议阅读时间：10分钟 如果不明白内在运行机制，Theano代码的调试工作并非易事。本章 阅读全文

摘要： 翻译自：https://blogs.nvidia.com/blog/2012/09/10/what-is-cuda-2/ 你可能并没有意识到，GPU的应用有多广泛，它不但用于视频、游戏以及科学研究中，我们的日常生活正在逐渐被GPU计算（GPU Computing）影响。 移动应用依赖于云端服务器上运 阅读全文

摘要： 摘要 本文提出了两种从大规模数据集中计算连续向量表示（Continuous Vector Representation）的计算模型架构。这些表示的有效性是通过词相似度任务（Word Similarity Task）来度量的。实验结果表明，这种方法要优于已有的基于其他类型的神经网络模型的效果。更重要的 阅读全文

摘要： If is a discrete random variable taking on values ， then we can write . Implementation of this formula to generate discrete random variables is actual 阅读全文

摘要： 目前见过的定义的比较确切的是Yoshua Bengio在ACL2010的一篇paper中关于word representation的定义： " A word Representation is a mathematical object associated with each word, ofte 阅读全文