摘要:异构信息网络 异构信息网络 信息网络是知识表示的结构化文本方式,网络中包含一系列节点以及节点和节点之间的边。信息网络的经典例子如文献信息网络,其结构反映了储存在节点里的信息的结构,所以称为信息网络。另一个经典的例子就是万维网,对于这些网络的研究往往是将其视为同构信息网络来分析。随着信息网络研究的进一
阅读全文
摘要:深度学习介绍 2006是深度置信网络用于数据集的预训练是深度学习爆发的前夕, 2012是深度学习开始真正的爆发 一个最简单的感知机可以理解成一条直线,具有两个权重w1,w2,一个偏置b。根据点在直线的上方或者下方进行分类为0或者1。 把一头大象装进冰箱需要三个步骤(1)打开冰箱的门(2)将大象塞进去
阅读全文
摘要:基于单层决策树的AdaBoost算法源码 Mian.py AdaBoost.py WeakClassifer.py data
阅读全文
摘要:AdaBoost算法 AdaBoost 简介 前面五篇文章涵盖了分类、回归、关联分析等诸多模型,其中分类模型被介绍得最多。原因是分类在机器学习方向是应用最广的方向之一。本文将要介绍的是分类模型中的另一种模型,AdaBoost(adaptive boosting),即自适应提升算法。 Boosting
阅读全文
摘要:Decision stump 基本原理 decision stump,决策树桩(我称它为一刀切),也称单层决策树(a one level decision tree),单层也就意味着尽可对每一列属性进行一次判断。如下图所示(仅对 petal length 进行了判断): 从树(数据结构)的观点来看,
阅读全文
摘要:卷积神经网络各种池化 在卷积神经网络中,我们经常会碰到池化操作,而池化层往往在卷积层后面,通过池化来降低卷积层输出的特征向量,同时改善结果(不易出现过拟合)。图像具有一种"静态性"的属性,这也就意味着在一个图像区域有用的特征极有可能在另一个区域同样适用。因此,为了描述大的图片,一个很自然的想法就是对
阅读全文
摘要:图卷积神经网络 现实世界许多数据都是以graph的形式存储的,比如social networks(社交网络),knowledge graphs(知识图谱),最近有一些研究者把目光投向建立一种通用的神经网络模型处理graph数据。 图上的卷积网络从卷积方式上可以分为两种:1.谱(spectral)卷积
阅读全文
摘要:1.今天我就介绍一下深度学习,不会讲太细的东西,也不会有太多的数学的公式。 2.现在深度学习能做的事情还非常有限,为什么要去了解深度学习呢?我觉至少有两个方面,可以忽悠比人或者不被别人忽悠 3.这张图展现了人工智能,机器学习,深度学习的关系。深度学习是机器学习现在最火的研究热点 4.下面我给出了近2
阅读全文
摘要:RNNs and Language modeling in TensorFlow From feed-forward to Recurrent Neural Networks (RNNs) In the last few weeks, we've seen how feed-forward and
阅读全文
摘要:Lecture note 5: word2vec + manage experiments Word2vec Most of you are probably already familiar with word embedding and understand the importance of
阅读全文
摘要:Convolutions in TensorFlow Convolutions without training You might already be familiar with the term "convolution" from a mathematical or physical con
阅读全文
摘要:Lecture note 4: Eager execution and interface Eager execution Eager execution is (1) a NumPy-like library for numerical computation with support for G
阅读全文
摘要:Linear and Logistic Regression in TensorFlow Graphs and sessions TF Ops: constants, variables, functions TensorBoard Lazy loading Linear Regression: P
阅读全文
摘要:TensorFlow Ops 1. Fun with TensorBoard In TensorFlow, you collectively call constants, variables, operators as ops. TensorFlow is not just a software
阅读全文
摘要:Lecture note 1: Introduction to TensorFlow Why TensorFlow TensorFlow was originally created by researchers at Google as a single infrastructure for ma
阅读全文
摘要:神经记忆模型 rnn和lstm的记忆能力实在有限,最多也就记忆十几个时间步长。因此当句子长度增长时或者需要添加先验知识时,seq2seq就不能满足此时对话系统的需求了。比起人工增加RNN隐藏状态大小,我们更愿意任意增加加入模型的知识量,同时对模型本身做出最小限度改变。基本上,我们能用独立存储器——作
阅读全文
摘要:Papers to Read General Introduction LeCun, Y., Bengio, Y., & Hinton, G. (2015). Deep learning. Nature, 521(7553), 436-444.nature14539.pdf [This is a g
阅读全文
摘要:基于朴素贝叶斯的文本分类算法 摘要:常用的文本分类方法有支持向量机、K-近邻算法和朴素贝叶斯。其中朴素贝叶斯具有容易实现,运行速度快的特点,被广泛使用。本文详细介绍了朴素贝叶斯的基本原理,讨论多项式模型(MM),实现了可运行的代码,并进行了一些数据测试。 关键字:朴素贝叶斯;文本分类 第1章 贝叶斯
阅读全文
摘要:Sequence Models This is the fifth and final course of the deep learning specialization at Coursera which is moderated by deeplearning.ai Here are the
阅读全文