摘要：
学习RNN时原理理解起来不难，但是用TensorFlow去实现时被它各种数据的shape弄得晕头转向。现在就结合一个情感分析的案例来了解一下LSTM的操作流程。 一、深度学习在自然语言处理中的应用 自然语言处理是教会机器如何去处理或者读懂人类语言的系统，主要应用领域： 对话系统 - 聊天机器人（小冰 阅读全文
摘要：
LDA模型算法简介： 算法 的输入是一个文档的集合D={d1, d2, d3, ... , dn}，同时还需要聚类的类别数量m；然后会算法会将每一篇文档 di 在 所有Topic上的一个概率值p；这样每篇文档都会得到一个概率的集合di=（dp1，dp2，..., dpm）；同样的文档中的所有词也会求 阅读全文
摘要：
一、jieba分词功能 1、主要模式 支持三种分词模式： 精确模式，试图将句子最精确地切开，适合文本分析； 全模式，把句子中所有的可以成词的词语都扫描出来, 速度非常快，但是不能解决歧义； 搜索引擎模式，在精确模式的基础上，对长词再次切分，提高召回率，适合用于搜索引擎分词。 支持繁体分词 支持自定义 阅读全文
摘要：
1、词向量建模的word2vec模型和用于长文本向量建模的doc2vec模型 在Gensim中实现word2vec模型非常简单。首先，我们需要将原始的训练语料转化成一个sentence的迭代器；每一次迭代返回的sentence是一个word（utf8格式）的列表： 接下来，我们用这个迭代器作为输入， 阅读全文
摘要：
前一篇，word2vec(一)主要讲了word2vec一些表层概念，以及主要介绍CBOW方法来求解词向量模型，这里主要讲论文 Distributed Representations of Words and Phrases and their Compositionality中的skip-gram 阅读全文
摘要：
1. 正则表达式基础 1.1. 简单介绍 正则表达式并不是Python的一部分。正则表达式是用于处理字符串的强大工具，拥有自己独特的语法以及一个独立的处理引擎，效率上可能不如str自带的方法，但功能十分强大。得益于这一点，在提供了正则表达式的语言里，正则表达式的语法都是一样的，区别只在于不同的编程语 阅读全文
摘要：
一、RNN 1、定义 递归神经网络（RNN）是两种人工神经网络的总称。一种是时间递归神经网络（recurrent neural network），另一种是结构递归神经网络（recursive neural network）。时间递归神经网络的神经元间连接构成矩阵，而结构递归神经网络利用相似的神经网络 阅读全文
摘要：
1、如何理解 tf.reduce_max或者 tf.reduce_mean中对Tensor和高维矩阵的坐标轴axis的选择的操作 从上计算结果中也可以看到，如果axis为None，默认将所有的维度都降1，最后剩下个0维的数子。 一个不是很简单，但是很好理解的方法是：你的输入矩阵的shape是(2,3 阅读全文
摘要：
一、GBM参数 总的来说GBM的参数可以被归为三类： 1、树参数 现在我们看一看定义一个决策树所需要的参数。注意我在这里用的都是python里scikit-learn里面的术语，和其他软件比如R里用到的可能不同，但原理都是相同的。 在继续介绍其他参数前，我们先看一个简单的GBM二分类伪代码： 以上步 阅读全文
摘要：
1. 模型的偏差以及方差： 模型的偏差：模型预测值偏离真实值的程度。 模型的方差：值模型预测值的离散程度，比如两条几乎相同的样本，但是预测值可能差很多。 我们认为方差越大的模型越容易过拟合：假设有两个训练集A和B，经过A训练的模型Fa与经过B训练的模型Fb差异很大，这意味着Fa在类A的样本集合上有更 阅读全文