摘要:
Recurrent Neural Network (RNN) 循环网络区别于之前提到的前馈网络在于,它能够将每一层的输出带到后面的神经层,使用state向量来保存和传递处理过的信息,用递归函数表示如下。 \(s_i = f(s_{i-1},x_i),这里的s_i表示新的状态,s_{i-1}表示前一个 阅读全文
摘要:
深度学习 深度学习是机器学习的分支,也就是神经网络,为什么称之为”深度“?因为有很多连接在一起的神经层! 前馈网络 Feedforward Networks 也叫Multilayer Perceptrons(多层感知机),大致的结构如下图所示 其中,每一个节点都可以看做是一个函数,将上一层传过来的输 阅读全文
摘要:
HMM 本文接着上一篇的POS tagging来讲hidden markov model,以及如何使用HMM来做NLP任务的训练。 概率模型 假设我们的目标是给定一句话w(也就是一个序列),希望获得一组最优的tagging序列t, \(\hat{t} = argmax_tP(t|w) = argma 阅读全文