摘要：
encoder decoder框架 在nlp任务中，比如机器翻译，encoder decoder是一种比较常用的学习框架，将原文x输入到encoder中，encoder输出context c作为decoder的部分输入，这里的c就包含了原文x的所有信息。 RNN RNN由于擅长处理序列特征，因此常被 阅读全文
摘要：
自然语言处理任务中要处理的对象是单词或者词组，单词可以看做是类别型特征，虽然tree based模型可以采用类别特征，但包括神经网络在内的大部分机器学习模型只能处理数值型特征。因此，在使用模型时通常需要将单词等特征转化为数值。最常见的方法是one hot encoding。但这种方法编码出来的特征非 阅读全文