摘要: 1.CBOW 模型 CBOW模型包括输入层、投影层、输出层。模型是根据上下文来预测当前词,由输入层到投影层的示意图如下: 这里是对输入层的4个上下文词向量求和得到的当前词向量,实际应用中,上下文窗口大小可以设置。 输出层是一颗哈夫曼树,从向量W(t)到哈夫曼树的转化过程是这样的:以训练语料中出现的词 阅读全文
posted @ 2017-10-08 21:53 雪饮者 阅读(263) 评论(0) 推荐(0) 编辑