摘要: 位置编码,对句子中词汇位置进行编码 为什么需要位置编码 在任何语言中,词语的位置和顺序对句子的意思都至关重要; 在 RNN 中,以序列的模式逐个处理句子中的词语,这种网络结构天然保存了词语的顺序信息; 但在 词嵌入 时,单词并不是以 词在 句子中的顺序进行 embedding 的,而是很随意的把所有 阅读全文