摘要: 05. 序列模型 第三周 序列模型和注意力机制 3.1 基础模型 seq2seq模型:(编码器 + 解码器) Image captioning模型: (AlexNet + 解码器) 虽然简单粗暴,但是确实有效。 3.2 选择最可能的句子 前面讲的语言模型可以给出文本的分布\( P(y^{<1>}, 阅读全文
posted @ 2020-02-05 21:32 tofengz 阅读(225) 评论(0) 推荐(0) 编辑
摘要: 04. 序列模型 第二周 自然语言处理与词嵌入 2.1 & 2.2 词嵌入 前面我们都是借助词典用one-hot向量表示词汇,这样做有个缺点,就是不能表示词汇之间的相关性,比如苹果、橘子应该有着相似的表达。 另一种词汇的表示方法是用特征化的表示,可以选择一些抽象特征来归纳不同词汇的特点: 这种将词汇 阅读全文
posted @ 2020-02-05 13:03 tofengz 阅读(200) 评论(0) 推荐(0) 编辑