摘要: ELMO, BERT, GPT讲解 1.导论 (1)过去计算机怎么读人类文字的? 1-of-N Encoding:每个单词有一个编码,但是这样单词之间没有关联。 Word Class:按照类别分,但是太粗糙了,无法细分。 Word Embedding:向量表示,接近的向量有近似的语义。 (2)一个w 阅读全文
posted @ 2020-05-11 06:43 西伯尔 阅读(285) 评论(0) 推荐(0) 编辑
摘要: 1.导论 (1)深度学习按照成熟度分类 ①成熟的深度学习算法: 深度前馈网络(deep feedforward network),也叫 前馈神经网络(feedforward neural network)或 多层感知机(multilayer perceptron, MLP),是典型的深度学习模型。 阅读全文
posted @ 2020-05-11 06:40 西伯尔 阅读(275) 评论(0) 推荐(0) 编辑