Fork me on GitHub 返回顶部
摘要: scikit learn中SVM的算法库分为两类,一类是分类的算法库,包括SVC, NuSVC,和LinearSVC 3个类。另一类是回归算法库,包括SVR, NuSVR,和LinearSVR 3个类。相关的类都包裹在sklearn.svm模块之中。 对于SVC, NuSVC,和LinearSVC 阅读全文
posted @ 2019-03-02 09:39 d0main 阅读(5958) 评论(0) 推荐(1) 编辑
摘要: [TOC] 本文翻译自 "Are BERT Features InterBERTible?" 从词袋模型到BERT ​ Mikolov等人提出Word2Vec已经过去很长时间了。当时似乎每一个玩机器学习的人都能背出“ 国王 减去 男人 加上 女人 等于 女王 ”这条“咒语”。如今,这些可解释的词嵌入 阅读全文
posted @ 2019-03-01 09:54 d0main 阅读(2429) 评论(0) 推荐(0) 编辑
摘要: [TOC] 本文翻译自 "How Self Attention with Relative Position Representations works" , 介绍 Google的研究成果。 引言 ​ 本文基于Shaw 等人发表的论文 "《Self Attention with Relative P 阅读全文
posted @ 2019-02-28 23:23 d0main 阅读(3682) 评论(2) 推荐(1) 编辑
摘要: [TOC] 本文翻译自 "Why BERT has 3 Embedding Layers and Their Implementation Details" 引言 ​ 本文将阐述BERT中嵌入层的实现细节,包括token embeddings、segment embeddings, 和positio 阅读全文
posted @ 2019-02-27 23:51 d0main 阅读(29340) 评论(3) 推荐(9) 编辑
摘要: 翻译自Jacob Devlin分享的slides [TOC] NLP中的预训练 词嵌入是利用深度学习解决自然语言处理问题的基础。 词嵌入(例如word2vec,GloVe)通常是在一个较大的语料库上利用词共现统计预训练得到的。例如下面两个句子中,由于 king 和 queen 附近的上下文时常相同或 阅读全文
posted @ 2019-02-13 11:41 d0main 阅读(6126) 评论(0) 推荐(2) 编辑
摘要: 本文翻译自Jay Alammar的博客 "The Illustrated BERT, ELMo, and co. (How NLP Cracked Transfer Learning)" [TOC] 2018年是机器学习模型处理文本(更准确地说,是自然语言处理或简称NLP)的转折点。我们对以何种方式 阅读全文
posted @ 2018-12-23 21:14 d0main 阅读(21461) 评论(0) 推荐(5) 编辑
摘要: 本文翻译自 "Jay Alammar的博文The Illustrated Transformer" [TOC] 注意力是一个有助于提高神经机器翻译模型性能的机制。在这篇文章中,我们将着眼于Transformer——一个利用注意力来提高模型训练速度的模型。Transformer在特定任务中的性能优于G 阅读全文
posted @ 2018-12-23 14:17 d0main 阅读(6424) 评论(0) 推荐(1) 编辑
摘要: 本文翻译自:博文 "What will happen when we apply CapsNet with dynamic routing to NLP?" 本文要讲的是研究人员在应用CapsNet(胶囊网络)进行文本分类时发现了什么。我们需要了解下列的网络层次以及相应的算法。 N gram卷积层 阅读全文
posted @ 2018-12-22 15:33 d0main 阅读(3023) 评论(0) 推荐(0) 编辑
摘要: "Awesome Repositories for Text Modeling" |repo|paper| |: :|: :| | "miracleyoo/DPCNN TextCNN Pytorch Inception" | "Deep Pyramid Convolutional Neural Ne 阅读全文
posted @ 2018-08-12 14:30 d0main 阅读(7486) 评论(0) 推荐(0) 编辑
摘要: "Awesome Repositories for NLI and Semantic Similarity" mainly record pytorch implementations for NLI and similarity computing |REPOSITORY|REFERENCE| | 阅读全文
posted @ 2018-08-12 14:29 d0main 阅读(7517) 评论(1) 推荐(1) 编辑