摘要：
Contextualized Word Embedding# 同样的单词有不同的意思，比如下面的几个句子，同样有 “bank” ，却有着不同的意思。但是用训练出来的 Word2Vec 得到 “bank” 的向量会是一样的。向量一样说明 “word” 的意思是一样的，事实上并不是如此。这是 Word2 阅读全文
摘要：
1.半监督学习 1.1 定义 监督学习样本数据 例如：图片+标签 半监督学习样本数据 例如：R个图片+标签，U个图片，通常U >> R。分类：transductive learning、inductive learning 直推式学习(transductive learning)：将无标签数据作为测 阅读全文
摘要：
motivation 想在脱离实验室，实际环境中使用 要做到： 强：要对噪音robust 对付来自人类的恶意：要对恶意的骗过机器的数据robust 侦测带有恶意的东西：垃圾邮件，恶意软件检测，网络侵入等 攻击 例子 在图片上加上特制的噪声，网络会得到不同的答案 如何找出特制的噪声 通常训练过程，最小 阅读全文
摘要：
转自：https://zhuanlan.zhihu.com/p/30548590 大型神经网络具有大量的层级与结点，因此考虑如何减少它们所需要的内存与计算量就显得极为重要，特别是对于在线学习和增量学习等实时应用。此外，近来智能可穿戴设备的流行也为研究员提供了在资源（内存、CPU、能耗和带宽等）有限的 阅读全文