摘要：
图像增强 图像增广（image augmentation）技术通过对训练图像做一系列随机改变，来产生相似但又不同的训练样本，从而扩大训练数据集的规模。图像增广的另一种解释是，随机改变训练样本可以降低模型对某些属性的依赖，从而提高模型的泛化能力。例如，我们可以对图像进行不同方式的裁剪，使感兴趣的物体出 阅读全文
摘要：
word2vec WordEmbedding 对词汇进行多维度的描述，形成一个密集的矩阵。这样每两个词之间的相似性可以通过进行内积的大小体现出来。越大说明距离越远，则越不相似。 Analogies（类比）：将男 女和国王 女王做类比，比如将表示‘男’的词向量与‘女’的词向量相减，同理国王和女王也相减 阅读全文
摘要：
批量归一化 通常来说，数据标准化预处理对于浅层模型就足够有效了。随着模型训练的进行，当每层中参数更新时，靠近输出层的输出较难出现剧烈变化。但对深层神经网络来说，即使输入数据已做标准化， 训练中模型参数的更新依然很容易造成靠近输出层输出的剧烈变化 。这种计算数值的不稳定性通常令我们难以训练出有效的深度 阅读全文