那抹阳光1994

摘要： 最近看一段Python2写的代码，有一句： torch.FloatTensor(map(lambda x: x['values'], data)) Python3下运行后报错： TypeError: new(): data must be a sequence (got map) 我的data明明是 阅读全文

摘要： 在处理序列数据集时，有时会遇到变长度的样本。此时因为尺寸不一致，无法直接利用pytorch中dataloader的默认加载方式（沿着批维度直接Stack）。 处理这种数据集，一种办法是可以事先记录每个样本的长度，并把所有的数据集样本补全至最长的样本长度，这样所有样本长度一致，可以直接加载。但是会有一 阅读全文

摘要： 一、为什么RNN需要处理变长输入 假设我们有情感分析的例子，对每句话进行一个感情级别的分类，主体流程大概是下图所示： 思路比较简单，但是当我们进行batch个训练数据一起计算的时候，我们会遇到多个训练样例长度不同的情况，这样我们就会很自然的进行padding，将短句子padding为跟最长的句子一样 阅读全文

摘要： 虽然看了一些很好的blog了解了LSTM的内部机制，但对框架中的lstm输入输出和各个参数还是没有一个清晰的认识，今天打算彻底把理论和实现联系起来，再分析一下pytorch中的LSTM实现。 先说理论部分。一个非常有名的blog把原理讲得很清楚，推荐参考。总之就是这些公式： 简单来说就是，LSTM一 阅读全文