Torch7 中一些层
入 Torch 的坑有点晚,刚开始用就有了 pyTorch, 没多久就发现停止更新。可惜已经在坑里,暂时不准备弃坑,弃坑也只会投奔 pyTorch。Torch 定制起来比较方便,简单增加定制层用 Lua 也挺方便的。这里记录一下配置稍微复杂一点的结构可能会用到的层。
1、Table
结构是用 Table 来构造的, 会用到 一对多,多对多,多对一(把一对一当做计算)。三种 Table 是 ConcatTable, MapTable, ParallelTable(参考Torch 的 table.md)。
效果如上图。
2、Layer
最近用到的一些可以用来构造的层: nn.Add, nn.Mul, nn.AddConstant, nn.MulConstant. 分别做整体的乘法和加法,带 Constant 表示参数固定不可学习,不带 Constant 表示参数可学习。 这些层会给自己定制带来很大的便利。