2019 年 12月随笔档案 - RyanXing

摘要：PyTorch官方论文。阅读全文

posted @ 2019-12-05 20:35 RyanXing 阅读(1855) 评论(0) 推荐(0)

摘要：让RNN的每一个时间步具有不同的运算量。阅读全文

posted @ 2019-12-03 14:52 RyanXing 阅读(1120) 评论(0) 推荐(0)

摘要：让一群小模型共同优化，达到比单独学习和蒸馏学习更好的效果。这是一种优化策略上的健壮性提升，类似于dropout在网络结构上的健壮性提升。阅读全文

posted @ 2019-12-03 11:56 RyanXing 阅读(885) 评论(0) 推荐(0)

摘要：实现non-local的神经网络。与self-attention异曲同工。阅读全文

posted @ 2019-12-02 17:26 RyanXing 阅读(753) 评论(0) 推荐(0)

摘要：堆叠残差注意力模块。阅读全文

posted @ 2019-12-01 19:28 RyanXing 阅读(620) 评论(0) 推荐(0)

RyanXing