[paper] HIBERT: Document Level Pre-training of Hierarchical Bidirectional Transformers for Document Summarization
摘要：
阅读全文
posted @ 2019-09-15 21:31 LAUSpectrum 阅读(672) 评论(0) 推荐(0) 编辑
[paper] On Extractive and Abstractive Neural Document Summarization with Transformer Language Models
摘要：
阅读全文
posted @ 2019-09-14 22:42 LAUSpectrum 阅读(870) 评论(1) 推荐(0) 编辑
[paper] Hierarchical Transformers for Multi-Document Summarization
摘要：
阅读全文
posted @ 2019-09-14 21:14 LAUSpectrum 阅读(751) 评论(0) 推荐(0) 编辑
[codes] Writing Editing Networks Source Code Analysis
摘要：
Basic Information 作者： "Qingyun Wang" 论文：Paper Abstract Writing through Editing Mechanism (ACL) 源码：https://github.com/EagleW/Writing editing Network Da 阅读全文
posted @ 2019-07-27 21:23 LAUSpectrum 阅读(251) 评论(0) 推荐(0) 编辑
[notes] notes of Transformer [4]
摘要：
阅读全文
posted @ 2019-07-25 21:25 LAUSpectrum 阅读(169) 评论(0) 推荐(0) 编辑
[notes] notes of Transformer [3]
摘要：
阅读全文
posted @ 2019-07-25 10:02 LAUSpectrum 阅读(174) 评论(1) 推荐(0) 编辑
[code] Transformer For Summarization Source Code Reading [3]
摘要：
1. Label Smoothing 对于分类问题，我们希望模型输出的标签上概率分布，逼近于真实标签的one hot representation。带来的问题是： 1. 无法保证泛化 2. one hot表示鼓励将真实类别和其他类别之间的差距尽可能拉大，造成模型过分相信预测的类别 论文 When D 阅读全文
posted @ 2019-07-24 13:31 LAUSpectrum 阅读(402) 评论(0) 推荐(0) 编辑
[code] Transformer For Summarization Source Code Reading [2]
摘要：
Basic Information 作者：李丕绩（腾讯AI Lab） 模型： "Transformer + copy mechanism for abstractive summarization" 数据集：CNN/Daily Mail Debug 1. run (main.py) 1. 指定变量e 阅读全文
posted @ 2019-07-23 22:07 LAUSpectrum 阅读(413) 评论(0) 推荐(0) 编辑
[code] Transformer For Summarization Source Code Reading [1]
摘要：
Basic Information 作者：李丕绩（腾讯AI Lab） 模型： "Transformer + copy mechanism for abstractive summarization" 数据集：CNN/Daily Mail Parameters Model Structure 模型结构 阅读全文
posted @ 2019-07-22 23:08 LAUSpectrum 阅读(1059) 评论(7) 推荐(1) 编辑