HAN模型理解1

HAN 模型

最开始看这个模型是看的这个解释:
RNN+Attention(HAN) 文本分类 阅读笔记 - 今天做作业没的文章 - 知乎
https://zhuanlan.zhihu.com/p/42121435

Hierarchical Attention Networks for Document Classification 阅读笔记 - 滨城之恋的文章 - 知乎
https://zhuanlan.zhihu.com/p/26892711

然后看了一下关于GRU不同门的介绍 https://blog.csdn.net/wangyangzhizhou/article/details/77332582

重置门 更新门

然后看了一下pytorch的实现 https://github.com/EdGENetworks/attention-networks-for-classification
这个实现写的很好