摘要: 1. Attention与Transformer模型 Attention机制与Transformer模型,以及基于Transformer模型的预训练模型BERT的出现,对NLP领域产生了变革性提升。现在在大型NLP任务、比赛中,基本很少能见到RNN的影子了。大部分是BERT(或是其各种变体,或者还加 阅读全文
posted @ 2021-09-02 00:45 ZacksTang 阅读(1842) 评论(0) 推荐(0) 编辑