JetHu

摘要： 论文What Does BERT Look At? An Analysis of BERT’s Attention 指出bert的多头注意力，不同的头可以学到不同的信息，有的学到词法、有的学到语法、语义。 论文地址：https://arxiv.org/pdf/1908.11365.pdf 举例如：现 阅读全文