摘要: 「注意力机制」更像是一种方法论。没有严格的数学定义,而是根据具体任务目标,对关注的方向和加权模型进行调整。 简单的理解就是,在神经网络的隐藏层,增加「注意力机制」的加权,使不符合注意力模型的内容弱化或者遗忘。 从Attention的作用角度出发,我们就可以从两个角度来分类Attention种类:Sp 阅读全文
posted @ 2023-05-06 14:40 emanlee 阅读(374) 评论(0) 推荐(0) 编辑