一无所知小白龙

摘要： 本文参考以及图片来源Transformer详解 首先假设我们有序列 x1、x2、x3 和 x4 这四个序列，首先我们进行一次权重的乘法 \({a^i} = W{x^i}\) ，得到新的序列 a1、a2、a3 和 a4。示意图如下所示： 然后我们将输入 a 分别乘以三个不同的权重矩阵 W 分别得到 q 阅读全文