tips
1.nn.EmbeddingBag:适合用于文本进行ngram特征表示,有sum,mean等方式
2. dot,*,mul,@,matmul,mm,bmm
torch.dot(a,b)
两向量相乘相加得到一个标量,必须都是一维的
torch.bmm(a,b):矩阵乘法
批矩阵相乘,不会进行广播,必须满足矩阵相乘维数条件,a,b最多只能3维,且a,b中必须包含相同的矩阵个数即a,b第一维度必须相同
torch.mm():矩阵乘法等同于@
矩阵相乘,不会进行广播,必须满足矩阵相乘维数条件,两矩阵最多是2维
*和mul是element-wise方式(逐元素操作的方式),此时要求两个数据的维度必须相同。