摘要：2021-09-23至2021-10-30关于transformer的学习 Transformer的提出解决了两个问题： (1) 首先它使用了Attention机制，将序列中的任意两个位置之间的距离是缩小为一个常量； (2) 其次它不是类似RNN（不能并行）的顺序结构，因此具有更好的并行性，符合现有 阅读全文

摘要：import argparse #参数解析包 import torch #张量、加减乘除等运算，相当于numpy import torch.nn as nn #包括各种函数 import torch.nn.functional as F #包括激活函数，损失函数等 import torch.opti 阅读全文

摘要：CUDA版本是 9.1.83，python版本3.6.5 win10 使用如下语句可以安装cu91版本的pytorch pip3 install http://download.pytorch.org/whl/cu91/torch-0.4.0-cp36-cp36m-win_amd64.whl 然而下 阅读全文