摘要： 参考学习： 【超详细】【原理篇&实战篇】一文读懂Transformer-CSDN博客 彻底搞懂了Transformer解码器（图文详解） - 知乎 (zhihu.com) 这样图解Transformer应该没人看不懂了吧——多头注意力机制详解_transformer 多头注意力机制-CSDN博客 本 阅读全文

摘要： 参考学习： 举个例子讲下transformer的输入输出细节及其他 - 知乎 (zhihu.com) transformer详细介绍(1)__输入Embedding与位置编码_input embedding-CSDN博客 本文只是为了加强记忆而书写，具体想学习进入链接学习更清晰。 Transform 阅读全文

摘要： 学习参考：原始SPP及在YOLO中的SPP/SPPF对比详解_sppf和spp-CSDN博客 Yolov8中的sppf模块是参考SPPNET中的SPP进行改造 先了解SPPNET中的SPP模块： 在这里对特征图进行池化操作，最终和成一个统一大小维度的特征块，其目的主要是为了处理CNN网络中输入图像尺 阅读全文

摘要： PyTorch中有modelzoo还有一些训练好的权重参数可以直接使用，在迁移学习中就很方便 torchvision.models - PyTorch中文文档 (pytorch-cn.readthedocs.io) 看看上面中文文档就知道怎么调用模型了，要使用 torchvision.models 阅读全文

摘要： 要确保有GPU对应的CUDA版本下载好 直接按照下图模块测测试调用GPU就好了 这是测试GPU是否能使用。 如果显示了可以使用后续使用操作如下： 将实例化的模型传入GPU中： 直接看一个训练的示例代码： 要在GPU中处理使用都要传入GPU中才能用。 阅读全文

摘要： 前面几篇分别是数据导入模块，模型类的构建模块，损失函数模块，优化器模块，上述模块搭建好后建立训练模块，将上述几个模块在训练模块中调用完成训练。 这个不太好解释直接看模块示例： 上面是训练模块，分别传入训练总轮次steps，实例化模型model,损失函数loss_func，但是下面训练的时候它将损失函 阅读全文

摘要： 优化器使用就很简单了基本上直接设置优化器直接调用就行，在训练的时候把优化器传入训练模型模块中 优化器使用每次要清空不然会一直堆叠，在进行反向传播后更新参数也是调用优化器 再来段文心生成的代码看看优化器什么时候使用： 阅读全文

摘要： 直接调用定义就好了要使用的损失函数，但是nn.functional和nn.Module中都有损失函数，至于从哪个包中调用损失函数看你的需求，和图中所说一样，如果没有需要学习的参数就用nn.functional,如果有要学习更新的参数就用nn.Module。 虽然是这样说，但是我看这个代码下面使用的就 阅读全文

摘要： 使用Pytorch自己建立一个模型类： 继承初始 建立一个模型的类，一定要继承nn,Module父类， 初始化: def __init__(self): super(self).__init__(): 如果不这样操作就使用不了继承中初始化，也使用不了继承的一些函数。 建立自己的网络层 图中初始化后的 阅读全文

摘要： 先导入数据： 将要处理的文件数据导入x_train,y_train,x_valid,y_valid中，转换为张量。 使用PyTorch中的数据模块，将上面转换为张量的数据使用TensorDataset函数转换为数据集。 之后使用DataLoader来加载数据集，DataLoader包相当于一个派发器 阅读全文