随笔分类 - PyTorch
摘要:文章目录 5.3 Fashion MNIST进行分类Fashion MNIST 介绍数据集介绍分类格式数据提交 数据加载创建网络损失函数优化器开始训练训练后操作可视化损失函数保存模型 模型评估进一步优化再次进行评估总结 import torch,math from pathlib import Pa
阅读全文
摘要:文章目录 5.2 Pytorch处理结构化数据简介数据预处理定义数据集定义模型训练 import numpy as np import pandas as pd import torch from sklearn.preprocessing import LabelEncoder from torc
阅读全文
摘要:文章目录 5.1 kaggle介绍5.1.1 Kaggle平台简介比赛介绍 5.1.2 Kaggle板块介绍DataRulesTeamKernelsDiscussionLeaderboard 5.1.3 Kaggle竞赛的排名机制5.1.4 Kaggle薅羊毛指南5.1.5 其他的一些数据竞赛平台
阅读全文
摘要:文章目录 4.5 多GPU并行训练4.5.1 torch.nn.DataParalle4.5.2 torch.distributed4.5.3 torch.utils.checkpoint import torch import torchvision torch.__version__ '1.0.
阅读全文
摘要:文章目录 4.3 fastai4.3.1 fastai介绍fastai库fast.ai课程Github 4.3.2 fastai实践MNIST 4.3.3 fastai文档翻译 import fastai from fastai import * from fastai.vision import
阅读全文
摘要:文章目录 4.2.3 可视化理解卷积神经网络背景基于Deconvolution的方法 基于Backpropagation的方法Guided-BackpropagationCAM(Class Activation Map)Grad-CAM %load_ext autoreload %autoreloa
阅读全文
摘要:文章目录 4.2.2 使用Tensorboard在 PyTorch 中进行可视化Tensorboard 简介Tensorboard 安装页面SCALARIMAGESGRAPHSHISTOGRAMSPROJECTOR 使用图像展示更新损失函数使用PROJECTOR对高维向量可视化绘制网络结构 impo
阅读全文
摘要:文章目录 4.2.1 使用Visdom在 PyTorch 中进行可视化安装坑基本概念Environments PanesVIEW 可视化接口使用绘制简单的图形 更新损失函数 import torch import math import numpy as np from visdom import
阅读全文
摘要:文章目录 4.1 Fine tuning 模型微调4.1.1 什么是微调为什么要微调迁移学习 Transfer Learning二者关系 4.1.2 如何微调4.1.3 注意事项4.1.3 微调实例4.1.4 固定层的向量导出 %matplotlib inline import torch,os,t
阅读全文
摘要:文章目录 3.3 通过Sin预测Cos 3.3 通过Sin预测Cos %matplotlib inline import torch import torch.nn as nn from torch.nn import functional as F from torch import optim
阅读全文
摘要:文章目录 3.2 MNIST数据集手写数字识别3.2.1 数据集介绍3.2.2 手写数字识别 3.2 MNIST数据集手写数字识别 import torch import torch.nn as nn import torch.nn.functional as F import torch.opti
阅读全文
摘要:文章目录 3.1 logistic回归实战3.1.1 logistic回归介绍3.1.2 UCI German Credit 数据集3.2 代码实战 import torch import torch.nn as nn import numpy as np torch.__version__ '1.
阅读全文
摘要:文章目录 2.5 循环神经网络2.5.1 RNN简介RNN的起因为什么需要RNNRNN都能做什么 2.5.2 RNN的网络结构及原理RNNLSTMGRU 2.5.3 循环网络的向后传播(BPTT)2.5.4 词嵌入(word embedding)2.5.5 其他重要概念Beam search注意力模
阅读全文
摘要:文章目录 2.4 卷积神经网络简介2.4.1 为什么要用卷积神经网络2.4.2结构组成卷积层卷积计算卷积核大小 f边界填充 (p)adding步长 (s)tride计算公式卷积层 激活函数池化层(pooling)dropout层全连接层 2.4.3 经典模型LeNet-5AlexNetVGGGoog
阅读全文
摘要:文章目录 2.3 神经网络简介概述神经网络的表示激活函数为什么激活函数都是非线性的sigmod 函数tanh 函数ReLU 函数Leaky Relu 函数 深入理解前向传播和反向传播正向传播反向传播 2.3 神经网络简介 目前最广泛使用的定义是Kohonen于1988年的描述,神经网络是由具有适应性
阅读全文
摘要:文章目录 2.2 深度学习基础及数学原理2.2.1 监督学习和无监督学习2.2.2 线性回归 (Linear Regreesion)2.2.3 损失函数(Loss Function)nn.L1Loss:nn.NLLLoss:nn.MSELoss:nn.CrossEntropyLoss:nn.BCEL
阅读全文
摘要:文章目录 PyTorch 基础 :数据的加载和预处理DatasetDataloadertorchvision 包torchvision.datasetstorchvision.modelstorchvision.transforms PyTorch 基础 :数据的加载和预处理 PyTorch通过to
阅读全文
摘要:文章目录 PyTorch 基础 : 神经网络包nn和优化器optm定义一个网络损失函数优化器 PyTorch 基础 : 神经网络包nn和优化器optm torch.nn是专门为神经网络设计的模块化接口。nn构建于 Autograd之上,可用来定义和运行神经网络。 这里我们主要介绍几个一些常用的类 约
阅读全文
摘要:文章目录 使用PyTorch计算梯度数值Autograd简单的自动求导复杂的自动求导Autograd 过程解析扩展Autograd import torch torch.__version__ '1.0.1.post2' 使用PyTorch计算梯度数值 PyTorch的Autograd模块实现了深度
阅读全文
摘要:文章目录 PyTorch 基础 : 张量张量(Tensor)基本类型Numpy转换设备间转换初始化常用方法 PyTorch 基础 : 张量 在第一章中我们已经通过官方的入门教程对PyTorch有了一定的了解,这一章会详细介绍PyTorch 里面的基础知识。 全部掌握了这些基础知识,在后面的应用中才能
阅读全文