随笔分类 - 深度学习
摘要:GooLeNet(Inception1) 概述 GoogLeNet是google推出的基于Inception模块的深度神经网络模型,在2014年的ImageNet竞赛中夺得了冠军,在随后的两年中一直在改进,形成了Inception V2、Inception V3、Inception V4等版本,本篇
阅读全文
摘要:Python shutil 概述 os模块提供了对文件目录常用的操作,shutil模块可以对文件目录进行复制、移动、删除、压缩、解压等操作。 常用方法 shutil.copy(src,dst) :复制文件 shutil.copytree(src,dst):复制文件夹 ,只能复制空文件夹 shutil
阅读全文
摘要:Unet 概述 UNet是遵循FCN的原理,并进行了相应的改进,使其适应小样本的简单分割问题。 网络架构 代码 导入依赖 import torch from torch import nn as nn import torch.nn.functional as F 下采样过程每一层两次卷积 clas
阅读全文
摘要:Python tqdm 概述 主要用于定义进度条,有比较好的可视化效果。尤其是在我们训练网络的时候可以使用,但是它的缺点是会降低一些训练速度。 模式 tqdm主要分为两种模式: 基于迭代对象运行 from tqdm import tqdm #导入依赖 import time list=[1,2,3]
阅读全文
摘要:Python glob 概述 glob模块用来查找文件目录和文件,并将搜索的到的结果返回到一个列表中。 我们在使用pytorch导入自己的DataSet的时候,使用这个模块很方便,因为数据的文件名很容易匹配。 通配符 $*$匹配任意字符 $?$匹配一个字符 $[]\(匹配指定范围内的字符,\)[0-
阅读全文
摘要:FCN 概述 FCN的主干网络使用的是卷积网络,如VGG,Resnet等,提取特征的过程类似编码器,之后再添加上采样过程类似解码器,即还原图形。 语义分割评价标准 在FCN的论文中使用的是平均交并比(Mean Intersection over Union):计算真实值和预测值的交集和并集之比。在每
阅读全文
摘要:DenseNet 代码 导入相关依赖 from typing import Callable import torch import torch.nn as nn import numpy as np import matplotlib.pyplot as plt from torch.utils.
阅读全文
摘要:Resnet 概述 resnet主要用于解决网络加深出现的退化现象,通过快捷连接的方式,很好地解决了深度神经网络难以训练的问题,可以说resnet撑起半边天,神经网络深度突破了$100$层,甚至可以突破$1000$层。 残差块 网络结构图 代码 代码 from typing import Calla
阅读全文
摘要:LeNet 概述 LeNet是一个比较简单的卷积神经网络,是学习其他神经网络的基础,推荐自己对照网络架构图实现。它使用了两个卷积层与两个下采样,最后连接一个全连接层。 网络架构图 从论文的图中,可以很容易复现这个网络。 注意:@前的数字表示通道数 参数计算: \[ output\_size=\fra
阅读全文
摘要:Vgg 代码 导入相关依赖 import torch import torch.nn as nn import numpy as np import matplotlib.pyplot as plt from torch.utils.data import DataLoader from torch
阅读全文
摘要:NiN 代码 引入相关依赖 import torch import torch.nn as nn import numpy as np import matplotlib.pyplot as plt from torch.utils.data import DataLoader from torch
阅读全文
摘要:AlexNet 代码 导入相应的依赖 import torch import torch.nn as nn import numpy as np import matplotlib.pyplot as plt from torch.utils.data import DataLoader from
阅读全文
摘要:牛顿迭代法 求近似解 概念 牛顿法又称为牛顿-拉弗森方法,它是一种在实数域和复数域上近似求解方程的方法。方法使用函数$f(x)$的泰勒级数的前面几项来寻找方程$f(x)=0$的根。 ==注意:==牛顿法只能逼近解,不能计算精确解。 原理 利用泰勒公式,在$x_0$处展开,展开到一阶,即: \[ f(
阅读全文
摘要:Torch.gather 函数定义: torch.gather(input, dim, index, *, sparse_grad=False, out=None) → Tensor 参数: input (Tensor) – 源tensor dim (int)) –索引轴 index (LongTe
阅读全文
摘要:伪逆矩阵与奇异值分解(SVD) 伪逆矩阵 矩阵的逆 定义:设$A$是$n$阶方阵,如果存在$n$阶方阵$B$,使得$AB=BA=E$,则称矩阵$A$为可逆矩阵,矩阵$B$成为$A$的逆矩阵,记作$A^{-1}=B$。 ==注意:==如果$n$阶矩阵$A$的行列式$\left | A \right |
阅读全文
摘要:Colab的使用 Colab google colab 提供免费的GPU资源,对于学生党来说太有用处了。 ==注意:==使用前提需要有文明上网的账号,其次要注册有谷歌的帐号。 设置GPU 点击代码执行程序->更改运行类型 选择硬件加速类型为GPU,通过下面命令可以查看GPU类型。 !nvidia-s
阅读全文