pytorch - 随笔分类 - YongjieShi

hourglassnet网络解析

摘要：hourglassnet中文名称是沙漏网络，起初用于人体关键点检测，代码，https://github.com/bearpaw/pytorch-pose 后来被广泛的应用到其他领域，我知道的有双目深度估计，关于双目深度估计，自己最近会写一篇blog，这里先简单介绍一下。双目深度估计第一次用hourg 阅读全文

posted @ 2019-08-08 11:52 YongjieShi 阅读(2860) 评论(0) 推荐(1) 编辑

tensorboardX使用中 AttributeError: 'function' object has no attribute 'graph'

摘要：最近在使用tensorboardX可视化网络结构，因为tensorboardX并非pytorch原生的可视化工具，所以版本之间并不兼容在使用的过程中会遇到，AttributeError: 'function' object has no attribute 'graph'，大概是版本之间不兼容完阅读全文

posted @ 2019-08-06 22:38 YongjieShi 阅读(2807) 评论(0) 推荐(2) 编辑

conda查找安装包的版本以及安装特定版本的包

摘要：如下图想要安装特定版本的torchvision,然后conda search torchvision,能够列出conda云上所有的安装包然后,安装包的时候,conda install 包名=版本就可,如上图安装包的结果如下没毛病阅读全文

posted @ 2019-06-03 14:21 YongjieShi 阅读(17786) 评论(0) 推荐(0) 编辑

ubuntu安装tensorboardx

摘要：先安装tensorboardX，因为tensorboard依赖于tensorflow中的一些东西，所以安装完tensorboard之后，需要再安装tensorflow 阅读全文

posted @ 2019-04-11 15:15 YongjieShi 阅读(3308) 评论(0) 推荐(0) 编辑

聊聊pytorch中的DataLoader

摘要：实际上pytorch在定义dataloader的时候是需要传入很多参数的，比如，number_workers， pin_memory, 以及shuffle， dataset等，其中sampler参数算是其一 sampler实际上定义了torch.utils.data.dataloader的数据取样方阅读全文

posted @ 2019-03-01 15:45 YongjieShi 阅读(7183) 评论(0) 推荐(1) 编辑

pytorch查看模型weight与grad

摘要：在用pdb debug的时候，有时候需要看一下特定layer的权重以及相应的梯度信息，如何查看呢？ 1. 首先把你的模型打印出来，像这样 2. 然后观察到model下面有module的key，module下面有features的key， features下面有(0)的key，这样就可以直接打印出we 阅读全文

posted @ 2019-01-30 10:58 YongjieShi 阅读(7569) 评论(0) 推荐(0) 编辑

群等变网络的pytorch实现

摘要：CNN对于旋转不具有等变性，对于平移有等变性，data augmentation的提出就是为了解决这个问题，但是data augmentation需要很大的模型容量，更多的迭代次数才能够在训练数据集合上对旋转等变，对于测试集合，也不一定能够保证等变可能大家会问，旋转等变网络有什么优点？data a 阅读全文

posted @ 2018-10-31 14:36 YongjieShi 阅读(1780) 评论(0) 推荐(0) 编辑

pytorch中，不同的kernel对不同的feature map进行卷积之后输出某一个channel对应的多个feature map如何得到一个channel的feature map

摘要：实际上在卷积操作的时候，比如说，我某一层输出的feature map的size为4713*13 channel的数目为7，设经过某卷积层之后，网络输出的feature map的channel的数目为17 从7个channel到17个channel，假设卷积核的kernel为33，那么这个卷积层的参数阅读全文

posted @ 2018-10-24 17:27 YongjieShi 阅读(1931) 评论(0) 推荐(0) 编辑

pytorch如何能够保证模型的可重复性

摘要：问题背景是这样的：我用了自己定义了pytorch中的模型，并且，在main函数中设置了随机种子用来保证模型初始化的参数是一致的，同时pytorch中的随机种子也能够影响dropout的作用，见链接为了保证所有的参数都一样，我在设置dataloader的时候，数据并没有进行shuffle，这样能够阅读全文

posted @ 2018-09-09 20:21 YongjieShi 阅读(6745) 评论(0) 推荐(1) 编辑

pytorch统计模型参数量

摘要：用resnet50 来举例子其中numel表示含有多少element，通过此操作可以统计模型的参数量有多少另外，两个是一样的，方便debug看其中到底有什么东西阅读全文

posted @ 2018-08-24 14:36 YongjieShi 阅读(6160) 评论(0) 推荐(0) 编辑

pytorch使用tensorboardX进行网络可视化

摘要：我们知道，对于pytorch上的搭建动态图的代码的可读性非常高，实际上对于一些比较简单的网络，比如alexnet，vgg阅读起来就能够脑补它们的网络结构，但是对于比较复杂的网络，如unet，直接从代码脑补网络结构可能就比较吃力 tensorflow上的tensorboard进行计算图的可视化可谓是非阅读全文

posted @ 2018-08-17 22:26 YongjieShi 阅读(11907) 评论(7) 推荐(1) 编辑

pytorch使用tensorboardX进行loss可视化

摘要：最近pytorch出了visdom，也没有怎么去研究它，主要是觉得tensorboardX已经够用，而且用起来也十分的简单然后在代码里导入然后声明一下自己将loss写到哪个路径下面然后就可以愉快的写loss到你得这个writer了其中，add_scalars是将不同得变量添加到同一个图下，图阅读全文

posted @ 2018-08-07 16:51 YongjieShi 阅读(7467) 评论(0) 推荐(1) 编辑

Pytorch中的Batch Normalization操作

摘要：之前一直和小伙伴探讨batch normalization层的实现机理，作用在这里不谈，知乎上有一篇paper在讲这个，链接这里只探究其具体运算过程，我们假设在网络中间经过某些卷积操作之后的输出的feature map的尺寸为4×3×2×2 4为batch的大小，3为channel的数目，2×2为阅读全文

posted @ 2018-07-18 21:17 YongjieShi 阅读(10473) 评论(0) 推荐(0) 编辑

DQN-深度Q网络

摘要：深度Q网络是用深度学习来解决强化中Q学习的问题，可以先了解一下Q学习的过程是一个怎样的过程，实际上就是不断的试错，从试错的经验之中寻找最优解关于Q学习，我看到一个非常好的例子，另外知乎上面也有相关的讨论其实早在13年的时候，deepmind出来了第一篇用深度学习来解决Q学习的问题的paper，那阅读全文

posted @ 2018-05-05 18:31 YongjieShi 阅读(4741) 评论(0) 推荐(0) 编辑

pytorch实现autoencoder

摘要：关于autoencoder的内容简介可以参考这一篇博客，可以说写的是十分详细了https://sherlockliao.github.io/2017/06/24/vae/ 盗图一张，自动编码器讲述的是对于一副输入的图像，或者是其他的信号，经过一系列操作，比如卷积，或者linear变换，变换得到一个向阅读全文

posted @ 2018-01-28 16:31 YongjieShi 阅读(2510) 评论(0) 推荐(0) 编辑

pytorch实现rnn并且对mnist进行分类

摘要：1.RNN简介 rnn,相比很多人都已经听腻，但是真正用代码操练起来，其中还是有很多细节值得琢磨。虽然大家都在说，我还是要强调一次，rnn实际上是处理的是序列问题，与之形成对比的是cnn，cnn不能够处理序列问题，因为它没有记忆能力，那为什么rnn能够处理序列问题以及有记忆能力呢？首先简单介绍一阅读全文

posted @ 2018-01-25 19:35 YongjieShi 阅读(12269) 评论(1) 推荐(2) 编辑

pytorch实现style transfer

摘要：说是实现，其实并不是我自己实现的亮出代码：https://github.com/yunjey/pytorch-tutorial/tree/master/tutorials/03-advanced/neural_style_transfer # -*- coding: utf-8 -*- from 阅读全文

posted @ 2017-12-30 17:15 YongjieShi 阅读(1783) 评论(0) 推荐(0) 编辑

Pytorch基本变量类型FloatTensor与Variable

摘要：pytorch中基本的变量类型当属FloatTensor（以下都用floattensor），而Variable（以下都用variable）是floattensor的封装，除了包含floattensor还包含有梯度信息 pytorch中的dochi给出一些对于floattensor的基本的操作，比如四阅读全文

posted @ 2017-12-29 19:12 YongjieShi 阅读(1480) 评论(0) 推荐(0) 编辑

Pytorch自定义dataloader以及在迭代过程中返回image的name

摘要：pytorch官方给的加载数据的方式是已经定义好的dataset以及loader，如何加载自己本地的图片以及label？形如数据格式为 image1 label1 image2 label2 ... imagen labeln 实验中我采用的数据的格式如下，一个图片的名字对应一个ｌａｂｅｌ，每一个阅读全文

posted @ 2017-09-13 10:55 YongjieShi 阅读(6184) 评论(2) 推荐(0) 编辑

Pytorch使用多GPU

摘要：在caffe中训练的时候如果使用多GPU则直接在运行程序的时候指定GPU的index即可，但是在Pytorch中则需要在声明模型之后，对声明的模型进行初始化，如：之后直接运行Pytorch之后则默认使用所有的GPU，为了说明上述初始化的作用，我用了一组畸变图像的数据集，写了一个Resent的模块，阅读全文

posted @ 2017-07-31 10:46 YongjieShi 阅读(12128) 评论(0) 推荐(0) 编辑

YongjieShi

随笔分类 - pytorch