06 2021 档案
摘要：Pytroch网络模型：修改参数值，修改参数名，添加参数层，删除参数层 修改参数值 方法1 dict的类型是collecitons.OrderedDict，是一个有序字典，直接将新参数名称和初始值作为键值对插入，然后保存即可。 #修改前 dict = torch.load('./ckpt_dir//
阅读全文
摘要：pytorch 打印模型层的名字的多个方式，以及对应显示，删除最后多个层的两种方式 def forward(self, x, last_cont=None): x = self.model(x) if self.use_dcl: mask = self.Convmask(x) mask = self
阅读全文
摘要：mobilenet 中的通道数为什么要使用 _make_divisible 函数确保为 8 的整数倍？ 问题 今天阅读一段 PyTorch 版的 mobilenet 时，发现了下面这个函数： def _make_divisible(v, divisor, min_value=None): """ T
阅读全文
摘要：介绍的魔法函数有（持续更新）： __ init__()、__ str__()、__ new__()、__ unicode__()、 __ call__()、 __ len__()、 __repr__()、__ setattr__()、 __ getattr__()、 __ getattribute_
阅读全文
摘要：model.eval()和with torch.no_grad()的区别在PyTorch中进行validation时，会使用model.eval()切换到测试模式，在该模式下， 主要用于通知dropout层和batchnorm层在train和val模式间切换在train模式下，dropout网络层会
阅读全文
摘要：Project description Easy progress reporting for Python Bars There are 7 progress bars to choose from: Bar ChargingBar FillingSquaresBar FillingCircles
阅读全文
摘要：作者：忆臻 (哈工大SCIR实验室在读博士生)魏福煊 哈工大英才实验班本科生谢天宝 哈工大英才实验班本科生 一、前言 在我们要用pytorch构建自己的深度学习模型的时候，基本上都是下面这个流程步骤，写在这里让一些新手童鞋学习的时候有一个大局感觉，无论是从自己写，还是阅读他人代码，按照这个步骤思想（
阅读全文
摘要：NNI (Neural Network Intelligence) 是一个轻量但强大的工具包，帮助用户自动的进行 特征工程，神经网络架构搜索， 超参调优以及模型压缩。 NNI 管理自动机器学习 (AutoML) 的 Experiment， 调度运行 由调优算法生成的 Trial 任务来找到最好的神经
阅读全文
摘要：描述 repr() 函数将对象转化为供解释器读取的形式。 语法 以下是 repr() 方法的语法: repr(object) 参数 object -- 对象。 返回值 返回一个对象的 string 格式。 实例 以下展示了使用 repr() 方法的实例： >>>s = 'RUNOOB' >>> re
阅读全文
摘要：Pytorch：模型的保存与加载 torch.save()、torch.load()、torch.nn.Module.load_state_dict() Pytorch 保存和加载模型后缀：.pt 和.pth 1 torch.save() [source]保存一个序列化（serialized）的目标
阅读全文
摘要：背景知识 在说 torch.backends.cudnn.benchmark 之前，我们首先简单介绍一下 cuDNN。cuDNN 是英伟达专门为深度神经网络所开发出来的 GPU 加速库，针对卷积、池化等等常见操作做了非常多的底层优化，比一般的 GPU 程序要快很多。大多数主流深度学习框架都支持 cu
阅读全文
摘要：如何实现高速卷积？深度学习库使用了这些「黑魔法」 使用深度学习库可以大幅加速CNN模型运行，那么这些库中的哪些具体的做法实现了这种高速度和高性能呢？佐治亚理工学院计算机科学硕士研究生Manas Sahni在自己的电脑上试验了多种方法的策略，深入剖析高速卷积的实现过程。 我的笔记本电脑CPU还可以，在
阅读全文