摘要: PyTorch之Checkpoint机制解析 PyTorch之Checkpoint机制解析 本文已授权极市平台, 并首发于极市平台公众号. 未经允许不得二次转载. 原文链接:https://www.yuque.com/lart/ugkv9f/azvnyg PyTorch 提供了一种非常方便的节省显存的方式,就是 Checkpoint 机制。这篇 阅读全文
posted @ 2022-01-16 13:39 lart 阅读(993) 评论(0) 推荐(0) 编辑
摘要: PyTorch之具体显存占用分析 PyTorch之具体显存占用分析 原始文档:https://www.yuque.com/lart/ugkv9f/cpionp 前言 PyTorch 使用中,由于显卡显存是固定的,并且短期内难以进一步提升,所以掌握显存具体占用的细节有助于我们写出更加高效的代码,甚至跑出更好的结果。 所以本文结合 Co 阅读全文
posted @ 2022-01-16 13:33 lart 阅读(1305) 评论(0) 推荐(0) 编辑
摘要: Pytorch之Spatial-Shift-Operation的5种实现策略 Pytorch之Spatial-Shift-Operation的5种实现策略 本文已授权极市平台, 并首发于极市平台公众号. 未经允许不得二次转载. 原始文档(可能会进一步更新): https://www.yuque.com/lart/ugkv9f/nnor5p 前言 之前看了一些使用空间偏移操作来 阅读全文
posted @ 2022-01-16 13:26 lart 阅读(257) 评论(0) 推荐(0) 编辑
摘要: PyTorch之BN核心参数详解 PyTorch之BN核心参数详解 原始文档:https://www.yuque.com/lart/ugkv9f/qoatss affine 初始化时修改 affine 设为 True 时,BatchNorm 层才会学习参数 gamma 和 beta,否则不包含这两个变量,变量名是 weight 和 阅读全文
posted @ 2022-01-16 13:14 lart 阅读(926) 评论(0) 推荐(0) 编辑
摘要: PyTorch之分布式操作Barrier PyTorch之分布式操作Barrier 原始文档:https://www.yuque.com/lart/ugkv9f/gy7sva 关于 barrier 的概念 关于 barrier 这个概念可以参考 Wiki 中的介绍:同步屏障(Barrier)是并行计算中的一种同步方法。对于一群进程或线程,程 阅读全文
posted @ 2022-01-16 13:05 lart 阅读(692) 评论(0) 推荐(1) 编辑
摘要: PyTorch之对类别张量进行one-hot编码 PyTorch之对类别张量进行one-hot编码 本文已授权极市平台, 并首发于极市平台公众号. 未经允许不得二次转载. 原始文档:https://www.yuque.com/lart/ugkv9f/src5w8 代码仓库:https://github.com/lartpang/CodeForArt 阅读全文
posted @ 2022-01-16 13:03 lart 阅读(940) 评论(0) 推荐(0) 编辑