Contact me:

摘要: 前言 PyTorch 提供了一种非常方便的节省显存的方式,就是 Checkpoint 机制。这篇文章的目的在于更透彻的了解其内在机制。 Checkpoint 机制 该技术的核心是一种使用时间换空间的策略。在现有的许多方法中被大量使用,例如 DenseNet、Swin Transformer 源码中都 阅读全文
posted @ 2023-06-18 10:57 impwa 阅读(57) 评论(0) 推荐(0) 编辑
摘要: open cmd `nvidia-smi` `taskkill -PID "pidNumber" -F ` 阅读全文
posted @ 2023-06-02 08:39 impwa 阅读(6) 评论(0) 推荐(0) 编辑
摘要: docx->zip \docProps\app.xml\totaltime 阅读全文
posted @ 2023-04-27 10:26 impwa 阅读(7) 评论(0) 推荐(0) 编辑
摘要: 第1階段:激勵傳播 每次迭代中的傳播環節包含兩步: (前向傳播階段)將訓練輸入送入網絡以獲得預測結果; (反向傳播階段)對預測結果同訓練目標求差(損失函數)。 第2階段:權重更新 對於每個突觸上的權重,按照以下步驟進行更新: 將輸入激勵和響應誤差相乘,從而獲得權重的梯度; 將這個梯度乘上一個比例並取 阅读全文
posted @ 2023-04-04 13:18 impwa 阅读(46) 评论(0) 推荐(0) 编辑
摘要: 序 你是否有过这样的经历:炼了一大堆的丹,但过了一周回来看结果,忘记了每个模型对应的配置;改了模型中的一个组件,跑起来一个新的训练,这时候测试旧模型却发现结果跟原来不一样了;把所有的训练测试代码写在一个文件里,加入各种if else,最后一个文件上千行,一个周末没看,回来改一个逻辑要找半天……其实这 阅读全文
posted @ 2023-03-28 09:45 impwa 阅读(55) 评论(0) 推荐(0) 编辑
摘要: 最开始用vscode的jupyternotebook发现粘贴格式乱的一托。 后面以为是vscode或者notebook的问题, 下了这个插件pasteandintend也没解决,搞了一下午搞得怀疑人生。之后改用pycharm也出现这个问题,接着又试了下colab也还是只能粘贴为纯文本。就可以确定是电 阅读全文
posted @ 2023-02-23 10:38 impwa 阅读(85) 评论(0) 推荐(0) 编辑
摘要: 背景 一个函数运行需要根据不同项目的配置,动态导入对应的配置文件运行。 解决 文件结构 a #文件夹 │a.py │__init__.py b #文件夹 │b.py │__init__.py ├─c#文件夹 │c.py │__init__.py c.py 中内容 args = {'a':1} cla 阅读全文
posted @ 2022-12-06 22:54 impwa 阅读(302) 评论(0) 推荐(0) 编辑
摘要: t = torch.arange(72).reshape(2,3,3,4) # 初始化一个tensor print("t >", t) index = torch.tensor([1, 0]) # 要选取数据的位置 print("index >", index) data0 = t.index_se 阅读全文
posted @ 2022-11-25 13:44 impwa 阅读(18) 评论(0) 推荐(0) 编辑
摘要: Difference between Terminal, Console, Shell, and Command Line 原文链接 Terminal : A terminal is a text input and output environment. A terminal window, al 阅读全文
posted @ 2022-11-25 13:20 impwa 阅读(640) 评论(0) 推荐(0) 编辑
摘要: http://humanphenotypes.net/ 人类地理学表现型研究 阅读全文
posted @ 2022-06-30 18:24 impwa 阅读(276) 评论(0) 推荐(0) 编辑