随笔分类 - ApacheCN
摘要:译者: "belonHan" 创建一个C++的setuptools.Extension。 便捷地创建一个setuptools.Extension具有最小(但通常是足够)的参数来构建C++扩展的方法。 所有参数都被转发给setuptools.Extension构造函数。 例子 为CUDA/C++创建一
阅读全文
摘要:译者: "belonHan" 注意 checkpointing的实现方法是在向后传播期间重新运行已被checkpint的前向传播段。 所以会导致像RNG这类(模型)的持久化的状态比实际更超前。默认情况下,checkpoint包含了使用RNG状态的逻辑(例如通过dropout),与non checkp
阅读全文
摘要:译者: "belonHan" 是 调试瓶颈 时首先用到的工具.它总结了python分析工具与PyTorch自动梯度分析工具在脚本运行中情况. 在命令行运行如下命令 其中 是 脚本的参数(任意个数).运行 命令获取更多帮助说明. 警告 请确保脚本在分析时能够在有限时间内退出. 警告 当运行CUDA代码
阅读全文
摘要:译者: "keyianpai" "创建 Torch 脚本代码" "将追踪和脚本化结合起来" "Torch 脚本语言参考" "类型" "表达式" "语句" "变量解析" "python值的使用" "调试" "内置函数" Torch脚本是一种从PyTorch代码创建可序列化和可优化模型的方法。用Torc
阅读全文
摘要:译者: "hijkzzz" 包含可参数化的概率分布和采样函数. 这允许构造用于优化的随机计算图和随机梯度估计器. 这个包一般遵循 "TensorFlow Distributions" 包的设计. 通常, 不可能直接通过随机样本反向传播. 但是, 有两种主要方法可创建可以反向传播的代理函数. 即得分函
阅读全文
摘要:译者: "univeryinli" 后端 支持三个后端,每个后端具有不同的功能。下表显示哪些功能可用于CPU/CUDA张量。仅当用于构建PyTorch的实现支持时,MPI才支持CUDA。 | 后端 | | | | | | | | | | 设备 | CPU | GPU | CPU | GPU | CP
阅读全文
摘要:译者: "gfjiangly" 提供类和函数,实现任意标量值函数的自动微分。 它要求对已有代码的最小改变 你仅需要用 关键字为需要计算梯度的声明 。 计算被给张量关于图的叶节点的梯度和。 图使用链式法则微分。如何任何 是非标量(例如他们的数据不止一个元素)并且要求梯度,函数要额外指出 。它应是一个匹
阅读全文
摘要:译者: "冯宝宝" 从源码中构建 包含可选组件 Windows PyTorch有两个受支持的组件:MKL和MAGMA。 以下是使用它们构建的步骤。 为Windows构建加速CUDA Visual Studio当前不支持并行自定义任务。 作为替代方案,我们可以使用Ninja来并行化CUDA构建任务。
阅读全文
摘要:译者: "冯宝宝" 我的模型报告“cuda runtime error(2): out of memory” 正如错误消息所示,您的GPU显存已耗尽。由于经常在PyTorch中处理大量数据,因此小错误会迅速导致程序耗尽所有GPU资源; 幸运的是,这些情况下的修复通常很简单。这里有一些常见点需要检查:
阅读全文
摘要:译者: "PEGASUS1993" 本章中,将要介绍使用我们的C库如何扩展 ,`torch.autograd C`扩展工具。 扩展torch.autograd 添加操作 需要 为每个操作实现一个新的子类。回想一下, 使用 来计算结果和梯度,并对操作历史进行编码。每个新功能都需要您实现两种方法: 执行
阅读全文
摘要:译者: "firdameng" 作者 : "Soumith Chintala" 在这个简短的教程中,我们将讨论PyTorch的分布式软件包。 我们将看到如何设置分布式设置,使用不同的通信策略,并查看包的内部部分。 开始 PyTorch中包含的分布式软件包(即torch.distributed)使研究
阅读全文
摘要:译者: "平淡的天" 作者 : "Adam Paszke" 本教程将展示如何使用 PyTorch 在 "OpenAI Gym" 的任务集上训练一个深度Q学习 (DQN) 智能点。 任务 智能点需要决定两种动作:向左或向右来使其上的杆保持直立。你可以在 "Gym website" 找到一个有各种算法和
阅读全文
摘要:译者: "巩子惠" 词嵌入是一种由真实数字组成的稠密向量,每个向量都代表了单词表里的一个单词。 在自然语言处理中,总会遇到这样的情况:特征全是单词!但是,如何在电脑上表述一个单词呢?你在电脑上存储的单词的 码,但是它仅仅代表单词怎么拼写,没有说明单词的内在含义(你也许能够从词缀中了解它的词性,或者从
阅读全文
摘要:译者: "lhc741" 作者 :Jeremy Howard, "fast.ai" 。感谢Rachel Thomas和Francisco Ingham的帮助和支持。 我们推荐使用notebook来运行这个教程,而不是脚本,点击 "这里" 下载notebook(.ipynb)文件。 Pytorch提供
阅读全文
摘要:【主页】 "apachecn.org" 【Github】 "@ApacheCN" 暂时下线: "社区" 暂时下线: "cwiki 知识库" 自媒体平台 "微博:@ApacheCN" "知乎:@ApacheCN" "CSDN" "简书" "OSChina" "博客园" We are ApacheCN
阅读全文
摘要:【主页】 "apachecn.org" 【Github】 "@ApacheCN" 暂时下线: "社区" 暂时下线: "cwiki 知识库" 自媒体平台 "微博:@ApacheCN" "知乎:@ApacheCN" "CSDN" "简书" "OSChina" "博客园" We are ApacheCN
阅读全文
摘要:【主页】 "apachecn.org" 【Github】 "@ApacheCN" 暂时下线: "社区" 暂时下线: "cwiki 知识库" 自媒体平台 "微博:@ApacheCN" "知乎:@ApacheCN" "CSDN" "简书" "OSChina" "博客园" 我们不是 Apache 的官方组
阅读全文
摘要:内容来自 "DataSciComp" ,人工智能/数据科学比赛整理平台。 Github: "iphysresearch/DataSciComp" 本项目由 "ApacheCN" 强力支持。 "微博" | "知乎" | "CSDN" | "简书" | "OSChina" | "博客园" " 第二届中国
阅读全文
摘要:【主页】 "apachecn.org" 【Github】 "@ApacheCN" 暂时下线: "社区" 暂时下线: "cwiki 知识库" 自媒体平台 "微博:@ApacheCN" "知乎:@ApacheCN" "CSDN" "简书" "OSChina" "博客园" 我们不是 Apache 的官方组
阅读全文
摘要:译者: "GeneZC" 返回给定非线性函数的推荐的增益值。对应关系如下表: | 非线性函数 | 增益 | | | | | Linear / Identity | | | Conv{1,2,3}D | | | Sigmoid | | | Tanh | | | ReLU | | | Leaky Rel
阅读全文