随笔分类 - pytorch
module 'torchvision' has no attribute 'ops'
摘要：解决办法 torch与torchvision版本不兼容，先卸载原来版本： pip uninstall torch pip uninstall torchvision pip uninstall torchaudio # 若有 再安装 installed torch-1.8.1 pip install
阅读全文
pytorch基本运算：加减乘除、对数幂次等
摘要：1、加减乘除 a + b = torch.add(a, b) a - b = torch.sub(a, b) a * b = torch.mul(a, b) a / b = torch.div(a, b) import torch a = torch.rand(3, 4) b = torch.ran
阅读全文
pytorch 数据拼接与拆分cat、stack、split、chunck
摘要：1、cat拼接 功能：通过dim指定维度，在当前指定维度上直接拼接 默认是dim=0 指定的dim上，维度可以不相同，其他dim上维度必须相同，不然会报错。 1）拼接两个维度相同的数 a = torch.rand(2, 3, 2) a # 输出： tensor([[[0.6072, 0.6531],
阅读全文
pytorch 数据维度变换
摘要：view、reshape 两者功能一样：将数据依次展开后，再变形 变形后的数据量与变形前数据量必须相等。即满足维度：ab...f = xy*...*z reshape是pytorch根据numpy中的reshape来的 -1表示，其他维度数据已给出情况下， import torch a = torc
阅读全文
pytorch tensor的索引与切片
摘要：tensor索引与numpy类似，支持冒号，和数字直接索引 import torch a = torch.Tensor(2, 3, 4) a # 输出： tensor([[[9.2755e-39, 1.0561e-38, 9.7347e-39, 1.1112e-38], [1.0194e-38, 8
阅读全文
pytorch创建tensor数据
摘要：一、传入数据 tensor只能传入数据 可以传入现有的数据列表或矩阵 import torch # 当是标量时候，即只有一个数据时候，[]括号是可以省略的 torch.tensor(2) # 输出： tensor(2) # 如果是向量或矩阵，必须有[]括号 torch.tensor([2, 3])
阅读全文
感知机的梯度推导
摘要：一、单层感知机（Perceptron） 1、定义：多个输入直接加权求和后，得到一个输出节点，经过激活函数，得到一个值 2、单层感知机求导 导数结果，只与激活函数 O0 和 输入节点 xj 有关 3、pytorch中实现单层感知机 二、多层感知机 多层感知机求导： 多层感知机pytorch的实现：
阅读全文
激活函数与Loss的梯度
摘要：一、梯度 1、导数、偏微分、梯度的区别： 1）导数：是标量，是在某一方向上变化的效率 2）偏微分，partial derivate：特殊的导数，也是标量。函数的自变量的方向，函数的自变量越多，偏微分就越多。 3）梯度，gradient：把所有的偏微分集合成向量，是向量。 梯度向量的长度代表函数在当前
阅读全文
pytorch高阶OP操作where，gather
摘要：一、where 1）torch.where(condition, x, y) # condition是条件，满足条件就返回x，不满足就返回y 2）特点，相比for循环的优点是：可以布置在GPU上运行 二、gather 1）官方解释：根据指定的维度和索引值来筛选值 2）举例
阅读全文
pytorch属性统计
摘要：目录 一、范数 二、基本统计 三、topk 四、比较运算 一、范数 1）norm表示范数，normalize表示正则化 2）matrix norm 和 vector norm的区别： 3）范数计算及表示方法 二、基本统计 1）mean, max, min, prod, sum 2）argmax, a
阅读全文