摘要：
逻辑回归logistic regression逻辑回归是线性的二分类模型（与线性回归的区别：线性回归是回归问题，而逻辑回归是线性回归+激活函数sigmoid=分类问题）模型表达式：f(x)称为sigmoid函数，... 阅读全文
摘要：
下面给出模型训练步骤的思路，在用pytorch（也包括其他框架）编写代码进行网络编写时，建议都按照这几个步骤来进行，形成一个清晰的思路各模块简要说明数据：涉及数据的收集、划分、读取及预处理等模型：根据任务的复杂程... 阅读全文
摘要：
神经网络离不开大量的梯度求导，若是交给人为计算，这将是十分耗时的一件事情。在pytorch中，autograd自动求导系统能有效解决这一问题。torch.autogradtorch.autograd.backwa... 阅读全文
摘要：
主要可以通过两个角度来说明，但其实表述的意思也是异曲同工低显存跑大batchsize的角度这种模式可以让梯度玩出更多花样，比如说梯度累加（gradient accumulation）传统的训练函数，一个batch... 阅读全文
摘要：
计算图computational graph表示方法计算图是用来描述运算的有向无环图计算图有两个主要元素：结点（node）和边（edge）结点表示数据，如向量，矩阵，张量边表示运算，如加减乘除卷积等 计算图不仅使... 阅读全文