Yohoc

摘要： 阅读全文

摘要： 线性模型的局限性 例如，线性意味着单调假设： 任何特征的增大都会导致模型输出的增大（如果对应的权重为正）， 或者导致模型输出的减小（如果对应的权重为负）。 有时这是有道理的。 例如，如果我们试图预测一个人是否会偿还贷款。 我们可以认为，在其他条件不变的情况下， 收入较高的申请人比收入较低的申请人更有 阅读全文

摘要： 在深度学习中，全连接层无处不在。 然而，顾名思义，全连接层是“完全”连接的，可能有很多可学习的参数。 具体来说，对于任何具有d个输入和q个输出的全连接层， 参数开销为O(dq),这个数字在实践中可能高得令人望而却步。 幸运的是，将d个输入转换为q个输出的成本可以减少到O(dq/n)， 其中超参数n可 阅读全文

摘要： 分类问题 ⬆️独热标签向量 网络架构 softmax运算 小批量样本的矢量化 损失函数 模型预测与评估 在训练softmax回归模型后，给出任何样本特征，我们可以预测每个输出类别的概率。 通常我们使用预测概率最高的类别作为输出类别。 如果预测与实际类别（标签）一致，则预测是正确的。 在接下来的实验中 阅读全文

摘要： 回归 回归（regression）是能为一个或多个自变量与因变量之间关系建模的一类方法。 在自然科学和社会科学领域，回归经常用来表示输入和输出之间的关系。 在机器学习领域中的大多数任务通常都与预测（prediction）有关。 当我们想预测一个数值时，就会涉及到回归问题。 常见的例子包括：预测价格（ 阅读全文

摘要： 深度学习框架可以自动计算导数的原理主要如下: 1. 深度学习框架实现了自动微分机制,可以自动生成计算图,并记录运算过程。 2. 在计算图中,每个变量都是计算节点,变量之间通过计算操作连接。 3. 框架会跟踪整个计算图,记录每个变量的运算关系和数据流动。 4. 对于要求导数的变量,我们将其标记为要求导 阅读全文

摘要： 默认情况下，调用求和函数会沿所有的轴降低张量的维度，使它变为一个标量。 x = torch.arange(4, dtype=torch.float32) x, x.sum() (tensor([0., 1., 2., 3.]), tensor(6.)) 我们还可以指定张量沿哪一个轴来通过求和降低维度 阅读全文

摘要： 为了能用深度学习来解决现实世界的问题，我们经常从预处理原始数据开始， 而不是从那些准备好的张量格式数据开始。 下面我们将简要介绍使用pandas预处理原始数据，并将原始数据转换为张量格式的步骤。 1.读取数据集 举一个例子，我们首先创建一个人工数据集，并存储在CSV（逗号分隔值）文件 ../data 阅读全文

摘要： 概念介绍（基础） 练习* 用其他形状（例如三维张量）替换广播机制中按元素操作的两个张量。结果是否与预期相同？ a = torch.arange(20).reshape((5,1,4)) b = torch.arange(48).reshape((6,2,4)) (a+b).shape Runtime 阅读全文

摘要： 为了能够完成各种数据操作，我们需要某种方法来存储和操作数据。 首先，我们介绍维数组，也称为张量（tensor）。 使用过Python中NumPy计算包的读者会对本部分很熟悉。 无论使用哪个深度学习框架，它的张量类（在MXNet中为ndarray， 在PyTorch和TensorFlow中为Tenso 阅读全文