摘要:
概述 E5M2 格式的分析 1. 符号位 1 位,用于表示正负号。因此,正数和负数分别可以有各自的表示。 2. 指数位 5 位,可以表示 (2^5 = 32) 个不同的指数值。 3. 尾数位 2 位,可以表示 (2^2 = 4) 个不同的尾数值。 组合情况的基本计算 根据组合的乘法原理: 不考虑符号 阅读全文
摘要:
标准差的概念 标准差(Standard Deviation,简称SD)是统计学中用来衡量数据集分布的离散程度的一种指标。它反映了数据点围绕平均值的分布情况。具体来说,标准差表示数据点与均值之间的平均偏差程度。 计算标准差的步骤通常包括: 计算均值:首先找到数据集的平均值(均值)。 求差值:计算每个数 阅读全文
摘要:
概论 在爱因斯坦求和约定或 einsum() 格式字符串中,所有的索引都可以分为两类:自由索引集和求和索引集。它们的区别很简单: 自由索引是用于输出规范中的索引。它们与外层 for 循环相关联。 求和索引是所有其他索引:它们出现在参数规范中,但不出现在输出规范中。之所以称为求和索引,是因为在计算输出 阅读全文
摘要:
什么是“二次型” 在数学中,特别是线性代数中,二次型(quadratic form) 是一个涉及向量和矩阵的表达式,其形式为: [ Q(v) = v^T M v ] 其中: ( v ) 是一个向量(长度为 ( n ))。 ( M ) 是一个 ( n \times n ) 的方阵(矩阵)。 ( v^T 阅读全文
摘要:
import torch 把3个颜色grb通道合并为一个灰度通道 定义变量,用随机数模拟 img_t = torch.randn(3, 5, 5) batch_t = torch.randn(2, 3, 5, 5) weights = torch.randn(3) 朴素的求法 以 channels 阅读全文
摘要:
在变量名 img_gray_naive 中,"naive" 的中文含义通常为 “朴素的”、“简单的” 或 “基础的”。在编程和算法的上下文中,naive 一般用来描述一种不复杂、直接、基础但通常有效的实现方式。 具体含义解释: 朴素的: naive 表示没有使用任何复杂的优化或高级技巧,直接按照最基 阅读全文
摘要:
在代码中的 img_gray_weighted_fancy 变量名中的 "fancy" 可以有以下几种中文含义,具体取决于上下文: “花哨的” 或 “复杂的”: 在编程和计算的上下文中,"fancy" 常常用于描述更复杂或更高级的实现方案。例如,fancy 可能指代使用了更复杂的方法来实现某个操作, 阅读全文
摘要:
在 pytorch 中,函数 refine_names 的作用是给维度命名。 refine 这个词的中文含义可以翻译为“细化”或“优化”。 具体到 PyTorch 的 refine_names 方法,它的功能是为张量的每个维度指定或细化名称,从而使得对张量的操作更加清晰和明确。 所以,refine_ 阅读全文
摘要:
概论 a = torch.randn(3, 2, 2) b = torch.randn(3) c = torch.einsum('...chw,c->...hw', a, b) 上面的 einsum 如何计算的? 简单说,把 b 广播为 a 的形状,然后做矩阵乘法,即逐位相乘运算,注意,不是点积,是 阅读全文
摘要:
Fine 和 Tuning 这两个单词结合在一起构成了“Fine-tuning”,用于描述深度学习中的“微调”过程。 下面是这两个单词的具体中文含义,以及为什么它们适合用来描述这个概念。 Fine 的中文含义 细致的、精细的、优良的: 这个词表示某种事物的质量或精度很高,强调精确度和细微的调整。 在 阅读全文