08 2024 档案

摘要:die 在电子行业内使用背景 "Die" 的本意是指一种工具或模具,用于压制或切割材料,例如金属、塑料或玻璃。它也可以指一种用于制造产品的模具或工具。 在电子行业中,"die" 指的是一个集成电路的核心部分,也就是说,它是指集成电路的实际电路部分,不包括外部的连接线路和封装材料。这个术语来自于集成电 阅读全文
posted @ 2024-08-21 13:34 立体风 阅读(353) 评论(0) 推荐(0) 编辑
摘要:基本逻辑 dim=0 表示 scatter 操作将在行方向上进行。dim指定index参数的值。即 index[i,j]=v 的 v 的值。 index 张量的形状应该与 src 张量的形状匹配,或者能够广播到相同的形状。 对于每一个 index 的位置 (i, j), src[i, j] 中的值会 阅读全文
posted @ 2024-08-21 09:55 立体风 阅读(36) 评论(0) 推荐(0) 编辑
摘要:概述 scatter_ 函数的作用 在 PyTorch 中,scatter_ 函数是一种用于更新张量的函数,它可以根据给定的索引和值来更新张量中的元素。 scatter_ 函数的基本语法如下: torch.scatter_(input, dim, index, src) 其中: input 是要更新 阅读全文
posted @ 2024-08-21 08:01 立体风 阅读(196) 评论(0) 推荐(0) 编辑
摘要:安装系统环境为:Debian 或 Ubuntu。 安装命令 git clone --depth=1 https://github.com/ggerganov/llama.cpp cd llama.cpp cmake -Bbuild cmake --build build -D... cd build 阅读全文
posted @ 2024-08-20 09:58 立体风 阅读(1052) 评论(0) 推荐(0) 编辑
摘要:🤔 在 Git 中,使用“fetch”而不是“download”表示“获取”或“下载”,有几个原因: 历史背景:Git 是由 Linux 的创始人 Linus Torvalds 创建的,并且“fetch”一词在 Git 的早期版本中已经使用过。据信,这是受到 Unix 命令 fetchmail 的 阅读全文
posted @ 2024-08-20 09:26 立体风 阅读(136) 评论(0) 推荐(0) 编辑
摘要:gguf格式下,各种量化方法后的支持情况,及运行速度 Library CPU (AVX2) CPU (ARM NEON) Metal cuBLAS rocBLAS SYCL CLBlast Vulkan Kompute K-quants ✅ ✅ ✅ ✅ ✅ ✅ ✅ 慢 ✅慢 ✅ I-quants ✅ 阅读全文
posted @ 2024-08-20 09:19 立体风 阅读(104) 评论(0) 推荐(0) 编辑
摘要:概论 在 PyTorch 中,torch.stack 函数用于在指定的维度上将一组张量堆叠起来。这个操作会在指定维度上创建一个新的维度,并将输入张量在该维度上进行堆叠。假设有两个形状相同的张量 a 和 b,它们的形状都是 (2, 3, 4),那么在不同的 dim 参数下使用 torch.stack 阅读全文
posted @ 2024-08-19 10:45 立体风 阅读(259) 评论(0) 推荐(0) 编辑
摘要:已经过去五年了,AMD 通过发布基于全新 Zen 架构的第一代 Epyc CPU,重新点燃了服务器和数据中心的雄心。自那时以来,Epyc 已经在服务器处理器市场份额中取得了显著的进展,蚕食了英特尔的市场份额。 最初的 Epyc,代号为 Naples,被正式命名为 7001 系列,最高可达 32 个核 阅读全文
posted @ 2024-08-18 15:29 立体风 阅读(740) 评论(0) 推荐(0) 编辑
摘要:浮点数的加法和减法运算是计算机中最常见也是最复杂的运算之一。由于浮点数的内部表示由符号(Sign)、指数(Exponent)和尾数(Mantissa)三部分组成,浮点数的加减法运算必须处理这些部分之间的复杂关系。以下是浮点数相加或相减的详细运算步骤: 1. 浮点数表示的回顾 符号位(Sign):表示 阅读全文
posted @ 2024-08-17 15:45 立体风 阅读(916) 评论(0) 推荐(0) 编辑
摘要:FP8 (e4m3) 是一种浮点数表示格式,其中: e4 表示有 4 位用于指数。 m3 表示有 3 位用于尾数(即有效数字)。 为了生成并打印所有 FP8 (e4m3) 格式的浮点数,我们需要了解这个格式的细节。FP8 (e4m3) 的格式可以分解为: 符号位(1 位) 指数(4 位) 尾数(3 阅读全文
posted @ 2024-08-15 13:25 立体风 阅读(230) 评论(0) 推荐(0) 编辑
摘要:概述 E5M2 格式的分析 1. 符号位 1 位,用于表示正负号。因此,正数和负数分别可以有各自的表示。 2. 指数位 5 位,可以表示 (2^5 = 32) 个不同的指数值。 3. 尾数位 2 位,可以表示 (2^2 = 4) 个不同的尾数值。 组合情况的基本计算 根据组合的乘法原理: 不考虑符号 阅读全文
posted @ 2024-08-15 09:36 立体风 阅读(423) 评论(0) 推荐(0) 编辑
摘要:标准差的概念 标准差(Standard Deviation,简称SD)是统计学中用来衡量数据集分布的离散程度的一种指标。它反映了数据点围绕平均值的分布情况。具体来说,标准差表示数据点与均值之间的平均偏差程度。 计算标准差的步骤通常包括: 计算均值:首先找到数据集的平均值(均值)。 求差值:计算每个数 阅读全文
posted @ 2024-08-13 19:55 立体风 阅读(915) 评论(0) 推荐(0) 编辑
摘要:概论 在爱因斯坦求和约定或 einsum() 格式字符串中,所有的索引都可以分为两类:自由索引集和求和索引集。它们的区别很简单: 自由索引是用于输出规范中的索引。它们与外层 for 循环相关联。 求和索引是所有其他索引:它们出现在参数规范中,但不出现在输出规范中。之所以称为求和索引,是因为在计算输出 阅读全文
posted @ 2024-08-12 11:05 立体风 阅读(58) 评论(0) 推荐(0) 编辑
摘要:什么是“二次型” 在数学中,特别是线性代数中,二次型(quadratic form) 是一个涉及向量和矩阵的表达式,其形式为: [ Q(v) = v^T M v ] 其中: ( v ) 是一个向量(长度为 ( n ))。 ( M ) 是一个 ( n \times n ) 的方阵(矩阵)。 ( v^T 阅读全文
posted @ 2024-08-12 10:06 立体风 阅读(25) 评论(0) 推荐(0) 编辑
摘要:import torch 把3个颜色grb通道合并为一个灰度通道 定义变量,用随机数模拟 img_t = torch.randn(3, 5, 5) batch_t = torch.randn(2, 3, 5, 5) weights = torch.randn(3) 朴素的求法 以 channels 阅读全文
posted @ 2024-08-10 16:32 立体风 阅读(24) 评论(0) 推荐(0) 编辑
摘要:在变量名 img_gray_naive 中,"naive" 的中文含义通常为 “朴素的”、“简单的” 或 “基础的”。在编程和算法的上下文中,naive 一般用来描述一种不复杂、直接、基础但通常有效的实现方式。 具体含义解释: 朴素的: naive 表示没有使用任何复杂的优化或高级技巧,直接按照最基 阅读全文
posted @ 2024-08-09 12:34 立体风 阅读(37) 评论(0) 推荐(0) 编辑
摘要:在代码中的 img_gray_weighted_fancy 变量名中的 "fancy" 可以有以下几种中文含义,具体取决于上下文: “花哨的” 或 “复杂的”: 在编程和计算的上下文中,"fancy" 常常用于描述更复杂或更高级的实现方案。例如,fancy 可能指代使用了更复杂的方法来实现某个操作, 阅读全文
posted @ 2024-08-09 11:42 立体风 阅读(10) 评论(0) 推荐(0) 编辑
摘要:在 pytorch 中,函数 refine_names 的作用是给维度命名。 refine 这个词的中文含义可以翻译为“细化”或“优化”。 具体到 PyTorch 的 refine_names 方法,它的功能是为张量的每个维度指定或细化名称,从而使得对张量的操作更加清晰和明确。 所以,refine_ 阅读全文
posted @ 2024-08-09 09:37 立体风 阅读(15) 评论(0) 推荐(0) 编辑
摘要:概论 a = torch.randn(3, 2, 2) b = torch.randn(3) c = torch.einsum('...chw,c->...hw', a, b) 上面的 einsum 如何计算的? 简单说,把 b 广播为 a 的形状,然后做矩阵乘法,即逐位相乘运算,注意,不是点积,是 阅读全文
posted @ 2024-08-09 09:30 立体风 阅读(113) 评论(0) 推荐(0) 编辑
摘要:Fine 和 Tuning 这两个单词结合在一起构成了“Fine-tuning”,用于描述深度学习中的“微调”过程。 下面是这两个单词的具体中文含义,以及为什么它们适合用来描述这个概念。 Fine 的中文含义 细致的、精细的、优良的: 这个词表示某种事物的质量或精度很高,强调精确度和细微的调整。 在 阅读全文
posted @ 2024-08-09 08:33 立体风 阅读(79) 评论(0) 推荐(0) 编辑
摘要:torch 处理 tensor 张量的广播,使用 einsum 函数,摘录一段使用代码,并分析用法 # In[6]: img_gray_weighted_fancy = torch.einsum('...chw,c->...hw', img_t, weights) batch_gray_weight 阅读全文
posted @ 2024-08-09 07:36 立体风 阅读(103) 评论(0) 推荐(0) 编辑
摘要:einsum 是 Einstein summation 的缩写,即 爱因斯坦求和约定。einsum 函数源自 NumPy,后来在 PyTorch 等其他科学计算库中也得到了实现。它是一种强大而灵活的函数,可以用来处理各种张量运算,如矩阵乘法、转置、批量点积、内积、外积等。 爱因斯坦求和约定 (Ein 阅读全文
posted @ 2024-08-08 22:55 立体风 阅读(174) 评论(0) 推荐(0) 编辑
摘要:a = torch.randn(3) a tensor([ 0.4789, 0.1794, -1.5215]) a.unsqueeze(-1) tensor([[ 0.4789], [ 0.1794], [-1.5215]]) 上述代码中,tensor变量a是一个一维 tensor 变量。当用 un 阅读全文
posted @ 2024-08-08 22:34 立体风 阅读(10) 评论(0) 推荐(0) 编辑
摘要:tinyshakespeare 是一个小型的莎士比亚文本数据集,它包含了莎士比亚的戏剧和诗歌的文本。这个数据集是由 llm.c 项目创建的,用于训练和测试语言模型。 tinyshakespeare 数据集的特点是: 它是一个小型的数据集,包含了约 1.2 万行文本。 它包含了莎士比亚的戏剧和诗歌的文 阅读全文
posted @ 2024-08-04 16:21 立体风 阅读(140) 评论(0) 推荐(0) 编辑
摘要:ollama 安装 Install 使用以下命令安装 ollama: curl -fsSL https://ollama.com/install.sh | sh 手动安装 下载 ollama 二进制文件: sudo curl -L https://ollama.com/download/ollama 阅读全文
posted @ 2024-08-01 20:51 立体风 阅读(1060) 评论(0) 推荐(0) 编辑

点击右上角即可分享
微信分享提示