立体风

2024年9月14日

摘要： xcode-select 是 macOS 系统中与 Xcode 开发工具链相关的一个命令行工具，用于管理和切换 Xcode 的开发工具路径。Xcode 是苹果为 macOS 和 iOS 开发提供的集成开发环境（IDE），而 xcode-select 让用户可以方便地设置和更改系统使用的 Xcode 阅读全文

posted @ 2024-09-14 15:57 立体风阅读(3272) 评论(0) 推荐(0)

apple m芯片的深度学习框架 MLX 安装

摘要：概述二手淘到一个M1 MAX 64g 512g 的 apple studio 。看了一下专为它开发的框架 MLX，还有一堆例子。在官方网站的帮助文件中，找到了安装方法。官网安装 Python API To build and install the MLX python library fro 阅读全文

posted @ 2024-09-14 15:35 立体风阅读(916) 评论(0) 推荐(0)

2024年9月7日

python中的 pickle 词解

摘要：概述 Python有pickle这个便利的功能。这个功能可以将程序运行中的对象保存为文件。如果加载保存过的pickle文件，可以立刻复原之前程序运行中的对象。解答在Python中，pickle 模块用于将对象序列化（即将对象的状态转换为可存储或传输的字节流），并且能够反序列化（即从字节流恢复对象阅读全文

posted @ 2024-09-07 09:49 立体风阅读(139) 评论(0) 推荐(0)

2024年9月5日

增强 softmax 函数的稳定性

摘要：概述 oftmax函数的表达式 $ \text{Softmax}(x_i) = \frac{e^{x_i}}{\sum_{j} e^{x_j}} $，但在计算机的运算上有一定的缺陷。这个缺陷就是溢出问题。 softmax函数的实现中要进行指数函数的运算，但是此时指数函数的值很容易变得非常大。比如，e 阅读全文

posted @ 2024-09-05 22:18 立体风阅读(332) 评论(0) 推荐(0)

2024年8月21日

芯片行业内 die 的翻译及词解

摘要： die 在电子行业内使用背景 "Die" 的本意是指一种工具或模具，用于压制或切割材料，例如金属、塑料或玻璃。它也可以指一种用于制造产品的模具或工具。在电子行业中，"die" 指的是一个集成电路的核心部分，也就是说，它是指集成电路的实际电路部分，不包括外部的连接线路和封装材料。这个术语来自于集成电阅读全文

posted @ 2024-08-21 13:34 立体风阅读(667) 评论(0) 推荐(0)

pytorch 的 scatter 函数中参数 index 是如何指定散布位置

摘要：基本逻辑 dim=0 表示 scatter 操作将在行方向上进行。dim指定index参数的值。即 index[i,j]=v 的 v 的值。 index 张量的形状应该与 src 张量的形状匹配，或者能够广播到相同的形状。对于每一个 index 的位置 (i, j), src[i, j] 中的值会阅读全文

posted @ 2024-08-21 09:55 立体风阅读(119) 评论(0) 推荐(0)

pytorch的 scatter词解

摘要：概述 scatter_ 函数的作用在 PyTorch 中，scatter_ 函数是一种用于更新张量的函数，它可以根据给定的索引和值来更新张量中的元素。 scatter_ 函数的基本语法如下： torch.scatter_(input, dim, index, src) 其中： input 是要更新阅读全文

posted @ 2024-08-21 08:01 立体风阅读(358) 评论(0) 推荐(0)

2024年8月20日

llama.cpp 安装指南

摘要：安装系统环境为：Debian 或 Ubuntu。安装命令 git clone --depth=1 https://github.com/ggerganov/llama.cpp cd llama.cpp cmake -Bbuild cmake --build build -D... cd build 阅读全文

posted @ 2024-08-20 09:58 立体风阅读(2568) 评论(0) 推荐(0)

git命令中的 fetch 词解

摘要： 🤔 在 Git 中，使用“fetch”而不是“download”表示“获取”或“下载”，有几个原因：历史背景：Git 是由 Linux 的创始人 Linus Torvalds 创建的，并且“fetch”一词在 Git 的早期版本中已经使用过。据信，这是受到 Unix 命令 fetchmail 的阅读全文

posted @ 2024-08-20 09:26 立体风阅读(207) 评论(0) 推荐(0)

gguf格式量化方法

摘要： gguf格式下，各种量化方法后的支持情况，及运行速度 Library CPU (AVX2) CPU (ARM NEON) Metal cuBLAS rocBLAS SYCL CLBlast Vulkan Kompute K-quants ✅ ✅ ✅ ✅ ✅ ✅ ✅ 慢 ✅慢 ✅ I-quants ✅ 阅读全文

posted @ 2024-08-20 09:19 立体风阅读(294) 评论(0) 推荐(0)

公告