我的随笔

本地化文档工具Outline的部署和使用

AlphaInf 2026-01-16 18:51 阅读:171 评论:1 推荐:2

关于磁盘对拷的一系列trick

AlphaInf 2025-09-03 17:11 阅读:39 评论:0 推荐:2

关于大模型系统吞吐量计算的方法

AlphaInf 2025-08-26 19:31 阅读:606 评论:0 推荐:2

git submodule小记

AlphaInf 2024-06-15 21:07 阅读:167 评论:0 推荐:3

给vllm添加热添加lora的功能

AlphaInf 2024-06-02 15:21 阅读:1061 评论:0 推荐:9

基于Deepspeed实现LLaMA-13B或70B模型的微调

AlphaInf 2024-02-02 19:00 阅读:8324 评论:2 推荐:80

基于vllm 0.3.0部署 llama2-70B模型

AlphaInf 2024-02-02 01:30 阅读:2242 评论:0 推荐:23

基于TigerBot-13b训练其函数调用能力

AlphaInf 2023-12-23 16:01 阅读:202 评论:0 推荐:6

使用双卡/8卡3090微调llama2-70B/13B模型

AlphaInf 2023-12-10 14:26 阅读:16175 评论:4 推荐:152

8卡3090GPU云服务器上采用VLLM部署中文llama2-70b模型及OpenAI格式接口

AlphaInf 2023-12-07 21:44 阅读:11008 评论:3 推荐:114

Llama2模型预训练，推理与微调测试

AlphaInf 2023-09-14 18:07 阅读:3036 评论:0 推荐:46

GLM-130B 部署 - 8*3090-24G

AlphaInf 2023-09-14 17:52 阅读:656 评论:0 推荐:12

OpenBuddy-LLaMA2-70B的三种部署方式

AlphaInf 2023-09-14 17:33 阅读:4626 评论:1 推荐:50

强化学习及过程监督学习笔记

AlphaInf 2023-06-11 23:31 阅读:745 评论:0 推荐:12

基于80C51单片机的出租车计费器设计

AlphaInf 2023-06-11 12:31 阅读:643 评论:1 推荐:16

chatglm-6b云端微调

AlphaInf 2023-05-06 10:05 阅读:399 评论:0 推荐:10

chatglm-6b法律名词数据训练

AlphaInf 2023-05-06 09:58 阅读:1589 评论:0 推荐:22

ChatGLM-6B云服务器部署（以恒源云为例）

AlphaInf 2023-04-09 14:31 阅读:1687 评论:2 推荐:21

如何使用OpenAI Fine-tuning API微调GPT-3模型

AlphaInf 2023-04-04 13:21 阅读:2688 评论:1 推荐:31

算法设计与分析 Assignment 1(第一章)

AlphaInf 2023-03-30 20:29 阅读:299 评论:0 推荐:4