vllm 安装踩坑记录
摘要：
不太确定最直接简单的安装方法是什么，可以采用如下步骤安装：环境：cuda12.2, 其他库的版本可以按如下requirements文件中指定的版本更新1. 从git链接下载最新的vllm本地包到自定义目录./vllm_source_code/，依次安装该目录下requirements-build.t 阅读全文
posted @ 2025-01-07 18:11 Mju_halcyon 阅读(1705) 评论(3) 推荐(0) 编辑
