vllm 安装踩坑记录

不太确定最直接简单的安装方法是什么，可以采用如下步骤安装：
环境：cuda12.2, 其他库的版本可以按如下requirements文件中指定的版本更新

1. 从git链接下载最新的vllm本地包到自定义目录./vllm_source_code/，依次安装该目录下requirements-build.txt等多个requirements文件中的依赖库，注意很多库的版本有最高最低版本号的限制，特别注意numpy和torch版本；
确保flash_attn库安装正确；
这个过程中还遇到了pip本身的清华镜像源403下载bug，切换到阿里云就好了；
可以用pip check检查已安装的包是否有requirements冲突；
2. 此时，无论如何运行"pip install -e .", which means用本地环境安装包，都会出现报错，debug了一下午，发现似乎是官方最新vllm git版本的问题，不好解决，论坛也众说纷纭；但此时vllm依赖的库基本都安装好了，直接pip install vllm即可；
3. 此时在终端试图用vllm加载大模型，结果报错说找不到vllm._C，查资料发现是vllm依赖的一个.so底层库编译有问题，不好直接解决，应该是和库导入包的默认查找路径顺序有关，解决方法是切换终端目录到./vllm_source_code/vllm/下，然后再导入vllm.LLM(model="xxx")即可

参考资料：
3.的解决方法来源：感谢【vLLM】ModuleNotFoundError: No module named ‘vllm.model_executor.layers‘_modulenotfounderror: no module named 'vllm-CSDN博客