项目Github:https://github.com/xorbitsai/inference/
文档:https://inference.readthedocs.io/zh-cn/latest/getting_started/index.html
安装的时候如果还是 0.16.3
pip install "xinference[all]"
要装最新的1.3需要这么写:
pip install "xinference==1.3.0.post1"
更新日志
✨ 新模型
* LLM:
* DeepSeek V3 & DeepSeek R1
* Qwen2.5-Instruct-1M
* 多模态:
* InternVL 2.5
新功能
* SGLang 引擎支持分布式多机多卡推理
* vLLM 引擎支持输出 reasoning content
* 日志新增 GPU 利用率显示
* vLLM Xavier 现支持最新 vLLM ≥ 0.7.0
BUG 修复
* 修复开启 Xavier 后 batch 推理的一个问题
* ⚡ 修复 FLUX 使用了不兼容的 scheduler 问题
UI 相关
* ⭐ 启动模型页面新增「推荐模型」模块,重要模型一键直达
* 模型额外启动参数输入框支持智能提示,重要参数一键填入
* 新增「启动命令行 ↔ 页面操作」互相转换工具
* ⚙ 模型启动固定选项新增 n_worker,适配分布式推理