会员
周边
捐助
新闻
博问
闪存
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
Badwood-涂鸦
首页
新随笔
联系
订阅
管理
2024年5月12日
一个低级问题导致vLLM加载大模型时ray卡死
摘要: 因nproc设置过小导致vllm加载大模型时卡在ray启动阶段
阅读全文
posted @ 2024-05-12 17:35 badwood
阅读(1507)
评论(3)
推荐(1)
编辑
公告
Badwood's Blog