ollama gpu 集成测试qwen2 7b 模型
摘要:
昨天测试了下基于ollama cpu 模式运行的qwen2 对于小参数0.5b 以及1.5b 的速度还行,但是你的cpu 核数以及内存还是需要大一些 今天测试下基于gpu 的qwen2 7b 模型,以下简单说明下 安装ollama 如果我们申请的机器包含了GPU,ollama 的安装cli 还是比较 阅读全文
posted @ 2024-06-10 08:24 荣锋亮 阅读(468) 评论(0) 推荐(0) 编辑