Ai qwen大模型本地部署
Ai qwen大模型本地部署
官网地址
ollama官网:https://ollama.com
Github:https://github.com/ollama/ollama
环境配置
Windows操作系统一台【小新2019】
下载工具包完成进行傻瓜式安装即可
# 搜素模型的参数级 并运行安装
ollama run qwen2:7b
安装过程
安装过程如下,显示sucess表示成功
测试验证Ai模型
问几个问题和写个脚本,离线单机都可以,这样一个本地部署的gpt模型就完成了
系统资源使用
2019年电脑系统使用AI工具时CPU占用较高,不影响使用正常检索但速度稍慢,平均一秒钟出现2个字,基本能满足使用。
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】凌霞软件回馈社区,博客园 & 1Panel & Halo 联合会员上线
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】博客园社区专享云产品让利特惠,阿里云新客6.5折上折
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步