本地大模型构建系列(一):1、本地安装部署Ollama大模型(Windows 10)
前置准备:
大模型启动器下载官网:
(1)Olama+Docker本地部署Ollama官网地址:https://ollama.com/
Docker下载地址:https://github.com/tech-shrimp/docker_installer
Open webui安装部署:https://github.com/open-webui/open-webui
MaxKB安装部署:https://github.com/1Panel-dev/MaxKB
一、安装Ollama大模型启动器
1.浏览器打开Ollama官网,点击Download进行下载(如下图所示)
2.选择适合版本进行下载(如下图所示)
3.下载完成后,双击安装(默认)直到完成。
4.同时按键盘上Win+R,输入cmd进入,输入ollama,回车,显示如下图所示,表示ollama已安装成功
二、安装大模型
1.按下列步骤,修改大模型安装路径,如果不修改,默认会安装到C盘(系统盘)。按键盘上Win+i进入设置,搜索“查看高级系统设置”,进入【环境变量】
2.修改path,配置Ollama安装位置的参数,修改后点确定完成
3.新建变量名OLLAMA_MODELS,设置新路径,确定完成(注意:一定要重新启动ollama)
重启步骤:先退出(在右下角找到羊驼图标,右键,选择'Quit Ollama'),重新启动(以Win+R打开cmd,输入ollama回车完成重启)
4.下载安装大模型,以Qwen为例
以win+R进入cmd,以命令:ollama run qwen2.5:3b,进行大模型下载安装
5.下载完成后,自动运行,可以开始对话
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 全程不用写代码,我用AI程序员写了一个飞机大战
· DeepSeek 开源周回顾「GitHub 热点速览」
· 记一次.NET内存居高不下排查解决与启示
· MongoDB 8.0这个新功能碉堡了,比商业数据库还牛
· .NET10 - 预览版1新功能体验(一)