记录一次本地安装AI ollama大模型数据对话 的经历
- 浏览器打开 Ollama官网
-
-
下载对应的版本,我这里下载的 是对应 windows的版本,下载后直接运行安装
-
-
安装完成后 打开 dos控制台,win+r,cmd那个,输入ollama 如果显示如下截图内容,就说明安装成功了,接下来就是下载 具体的 大数据库了
-
-
安装大模型前,建议先修改环境变量,因为大模型库默认是安装在c盘的,后期可能c盘压力较大,会受到影响,所以建议安装到别的盘
-
在计算机的属性 -环境变量这里
-
-
找到Path项,点击编辑
-
-
然后点新增,新增如图所示的项,然后保存
-
然后再单独加一项环境变量,保存
-
以上环境变量设置好保存后,一定要重启一次 Ollama,不然依旧还是在默认路径,打开右下角的Ollama的图标,直接关闭,然后再 win+r,cmd 输入ollama 就启动成功了,后面下载了大模型数据库后, 输入 ollama run 模型名称 就可以与对应的模型对话了
-
接下来开始下载模型库,注意:不同的模型库对机器的配置要求不一样【我目前是旧的笔记本电脑内存只有4g,只能下载最小的模型库,所以我用的是llama3.2的1b的模型库】 ,点击models选择对应的模型库,可以参照下图【新手常用的llama 3.1 的8b的模型库 含8亿训练参数】操作
-
-
-
复制后,回到 ollama的 dos窗口直接粘贴 ,回车就行了
-
全部下载完成后就可以对话了
-
如果下载出错,就建议重新下载几次,或者把ollama重启一下,在网上看看解决办法
-
我是参考 https://blog.csdn.net/weixin_74825941/article/details/142085755