记录一次本地安装AI ollama大模型数据对话 的经历

  1. 浏览器打开 Ollama官网   
  2.  

  3. 下载对应的版本,我这里下载的 是对应 windows的版本,下载后直接运行安装

  4.  

  5. 安装完成后 打开 dos控制台,win+r,cmd那个,输入ollama 如果显示如下截图内容,就说明安装成功了,接下来就是下载 具体的 大数据库了

  6.  

  7.  

     安装大模型前,建议先修改环境变量,因为大模型库默认是安装在c盘的,后期可能c盘压力较大,会受到影响,所以建议安装到别的盘

  8. 在计算机的属性 -环境变量这里

  9.  

  10. 找到Path项,点击编辑

  11.  

  12. 然后点新增,新增如图所示的项,然后保存

  13. 然后再单独加一项环境变量,保存

  14. 以上环境变量设置好保存后,一定要重启一次 Ollama,不然依旧还是在默认路径,打开右下角的Ollama的图标,直接关闭,然后再 win+r,cmd 输入ollama 就启动成功了,后面下载了大模型数据库后, 输入 ollama run 模型名称  就可以与对应的模型对话了

  15. 接下来开始下载模型库,注意:不同的模型库对机器的配置要求不一样【我目前是旧的笔记本电脑内存只有4g,只能下载最小的模型库,所以我用的是llama3.2的1b的模型库】 ,点击models选择对应的模型库,可以参照下图【新手常用的llama 3.1 的8b的模型库 含8亿训练参数】操作

  16.  

  17.  

     

  18. 复制后,回到 ollama的 dos窗口直接粘贴 ,回车就行了

  19. 全部下载完成后就可以对话了

  20.  

     如果下载出错,就建议重新下载几次,或者把ollama重启一下,在网上看看解决办法

     

  21. 我是参考 https://blog.csdn.net/weixin_74825941/article/details/142085755

     

     

     

     

     

     

    

 

posted @ 2024-10-10 14:07  GU天乐乐乐!  阅读(81)  评论(0编辑  收藏  举报