本地搭建一个随时解答问题的ai助手
我们在自己学习的过程中免不了要遇到各种各样奇奇怪怪的问题,而各位老师大佬又不一定时时刻刻在身边,自己去搜索又可能无从下手,搭建一个本地的ai助手至少能给我们翻译翻译问题是什么,处于此目的我分享一下我的搭建过程,找了很多方案ollama+docker应该是最简单上手的现在将具体经过记录如下:
Ollama的安装及使用
访问ollama官网,需要借助飞机从github上下载,推荐使用uu加速器的学术资源,或者steam++,目前均可使用,下载后按提示完成安装。在我的电脑-属性-高级系统设置-环境变量-path-添加环境变量-变量名填写:OLLAMA_MODELS-变量值填写你下载模型的文件夹;models可以从官网上下载到你喜欢的文件夹
按win+r打开运行窗口,输入cmd打开命令行。
Ollama常用命令如下:
1.ollama -v 查询版本号
2.Ollama -h 显示所有可用命令
3.Ollama run models 启动对应模型
4.Ctrl+d 退出启动的模型
Ollama图形化webui的使用Docker的安装
访问docker官网,下载对应版本的docker安装包,按指示完成安装;按win+r打开运行窗口,输入cmd打开命令行。
1.安装命令:docker pull ollama如果不能安装说明镜像源有问题,更改为国内镜像源
2.镜像代码如下:
{ "registry-mirrors": [ "https://docker.hpcloud.cloud", "https://docker.m.daocloud.io", "https://docker.unsee.tech", "https://docker.1panel.live", "http://mirrors.ustc.edu.cn", "https://docker.chenby.cn", "http://mirror.azure.cn", "https://dockerpull.org", "https://dockerhub.icu", "https://hub.rat.dev" ] }
3.再次使用安装命令即可安装
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 分享一个免费、快速、无限量使用的满血 DeepSeek R1 模型,支持深度思考和联网搜索!
· 基于 Docker 搭建 FRP 内网穿透开源项目(很简单哒)
· ollama系列1:轻松3步本地部署deepseek,普通电脑可用
· 按钮权限的设计及实现
· 【杂谈】分布式事务——高大上的无用知识?