Ollama WebUI 安装使用（pip 版）

合集 - LLM(5)

1.ChatGLM.cpp 安装使用（支持CPU、Metal及CUDA推理）2024-10-012.llama.cpp 安装使用（支持CPU、Metal及CUDA的单卡/多卡推理）2024-10-013.Ollama 安装、运行大模型（CPU 实操版）2024-10-014.迁移 ollama 模型文件到新机器（支持离线运行）2024-10-01

5.Ollama WebUI 安装使用（pip 版）2024-10-01

收起

Open WebUI (Formerly Ollama WebUI) 也可以通过 docker 来安装使用

1. 详细步骤

1.1 安装 Open WebUI

# 官方建议使用 python3.11（2024.09.27），conda 的使用参考其他文章
conda create -n open-webui python=3.11
conda activate open-webui
# 相关依赖挺多的，安装得一会
pip install open-webui

1.2 启动 ollama 服务

# ollama 的安装使用参考其他文章，启动默认在 http://127.0.0.1:11434
ollama serve

1.3 启动 Open WebUI

# 首次启动会自动从 Hugging Face 下载相关文件，确保 HF 的访问通畅
open-webui serve

1.4 使用 Open WebUI

访问 http://127.0.0.1:8080/ ，自助注册账户后，即可在页面上选择模型进行对话

注：下载模型在终端执行 ollama pull xxx

2. 参考资料

2.1 Open WebUI (Formerly Ollama WebUI)

GitHub

https://github.com/open-webui/open-webui

3. 资源

3.1 Ollama

GitHub

https://github.com/ollama/ollama

Library（模型工厂）

https://ollama.com/library