Docker+Ollama+WebUI

Docker部署 Ollama+OpenWebUi+oneAPI+M3e+FastGPT

1. 部署 Ollama
   docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama --restart always ollama/ollama

2. 部署 WebUi
   将OLLAMA_BASE_URL替换成你本机IP

docker run -d -p 3002:8080 -e OLLAMA_BASE_URL=http://192.168.129.129:11434 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

部署完毕，请访问：http://IP:3002
docker logs -f open-webui

WebUi
账号root
密码`1234

3. M3e嵌入模型

docker pull registry.cn-hangzhou.aliyuncs.com/fastgpt_docker/m3e-large-api:latest

# 使用CPU运行
docker run -d --name m3e -p 6100:6008 registry.cn-hangzhou.aliyuncs.com/fastgpt_docker/m3e-large-api
# nvida-docker 使用GPU
docker run -d --name m3e -p 6100:6008 --gpus all registry.cn-hangzhou.aliyuncs.com/fastgpt_docker/m3e-large-api

使用以下命令测试是否通

curl --location --request POST 'http://192.168.129.129:6100/v1/embeddings' \
--header 'Authorization: Bearer sk-aaabbbcccdddeeefffggghhhiiijjjkkk' \
--header 'Content-Type: application/json' \
--data-raw '{
"model": "m3e",
"input": ["laf是什么"]
}'

4、 部署 oneAPI

# 使用 SQLite 的部署命令（不用安装mysql）：
docker run --name one-api -d --restart always  -p 3001:3000 -e TZ=Asia/Shanghai -v /home/docker/one-api/data:/data ghcr.io/songquanpeng/one-api

sudo docker run --name one-api -d --restart always -p 13000:3000 -e SQL_DSN="root:123456@tcp(127.0.0.1:3306)/oneapi" -e TZ=Asia/Shanghai -v /home/docker/one-api2/data:/data ghcr.io/songquanpeng/one-api

# 如下载不了，可换一个
ghcr.io/songquanpeng/one-api:     ----替换---->     justsong/one-api

这段命令是使用Docker容器部署一个名为one-api的应用的命令，具体解释如下：

• docker run：这是Docker命令，用于运行一个新的容器实例。
• --name one-api：指定容器的名称为one-api。
• -d：表示后台运行容器。
• --restart always：设置容器的重启策略为始终尝试重启。
• -p 13000:3000：端口映射，将容器内的3000端口映射到宿主机的13000端口。
• -e SQL_DSN="root:123456@tcp(127.0.0.1:3306)/oneapi"：设置环境变量SQL_DSN，用于配置数据库连接信息，包括用户名、密码、数据库地址和数据库名。
• -e TZ=Asia/Shanghai：设置容器的时区为上海时区。
• -v /home--network host/ubu:ntu/data/one-api:/data：挂载卷，将宿主机的/home--network host/ubu目录挂载到容器的/ntu/data/one-api目录，并将容器的/data目录挂载到宿主机的/data目录。注意，这里的路径似乎有误，可能是/home/ubuntu和/ntu/data/one-api。
• justsong/one-api：指定要运行的Docker镜像的名称。

请注意，命令中的路径和数据库连接信息需要根据实际情况进行修改。

创建m3e模型密钥渠道配置如下

连接ollama代理 oneapi设置

5、 安装FastGPT FastGPT安装

# 下载config.json文件

wget https://gitee.com/sigmend/FastGPT/raw/main/projects/app/data/config.json -o config.json

# 下载docker-compose.yml

wget https://gitee.com/sigmend/FastGPT/raw/main/files/deploy/fastgpt/docker-compose.yml -o docker-compose.yml

# 在 docker-compose.yml 同级目录下执行

docker-compose pull
docker-compose up -d

剩余观看链接，完成fastGPT部署操作