知识库AI部署搭建-唯一客服系统文档中心
唯一客服系统知识库服务,支持向量形式个性化训练ChatGPT,该服务是独立搭建的,下面是一些介绍
安装docker
现在基于GPT相应实现自建本地知识库,必不可少的就是向量数据库,现在介绍下qdrant向量数据库的安装。
因为qdrant向量数据库只支持docker部署,所以在服务器上安装一下docker,下面是在ubutnu下安装docker
apt update apt install apt-transport-https ca-certificates curl gnupg lsb-release curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg --dearmor -o /usr/share/keyrings/docker-archive-keyring.gpg echo "deb [arch=amd64 signed-by=/usr/share/keyrings/docker-archive-keyring.gpg] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable" | sudo tee /etc/apt/sources.list.d/docker.list > /dev/null apt update apt install docker-ce docker-ce-cli containerd.io
宝塔安装docker
如果你使用宝塔面板,那么就更简单了,提供可视化的界面进行管理
安装docker模块和docker管理器
开启docker服务
拉取镜像
docker管理器的镜像管理里,拉取qdrant/qdrant
根据镜像创建容器,注意端口映射,其他的是默认的
这样就能安装成功了。
命令安装向量数据库Qdrant
拉取镜像
docker pull qdrant/qdrant
运行服务
docker run -d -p 6333:6333 qdrant/qdrant
部署知识库服务
知识库服务的程序文件如下图所示
.env文件是一些配置信息,可以配置openai 的key 或者 是其他第三方代理的域名和代理的key
OPENAI_KEY=api2d的key OPENAI_API_BASE=https://openai.api2d.net QDRANT_BASE=127.0.0.1 QDRANT_PORT=6333
在源码目录的/knowledge目录下是知识库程序目录
go build -o knowledge 可以编译生成二进制执行文件knowledge
启动服务./knowledge ,这样就能启动知识库服务了。
守护模式启动服务(Supervisor)
一般情况下,我们使用golang开发的服务,或者其他语言监听端口的服务,都没有守护进程的功能
那么我们就可以使用Supervisor来对进程进行管理
下面是宝塔面板安装Supervisor
利用面板来启动服务
命令安装Supervisor
Supervisor是一种常用的进程管理工具,可以帮助你管理Linux系统中的进程,确保它们在后台一直运行。使用Supervisor可以实现进程的自动重启、监控进程状态、限制进程资源等功能,非常适用于需要长时间运行的服务程序。
以下是在Linux下使用Supervisor的一些基本步骤:
安装Supervisor
在Linux系统中,你可以使用包管理工具来安装Supervisor,例如在Ubuntu系统中,可以使用以下命令进行安装:
apt-get install supervisor
配置Supervisor
Supervisor的配置文件通常位于/etc/supervisor/conf.d/目录下,你可以在该目录下创建一个以.conf为后缀的配置文件,例如myprogram.conf,然后在该文件中添加要管理的进程的配置信息。
以下是一个知识库服务示例配置文件的内容:
[program:knowledge]
command=/www/wwwroot/go-fly-muti/knowledge/knowledge
directory=/www/wwwroot/go-fly-muti/knowledge/
user=root
autostart=true
autorestart=true
startretries=3
redirect_stderr=true
stdout_logfile=/var/log/knowledge.log
stdout_logfile_maxbytes=10MB
stdout_logfile_backups=10
启动Supervisor
配置完成后,你可以使用以下命令启动Supervisor服务:
service supervisor start
启动Supervisor后,它会自动加载配置文件并启动相应的进程。你可以使用以下命令来检查Supervisor服务状态:
service supervisor status
使用Supervisor管理进程
使用Supervisor管理进程非常简单,你可以使用以下命令对进程进行启动、停止、重启、查看状态等操作:
启动进程:
sudo supervisorctl start knowledge
停止进程:
sudo supervisorctl stop knowledge
重启进程:
sudo supervisorctl restart knowledge
查看进程状态:
supervisorctl status
如果配置完成后,使用supervisorctl start knowledge,报错找不到进程,
那么可以尝试下面这条更新命令
supervisorctl update
如果配置正确会输出类似下面这样
myprogram : added process group
然后查看下进程状态
supervisorctl status
会看到
supervisor> status
myprogram RUNNING pid 12345, uptime 1 day, 2:34:56
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 阿里最新开源QwQ-32B,效果媲美deepseek-r1满血版,部署成本又又又降低了!
· 开源Multi-agent AI智能体框架aevatar.ai,欢迎大家贡献代码
· Manus重磅发布:全球首款通用AI代理技术深度解析与实战指南
· 被坑几百块钱后,我竟然真的恢复了删除的微信聊天记录!
· AI技术革命,工作效率10个最佳AI工具
2022-05-14 [Javascript] js使用正则去除所有html标签
2021-05-14 [PHP] 发布一个类库到composer
2021-05-14 [Git[ 解决 git branch -M main error: refname refs/heads/master not found
2021-05-14 [PHP] composer init初始化composer.json文件
2021-05-14 [javascript] js websocket断线重连库ReconnectingWebSocket
2021-05-14 [javascript] 简单封装localStorge操作
2021-05-14 [PHP] 重要操作手机短信验证逻辑梳理