会员
周边
众包
新闻
博问
闪存
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
点-线-面-体
博客园
首页
新随笔
联系
订阅
管理
随笔 - 17
文章 - 0
评论 - 9
阅读 -
15493
2024年3月8日
本地部署FastGPT使用在线大语言模型
摘要:
FastGPT 是一个基于 LLM 大语言模型的知识库问答系统,提供开箱即用的数据处理、模型调用等能力,它背后依赖OneApi开源项目来访问各种大语言模型提供的能力。各大语言模型提供的访问接口规范不尽相同,为此OneApi项目提供了统一的API接口去对接各种大语言模型。FastGPT的部署架构如图所
阅读全文
posted @ 2024-03-08 09:51 景少
阅读(4503)
评论(2)
推荐(4)
编辑
公告
昵称:
景少
园龄:
2年10个月
粉丝:
7
关注:
4
+加关注
<
2025年2月
>
日
一
二
三
四
五
六
26
27
28
29
30
31
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
1
2
3
4
5
6
7
8
搜索
常用链接
我的随笔
我的评论
我的参与
最新评论
我的标签
我的标签
CPU原子性指令
(2)
CPU原语
(2)
write-through
(1)
write-back
(1)
OneApi
(1)
MESI
(1)
gitlab runner
(1)
gitlab
(1)
FastGPT
(1)
CPU缓存一致性
(1)
更多
随笔分类
DevOps(1)
k8s(8)
大语言模型(1)
聊聊计算机(1)
随笔档案
2024年10月(1)
2024年5月(1)
2024年3月(1)
2022年9月(4)
2022年5月(1)
2022年4月(9)
阅读排行榜
1. 本地部署FastGPT使用在线大语言模型(4503)
2. k8s入门之Ingress(七)(1764)
3. 通过Docker Compose部署GitLab和GitLab Runner(一)(1244)
4. 并发原理 — CPU原子性指令(一)(1037)
5. k8s入门之Deployment(五)(812)
评论排行榜
1. 使用Radzen Blazor组件库开发的基于ABP框架炫酷UI主题(6)
2. 本地部署FastGPT使用在线大语言模型(2)
3. k8s入门之Ingress(七)(1)
推荐排行榜
1. 使用Radzen Blazor组件库开发的基于ABP框架炫酷UI主题(5)
2. 本地部署FastGPT使用在线大语言模型(4)
3. 并发原理 — CPU原子性指令(一)(4)
4. 通过Docker Compose部署GitLab和GitLab Runner(一)(1)
5. 并发原理—如何保证多条指令的原子性(二)(1)
最新评论
1. Re:使用Radzen Blazor组件库开发的基于ABP框架炫酷UI主题
赞
--WebAssembly
2. Re:使用Radzen Blazor组件库开发的基于ABP框架炫酷UI主题
@阿新 MudBlazor也不错...
--景少
3. Re:使用Radzen Blazor组件库开发的基于ABP框架炫酷UI主题
@James-yu 还不支持,已经在计划中...
--景少
4. Re:使用Radzen Blazor组件库开发的基于ABP框架炫酷UI主题
@变形精怪 好看 怎么样...
--阿新
5. Re:使用Radzen Blazor组件库开发的基于ABP框架炫酷UI主题
好看
--变形精怪
点击右上角即可分享