deepseek 本地搭建 知识库 使用gpu cpu
绕坑之道:没有高配的电脑,本地搭建毫无意义,又卡又慢,不如用网上免费的,实际上你可以直接跳到搭建知识库去看。
本地模型搭建
因为本地跑模型太慢,此处我就写的很简单了,本文主要以搭建本地知识库为主。
下载安装LM Studio
- LM Studio 主要功能是下载、运行大模型。主要,要FQ使用
去官网地址下载安装即可: https://lmstudio.ai/
搭建本地知识库
大模型要么用API访问,要么下载个UI工具访问对把?
Cherry Studio 这个UI工具还不错,可以创建本地知识库,也可以将网站地址作为知识库
以下以线上免费模型配置为准,我用的是硅基流动的线上模型
先去注册个账号
https://cloud.siliconflow.cn/i/kbTmRYDa
下载Cherry Studio
安装好,进入设置页面,选择硅基流动
可以在硅基流动的后台里面新建API密钥,简单的一批,AI进入千家万户
模型,bge-m3这个模型是搭建知识库必选的
LLM大模型要用哪个 可以在下面的《管理》按钮中添加即可
知识库创建要选嵌入模型bge-m3
创建对话,然后对话框下面要选择你刚才创建的知识库,然后开始问答吧
Rust编程语言群 1036955113
java新手自学群 626070845
java/springboot/hadoop/JVM 群 4915800
Hadoop/mongodb(搭建/开发/运维)Q群481975850
GOLang Q1群:6848027
GOLang Q2群:450509103
GOLang Q3群:436173132
GOLang Q4群:141984758
GOLang Q5群:215535604
C/C++/QT群 1414577
单片机嵌入式/电子电路入门群群 306312845
MUD/LIB/交流群 391486684
Electron/koa/Nodejs/express 214737701
大前端群vue/js/ts 165150391
操作系统研发群:15375777
汇编/辅助/破解新手群:755783453
大数据 elasticsearch 群 481975850
本文版权归作者和博客园共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接,否则保留追究法律责任的权利。
java新手自学群 626070845
java/springboot/hadoop/JVM 群 4915800
Hadoop/mongodb(搭建/开发/运维)Q群481975850
GOLang Q1群:6848027
GOLang Q2群:450509103
GOLang Q3群:436173132
GOLang Q4群:141984758
GOLang Q5群:215535604
C/C++/QT群 1414577
单片机嵌入式/电子电路入门群群 306312845
MUD/LIB/交流群 391486684
Electron/koa/Nodejs/express 214737701
大前端群vue/js/ts 165150391
操作系统研发群:15375777
汇编/辅助/破解新手群:755783453
大数据 elasticsearch 群 481975850
本文版权归作者和博客园共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接,否则保留追究法律责任的权利。
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 阿里最新开源QwQ-32B,效果媲美deepseek-r1满血版,部署成本又又又降低了!
· SQL Server 2025 AI相关能力初探
· AI编程工具终极对决:字节Trae VS Cursor,谁才是开发者新宠?
· 开源Multi-agent AI智能体框架aevatar.ai,欢迎大家贡献代码
· Manus重磅发布:全球首款通用AI代理技术深度解析与实战指南
2021-02-12 文明5 提高间谍数量 间谍代码