deepseek 本地搭建 知识库 使用gpu cpu

绕坑之道:没有高配的电脑,本地搭建毫无意义,又卡又慢,不如用网上免费的,实际上你可以直接跳到搭建知识库去看。

本地模型搭建

因为本地跑模型太慢,此处我就写的很简单了,本文主要以搭建本地知识库为主。

下载安装LM Studio

  • LM Studio 主要功能是下载、运行大模型。主要,要FQ使用

去官网地址下载安装即可: https://lmstudio.ai/

搭建本地知识库

大模型要么用API访问,要么下载个UI工具访问对把?
Cherry Studio 这个UI工具还不错,可以创建本地知识库,也可以将网站地址作为知识库

以下以线上免费模型配置为准,我用的是硅基流动的线上模型

先去注册个账号

https://cloud.siliconflow.cn/i/kbTmRYDa

下载Cherry Studio

https://www.cherry-ai.com/

安装好,进入设置页面,选择硅基流动

image

可以在硅基流动的后台里面新建API密钥,简单的一批,AI进入千家万户

模型,bge-m3这个模型是搭建知识库必选的

image
LLM大模型要用哪个 可以在下面的《管理》按钮中添加即可

知识库创建要选嵌入模型bge-m3

image
image

创建对话,然后对话框下面要选择你刚才创建的知识库,然后开始问答吧

image

posted @   方东信  阅读(394)  评论(0编辑  收藏  举报
相关博文:
阅读排行:
· 阿里最新开源QwQ-32B,效果媲美deepseek-r1满血版,部署成本又又又降低了!
· SQL Server 2025 AI相关能力初探
· AI编程工具终极对决:字节Trae VS Cursor,谁才是开发者新宠?
· 开源Multi-agent AI智能体框架aevatar.ai,欢迎大家贡献代码
· Manus重磅发布:全球首款通用AI代理技术深度解析与实战指南
历史上的今天:
2021-02-12 文明5 提高间谍数量 间谍代码
点击右上角即可分享
微信分享提示