基于SiliconCloud快速体验GraphRag.Net

SiliconCloud介绍

SiliconCloud 基于优秀的开源基础模型,提供高性价比的 GenAI 服务。

不同于多数大模型云服务平台只提供自家大模型 API,SiliconCloud上架了包括 Qwen、DeepSeek、GLM、Yi、Mistral、LLaMA 3、SDXL、InstantID 在内的多种开源大语言模型及图片生成模型,用户可自由切换适合不同应用场景的模型。

更重要的是,SiliconCloud 提供开箱即用的大模型推理加速服务,为您的 GenAI 应用带来更高效的用户体验。

对开发者来说,通过 SiliconCloud 即可一键接入顶级开源大模型。拥有更好应用开发速度和体验的同时,显著降低应用开发的试错成本。

官网地址:https://siliconflow.cn/zh-cn/siliconcloud

image-20240808145507737

GraphRag.Net介绍

微软此前开源了graphrag代码,项目地址:https://github.com/microsoft/graphrag。

image-20240808145851224

GraphRag.Net是国内一位大佬参考GraphRag使用 Semantic Kernel 来实现的dotnet版本。

项目地址:https://github.com/AIDotNet/GraphRag.Net

不要忘了给大佬一个Star哦!

image-20240808150152462

对于想要学习GraphRag的同学,可以结合这两个项目一起学习。

快速体验GraphRag

git clone到本地,根据README的指引,进行配置:

image-20240808150425012

这里我使用的是硅基流动提供的API:

image-20240808150648647

硅基流动不仅提供了对话模型还提供了嵌入模型,并且还兼容了OpenAI的格式,因此接入GraphRag.Net非常方便。这里对话模型使用的是Qwen/Qwen2-72B-Instruct,嵌入模型使用的是BAAI/bge-large-zh-v1.5。

启动GraphRag.Net项目,输入http://localhost:5000/进入GraphRag.Net页面:

image-20240808151110497

准备了一篇关于嫦娥奔月的故事的txt文本,查看控制台:

image-20240808151451284

在生成知识图谱中了,等待生成完成。

生成好知识图谱之后,查看知识图谱:

image-20240808152253821

image-20240808152354247

查看数据库中存了什么。

向量数据库使用的是SQLite,里面存了一些向量数据:

image-20240808154209620

查看业务数据库中的节点表:

image-20240808154306013

查看边界表:

image-20240808154337113

可能因为文本不是很多,其他表中没有信息。

然后就可以根据知识图谱进行Rag了。

问一个问题,比如“嫦娥送什么礼物给天帝?”:

image-20240808174146938

image-20240808174332279

回答正确。

如果体验之后,确实对GraphRag感兴趣,可以深入研究一下GraphRag的原理,两个项目结合起来看一看。

posted @ 2024-08-08 19:19  mingupupup  阅读(353)  评论(0编辑  收藏  举报