精讲AI教程: 免费使用Flowise搭建LLM工作流应用
大家好,我是斜杠君。今天,和大家分享一个低代码/无代码拖放工具——Flowise,可以让你轻松可视化和构建 LLM 应用程序。
什么是 Flowise?
官方定义:Flowise 是一种低代码/无代码拖放工具,旨在让人们轻松可视化和构建 LLM 应用程序。
斜杠君解释:就是把各模块拖拽组合在一起,组成了一个流程(像链条一样)的形式,来完成一个功能。
文档和源码地址放到文章结尾,大家自行领取。
什么是Chatflow?
如上面斜杆君解释的,拖拽组成的这个流程就是一个Chatflow。
创建一个Chatflow
例如,我们要创建这个Chatflow的作用是:上传一个PDF,作为大模型的知识库,我们希望得到的回答都是来自这个PDF。
点击按钮创建。
点击按钮为这个Chatflow起一个名。
我们给这个应用起名为PDF 总结大师。
点击这个按钮,为这个Chatflow添加一个节点。注:Chatflow中,每个拖拽的模块就是一个节点。
因为我们要解析PDF,所以首先我们要有一个PDF解析器。搜索PDF:
把这个节点拖拽到面板上。这里请注意:下面图中,红色方块圈的点表示需要有一个输入的节点。也就是意味着这个PDF节点左侧应该有一个节点用来提供一个输出和这个PDF的输入节点进行连接。
通过箭头的指向,我们可以看到,这个节点是一个Text Splitter,从字面的意思理解,就是把一个文档进行分割,以便大模型可以更好的检索。
接着在左侧的节点列表搜索“Text Splitter”,可以看到搜索出了多个Text Splitter,但每个的作用都不一样。Code Text Splitter表示用来分割代码。我们这里选择第一个,对文章进行分割用换行就可以。
把这两个节点进行连接
到这里要注意了,我们要说一个重要的原理知识:大模型在检索数据的时候,不是像我们想像的可能通过一个关键词到一个文章里去进行精确或模糊匹配,找到结果后返回。实际情况是:大模型要先把关键字转换成向量。然后再到向量数据库中去搜索结果,再把检索的结果转换成文章内容输出。所以这里有个概念是向量数据库,也就是我们要用一个向量数据库去存储PDF的内容。但只有PDF还不行,我们还要先把PDF转成向量才行,所以还有有一个转PDF的工具。到这里我们知道了,至少还要有需要两个节点。一个是把PDF转成向量的节点,一个是存储PDF向量的数据库。
在左侧节点列表搜索“Vector Stores”,可以看到向量数据库有很多。因为这里我们是测试,数据量不大,我们就用内存存储就好了。
和刚才重点解释的内容一样。这个向量数据库有两个输入节点。一个Document(PDF文档)和Embeddings(把PDF转换成向量的工具)。Document节点我们已经有了,那我们还缺少一个Embeddings节点,我们在节点列表中搜索一下。
这里我们使用OpenAI Embeddings,这里就需要你要准备一个具有Embedding权限的OpenAI的KEY。当然你也可以选择列表中其它的Embedding选项。
到目前为止,我们的流程是这样的:
根据最开始,我们制定的这个应用的是作用是:上传一个PDF,作为大模型的知识库。我们希望我们提的问题都是来自这个PDF。结合上图,我们现在向量数据库有了,接下来就是把向量数据库的数据转换为回答传递给用户。那么现在确少的就是一个用户提问的节点和一个把向量数据库中的数据转换为回答的节点。
我们在节点列表里搜索"Retrieval",选择Retrieval QA Chain。把这个拖拽到面板。这个翻译过来是”基于检索到的文档回答问题的QA链“。
绿色框是两个必填节点。一个是大语言模型节点。一个是向量数据库节点。我们现在还少一个Language Model。
在节点列表里搜索LLM(Large Language Model缩写)。大语言模型有很多。这里我们选择OpenAI,拖拽到面板。
整体看一下所有的节点和流程,斜杠君为每个节点做了详细的标注。
下面来测试一下应用
第一条测试:
第二条测试:
通过大模型返回的内容,可以看到,这个Chatflow能很好总结PDF内容,并检索PDF中的内容,组织成通顺的语言返回给用户。
Flowise官网:https://flowiseai.com/
Flowise文档:
https://docs.flowiseai.com/
Flowise源码地址:
https://github.com/FlowiseAI/Flowise
好了,这就是斜杠君为大家总结的详细的Flowise使用教程。大家按这个教程操作就可以上手使用Flowise了。如果有任何问题,请给我留言交流,谢谢。
🧙♂️ 诸位好,我是斜杠君。全栈技术,AI工作流技术研究者。分享探索AI技术等干货内容。如果您有个关于AI工作流的特别需求问题,也可以通过 知识星球 向我提问。
👑 阁下若觉此文有益,恳请👍🏻-点赞 ⭐ - 收藏 👀 - 关注,以资鼓励。倘若有疑问或建言,亦请在评论区💬评论 赐教,吾将感激不尽。
欢迎关注我的公众号
大家好,我是斜杠君。免费学习我的教程《AI应用开发系列教程之扣子实战教程》,也可以进群一起讨论扣子问题。