12 2023 档案

不需要本地部署大模型，modelscope-agent加qwen-max免费搭建自己的定制机器人
摘要：最近阿里开源了通用大模型qwen-72b,正在为怎么本地化部署发愁，转眼看到提供了qwen-max相关接口的免费试用（据说就是基于qwen-72b大模型)，这就来体验一番。 1.前期准备 开通阿里云灵积平台，并创建api-key 2.环境搭建 python:3.10+； pydantic 2.0以上 阅读全文
posted @ 2023-12-28 15:27 HaruSuzumiya 阅读(425) 评论(0) 推荐(0) 编辑
Langchain-Chatchat+Qwen实现本地知识库（二）
摘要：在上一篇文章当中，我们已经通过Langchain-Chatchat+Qwen-14b-int4完成了本地知识库的搭建，现在我们通过vue和api接口来做定制的聊天页面，达成下图类似gpt或者其他大模型的显示效果： 1.知识库启动： 见上一篇文章 2.api接口部署： 在/Langchain-Chat 阅读全文
posted @ 2023-12-27 14:34 HaruSuzumiya 阅读(1319) 评论(0) 推荐(0) 编辑
Langchain-Chatchat+Qwen实现本地知识库
摘要：1.基础介绍 Langchain-Chatchat一种利用 langchain 思想实现的基于本地知识库的问答应用，目标期望建立一套对中文场景与开源模型支持友好、可离线运行的知识库问答解决方案。大致过程包括加载文件 -> 读取文本 -> 文本分割 -> 文本向量化 -> 问句向量化 -> 在文本向量 阅读全文
posted @ 2023-12-05 14:20 HaruSuzumiya 阅读(4626) 评论(0) 推荐(0) 编辑

点击右上角即可分享
微信分享提示