摘要:
最近阿里开源了通用大模型qwen-72b,正在为怎么本地化部署发愁,转眼看到提供了qwen-max相关接口的免费试用(据说就是基于qwen-72b大模型),这就来体验一番。 1.前期准备 开通阿里云灵积平台,并创建api-key 2.环境搭建 python:3.10+; pydantic 2.0以上 阅读全文
摘要:
在上一篇文章当中,我们已经通过Langchain-Chatchat+Qwen-14b-int4完成了本地知识库的搭建,现在我们通过vue和api接口来做定制的聊天页面,达成下图类似gpt或者其他大模型的显示效果: 1.知识库启动: 见上一篇文章 2.api接口部署: 在/Langchain-Chat 阅读全文
摘要:
1.基础介绍 Langchain-Chatchat一种利用 langchain 思想实现的基于本地知识库的问答应用,目标期望建立一套对中文场景与开源模型支持友好、可离线运行的知识库问答解决方案。大致过程包括加载文件 -> 读取文本 -> 文本分割 -> 文本向量化 -> 问句向量化 -> 在文本向量 阅读全文
摘要:
十月底智谱开源了chatglm3,果断来尝试一下。 1.ChatGLM3 亮点 ChatGLM3 是智谱AI和清华大学 KEG 实验室联合发布的新一代对话预训练模型。ChatGLM3-6B 是 ChatGLM3 系列中的开源模型,在保留了前两代模型对话流畅、部署门槛低等众多优秀特性的基础上,Chat 阅读全文
摘要:
领导提了一个需求,有没有办法把3-5分钟音频转成文字,用来判断这个音频包含的预期关键词覆盖率,我一寻思这不简单,很多公司提供相关的服务,花钱就行了。领导又说,开源的有吗,有的话能做到什么程度呢。那还是调研一番吧。 1.科大讯飞: 使用语音转写api进行测试,一段五分钟的纯中文音频转写大概要30秒左右 阅读全文
摘要:
要实现这么一个需求,预设一个评分标准,然后根据用户的行为或者一段描述进行打分,很自然的想到了这几年很火的NLP,调研了一番做个记录。 1.方案选择 python上有很多很成熟的库来实现,本次选用SentenceTransformers。 2.环境搭建 安装python:太新的版本可能造成各种库不兼容 阅读全文
摘要:
要实现一个小程序页面转图片的需求,类似于用户编辑了一些内容,上传了一些头像,然后生成几十张图片,供用户下载转发及生成pdf等等,实验了以下方案: 1.wxml2canvas 微信提供的解决方案,写起来很麻烦,页面样式还有好多不支持,pass 2.webview+html2canvas 在小程序里通过 阅读全文