摘要:
基于SWIFT和Qwen1.5-14B-Chat进行大模型LoRA微调测试 环境准备 基础环境 操作系统:Ubuntu 18.04.5 LTS (GNU/Linux 3.10.0-1127.el7.x86_64 x86_64) Anaconda3:Anaconda3-2023.03-1-Linux- 阅读全文
摘要:
RAG实战3-如何追踪哪些文档片段被用于检索增强生成 本文是RAG实战2-如何使用LlamaIndex存储和读取embedding向量的续集,在阅读本文之前请先阅读前篇。 在前篇中,我们介绍了如何使用LlamaIndex存储和读取embedding向量。在本文中,我们将介绍在LlamaIndex中如 阅读全文
摘要:
RAG实战2-如何使用LlamaIndex存储和读取embedding向量 本文是检索增强生成(Retrieval-augmented Generation,RAG)实战1-基于LlamaIndex构建第一个RAG应用的续集,在阅读本文之前请先阅读前篇。 在前篇中,我们介绍了如何使用LlamaInd 阅读全文
摘要:
基于SWIFT和Qwen1.5-14B-Chat进行大模型全参微调测试 环境准备 基础环境 操作系统:Ubuntu 18.04.5 LTS (GNU/Linux 3.10.0-1127.el7.x86_64 x86_64) Anaconda3:Anaconda3-2023.03-1-Linux-x8 阅读全文
摘要:
使用gradio启动web-ui时出现cannot import name 'RootModel' from 'pydantic' 出现该报错的原因:pydantic版本与gradio版本不对应。 例:我使用的pydantic版本为1.10.14,报错时gradio的版本是最新版4.19.2。 找到 阅读全文
摘要:
检索增强生成(Retrieval-augmented Generation,RAG)实战1-基于LlamaIndex构建第一个RAG应用 本文将介绍如何使用LlamaIndex构建一个非常简单的RAG应用。通过该案例,可以初步了解LlamaIndex构建RAG应用的大体流程。 环境准备 安装Llam 阅读全文
摘要:
Ubuntu服务器使用apt-get安装包时出现E: Unable to locate package解决方法 首先根据网络情况换源: cat > /etc/apt/sources.list << "EOF" deb https://mirrors.shanhe.com/ubuntu/ bionic 阅读全文
摘要:
搭建一个大模型API服务 本文将介绍如何使用SWIFT框架搭建一个大模型API服务,以方便后续做RAG、Agent的开发工作。 环境准备 基础环境 操作系统:Ubuntu 18.04.5 LTS (GNU/Linux 3.10.0-1127.el7.x86_64 x86_64) Anaconda3: 阅读全文
摘要:
记录一下如果用Git创建一个本地仓库,在github上创建一个远程仓库,然后让这两个仓库进行远程同步。 创建本地版本库(repository) 首先找到一个合适的位置,在gitbash中执行 $ mkdir CodeRepository $ cd CodeRepository $ pwd /d/Co 阅读全文
摘要:
# 如何使用Git LFS下载大模型权重 大语言模型的权重文件通常比较大,直接从浏览器中下载的话不太方便。我们可以使用Git LFS获得更好的下载体验。Git LFS(大文件存储)是Git的一个扩展,允许我们更高效地处理大文件。 ## 安装 ```bash git lfs install ``` 或 阅读全文