RAG实战3-如何追踪哪些文档片段被用于检索增强生成 本文是RAG实战2-如何使用LlamaIndex存储和读取embedding向量的续集，在阅读本文之前请先阅读前篇。 在前篇中，我们介绍了如何使用LlamaIndex存储和读取embedding向量。在本文中，我们将介绍在LlamaIndex中如 ...

LLAMA介绍 LLaMA是由Facebook的母公司Meta AI设计的一个新的大型语言模型。LLaMA拥有70亿到650亿个参数的模型集合，是目前最全面的语言模型之一。 Llama是目前唯一一个可以进行本地部署和本地训练的大型模型，对各种提问有非常好的处理能力。非常适合个人和中小型企业，构建自己 ...

RAG实战2-如何使用LlamaIndex存储和读取embedding向量 本文是检索增强生成(Retrieval-augmented Generation,RAG)实战1-基于LlamaIndex构建第一个RAG应用的续集，在阅读本文之前请先阅读前篇。 在前篇中，我们介绍了如何使用LlamaInd ...

基于SWIFT和Qwen1.5-14B-Chat进行大模型全参微调测试 环境准备 基础环境 操作系统：Ubuntu 18.04.5 LTS (GNU/Linux 3.10.0-1127.el7.x86_64 x86_64) Anaconda3：Anaconda3-2023.03-1-Linux-x8 ...

为了实现大模型的高效训练和推理，混合专家模型MoE便横空出世。 大模型发展即将进入下一阶段但目前仍面临众多难题。为满足与日俱增的实际需求，大模型参数会越来越大，数据集类型越来越多，从而导致训练难度大增，同时也提高了推理成本。为了实现大模型的高效训练和推理，混合专家模型MoE便横空出世。 MoE结构的 ...

检索增强生成(Retrieval-augmented Generation,RAG)实战1-基于LlamaIndex构建第一个RAG应用 本文将介绍如何使用LlamaIndex构建一个非常简单的RAG应用。通过该案例，可以初步了解LlamaIndex构建RAG应用的大体流程。 环境准备 安装Llam ...

搭建一个大模型API服务 本文将介绍如何使用SWIFT框架搭建一个大模型API服务，以方便后续做RAG、Agent的开发工作。 环境准备 基础环境 操作系统：Ubuntu 18.04.5 LTS (GNU/Linux 3.10.0-1127.el7.x86_64 x86_64) Anaconda3： ...

大家好，我是 Java陈序员。 可以说，现在网购已经完全融入到了我们的日常生活中。小到一根笔，大到一件衣服都能在网上买！ 但是，我们在网上买衣服时，经常会因为衣服不合身而需要退换，这需要花费一定的成本。 今天，给大家介绍一款高度可控的虚拟服装试穿工具，可以让你在线体验衣服试穿的效果。 关注微信公众号 ...

目前流行的开源大语言模型大抵都会有内容审查机制，这并非是新鲜事，因为之前chat-gpt就曾经被“玩”坏过，如果没有内容审查，恶意用户可能通过精心设计的输入（prompt）来操纵LLM执行不当行为。内容审查可以帮助识别和过滤这些潜在的攻击，确保LLM按照既定的安全策略和道德标准运行。 但我们今天讨论 ...

原作：马可·兰波尼 引言：在生成式人工智能领域，关注的焦点一直放在语言和图像上，但近期在音频领域也取得了许多进展。本文将为您介绍有关生成式音频模型的一切知识。 在过去的十年中，我们见证了人工智能驱动的音频生成技术取得了显著进步，包括音乐和语音合成。然而，直到最近，这些改进仍远远落后于图像和文本生成方 ...

微调 在深度学习和自然语言处理（NLP）领域，大规模语言模型如BERT、GPT-3等通过在大量数据上进行预训练获得了强大的语言理解和生成能力。这些预训练模型通常需要进行微调（Fine-tuning），以便在特定的下游任务上表现更好。微调可以采取不同的形式，包括full、LoRA和Q-LoRA。 Fu ...

**SDXL-Lightning** 是一个由 ByteDance 开发的**文本到图像**的生成模型，其主要贡献在于其**高速**的生成能力和**轻量化**的设计。 这样一种又小又快的模型，又会带来哪些巨大的变革呢 【封面由模型生成 ...

Gemini、QWEN-VL、Yi-VL等模型都是多模态大模型，其中Gemini是闭源的，Pro 和 Max 版本需要微调；QWEN-VL是开源的，Pro 和 Max 版本需要微调，下一步测试效果；ChatGLM有Vision版本，但GLM4已经闭源；GPT4-Vision-Preview版本图片理... ...

近日，AAAI 2024 Global Competition on Math Problem Solving and Reasoning大赛落下帷幕，天翼云智能边缘事业部AI团队凭借在大模型基础能力研究领域的数据处理与模型训练策略的领先优势，在众多参赛队伍中脱颖而出，荣获本次竞赛冠军。 ...

概要 开源大型语言模型 (LLMs) 现已达到一种性能水平，使它们适合作为推动智能体工作流的推理引擎: Mixtral 甚至在我们的基准测试中 超过了 GPT-3.5，并且通过微调，其性能可以轻易的得到进一步增强。 引言 针对 因果语言建模 训练的大型语言模型 (LLMs) 可以处理广泛的任务，但它 ...

这几章我们会针对经典RLHF算法存在的不稳定，成本高，效率低等问题聊聊新方案。第一章我们先说RLHF训练策略相关的方案，包括SLiC-HF，DPO，RRHF和RSO，他们之间有很多相似之处~ ...

原作： 塞缪尔·弗兰德 引言：为最强大的语言模型铺平道路的核心技术 使用 Dall-E 生成的图像 稀疏混合专家模型 (MoE) 已成为最新一代 LLMs 的核心技术，例如 OpenAI 的 GPT-4、Mistral AI 的 Mixtral-8x7 等。简而言之，稀疏MoE是一种非常强大的技术， ...

原作：本·乌兰西 引子：绘画中减色混合的原理 照片由 Unsplash 上的 Lucas K 拍摄 当我还是个孩子的时候，我坐在一个有各种颜色的调色板前，努力尝试混合尽可能多的颜色。怀着兴奋的眼神，我看着鲜艳的颜色在画面上融合。随着越来越多的颜色相互融合，我困惑地盯着由此产生的聚合体。我添加的颜色越 ...

随着人工智能技术的飞速发展，聊天机器人成为了一个热门的研究领域。清华大学研发的ChatGLM3模型，作为其中的佼佼者，为开发者提供了强大的自然语言处理能力。本文将指导您如何在本地搭建ChatGLM3模型，实现离线AI聊天功能。 一、前置准备 在开始搭建之前，您需要准备以下物品： 一台性能良好的计算机 ...

原作：伊格纳西奥·德格雷戈里奥 引言：文本到视频的新境界 著名商学教授斯科特·加洛韦 (Scott Galloway) 打赌，2024 年将是谷歌的人工智能年。 现在看起来似乎正在成为现实。 今天，谷歌推出了 Lumiere，这是文本到视频领域的巨大突破，是当今生成人工智能中最艰巨的任务之一。而且就 ...