随笔分类 -  Hugging Face 博客

摘要:摘要 评估和比较大语言模型 (LLMs) 是一项艰巨的任务。我们 RLHF 团队在一年前就意识到了这一点,当时他们试图复现和比较多个已发布模型的结果。这几乎是不可能完成的任务:论文或营销发布中的得分缺乏可复现的代码,有时令人怀疑,大多数情况下只是通过优化的提示或评估设置来尽量提升模型表现。因此,他们 阅读全文
posted @ 2024-06-27 10:46 HuggingFace 阅读(2178) 评论(0) 推荐(2) 编辑
摘要:英特尔 Gaudi 加速辅助生成随着模型规模的增长,生成式人工智能的实现需要大量的推理资源。这不仅增加了每次生成的成本,而且还增加了用于满足此类请求的功耗。因此,文本生成的推理优化对于降低延迟、基础设施成本以及功耗都至关重要,其可以改善用户体验并提高文本生成任务的效率。 辅助解码是一种用于加速文本生成的流行方法。我们在英特尔 Ga 阅读全文
posted @ 2024-06-26 16:38 HuggingFace 阅读(215) 评论(0) 推荐(0) 编辑
摘要:本文主要探讨 TGI 的小兄弟 - TGI 基准测试工具。它能帮助我们超越简单的吞吐量指标,对 TGI 进行更全面的性能剖析,以更好地了解如何根据实际需求对服务进行调优并按需作出最佳的权衡及决策。如果你曾觉得 LLM 服务部署成本太高,或者你想对部署进行调优,那么本文很适合你! 我将向大家展示如何轻 阅读全文
posted @ 2024-06-25 17:09 HuggingFace 阅读(232) 评论(0) 推荐(0) 编辑
摘要:我们很高兴在 TRL 中介绍 RLOO (REINFORCE Leave One-Out) 训练器。作为一种替代 PPO 的方法,RLOO 是一种新的在线 RLHF 训练算法,旨在使其更易于访问和实施。特别是, RLOO 需要的 GPU 内存更少,并且达到收敛所需的挂钟时间也更短。如下面的图表所示: 阅读全文
posted @ 2024-06-19 22:52 HuggingFace 阅读(262) 评论(0) 推荐(1) 编辑
摘要:欢迎 Stable Diffusion 3 加入 🧨 Diffusers作为 Stability AI 的 Stable Diffusion 家族最新的模型,Stable Diffusion 3 (SD3) 现已登陆 Hugging Face Hub,并且可用在 🧨 Diffusers 中使用了。 当前放出的模型版本是 Stable Diffusion 3 Mediu 阅读全文
posted @ 2024-06-17 22:35 HuggingFace 阅读(2601) 评论(0) 推荐(3) 编辑
摘要:很高兴和大家分享 Hugging Face 的一项新功能: KV 缓存量化 ,它能够把你的语言模型的速度提升到一个新水平。 太长不看版: KV 缓存量化可在最小化对生成质量的影响的条件下,减少 LLM 在长文本生成场景下的内存使用量,从而在内存效率和生成速度之间提供可定制的权衡。 你是否曾尝试过用语 阅读全文
posted @ 2024-06-12 18:23 HuggingFace 阅读(834) 评论(0) 推荐(1) 编辑
摘要:用 Sentence Transformers v3 训练和微调嵌入模型Sentence Transformers 是一个 Python 库,用于使用和训练各种应用的嵌入模型,例如检索增强生成 (RAG)、语义搜索、语义文本相似度、释义挖掘 (paraphrase mining) 等等。其 3.0 版本的更新是该工程自创建以来最大的一次,引入了一种新的训练方法。在这篇博 阅读全文
posted @ 2024-06-07 17:38 HuggingFace 阅读(1567) 评论(0) 推荐(0) 编辑
摘要:使用 Hugging Face 推理终端搭建强大的“语音识别 + 说话人分割 + 投机解码”工作流Whisper 是当前最先进的开源语音识别模型之一,毫无疑问,也是应用最广泛的模型。如果你想部署 Whisper 模型,Hugging Face 推理终端 能够让你开箱即用地轻松部署任何 Whisper 模型。但是,如果你还想叠加其它功能,如用于分辨不同说话人的说话人分割,或用于投机解码的辅助生成, 阅读全文
posted @ 2024-06-06 11:25 HuggingFace 阅读(992) 评论(0) 推荐(2) 编辑
摘要:我们很高兴官宣发布 langchain_huggingface ,这是一个由 Hugging Face 和 LangChain 共同维护的 LangChain 合作伙伴包。这个新的 Python 包旨在将 Hugging Face 最新功能引入 LangChain 并保持同步。 源自社区,服务社区 阅读全文
posted @ 2024-05-29 20:46 HuggingFace 阅读(604) 评论(0) 推荐(0) 编辑
摘要:简要概述 我们推出了 Transformers 智能体 2.0! ⇒ 🎁 在现有智能体类型的基础上,我们新增了两种能够 根据历史观察解决复杂任务的智能体。 ⇒ 💡 我们致力于让代码 清晰、模块化,并确保最终提示和工具等通用属性透明化。 ⇒ 🤝 我们加入了 分享功能,以促进社区智能体的发展。 ⇒ 阅读全文
posted @ 2024-05-27 23:04 HuggingFace 阅读(570) 评论(0) 推荐(0) 编辑
摘要:检索增强生成 (Retrieval Augmented Generation,RAG) 可将存储在外部数据库中的新鲜领域知识纳入大语言模型以增强其文本生成能力。其提供了一种将公司数据与训练期间语言模型学到的知识分开的方式,有助于我们在性能、准确性及安全隐私之间进行有效折衷。 通过本文,你将了解到英特 阅读全文
posted @ 2024-05-24 20:18 HuggingFace 阅读(306) 评论(0) 推荐(0) 编辑
摘要:在人工智能技术领域,GPU 资源一直是推动研究和应用的关键因素。然而,GPU 的成本和可用性对于许多研究人员和开发者来说却是一个显著的障碍。 在 Hugging Face,我们希望人工智能技术可以更加普惠化,更多开发者可以参与其中共同探索,在人工智能技术浪潮中创造出让更多人受益的产品。 为此,我们计 阅读全文
posted @ 2024-05-21 10:58 HuggingFace 阅读(876) 评论(0) 推荐(0) 编辑
摘要:PaliGemma 正式发布 — Google 最新发布的前沿开放视觉语言模型PaliGemma 是 Google 推出的新一代视觉语言模型家族,能够接收图像与文本输入并生成文本输出。 Google 团队已推出三种类型的模型:预训练(PT)模型、混合模型和微调(FT)模型,这些模型分辨率各异,提供多种精度以便使用。 所有模型均在 Hugging Face Hub 的模型库中发 阅读全文
posted @ 2024-05-18 11:04 HuggingFace 阅读(1385) 评论(0) 推荐(1) 编辑
摘要:我们很高兴在此发布 Idefics2,这是一个通用的多模态模型,接受任意文本序列和图像序列作为输入,并据此生成文本。它可用于回答图像相关的问题、描述视觉内容、基于多幅图像创作故事、从文档中提取信息以及执行基本的算术运算。 Idefics2 由 Idefics1 改进而得,其参数量为 8B,具有开放许 阅读全文
posted @ 2024-05-15 23:14 HuggingFace 阅读(523) 评论(0) 推荐(1) 编辑
摘要:我们很高兴地宣布,我们正在与 Wiz 合作,目标是提高我们平台和整个 AI/ML 生态系统的安全性。 Wiz 研究人员 与 Hugging Face 就我们平台的安全性进行合作并分享了他们的发现。 Wiz 是一家云安全公司,帮助客户以安全的方式构建和维护软件。 随着这项研究的发布,我们将借此机会重点 阅读全文
posted @ 2024-05-14 21:39 HuggingFace 阅读(177) 评论(0) 推荐(1) 编辑
摘要:介绍 我们很高兴分享“万事通”(Jack of All Trades,简称 JAT) 项目,该项目旨在朝着通用智能体的方向发展。该项目最初是作为对 Gato (Reed 等,2022 年) 工作的公开复现启动的,Gato 提出训练一种能够执行视觉与语言以及决策任务的 Transformer。于是我们 阅读全文
posted @ 2024-05-13 22:57 HuggingFace 阅读(314) 评论(0) 推荐(1) 编辑
摘要:StarCoder2-Instruct: 完全透明和可自我对齐的代码生成指令微调 是一种技术,它能让大语言模型 (LLMs) 更好地理解和遵循人类的指令。但是,在编程任务中,大多数模型的微调都是基于人类编写的指令 (这需要很高的成本) 或者是由大型专有 LLMs 生成的指令 (可能不允许使用)。 我们推出了一个叫做 StarCoder2-15B-Instruct-v0. 阅读全文
posted @ 2024-05-11 09:01 HuggingFace 阅读(301) 评论(0) 推荐(0) 编辑
摘要:Ryght 在 Hugging Face 专家助力下赋能医疗保健和生命科学之旅本文是 Ryght 团队的客座博文。 Ryght 是何方神圣? Ryght 的使命是构建一个专为医疗保健和生命科学领域量身定制的企业级生成式人工智能平台。最近,公司正式公开了 Ryght 预览版 平台。 当前,生命科学公司不断地从各种不同来源 (实验室数据、电子病历、基因组学、保险索赔、药学、临床等 阅读全文
posted @ 2024-05-07 22:46 HuggingFace 阅读(216) 评论(0) 推荐(2) 编辑
摘要:在英特尔至强 CPU 上使用 🤗 Optimum Intel 实现超快 SetFit 推理在缺少标注数据场景,SetFit 是解决的建模问题的一个有前途的解决方案,其由 Hugging Face 与 Intel 实验室 以及 UKP Lab 合作共同开发。作为一个高效的框架,SetFit 可用于对 Sentence Transformers 模型进行少样本微调。 SetFit 仅需很少的 阅读全文
posted @ 2024-05-06 21:41 HuggingFace 阅读(360) 评论(0) 推荐(2) 编辑
摘要:开源医疗大模型排行榜: 健康领域大模型基准测试多年来,大型语言模型 (LLMs) 已经发展成为一项具有巨大潜力,能够彻底改变医疗行业各个方面的开创性技术。这些模型,如 GPT-3,GPT-4 和 Med-PaLM 2,在理解和生成类人文本方面表现出了卓越的能力,使它们成为处理复杂医疗任务和改善病人护理的宝贵工具。它们在多种医疗应用中显示出巨大的 阅读全文
posted @ 2024-04-30 23:30 HuggingFace 阅读(1338) 评论(0) 推荐(1) 编辑

点击右上角即可分享
微信分享提示