随笔分类 - Hugging Face 博客
摘要：
过去几年，大语言模型 (LLM) 的进程主要由训练时计算缩放主导。尽管这种范式已被证明非常有效，但预训练更大模型所需的资源变得异常昂贵，数十亿美元的集群已经出现。这一趋势引发了人们对其互补方法的浓厚兴趣， 即推理时计算缩放。推理时计算缩放无需日趋庞大的预训练预算，而是采用动态推理策略，让模型能够对难
阅读全文
过去几年，大语言模型 (LLM) 的进程主要由训练时计算缩放主导。尽管这种范式已被证明非常有效，但预训练更大模型所需的资源变得异常昂贵，数十亿美元的集群已经出现。这一趋势引发了人们对其互补方法的浓厚兴趣， 即推理时计算缩放。推理时计算缩放无需日趋庞大的预训练预算，而是采用动态推理策略，让模型能够对难
阅读全文
摘要：过去几年，大语言模型 (LLM) 的进程主要由训练时计算缩放主导。尽管这种范式已被证明非常有效，但预训练更大模型所需的资源变得异常昂贵，数十亿美元的集群已经出现。这一趋势引发了人们对其互补方法的浓厚兴趣， 即推理时计算缩放。推理时计算缩放无需日趋庞大的预训练预算，而是采用动态推理策略，让模型能够对难
阅读全文
摘要：
设计你的自动评估任务 这是 自动评估基准 系列文章的第二篇，敬请关注系列文章: 基础概念 设计你的自动评估任务 一些评估测试集 技巧与提示 选择数据集 做评估时，你可以选择现有的数据集 (参考 一些评估数据集 页面) 作为测试集，也可以设计自己的数据集。有一点非常重要，请注意：评估的结果与评估的数据
阅读全文
设计你的自动评估任务 这是 自动评估基准 系列文章的第二篇，敬请关注系列文章: 基础概念 设计你的自动评估任务 一些评估测试集 技巧与提示 选择数据集 做评估时，你可以选择现有的数据集 (参考 一些评估数据集 页面) 作为测试集，也可以设计自己的数据集。有一点非常重要，请注意：评估的结果与评估的数据
阅读全文
摘要：
基础概念 这是 自动评估基准 系列文章的第一篇，敬请关注系列文章: 基础概念 设计你的自动评估任务 一些评估测试集 技巧与提示 注：本文内容与我写的 通用评估博客 存在部分重叠 什么是自动评估基准？ 自动化基准测试通常按照以下方式工作：你希望了解你的模型在某些方面的表现。这些“某些方面”可以是一个明
阅读全文
基础概念 这是 自动评估基准 系列文章的第一篇，敬请关注系列文章: 基础概念 设计你的自动评估任务 一些评估测试集 技巧与提示 注：本文内容与我写的 通用评估博客 存在部分重叠 什么是自动评估基准？ 自动化基准测试通常按照以下方式工作：你希望了解你的模型在某些方面的表现。这些“某些方面”可以是一个明
阅读全文
摘要：我们很高兴迎来 Google 全新的视觉语言模型 PaliGemma 2，这是 PaliGemma 的一个新版本。与其前代产品一样，PaliGemma 2 使用强大的 SigLIP 进行视觉处理，但在文本解码部分升级到了最新的 Gemma 2。 模型规模和输入分辨率 PaliGemma 2 提供了新
阅读全文
摘要：
这次我们的 LeRobot 团队联合 @therobotstudio 和 @NepYope 打造了全新腱驱动（Tendon-driven）技术，以快、更准、更灵活的超凡表现，让机器人手部控制进入全新时代！ 💡 当前该机器手的自由度：手部16，手臂 7。 💵 机器手价格不超过450美元 最让人激动
阅读全文
这次我们的 LeRobot 团队联合 @therobotstudio 和 @NepYope 打造了全新腱驱动（Tendon-driven）技术，以快、更准、更灵活的超凡表现，让机器人手部控制进入全新时代！ 💡 当前该机器手的自由度：手部16，手臂 7。 💵 机器手价格不超过450美元 最让人激动
阅读全文
摘要：
人工标注员 这是 人工评估 系列文章的第二篇《人工标注员》，全系列包括: 基础概念 人工标注员 技巧与提示 推荐阅读 这篇综述 的第三章，介绍了许多数据标注质量管理的实践经验。如果你追求的是生产级的质量，并且具备实施条件，那么请继续阅读吧！ 无论项目规模多大，一旦定义了具体的评估任务和打分细则，请注
阅读全文
人工标注员 这是 人工评估 系列文章的第二篇《人工标注员》，全系列包括: 基础概念 人工标注员 技巧与提示 推荐阅读 这篇综述 的第三章，介绍了许多数据标注质量管理的实践经验。如果你追求的是生产级的质量，并且具备实施条件，那么请继续阅读吧！ 无论项目规模多大，一旦定义了具体的评估任务和打分细则，请注
阅读全文
摘要：
基础概念 这是 人工评估 系列文章的第一篇《基础概念》，全系列包括: 基础概念 人工标注员 技巧与提示 什么是人工评估？ 人工评估是指让人类评价模型输出回答的好坏。 本文讨论的都是后验评估，即模型已经完成训练，给定一个任务让人类进行评估。 系统化评估 系统化的人工评估主要有 3 种方式： 如果你手头
阅读全文
基础概念 这是 人工评估 系列文章的第一篇《基础概念》，全系列包括: 基础概念 人工标注员 技巧与提示 什么是人工评估？ 人工评估是指让人类评价模型输出回答的好坏。 本文讨论的都是后验评估，即模型已经完成训练，给定一个任务让人类进行评估。 系统化评估 系统化的人工评估主要有 3 种方式： 如果你手头
阅读全文
摘要：非法律建议。 欧盟《人工智能法案》 (EU AI Act) 是全球首部全面的人工智能立法，现已正式生效，它将影响我们开发和使用人工智能的方式——包括在开源社区中的实践。如果您是一位开源开发者，正在适应这一新环境，可能会想知道这对您的项目意味着什么。本指南重点解读了该法规的关键要点，特别是针对开源开发
阅读全文
摘要：
Gall 定律 一个有效的复杂系统通常是从一个有效的简单系统演化而来的 —— John Gall 本文将带你一步步探究 Transformer 模型中先进的位置编码技术。我们将通过迭代改进编码位置的方法，最终得出 旋转位置编码 (Rotary Postional Encoding, RoPE)，这也
阅读全文
Gall 定律 一个有效的复杂系统通常是从一个有效的简单系统演化而来的 —— John Gall 本文将带你一步步探究 Transformer 模型中先进的位置编码技术。我们将通过迭代改进编码位置的方法，最终得出 旋转位置编码 (Rotary Postional Encoding, RoPE)，这也
阅读全文
摘要：
随着 llama.cpp 对 LoRA 支持的重构，现在可以将任意 PEFT LoRA 适配器转换为 GGUF，并与 GGUF 基础模型一起加载运行。 为简化流程，我们新增了一个名为 GGUF-my-LoRA 的平台。 什么是 LoRA？ LoRA（Low-Rank Adaptation，低秩适配）
阅读全文
随着 llama.cpp 对 LoRA 支持的重构，现在可以将任意 PEFT LoRA 适配器转换为 GGUF，并与 GGUF 基础模型一起加载运行。 为简化流程，我们新增了一个名为 GGUF-my-LoRA 的平台。 什么是 LoRA？ LoRA（Low-Rank Adaptation，低秩适配）
阅读全文
摘要：在飞速发展的可穿戴技术领域，我们正处于一个十字路口。市场上充斥着各式时尚、功能丰富的设备，声称能够彻底改变我们对健康和健身的方式。然而，在这些光鲜的外观和营销宣传背后，隐藏着一个令人担忧的现实：大多数这些设备是封闭系统，其内部运行被专有代码和封闭硬件所掩盖。作为消费者，我们对这些设备如何收集、处理及
阅读全文
摘要：
太长不看版: 许多 LLM (如 gemma-2-9b 、 Mixtral-8x22B-Instruct-v0.1 等) 苦于缺乏对应小模型，而无法适用 辅助生成 方案。本文，我们将介绍由英特尔研究院和 Hugging Face 合作开发的 通用辅助生成 技术。有了这项技术，LLM 可与 任意 SL
阅读全文
太长不看版: 许多 LLM (如 gemma-2-9b 、 Mixtral-8x22B-Instruct-v0.1 等) 苦于缺乏对应小模型，而无法适用 辅助生成 方案。本文，我们将介绍由英特尔研究院和 Hugging Face 合作开发的 通用辅助生成 技术。有了这项技术，LLM 可与 任意 SL
阅读全文
摘要：
作为 Stable Diffusion 3 的改进版本，Stable Diffusion 3.5 如今已在 Hugging Face Hub 中可用，并可以直接使用 🧨 Diffusers 中的代码运行。 本次发布包含 两套模型参数: 一个大型的模型 (large，8B) 该模型经过时间步蒸馏的版
阅读全文
作为 Stable Diffusion 3 的改进版本，Stable Diffusion 3.5 如今已在 Hugging Face Hub 中可用，并可以直接使用 🧨 Diffusers 中的代码运行。 本次发布包含 两套模型参数: 一个大型的模型 (large，8B) 该模型经过时间步蒸馏的版
阅读全文
摘要：
你是否难以分辨一段文本是由人类撰写的，还是 AI 生成的？识别 AI 生成内容对于提升信息可信度、解决归因错误以及抑制错误信息至关重要。 今天，Google DeepMind 和 Hugging Face 很共同宣布，在 Transformers v4.46.0 版本中，我们正式推出了 SynthI
阅读全文
你是否难以分辨一段文本是由人类撰写的，还是 AI 生成的？识别 AI 生成内容对于提升信息可信度、解决归因错误以及抑制错误信息至关重要。 今天，Google DeepMind 和 Hugging Face 很共同宣布，在 Transformers v4.46.0 版本中，我们正式推出了 SynthI
阅读全文
摘要：
随着数据集的使用量急剧增加，Hugging Face 社区已经变成了众多数据集默认存放的仓库。每月，海量数据集被上传到社区，这些数据集亟需有效的查询、过滤和发现。 每个月在 Hugging Face Hub 创建的数据集 我们现在非常激动地宣布，您可以直接在 Hugging Face 社区中对您的数
阅读全文
随着数据集的使用量急剧增加，Hugging Face 社区已经变成了众多数据集默认存放的仓库。每月，海量数据集被上传到社区，这些数据集亟需有效的查询、过滤和发现。 每个月在 Hugging Face Hub 创建的数据集 我们现在非常激动地宣布，您可以直接在 Hugging Face 社区中对您的数
阅读全文
摘要：
我们非常高兴地宣布与 Truffle Security 建立合作伙伴关系并在我们的平台集成 TruffleHog 强大的风险信息扫描功能。这些特性是 我们持续致力于提升安全性 的重要举措之一。 TruffleHog 是一款开源工具，用于检测和验证代码中的机密信息泄露。它拥有广泛的检测器，覆盖多种流行
阅读全文
我们非常高兴地宣布与 Truffle Security 建立合作伙伴关系并在我们的平台集成 TruffleHog 强大的风险信息扫描功能。这些特性是 我们持续致力于提升安全性 的重要举措之一。 TruffleHog 是一款开源工具，用于检测和验证代码中的机密信息泄露。它拥有广泛的检测器，覆盖多种流行
阅读全文
摘要：
简介 顶点着色是一种将颜色信息直接应用于网格顶点的简便方法。这种方式常用于生成式 3D 模型的构建，例如 InstantMesh。然而，大多数应用程序更偏好使用 UV 映射的纹理化网格。 本教程将介绍一种快速的解决方案，将顶点着色的网格转换为 UV 映射和纹理化的网格。内容包括 [简短版](# 简短
阅读全文
简介 顶点着色是一种将颜色信息直接应用于网格顶点的简便方法。这种方式常用于生成式 3D 模型的构建，例如 InstantMesh。然而，大多数应用程序更偏好使用 UV 映射的纹理化网格。 本教程将介绍一种快速的解决方案，将顶点着色的网格转换为 UV 映射和纹理化的网格。内容包括 [简短版](# 简短
阅读全文
摘要：在端侧部署 Transformer 模型需要仔细考虑性能和兼容性。Python 虽然功能强大，但对于部署来说有时并不算理想，特别是在由 C++ 主导的环境中。这篇博客将指导您如何使用 Optimum-Intel 和 OpenVINO™ GenAI 来优化和部署 Hugging Face Transf
阅读全文
摘要：
本文首发于 2024 年 5 月 我们很高兴地宣布，我们正在与 Wiz 合作，目标是提高我们平台和整个 AI/ML 生态系统的安全性。 Wiz 研究人员 与 Hugging Face 就我们平台的安全性进行合作并分享了他们的发现。 Wiz 是一家云安全公司，帮助客户以安全的方式构建和维护软件。 随着
阅读全文
本文首发于 2024 年 5 月 我们很高兴地宣布，我们正在与 Wiz 合作，目标是提高我们平台和整个 AI/ML 生态系统的安全性。 Wiz 研究人员 与 Hugging Face 就我们平台的安全性进行合作并分享了他们的发现。 Wiz 是一家云安全公司，帮助客户以安全的方式构建和维护软件。 随着
阅读全文