04 2023 档案

摘要:每一周,我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新,包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等,我们将其称之为「Hugging News」,本期 Hugging News 有哪些有趣的消息,快来看看吧! Hugging Chat 来 阅读全文
posted @ 2023-04-29 23:39 HuggingFace 阅读(760) 评论(0) 推荐(0) 编辑
摘要:在巨量文本数据下训练的大语言模型非常擅长生成现实文本。但是,这些模型通常会显现出一些不良行为像泄露个人信息 (比如社会保险号) 和生成错误信息,偏置,仇恨或有毒内容。举个例子,众所周知,GPT3 的早期版本就表现出性别歧视 (如下图) 与 仇恨穆斯林言论 的情况。 一旦我们在使用大语言模型时发现了这 阅读全文
posted @ 2023-04-27 23:41 HuggingFace 阅读(147) 评论(0) 推荐(0) 编辑
摘要:引言 语言模型一直在变大。截至撰写本文时,PaLM 有 5400 亿参数,OPT、GPT-3 和 BLOOM 有大约 1760 亿参数,而且我们仍在继续朝着更大的模型发展。下图总结了最近的一些语言模型的尺寸。 由于这些模型很大,因此它们很难在一般的设备上运行。举个例子,仅推理 BLOOM-176B 阅读全文
posted @ 2023-04-25 23:41 HuggingFace 阅读(711) 评论(0) 推荐(0) 编辑
摘要:简介 近年来,随着以 OpenAI GPT2 模型 为代表的基于数百万网页数据训练的大型 Transformer 语言模型的兴起,开放域语言生成领域吸引了越来越多的关注。开放域中的条件语言生成效果令人印象深刻,典型的例子有: GPT2 在独角兽话题上的精彩续写,XLNet 以及 使用 CTRL 模型 阅读全文
posted @ 2023-04-24 23:21 HuggingFace 阅读(1352) 评论(0) 推荐(1) 编辑
摘要:作者:Tiezhen、Adina、Luke Hugging Face 的中国社区成立已经有五个月之久,我们也非常高兴的看到 Hugging Face 相关的中文内容在各个平台广受好评,我们也注意到,Hugging Face Hub 上有众多国内开发者们的创新和贡献。因此,我们非常高兴的宣布: 欢迎来 阅读全文
posted @ 2023-04-21 21:51 HuggingFace 阅读(1931) 评论(0) 推荐(1) 编辑
摘要:4 月 25 日,我们将联合 Datawhale 团队组织 AIGC 主题学习活动「ChatGPT 从入门到应用」,欢迎大家参加! Datawhale 社区介绍 Datawhale 是一个专注于数据科学与 AI 领域的开源组织,汇集了众多领域院校和知名企业的优秀学习者,聚合了一群有开源精神和探索精神 阅读全文
posted @ 2023-04-21 11:40 HuggingFace 阅读(432) 评论(0) 推荐(0) 编辑
摘要:🤗 使命: 开放和优秀的机器学习 在我们的使命中,我们致力于推动机器学习 (ML) 的民主化,我们在研究如何支持 ML 社区工作并有助于检查危害和防止可能的危害发生。开放式的发展和科学可以分散力量,让许多人集体开展反映他们需求和价值的 AI 研究工作。虽然 开放性使得更广泛的观点能够为研究和整个 阅读全文
posted @ 2023-04-19 22:04 HuggingFace 阅读(213) 评论(0) 推荐(1) 编辑
摘要:在之前的 博文 中,我们探讨了图机器学习的一些理论知识。这一篇我们将探索如何使用 Transformers 库进行图分类。(你也可以从 此处 下载演示 notebook,跟着一起做!) 目前,Transformers 中唯一可用的图 transformer 模型是微软的 Graphormer,因此本 阅读全文
posted @ 2023-04-18 21:58 HuggingFace 阅读(502) 评论(0) 推荐(0) 编辑
摘要:经过“九九八十一难”,大模型终于炼成。下一步就是架设服务,准备开门营业了。真这么简单?恐怕未必!行百里者半九十,推理优化又是新的雄关漫道。如何进行延迟优化?如何进行成本优化 (别忘了 OpenAI 8K 上下文的 GPT-4 模型,提示每 1000 词元只需 0.03 美金,补全每 1000 词元只 阅读全文
posted @ 2023-04-17 22:27 HuggingFace 阅读(1558) 评论(0) 推荐(1) 编辑
摘要:每一周,我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新,包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等,我们将其称之为「Hugging News」,本期 Hugging News 有哪些有趣的消息,快来看看吧! 社区动向 Attention 阅读全文
posted @ 2023-04-16 22:03 HuggingFace 阅读(493) 评论(0) 推荐(0) 编辑
摘要:我们的 Jax Diffuser 社区冲刺活动已经截止报名,全球有 200 多名参赛选手成功组成了约 70 支队伍共同参赛。 为了帮助参赛者更好的完成自己的项目,也为了与更多社区成员们分享扩散模型和生成式 AI 相关的经验和更新,我们会在本月的 13、14 和 17 日邀请来自业界的顶尖从业者做一系 阅读全文
posted @ 2023-04-13 21:51 HuggingFace 阅读(88) 评论(0) 推荐(0) 编辑
摘要:在本文中,我们将展示如何使用 大语言模型低秩适配 (Low-Rank Adaptation of Large Language Models,LoRA) 技术在单 GPU 上微调 110 亿参数的 FLAN-T5 XXL 模型。在此过程中,我们会使用到 Hugging Face 的 Transfor 阅读全文
posted @ 2023-04-12 23:45 HuggingFace 阅读(2742) 评论(0) 推荐(0) 编辑
摘要:前一段时间,我们向大家介绍了最新一代的 英特尔至强 CPU (代号 Sapphire Rapids),包括其用于加速深度学习的新硬件特性,以及如何使用它们来加速自然语言 transformer 模型的 分布式微调 和 推理。 本文将向你展示在 Sapphire Rapids CPU 上加速 Stab 阅读全文
posted @ 2023-04-11 18:14 HuggingFace 阅读(1668) 评论(0) 推荐(1) 编辑
摘要:一个月前,我们 宣布了与 ILLA Cloud 与达成的合作,ILLA Cloud 正式支持集成 Hugging Face Hub 上的 AI 模型库和其他相关功能。 今天,我们为大家带来 ILLA Cloud 集成 Hugging Face 功能的更新,经过双方团队的沟通和推进,ILLA Clou 阅读全文
posted @ 2023-04-11 12:30 HuggingFace 阅读(466) 评论(0) 推荐(0) 编辑
摘要:每一周,我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新,包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等,我们将其称之为「Hugging News」,本期 Hugging News 有哪些有趣的消息,快来看看吧! 社区活动 ControlNe 阅读全文
posted @ 2023-04-07 21:45 HuggingFace 阅读(320) 评论(0) 推荐(0) 编辑
摘要:本文将展示如何在 Habana® Gaudi®2 上使用 🤗 Optimum Habana。Optimum Habana 是 Gaudi2 和 🤗 Transformers 库之间的桥梁。本文设计并实现了一个大模型推理基准测试,证明了通过使用 Optimum Habana 你将能够在 Gaudi 阅读全文
posted @ 2023-04-06 21:21 HuggingFace 阅读(336) 评论(0) 推荐(0) 编辑
摘要:简介 ControlNet 这个神经网络模型使得用户可以通过施加额外条件,细粒度地控制扩散模型的生成过程。这一技术最初由 Adding Conditional Control to Text-to-Image Diffusion Models 这篇论文提出,并很快地风靡了扩散模型的开源社区。作者开源 阅读全文
posted @ 2023-04-04 21:25 HuggingFace 阅读(1702) 评论(0) 推荐(0) 编辑
摘要:相信大家已经感受到 AI 绘画的魅力,多多少少也可以自称半个「prompt 小专家」了,而在 AI 绘画的时候 Stable Diffusion 也会出现一些小瑕疵,比如 AI 不是灵魂画「手」,还有一些特别的肢体动作也不是普通人可以用语言描述清楚的。这个时候,就轮到 ControlNet 出场啦! 阅读全文
posted @ 2023-04-04 12:05 HuggingFace 阅读(149) 评论(0) 推荐(0) 编辑
摘要:每一周,我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新,包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等,我们将其称之为「Hugging News」,本期 Hugging News 有哪些有趣的消息,快来看看吧! 产品更新 Paper Pag 阅读全文
posted @ 2023-04-02 10:51 HuggingFace 阅读(428) 评论(0) 推荐(0) 编辑