05 2023 档案

摘要:```bash !pip install transformers==4.2.1 !pip install sentencepiece==0.1.95 ``` Vaswani 等人在其名作 [Attention is all you need](https://arxiv.org/abs/1706. 阅读全文
posted @ 2023-05-31 22:56 HuggingFace 阅读(247) 评论(0) 推荐(0) 编辑
摘要:在 NLP (Natural Language Processing, 自然语言处理) 领域,ChatGPT 和其他的聊天机器人应用引起了极大的关注。每个社区为构建自己的应用,也都在持续地寻求强大、可靠的开源模型。自 Vaswani 等人于 2017 年首次提出 [Attention Is All 阅读全文
posted @ 2023-05-31 20:40 HuggingFace 阅读(479) 评论(0) 推荐(1) 编辑
摘要:在 PyTorch 中训练大语言模型不仅仅是写一个训练循环这么简单。我们通常需要将模型分布在多个设备上,并使用许多优化技术以实现稳定高效的训练。Hugging Face 🤗 [Accelerate](https://huggingface.co/docs/accelerate/index) 的创建 阅读全文
posted @ 2023-05-29 20:42 HuggingFace 阅读(2434) 评论(0) 推荐(0) 编辑
摘要:每一周,我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新,包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等,我们将其称之为「Hugging News」,本期 Hugging News 有哪些有趣的消息,快来看看吧! ## 重磅更新 ### Hu 阅读全文
posted @ 2023-05-26 22:35 HuggingFace 阅读(119) 评论(0) 推荐(1) 编辑
摘要:大型语言模型如今风靡一时,许多公司投入大量资源来扩展它们规模并解锁新功能。然而,作为注意力持续时间不断缩短的人类,我们并不喜欢大模型缓慢的响应时间。由于延迟对于良好的用户体验至关重要,人们通常使用较小的模型来完成任务,尽管它们的质量较低 (例如 [代码补全任务](https://ai.googleb 阅读全文
posted @ 2023-05-25 22:44 HuggingFace 阅读(530) 评论(0) 推荐(1) 编辑
摘要:如果你是一个软件开发者,你可能已经使用过 ChatGPT 或 GitHub 的 Copilot 去解决一些写代码过程中遇到的问题,比如将代码从一种语言翻译到另一种语言,或者通过自然语言,诸如“_写一个计算斐波那契数列第 N 个元素的 Python 程序_”,来自动生成代码。尽管这些专有系统功能强大, 阅读全文
posted @ 2023-05-24 22:59 HuggingFace 阅读(1001) 评论(1) 推荐(2) 编辑
摘要:大语言模型 (LLM) 正在席卷整个机器学习世界。得益于其 [transformer](https://arxiv.org/abs/1706.03762) 架构,LLM 拥有从大量非结构化数据 (如文本、图像、视频或音频) 中学习的不可思议的能力。它们在 [多种任务类型](https://huggi 阅读全文
posted @ 2023-05-23 21:02 HuggingFace 阅读(673) 评论(0) 推荐(1) 编辑
摘要:每一周,我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新,包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等,我们将其称之为「Hugging News」,本期 Hugging News 有哪些有趣的消息,快来看看吧! ## 重磅 ### 我们把 阅读全文
posted @ 2023-05-20 12:40 HuggingFace 阅读(266) 评论(0) 推荐(1) 编辑
摘要:本文主要介绍用于估算 transformer 类模型计算量需求和内存需求的相关数学方法。 # 引言 其实,很多有关 transformer 语言模型的一些基本且重要的信息都可以用很简单的方法估算出来。不幸的是,这些公式在 NLP 社区中鲜为人知。本文的目的是总结这些公式,阐明它们是如何推导出来的及其 阅读全文
posted @ 2023-05-19 15:35 HuggingFace 阅读(1030) 评论(0) 推荐(2) 编辑
摘要:嗨嗨嗨,🤗 宝子们,今天咱们来一则招聘公告!这是 Hugging Face 的 Post-Sales Machine Learning Solutions Engineer - Asia Remote 职位,感兴趣的宝宝请继续往后看: Description Here at Hugging Fac 阅读全文
posted @ 2023-05-18 21:50 HuggingFace 阅读(46) 评论(0) 推荐(1) 编辑
摘要:1. 引言 自然语言生成 (即文本生成) 是自然语言处理 (NLP) 的核心任务之一。本文将介绍神经网络文本生成领域当前最先进的解码方法 对比搜索 (Contrastive Search)。提出该方法的论文 “A Contrastive Framework for Neural Text Gener 阅读全文
posted @ 2023-05-16 23:36 HuggingFace 阅读(344) 评论(0) 推荐(2) 编辑
摘要:示例视频由 ModelScope 生成。 最近生成模型方向的进展如排山倒海,令人目不暇接,而文生视频将是这一连串进展的下一波。尽管大家很容易从字面上理解文生视频的意思,但它其实是一项相当新的计算机视觉任务,其要求是根据文本描述生成一系列时间和空间上都一致的图像。虽然看上去这项任务与文生图极其相似,但 阅读全文
posted @ 2023-05-16 10:11 HuggingFace 阅读(679) 评论(1) 推荐(1) 编辑
摘要:每一周,我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新,包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等,我们将其称之为「Hugging News」,本期 Hugging News 有哪些有趣的消息,快来看看吧! 开源更新 Transform 阅读全文
posted @ 2023-05-12 21:56 HuggingFace 阅读(103) 评论(0) 推荐(1) 编辑
摘要:我们正在努力让我们每次发布的库更加负责! 我们很荣幸宣布我们发布了 道德守则,并将作为一部分其放入 Diffusers 库的说明文档。 由于扩散模型在现实世界上的实际应用例子会对社会造成潜在的负面影响,该守则旨在引导对于社区做出贡献的 Diffusers 库维护者进行技术决策。我们希望对于我们的决策 阅读全文
posted @ 2023-05-11 22:16 HuggingFace 阅读(252) 评论(0) 推荐(0) 编辑
摘要:本文主要面向两类目标读者: 一类是想使用机器学习的生物学家,一类是想进入生物学领域的机器学习研究者。如果你不熟悉生物学或机器学习,仍然欢迎你阅读本文,但有时你可能会觉得有点读不太懂!如果你已经熟悉这两者,那么你可能根本不需要本文 —— 你可以直接跳到我们的示例 notebook 以查看这些模型的实际 阅读全文
posted @ 2023-05-10 22:50 HuggingFace 阅读(640) 评论(0) 推荐(1) 编辑
摘要:你知道吗?Hugging Face Space 可以托管自己开发的 Unity 游戏!惊不惊喜,意不意外?来了解一下吧! Hugging Face Space 是一个能够以简单的方式来构建、托管和分享项目或应用样例的平台。虽然通常更多地是应用在机器学习样例中,不过实际上 Space 还可以用来托管 阅读全文
posted @ 2023-05-09 22:38 HuggingFace 阅读(368) 评论(2) 推荐(2) 编辑
摘要:关于 BigCode BigCode 是由 Hugging Face 和 ServiceNow 共同领导的开放式科学合作项目,该项目致力于开发负责任的代码大模型。 StarCoder 简介 StarCoder 和 StarCoderBase 是针对代码的大语言模型 (代码 LLM),模型基于 Git 阅读全文
posted @ 2023-05-08 23:15 HuggingFace 阅读(5576) 评论(0) 推荐(2) 编辑
摘要:每一周,我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新,包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等,我们将其称之为「Hugging News」,本期 Hugging News 有哪些有趣的消息,快来看看吧! StarCoder: 最新的 阅读全文
posted @ 2023-05-06 17:52 HuggingFace 阅读(152) 评论(0) 推荐(0) 编辑
摘要:如 ChatGPT,GPT-4,Claude语言模型 之强大,因为它们采用了 基于人类反馈的强化学习 (Reinforcement Learning from Human Feedback, RLHF) 来使之更符合我们的使用场景。 本博客旨在展示用 RLHF 训练一个 LLaMA 模型,以回答 S 阅读全文
posted @ 2023-05-05 11:15 HuggingFace 阅读(796) 评论(0) 推荐(0) 编辑

点击右上角即可分享
微信分享提示