2023年3月23日
在一张 24 GB 的消费级显卡上用 RLHF 微调 20B LLMs
摘要： 我们很高兴正式发布 trl 与 peft 的集成，使任何人都可以更轻松地使用强化学习进行大型语言模型 (LLM) 微调！在这篇文章中，我们解释了为什么这是现有微调方法的有竞争力的替代方案。 请注意， peft 是一种通用工具，可以应用于许多 ML 用例，但它对 RLHF 特别有趣，因为这种方法特别需 阅读全文
posted @ 2023-03-23 10:15 HuggingFace 阅读(1166) 评论(1) 推荐(1) 编辑