2024年2月25日
PHATGOOSE：使用LoRA Experts创建低成本混合专家模型实现零样本泛化
摘要： 这篇2月的新论文介绍了Post-Hoc Adaptive Tokenwise Gating Over an Ocean of Specialized Experts (PHATGOOSE)，这是一种通过利用一组专门的PEFT模块(如LoRA)实现零样本泛化的新方法 这个方法冻结整个模型，包括PEFT 阅读全文
posted @ 2024-02-25 20:17 deephub 阅读(16) 评论(0) 推荐(0) 编辑