2023年11月3日
摘要: 本文主要介绍P-tuning-v2论文中的5种任务,分别为Glue任务、NER任务、QA任务、SRL任务、SuperGlue任务,重点介绍了下每种任务使用的数据集。 一.Glue任务 GLUE(General Language Understanding Evaluation)是纽约大学、华盛顿大学 阅读全文
posted @ 2023-11-03 23:06 扫地升 阅读(507) 评论(0) 推荐(0) 编辑
摘要: 常见参数高效微调方法(Parameter-Efficient Fine-Tuning,PEFT)有哪些呢?主要是Prompt系列和LoRA系列。本文主要介绍P-Tuning v2微调方法。如下所示: Prompt系列比如,Prefix Tuning(2021.01-Stanford)、Prompt 阅读全文
posted @ 2023-11-03 00:17 扫地升 阅读(993) 评论(0) 推荐(0) 编辑