2024年4月12日
PiSSA ：将模型原始权重进行奇异值分解的一种新的微调方法
摘要： 我们开始看4月的新论文了，这是来自北京大学人工智能研究所、北京大学智能科学与技术学院的研究人员发布的Principal Singular Values and Singular Vectors Adaptation（PiSSA）方法。 PiSSA和LoRA一样，都是基于这样的前提：对模型参数的改变会 阅读全文
posted @ 2024-04-12 11:43 deephub 阅读(54) 评论(0) 推荐(0) 编辑