2023年9月30日
LongLoRA:不需要大量计算资源的情况下增强了预训练语言模型的上下文能力
摘要： 麻省理工学院和香港中文大学推出了LongLoRA，这是一种革命性的微调方法，可以在不需要大量计算资源的情况下提高大量预训练语言模型的上下文能力。 LongLoRA是一种新方法，它使改进大型语言计算机程序变得更容易，成本更低。训练LLM往往需要大量信息和花费大量的时间和计算机能力。使用大量数据(上下文 阅读全文
posted @ 2023-09-30 09:31 deephub 阅读(29) 评论(0) 推荐(0) 编辑