微调（Fine-Tuning）和检索增强生成（RAG）

微调（Fine-Tuning）和检索增强生成（RAG）

https://www.toutiao.com/article/7386094597421810186/?log_from=21b91ee0752_1721118518195

2024-06-30 09:05·架构笔记

 

 

微调（Fine-Tuning）过程的核心，是在新的任务和数据集上对预训练模型的参数进行微小的调整，使其能精准契合目标场景的需求。不同于完全从头训练一个全新模型，Fine-Tuning （微调）巧妙地利用了 PLM 在大规模语料上学习到的通用语义表征，在此基础上进行"权重调校"，从而大幅提高了模型收敛的速度和效率, 微调本质是将特定领域知识记忆纳入到模型的参数中, 经过微调后，模型可以为你提供更准确、更接近你特定领域的答案。

 

检索增强生成（RAG，Retrieval-Augmented Generation）本质是利用外挂的知识库作为模型的记忆扩充，RAG 无需重新训练模型，便能扩展 LLM 已有的强大能力，让其能够适用于新的领域或组织的内部知识库。这是一种经济高效的方式，能够提升 LLM 输出的准确性、相关性和实用性，使其在各种环境中依然保持出色表现。

 

 

知识库是使用向量数据库（或者其他数据库）存储数据，可以外挂，作为LLM的行业信息提供方。

 

简单理解, 微调相当于让大模型去学习了新的一门学科，在回答的时候完成闭卷考试。知识库相当于为大模型提供了新学科的课本，回答的时候为开卷考试。 知识库和微调并不是冲突的，它们是两种相辅相成的行业解决方案。