04 2024 档案
摘要:去年(2023年)是大模型爆发元年。但是大模型具有两个缺点:缺失私有领域知识和幻觉。缺失私有领域知识是指大模型训练时并没有企业私有数据/知识,所以无法正确回答相关问题。并且在这种情况下,大模型会一本正经地胡说八道(即幻觉),给出错误的回答。那么如何解决这两个缺点?目前主要有两种方法,微调和RAG。微
阅读全文
摘要:在前两篇文章里,我们已经介绍了如何在本地运行Ollama以及如何通过提供外部数据库的方式微调模型的答案。本篇文章将继续探索如何使用“函数调用(function-calling)”功能以扩展模型能力,使其在“智能”的道路上越走越远。 function-calling介绍 根据OpenAI官方文档,fu
阅读全文
摘要:转载自 https://babyno.top/posts/2024/03/run-a-large-language-model-locally-2/ 在上一篇文章里,我们展示了如何通过Ollama这款工具,在本地运行大型语言模型。本篇文章将着重介绍下如何让模型从外部知识库中检索定制数据,来提升大型语
阅读全文
摘要:2024-02-27 · 路边的阿不 | 转载自 https://babyno.top/posts/2024/02/running-a-large-language-model-locally/ 随着ChatGPT的兴起,LLM (Large Language Model,大语言模型) 已经成为人工
阅读全文