合集-LLM
摘要:本地部署的几种方式:Ollama、GPT4ALL等。 Ollama a. https://ollama.com/download b. 一个开源的轻量级LLM服务框架,专注于本地推理能力的实现 c. 模型支持范围:受限于Ollama官方支持的模型https://ollama.com/search d
阅读全文
摘要:Prompt 什么是Prompt呢? Prompt(提示)是用户提供的文本输入,用于指导模型的输出。 一些常用的 prompting 技巧: 上下文(in-context learning)学习方式: Zero-shot零样本:给出目标指令提示 Few-shot 少样本(找相似):提供任务范例提示
阅读全文