ollama 模型离线加载的配置简单说明
摘要：
ollama 对于离线模型的支持可以是GGUF format 的（通过modelfile 进行构建），实际上还有一种就是对于下载好的模型直接 进行打包，然后通过配置进行加载（OLLAMA_MODELS 环境变量） 下载的模型数据 模型数据结构 通过直接复制加载的模型 参考服务配置 systemd 服 阅读全文
posted @ 2024-07-18 07:47 荣锋亮 阅读(469) 评论(0) 推荐(0) 编辑
