2023年11月19日
安装llama.cpp遇到的问题
摘要： llama.cpp 在ubuntu环境下编译： 1. 下载好模型文件，如 llama-2-7b-chat-hf； Mistral-7B-Instruct-v0.1/ggml-model-f16-q8_0.gguf2. 建立conda环境 conda create -n llamacpp python 阅读全文
posted @ 2023-11-19 20:18 tommickey 阅读(1411) 评论(0) 推荐(0)