GGUF构建ollama模型, 模型怎么量化成GGUF格式

 

GGUF构建ollama模型
https://zhuanlan.zhihu.com/p/689555159
https://www.cnblogs.com/ghj1976/p/18063781/ollama-yun-xing-gguf-mo-xing

 

模型怎么量化成GGUF格式
https://zhuanlan.zhihu.com/p/689555159

 

Tool:文字生成图片代码差异比较器HTML查错器Llama3在线

Link:https://www.cnblogs.com/farwish/p/18168433

posted on 2024-05-16 22:20  ercom  阅读(126)  评论(0编辑  收藏  举报