随笔分类 - chatGPT
摘要:本地部署 Llama3 – 8B/70B 大模型!最简单的方法: 支持CPU /GPU运行 【3种方案】 目前在开源大模型领域,Llama3 无疑是最强的!这次Meta不仅免费公布了 8B和70B两个性能强悍的大模型,400B也即将发布,这是可以和GPT-4对打的存在!今天我们就来介绍3各本地部署方
阅读全文
摘要:具体配比可参考:https://storage.googleapis.com/jax-releases/jax_cuda_releases.html 参考链接;https://github.com/xai-org/grok-1/discussions/150 https://www.yuque.co
阅读全文