03 2024 档案

Mistral-7B-Instruct-v0.2 运行尝鲜，原始权重和pytorch/safetensor两种方式
摘要：https://docs.mistral.ai/models/ Mistral-7B-Instruct-v0.2 raw_weights： https://models.mistralcdn.com/mistral-7b-v0-2/Mistral-7B-v0.2-Instruct.tar md5su 阅读全文
posted @ 2024-03-28 14:29 沙滩炒花蛤 阅读(463) 评论(3) 推荐(0) 编辑
open_llama_7b_v2 本地运行尝鲜
摘要：open_llama_7b_v2 https://github.com/openlm-research/open_llama auto 多卡时，显存共 906M+3870M+3870M+762M == 9408 M ，大概率是 tf cuda 驱动的问题，倒腾下就正常了 3296M+3822M+38 阅读全文
posted @ 2024-03-28 11:09 沙滩炒花蛤 阅读(21) 评论(0) 推荐(0) 编辑