基于H100测试Firefly微调qwen2性能

 

测试结论如下表所示:

 

7B模型,batch=2时的显存占用:

72B,batch=2时的显存占用:

 

posted @ 2024-06-26 14:50  glowwormss  阅读(52)  评论(0编辑  收藏  举报