博客园  :: 首页  :: 新随笔  :: 联系 :: 订阅 订阅  :: 管理

2023年7月3日

大模型训练常见工具概念

摘要： 目录 记录下遇到的各种工具，感谢前人栽树，后人乘凉。 目录按照字母顺序，大小写不敏感 目录目录工具DeepSpeedFSDPggmllamma.cpplangchainLLVMMegatronNCCLpoetryTritonTVMXLA 工具 DeepSpeed DeepSpeed是对transfo 阅读全文

posted @ 2023-07-03 20:05 Antel 阅读(951) 评论(0) 推荐(0) 编辑