2023 年 4月 18 日随笔档案 - Dufe王彬

2023年4月18日

摘要： ChatGPT 复现 ChatGPT复现上一方面是复现三步流程（Colossal ai+Open Assistant+LLaMA）另一方面是训练加速（Deepspeed+Megatron+Colossal ai+FlexGen），便于基于开源大模型（Bloom/OPT/T5）微调; 还有更超前阅读全文

posted @ 2023-04-18 10:50 Dufe王彬阅读(1640) 评论(0) 推荐(0) 编辑