09 2022 档案

提速还能不掉点！深度解析 MegEngine 4 bits 量化开源实现
摘要：作者：周瑞亮 | 旷视 MegEngine 架构师 随着深度学习的发展，其应用场景也越发的广泛与多样。这些多样化的场景往往会对实际的部署提出更加“定制化”的限制。例如，自动驾驶汽车对人体识别的精度要求肯定比图像识别动物分类的精度要求更加严苛，因为二者的应用场景和错误预测带来的后果截然不同。这些“定制 阅读全文
posted @ 2022-09-19 11:44 MegEngine 阅读(203) 评论(0) 推荐(0) 编辑
A100 买不到了，只有小显卡怎么训大模型
摘要：为了达到更好的训练效果，通常炼丹师们会使用更大的模型和更大的 Batch size，但因此带来的大显存占用，却成为不可避免的硬伤。 尤其是如今 GPU 越来越贵，甚至还可能买不到...... MegEngine v1.5 及以上版本，支持动态图和静态图的显存优化，显存占用可降至 1/4。 先上对比效 阅读全文
posted @ 2022-09-07 11:40 MegEngine 阅读(235) 评论(0) 推荐(0) 编辑

点击右上角即可分享
微信分享提示