摘要：最近看深度学习二阶优化方面的工作，顺便做一些整理。以下内容翻译自 "Xiaoxin et al., He Large-Scale Deep Learning Optimizations: A Comprehensive Survey, 2021"(https://arxiv.org/abs/2111 阅读全文