深度学习的内存消耗在哪里？

参考博客：

如何计算模型以及中间变量的显存占用大小：

https://oldpan.me/archives/how-to-calculate-gpu-memory

如何在Pytorch中精细化利用显存

https://oldpan.me/archives/how-to-use-memory-pytorch

再谈Pytorch中的显存利用问题(附完善显存跟踪代码)

https://oldpan.me/archives/pytorch-gpu-memory-usage-track