【DL基础】模型训练测试过程消耗内存的计算

前言

模型部署过程中，不仅要关注模型参数大小，还要关注消耗的内存；因为这些不仅涉及到耗时，还涉及到硬件是否可用；

训练过程中消耗的GPU或者内存，又是由什么决定的呢？？？

如何计算模型以及中间变量的显存占用大小

https://oldpan.me/archives/pytorch-gpu-memory-usage-track

 

 

参考

1. 如何计算模型以及中间变量的显存占用大小；

2. 浅谈深度学习:如何计算模型以及中间变量的显存占用大小；

3. 如何在Pytorch中精细化利用显存；

4. 再次浅谈Pytorch中的显存利用问题(附完善显存跟踪代码)；

5. 一日搞懂卷积神经网络；

完