[NN] TensorRT & TensorFlow

一、资源

TensorRT 教程（一）：安装TensorRT

TensorRT 教程（二）：TensorRT 源码简介

TensorRT 教程（三）：PyTorch模型转ONNX模型

Distiller 模型剪枝教程，博主不错，这里也提到了剪枝，未来可能用到。

 

高性能深度学习支持引擎实战——TensorRT

TensorRT项目立项的时候名字叫做GPU Inference Engine（简称GIE）

做一个不同恰当的比方，训练（Training）这个阶段如果模型比较慢，其实是一个砸钱可以解决的问题，我们可以用更大的集群、更多的机器，做更大的数据并行甚至是模型并行来训练它，重要的是成本的投入。

 

Building Tensorflow 2.0 with GPU support and TensorRT on Ubuntu 18.04 LTS [Part 2]

亲测，安装TensorRT。

 

 

二、实践

Deep Learning Optimization Using TensorRT

实践效率提高的效果。