摘要：一、写在开头 1、基于PyTorch训练出cifar10模型 2、以ONNX(Open Neural Network Exchange)格式导出模型cifar10.onnx 3、下载cifar10二进制版本数据集 4、创建TensorRT(vs c++)项目，解析模型，进行推理 二、基于PyTorc 阅读全文

摘要：一、引子//Windows tf（keras）训练好了模型，想要用Nvidia-TensorRT来重构训练好的模型为TRT推理引擎加快推理的速度。 二、准备文件 1、训练好模型以后（keras）可以通过以下方式保存keras模型为h5文件 tf.keras.models.save_model(mod 阅读全文

摘要：一、保存模型 mynetwork为keras模型对象，通过mynetwork = tf.keras.models.Sequential(...)类似方法建立；tf.saved_model.save(mynetwork, 'saved_model')##保存模型，说明文件夹即可 二、载入保存的模型并进 阅读全文

摘要：一、构建模型 from __future__ import absolute_import, division, print_function, unicode_literals import tensorflow as tf from tensorflow.keras.layers import 阅读全文