摘要：
如何在CPU上优化GEMM（上） （TL；DR）TVM提供了抽象接口，用户分别描述算法和算法的实现组织（所谓的调度）。通常，在高性能调度中编写算法会破坏算法的可读性和模块性。尝试各种看似有希望的时间表是很耗时的。在TVM的帮助下，可以有效地尝试这些调度来提高性能。 本文将演示如何使用TVM优化平方矩 阅读全文
摘要：
编译ONNX模型Compile ONNX Models 本文是一篇介绍如何使用Relay部署ONNX模型的说明。 首先，必须安装ONNX包。 一个快速的解决方案是安装protobuf编译器，然后 pip install onnx –user 或者参考官方网站： https://github.com/ 阅读全文
摘要：
深度学习加速器堆栈Deep Learning Accelerator Stack 通用张量加速器（VTA）是一种开放的、通用的、可定制的深度学习加速器，具有完整的基于TVM的编译器堆栈。设计了VTA来揭示主流深度学习加速器最显著和最常见的特征。TVM和VTA一起构成了一个端到端的软硬件深度学习系统堆 阅读全文
摘要：
TVM部署和集成Deploy and Integration 本文包含如何将TVM部署到各种平台以及如何将其与项目集成。 与传统的深度学习框架不同。TVM堆栈分为两个主要组件： TVM编译器，完成所有编译和优化 TVM runtime运行时，在目标设备上运行。 为了集成编译后的模块，不需要在目标设备 阅读全文
摘要：
Relay张量集成 Introduction NVIDIA TensorRT是一个用于优化深度学习推理的库。这种集成将尽可能多地减轻从中继到TensorRT的算子，在NVIDIA GPU上提供性能提升，而无需调整计划。 本文将演示如何安装TensorRT并在启用TensorRT BYOC和运行时的情 阅读全文