摘要：
NVIDIA GPU自动调度神经网络 对特定设备和工作负载进行自动调整对于获得最佳性能至关重要。这是有关如何使用自动调度器为NVIDIA GPU调整整个神经网络。 为了自动调整神经网络，将网络划分为小的子图，并对其进行独立调整。每个子图被视为一个搜索任务。任务调度程序可以对时间进行分片，并为这些任务 阅读全文
摘要：
如何使用TVM Pass Relay 随着Relay / tir中优化遍数的增加，执行并手动维护其依赖关系变得很棘手。引入了一个基础结构来管理优化过程，将其应用于TVM堆栈中IR的不同层。 Relay / tir程序的优化可以以各种粒度应用，分别使用tvm.relay.transform.Funct 阅读全文
摘要：
VTA硬件 提供了VTA硬件设计的自上而下的概述。本硬件设计涵盖两个级别的VTA硬件： VTA设计及其ISA硬件-软件接口的体系结构概述。 VTA硬件模块的微体系结构概述以及计算核心的微代码规范。 VTA概述 VTA是为快速，高效的密集线性代数而构建的通用深度学习加速器。VTA集成了一个简单的类似R 阅读全文
摘要：
TensorFlow Frontend前端 TensorFlow前端有助于将TensorFlow模型导入TVM。 Supported versions: 1.12 and below Tested models: Inception (V1/V2/V3/V4) Resnet (All) Mobile 阅读全文
摘要：
向Relay添加算子 为了在Relay IR中使用TVM算子，需要在Relay中注册算子，以确保将其集成到Relay的类型系统中。 注册算子需要三个步骤： 使用RELAY_REGISTER_OPC ++中的宏注册算子的Arity和类型信息 定义一个C ++函数为算子生成一个调用节点，并为该函数注册一 阅读全文
摘要：
TVM自定义数据类型 本文将介绍“自定义数据类型”框架，该框架可在TVM中使用自定义数据类型。 介绍 在设计加速器时，关键是如何近似地表示硬件中的实数。这个问题具有长期的行业标准解决方案：IEEE 754浮点标准。然而，当试图通过构建高度专业化的设计来最大限度地利用硬件时，使用通用IEEE 754浮 阅读全文