摘要: TVM量化小结手册 文章目录 Offical References TVM quantization roadmap INT8 quantization proposal Quantization Story - 2019-09 Quantization Development Quantizati 阅读全文
posted @ 2021-05-23 20:11 吴建明wujianming 阅读(745) 评论(0) 推荐(0) 编辑
摘要: TVM图优化与算子融合 计算图的定义 Computational graphs: a common way to represent programs in deep learning frameworks 对于图优化来说,有很多种图优化手段: Operator Fusion Constant Pa 阅读全文
posted @ 2021-05-23 15:08 吴建明wujianming 阅读(1019) 评论(0) 推荐(0) 编辑
摘要: 桥接PyTorch和TVM 人工智能最引人入胜的一些应用是自然语言处理。像BERT或GPT-2之类的模型及其变体,可以获住足够多的文本信息。 这些模型属于称为Transformers的神经网络类体系结构。 HuggingFace transformers library是实现最受欢迎的库之一。 与已 阅读全文
posted @ 2021-05-23 09:51 吴建明wujianming 阅读(688) 评论(0) 推荐(0) 编辑