合集-InfiniTensor 2024 冬训营
摘要:导学 Infinitensor 课程导学部分笔记 | 原文 张量 定义 一般定义。 struct Tensor { DataType data_type; // 数据类型 std::vector<size_t> shape; // 形状 std::vector<uint8_t> data; // 底
阅读全文
摘要:C++ 基础 Setup 由于不需要热更新,直接扔在 D 盘即可,然后挂载到 Docker. 使用 xmake 进行项目构建,参考主页 build 即可,注意每次打开容器时执行 source ~/.xmake/profile. 知识点 std::unique_ptr - cppreference.c
阅读全文
摘要:AI 编译器 Setup 和 learning-cxx/ 项目的配置方式类似。产生一些报错,以下记录解决过程。 链接 Python3 并安装 python3-dev ln -s /usr/bin/python3 /usr/bin/python 克隆三方库。报了权限问题?最后直接手动下载解压了。 最后
阅读全文
摘要:项目简介 InfiniTensor 与 RefactorGraph. 关于 ONNX 正确打开方式 - 对照 ONNX Operator Docs 与 netron.app 食用。 AI 编译器对 AI 程序的抽象 这部分主要翻笔记和讲义吧。只记录一些对 RefactorGraph 代码的说明。 g
阅读全文
摘要:图优化 主要看笔记和讲义 | 图优化 | 非图级别的优化,这里记录一些重点。 ONNX Simplify ONNX 模型优化工具,用于减少 ONNX 模型大小和计算复杂度。提供常量折叠、冗余节点消除等优化。 数据布局 一些特殊的张量格式,如 Ascend NC1HWC0 关于推理框架 推理框架存在的
阅读全文

浙公网安备 33010602011771号