2023年5月25日
nn-meter——自定义Onnxruntime后端
该文被密码保护。 阅读全文
posted @ 2023-05-25 13:44 SheepHuan 阅读(3) 评论(0) 推荐(0) 编辑
基于onnxruntime c++ api开发benchmark工具
摘要： 代码详见 `https://github.com/SheepHuan/UnifiedModelBenchmark/tree/onnxruntime_android` ## 1 环境配置 ### 1.1 依赖库 - google gflags - microsoft onnxruntime ### 1 阅读全文
posted @ 2023-05-25 13:34 SheepHuan 阅读(312) 评论(0) 推荐(0) 编辑
CoDL技术介绍及代码复现
摘要： ## 1 CoDL MobiSys2021 技术介绍 CoDL是一个移动设备上并行DL推理框架,它基于Xiaomi MACE框架开发,主要利用手机SoC的CPU和GPU并行加速模型推理过程,而当前的主要的推理框架还是依次只利用一个设备去推理. ### 1.1 挑战和解决方案 1. 减少异构处理器之间 阅读全文
posted @ 2023-05-25 01:16 SheepHuan 阅读(486) 评论(0) 推荐(0) 编辑
docker容器配置ADB开发环境
摘要： ## 创建 Docker 容器 ```bash # 1. 要求映射usb文件夹到docker /dev/bus/usb:/dev/bus/usb docker run -it --privileged=true -v /dev/bus/usb:/dev/bus/usb -v /home/yanghu 阅读全文
posted @ 2023-05-25 00:03 SheepHuan 阅读(779) 评论(1) 推荐(1) 编辑