itop3568开发板在Linux系统中使用NPU

下载rknpu2并拷贝虚拟机Ubuntu，如下图所示，RKNPU2提供了访问rk3568
芯片 NPU 的高级接口。

 

下载地址为“iTOP-3568 开发板\02_【iTOP-RK3568 开发板】开发资料\11_NPU
使用配套资料\01_rknpu2 工具” 对于 RK3568 来说，Linux 平台 RKNN SDK 库
文件为 librknnrt.so，如下图所示：


RK3568 平台 RKNN SDK 包含了 API 使用示例程序、NPU 运行库、服务程
序、文档。
服务程序称为 rknn_server，是在开发板上常驻的服务进程，用于连板推理。
在 RKNN SDK 中提供了 Linux 平台的 MobileNet 图像分类、SSD 目标检测、
YOLOv5 目标检测示例。这些 Demo 能够为客户基于 RKNN SDK 开发自己的
AI 应用提供参考。
在 rknpu2/examples 中还有很多其他例子，如下图所示：

 

下面以 rknpu2/examples 下的 rknn_yolov5_demo 在 RK3568 Linux 64 位平
台（buildroot 系统）上运行为例，来讲解如何快速上手运行。整体思路分为三步：
1 在虚拟机 Ubuntu18.04 上交叉编译 demo 程序 rknn_yolov5_demo（demo
已经默认是 rknn，无需进行模型转换）
2 部署到 iTOP-RK3568 开发板
3 在开发板上运行 demo