SuperEdge再添国产智能加速卡支持，为边缘智能推理再提速10倍

作者

寒武纪AE团队，腾讯云容器中心边缘计算团队，SuperEdge 开发者

SuperEdge 支持国产智能加速卡寒武纪 MLU220

SuperEdge 对应的商业产品 TKE Edge 也一直在硬件和加速方面在持续耕耘，不但支持 NVIDIA 系列 GPU的加速，还在 GPU 虚拟，QGPU 化等方面持续发力。本次联合寒武纪对国产智能边缘加速卡进行了支持，以利于用户在边缘进行模型训练和边缘智能推理性能的提升。下面是经过寒武纪 AE 团队和 SuperEdge 开源团队的联合测试，对国产寒武纪边缘计算加速卡兼容性的联合声明。

中科寒武纪科技股份有限公司的边缘智能加速卡 MLU220-M.2和分布式边缘容器管理系统 SuperEdge 与相互兼容，能够对搭载M.2的边缘设备在视频、图像、语音等应用上提供数十倍的加速能力， 在此发表联合声明。

下面给出两个分类网络在 CPU 和 M.2 上的吞吐性能对比。

网络模型	M.2(fps)	CPU(fps)
vgg16	184	13
resnet50	417	29

可以看出 vgg16 M.2 是普通 i7-8700K的14倍，Resnet50 也是普通 i7-8700K 的14倍。

其中，CPU 采用的是 Intel(R) Core(TM) i7-8700K CPU @ 3.70GHz

SuperEdge 边缘容器解决方案

SuperEdge 是2020年12月腾讯云联合英特尔、VMware 威睿、虎牙、寒武纪、美团、首都在线发布的基于原生Kubernetes 的边缘分布式容器管理系统。该系统把云原生能力扩展到边缘侧，很好的实现了云端对边缘端的管理和控制，极大简化了应用从云端部署到边缘应用的过程。2021年9月已被 CNCF 基金会接受，成为 CNCF Sandbox项目，由 CNCF 监管和运维。

SuperEdge提供了如下能力：

边缘自治

云边网络往往是弱网络，中间可能是有线、无线、WIFI……连接，可能是4G、5G网络，云边断链是常态。断连时间不定，短则三五分钟，长则数小时、几天，那么如何保证边缘服务不被驱逐，继续提供正常服务呢？
SuperEdge 的边缘自治能力，可以保证云边断连的情况下，边缘服务继续稳定运行，即使边缘节点断电重启，也能自动恢复已经部署到该节点的边缘服务继续运行。

分布式健康检查

SuperEdge 提供的边缘分布式健康检查能力有两个作用：

只要边缘节点正常，边缘服务就不会驱逐
SuperEdge 会在每个边缘节点部署一个 edge-health 的 deamonset，同一个边缘 Kubernetes 集群的节点会定期 Check 彼此，对彼此的健康性进行投票，并将投票结果反馈到云端。即使边缘 Kubernetes 集群的一个节点云边网络断连，其他节点也会把他的健康性反馈到云端，就不会对该节点进行驱逐。
可分组进行分布式健康检查
即把边缘 Kubernetes 集群的边缘节点分成多个组(同一机房，或者同一地域)，每个组内的节点之间相互检查。这样做的好处是避免集群规模增大后节点之间的 Check 数据交互变大，占用节点流量，投票结果也难以达成一致的情况。

edge-health 的设计避免了由于云边网络不稳定造成的大量的 Pod 迁移和重建，保证了边缘服务的稳定。

服务访问控制

SuperEdge 自研的 ServiceGroup 实现了基于边缘计算的服务访问控制，主要有三个作用：

一键把边缘服务部署到不同站点
可以一键把同一套服务部署到位于同一边缘 Kubernetes 集群的不同站点，各个站点的服务完全保持一致。该特性目前支持 DeploymentGrid 以及 ServiceGrid 两种 Custom Resource，可以便捷的在同一个集群的多个机房或区域中各部署一组服务。
同一站点可实现流量闭环
各个站点虽然有同一套服务，但是会把本站点的访问只锁定本站点内，不会跨站点去访问其他站点的同一套服务。
新站点自动部署相应服务
新加入的站点，可指定服务标签自动部署同一套站点服务，为站点扩展提供了自动部署服务的支持。

云边隧道

边缘节点一般是没有公网IP的，或者在一个NAT网络背后，云端无法直接访问边缘节点，这就使得 kubectl logs、kubectl exec……等云端访问边缘节点的请求完全失灵。
SuperEdge 自研的云边自建隧道(目前支持TCP、HTTP、HTTPS、ssh)打通了不同网络环境下的云边连接问题。实现对无公网 IP 边缘节点的云端统一操作和维护。

批量添加局域网边缘节点及远程运维局域网边缘节点

为了解决生产环境海量边缘节点的接入，SuperEdge 团队特提供了penetrator-controller组件支持了局域网内成千上万边缘节点的接入，并且还可以在云端远程登录到局域网内的边缘节点进行远程运维。

更多的特性可登录 SuperEdge 官网：https://superedge.io 进行查看，合作交流可在社区https://github.com/superedge/superedge 提 Issuse。

MLU220 是什么？

MLU220-M.2 是寒武纪为边缘计算专门打造的加速卡，它在手指大小的标准M.2加速卡上集成了 8TOPS 理论峰值性能，功耗仅为 8.25W，可以轻松实现终端设备和边缘端设备的 AI 赋能方案。支持视觉、语音、自然语言处理以及传统机器学习等多样化的人工智能应用，实现各种业务的边缘端智能化解决方案。

MLU220 具有如下特性：

小个头大智能
思元220芯片是面向边缘侧量身定制的智能化解决方案，在 U 盘大小的尺寸下就可以提供8路高清视频的实时智能分析，可广泛支持视觉、语音、自然语言处理以及传统机器学习等高度多样化的人工智能应用，为边缘计算节点装上智慧的大脑。
新一代寒武纪硬件架构
MLUv02 架构不是简单的从上一代升级而来，新架构基于片上网络（NOC）构建，多个 NPU 集群的并行效率。基于硬件的片内数据压缩，提升缓存有效容量和带宽。新架构提供 INT16,INT8,INT4,FP32,FP16 的全面 AI 精度支持，满足多样化神经网络的计算力要求，通用、性能兼备。
计算弹性和可编程
思元220芯片支持多类神经网络，NeuWare 软件栈可以轻松部署推理环境。BANG Lang 编程环境可对计算资源做直接定制，满足多样化 AI 定制要求，专业而不专用。

加速卡硬件规格

加速卡硬件规格可概括如下：

参数	规格
型号	MLU220-M.2
内存	4GB, LPDDR4, 3200MHz
AI算力	8TOPS(INT8)
编解码能力	支持H.264,H.265, VP8, VP9；解码8x1080P@30Hz；编码4x1080P@30Hz
图片解码	支持JEPG最大分辨率8K；解码410 fps@1080P；编码400 fps@1080P
接口规格	M.2 2280, B+M Key (PCIE 3.0 X2)
功耗	8.25W (3.3V 2.5A)
结构尺寸	80mm x 22mm x 7.3mm(无散热)/21.3mm(带散热)
散热	被动散热

MLU220 能用来做什么？

MLU220 小巧的体积，强大的算力，使得它可广泛应用于智慧交通、智能电网、智能制造、智能金融等边缘计算场景，下面是一些典型的应用场景的介绍：

智慧交通

为保障道路安全和有序，在城市中的十字路口和关键道路部署多路摄像头及 MLU220 边缘加速卡。
MLU220 可实现对多路摄像头输入图像的解码处理；基于深度学习技术，MLU220 可实现对监控路段的行人，机动车，和非机动车的检测，跟踪及结构化，在交通业务上进一步做到智能车流人流统计，违法抓拍取证，关键人车的识别抓取等，极大提高交通部门效率。

智慧工厂

为打造现代化智能制造的智慧工厂，在厂区工位部署多路摄像头及 MLU220 边缘加速卡。
凭借独立的编解码单元，MLU220 可实现对多路摄像头图像的解码；在强大的算力支持下，MLU220 可实现对工人的检测，姿态识别以及对工件的检测和识别，从而实现检测工人是否在岗，工人操作是否合规以及工件是否按规定摆放等工厂的智能管理。

智慧畜牧

为实现畜牧业生产管理，安全健康监控和养殖环境智能检测，在养殖基地部署多路摄像头和 MLU220 边缘加速卡；通过深度学习技术，实现对种猪的识别，检测，实例分割和跟踪，进一步实现对种猪的点数，健康检测，吃食统计，屠宰辅助等智能养殖技术，减少人力成本，提供养殖效率。

如何在 SuperEdge 上使用寒武纪 MLU220

我们基于 SuperEdge 演示如何使用寒武纪边缘智能加速卡：

用 edgeadm 创建一个 SuperEdge 边缘 Kubernetes 集群

下载 edgeadm 安装包

arch=amd64 version=v0.6.0 && rm -rf edgeadm-linux-* && wget https://superedge-1253687700.cos.ap-guangzhou.myqcloud.com/$version/$arch/edgeadm-linux-$arch-$version.tgz && tar -xzvf edgeadm-linux-* && cd edgeadm-linux-$arch-$version && ./edgeadm

初始化边缘 Kubernetes Master 节点

./edgeadm init --kubernetes-version=1.18.2 --image-repository superedge.tencentcloudcr.com/superedge --service-cidr=10.96.0.0/12 --pod-network-cidr=192.168.0.0/16 --install-pkg-path ./kube-linux-*.tar.gz --apiserver-cert-extra-sans=<Master Public IP> --apiserver-advertise-address=<Master Intranet IP> --enable-edge=true

加入一个带寒武纪边缘智能加速卡的边缘节点

./edgeadm join <Master Public/Intranet IP Or Domain>:Port --token xxxx --discovery-token-ca-cert-hash sha256:xxxxxxxxxx --install-pkg-path <edgeadm kube-* install package address path> --enable-edge=true

关于 edgeadm 安装边缘 Kubernetes 集群的详细介绍可参考：用 edgeadm 一键安装边缘 K8s 集群和原生 K8s 集群

安装寒武纪边缘智能加速卡的插件

安装边缘智能加速卡的插件

kubectl create -f https://github.com/Cambricon/cambricon-k8s-device-plugin/blob/master/device-plugin/examples/cambricon-device-plugin-daemonset.yaml

检查插件是否安装成功
```
 kubectl get node <边缘节点NodeName> -o json --output="jsonpath={.status.allocatable}"
```
看到边缘节点 node status.allocatable 有 cambricon.com/mlu 有相关资源值表示边缘智能加速卡及插件安装成功。
```
"allocatable": {
    "cambricon.com/mlu": "1", ## MUL卡资源
    "cpu": "12",
    ...
    "memory": "16164684Ki",
    "pods": "110"
}
```
看到allocatable里面存在cambricon.com/mlu并且其资源值大于等于0，表示寒武纪边缘智能加速卡及其插件已经安装成功。

mlu插件下载地址：https://github.com/Cambricon/cambricon-k8s-device-plugin

mlu监控组件：https://github.com/Cambricon/mlu-exporter

使用边缘智能加速卡进行边缘应用加速

在提交边缘相应负载的时候指定 cambricon.com/mlu 来应用寒武纪边缘智能加速卡进行加速，比如：

apiVersion: v1
kind: Pod
...
spec:
  containers:
  - image: 10.13.30.52:5000/yolov4:latest
    name: yolov4-ctr
    resources:
      limits:
        cambricon.com/mlu: 1 ## 指定加速卡limits
      requests:
        cambricon.com/mlu: 1 ## 指定加速卡requests
...

未来

未来寒武纪和腾讯云会在边缘硬件和边缘云服务上进行更多的合作，为边缘 AI、边缘 IoT，数字化，人工智能……进行软硬件的赋能，并且相应能力在相关的商业产品中对用户提供支持，欢迎关注腾讯云边缘计算云平台 TKE Edge 和寒武纪相关加速商业产品，试用体验边缘更多的加速产品。

关于我们

更多关于云原生的案例和知识，可关注同名【腾讯云原生】公众号~

福利：

①公众号后台回复【手册】，可获得《腾讯云原生路线图手册》&《腾讯云原生最佳实践》~

②公众号后台回复【系列】，可获得《15个系列100+篇超实用云原生原创干货合集》，包含Kubernetes 降本增效、K8s 性能优化实践、最佳实践等系列。

【腾讯云原生】云说新品、云研新术、云游新活、云赏资讯，扫码关注同名公众号，及时获取更多干货！！

posted @ 2022-01-11 16:27 腾讯云原生阅读(1035) 评论(0) 编辑收藏举报

刷新页面返回顶部