边缘计算的发展现状与边缘计算的智能发展
摘 要
随着万物互联时代的到来,网络中的设备变得复杂多样,并且数量急剧增加。不可避免的,在网络中传输的数据量也在急剧增加。在云计算时代,所有的数据存储与计算均在云端服务器执行,这带来便利的同时也产生了很多需求,比如在面对大数据量的传输时,网络的带宽不足;在处理时效性较高的任务时,数据在网络的传输和云端的计算存在一定的延迟,实时性不足;存在云端的数据的安全性和隐私性问题。很多学者也在尝试缓解和解决这些问题做出了很多努力,对这些方面进行了广泛深入的讨论。在这种情况下,边缘计算应运而生。本文就边缘计算的发展历程、参与边缘计算的关键技术和边缘计算发展中亟待解决的问题展开,最后提出了边缘计算与人工智能技术相结合的一些思考。
关键词:云计算;边缘计算;万物互联;边缘智能;物联网
1 边缘计算的发展历程
边缘计算的基本理念是将计算任务在接近数据源的计算资源上运行,可以有效减小计算系统的延迟,减少数据传输带宽,缓解云计算中心压力,提高可用性,并能够保护数据安全和隐私。得益于这些优势,边缘计算从2014年以来迅速发展1。边缘计算使数据在源头附近就能得到处理,能有效解决网络带宽和时延上的瓶颈,边缘计算作为技术平台将支撑AI技术获得更广泛的应用,加速万物智能时代的到来2。
经过参考各方面资料,边缘计算发展到现在,可大致分为三个阶段:技术储备期、快速增长期和稳定发展期。
图1谷歌学术上“degecomputing”为关键词搜索到的文章数量
整体而言,边缘计算仍处于发展初期,如图2所示,在Gartner发展成熟度曲线上位于炒作巅峰,未来将迎来爆发式增长。边缘计算的核心技术主要包括边缘节点(如路由器、交换机、基站、vCPE、数据中心等)、边缘网络、边缘管理系统、边缘应用和服务等。其中,所涉及的硬件基础设施、软件技术等大多已具备,但需根据边缘计算需求进行适配或优化,如边缘节点对计算能力的支持,边缘节点的性能、可靠性和灾备,边缘计算任务的智能调度,异构边缘节点的统一管理,数据分布机制和一致性,边缘计算网络架构和性能优化,大规模边缘应用和服务,边缘功能和技术(如数据细化、视频压缩和分析等)等,这些都有待于进一步研究。
图2最新Gartner发展成熟度曲线
1.1 技术储备期
边缘计算最早可以追溯至1998年阿卡迈(Akamai)公司提出的内容分发网络[3](content delivery network,CDN),CDN是一种基于互联网的缓存网络,依靠部署在各地的缓存服务器,通过中心平台的负载均衡、内容分发、调度等功能模块,将用户的访问指向距离最近的缓存服务器上,以此降低网络拥塞,提高用户访问响应速和命中率。
CDN强调内容(数据)的备份和缓存,而边缘计算的基本思想则是功能缓存(function cache)。2005年美国韦恩州立大学施巍松教授的团队就已提出功能缓存的概念,并将其用在个性化的邮箱管理服务中,以节省延迟和带宽。2009年Satyanarayanan等人提出了Cloudlet4的概念,Cloudlet是一个可信且资源丰富的主机,部署在网络边缘,与互联网连接,可以被移动设备访问,为其提供服务,Cloudlet可以像云一样为用户提供服务,又被称为“小朵云”。此时的边缘计算强调下行,即将云服务器上的功能下行至边缘服务器,以减少带宽和时延。
随后,在万物互联的背景下,边缘数据迎来了爆发性增长,为了解决面向数据传输、计算和存储过程中的计算负载和数据传输带宽的问题,研究者开始探索在靠近数据生产者的边缘增加数据处理的功能,即万物互联服务功能的上行。具有代表性的是移动边缘计算(mobile edgec omputing,MEC)、雾计算(fogc omputing)和海云计算(cloud-sea computing)。
1.2 快速增长期
2015—2017年为边缘计算快速增长期,在这段时间内,由于边缘计算满足万物互联的需求,引起了国内外学术界和产业界的密切关注。在政府层面上,2016年5月,美国自然科学基金委(National Science Foundation,NSF)在计算机系统研究中将边缘计算替换云计算,列为突出领域(hight light area);8月,NSF和英特尔专门讨论针对无线边缘网络上的信息中心网络(NSF/Intelpartner-shipon ICN in Wireless Edge Networks,ICN-NEW);10月,NSF举办边缘计算重大挑战研讨会(NSF Workshop on Grand Challenges in Edge computing),会议针对3个议题展开研究:边缘计算未来5~10年的发展目标,达成目标所带来的挑战,学术界、工业界和政府应该如何协同合作来应对挑战。这标志着边缘计算的发展已经在美国政府层面上引起了重视。
在学术界,2016年5月,美国韦恩州立大学施巍松教授团队给出了边缘计算的一个正式定义5:边缘计算是指在网络边缘执行计算的一种新型计算模型,边缘计算操作的对象包括来自于云服务的下行数据和来自于万物互联服务的上行数据,而边缘计算的边缘是指从数据源到云计算中心路径之间的任意计算和网络资源,是一个连续统。并发表了“Edge Computing:Vision and Challenges”一文,第1次指出了边缘计算所面临的挑战,该文在2018年底被他引650次。同年10月,ACM和IEEE开始联合举办边缘计算顶级会议(ACM/IEEE Symposium on Edge Computing,SEC),这是全球首个以边缘计算为主题的科研学术会议。自此之后,ICDCS,INFOCOM,Middle Ware,WWW等重要国际会议也开始增加边缘计算的分会(track)或者专题研讨会(workshop)。
工业界也在努力推动边缘计算的发展,2015年9月,欧洲电信标准化协会(ETSI)发表关于移动边缘计算的白皮书,并在2017年3月将移动边缘计算行业规范工作组正式更名为多接入边缘计算(multi-access edge computing,MEC),致力于更好地满足边缘计算的应用需求和相关标准制定。2015年11月,思科、ARM、戴尔、英特尔、微软和普林斯顿大学联合成立了OpenFog联盟,主要致力于Fog Reference Architecture的编写。为了推进和应用场景在边缘的结合,该组织于20108年12月并入了工业互联网联盟。
国内边缘计算的发展速度和世界几乎同步,特别是从智能制造的角度。2016年11月,华为技术有限公司、中国科学院沈阳自动化研究所、中国信息通信研究院、英特尔、ARM等在北京成立了边缘计算产业联盟(edge computing consortium),致力于推动“政产学研用”各方产业资源合作,引领边缘计算产业的健康可持续发展。2017年5月首届中国边缘计算技术研讨会在合肥开幕,同年8月中国自动化学会边缘计算专委会成立,标志着边缘计算的发展已经得到了专业学会的认可和推动。
1.3 稳健发展期
2018年是边缘计算发展过程中的重要节点,尽管此前业内已经对边缘计算报以了很大期望,而2018年边缘计算被推向前台,开始被大众熟知。
边缘计算在稳健发展期有4个重要事件,2018年1月全球首部边缘计算专业书籍《边缘计算》出版,它从边缘计算的需求与意义、系统、应用、平台等多个角度对边缘计算进行了阐述。2018年9月17日在上海召开的世界人工智能大会,以“边缘计算,智能未来”为主题举办了边缘智能主题论坛,这是中国从政府层面上对边缘计算的发展进行了支持和探讨。2018年8月两年一度的全国计算机体系结构学术年会以“由云到端的智能架构”为主题,由此可见,学术界的研究焦点已经由云计算开始逐渐转向边缘计算。
同时,边缘计算也得到了技术社区的大力支持,具有代表性的是:2018年10月CNCF基金会和Eclipse基金会展开合作,将把在超大规模云计算环境中已被普遍使用的Kubernetes,带入到物联网边缘计算场景中。新成立的Kubernetes物联网边缘工作组将采用运行容器的理念并扩展到边缘,促进Kubernetes在边缘环境中的适用。本文相信,经过前期的技术储备和最近几年的快速增长,边缘计算将成为学术界和产业界的热门话题,实现学术界与工业界的融合,加快产品落地,便利大众生活,步入稳健发展时期。
2 参与边缘计算的关键技术
计算模型的创新带来的是技术的升级换代,而边缘计算的迅速发展也得益于技术的进步。本节总结了推动边缘计算发展的几项关键技术,它们包括5G通信技术、隔离技术、轻量级函数库和内核、边缘操作系统以及安全和隐私技术6。
2.1 5G通信技术
5G数据通信技术是下一代移动通信发展新时代的核心技术。为了满足各种延时敏感应用的需求,世界各国都在加速部署5G网络的步伐。
与全世界范围内,目前已经相对普及的4G相比,5G将作为一种全新的网络架构,提供10Gps以上的峰值速率、更佳的移动性能、毫秒级的时延和超高密度的链接。5G技术可以更佳高效的快捷应对网络边缘海量连接的设备,以及爆炸式增长的移动数据流量,为万物互联的时代提供优化的网络通信技术支持。
5G网络将不仅仅用于人与人之间的通信,还会用于人与物、物与物之间的通信。我国IMT-2020(05G)推进组,提出5G业务的三个技术场景:增强移动宽带(enhanced mobile broadband,eMBB)面向虚拟现实以及增强现实等极高带宽需求的业务;海量机器类通信(massive machine type of communication,mMTC)面向智慧城市、智能公交等高连接密度需求的业务;超可靠低时延通信(ultra-reliable and low latency communication,uRLLC)面向于无人驾驶、无人机等时延敏感的业务。
5G技术将作为边缘计算模型中一个极其重要的关键技术存在,边缘设备通过处理部分或全部计算任务,过滤无用的信息数据和敏感信息数据后,仍需要将中间数据或最终数据上传至云计算中心,因此5G技术其中一个作用将是移动边缘终端设备降低数据传输延时的必要解决方案。
2.2 隔离技术
隔离技术是支撑边缘计算稳健发展的重要研究技术,边缘设备需要通过有效的隔离技术来保证服务的可靠性和服务质量。隔离技术需要考虑2方面:计算资源的隔离,即应用程序间不能相互干扰;数据的隔离,即不同应用程序应具有不同的访问权限。
在云计算场景下,由于某一应用程序的崩溃可能带来整个系统的不稳定,造成严重的后果,而在边缘计算下,这一情况变得更加复杂。例如在自动驾驶操作系统中,既需要支持车载娱乐满足用户需求,又需要同时运行自动驾驶任务满足汽车本身驾驶需求,此时,如果车载娱乐的任务干扰了自动驾驶任务,或者影响了整个操作系统的性能,将会引起严重后果,对生命财产安全造成直接损失。
隔离技术同时需要考虑第三方程序对用户隐私数据的访问权限问题,例如,车载娱乐程序不应该被允许访问汽车控制总线数据等。目前在云计算场景下主要使用VM虚拟机和Docker容器技术等方式保证资源隔离。边缘计算可汲取云计算发展的经验,研究适合边缘计算场景下的隔离技术。在云平台上普遍应用的Docker技术可以实现应用在基于OS级虚拟化的隔离环境中运行,Docker的存储驱动程序采用容器内分层镜像的结构,使得应用程序可以作为一个容器快速打包和发布,从而保证了应用程序间的隔离性。Li等人建立了一个基于Docker迁移的有效服务切换系统[7],利用Docker的分层文件系统支持,提出了一种适合边缘计算的高效容器迁移策略,以减少包括文件系统、二进制内存映象、检查点在内的数据传输的开销。
Ha等人提出了一种VM切换技术[8],实现虚拟机VM的计算任务迁移,支持快速和透明的资源放置,保证将VM虚拟机封装在安全性和可管理行要求较高的应用中。这种多功能原语还提供了动态迁移的功能,对边缘端进行了优化。这种基于VM的隔离技术提高了应用程序的抗干扰性,增加了边缘计算系统的可用性。
2.3 轻量级函数库和内核
与大型服务器不同,边缘计算设备由于硬件资源的限制,难以支持大型软件的运行。即使是ARM处理器的处理速度不断提高,功耗不断降低,但就目前情况来看,仍是不足以支持复杂的数据处理应用的。
比如,ApacheSpark若要获得较好的运行性能,至少是需要8核的CPU和8GB的内存,而轻量级库ApacheQuarks只可以在终端执行基本的数据处理,而无法执行高级的分析任务。
另外,网络边缘中存在着由不同厂家设计生产的海量边缘设备,这些设备具有较强的异构性且性能参数差别较大,因此在边缘设备上部署应用是一件非常困难的事情。在此,虚拟化技术是这一难题的首选解决方案。但基于VM的虚拟化技术是一种重量级的库,部署延时较大,其实并不适用于边缘计算模型。对于边缘计算模型来说,应该采用轻量级库的虚拟化技术。
资源受限的边缘设备更加需要轻量级库以及内核的支持,以消耗更少的资源以及时间,达到最好的性能。因此,消耗更少的计算以及存储资源的轻量级库和算法是边缘计算中不可缺少的关键技术。
2.4 边缘操作系统
边缘计算操作系统向下需要管理异构的计算资源,向上需要处理大量的异构数据以及多用的应用负载,其需要负责将复杂的计算任务在边缘计算节点上部署、调度及迁移,从而保证计算任务的可靠性以及资源的最大化利用。与传统的物联网设备上的实时操作系统Contiki和freeRTOS不同,边缘计算操作系统更倾向于对数据、计算任务和计算资源的管理框架。
机器人操作系统(robot operatings ystem,ROS)[9]最开始被设计用于异构机器人机群的消息通信管理,现逐渐发展成一套开源的机器人开发及管理工具,提供硬件抽象和驱动、消息通信标准、软件包管理等一系列工具,被广泛应用于工业机器人、自动驾驶车辆即无人机等边缘计算场景。为解决ROS中的性能问题,社区在2015年推出ROS2.0,其核心为引入数据分发服务(data distribution service,DDS),解决ROS对主节点(matser node)性能依赖问题,同时DDS提供共享内存机制提高节点间的通信效率。EdgeOSH则是针对智能家居设计的边缘操作系统,其部署于家庭的边缘网关中,通过3层功能抽象连接上层应用和下层智能家居硬件,其提出面向多样的边缘计算任务,服务管理层应具有差异性(differentiation)、可扩展性(extensibility)、隔离性(isolation)和可靠性(reliability)的需求。Phi-Stack中提出了面向智能家居设备的边缘操作系统PhiOS,其引入轻量级的REST引擎和LUA解释器,帮助用户在家庭边缘设备上部署计算任务。OpenVDAP是针对汽车场景设计的数据分析平台,其提出了面向网联车场景的边缘操作系统EdgeOSv。该操作系统中提供了任务弹性管理、数据共享以及安全和隐私保护等功能。
根据目前的研究现状,ROS以及基于ROS实现的操作系统有可能会成为边缘计算场景的典型操作系统,但其仍然需要经过在各种真实计算场景下部署的评测和检验。
2.5 安全和隐私
虽然边缘计算将计算推至靠近用户的地方,避免了数据上传到云端,降低了隐私数据泄露的可能性[10]。但是,相较于云计算中心,边缘计算设备通常处于靠近用户侧,或者传输路径上,具有更高的潜在可能被攻击者入侵,因此,边缘计算节点自身的安全性仍然是一个不可忽略的问题。边缘计算节点的分布式和异构型也决定了其难以进行统一的管理,从而导致一系列新的安全问题和隐私泄露等问题。作为信息系统的一种计算模式,边缘计算也存在信息系统普遍存在的共性安全问题,包括:应用安全、网络安全、信息安全和系统安全等。
在边缘计算的环境下,通常仍然可以采用传统安全方案来进行防护,如通过基于密码学的方案来进行信息安全的保护、通过访问控制策略来对越权访问等进行防护。但是需要注意的是,通常需要对传统方案进行一定的修改,以适应边缘计算的环境。同时,近些年也有一些新兴的安全技术(如硬件协助的可信执行环境)可以使用到边缘计算中,以增强边缘计算的安全性。此外,使用机器学习来增强系统的安全防护也是一个较好的方案。
可信执行环境(trusted execution environment,TEE)是指在设备上一个独立于不可信操作系统而存在的可信的、隔离的、独立的执行环境,为不可信环境中的隐私数据和敏感计算提供了一个安全而机密的空间,而TEE的安全性通常通过硬件相关的机制来保障。常见的TEE包括Intel软件防护扩展、Intel管理引擎、x86系统管理模式、AMD内存加密技术、AMD平台安全处理器和ARMTrustZone技术。通过将应用运行于可信执行环境中,并且将使用到的外部存储进行加解密,边缘计算节点的应用,可以在边缘计算节点被攻破时,仍然可以保证应用及数据的安全性。
3 边缘计算发展中亟待解决的问题
目前边缘计算已经得到了各行各业的广泛重视,并且在很多应用场景下开花结果。根据边缘计算领域特定的特点,本文列出3个未来几年迫切需要解决的问题:编程模型、基准程序与标准、动态调度。
3.1 编程模型
编程模型可以使开发者快速上手开发应用产品,从而快速推动领域的发展。在云计算场景中,用户程序在目标平台上编写和编译,然后运行到云服务器,基础设施对于用户是透明的,例如亚马逊基于此编程模型推出的Lambda计算服务[11],可使用户无需预配置或者管理服务器即可运行代码,极大地方便了用户的使用。然而,边缘计算模型与云计算模型存在较大的区别,从功能角度讲,边缘计算是一种分布式的计算系统,具有弹性管理、协同执行和环境异构的特点,如图3所示:
图3边缘计算模型
从图3可知,边缘计算包含3个关键内容:
应用程序/服务功能可分割。边缘计算中的一个任务可以迁移到不同的边缘设备去执行,任务可分割包括仅能分割其自身或将一个任务分割成子任务,任务的执行需要满足可迁移性,即任务可迁移是实现在边缘设备上进行数据处理的必要条件。数据可分布。数据可分布既是边缘计算的特征也是边缘计算模型对待处理数据集合的要求。边缘数据的可分布性是针对不同数据源而言的,不同数据源来源于数据生产者所产生的大量数据。资源可分布。边缘计算模型中的数据具有一定的可分布性,从而要求处理数据所需要的计算、存储和通信资源也具有可分布性。只有当边缘计算系统具备数据处理和计算所需要的资源,边缘设备才可以对数据进行处理。
因此,传统的编程模型并不适合边缘计算。边缘计算中的设备大多是异构计算平台,每个设备上的运行时环境、数据也不相同,且边缘设备的资源相对受限,在边缘计算场景下部署用户应用程序会有较大的困难。Li等人针对边缘设备资源受限的特性设计了一种轻量级的编程语言EveryLite,该工作将计算迁移任务中主体为接口调用的、时间和空间复杂度受限的计算任务称为微任务(micro task),EveryLite能够在物端设备上处理边缘计算场景中微任务,经过实验对比可以发现EveryLite的执行时间分别比Jerryt和Lua低77%和74%,编译后内存占用量分别是Jerryt和Lua的18。9%和1。4%。因此,针对边缘计算场景下的编程模型的研究具有非常大的空间,也十分紧迫。
3.2 基准程序和标准
随着边缘计算的发展,学术界和工业界开始推出越来越多的针对不同边缘计算场景设计的硬件或软件系统平台,那么我们会面临一个紧迫的问题,即如何对这些系统平台进行全面并公平的评测。传统的计算场景都有经典基准测试集(benchmark),例如并行计算场景中的PARSEC、高性能计算场景中的HPCC、大数据计算场景中的Big Data Bench。
由于边缘计算仍然是较新的计算场景,业界仍然没有一个比较权威的用于评测系统性能的Benchmark出现,但是学术界已经开始有了一些探索工作SD-VBS和MEVBench均是针对移动端设备评测基于机器视觉负载的基准测试集。SD-VBS选取了28个机器视觉核心负载,并提供了C和Matlab的实现;MEVBench则提供了一些列特征提取、特征分类、物体检测和物体追踪相关的视觉算法负责,并提供单线程核多线程的C++实现。SLAMBench是一个针对移动端机器人计算系统设计的基准测试集,其使用RG&DSLAM作为评测负载,并且针对不同异构硬件提供C++,OpenMP,OpenCL和CUDA版本的实现。CAVBench是第1个针对智能网联车边缘计算系统设计的基准测试集,其选择6个智能网联车上的典型应用作为评测负责,并提供标准的输人数据集和应用-系统匹配指标。
由于边缘计算场景覆盖面广,短期来看不会出现一个统一的基准测试集可以适应所有场景下的边缘计算平台,而是针对每一类计算场景会出现一个经典的基准测试集,之后各个基准测试集互相融合借鉴,找出边缘计算场景下的若干类核心负载,最终形成边缘计算场景中的经典基准测试集。
3.3 动态调度
在云计算场景下,任务调度的一般策略是将计算密集型任务迁移到资源充足的计算节点上执行。但是在边缘计算场景下,边缘设备产生的海量数据无法通过现有的带宽资源传输到云计算中心进行集中式计算,且不同边缘设备的计算、存储能力均不相同,因此,边缘计算系统需要根据任务类型和边缘设备的计算能力进行动态调度。调度包括2个层面:云计算中心和边缘设备之前的调度;边缘设备之间的调度。
云计算中心与边缘设备间的调度分为2种方式:自下而上和自上而下。自下而上是在网络边缘处将边缘设备采集或者产生的数据进行部分或者全部的预处理,过滤无用数据,以此降低传输带宽;自上而下是指将云计算中心所执行的复杂计算任务进行分割,然后分配给边缘设备执行,以此充分利用边缘设备的计算资源,减少整个计算系统的延迟和能耗。2017年,Kang等人设计了一个轻量级的调度器Neurosurgeon,它可以将深度神经网络不同层的计算任务在移动设备和数据中心间自动分配,使得移动设备功耗最多降低了94.7%,系统延迟最多加快了40.7倍,并且数据中心的吞吐量最多增加了6.7倍。边缘设备间也需要动态调度。边缘设备的计算、存储能力本身是不同的,并且会随着时间的变化而变化,而它们承担的任务类型也是不一样的,因此需要动态调度边缘设备上的任务,提高整体系统性能,防止出现计算任务调度到一个系统任务过载情况下的设备。Zhang等人针对延迟敏感性的社会感知任务设计了一个边缘任务调度框架COGTA,实验证明该框架可以满足应用和边缘设备的需求。
综上所述,动态调度的目标是为应用程序调度边缘设备上的计算资源,以实现数据传输开销最小化和应用程序执行性能的最大化。设计调度程序时应该考虑:任务是否可拆分可调度、调度应该采取什么策略、哪些任务需要调度等。动态调度需要在边缘设备能耗、计算延时、传输数据量、带宽等指标之间寻找最优平衡。根据目前的工作,如何设计和实现一种有效降低边缘设备任务执行延迟的动态调度策略是一个急需解决的问题。
4 边缘智能计算
随着边缘计算的不断发展,结合人工智能相关技术,可以实现边缘计算的丰富应用,同时进一步促进人工智能的落地与发展。边缘计算结合人工智能共有两个思路:一个是边缘智能计算,另一个是智能边缘计算,
4.1 边缘智能计算简介
边缘计算将计算、网络、存储等能力扩展到物联网设备附近的网络边缘侧,而以深度学习为代表的人工智能技术让每个边缘计算的节点都具有计算和决策的能力,这使得某些复杂的智能应用可以在本地边缘端进行处理,满足了敏捷连接、实时业务、数据优化、应用智能、安全与隐私保护等方面的需求。
人工智能正逐渐从云端向边缘侧的嵌入端迁移,智能边缘计算由此应运而生。例如,带有智能视觉处理功能的摄像头等。与云计算相比,边缘计算更靠近终端,存在诸多优良特性。因此,边缘计算和云计算的混合使用,通常被认为是构建企业级物联网解决方案的最佳实践。
图4从云到边缘的计算架构数据来源:边缘计算产业联盟,2019年10月
4.2 边缘智能计算的主要特点
智能边缘计算利用物联网的边缘设备进行数据采集和智能分析计算,实现智能在云和边缘之间流动,对人工智能算法、终端、芯片都提出了新的需求,正成为越来越多人工智能企业关注的重点方向。目前,智能边缘计算具有四个方面主要特点:一是在本地进行数据分析计算,更好地支持业务的实时处理与执行;二是终端的绝大部分数据不需在设备和云端间往返,有效减少了网络流量压力;三是就近实现数据分析并做出反馈,业务执行效率更高;四是支持移动性,对带宽、环境条件要求不大,能够广泛部署。
4.3 边缘智能计算的应用领域
当前,人工智能不仅能应用于超级计算机和大型设备,也正在成为智能手机和可穿戴设备的一部分。IDC统计数据显示,到2020年将有超过500亿的终端和设备联网,其中超过50%的数据需要在网络边缘侧存储、分析和处理,人工智能芯片的发展正在赋予终端设备机器学习能力,无人驾驶、机器人、视频图像处理等越来越多的应用和场景需要在终端进行实时运算处理。CBInsights数据也显示,人工智能发展正在进入“端”时代,包括手机、汽车、可穿戴在内的终端都将越来越多地迎来AI加持。而人工智能的边缘化应用将在智能制造、智能家居、自动驾驶、虚拟现实等诸多热门场景中得以显现。比如智能交通、智能城市、智能制造等。
在智能交通应用中,智能交通系统需要对监控摄像头和传感器收集的数据做到实时分析;在无人驾驶方面,可以通过边缘智能计算利用本地车载端的人工智能处理器进行数据处理,同时利用云端的计算能力,建立车载端数据模型,将提高事件分析的准确性,提高智能交通系统的安全性。
图5智慧城市的计算架构示意图
在智慧城市应用中,近年来,智能传感器设备逐渐被安装在城市中的办公室、零售店、工厂、医院等建筑中,形成了智慧城市发展所需的基础设施。同时,将计算最大程度迁移到数据源附近的原则,用户需求将在计算模型上层产生,并且在边缘进行处理。因此,边缘计算可作为云计算在网络边缘的延伸,对城市产生的数据和个人隐私数据进行高效和安全的处理,帮助政府及时做出决策,提高城市公民的生活质量。
5 智能边缘计算
5.1 智能边缘计算简介
机器学习,特别是深度学习,又是处理这样庞大数据的绝佳方法。通过将这些机器学习方法融入边缘计算架构中,优化边缘缓存、边缘计算任务卸载以及整体边缘上的资源调度,以达到优化整体边缘计算3
图6智能边缘计算结构图
5.2 边缘缓存技术的优化
移动设备上的多媒体应用得到了迅速发展,预计到2021年,全球移动数据流量将增长至每年500EB。用户对于多媒体内容的访问需求不断攀升,为了支撑庞大的数据流量,需要更多的网络资源,这也导致服务器出现流量拥挤的状况,加大了网络负载。
边缘缓存技术能很好地解决流量负载问题,它可以在边缘节点中预缓存终端用户所需的内容,从而降低网络中的流量负载。在边缘缓存技术中,我们通常关注的问题包括缓存什么、在哪里以及何时缓存等几个方面,这需要依赖于对用户需求以及内容流行度的预测,在这方面,深度强化学习有着很好的应用。深度强化学习是人工智能技术的一种,能够通过与环境的交互学习来处理决策问题,而边缘计算技术也赋予边缘节点计算与存储能力,这使得在边缘计算架构中使用人工智能技术成为可能。通过挖掘网络中的用户信息和数据指标,借助深度强化学习技术来学习整合,可以更好地了解用户行为和网络特征,进而使每个边缘节点能够感知其网络环境,在有限存储空间中智能地选择要缓存的内容,提升缓存性能。
5.3 计算任务卸载的优化
在边缘计算架构中,终端可以将计算任务卸载到附近的边缘节点或者云端执行,然后再接收处理结果。但是,由于网络条件的变化和资源的限制,任务可能无法以低执行成本进行卸载。因此,可以使用深度强化学习技术,在任务卸载过程中学习卸载决策和执行成本,在训练过程中不断地引导深度强化学习模型中最大化相应奖励函数,最终实现计算任务智能化卸载的决策能力,优化计算任务的执行效率。
5.4 边缘计算资源调度的优化
由于边缘节点中通信资源和计算资源的局限性制约了任务处理能力,而深度强化学习技术作为边缘计算平台中的智能决策者,可以对资源进行合理调度,提升资源的利用效率。通过将深度强化学习技术融入边缘计算框架中,优化边缘计算的多个方面,可以为边缘计算提供有力的技术支持。
5.5 小结
边缘计算与人工智能技术相辅相成。在边缘智能计算方面,边缘计算为人工智能提供了一个高质量的计算架构,对一些时延敏感、计算复杂的人工智能应用提供了切实可行的运行方案。在智能边缘计算方面,人工智能技术也在边缘计算的许多环节中扮演着决策者的角色,对节点资源起到了优化作用,成为边缘计算的重要技术支柱。技术的交叉融合往往会带来一些创造性的解决方案。当下边缘计算与人工智能的联系日益加强,二者相互促进、相互依托,为5G时代颠覆性创新成果的诞生奠定了坚实基础。
6 参考文献
1施巍松,张星洲,王一帆,张庆阳.边缘计算:现状与展望[J].计算机研究与发展,2019,56(01):69-89.
2陈刚,孔德超,谷金龙,赵杰,张旭.AI边缘计算技术推动万物智能时代的到来[J].人工智能,2019(05):6-17.
3王晓飞,韩溢文.边缘智能计算与智能边缘计算[J].张江科技评论,2019(02):10-12.
4王哲.智能边缘计算的发展现状和前景展望[J].人工智能,2019(05):18-25.
3Pa11is G,Vakali A.In sight and perspectives for content delivery networks[J].Communications of the ACM,2006,49(1):101-106p
4Ѕаtуаnаrауаnаn М,Ваhl V,Сасеrеѕ R,еt аl.Тhе саѕе fоr VМ-based cloudlets in mobile computing[J].IEEE Реrvаѕіѵе Соmрutіng, 2009,8(4):14-2З
5 Shi Weisong, Cao Jie, Zhang Quan, et al.Edge computing: Vision and challenges[J]. IEEE Internet of Things Journal, 2016, 3(5): 637-646
6区块链兄弟.边缘计算系列科普(五)边缘计算中的关键技术[EB/OL]. https://baijiahao.baidu.com/s?id=1610279823695473478& wfr=spider&for=pc, 18-08-31.
[7]Ma L,Yi S,LiQ.Efficient service handoff across edge seгѵегѕ ѵіа Dосkеr сопtаіnеr mіgrаtіоn[С]Рrос оf thе 2nd АСM/IEEE Sympon Edge Computing(SEC).Ne wYork:ACM, 2017:11:1-11:13
[8]Ha K,AbeY,EiszlerT,et al.You can teach elephants to dance:Agile VM handoff for edge computing[C]//Proc of the 2nd ACM/IEEE Sympon Edge Computing (SEC).NewYork:ACM, 2017:12:1-12:144
[9]QuigleyM,ConleyK,Gerkey B, et al. ROS:Anopen-source robotoperatingsys tem[EB/OL] .[2018-11-26]. http://www.will1owgarage.com/sites/default/files/icraoss09-ROS. pdf
[10]Yi S,QinZ,LiQ.Security and privacy issues of fog computing:Asurvey[C]//Proc of Int Conf on Wireless Algorithms, Systems, and Applications. Cham,Switzerland:Springer,2015:685-695
[11]Amazon. AWS Lambda[EB/OL]. [2018-11-04].https://aws. amazon.com/cn/lambda/
[12]杨凯,丁晓璐,刘俊萍.物联网智能边缘计算研究及应用[J].电信科学,2019,35(S2):176-184.
[13]凌敏,张文金,袁亮,熊继平.面向边缘计算的物联网网络流量测量方法[J/OL].重庆大学学报:1-14[2020-01-02].http://kns.cnki.net/kcms/detail/50.1044.N.20191211.1535.002.html.
[14]柳兴,杨震,王新军,朱恒.移动边缘计算中的内容分发加速策略[J/OL].计算机应用: 1-5[2020-01-02]. http://kns.cnki.net/kcms/detail/51.1307.TP.20191218.1235.002.html.
[15].工业4.0时代智能制造的新宠——边缘计算[J].智慧工厂,2018(09):24-25.