从Vivado到Vitis

https://baijiahao.baidu.com/s?id=1652136993920075903&wfr=spider&for=pc

 

12月3日，赛灵思在北京召开2019赛灵思开发者大会（2019XDF）亚洲站，赛灵思总裁兼CEO Victor Peng及相关高管分享了公司启动“三大战略”，推动公司“转型”一年多来所取得的重大成就。同时，还首度面向亚洲市场正式介绍了最新的Vitis 统一软件平台 （ 10月初在XDF 美国站首次发布），并推出了针对AI和机器学习推理的统一软件平台——Vitis AI。此外，来自阿里巴巴、百度、浪潮及中泰证券的重量级嘉宾也登台分享了与赛灵思的合作成果。

三大战略初见成效

“赛灵思已经不再是一家FPGA的企业，我们已经转型为一家面向灵活应变、万物智能世界的平台公司，而且我们这个转型也要超越FPGA这个器件来打造整个平台，因为这将使得我们能够更好的满足客户的需求，尤其是在当今这个高速变化时代。”赛灵思全球总裁兼CEO Victor Peng在去年的2018赛灵思开发者大会（XDF）上说到。

去年3 月，上任伊始的赛灵思全球总裁兼CEO Victor Peng 在与中国媒体的首次见面会上，重申公司数年来一直在推进的从器件公司向平台公司转型的战略，提出打造灵活应变，万物智能世界的愿景和未来发展三大战略：数据中心有先，加速核心市场发展和驱动自适应计算技术。2018 年10 月XDF2018 赛灵思开发者大会上，Victor 宣布首款自适应计算加速平台Versal ACAP 面世。同期面对数据中心优先战略推出计算加速平台Alveo 加速卡，同Victor Peng还提出了数据中心优先、从硬件产品上将公司转型之路推向快速道。

那么直至今日，赛灵思的三大战略取得了哪些进展，平台转型战略又有哪些推进呢？

1、数据中心优先：三季度实现92%增长

随着人工智能、物联网技术的发展，数据呈爆炸式的增长，这也直接推动了数据中心市场的高速成长。而在数据中心计算单元当中，虽然目前CPU仍占据主导地位，GPU也占据了很大一块的AI训练市场。但是，随着摩尔定律的推进越来越迟缓，CPU/GPU的迭代越来越慢，爆炸式增长的数据也给数据中心带来了更大的压力。

▲赛灵思总裁兼CEO Victor Peng

赛灵思总裁兼CEO Victor Peng表示，这是因为传统架构对于现在的任务应用已经应付不了，行业亟需架构的创新，而更具灵活性、自适应性更强、支持软件定义的FPGA则将成为继续推动数据中心创新的强大动力。

作为赛灵思在数据中心领域的重要合作伙伴，浪潮集团高级副总裁彭震也表示：“FPGA过去在整个IT的生命周期里面，更多是一个阶段性的工具，但是云计算和AI改变了整个IT的发展趋势，通过软件去定义硬件架构的可定制计算，变成了一个非常大的发展潮流。在此背景之下，硬件重构加软件定义，成为了浪潮对未来IT技术架构的一种构想。随着全新的IT架构变迁，可编程、可定制已经变成了整个IT生命周期一个长期持续化的事情。我们可以看到，包括中国的互联网，包括北美领先的互联网公司里面，FPGA将会成为IT技术架构里面一个非常重要的不可缺少的重要构成部分。”

▲浪潮集团高级副总裁彭震

根据Semico Research的数据显示，全球市场数据中心加速器市场预计将从2018年的28.4亿美元增长到2023年的211.9亿美元，年复合增长率（CAGR）为49.47% 。预测期内，FPGA预计将是年复合增长率最高的细分市场，该增长将由企业级工作负载加速应用对FPGA越来越多的采用而驱动。

那么在数据中心对于FPGA需求保持高速增长、赛灵思去年就提出数据中心优先战略的背景之下，赛灵思的数据中心业务又表现如何呢？

根据Victor Peng公布的信息显示，在截至今年9月底的最新一个季度，赛灵思的数据中心业务同比增长了24%，季度增长了92%。与此同时，赛灵思在数据中心领域的生态系统也发展的非常的快，主要的OEM像浪潮、戴尔、HP都推出了基于赛灵思Alveo加速卡的服务器，业界领先的经销商Clolfax、Ingram也都加入了Alveo生态系统。当然，对于生态系统来说，光有硬件厂商还不够，还需要更为丰富的软件应用厂商的助力。

据介绍，目前，基于赛灵思数据中心生态的企业与学术单位已经有7517家，有834个加速器项目在进行当中，已发布的应用也已超过了95个，这些应用涵盖了AI、视频转码、数据分析、金融、生命科学等众多领域。

作为赛灵思在数据中心领域的重要合作伙伴，浪潮通过硬件重构加软件定义业务模式的创新，在数据中心市场保持了高速成长。据浪潮集团高级副总裁彭震介绍，在过去五年里，浪潮服务器的年平均增长率达到了60%以上。而根据最新的统计数据显示，浪潮在中国服务器的市场的占有率已达32.9%，排名第一，特别是在国内的互联网市场，市占率更是超过了50%。在全球服务器市场，浪潮的市占率也进入了全球前三，并且增速保持第一。此外，浪潮AI服务器在中国市场市占率也超过了50%。

“我们和赛灵思一起做了很多的创新，比如F37X，它是面向低延迟的各种AI加速运用；N10X是面向数据中心的智能网卡，用于数据中心的网络加速，以及多个中心之间流速的定定义，是面向软件定义网络的一款产品；在视频方面AI加速卡，F07V是面向FaaS服务这样的total solution产品。实际上FaaS已经变成了云服务提供商标标准的服务，也标志着FPGA变成了IT基础架构里面一个非常通用的标准化服务。此外，我们还和赛灵思一起也面向大的客户开展定制化的产品，面向无人驾驶，智慧医疗、智慧金融等，围绕客户定义差异化产品。这些差异化产品，随着这些产品广泛应用，我们也会带到通用产品里面来。FPGA定义人工智能、定义存储、定义网络，提供标准化的FPGA异构计算，我相信在未来硬件重构加软件定义的大浪潮里面，浪潮和赛灵思可以为大家提供越来越多的领先产品和全新架构，为大家的业务创新带来巨大的变迁。”彭震非常兴奋的说到。

除了与浪潮之间的合作之外，赛灵思还分享了与生命科学公司illumina、视频云处理厂商Aupera（赛灵思有投资）的合作案例。Victor Peng称，通过与赛灵思的合作，illumina在因组分析应用上提速了90倍，Aupera的每单元每瓦特的性能上升了33倍。此外，存储加速领域，赛灵思也与IBM、美光、三星都开展了合作，从而可以实现数据在最近的区域进行处理。在智能网卡SmartNIC领域，对于双插槽DC服务器来说，使用基于赛灵思的智能网卡，数据吞吐量加快了3-6倍，CPU利用率提高了1.5倍。

在赛灵思执行副总裁、数据中心总经理Salil Raje看来，赛灵思的数据中心优先战略当中，包含了三个细分层面：一是计算，二是网络，三是存储。这三个方面的市场增长都非常的快。赛灵思在这三个方面都有着深度的布局，除了前面提到的FPGA加速卡之外，在网络方面，赛灵思还有SmartNIC产品，会在网络数据流入过程当中可同时进行处理；在计算存储方面，数据通常是会从SSD和CPU之间来回转移，如果采用赛灵思的解决方案可以很好的实现计算存储能力的一个聚集，不用在SSD和CPU之间来回转移。

▲赛灵思执行副总裁、数据中心总经理Salil Raje

Salil Raje认为：“在软件定义人工智能、定义存储、定义网络的趋势之下，分布式自适应计算将成为数据中心的未来。它将使得数据中心大幅提升数据集的利用率、提升性能、减少能耗、降低时延，同时还能够大幅降低总体拥有成本（TCO）。更重要的是，无需更新芯片即可实现定制化和快速创新。”

2、加速核心市场发展

除了作为优先发展的数据中心业务之外，赛灵思的产品也在工业与视觉、医疗与科学、有线/无线通信、测试测量与仿真、专业A/V与广播、汽车、消费电子等领域有着广泛的应用。在当天的会议上，赛灵思也着重介绍了其在汽车、有线/无线通信领域的发展成果。

①汽车领域

众所周知，在汽车领域，特别是在ADAS/自动驾驶方面，对于数据处理的性能和低延时要求非常的高，另外由于算法的持续更新和优化，对于软硬件的持续可升级性也提出了新的要求，而在这方面FPGA有着很大的优势。

据赛灵思介绍，在过去十多年来，赛灵思已经在汽车领域的器件出货已经超过了1.7亿片，其中 ADAS领域就有6700万片。仅2018年，赛灵思在汽车领域已经拥有29个合作品牌，相关器件也被应用到了111款车型上。

赛灵思汽车战略与客户市场营销总监Dan Isaacs表示：“我们的产品质量和可靠性是同类产品中最好的，产品的PPM值很低，并且还在不断降低。我们已拥有200家ADAS和自动驾驶客户群，包括全球主要的一级、原始设备制造商和初创企业。赛灵思是ADAS和自动驾驶的首选芯片供应商，因为我们的产品已经从边缘传感器扩展到具有通用架构的域控制器。比如最近发布的ZU7和ZU11 Zynq UtraScale+系列产品完全符合汽车安全、质量和可靠性要求。可满足客户从L2到L4自动驾驶对数据聚合、预处理和传感器数据分发处理的需求。”

▲赛灵思汽车战略与客户市场营销总监Dan Isaacs

可以看到，目前在汽车领域，百度Apollo、比亚迪、戴姆勒、Magna(麦格纳)、采埃孚(ZF)和小马智行都是赛灵思的合作伙伴。其中，小马智行就利用了赛灵思的自适应产品与汽车上的传感器进行融合，改进他们的响应以及安全性，获得了非常好的性能表现，延迟性也非常低。

②通信领域

谈到通信领域，我们就不得不提及当下非常火热的5G。而推动5G部署的推动力则是由于网络上数据的爆炸式增长，运营商和用户都希望尽量降低每GB数据传输的价格。

那么，为什么5G能够在提升网络传输速度的同时，降低每GB流量的成本呢？一方面，是提高了频谱的频率，获得更大的带宽，从而使得传递数据的速率提高；另一方面则是Massive MIMO技术，使用64/128/256个天线，可以更有效的利用分配的频段，提升数据收发频率。

不过，我们也可以看到，5G的频谱的复杂性非常的高，从低频的1GHz以下，到中频的1-6GHz，再到高频的24GHz以上，频段跨度很大；另外 mMIMO大规模天线阵列（AAU部分）增加了无线电管理的复杂性。而赛灵思产品的优势就是在这方面，其已被应用5G通信的各个领域。

▲赛灵思执行副总裁、有线无线事业部事业部总经理Liam Madden

首先，在射频方面，据赛灵思执行副总裁、有线无线事业部事业部总经理Liam Madden介绍，早在2012年时候，赛灵思就开始考虑将RF整合到自己产品当中，2017年赛灵思推出了第一代RFSoC产品进入市场，在数据前端等众多领域使用，2018年赛灵思又推出了首款整合了5G射频的RFSoC。目前，很多基于赛灵思Zynq US+ RFSoC的5G无线小基站正在部署当中。

其次，在7nm的5G数字前端方面，FPGA也是应用很多，不过如果采用赛灵思全新的ACAP架构可以实现16T/16R，相比传统的FPGA可实现带宽增长一倍，同时功耗降低40%。

第三，借助于赛灵思的波束成形（Beamforming）技术可以实现频谱的复用，而这其中，如果采用赛灵思的具备 AI 引擎阵列的 Versal 器件，则可以实现4倍于传统FPGA的5G矢量计算量。

第四，在虚拟的电信BUU加速卡方面，Liam Madden表示，一台配备赛灵思加速卡的服务器，可以替代10台英特尔至强商用服务器。

另外，在核心网方面，赛灵思也具有很大的优势。去年赛灵思就展示了58G PAM4 解决方案以及业界首款 112G PAM4 演示。

Liam Madden表示，赛灵思的产品可帮助运营商实现端到端的通信基础设施的升级。此外，Liam Madden强调，除了性能之外，赛灵思产品的稳定性和可靠性也是非常好的。另外，安全方面也一项关键的优势，很多保密数据进行输送的时候，可以既保证加速又保证安全。

3、双管齐下，驱动灵活应变的计算

①从FPGA到ACAP

虽然FPGA拥有很多的优势，但是不可否认的是，FPGA的基本单元的计算能力是有限的。为了实现自适应的特性，FPGA内部有大量极细粒度的基本单元，但是每个单元的计算能力（主要依靠LUT查找表）都远远低于CPU和GPU中的ALU模块。另外，在计算的效率和功耗上FPGA也要低于ASIC。

随着越来越多的应用趋向于既具高速处理又兼具灵活性的系统，FPGA厂商为了弥补单纯采用FPGA的缺陷，开始推出整合了CPU/GPU/RF/FPGA的异构SoC的融合性方案。比如赛灵思此前就曾推出了多处理器SoC（MPSoC，在FPGA上整合了Arm的CPU内核，还有Mali系列的GPU等）、RFSoC（将通信级RF采样数据转换器、SD-FEC内核、Arm处理器以及 FPGA 架构整合到单芯片器件中）。而为了能够帮助更多的用户和开发者提供更为强大的计算平台。

在去年的2018XDF大会上，赛灵思正式发布了全球首款自适应计算加速平台 (Adaptive Compute Acceleration Platform ，ACAP)芯片系列Versal，这是赛灵思在发明FPGA之后的，对于自适应计算的又一次巨大的推动，因为其不再是FPGA类产品，而是一个具有自适应计算能力的全新架构的硬件平台，针对云端、网络、无线通信乃至边缘计算和端点等不同市场的众多应用提供了丰富的可扩展性和 AI 推理功能。

据Victor Peng介绍，拥有360亿晶体管的7nm Versal ACAP目前已经向客户及合作伙伴发货。同时赛灵思现在也推出了新的基于Versal的PCIe通用开发板，可以让开发者以10倍的速度开始构建和加速应用。

“展望未来，只要我们的新型芯片开始出样，我们很快就能提供开发板，而一旦我们的芯片开始量产，那么量产芯片也就会马上提供给客户。但是我们做的不仅仅是硬件创新， 要拥有一个完整的平台，我们也需要软件上的创新。”Victor Peng说到。

②从Vivado到Vitis

经过多年的开发，2012年赛灵思就推出了针对其FGPA产品的开发套件Vivado，彻底完善了开发堆栈的基础。随着赛灵思的芯片架构的每一代的进展，Vivado也在不断增加了新的功能，比如针对嵌入式开发人员的SDSoC，为数据中心部署而开发的SDAccel，随后又增了一个加速AI推断的工具包，随着功能的不断的完善，Vivado也越来越成为了一个平台型产品。不过其主要针对的还是硬件，开发人员也需要具备较强的FPGA硬件开发能力，因为涉及到硬件的设计和模拟。但是这类人员却相对较少，门槛高，薪资成本也高，相比之下软件开发人员则有上百万之多。显然，如果能够降低开发门槛，使得更多的软件开发人员能够参与进来，这无疑将极大丰富赛灵思的应用生态。

赛灵思执行副总裁兼数据中心事业部总经理Salil Raje也认为，计算行业正在经历着三大变化的趋势，趋势之一就是从标准转向了异构计算架构，第二个趋势是我们的计算和应用开始从云端向边缘迁移，第三个趋势是AI的无处不在。而这三大趋势也给开发者带来了非常大的挑战。所以我们确实需要一个独特、全面的开发环境来满足所有的挑战，同时降低开发的门槛。

2019年10月，赛灵思正式发布了统一开发软件平台Vitis，并在Github上免费提供了赛灵思运行时库的源代码。Vitis平台无需用户深入掌握硬件专业知识，即可根据软件或算法代码自动适配和使用赛灵思的硬件架构。此外，Vitis平台不限制使用专有开发环境，而是可以插入到通用的软件开发工具中，并利用丰富的优化过的开源库，使开发者能够专注于算法的开发。

具体来说，Vitis提供了一个全面的开发平台来构建、运行和分析应用。所有的这些开发都是在Vitis这个平台上进行的，一个平台是一个固定的提前配置好的系统，包括I/O和存储，有API和软件，要建立一个应用，Vitis提供了每一个不同异构的赛灵思器件的编辑器，有Vitis的HLS使用C/C++和RTL的编码，而且Arm编译器也可以采用C/C++代码映射到处理子系统。然后，系统编译器将这些单独的代码块链接在一起，并创建所有互连以优化它们之间的数据移动。将X86的工具链用于PCIE为基础的系统。同时，它还整合了AI引擎的编辑器在Versal的设备上。

对于Vitis和Vivado之间的区别，Salil Raje解释称，Vitis实际上是主要针对软件，它把云、边缘、端点全部集合在一起，通过Vitis，开发人员能够在赛灵思的Zynq SoCial、超大规模FPGA、Alveo开发板和数据中心构建和部署他们的加速应用。而Vivado主要是针对的是硬件。Vitis是独立于 Vivado设计套件之外的统一软件平台。对于开发者来说，其仍然可以继续通过Vivado使用硬件代码进行编程，但是也能通过Vitis将硬件模块封装成软件可调用的函数，从而提高硬件开发者的工作效率。

Vitis AI正式发布

众所周知，对于AI计算来说，通用型的CPU并不是最佳的载体，同样GPU虽然目前被大量应用于深度学习领域，但是相比针对特定AI算法定制的ASIC及半定制的FPGA来说，其在能效上仍有着较大的差距。但是，设计一款ASIC芯片到量产至少需要1年半的时间，而算法模型更新却非常的频繁，几个月就会更新一次。数据显示，自2012年以来，AI算法模型平均每3个月就会出现一次大的变化，数值精度、能效上的可选择性也越来越多，同时随着AI的应用场景快速发展演进，新的解决方案都要去应对在高性能、灵活和上市时间等方面的不同需求。这也意味着，如果我们根据现在最新的AI算法模型来设计一款ASIC芯片，等到商用之时，其固化的算法模型可能就已经落后，虽然可以工作，但是性能、效率、适应性上可能已经是大打折扣。显然，在此背景之下，更具灵活性的、可编程的FPGA，以及灵活多变的自适应计算平台ACAP，显然在AI计算上更具优势。

不过，正如前面所提到的，未来异构计算和边缘计算是大势所趋，所以我们不仅需要充分发挥异构系统中的每一个计算单元的AI能力，同时也需要加速AI在云、边、端侧的部署。而赛灵思Vitis AI的推出则很好的解决了这两个问题。

据介绍，Vitis AI集成了特定领域架构（DSA）、开发套件、AI模型等，这些都是由赛灵思收购的深鉴开发的。

▲赛灵思软件与 AI 产品市场营销副总裁Ramine Roane

最底层的DSA提供了针对AI模型的硬件实现，可以高效在FPGA上运行不同的AI处理器，比如CNN DPU、LSTM DPU、MLP DPU等。赛灵思软件与 AI 产品市场营销副总裁Ramine Roane告诉芯智讯，“今年我们焦点放在CNN，以后会有不同DPU的处理器。”开发者可以使用包括 TensorFlow 和 Caffe 等业界领先框架对DSA进行配置与编程。

Vitis AI 提供的工具链能在数分钟内完成优化、量化和编译操作，在赛灵思器件上高效地运行预先训练好的AI模型。此外，它也为从边缘到云端的部署提供了专用 API，实现业界一流的推断性能与效率。

此外，赛灵思很快还将推出另一个 DSA（Vitis Video），支持从 FFmpeg 直接进行编码并提供同样超级简单且功能极强大的端到端视频解决方案。由合作伙伴公司提供的 DSA 包括：与GATK 集成用于基因分析的illumina，与ElasticSearch集成用于大数据分析的BlackLynx，以及当前赛灵思客户正在使用的专有DSA。

Vitis AI还提供了经过优化AI模型，包括对于行人的检测、动作捕捉、物体或目标识别、人脸识别、车道线识别等50多个模型，这些都是可以高效在FPGA上运行的模型，所有这些也都是深鉴开源提供的。

特别值得一提的是，Vitis AI还提供了多个通用库和特定领域库，400多种性能优化的开源的开箱即用的AI加速功能。借助这些库和开源功能，软件开发者可以使用标准的应用编程接口（API）来实现硬件的AI加速。

作为Vitis平台的重要组成部分，Vitis AI在两周之前才开始小范围内提供下载，直到12月3日的2019XDF大会上，赛灵思才正式宣布Vitis AI全面开放下载。

总结来说，Vitis AI就是一款类似英特尔OpenVINO的AI工具包，其可以帮助AI开发人员，使用他们选择的语言，比如C++进行开发，也可以使用相关的架构和库进行开发，实现AI算法的一次开发，就能够轻松部署到赛灵思所有硬件平台上。无需再像过往那样需要根据不同的硬件平台进行重复的开发和部署。另据芯智讯了解，Vitis AI也将会保持每季度一更新的频率，持续进行优化。

从传统硬件公司转型软件平台公司

作为一家传统的半导体硬件公司，Vitis及Vitis AI平台可以说是赛灵思有史以来在软件领域投入最大的项目，据介绍，Vitis历经五年，投入总计1000个人工/年打造而成。而随着Vitis及Vitis AI平台的推出，赛灵思开始逐渐转型为软件平台公司。正如文章前面所指出的，通过软件去定义硬件架构的可定制计算，已经变成了一个趋势，而赛灵思的转型也正是顺应了这一趋势。同时，开源也成为了赛灵思转型软件平台公司的战略核心。

其实早在2007年的时候，赛灵思就开始成为了开源领域的贡献者。除了开源的Vitis和Vitis AI之外，赛灵思目前还参与了多个开源项目。

另外，赛灵思还推出了Developer.xilinx.com网站，主要将Vitis相关专家和相关的开发人员建立起联系，这也是赛灵思转型战略的一部分。两个星期前推出网站的时候，网站有30多篇文章，现在达到了50多篇，这些文章来自于不同领域的开发人员的专家，在编写应用程序当中所提供的一些经验，涵盖汽车行业、智慧城市等领域。

“我们正在进行战略转型，从传统硬件公司转型成为软件平台公司。我们理念就是拥抱开源，提供免费工具贡献给大家，包括Vitis和Vitis AI都是免费开源对外开放的。开发人员可以进入到库中获取他们想要的，根据他们的需求进行一些调试、修改和应用。这些开发人员不一定非得有所贡献才能拿，当然我们也欢迎所有的开发人员来给我们做贡献。” 赛灵思软件与 AI 产品市场营销副总裁Ramine Roane说到。

编辑：芯智讯-浪客剑