拥抱开源的Xilinx描绘了AI之下的刚柔并济: Vitis AI平台正式开放下载
扫描二维码
随时随地手机看文章
众所周知,Xilinx(赛灵思)是FPGA的发明者,而自此之后,Xilinx一直属于一个着重于硬件的企业。此前,21ic中国电子网曾报道过Xilinx解锁全员创新的平台Vitis™及Vitis™ AI统一软件平台,该平台可突破软硬件壁垒,使得硬件、软件、算法工程师均可参与FPGA的开发之中。
从去年推出ACAP(自适应计算加速平台)到收购深厚学术背景加持的深鉴科技,再到近一两个月前逐渐正式完全开放下载的Vitis和Vitis AI,Xilinx的路线一直很明确——便是“刚柔并济”,软件硬件两手都要强。
如今,Vitis与Vitis AI统一软件平台已完全正式开放下载,且开源免费。12月3日,在2019赛灵思开发者大会(2019XDF)亚洲站上,Xilinx针对这款AI和机器学习的统一软件平台进行了重点介绍。
21ic中国电子网记者受邀参加此次活动的媒体访谈。现场赛灵思软件与 AI 产品市场营销副总裁Ramine Roane(罗明)为记者解答了关于Vitis这个平台及AI相关问题。
Vitis AI是兼顾自适应和可编程的异构平台
目前来说,摆在行业面前的趋势便是异构计算、从云到边缘、AI激增三个趋势,在此同时便带来了自适应加速引擎的编程与集成、需要可重定目标的能力、整体应用的加速与集成的挑战,面对这种挑战行业需要一款能够解决问题的平台。
Vitis AI则是解决上述问题的平台,不仅开源,且提供丰富的官方优化过的IP、工具、库、模型和示例设计。据Ramine Roane介绍,非常有意思的是,Vitis这一名称词源来源于法语,意为生命力,这也充分诠释了Xilinx在生态系统方面所要创造的生命力。
图1:Vitis AI重点信息
众所周知,2000年以前,半导体芯片遵循着摩尔定律,每隔12个月同等价目的芯片上可集成的器件数目便会增加一倍;而时至2000年,登纳德缩放比例定律(Dennard scaling)逐渐进入瓶颈,频率很难再进一步改善,此时所有CPU和计算机最多只能到达2~4Ghz的速度,并且维持了10年之久仍未有提升;为提升应用性能,后使用多核CPU,使得问题从硬件转向软件,但由于阿达姆尔定律,效能功率没有办法进一步提升。
所以,异构CPU与加速器便应运而生,Ramine Roane表示目前为止,本着这个方向整体是没有问题的,但难点在于这些架构都是固定的,这样便很难追赶AI的创新速度。他对此解释表示,现如今很多AI模型经过三个月就要改变一次,如若工程师想建立一个ASIC或GPU的架构需花费至少一年半的设计时间,这种设计周期远远大于AI模型的更替周期。
因此,Xilinx所打造的这款Vitis统一软件平台在自适应方面,因其可针对不同应用进行硬件优化,所以开发者无需等待新芯片到来便可建立特定架构应用。
图2:行业趋势是异构计算
值得注意的是,Xilinx所提出的异构,与传统异构并不同,是自适应的异构,主要是软件感知架构,这种架构将不再单纯用硬件决定应用场景。当然Xilinx去年10月发布的ACAP也已提出软件自适应计算加速平台,该平台是为配合ACAP而生。
现今基本大多采用可编程或自适应来解决,但大多数情况下,市面的CPU、GPU、ASSP在可编程和自适应上市场还难以做到二者同时存在,Vitis正是这样一款既可做到可编程,又可做到自适应的软件平台。
图3:Vitis AI兼顾可编程和自适应
现在来说,自适应深度加速这方面,据Ramine Roane介绍,自去年收购深鉴科技,目前实现了三种不同AI算法的优化模型,另外深鉴科技还提供了AI优化器、AI量化器、AI 编译器、AI 分析器不同的工具。在架构方面,目前Xilinx焦点放在CNN DPU,因为在云和边缘器件上现在以CNN为主,明年则逐渐转向LSTM DPU和MLP DPU上。
图4:Xilinx AI加速 AI 实现
在自适应加速平台结构上,包含四部分(如图5),红色部分为FPGA结构,可用于定制的逻辑/内存;绿色部分为矢量处理器,矢量处理器是适合高度流水线作业的处理器,在AI加速上更有效,擅长做算数、矩阵,主要用于AI运算;蓝色部分可嵌入ARM内核子系统;黄色部分的片上网络,用于将不同架构连接起来。
Romine Roane指出,这个加速平台虽然从表面看起来像FPGA,也是阵列式排布,但内部包含DSP处理器,形成DSP和FPGA的混合体,从而实现可配置的数据流。
图5:自适应计算加速平台
Vitis 是免费开源且全员参与的平台
Ramine Roane为记者介绍表示,开源作为Xilinx转型战略的一部分,该平台便是重要成果之一。他表示,作为用户自2001年便已是开源产品用户,而2007开始成为贡献者,现在开源已经成为Xilinx的战略核心。
他强调,在赛灵思运行时库(XRT)方面,则也已在Github也拥有了许多经过优化的AI模型,其中一些是深鉴公司提供的技术。值得一提的是,Xilinx还推出了Developer.xilinx.com这样一网站,主要将Vitis专家和相关的开发人员建立联系,这也是Xilinx转型战略的一部分。
据了解,目前该网站已有50多篇来自于不同领域的开发人员的专家提供的专业经验。
那么,Vitis与Vitis AI的正式开放意味着什么?对于硬件工程师来说,可继续利用此前Xilinx的 Vivado™设计套件进行开发;软件工程师则可利用Vitis平台所提供的C/C++/Python或Xilinx的V++编译器进行开发;AI与数据科学家则可利用TensorFlow、Caffe、PyTorch及Xilinx优化好的开源模型进行开发,另外还可利用FFmpeg进行视频转码。
图6:Vitis是支持所有开发者构建和部署各方面的平台
需要注意的是,Vitis这款平台还拥有丰富的开发工具套件,因此不仅全员可以参与进来,在开发方面,无论拥有任何需求,也可一站式完成。
图7:丰富的开发工具套件
使用Vitis AI能创造什么
Vitis AI,顾名思义,必然可在数据量大、算法复杂的场景发挥重要作用。Ramine Roane为记者介绍了几个例子:
1、医疗诊断:illumina是一家生命科学公司,利用Xilinx的FPGA加速了医疗诊断。具体来说,重症新生儿过去在基因组分析上需要用1天,而现在20分钟就可以进行诊断的判定,这也与Vitis的意思“生命力”不谋而合。
2、汽车行业:DAIMLER汽车公司利用Xilinx的技术加速实现了AI的决策,具体通过FPGA的I/O获取摄像头、激光雷达、传感器等信息,另外还可以使用自适应器件,最终实现了快速和低延时的决策,增强了安全性。
而据赛灵思总裁兼首席执行官 Victor Peng表示,小马智行在车辆识别时,遇到GPU延时的问题,通过Vitis AI解决了相关问题。
另外一个成功案例便是日立公司,它是汽车行业的一级供应商,该公司使用VITIS AI构造了汽车前端的摄像头来进行车辆识别。
3、数据分析:CERN是位于瑞士的一家欧洲核子研究院,通过粒子碰撞机和质子碰撞碎片的分析,发现希格斯的玻色子,通过Xilinx的技术加速对碎片进行快速分析得出结论,值得一提的是此发现还夺得诺贝尔奖。
4、5G:三星在本国进行的5G部署,是使用Versal进行下一代的5G部署,同时也应用了Vitis AI。
图8:赛灵思软件与 AI 产品市场营销副总裁Ramine Roane(罗明)正在为记者讲解
总结
Xilinx从硬件逐渐变“软”,其实并不是一蹴而就的。就这个问题,Ramine Roane强调,在此方面,Xilinx筹备了5~6年时间,据了解Vitis 统一软件平台由 1000 位软件工程师历经五年精心研发。
目前专门学习硬件开发的人员越来越少,通常是软硬结合,并且全球硬件开发者可能只有10万~20万的规模,而软件开发人员则是数以百万计的,因此这样的工具可以让全员参与进设计之中。
在AI激增的现如今社会下,也许“刚柔并济”才是出路,一方面,要既可编程还要自适应,另一方面,能够调动软件、硬件两方面工程师全面进入开发。
Vitis AI不仅将AI和传统软件开发统一起来了,还将云和边缘、异构计算等全部统一在一起。当然,最值得关注的仍然还是开源免费,这无疑对于开发者来说是一个“福音”。