边缘AI和云计算两手抓,Arm发布全新平台路线图
扫描二维码
随时随地手机看文章
物联网、5G和AI,被认为是在数据驱动计算领域的第五次浪潮。在今年的Arm技术研讨会上,Arm提出了一个目标:每年将处理器架构的性能将提高15%。Arm IP产品事业群战略副总裁Noel Hurley先生表示,Arm正在向高端的云计算的市场推进。同时我们也获悉,目前90%的AI应用都跑在Arm的架构上面,边缘计算是Arm一直以来的强势领域,从边缘计算到边缘AI的转变,也是Arm正在关注的焦点。
如何在云计算中心中争取市场?如何从边缘计算向边缘AI迈进?在此次Arm技术研讨会上,多个平台的推出给了我们很好的解答。
Arm Neoverse:网络基础设施性能每年提升30%
Arm Neoverse是什么?根据Arm的官方介绍来看,这是一个从云端到边缘基础设施的基础,将适用于1T智能设备的世界。Arm公司高级副总裁兼基础设施事业部总经理Drew Henry介绍到:“Arm Neoverse其实是产品加上架构,同时也是产品与技术的整合,这样的整合能够去满足新一代基础设施的需求。”
据Drew先生介绍,本地服务器类型的市场正在消亡,整个市场正在向云服务器转型。未来服务器市场的主要玩家将会是云服务提供商。而服务器要上云呢,会对于工作负载有一些堆积;GPU特长在于做一些深度学习的工作,TPU特长在于数据解读的工作。现有处理器可能不能很好地解决服务器上云的工作负载问题,需要全新的处理器来帮助处理工作负载,Arm会提供网络存储的安全处理器来帮助解决这一问题。
在云服务器上,数据可能碎片化存在,在数据的获取、处理和转移的过程中,都需要确保安全;这种全新的数据分布形式需要一种全新的处理器来支持。虽然在网络基础设施(包括网关、路由、基站、服务器、开关)这边,根据IDC和Arm的数据显示,Arm已经是第一大市场份额占有者,但是云数据中心的增长仍然势头强劲,Arm也非常关注这一高增长市场的投入。
目前在网络基础设施这边,Arm的主要产品平台是Cosmos,其中包含A72和A75等产品。Arm已经发布了其产品路线图,如上图所示,明年将会启用新的Ares平台,然后相继会是Zeus平台、Poseidon平台。承诺将会每年将处理性能和特性提高30%。
ML计算平台:实现边缘AI
微控制器厂商最近几年一直在强调一个概念叫做边缘计算,许多工作其实不需要上云,在设备端的微控制器上实现处理即可,快速高效的反馈给使用者的体验会更好。而随着AI应用的兴起,在设备端直接处理一些机器学习的工作也会提高整体反馈效率,降低对于网络的倚赖,实现即时响应。
Arm因此启动了一项叫做Project Trillium的计划,旨在全部的Arm架构上实现设备端的机器学习的功能。Arm机器学习部门商业与市场副总裁Dennis Laudick表示,广泛的硬件、优化的软件、标准化的框架,这就是Project Trillium。特别提到的是,Arm还会专门推出一个针对机器学习和物体识别的架构——ML架构。通过一系列的优化,来更好地实现数据管理功能。
ML架构的主要参数可以参见上图,将会提供16个计算引擎,超过4TOP/s的卷积吞吐量。功耗方面计划每瓦达到4TOP以上的卷积吞吐量。搭载1MB的SRAM,支持安卓NNAPI和ARMNN。
Dennis先生表示,Project Trillium计划在机器学习方面的提升,涉及到了整个Arm的架构,比如说从Cortex-A,我们有10倍的机器学习功能的提升。在Cortex-M上,基本上这个提升也会达到4到6倍。GPU上也进行了相应的提升。实现机器学习,不应该局限于某个特别针对其优化的硬件平台,应该在宽泛的硬件平台上都可以实现AI功能。
在今年的Arm技术研讨会上,我们听到了很多新的平台、新的开发代号,新的产品规划。Arm正在推动第五次数据计算浪潮,扩大自己的云计算市场份额,并在边缘计算中强化AI功能,帮助我们快步向AI无处不在迈进。