Arm Neoverse路线图再添新员：持续赋能计算基础设施新变革

近年来，以5G为代表的数字化转型引发了一系列数据爆炸，导致人们对计算能力和数据存储的需求日益增长。这一变革对全球计算基础设施的发展，特别是对云计算的处理能力提出了更高的要求。

为了应对海量数据挑战，近日Arm对Arm® Neoverse™ 路线图进行了再次更新。据悉，新产品植根于Arm的可扩展效率和技术领先地位，同时强化了Arm支持合作伙伴持续快速创新的承诺，旨在实现高性能、高能效和可持续的云计算，满足企业IT与数据中心不断增长的工作负载和不断提升的性能需求。

为了让大家全面地了解这一创新成果，近日在Arm技术媒体沟通会上，来自Arm公司的几位高管对其进行了详细的介绍，并对最近一年的市场及业务进行了简要总结。

坚持创新驱动，实现新的突破

据Arm高级副总裁兼基础设施事业部总经理Chris Bergey介绍，随着新应用的不断涌现，如今的基础设施都是定制化打造。从SSD到HDD，从DPU到视频加速器，服务器CPU算是最后的标准产品，未来将不会作为通用型产品继续发展。另外，功耗问题也不容小觑。通常大型互联网公司的电力支出会占到总拥有成本（TCO）的30-40%，仅微次于电信网络运营商。由于数据速率发展太过迅猛，计算工作负载正在极力增长，而且愈加复杂。

“Arm Neoverse具有独特定位，可以帮助我们的生态系统引领全球计算基础设施的发展。”Chris Bergey指出，基础设施的未来需要基于Arm Neoverse的高性能、高能效的计算基础，还需要Arm生态系统所提供的专用处理和工作负载加速能力。为此，Arm更新了Arm Neoverse路线图——推出Neoverse V2平台（代号“Demeter”）。

▲Arm架构是未来基础设施的基石

据了解，此次Arm Neoverse新增的产品是基于“可扩展效率、技术领先地位、快速的创新步伐、独一无二的开发者社区的有力支持”四项关键原则所打造的。虽然目前Arm在获得技术领导者的赞誉还不够多，但也已创下了多项行业第一：

• 第一个总内存带宽超过每秒1TB的CPU；

• 第一个单块裸片上能配置超过100个核心的CPU，核心数达到128个；

• 第一个将DDR5和PCIe Gen5.0推向市场的CPU；

• 第一个在SPEC CPU 2017基准测试中打破500整型跑分的CPU。

▲Arm生态系统创下多项行业第一

除此之外，Arm Neoverse还在今年取得了若干具有里程碑意义的成就：

• 在全球范围内，Arm现已被用于各个主要公有云，包括AWS、微软、谷歌、阿里巴巴、甲骨文等科技巨头。这意味着，世界各地的每一位开发者都可获取Arm Neoverse。

• Arm在5G RAN领域无处不在，比如在2022世界移动通信大会（MWC）上，Arm的合作伙伴Marvell与戴尔宣布强强联手，而高通也与乐天、HPE达成了合作。他们携手诺基亚、联想、三星等公司，正在酝酿许多更加激动人心的项目。

• NVIDIA发布了面向AI及高性能计算（HPC）的Grace。

• Arm正逐步迈入更为传统的“企业”领域。比如VMware运用DPU开展Monterrey项目；RedHat的OpenShift支持Arm架构；SAP HANA正将其云基础设施迁移到AWS Graviton上；6月份HPE推出了ProLiant第11代平台，搭载了基于Arm Neoverse的Ampere Altra处理器。

▲Arm生态系统的势头正在加速

“随着今天Neoverse路线图又添新品，我们已经准备就绪，并坚信Arm架构是未来基础设施的基石。”Chris Bergey表示。

丰富产品矩阵，助力行业前行

多年来，Arm一直致力于开发和增强AMBA CHI，这是实现高速、低延迟的芯片到芯片通信的重要协议。然而，随着应用需求和技术发展，各种规模与各个垂直领域的企业都开始拥抱人工智能（AI）和机器学习（ML）。大家渴望利用人工智能进行大数据分析，以识别商业趋势，同时改善服务和产品。

作为一家芯片架构的领先供应商，Arm自然也不例外。从2018年推出面向基础设施市场的全新独立品牌Arm Neoverse，至今，Arm对其进行了多次更新，而Neoverse也迅速被采用。现如今，所有主要的公有云都提供基于Neoverse的实例。为了不断提升计算和处理性能，这些年Arm更是投入了大量精力来思考如何为该领域打造解决方案。

据Arm基础设施事业部产品解决方案副总裁Dermot O’Driscoll介绍，多年来，我们一直在努力实现并优化在Arm架构上运行的全栈解决方案。从架构和IP，到技术库、运行环境和编译器，我们已经启用了多个基础设施软件来提取最大性能。

▲Arm软件生态系统

为了进一步推动云工作负载性能，此次Arm推出的Neoverse V2平台配备了最新的V系列核心和产业广泛部署的Arm CMN-700 mesh互连技术。Neoverse V2将为云和HPC工作负载提供市场领先的整型性能，并引入若干Armv9架构安全增强功能。

与此同时，作为Arm持续投入于高效的性能和高效的吞吐量的一部分，新一代N系列产品也在开发之中，并计划将于2023年推出。据Dermot O’Driscoll透露，与N2的市场领先效率相比，新一代N系列CPU将在性能和效率方面实现代际提升。

除此之外，Arm还推出了Neoverse E2平台，通过结合Arm Cortex®-A510 CPU与可扩展的Neoverse CMN-700和N2系统背板，可使条件相对受限的应用也能充分利用诸如可扩展的核心数量范围、Arm SystemReady™ 兼容性，以及PCIe、CXL、IO和接口等云技术。

▲Arm Neoverse路线图

在Dermot O’Driscoll看来，云基础设施市场的下一个发展趋势就是机器学习（ML）。“就像Java在如今的云工作负载中占据大比例一样，ML正逐渐成为未来的首选工作负载。在ML中，我们可以对BERT实现同样的启用”。

据悉，Arm的V1核心拥有一组专门用于增强ML应用程序性能的功能：

• 在架构方面，添加了Bfloat16（BF16）；

• Arm调整了V1、N2以及后续设计的微架构，旨在通过BERT提高BF16的执行；

• 为Arm计算库（ACL）增加BF16支持；

• 将ACL集成到oneDNN ML框架中；

• oneDNN框架与Tensorflow搭配使用以运行BERT。

值得一提的是，在V1添加的BF16和Int8 MatMul，意味着ML模型可以更紧凑地植入内存，因此它们需要更少的内存带宽，从而使Graviton3的ML性能达到Graviton2的3倍。

▲Arm Neoverse引领未来云计算新浪潮

“总体来说，得益于我们与客户在其未来设计需求上的紧密合作，目前Neoverse平台解决方案在云、无线网络用例中均受到了市场青睐。对此，我们感到十分自豪。”Dermot O’Driscoll谈道，以Neoverse V2平台为例，目前我们收到的反馈包括“希望提升云工作负载的性能”、“在平衡功耗和面积的同时继续推进单线程性能”以及“尽早发货，帮助我们快速开拓市场”等。

除此之外，客户还想要特定于Armv9的安全功能和极具竞争力的系统平台，以帮助他们能够在激烈的CPU市场中脱颖而出。“就满足云和AI市场的现阶段需求而言，我们认为Neoverse V2表现十分出色，而市场对Arm Neoverse平台的采纳和接受度也是非常高的”。Dermot O’Driscoll如是说。

▲Arm Neoverse V2平台的特点与优势

当前，全球计算基础设施市场正在被重新定义。基于“可扩展效率、技术领先地位、快速的创新步伐，以及独一无二的开发者社区的有力支持”四项关键原则，未来Arm将持续推动围绕计算基础设施的生态系统发生重大变化。

正如Dermot O’Driscoll所言：“在Arm Neoverse平台路线图的原则基础上，我们将为全球计算基础设施奠定新的起点。”