AI混合加速器平台有统一的标准吗

日前，浪潮服务器产品部副总经理張耀文（Alan Chang）在海外权威AI媒体EnterpriseAI上发表署名文章，介绍了加速器平台统一硬件标准对AI计算的重要意义，同大家分享。

如今只要一打开电视，就充斥着宣传人工智能好处和潜力的广告。人工智能这个不久前还难以想象的应用正变得司空见惯，未来更会跳跃式发展。但是要真正实现人工智能，高性能、高可靠和可扩展的计算平台必不可少，同时该平台还要拥抱开源，从而提高互操作性，并且能够以更快的速度和更低的成本应对市场需求。

为了提高不同AI加速模块和系统的互操作性，满足制造商提升人工智能系统能力的需求，OCP（Open Compute Project）聚集了众多希望利用开放标准推动AI计算发展的合作伙伴共同努力，OAI（Open Accelerator Infrastructure）就是其最新的一个项目组。凭借以往开放硬件和软件项目的经验，项目组吸引了来自计算生态系统各个领域的参与者，取得的最新成果推动了加速器技术的标准化，为AI计算平台提供了更加规范、简单和可访问的开放标准。

在最近与OCP和百度领导人进行的圆桌会议上，我们探讨了OAI的发展和价值主张，并得出了一些值得关注的结论。

现在很多企业都面临着诸多挑战，无论是数据中心基础架构、硬件加速还是从设施到机架再到节点的硬件管理。OCP努力为应对这些挑战创造一个协作的环境，并且找到一种通用的解决方案，实现规模经济，从而提高效率，节约成本。

—— OCP社区总监Archna Haylock

OAI的一个主要目标是简化加速器模块的设计。由此产生的标准是一种技术解决方案，制造企业可以根据这一标准设计自己的产品，而不必从头开始。和其他开源软件（例如Hadoop、GFS、Linux）一样，用户可以免费下载代码，然后继续进行各自的开发工作。

实际上，该标准促进了不同加速器（例如ASIC、GPU和FPGA）技术的融合，克服了兼容问题，并使这些技术能够在统一的硬件标准下运行。这样一来，用户可以自由更换不同的芯片，制造企业获得更多选择。OAI有如下关键技术优势。

全面的兼容性，支持当前的AI加速器（例如FPGA、GPU和ASIC），以及下一代异构加速器；

支持12V和54V电源。12V电源的最大功率为300W，54V电源的最大功率为450W-500W；

支持四种互连拓扑，包括HCM（用于8端口和6端口OAM）、FC、FC/HCM组合和4D Hypercube。

第一批从该规范受益的产品是百度X-MAN 4.0，这一AI计算平台由百度与浪潮基于OAI标准联合开发完成。OAI标准的发展始于百度、Facebook、微软三家共同发起的OpenAPI模型规范。从这之后，人们意识到建立AI加速器模块统一规范的重要性，于是在OCP社区，重点关注如何为多样化的加速器提供最好的支持的OAI研究组成立了。OAI的成立不仅让制造商在开放的生态系统中获得了更多选择，还可以让AI应用程序的开发人员和终端用户都从中获益。

OCP对于开发人员、用户和系统集成商以及芯片提供商来说都是一个很好的协同平台。基于OCP平台，我们可以更好地确定我们的需求，更好地与合作伙伴，甚至是竞争对手，一起合作，定义一种可以使整个生态系统受益的标准。总的来说，正是这些成功的合作促成了我们最新的全机架人工智能计算产品——X-MAN 4.0的开发。

—— 百度AI系统架构师Richard Ding

OAI小组的工作范围包括定义物理模块，这些模块涉及逻辑方面，例如电气、机械、散热、管理、硬件安全和物理可维护性等，生成与传统现有操作系统兼容的解决方案，允许创建运行异构加速器应用程序的框架。展望未来，业界日益达成共识，通过鼓励采用标准和进一步的实际应用测试，AI生态系统可以通过标准化实现持续发展。

OAI项目围绕设计模块化架构的理念进行，这一架构支持不同加速器和多系统的扩展，从而轻松实现互连通信。未来OAI还需进行标准的应用推广，在业内获取更多支持，从而在高性能计算生态系统和垂直市场中扩大规模。随着标准变得更具实际意义，可以通过实际应用测试它的优缺点，然后对标准的技术进行升级来满足基于AI应用程序的实际计算场景。浪潮致力于持续提高OAI标准的可扩展性，并支持其市场普及。

作者简介

浪潮服务器产品部副总经理張耀文（Alan Chang）

作为浪潮服务器产品部副总经理，Alan致力于建立开放硬件社区，开发下一代人工智能和5G网络解决方案的架构，在硬件设计、市场协作等方面，为OCP做出了许多贡献。在IT领域，Alan已有超十年的丰富经验，担任过软件程序员，负责开发服务器产品和管理OxM帐户的硬件产品开发人员等各种角色。

宅家战疫期间，欢迎大家点击到DOIT学院访问学习，祝愿大家 宅家学习，天天向上！

DOIT学院以存储和数据科技为基础，涵盖大数据、云计算、人工智能、物联网等领域，利用碎片化时间和灵活的学习方式帮助读者快速专业知识，成就更多DT专家。