Arm推出两款历来AI最强新IP:一场来自性能的盛宴!
扫描二维码
随时随地手机看文章
2020年2月11日 21ic中国电子网 讯 – Arm今日宣布推出两个新的IP,包括全新机器学习(ML) IP:Arm® Cortex®-M55处理器和Arm Ethos™-U55神经网络处理器(NPU)。据了解,Cortex-M55是目前为止,Arm历来AI能力最强大的Cortex-M处理器,而Ethos-U55则是针对Cortex-M推出的首款microNPU。
据Arm介绍,此次宣布推出的两款IP将作为人工智能(AI)平台新增的重要生力军,AI正在改变我们生活中所有的事物,这便是Arm此次推出两款新IP的背景。
就如本次疫情,智慧医疗所发挥的作用不言而喻,当然Arm中国也在本次疫情中向相关组织捐赠500万元人民币并积极帮助相关组织协调医用物资资源;而近年来的工业 4.0 从自动化到自主化的变革也正是人工智能发展的重要因素之一;另外,以数字助理将日常事务简单化以及智慧城市也是与每一个人息息相关的。
图1:AI正在改变生活中的一切
根据Arm的规划,Arm将为超过十亿的终端设备赋予 AI 性能。据Arm 资深副总裁暨车用与物联网事业部总经理Dipti Vachani表示:“要让AI无所不在,设备制造商与开发人员必须在数十亿、乃至数万亿个设备上实现终端机器学习能力。我们的AI平台增添这些生力军后,即便在最小的设备上,终端机器学习也将成为新常态,不会再有遗珠之憾,从而让AI的潜力可以在范围宽广的、正在改变我们生活的应用当中得以安全、有效地发挥。”
Arm表示,AI 的发展从云端到边缘端,现在也逐渐延伸到终端设备,正因Arm的目标是要可在任何设备上发挥出AI的真正实力,在此背景下,便推出了Cortex-M55处理器和Ethos-U55两款新IP。
Arm强调,通过新的设计为微处理器带来安全的智能,为想要有效提升终端数字信号处理(DSP)与机器学习能力(ML)的产品制造商降低芯片与开发成本,同时加快他们的产品上市速度。
图2:Arm可在任何设备上发挥出AI的真正实力
Arm Cortex®-M55:Arm历来AI能力最强大的Cortex-M处理器
根据Arm的介绍,Cortex-M处理器已经成为开发人员运算平台的最佳选择,Arm的合作伙伴已经出货超过500亿片基于Cortex-M的芯片,用于各种客户应用。
而本次新增的Cortex-M55是Arm历来AI能力最为强大的Cortex-M处理器,它可以大幅提升DSP与ML的性能,同时更省电。
值得一提的是,与前几代的Cortex-M处理器相比,Cortex-M55的ML性能最高可提升15倍,而DSP性能也可提升5倍,且具备更佳的能耗比。
此外,客户也可以使用Arm Custom Instructions (Arm自定义指令集)延伸处理器的能力,对特定工作负载进行优化,而这也是Cortex-M处理器的全新功能。
关键点:
Arm Cortex®-M55: Arm人工智能性能最强大的Cortex-M 处理器
Ÿ● 首款基于 Armv8.1-M 架构、内建 Arm Helium向量技术的CPU:
o 大幅提升终端数字讯号处理(DSP)与机器学习性能,并高效节能
o 基础机器学习与神经网络推理的多元能力
● 先进的内存接口,能以更快的速度获取机器学习所需的数据与权重
Ÿ● 具备 Arm TrustZone 安全技术,加快PSA 认证的通过速度
图3:Arm历来AI能力最强大的Cortex-M处理器
Ethos-U55: Arm针对Cortex-M推出的首款microNPU
Ethos-U55这款新推出的IP则是一款搭配Cortex系列的产品,是Arm推出的首款微神经处理器(microNPU),根据Arm的测试结果显示,与现有的Cortex-M处理器相比,两者结合后可使产品ML性能提升480倍。
关键点:
Ÿ● 提升体积受限的嵌入式与物联网设备的机器学习推理能力
Ÿ● 具备先进的压缩技术、减少电力消耗并显著地缩小机器学习模型尺寸
Ÿ● 得以搭配以下 Cortex-M 系列处理器:
o Cortex-M55
o Cortex-M33
o Cortex-M7
o Cortex-M4
图4:Arm针对Cortex-M推出的首款microNPU
Cortex-M55 + Ethos-U55:一场性能的盛宴
通过对比在某典型的语音助手ML工作状态实例中可以看出,单使用Cortex-M55的情况下,推理效率为Cortex-M7的6倍、能源效率是Cortex-M7的7倍;而在Cortex-M55和Ethos-U55的组合下,推理效率直接提升了50倍、能源效率提升了25倍。
图5:Cortex-M55 + Ethos-U55性能提升对比
简化的软件使得所有开发人员都能获取安全的AI功能
值得一提的是,Cortex-M55与Ethos-U55得到了Arm业界领先的Cortex-M软件开发工具链的全力支持。如此一来,我们针对传统DSP与ML等工作负载,有了一致的开发流程;同时从TensorFlow Lite Micro开始,针对先进机器学习框架进行特定的整合与优化,确保开发人员拥有无缝的开发体验,并能够在任何一种Cortex-M与Ethos-U55的配置上,获取最佳性能。
Arm认为安全不应该是事后弥补措施,它对于物联网的普及极为重要。为了确保最安全的设计并顺利通过PSA认证,这些处理器和搭配的Corstone参考设计都可以与Arm TrustZone一起工作,以确保安全性可以更为简易地整合到完整的片上系统中。
赋能生态系统
全新的Cortex-M CPU与Ethos microNPU凸显了Arm对推动物联网发展的承诺:致力于协助芯片设计人员与设备制造商,即便在最小的终端设备上,也能利用Arm架构进行创新,并为物联网点燃新一波创造力与创新性。这一技术正获得生态系统合作伙伴与业界的广泛支持,其中包括亚马逊(Amazon)、Alif半导体(Alif Semiconductor)、恒玄科技(Bestechnic)、赛普拉斯(Cypress)、杜比(Dolby)、Google、恩智浦半导体(NXP)、三星(Samsung)、意法半导体(STMicroelectronics)等。
Alif半导体
“要让分布式智能发挥效果,每个终端就必需具备更强的处理能力,以降低云端流量、运行AI推理、提升安全性,并及时响应。我们已经采用全新的Cortex-M55,因为它具备高效涵盖各式任务的能力。这一全新的处理器,从超长的电池寿命到最大处理性能,表现都可圈可点。”
Alif半导体总裁兼联合创始人Reza Kazerounian
Au-Zone
“OEM厂商已充分了解将AI工作负载从云端移至移动设备与嵌入式物联网设备后,对降低迟延与提升隐私与安全性的好处。这一趋势将影响各类市场,但转型成功的关键在于具备能够支持这类工作负载的运算群集(compute clusters)的能力,如Arm全新Cortex-M55 与Ethos-U55等,以及生产等级的ML开发工具。 ”
Au-Zone首席执行官Brad Scott
恒玄科技
“影响AI部署的因素包括成本、功耗、性能和软件支持等限制。Arm推出的这一新技术,将加速在恒玄科技的蓝牙音频片上系统中的AI创新:我们能够在严苛的成本和功耗预算下实现更强的数字信号处理和机器学习技术,从而为智能设备提供更自然的语音交互,例如在真无线耳机上实现语音助理功能。”
恒玄科技首席执行官张亮
赛普拉斯
“赛普拉斯公司的解决方案协助设计人员创造智能、安全的物联网边缘设备。随着ML环境的快速演进,我们明确看到了实时、灵活的终端解决方案所具有的机会。全新的Arm Cortex-M55处理器提供ML工作负载所需的高效计算平台,同时也能适应这些应用所具有的功耗与尺寸限制。”
赛普拉斯ICW事业单位资深副总裁Vikram Gupta
杜比
“外型小巧的扬声器,例如智能音箱,要提供沉浸式的音效体验,信号处理极为关键。Arm Cortex-M55处理器拥有更高的数字信号处理性能与能耗效率,能够协助杜比为娱乐带来革命性的进展,并让芯片制造商与OEM厂商将Dolby Atmos导入至他们旗下更多的产品中。”
杜比音讯事业部副总裁Mahesh Balakrishnan
“Google持续与Arm携手合作,在Arm架构上完全优化TensorFlow,并为需要极度省电、成本敏感且往往被部署在缺乏网络环境的嵌入式设备带来机器学习能力。来自Arm的这一全新IP,进一步推进了我们通过在终端设备上实现ML,以达成数十亿个具备TensorFlow功能设备的共同愿景。仅依靠电池,这些设备就能运行神经网络模型达数年之久,并可直接在终端设备上实现低迟延的推论。”
Google微控制器用TensorFlow Lite部门产品经理Ian Nappier
恩智浦半导体
“在全新的AI典范、以及云端处理所面临的成本、低迟延、可靠性与隐私等挑战的推动下,‘强化边缘计算’已经变成新的大趋势。Arm的全新终端ML技术,将协助恩智浦半导体众多的微控制器开发人员,在体积与电量受限的设备上加速边缘推理的研发。”
恩智浦半导体边缘处理资深副总裁Geoff Lees
Qeexo
“我们的Qeexo AutoML平台可以自动打造‘TinyML’解决方案,这种轻量级的机器学习解决方案可为各种小型设备赋予智能能力。Arm全新的Cortex-M55与Ethos-U55处理器,让Qeexo能够结合空前的高性能和低迟延,更轻松地为微控制器开发机器学习功能,从而进一步为终端设备推出创新的嵌入式ML解决方案。”
Qeexo首席执行官Sang Won Lee
Shoreline IoT
“Arm的Cortex-M55与Ethos-U55处理器带来的灵活性、性能提升与开发便利性,将让Shoreline IoT能够直接为终端设备提供使电池寿命显著提升且具备更复杂、更快速、更先进的ML算法的解决方案。”
Shoreline IoT联合创始人兼首席执行官Kishore Manghnani
意法半导体
“全新的Arm Cortex-M55技术为意法半导体的下一代微控制器带来所需的ML性能与效率提升。它对STM32Cube.AI工具与生态系统的支持,意味着这一全新技术对于STM32开发人员在使用上将极为简单、快速且更优化,从而进一步提升他们已经能够广泛使用的各项AI应用。”
意法半导体微控制器部门总经理Ricardo De Sa Earp