灵活拓展计算硬件结合关键技术专长,NXP赋能端侧AI/ML全覆盖
扫描二维码
随时随地手机看文章
随着物联网设备数量的迅速增加,传统中心化处理模式正面临巨大的带宽和延迟压力。为了应对这些挑战,边缘智能逐渐成为必不可少的解决方案。
从市场趋势来看,智能互联设备的数量预计到2030年将超过500亿台。根据预测,智能家居市场在2021到2025年间的复合年增长率将达到20%,AI半导体收入到2025年预计达到750亿美元。同时,约50%的汽车将在2030年实现电气化和L2辅助驾驶,5G也将在2026年覆盖全球约60%的地区。这些趋势表明,边缘智能将在各个领域中继续快速增长和创新。
随着边缘智能在工业物联网(IIoT)领域的应用不断深入,系统的复杂性也在增加。边缘智能在工厂自动化、医疗健康、楼宇和能源管理、智慧家庭等场景中扮演着重要角色,主要面临以下挑战:
首先,系统的异构性使得不同设备之间的互操作变得困难。例如,工厂自动化中的边缘节点需要与各种传感器、控制器和机器人协同工作,这些设备往往来自不同厂商,遵循不同的通信标准。实现实时控制和数据共享需要系统具备高度的兼容性和灵活性。
其次,边缘智能中的数据处理和分析任务复杂且资源有限。例如,医疗健康领域中,患者监测设备生成大量数据,边缘节点需实时处理以支持医生决策。不同类型的设备需要数据融合和分析,这对算法效率提出了更高要求。
此外,系统的可扩展性和管理难度随着应用场景增加而上升。在楼宇和能源管理中,边缘节点需管理多种能源设备,以实现能效优化。随着设备数量增加,系统必须具备动态扩展能力,适应不断变化的需求。
连接带来的信息安全问题也是边缘智能面临的重大挑战之一。在IIoT环境中,边缘节点与设备的频繁通信增加了攻击面,容易受到网络攻击和数据窃取威胁。因此,边缘智能系统必须在数据传输、存储和处理环节加强安全措施,如加密通信和身份验证,以保障系统安全和用户隐私。
在近日召开的恩智浦安全边缘处理业务媒体沟通会上,我们了解到了恩智浦如何帮助客户应对这种软硬件的系统复杂性。“我们需要将底层处理与我们的技术专长聪明地组合,以一种更有效也更有意义的方式打造一套完整的系统级解决方案,用以更好地解决客户的问题,带来更好的用例,以及实现我们试图实施的应用。”恩智浦全球资深副总裁、工业及物联网边缘业务总经理Charles Dachs分享到。
可拓展的底层计算硬件,全面覆盖端侧计算需求
恩智浦(NXP)致力于为边缘智能提供可拓展的底层计算硬件,以应对工业物联网领域日益增长的复杂性和需求。通过提供灵活的硬件平台,恩智浦帮助客户在多样化的应用场景中实现高效的计算能力。恩智浦的边缘计算硬件不仅能够支持复杂的数据处理任务,还具备出色的能效表现,适应多样化的工业和消费应用需求。
恩智浦的产品路线图覆盖了从传统MCU到跨界处理器,再到应用处理器的不同层次计算需求。从几十兆赫的传统MCU到GHz级别的跨界处理器,再到更高主频和更复杂的多核应用处理器,恩智浦的产品布局十分广泛,能够有效应对软硬件系统复杂性。这种全面性对于应对日益增长的软硬件系统复杂性至关重要。“实际上,没有多少公司能够提供整个处理过程的解决方案,涵盖从传统MCU到跨界处理器,再到应用处理器的完整产品链。”Charles Dachs强调,“随着不同细分市场的复杂性增加,对软件的需求也在不断上升。恩智浦不仅提供硬件,还为客户提供自己的软件开发工具,使客户能够轻松地在整个丰富的产品系列中进行软件重用和复用,以应对不断上升的软件复杂性。”通过整合底层处理与技术专长,恩智浦致力于为客户打造更有效的系统级解决方案,助力各行业应用的实现和用例的提升。
在需要永久在线和极低功耗的端侧系统中,MCU负责实时性高的处理和相对较小的数据处理任务。在这方面,NXP主推今年新命名的MCX系列,包括5个子系列:MCX N率先在MCU中集成NPU以支持边缘人工智能和机器学习,定位于高性能的高级信号处理;MCX A具备高性能智能外设,适用于主流和广泛的应用场景;MCX C专为入门级低功耗应用设计,具备极具竞争力的价格;MCX L是超低功耗系列,适用于始终在线的设备,特别适合需要持续供电或手持的应用;MCX W则是安全、互联的窄带微控制器,结合了ZigBee、Thread和蓝牙等协议,满足特定连接需求。NXP还计划进一步扩展更多产品,以应对不断增长的应用需求。
能够处理复杂的计算任务,如多媒体处理、音频信号处理以及机器学习推理的系统中,需要的是应用处理器(MPU)作为计算大脑。在此领域,NXP提供了丰富型号的i.MX9系列。这些处理器支持异构多核计算,集成了Cortex-A和Cortex-M内核。其中i.MX 91是入门级处理器,具备较高的性价比,适用于基础应用场景。而i.MX 95和i.MX 93均集成了NPU,可高效处理AI和机器学习任务;i.MX 95相较于i.MX 93具有更多内核,适合高性能多媒体应用。同时,所有的这些处理器都具备功能安全特性,能够运行在Linux平台上。
而在需要更复杂的处理、图像、音频等功能,同时保持一定能效的系统中,MCU和应用处理器都显得不够适合,而由NXP在当年率先提出的跨界处理器这一产品类型,则是更好的选择。2017年10月,NXP首款跨界处理器推出,结合了MCU的实时性与应用处理器的高性能特性。此后该类产品家族不断拓展,今年来到了最新的i.MX RT700系列,这一系列也将迎合端侧AI/ML应用对于计算硬件的关键要求。
Charles对RT700进行了重点讲解,这是首款集成NPU的跨界处理器,能够支持边缘侧的人工智能和机器学习任务,与前几代产品相比,其功耗有显著降低。由于其集成了GPU以支持多媒体处理,因此特别适用于AR眼镜等产品,尤其适合穿戴设备、医疗设备和智能家居应用。RT700包含两个Cortex-M内核、两个DSP和一个NPU,共五个内核,以提供强大的并行计算能力。此外,NXP还提供了eIQ工具,帮助客户轻松进行模型的开发、训练、部署和测试,这使RT700的开发过程变得更加简单便捷。在需要低功耗的连续处理场景,RT700系列为客户解决复杂应用提供了高效的硬件支持。
安全+AI+连接三大关键技术专长,筑就智能端侧方案竞争力
为了帮助客户应对越来越复杂的边缘系统开发,仅仅需要可拓展的底层硬件是不够的,还需要来自其他关键技术领域的支持、以及中间件和软件的融合,才能构成一个完整的系统方案。而这正是NXP相比其他厂商的独到之处,不仅有可拓展的底层计算硬件覆盖了各种端侧计算需求,还全面覆盖了12大技术领域,提供技术专长。
恩智浦目前定义了12个重点技术领域,包含有信息安全、连接、人工智能和机器学习、图像和显示、触摸、电机控制、功能安全、网络连接、语音、视觉、能源转换和低功耗。每个领域都投入了大量的研发资金,以确保能够提供真正独特的产品给到客户。
而在此次媒体沟通会上,Charles重点介绍了NXP在功能安全、连接技术以及AI/ML三大技术领域的突破。
【EdgeLock安全技术:从端到云,从现代加密到未来量子加密】
在一切产品研发过程中,安全都要作为首要考虑。在IIoT的今天,要实现的是从设备端到云端的全面安全保障。NXP提供了覆盖不同安全等级需求的硬件方案,既包括基础且经济高效的安全性,也涵盖更高级别的安全保障,并集成了真正的硬件安全区域(EdgeLock™安全区域),这使得其在市场中具有明显的竞争优势。
NXP还提供独立的安全微控制器,专门用于管理系统中的安全任务,进一步增强了产品的安全性。例如EdgeLock™ SE050安全芯片,专为需要极高信息安全保护的应用而设计,与NXP的处理器结合可以提供最顶级的信息安全防护。通过采用完整的硬件和软件结合的安全方案,NXP能够确保基于其处理能力构建的基础设施免受日益频繁的恶意软件攻击。
不仅如此,NXP在产品层面之外,还提供了完整的云基础设施,以便客户管理其微控制器中的安全密钥,形成了硬件、软件与云服务的三位一体模式。EdgeLock 2GO是NXP提供的密钥注入和管理服务,为客户的设备提供密钥管理的云端支持,确保从设备到云的端到端安全。NXP是少数能提供这种完整解决方案的公司之一,从硬件到终端设备,通过云服务,NXP为客户提供了真正的信任根。例如,借助安全边缘的能力,NXP成为首家获得Matter认证的公司,进一步证明了其在安全领域的领先地位。
面对未来量子计算带来的挑战,NXP也走在了前列。Charles是首家为量子计算加密做好准备的安全芯片公司。由于客户设备和基础设施的使用周期往往长达十多年,量子计算对现有加密技术的潜在威胁使得对未来安全的准备愈发重要。NXP通过提供具备量子安全特性的处理解决方案,为客户的长周期应用提供保障,体现了其对市场趋势的前瞻性洞察,以及通过创新为客户创造价值的承诺。
【eIQNPU+eIQ软件框架:创新机器学习解决方案,全面覆盖硬件与软件的AI/ML支持】
在端侧的AL/ML方面,NXP通过eIQ NPU硬件加速器和eIQ软件工具包的结合,形成了一个完整的机器学习解决方案,支持从低算力MCU到高算力应用处理器,适用于广泛的边缘AI应用场景。
硬件方面集成了32位微控制器、跨界MCU、应用处理器等,并结合eIQ软件框架支持AI模型的开发和部署,覆盖从数据采集、标注、训练到部署的完整流程,适用于从低算力MCU到高算力应用处理器的硬件平台,满足广泛的工业物联网和边缘AI需求。
值得一提的是,NXP的AI/ML加速器(即eIQ Neutron神经处理单元)提供从10 GOPS到多TOPS的广泛算力支持,能够应对不同复杂度的AI任务,适用于各种边缘应用场景。当前可提供的示例包括命令识别、机器视觉、异常检测、网络安全、身份识别和家用设备的能效优化等,这些解决方案可以帮助客户在智能家居、工业自动化和物联网中实现AI赋能。
正是凭借着这种强大的软硬件能力耦合,在端侧设备上运行大语言模型成为了可能。“由于延迟和隐私监管方面的原因,越来越多的AI/ML功能将走向边缘。如今,很多功能,尤其是看到这些非常先进的AI/ML模型时,都是在云端实现的。”Charles分享到,“就在几个月前,我们展示了在我们的i.MX 9系列产品上,可以在边缘运行大语言模型,甚至无需连接到云端。因此,现在可以真正启用不需要云连接的应用,设备可以变得智能和自主,并自行做出决策。”
【集合所有连接元素,实现无缝连接体验】
在连接方面,NXP产品支持的多种无线连接标准,包括Wi-Fi、蓝牙(Bluetooth)、Thread、Zigbee、超宽带(UWB)、以及NFC等。这些连接选项使得NXP的产品在智能家居、工业物联网等领域可以实现无缝连接和通信,满足多样化的需求。
NXP的连接技术具有良好的扩展性、适应性和稳定性,可以全面集成到其他恩智浦产品中。凭借着广泛连接能力和可拓展的处理能力结合,NXP为客户提供了多套灵活且高效的边缘计算和物联网解决方案。
Charles强调,NXP是唯一一家拥有让客户访问智能连接设备所需的所有不同连接元素的公司,如何将其与底层处理能力相结合,是恩智浦可以帮助生态系统及帮助客户开发其用例的关键之一。
端侧AI/ML将无处不在,NXP赋能IIoT智能边缘
凭借着灵活可拓展的底层计算硬件,加上多项关键技术专长,NXP正在帮助端侧AI/ML技术不断渗透到工业物联网的方方面面。从制造业到家庭智能设备,机器学习模型在边缘实现将会实现更多的应用。在此次媒体沟通会现场,Charles也通过几个具体的案例,展示了NXP是如何帮助客户将AI/ML技术无缝融入IIoT领域中,实现智能决策、优化能效和提升用户体验。
在电动工具领域,NXP结合AI/ML和电机控制技术,提供了单芯片解决方案(MCX N947),实现了电动工具中的自动停止功能和电机控制。MCX N系列芯片支持本地模型推理,eIQ工具帮助客户开发解决方案。这一解决方案在单一芯片上实现了马达控制与AI功能的结合,典型应用是电动工具在遇到特定情况时自动停止。
在电力转换领域,NXP的MCX N系列和MCX W系列相结合,为逆变器和储能产品提供了一整套AFCI(拉弧检测)功能的解决方案。通过处理、连接和AI/ML能力的结合,确保提供最高效的电力转换解决方案,并提供本地实验室和技术支持,助力客户快速实现功能落地。
在医疗领域,NXP将AI/ML与声音检测相结合,应用于传统的呼吸机中,用于识别患者的打鼾声,将其从其他声音中分离出来,从而保护患者。该解决方案结合了i.MX RT系列处理器和相关软件,实现了处理与AI/ML的集成应用。
在智能工厂中,NXP的AI/ML技术用于视觉检测,帮助提高效率和准确性。NXP提供了包含MCU、MPU以及连接方案的完整解决方案,广泛应用于智慧工厂中,并支持多个生态合作伙伴,以模组级或方案级产品形式加速客户的开发和量产。
在家用电器领域,NXP的语音控制技术正得到广泛应用,支持多语言能力。NXP的VIT Speech to Intent引擎可在任何微控制器上运行,支持多语言语音控制,适用于面向全球市场的家电产品。
在边缘应用大型语言模型方面,NXP的i.MX 95处理器结合PMIC和连接芯片,提供了一整套适用于家庭和工厂环境中进行智能决策的解决方案,实现了无需云连接的本地大语言模型推理。
---
预期在未来,端侧AI/ML将会迎来爆发。这种爆发的应用,并不是单一终端、单一形态,而是会像IoT终端的千奇百态一样,取决于实际的应用场景和使用需求,模型覆盖到从几千个到数亿个参数量、算力从几个GOPS到几个、几十甚至上百TOPS不等。
客户必需根据实际需求在参数数量和算力方面做出平衡和取舍,而NXP为他们提供了一系列绝佳的方案选择。
“对于端侧AI和ML来说,实现几十TOPS并不难,困难的是以一种非常节能的方式实现它。”Charles说到,“恩智浦专注于在边缘运行人工智能,而不是在云端的AI。我们专注在我们身边的设备上,为它们提供额外的智能和功能。”