CEVA推出全新边缘设备AI推理处理器架构,为定制神经网络引擎提供协处理支持
扫描二维码
随时随地手机看文章
CEVA,全球领先的智能和互联设备信号处理平台和人工智能处理器IP授权许可厂商在比利时布鲁塞尔AutoSens展会发布用于边缘深度神经网络推理的第二代AI处理器架构NeuPro-S。配合NeuPro-S的发布,CEVA还推出业界首创的深度神经网络编译器技术CDNN-Invite API,通过统一接口,从而优化神经网络推理固件来支持NeuPro-S内核与定制神经网络引擎的异构协同处理。NeuPro-S连同CDNN-Invite API是任何需要边缘人工智能处理的基于视觉设备的理想选择,包括自动驾驶汽车、智能手机、监控摄像头、消费类摄像头,以及AR/VR耳机、机器人和工业应用。
经设计优化NeuPro-S,对边缘设备中视频和图像中的物品进行分割、检测和分类神经网络,显著提高系统感知性能。其中包括支持多级内存系统以减少使用外部SDRAM的高成本传输,并支持多重压缩选项和异构可扩展性,可在单个统一架构中实现CEVA-XM6视觉DSP、NeuPro-S内核和定制AI引擎的各种组合。与CEVA第一代AI处理器相比,NeuPro-S的性能平均提升50%,内存带宽和功耗分别降低了40%和30%。
NeuPro-S系列包括NPS1000、NPS2000和NPS4000,它们是每个周期分别具有1000、2000和4000个8位MAC的预配置处理器。NPS4000具有最高的单核CNN性能,在1.5GHz时可达到12.5 TOPS,并且可完全扩展,最高可达到100 TOPS。
针对日益多样化的专用神经网络和处理器,CDNN-Invite API可将客户设计的神经网络引擎无缝集成到CEVA屡获殊荣的深度神经网络(CDNN)框架中。而后,CDNN将会全面优化、增强网络和层,以期充分利用CEVA-XM6视觉DSP、NeuPro-S和定制神经网络处理器的各项卓越性能。CDNN-Invite API已获大客户采用,他们与CEVA工程师密切合作将其部署在商业产品中。
CEVA视觉业务部门副总裁兼总经理Ilan Yona评论道:“CEVA继续领先扩展边缘设备深度神经网络处理器和优化技术的发展步伐。NeuPro-S架构解决了这些设备中日益增多的数据带宽和功耗挑战的根本原因。通过CDNN-Invite API,我们降低了不断增长的神经网络创新者社群的准入门槛,可让他们从我们的CDNN编译器提供的广泛支持和易用性中受益,从而进一步扩展了在神经网络编译器技术领域无可争议的竞争优势。”
CEVA在整合处理、加速、软件和工具方面拥有丰富的经验和整体战略,提供了一个面向深度学习的开放的、高效的可编程平台。除了AI实时处理之外,NeuPro-S架构中集成的完全可编程CEVA-XM6视觉DSP还可以同时处理图像、计算机视觉和一般DSP工作负载。这使得客户和算法开发人员能够利用CEVA丰富的图像和视觉软件库,包括用于3D映射的CEVA-SLAM软件开发套件、用于计算机视觉开发的CEVA-CV和CEVA-VX软件库,以及最近获得的广角图像软件套件,其中包括去扭曲、视频拼接和图像数据传感器融合技术。
NeuPro-S通过提供满足安全要求的解决方案,包括质量保证标准IATF 16949和汽车标准(包括ISO 26262和A-Spice),进一步巩固了CEVA在汽车案例中的成功地位。
CEVA现在已发布NeuPro-S,并已授权许可予汽车和消费产品相机应用领域的领先客户。目前CEVA已经向领先客户提供CDNN-Invite API,并于2019年底进行普遍授权许可。