晶心科技和Deeplite携手合作高度优化深度学习模型解决方案
扫描二维码
随时随地手机看文章
2019年12月31日—32/64位高效能、低功耗、精简RISC-V CPU 核心的领导供货商、RISC-V基金会创始白金会员晶心科技,与Lightweight Intelligence™ 的创建者,总部位于加拿大蒙特利尔的新创公司Deeplite, Inc.,今日宣布将携手合作,在基于AndeStar™ V5架构的晶心RISC-V CPU核心上配置高度优化的深度学习模型,使AI深度学习模型变得更轻巧、快速和节能。
近年来,诸如支持人工智能(AI)的家庭助理等智能装置如雨后春笋般普及,为将极精简的深度学习模型应用至日常生活提供了理想平台。为追求低功耗和低计算资源且有效运行,智能装置必须易于使用并能实时响应使用者请求。如今,因应复杂的AI模型计算和功耗需求,大多数智能装置必须将用户数据和需求发送至云端执行AI处理,再将结果传回智能装置。
晶心科技和Deeplite联手推出解决方案,使诸如智慧家庭助理的人机互动界面可以在本地操作,且几乎不需要联机至云端;当智能家庭助理通过小型摄像机侦测到人时,装置将会自动“唤醒”。其目标为优化在第一个采用DSP SIMD ISA的商业RISC-V核心Andes A25和D25F上运行的深度学习模型,适用于低成本的AI边缘计算应用。该团队从在13MB大的Visual Wake Words(VWW)视觉唤醒关键词数据集上训练的MobileNet模型开始,使用Deeplite的硬件感知优化引擎,在精准度只降低1%的情况下,自动发现、训练和运用小于188KB的新模型。
“我们发现越来越多的行业需要在我们具有DSP指令的RISC-V核心如A25和D25F上运行嵌入式、优化的深度学习模型以加速深度学习演算,”晶心科技首席技术官暨执行副总苏泓萌博士表示,“Deeplite提供了一个可以在晶心内部使用的解决方案,同时也可以让我们的客户将在晶心RISC-V CPU核心上的深度学习算法运用到资源有限的边缘装置。”
“我对于这次的合作感到非常兴奋!Deeplite不仅在最小精度的影响下提供了高达69倍深度学习模型的优化,我们也自动化以前费时又容易出错的人工神经网络架构设计。”Deeplite, Inc. CEO Nick Romano表示,“过去需要花费数周反复测试才能完成的工作,现在可以在几个小时内自动完成!结合Deeplite的Lightweight Intelligence™ 和晶心最好的CPU,使我们更进一步将AI推广于日常生活中。”
透过将Deeplite领先业界的优化技术与晶心最先进的RISC-V CPU相结合,为如语音识别或人员侦测等所需的微控制器级内存及运算要求,原始设备厂商(OEM)和应用开发人员可以提供让用户可将数据保留在装置上,并且同时仍能提供在世界各地真实环境下AI需有的实时且无缝响应等优势。