为边缘计算量身定制 高通推出Cloud AI 100推理芯片
扫描二维码
随时随地手机看文章
据外媒报道,在旧金山举办的首届Qualcomm AI Day会议上,高通除了发布面向智能手机、平板电脑以及其他移动设备的三款全新芯片外,它还推出了一款专为边缘计算量身定制的人工智能处理器:Qualcomm Cloud AI 100。
高通产品管理高级副总裁Keith Kressin表示:“这是一个专门为人工智能推理设计的全新的信号处理器,产品将在2020年下半年开始生产。
Cloud AI 100集成了各种开发工具,包括编译器、调试器、分析器、监视器、服务、芯片调试器和量化。此外,它还支持ONNX、Glow和XLA,以及机器学习框架,如谷歌的TensorFlow、Facebook的PyTorch、Keras、MXNet、百度的PaddlePaddle以及微软的认知工具包。
高通公司估计Cloud AI 100的峰值性能将是Snapdragon 855和Snapdragon 820的3到50倍,并且高通还声称,与传统的现场可编程门阵列(FPGA)相比,Cloud AI 100的推理速度提高了约10倍。此外,Cloud AI 100的运算性能将远远超过100 TOPs(Snapdragon 855最多可达7 TOPs)。
“FPGA或GPU通常可以更有效地进行AI推理处理,因为GPU更适合用于并行计算,而CPU适合用于串行计算,并且GPU芯片的并行计算非常适用于人工智能海量数据处理,”Kressin解释道。“不过,GPU是专门为图形运算而设计的,如果你从头开始设计芯片来加速AI,可以获得显著的改进。从CPU到FPGA或GPU大约有一个数量级的改进,但定制的AI加速器能提供再一个数量级的改进。”
当然,高德并不是第一个推出AI推理芯片的公司。华为发布了业界最高性能的基于ARM处理器鲲鹏920芯片(Kunpeng 920)。英伟达于2019年1月在拉斯维加斯举行的消费电子展上,介绍了其即将推出的Nervana神经网络处理器(NNP-I)。谷歌在2018年首次推出Edge TPU,阿里巴巴于2018年12月宣布,它计划在2019年下半年推出首款自主研发的AI推理芯片。
随着Qualcomm Cloud AI 100的推出,必将会为AI推理芯片市场带来更多可能,同时,这也从侧面证明了AI推理芯片的重要性以及广阔的发展前景。