AI芯片应该有的样子:并不是与“云”相连
扫描二维码
随时随地手机看文章
随着人工智能风潮的兴起,AI芯片应该具备什么样的功能就成为了一个新的研究方向。咨询机构对人工智能的趋势做出了判断,在未来人工智能的市场上12%的比例的资金将用在人工智能芯片上。因此人工智能芯片是一个极其重大的市场,会带来极其重要的机会。异构智能创始人兼CEO吴韧博士向21IC小编展示了一个敢于打破常规的AI芯片应该是这个样子的。
三维张量卷积计算为终端添“智”
近年来,物联网的概念席卷整个市场,凡事“触网”大部分都能博得满堂彩。所有的东西都可以连线到云端、手机都可以连起来。物联网看起来可以魔术般的连起来,但实际如果打开看就发现,要通过很多的海底光缆或者地下光缆来连接起来,是从分支道路到主干道连接的。主干道是国家资源,需要国家的投资才能持续扩大。物联网接入数的增长是指数级增长,可能是4K或者8K摄像头等。这种增长远远超过了主干道增长的速度。对此的解决方法就是,将人工智能的能力脱离云端,让终端设备具有思考的能力。
吴韧博士认为:“把AI放在终端有两方面难度,第一芯片要高性能,因为人工智能的计算很复杂,第二需要在小封装的基础上实现低功耗。异构智能的做法是为人工智能做了极端定制化的芯片。这款芯片不会连接网络或者进行一些其他的计算。它擅长的是在三维上做卷积张量的计算,把人工智能的计算加速,把人工智能应用的计算做得比别人好。”
异构智能采用三维张量的卷积计算,使得小立方体和大立方体重合的部分做点乘。而采用DSP、TPU、GPU等现有技术很难实现三维卷积计算。异构智能采用新技术所研发的AI芯片具有四项专利进行全方位的保护——三维张量的卷积、对数据的调度与分配、归并、处理器间的协作。异构智能将芯片与算法从设计到实现为其他公司赋能,提供人工智能的能力。
根据工业自动驾驶和智能家居对数据计算能力的不同需求,异构智能推出了四款芯片,28nm、16nm两个版本,可以根据终端产品的需要,分为极端低功耗系列与极端计算能力系列。
不破不立,新技术应该如何对接
异构智能采用新技术推动了人工智能在本地实现的趋势,通过其芯片、模型、超级计算机将模型脱离云端,带到本地和终端,让终端变得智能。超级计算机可以训练模型,让模型和芯片进行配合,让芯片最后可以做某一个模块的功能。AI芯片要在本地实现操作就需要破而后立,相信也有人与21IC小编一样会产生这样的疑惑,采用了新技术的芯片在与现有终端产品对接上会出现什么问题吗?
吴博士在现场为我们解了惑:“无疑,DSP具有先天的好处,向量化,指令集,对延时处理很好,但缺乏并行度和极限能力。TPU、GPU适用于二维计算,同样缺乏计算极限能力。而异构智能的AI芯片能够满足三维空间的计算,同时新款芯片将会兼容ARM的场景和MIPS的场景,可以应对终端产品的应用场景。”
全方位研发设计团队让AI芯片更可靠
众所周知,现在电子产品大都基于28nm工艺技术,在2017年9月异构智能的28nm ASIC芯片进入流片阶段,同时16nm和7nm芯片同步推进。异构智能之所以可以采用最新的制成工艺支持新产品,其覆盖了全栈整合优化的研发设计团队功不可没。
吴博士表示:“公司人才积累丰厚,对最新技术的把控很有信心。中国做芯片的公司很多,软件debug的代价不高,但芯片debyg的代价非常高,有没有做过,或者有没有负责过commercial芯片是一件很重要的事情。没有完全管过一件事情会有很大的陷阱。经过异构智能数学家做的很多数学的分析,才能做一些事情。异构智能目前的数学家获得了运筹学领域类似于图灵奖的奖。这些人让公司不仅仅在计算,在算法和更上层有了非常多的积累。”
先锋资本创始人廖志宇表示:“异构智能现在已经和HP合作,未来会进入世界五百强。目前国内大部分厂商说设计一款芯片实际上都是获得了其他公司的IP,然后组合起来,而异构智能从基础架构的设想到实现都能够独立完。”
正如吴韧博士所言,面对智联网的新要求,我们需要打掉原有的一些东西,从算法设计到芯片设计到仿真到布线,所有层面都要重新优化。勇于打破,才生获得新生。