神秘的异构智能发言,能耗和计算堪比谷歌华为

　　最近，技术神秘的异构智能终于出现在了人们的视线中，异构智能的CEO吴韧还为此，表达了公司愿景“异构智能有芯片、模型，有超级计算机，希望将模型脱离云端，带到本地和终端，让终端变得智能。”吴韧谈异构智能芯片：能耗比谷歌低，比华为寒武纪计算力高。

　　大气、稳重是吴韧给人留下的第一印象。自2015年百度离职创立异构智能以来，这位CEO很少出来发声，异构智能也因此被打上了“神秘”的标签。

　　与其说这场名为《异构智能拥抱人工智能大势》的分享是场媒体交流会，倒不如说是场吴韧揭秘他与异构智能近况的恳谈。

　　“异构智能有芯片、模型，有超级计算机，希望将模型脱离云端，带到本地和终端，让终端变得智能。”吴韧一开始就表达了公司愿景。

　　△ Novumind（异构智能）创始人兼CEO吴韧博士（右），及先烽资本创始人廖志宇（左）

　　“（云端）物联网是个伪命题，是难以实现的。”吴韧说。

　　目前的现状是，看似魔术般连接起来的物联网，实际需要通过很多海底和底下光缆从分支道路连接到主干道。接入的分支道路呈指数级增长，已经远远超出主干道增长的速度。

　　因为传统的物联网的云端架构难以处理未来的海量数据，异构智能开始考虑将人工智能的能力从云端拿到终端，让边缘设备学会“思考”。将边缘设备思考的结果通过网络与世界连接，就是实现了吴韧口中的智联网（I2oT）。

　　“在本地做人工智能是未来的方向，异构智能将为这个方向的公司赋能。”吴韧说。

　　将AI放于终端对芯片提出了一高一低两点挑战。“高”在于，AI芯片主要有足够强大的高性能支持复杂的人工智能计算，“低”是指芯片需足够低功耗才能置于边缘的小物体上。

　　“是挑战，也是机会，”吴韧的声音中带着坚定，“异构智能的决定是take the challenge and seize the opportunity（接受挑战，抓住机遇）。”

　　高性能-低能耗

　　在此情境下，异构智能选择放弃芯片的通用性，为AI场景设计一款专用芯片，以追求最高的性能功耗比。

　　吴韧表示，目前的人工智能芯片真正起效需要10TOPS（万亿次运算/秒）的计算力，谷歌等公司的顶级芯片计算力高但能耗也高，不满足本地落地的条件，而高通、寒武纪麒麟970等芯片虽然低能耗，但计算力却达不到。

　　相比之下，NovuTensor V1仅用5W的用电量，就能实现15TOPS的性能。能耗低，且满足计算需求。

　　△ NovuTensor优势对比

　　5W是什么概念呢？吴韧现场形象化地表示，5W是USB可以提供的电量。

　　“这就是从云端突破到终端的能力。”吴韧说。

　　专利后的全栈解决方案

　　“人工智能的核心计算是三维张量的卷积计算，小立方体和大立方体重合的部分做点乘，”吴韧开始谈到芯片背后的技术，“异构智能的芯片在三维层面做操作，并且有四项专利保护。”

　　△ NovuTensor核心技术

　　这四项专利包括三维张量卷积用硬件的直接实现，对数据的调度与分配、归并和处理器间的协作。

　　只看到机会还不够，异构智能最早找到办法把芯片和算法设计出来并加以实现，辅之以专利保护。这样看来，异构智能走得早，也走得稳。

　　“想为其他公司赋能。”吴韧不止一次提到这句话。

　　赋能，也就是帮助其他公司训练出更聪明的模型、更复杂的网络结构，让数据集发挥更大的作用。

　　通过为人工智能定制的超级计算机进行训练，异构智能的芯片能用最高的性能功耗比实现设计模型，为不同行业，提供全栈式的服务。甚至可以为非AI公司提供计算和智能的能力，帮助人工智能落地。

　　△ 异构智能的全栈解决方案

　　异构智能的本地智慧模块NovuBrain主要落地方向包括安防、制造、家居、医疗器械、智慧城市和智能驾驶，目前已经与HP、KUKA合作。

　　“通过把技术能力赋给顶级的大公司，这些公司把这些能力赋予给他们的用户，异构智能就不需要在每一个行业、对每一个用户、每一个应用来做这些事情。”吴韧说。

　　据量子位了解，目前28nm的ASIC芯片已经进入流片阶段，16nm和7nm芯片同步推进，预计明年生产。

　　当被问及明年推出16nm芯片是否时间紧张时，吴韧表示公司团队人才积累丰厚，对最新技术的把控很有信心。技术团队的李淼（Mike Li）之前在Inphi负责过两款16nm的芯片，对它的制程基本有100%的信心。

　　“未来的世界一定是智能物联网领先。异构智能的定位是让万物互联转到万物智能，为转折提供所有的技术，随着智联网的长大，公司也将长大，成为伟大的公司。”吴韧说。