从数据中心到物联网设备,人工智能计算的持续发展(1)
扫描二维码
随时随地手机看文章
电子行业的两大趋势是物联网和人工智能。两者可以分开考虑,但事实是,它们已经紧密地交织在一起。物联网正在创造对离数据中心越来越远的更复杂计算的需求,而人工智能正被用于使这种迁移工作。这一系列文章,我们将讨论边缘的 AI计算。
首先,英伟达取消了与 Arm 的大型合并计划。该交易取决于多个全球监管机构的批准。中国是否会评估这笔交易是一个现在永远无法回答的问题,但在英伟达和 Arm 等待的时候,其他地方的反对意见开始升温。Arm 是一家私营公司,过去和现在都需要大量资金,这也是它最初愿意被 Nvidia 收购的部分原因。现在,该公司正在寻求它剩下的唯一可行的选择,那就是公开募股。
同时,英特尔的代工服务进一步承诺支持客户和潜在客户使用 RISC-V 架构构建处理器。该公司宣布与 Andes Technology、Esperanto Technologies、SiFive 和 Ventana Micro Systems 建立合作伙伴关系。英特尔表示,它还将加入帮助管理 RISC-V 技术开发的非营利组织 RISC-V International。
所以我提到了这两个故事中的一个重叠点,就是 RISC-V。Arm 报告称,随着越来越多的公司开始选择 RISC-V,它正在失去潜在的业务。一直以来,Arm 希望帮助其被许可方在数据中心市场挑战英特尔,但 Arm 报告说它只取得了微不足道的成功。因此,英特尔在 RISC-V 上加倍下注几乎就像是在堆积如山。
文章最后,我们有一个关于用钻石构建量子微处理器的研究工作的故事。即使我能解释它是如何工作的以及为什么。
电子行业一直在建设——并将继续建设——巨大的数据中心。这吸引了对进行人工智能培训感兴趣的公司的业务。人工智能训练传统上依赖于庞大的数据集和大量的计算能力来处理它们,因此人工智能处理开始迁移到数据中心是很自然的。
如果你允许我提醒你一些你已经知道的事情,那么所有的处理能力都需要大量的“POWER”。它需要大量的能量。
同时,物联网的全部意义在于将计算从集中式计算中心转移到世界各地。人们希望在物理上更偏远的地方进行计算。换句话说,物联网正在将网络边缘推得越来越远。
这一切都在制造一种奇怪的张力。您希望在边缘具有大量处理能力,但这不是它所在的地方。将处理能力推向边缘是很困难的,因为您还需要外部电源来支持您的处理能力,而且在许多情况下,您想要做的事情根本不存在或负担不起。那么它将如何到达那里?
去年 6 月,Synopsys 以大约 3.15 亿美元的价格收购了 Virage Logic。早在 2009 年,Virage 就收购了 ARC International。ARC 代表 Argonaut RISC Core,这是一种可以追溯到 1996 年的嵌入式技术。顺便说一下,ARC 是那些可爱的三字母缩写词之一。Portmanteau 的首字母缩略词包含另一个首字母缩略词。在这种情况下,ARC 包含 RISC,它代表精简指令集计算机。反正。ARC 在结合了相对较高的性能同时消耗最少的功率的处理器方面拥有并且仍然拥有重要的专业知识。换句话说,正是边缘人工智能所需要的。
所以我们来了,来自 Synopsys 的 Matt Gutierrez。我问他的第一个问题很长而且很复杂,但基本上可以归结为:边缘的 AI 发生了什么?
有几件事可以有效地让人工智能从云端转移到我们的设备和其他形式的网络边缘。首先,技术方面有了进步。所以,你知道,人工智能需要相当多的计算能力。所以你需要一定数量的内存,你需要一定数量的处理计算能力,这些能力过去只存在于云中。多年来,随着事物在更小的几何形状中移动,这种情况一直在发生变化,获得适合生活在边缘设备中的电源包络。因此,出现了一项技术发展,使人工智能能够移动。
与此同时,一些人工智能,即神经网络本身,已经变得更小,因此需要的资源更少,包括它们可以生活在资源中、资源受限、边缘设备中的程度。
最后但并非最不重要的一点是,应用程序需要将事物转移到边缘。所以为什么?好吧,显而易见的是延迟。因此,如果人工智能必须不断进出云端,那么数据上升和数据回落会有相当大的滞后;你消耗网络带宽。一些需要实时要求的应用程序,例如自动驾驶汽车,您无法忍受这种延迟。因此,需要将其移近边缘或设备本身。因此,技术、模型、软件和实时需求的交叉点已经综合在一起,开始将大量人工智能驱动到边缘计算。