研究人员创建基了于忆阻器的贝叶斯机器
扫描二维码
随时随地手机看文章
在过去的几十年里,机器学习模型在各种现实世界任务上的性能有了显着提高。然而,训练和实施这些模型中的大多数仍然需要大量的能量和计算能力。
因此,全世界的工程师一直在尝试开发可以更有效地运行人工智能模型的替代硬件解决方案,因为这可以促进它们的广泛使用并提高它们的可持续性。其中一些解决方案基于忆阻器,即可以存储信息而不消耗能量的存储设备。
巴黎-萨克莱大学-CNRS、格勒诺布尔-阿尔卑斯-CEA-LETI 大学、HawAI.tech、索邦大学和艾克斯-马赛大学-CNRS 的研究人员最近创建了一种所谓的贝叶斯机器(即执行计算的 AI 方法基于贝叶斯定理),使用忆阻器。他们提出的系统在Nature Electronics上发表的一篇论文中介绍,被发现比目前使用的硬件解决方案更节能。
“人工智能今天正在取得重大进展,但面临着一个挑战:它相当大的能源消耗,”进行这项研究的研究人员之一 Damien Querlioz 告诉 TechXplore。“现在众所周知,这种消耗来自计算机中计算和存储功能之间的分离。由于人工智能使用大量数据,因此需要大量内存,就能源而言,访问这些内存成本很高。我们的大脑的能量效率更高,因为记忆功能与计算功能尽可能接近,我们想重现这种策略。”
忆阻器,全称记忆电阻器(Memristor)。它是表示磁通与电荷关系的电路器件。忆阻具有电阻的量纲,但和电阻不同的是,忆阻的阻值是由流经它的电荷确定。因此,通过测定忆阻的阻值,便可知道流经它的电荷量,从而有记忆电荷的作用。1971年,蔡少棠从逻辑和公理的观点指出,自然界应该还存在一个电路元件,它表示磁通与电荷的关系。2008年 ,惠普公司的研究人员首次做出纳米忆阻器件,掀起忆阻研究热潮。纳米忆阻器件的出现,有望实现非易失性随机存储器。并且,基于忆阻的随机存储器的集成度,功耗,读写速度都要比传统的随机存储器优越。此外,忆阻是硬件实现人工神经网络突触的最好方式。由于忆阻的非线性性质,可以产生混沌电路,从而在保密通信中也有很多应用。
忆阻器本质上是基于纳米设备的电子元件,可以限制或调节电路中的电流,同时还可以预先记录其中传递的能量。由于它们同时执行计算和信息存储,这些设备可以更好地再现人脑的信息处理策略。
“直到最近,忆阻器还是一项新兴技术,我们无法用它们实现完整的系统,”Querlioz 解释说。“现在,我们的团队构建了一个‘贝叶斯机器’,这是一个带有忆阻器的小型人工智能。原型包括 2,048 个氧化铪忆阻器和 30,080 个硅晶体管 (MOSFET)。”
Querlioz 和他的同事创建的贝叶斯机器将忆阻器与传统的互补金属氧化物半导体 (CMOS) 技术相结合。研究人员创建了机器原型并评估了其在手势识别任务中的性能。值得注意的是,他们发现,与基于微控制器的传统硬件解决方案相比,它所消耗的能量少数千倍,可以识别特定的人类手势。
“大多数关于基于忆阻器的机器学习的研究旨在实现深度学习,”Querlioz 说。“当然,这是一个极其重要的目标,因为深度学习在今天如此成功。然而,深度学习有一些局限性:它的结果无法解释,并且在可用数据很少时表现不佳。在这里,我们选择实施贝叶斯推理,这是一种替代人工智能方法,它在深度学习表现出色的大数据应用中表现不佳,但在小数据情况下表现出色,并提供完全可解释的结果。”
未来,由这组研究人员创建的基于忆阻器的贝叶斯机器可以帮助提高 AI 模型的能效,同时还可能激发其他类似解决方案的开发。它可能对安全关键型应用特别有用,例如用于监控工业设施安全的医疗传感器或电路。Hawai.tech 是一家为团队贝叶斯算法的开发做出贡献的初创公司,现在正在使用该机器来创建这些传感器。
Querlioz 补充说:“我们设计了一个相当大的贝叶斯机器版本,目前正在制造中,我们也将机器背后的原理应用于其他机器学习方法。” “随着我们在复杂性上扩展我们的设计,我们开始触及学术团体可能的极限。因此,我们同时致力于新技术,下一代忆阻器。”