人工智能机器学习计算和存储同时进行

人工智能 (AI) 应用程序在我们的日常生活中无处不在。随着传感器、5G通信、边缘计算等技术的不断演进，包括汽车、工厂自动化设备、医疗保健设备、各种消费电子产品和小型电池供电的物联网(IoT)在内的大型数据中心)节点，从数字化、网络化功能的增加，逐渐演变为拥有不同层次的“智能”。

这些智能系统可以将收集到的海量数据转化为有用的信息，做出快速决策并实时做出适当响应，或者将数据传输到云端进行深入分析以获得更高价值的见解。它们能否充分发挥作用，不仅取决于中央处理器(CPU)的计算能力，还取决于内存，内存不再仅仅负责简单的数据存储功能，而是开始在共享中发挥越来越重要的作用处理器的计算任务。

Donald Huang 是 Macronix International Co., Ltd. (Macronix) 的产品营销部总监，该公司是非易失性存储器集成组件的全球领导者。他以配备高级驾驶辅助系统(ADAS)和自动驾驶功能的智能网联汽车为例，表示这类配备摄像头、激光雷达和雷达等传感器的系统每天可产生高达数TB的数据。因此，它的存储器不仅需要大量的存储容量和高传输带宽，而且还必须满足严格的汽车规范，这些规范对可靠性和质量要求非常高。而且，

此外，他强调，当AI应用从云端走向边缘时，对于车辆等需要安全和快速响应的边缘设备，内存在实时数据处理和高速传输方面提供的支持不可或缺，而对降低系统功耗和成本的解决方案的需求也在上升。

黄总指出，为满足人工智能应用对高存储容量、高速传输和低时延的要求，内存组件在系统中的作用开始发生范式转变;过去，闪存在系统中只起到纯后端存储的作用，支撑前端DRAM和处理器的嵌入式SRAM。不过，随着数据量的大幅增加，对传输带宽和速度的要求也越来越高，他说，需要一种全新的内存架构来应对这些新兴的应用。

他接着解释，因应大数据的需求，目前主流的NAND和NOR闪存已经从2D结构转向3D结构，以达到更高的存储密度和更低的成本。而人工智能系统也希望闪存能够更靠近计算单元，以支持高速访问并降低数据传输功耗。如今的新一代闪存直接在内部增加了计算功能，准备从幕后走向前台，与中央处理器(CPU)和图形处理器(GPU)并肩作战。“Macronix 最新的 FortiX 系列 3D NAND/NOR 闪存就是这样一个'以内存为中心'的创新解决方案，”Donald 说。

FortiX系列产品除了提供3D闪存的高存储容量、稳定的质量和可靠性外，还具有支持实时数据处理、高传输带宽和低功耗等额外优势。Donald表示，FortiX解决方案的内存搜索(IMS)和内存计算(CIM)是数字和模拟架构的计算功能。当传统的存储和计算分离的冯诺依曼架构遇到延迟和功耗瓶颈时，这种新架构不仅可以大大减少内存和CPU/GPU之间的数据传输。这不仅提高了速度并降低了功耗，而且还可以节省对模数转换器、微控制器和 GPU 组件的需求，从而降低整体系统成本。FortiX 是 Macronix 团队花费多年时间进行研发的心血结晶。相关技术论文近年来在国际电子器件会议(IEDM)、国际固态电路会议(ISSCC)等全球学术研讨会上受到青睐。而且，FortiX一直在申请专利。

FortiX的IMS功能可以直接从内存中已有的数据中搜索比较数据(精确或接近)，支持并行输入。Donald解释说，3D NAND适合大数据量(>64Gb)的应用，而3D NOR则支持TCAM和Hamming Distance Sorter架构的高速应用。有多种创新架构提供灵活的选项来帮助物体检测/图像识别，包括智能车辆的车道识别等应用。支持逐位逻辑运算的 CIM 函数可以在深度神经网络推理任务中执行所需的 MAC 运算。Donald补充说，在性能方面，与传统的冯诺依曼架构系统相比，FortiX IMS 3D NAND的内部搜索速度高达300Gb/s，其每秒数据查询率(QPS)可提升10倍以上，运行功耗(有功功率)仅为300mW左右，远低于DRAM的1W功耗。此外，经过FortiX IMS 3D NAND加速器运行后，数据量可以减少到只有原来数据量的5%，大大减少了冯诺依曼架构系统后续运行的数据移动，不仅降低功耗和总成本，同时显着提高性能。

不过，Donald 也强调，新的 FortiX 架构不同于现有的标准闪存产品。为了充分发挥FortiX的全部优势，旺宏在产品开发的早期阶段就与客户紧密合作，针对不同的应用部署类似于特定应用的标准产品，然后旨在将产品设计成通用的产品参考行业标准，包括内存接口。旺宏之所以能够为客户提供优秀的技术支持，是因为旺宏不仅拥有自己的晶圆厂生产线来确保内存产品的质量和可靠性，而且拥有强大的软件和硬件工程师团队支持设计阶段。虽然FortiX系列产品目前还没有官宣，但Donald透露，旺宏一直在积极推动与目标应用客户的设计合作，很可能在未来两三年内推出终端产品，他也看好这一创新技术在人工智能时代的发展前景。旺宏欢迎对FortiX感兴趣的厂商共同合作，共同探索和开发“以内存为中心”解决方案的更多潜在应用。