Graphcore 发布 7nm 级第二代 IPU,性能提升 8 倍
扫描二维码
随时随地手机看文章
7 月 15 日消息,Graphcore 今日正式发布第二代 IPU 以及用于大规模系统级产品 IPU-Machine: M2000(IPU-M2000)。新产品比第一代 Graphcore IPU 性能提升 8 倍。中国很可能成为 Graphcore 最新推出的第二代处理器技术最先实现商业化落地的区域之一。
据介绍,IPU-M2000 是一款即插即用的机器智能刀片式计算单元,由 Graphcore 全新的 7 纳米 Colossus 第二代 GC200 IPU 提供动力,并由 Poplar 软件栈提供全面支持。其设计便于部署,并支持可扩展至大规模的系统。这款纤薄的 1U 刀片机可提供 1 个 PetaFlop 的机器智能计算,并集成了针对 AI 扩展优化的网络技术。
Graphcore 第二代 Colossus IPU 处理器:GC200
Graphcore IPU-M2000
IPU-M2000 可构建成 IPU-POD64 这一 Graphcore 全新模块化机架规模解决方案,可用于极大型机器智能横向扩展,提供前所未有的 AI 计算可能性,以及完全的灵活性和易于部署的特性。它可以从一个机架式本地系统扩展到高度互连的超高性能 AI 计算设施中的 1000 多个 IPU-POD64 系统。
“随着 IPU-M2000 和 IPU-POD64 的推出,Graphcore 进一步扩大了我们在机器智能领域的产品竞争优势。”Graphcore 首席执行官 Nigel Toon 指出:“Graphcore 通过技术创新实现更强有力的产品线,这些创新能够提供客户所期望的行业领先性能。对于寻求将机器智能计算添加到数据中心的客户而言,Graphcore 最新推出的 IPU-M2000 凭借其强大的算力、易于扩展的灵活性和突出的易用性,将具有极强的可行性和价值提升潜力。”
Mk1 IPU 产品的用户可以确信,他们现有的模型和系统可以在这些新的 Mk2 IPU 系统上无缝运行。与第一代 Graphcore IPU 产品相比,第二代产品的性能还将提高 8 倍。
Mk1 IPU 产品与 Mk2 IPU 产品性能对比
IPU-M2000 的设计使客户可以在 IPU-POD™配置中构建多达 64,000 个 IPU 的数据中心规模系统,提供 16ExaFlops 的机器智能计算能力。新的 IPU-M2000 甚至能够处理最艰巨的机器智能训练或大规模部署工作负载。
Graphcore 全新的 IPU-Fabric 技术使大规模连接 IPU-M2000 和 IPU-POD 成为可能,该技术是专为机器智能通信而从头设计的,并提供了专用的低时延结构,可在整个数据中心内连接 IPU。
Graphcore IPU-Fabric 技术
Graphcore 的 Virtual-IPU 软件与工作量管理和编排软件集成在一起,可以轻松地为许多不同的用户提供训练和推理服务,并允许根据工作情况调整和重新配置可用的资源。
Graphcore 的最新产品线是通过三大颠覆性技术创新实现的,这些创新可提供客户期望的行业领先性能:
计算:每个 IPU-M2000 的核心都是 Graphcore 新的 Graphcore ColossusMk2 GC200 IPU。该芯片采用台积电最新的 7 纳米工艺技术开发,每个芯片在一个 823 平方毫米的裸片上包含超过 594 亿个晶体管,使其成为有史以来最复杂的处理器。数据:每个 IPU 都有大量的 In-Processor Memory。Graphcore 新型 Mk2 GC200 在处理器内部具有史无前例的 900MB 超高速 SRAM,在每个处理器内核旁边都设有大量 RAM,以实现每位最低能量的访问。Graphcore 的 Poplar 软件还允许 IPU 通过 Graphcore 独特的 Exchange-Memory™通信访问 Streaming Memory™。这甚至可以支持具有数千亿个参数的最大模型。每个 IPU-M2000 都可以支持密度高达 450GB 的 Exchange-Memory,以及前所未有的 180TB / 秒的带宽。通信:IPU-M2000 具有内置的专用 AI 联网 IPU-Fabric。Graphcore 创建了一个新的 Graphcore GC4000 IPU-Gateway 芯片,该芯片可提供令人难以置信的低时延和高带宽,每个 IPU-M2000 均可提供 2.8Tbps。在从数十个 IPU 扩展到数以万计个 IPU 的过程中,IPU-Fabric 技术使通信时延几乎保持恒定。
“将强劲算力与网络能力相结合,我们能够处理全球最先进、最复杂的算法模型。”Graphcore 高级副总裁兼中国区总经理卢涛表示:“这样的算法模型,对中国本地的 AI 算法落地场景,如云计算、互联网和通信等场景都会产生推动作用,并将为 AI 产业者提供巨大的价值。”
Graphcore 是一家英国 AI 芯片硬件设计初创公司,成立于 2016 年,总部位于英国布里斯托,Graphcore 的主要业务是设计用于 AI 应用程序的处理器,为云服务等应 用提供产品支持。其 16 纳米 IPU GC2 处理器已量产。