设计工具
存储

利用美光速度超群的数据中心 SSD 加速 AI 工作负载

Alvaro Toledo | 2024 年 7 月

随着人工智能(AI)不断改变行业并推动创新,数据中心需要能够跟上发展步伐的存储解决方案。为满足这一需求,今天我很高兴地宣布推出新款驱动器——美光 9550 NVMeTM SSD。这一新款尖端垂直集成 SSD 是 PCIe® Gen5 解决方案,基于美光业界前沿的 232 层 NAND 打造。通过结合这些尖端技术,美光为性能和能效设立了新的标杆。美光 9550 SSD 不仅速度快,还是市场上运行速度名列前茅的 PCIe Gen5x4 数据中心 SSD,可提供出类拔萃的性能和能效。
 

美光 9550 速度和效率出类拔萃

美光 9550 SSD 采用 PCIe Gen5 技术,性能惊人,速度在业界出类拔萃。美光 9550 的部分性能数据:

  • 顺序读取性能高达 14GB/s,数据传输速度大幅飞跃,位于业界前沿。
  • 顺序写入性能高达 10GB/s,相比目前市场上的其他 PCIe Gen5 驱动器,性能要高出 67%,优势明显。
  • 随机读取性能高达 330 万 IOPS,与市场上的竞争产品相比提升高达 35%。
  • 随机写入性能高达 40 万 IOPS,比竞争解决方案高出 33%。

对于寻求加速工作负载的数据中心客户而言,出色的性能使美光 9550 SSD 成为脱颖而出的解决方案。

美光 9550 速度分析图

AI:杀手级 PCIe Gen5 应用程序

AI 已成为 PCIe Gen5 的杀手级应用程序,推动提升了对高性能存储解决方案的需求。随着 AI 模型规模不断扩大,对高效数据处理的需求也在不断增长。传统的文件访问方法无法满足这些工作负载的需求,从而带来了显著延迟和大额开销。为了应对这一挑战,业界正在开发大加速器内存(BaM)等创新存储软件解决方案,利用 SSD 实现 GPU 线程对大量数据集和大型训练模型的直接、细粒度访问。

BaM 的定制存储驱动程序针对并行 GPU 处理进行了优化,无需 CPU 干预即可直接访问存储设备。这可以显著减少训练时间,并大幅提高图神经网络(GNN)等工作负载的 IOPS,这些工作负载依赖于大型数据集上的小型随机读取操作。

BaM 通过显著缩短 GNN 训练时间和大幅提高每秒读写操作次数(IOPS)展示了其出色的能力。在对美光 9550 进行的 BaM 测试中,我们展示了在 AI 数据处理领域所树立的效率和速度新标准。

BaM GNN 工作负载时间
GNN 特征聚合 SSD 性能

可持续发展与性能相结合

在可持续性领域,美光 9550 SSD 的突出之处不仅在于出色的性能,还在于业界前沿的能源效率,这是 AI 工作负载的关键因素。我们的测试数据显示,在使用 BaM 进行 GNN 训练时,美光 9550 的性能表现比竞争对手高出 60%,同时每个 SSD 的能耗降低了多达 43%,这意味着完成相同任务所需的系统能耗降低了 29%。

图神经网络训练

 

详情请参阅《美光 9550 NVME SSD 与大加速器内存(BaM)》技术简介

同样,在大型语言模型推理测试中,我们的测试表明,使用美光 9550 SSD 可将性能提高 15%,同时每个驱动器可节省高达 37% 的能耗,这意味着系统能耗节省高达 19%。

大型语言模型推理

数据中心的未来已来

美光 9550 不仅仅是一个器件,更是数据处理技术的一次飞跃。优异的速度和效率使 AI 应用程序能够达到更好的运行状态,推动各个行业的创新和进步。

“美光 9550 Gen5 SSD 遵循 OCP 数据中心 SSD v2.5 等超大规模驱动的行业标准,包括先进的遥测功能,从而加速存储创新。”Meta 系统工程师 Ross Stenfort 说。“这些功能加上 E1.S 外形尺寸和高达 16TB 的容量,可助力维护规模机群。”

诚邀您亲自体验美光 9550 的强大功能和效率。如需了解更多信息,或讨论美光 9550 SSD 如何使您的数据中心受益,请立即联系我们

VP & GM, Data Center and Storage

Alvaro Toledo

Alvaro is Vice President and General Manager of Data Center Storage at Micron. He is responsible for strategy, product and technology roadmaps, technical customer engagement, and profit and loss (P&L) for data center storage.

Alvaro earned a bachelor’s degree in computer science from National University and an MBA from the Haas School of Business at the University of California, Berkeley.