近日，美光宣布采用 Compute Express LinkTM (CXLTM) 技术的 CZ120 内存扩展模块将随 Supermicro X13 和 H13 Petascale 服务器对外发货，这意味着美光的前沿人工智能 (AI) 和高性能计算 (HPC) 产品线迎来了新的成员。过去一年里，Supermicro 和美光一直在合作开发下一代 Petascale 平台。美光 CZ120 内存扩展模块可提供更多内存容量和带宽，为各种关键型工作负载带来了一种更快、更高效的数据访问方式。这一里程碑巩固了两家公司在行业中的优势地位，将推动数据中心运营商加速采用 CXL 解决方案，以解决他们日益严峻的内存挑战。这些挑战源于现有的数据密集型工作负载以及新一代 AI 和 机器学习 (ML) 工作负载。
采用 CXL 技术的美光 CZ120 内存模块
CXL：解决“内存墙”问题，满足未来 AI、高性能计算、内存数据库和通用计算等数据密集型工作负载的需求
鉴于现有服务器基础设施难以满足数据密集型工作负载的需求，CXL 带来了一种新的架构，可消除长期以来的数据瓶颈。Supermicro 的 Petascale 平台搭配采用 CXL 技术的美光 CZ120 内存扩展模块，提供了新架构的构建模块，可解决以下挑战：
- 内存容量扩展：单台 Petascale 服务器搭配 4 个 CZ120 256GB 模块，可提供高达 1TB 的扩展容量。
- 带宽扩展：每个 CZ120 模块可增加高达 36GB/s 的数据传输带宽，相当于一块 DDR5 RDIMM 以 4800MT/s 速度运行时的带宽。通过增加内存容量和/或带宽可提升服务器的性能。有关 Petascale 平台搭配 CZ120 CXL 内存模块在多个工作负载下的性能分析，请参见美光发布的白皮书：CXL 内存扩展：近距离观察实际平台 (micron.com)。
Supermicro Petascale 服务器搭载美光 CZ120 内存扩展模块在经过互操作性、兼容性和跨操作系统支持测试后，逐渐被客户集成到他们的数据中心内。Petascale 与 CZ120 的组合产品现已发运至多家中大型数据中心和高性能计算中心客户。 初期用例包括：
- 将数据库完全存储在内存中以提高吞吐量（如 SQL 数据库和矢量数据库）
- 用于存储 Transformer 模型中的键值缓存，以加速推理过程
- 加速虚拟机管理工作负载
- 使用新的 AI 指令集实现仅 CPU 推理方案
随着美光和 Supermicro 率先推出联合解决方案，数据中心运营商现在可为其内存密集型工作负载选择新的架构。如需了解配备美光 CZ120 的 Petascale 服务器如何帮您解决数据中心挑战，请联系美光团队。如需了解更多信息，请访问 CZ120 CXL TEP 或 Supermicro Petascale 网站。
参考资料：
Supermicro 1U Petascale 存储服务器，配备 8 个 E3.S NVMe PCIe Gen 5 SSD 托架和 4 个 CXL E3.S 托架，AMD EPYC™ 9004 处理器。 （型号：ASG-1115S-NE3X12R）。
Supermicro 1U Petascale 存储服务器，配备 8 个 E3.S NVMe PCIe Gen 5 SSD 托架和 4 个 CXL E3.S 托架，双路第五代 Intel® Xeon® 可扩展处理器。（型号：SSG-121E-NE3X12R）。
