采用 CXL™ 技术的美光 CZ120 内存扩展为新一代 Supermicro Petascale 平台提供支持

近日，美光宣布采用 Compute Express Link^TM (CXL^TM) 技术的 CZ120 内存扩展模块将随 Supermicro X13 和 H13 Petascale 服务器对外发货，这意味着美光的前沿人工智能 (AI) 和高性能计算 (HPC) 产品线迎来了新的成员。过去一年里，Supermicro 和美光一直在合作开发下一代 Petascale 平台。美光 CZ120 内存扩展模块可提供更多内存容量和带宽，为各种关键型工作负载带来了一种更快、更高效的数据访问方式。这一里程碑巩固了两家公司在行业中的优势地位，将推动数据中心运营商加速采用 CXL 解决方案，以解决他们日益严峻的内存挑战。这些挑战源于现有的数据密集型工作负载以及新一代 AI 和 机器学习 (ML) 工作负载。

CXL：解决“内存墙”问题，满足未来 AI、高性能计算、内存数据库和通用计算等数据密集型工作负载的需求
 

鉴于现有服务器基础设施难以满足数据密集型工作负载的需求，CXL 带来了一种新的架构，可消除长期以来的数据瓶颈。Supermicro 的 Petascale 平台搭配采用 CXL 技术的美光 CZ120 内存扩展模块，提供了新架构的构建模块，可解决以下挑战：

• 内存容量扩展：单台 Petascale 服务器搭配 4 个 CZ120 256GB 模块，可提供高达 1TB 的扩展容量。 
• 带宽扩展：每个 CZ120 模块可增加高达 36GB/s 的数据传输带宽，相当于一块 DDR5 RDIMM 以 4800MT/s 速度运行时的带宽。通过增加内存容量和/或带宽可提升服务器的性能。有关 Petascale 平台搭配 CZ120 CXL 内存模块在多个工作负载下的性能分析，请参见美光发布的白皮书：CXL 内存扩展：近距离观察实际平台 (micron.com)。

Supermicro Petascale 服务器搭载美光 CZ120 内存扩展模块在经过互操作性、兼容性和跨操作系统支持测试后，逐渐被客户集成到他们的数据中心内。Petascale 与 CZ120 的组合产品现已发运至多家中大型数据中心和高性能计算中心客户。 初期用例包括： 

• 将数据库完全存储在内存中以提高吞吐量（如 SQL 数据库和矢量数据库） 
• 用于存储 Transformer 模型中的键值缓存，以加速推理过程 
• 加速虚拟机管理工作负载 
• 使用新的 AI 指令集实现仅 CPU 推理方案 

随着美光和 Supermicro 率先推出联合解决方案，数据中心运营商现在可为其内存密集型工作负载选择新的架构。如需了解配备美光 CZ120 的 Petascale 服务器如何帮您解决数据中心挑战，请联系美光团队。如需了解更多信息，请访问 CZ120 CXL TEP 或 Supermicro Petascale 网站。

参考资料：

• 内存湖：CXL 如何重新定义内存格局 | 美光科技
• 利用高性能计算 (HPC) 解决世界上的重大挑战 | 美光科技
• CXL 如何帮助 AI 和大语言模型 (LLM) 解决新问题
• CXL 如何帮助数据中心解决内存带宽难题