要点
美光 128GB DDR5 内存与第五代 AMD EPYCTM CPU(128 核)相结合,为 AI 和数据库基础设施带来了性能强大的解决方案。该解决方案可高效处理 AI、机器学习、数据分析和 IMDB 应用所特有的计算复杂性、大型模型和海量数据集。
SVM 得益于美光® 128GB RDIMM 内存的更高时钟速度以及第五代 AMD EPYC™ 处理器的更多核心数量,带宽利用率提升至此前的 1.3 倍。1 |
IMDB REDIS 30% |
SAP SD 201,000 用户 SAP 销售和分销模块 (SAP SD) 基准测试性能提高。测试系统的内存容量增加 30%,时钟频率提高 30%,SAP SD 测试得分高于之前六路系统的性能得分。 |
1 美光® 128GB DDR5 RDIMM 与第五代 AMD EPYC™ 处理器(代号“Turin”)结合使用。
2 与之前的测试配置(美光® 96GB DDR5 RDIMM + 第四代 AMD EPYC™ 处理器 [96 核,代号“Genoa”])相比。
现代数据中心需要大容量内存和强大的处理能力来运行各种工作负载,以支持企业的人工智能 (AI) 和机器学习 (ML) 计划。美光® 128GB DDR5 RDIMM 与第五代 AMD EPYC™ 处理器相结合,可为数据中心内运行的各种服务器工作负载提供出色的性能和功能,包括支持大规模云端基础设施和托管要求严苛的企业业务应用。
本博客展示了 AI/ML 支持向量机 (SVM)、Redis 内存数据库 (IMDB) 和 SAP SD 应用的基准性能测试结果。我们使用两种硬件配置运行了测试,并对结果进行了比较。所用硬件配置如下:
- 美光 128GB DDR5 DIMM + 第五代 AMD EPYC 处理器(代号“Turin”)
- 美光 96GB DDR5 DIMM + 第四代 AMD EPYC 处理器(代号“Genoa”)
我们的测试结果表明,使用支持更大容量 (128GB) 和更高带宽(高达 8000 MT/s)的美光 DDR5 RDIMM 时,SVM、SAP SD 和 Redis IMDB 的性能均显著提升。
硬件和系统配置
下面的表格显示了测试系统的详细架构信息。我们使用两个系统(下文中分别称为“系统 A”和“系统 B”)进行了比较测试,其中系统 A 的配置为:第四代 AMD EPYC 处理器(96 核) + 美光 96GB DDR5 DIMM;系统 B 的配置为:第五代 AMD EPYC 处理器(128 核) + 美光 128GB DDR5 DIMM。两个系统均支持“每核心 12GB 内存”配置,其中 128 核 CPU 通过 12 个内存通道使用 128GB 内存,96 核 CPU 通过 12 个内存通道使用 96GB 内存。
系统 A | 系统 B | |
---|---|---|
硬件 | 第四代 AMD EPYC™ 处理器(代号“Genoa”) | 第五代 AMD EPYC™ 处理器(代号“Turin”) |
内存 | 美光 96GB DDR5 (4800 MT/s) 双列,12 通道 |
美光 128GB DDR5 (6400 MT/s) 双列,12 通道 |
CPU | 双路 AMD EPYC 9654(96 核) | 双路 AMD EPYC(128 核) |
存储(用于 SVM) | 美光 9400 8TB (3) | 美光 9400 8TB (3) |
AI/ML 支持向量机 (SVM)
SVM 是一种机器学习算法,常用于对部署在云端的许多数据科学服务的数据集进行预处理。我们在测试中使用了 2TB 数据集,并使用英特尔 Hi-Bench 架构和 SparkML 引擎对数据进行处理。
任务执行更快
在 SVM 测试中,系统 B 的执行时间更短,相比系统 A 性能提升了 30%,主要原因是系统 B 的 128GB 内存模块能够提供更大容量和更高带宽,其处理器具有更多核心数量,两者结合能够提高有效带宽使用率。
带宽利用率更高
我们的测试结果表明,得益于更快的内存时钟速度(6400 MT/s 对比 4800 MT/s)以及第五代 AMD EPYC 处理器(128 核)的更多 Zen5 内核,系统 B 在运行 SVM 时带宽使用率为系统 A 的 1.3 倍。1
系统 B 的内存容量更大(128GB 对比 96GB),因此 SVM 可在内存中存储更多数据,从而能够减少存储设备的输入/输出操作。测试中,两个系统的每核心内存容量配置均为“12GB/核心”。采用这种方法,我们能够测量在更高的计算能力和更快的内存时钟速度下,系统 B 相较于基线配置(系统 A)的性能提升。
Redis
Redis 是一款高速内存数据库 (IMBD),需要低延迟的应用可使用 Redis 来存储和访问数据。在基准测试中,Memtier 对 Redis 执行了大量“set/get”操作,以此模拟多线程和多客户端执行模型。
在系统 B(128GB + 128 核)上运行 Redis 测试时,性能为系统 A 的 1.2 倍。2此外,平均延迟降低了 30%,p99 延迟降低了 60%。与前几代 AMD EPYC 处理器相比,第 5 代 AMD EPYC 处理器(128 核)拥有更高的核心数量,能够更有效地利用美光 128GB DIMM 的大容量和高带宽优势。更多的核心数可实现更高的吞吐量,从而能够提升系统效率,支持企业数据中心为更多用户提供服务。
SAP 销售和分销模块 (SAP SD)
“Systems Application and Products”(SAP) 是一款在企业资源规划 (ERP) 中广泛使用的软件套件。该套件由 SAP 生态系统的多个子组件组成。SAP SD 组件包含了与 SAP 销售和分销有关的所有操作和流程。我们使用配备美光 128GB DDR5 RDIMM 和第五代 AMD EPYC 处理器的戴尔 PowerEdge R6725 服务器对 SAP SD 进行了基准测试,结果表明该双路系统可支持 201,000 名用户同时使用——创造了新的性能世界纪录。测试系统的得分高于以往六路系统的得分。更高的用户数量表明,配备美光内存与第五代 AMD EPYC 处理器后,戴尔 PowerEdge 服务器在运行数据库用例时具备显著的性能优势。如需了解更多详细信息,请参阅戴尔博客。
数据中心内的 AI
大容量、高带宽、低延迟内存是数据中心的关键基础设施,能够高效处理 AI、机器学习、数据分析和 IMDB 应用所特有的计算复杂性、大型模型和海量数据集。我们的工作负载测试结果表明,美光 128GB DDR5 内存模块与第五代 AMD EPYC 处理器相结合,可为这些环境提供性能强大的解决方案。
如果您正在升级企业基础设施、AI 基础设施或 HPC 环境,希望获得满足您需求的 DDR5 硬件配置,请联系美光销售网络。