设计工具
AI

利用主机辅助功能优化存储系统,满足未来 AI PC 的需求

Prasad Alluri | 2024 年 10 月

与“计算”有关的技术正在快速演进,而随着 AI PC 的兴起,人类与技术交互的方式正在发生深刻转变。AI 系统不仅带来了更快的处理速度或更智能的算法,还从根本上改变了计算机管理和存储数据的方式。

对 AI PC 而言,数据存放的位置至关重要。AI PC 中的先进存储功能可确保不仅能够高效存储数据,还能够以更高的性能和安全性来访问和使用数据。随着 AI 时代对计算的要求日益提高,深入了解用户数据的存放位置和方式,对于充分发挥高性能硬件的潜力十分关键。SSD 已成为存储 PC 数据的主要设备。借助高性能 SSD,我们有望提升用户在运行 AI 应用时的体验。

当前,SSD 无法辨别特定数据对用户或系统的重要程度。这是一个重大的缺陷,因为随着 AI 愈发重要,未来的系统需要优先考虑 AI 应用使用的数据。AI 应用通常涉及实时处理和决策,需要快速访问与这些处理和决策过程最相关的数据。当前架构通常使用 LRU(最近最少使用)数据结构优化数据访问,其弊端是对所有数据同等对待,可能导致效率低下,影响性能。

随着端侧 AI 技术重要性的日益提高,我们更需要优先考虑 AI 和其他数据密集型应用所需的数据。为此,SSD 需要主机提供额外信息,来标记哪些数据(如 AI 数据)最为重要,该功能称为“主机辅助”。有了这些信息,SSD 可将此类数据放在访问速度更快的低延迟缓存中。我们所做的内部测试表明,当使用主机辅助功能时,模型加载时间可缩短高达 80%。在测试中,端侧 AI 与许多驻留在存储系统中的小规模模型一起运行,并需要按需加载特定模型。(我曾在之前的博客中谈到过这一问题,参见:AI PC:PC 行业的颠覆性变革?| 美光科技

在测量 SSD 和主机辅助功能可实现的性能提升时,模型加载时间是一个重要指标。要从主机获得协助信息,可以采用很多种不同的方法。美光与微软合作推出了几项增强功能,可帮助 SSD 了解不同数据的重要性。其中的一些方法还提升了 SSD 的可靠性。

  • 时间戳功能为 SSD 提供了世界时间信息,SSD 可使用这些信息进行时间比较。操作系统为 SSD 提供了更多实际运行当中的时间信息。这些信息能够帮助 SSD 更准确地跟踪数据的新旧程度,从而提高可靠性。通过准确了解数据的新旧程度,SSD 可以做出更明智的决策,确定优先处理哪些数据,并丢弃一些过时数据。利用时间戳信息,SSD 可以更有效地管理内部缓存,让最近频繁访问的数据随时可用,降低延迟,提高响应能力。时间戳信息还可帮助 SSD 识别过时数据或从未使用过的数据,以便在垃圾收集时快速删除这些数据。垃圾收集可释放被占用的空间,从而保持出色的写入速度。此外,利用时间戳信息,SSD 可将数据均匀写入各存储块中,从而延长 SSD 的使用寿命,并确保平稳的写入性能。

  • 主机内存缓冲区 (HMB) 功能使 SSD 能够独占式访问系统 DRAM 中的部分空间,以满足某些需要。增加 HMB 的大小可让 SSD 拥有更多缓冲空间,用于存储数据和数据属性。利用该功能,SSD 可构建更大的 FTL(闪存转换层)表,从而实现更高效的数据映射,并降低 SSD 开销。有了更大的缓冲区,SSD 可以更有效地缓存重要数据,从而缩短访问时间,提高性能。HMB 功能利用系统 DRAM 的一部分作为缓存,可大幅缩短访问数据的时间,加速读写操作。此外,更高效的数据传输还可提高系统性能。该缓冲区利用系统内存的一部分创建,在提高性能的同时无需额外的成本和功耗。
主机内存缓冲区功能与主机 PC 配合使用
  • 主机系统可向 SSD 发送与读写命令相关的额外元数据。此类元数据也称为数据提示,可为 SSD 提供有关接下来将会如何使用目标数据的信息(例如,频繁读取)。SSD 可以通过这些提示了解数据的使用模式,然后对数据进行优先级排序,确保系统能够更快访问数据。元数据还可能包括预期寿命或访问模式等提示。利用这些提示,SSD 能够更有效地管理数据的存放位置,减少写入放大效应,提高整体性能。
Windows 操作系统中的数据提示流


2024 年 8 月,微软公司的 Scott Lee 在 FMS 峰会上宣布,微软将在即将发布的 Windows 操作系统版本中集成这些增强功能。美光正在与微软合作,持续优化 SSD 的性能,以满足未来应用的需求。

VP and GM for Client Storage at SBU

Prasad Alluri

Prasad Alluri is the vice president and general manager for Client Storage in the Storage Business Unit. Prior, he was our vice president of Corporate Strategy & Incubations. He has worked for Micron and Intel, where he held various positions in product development, product planning and strategy. Prasad obtained his bachelor’s from the Indian Institute of Technology (Bombay), a Ph.D. from Arizona State University, and an MBA from Wharton School of Business. Outside work, Prasad enjoys playing poker and hiking.

Prasad Alluri