与“计算”有关的技术正在快速演进,而随着 AI PC 的兴起,人类与技术交互的方式正在发生深刻转变。AI 系统不仅带来了更快的处理速度或更智能的算法,还从根本上改变了计算机管理和存储数据的方式。
对 AI PC 而言,数据存放的位置至关重要。AI PC 中的先进存储功能可确保不仅能够高效存储数据,还能够以更高的性能和安全性来访问和使用数据。随着 AI 时代对计算的要求日益提高,深入了解用户数据的存放位置和方式,对于充分发挥高性能硬件的潜力十分关键。SSD 已成为存储 PC 数据的主要设备。借助高性能 SSD,我们有望提升用户在运行 AI 应用时的体验。
当前,SSD 无法辨别特定数据对用户或系统的重要程度。这是一个重大的缺陷,因为随着 AI 愈发重要,未来的系统需要优先考虑 AI 应用使用的数据。AI 应用通常涉及实时处理和决策,需要快速访问与这些处理和决策过程最相关的数据。当前架构通常使用 LRU(最近最少使用)数据结构优化数据访问,其弊端是对所有数据同等对待,可能导致效率低下,影响性能。
随着端侧 AI 技术重要性的日益提高,我们更需要优先考虑 AI 和其他数据密集型应用所需的数据。为此,SSD 需要主机提供额外信息,来标记哪些数据(如 AI 数据)最为重要,该功能称为“主机辅助”。有了这些信息,SSD 可将此类数据放在访问速度更快的低延迟缓存中。我们所做的内部测试表明,当使用主机辅助功能时,模型加载时间可缩短高达 80%。在测试中,端侧 AI 与许多驻留在存储系统中的小规模模型一起运行,并需要按需加载特定模型。(我曾在之前的博客中谈到过这一问题,参见:AI PC:PC 行业的颠覆性变革?| 美光科技)
在测量 SSD 和主机辅助功能可实现的性能提升时,模型加载时间是一个重要指标。要从主机获得协助信息,可以采用很多种不同的方法。美光与微软合作推出了几项增强功能,可帮助 SSD 了解不同数据的重要性。其中的一些方法还提升了 SSD 的可靠性。
- 时间戳功能为 SSD 提供了世界时间信息,SSD 可使用这些信息进行时间比较。操作系统为 SSD 提供了更多实际运行当中的时间信息。这些信息能够帮助 SSD 更准确地跟踪数据的新旧程度,从而提高可靠性。通过准确了解数据的新旧程度,SSD 可以做出更明智的决策,确定优先处理哪些数据,并丢弃一些过时数据。利用时间戳信息,SSD 可以更有效地管理内部缓存,让最近频繁访问的数据随时可用,降低延迟,提高响应能力。时间戳信息还可帮助 SSD 识别过时数据或从未使用过的数据,以便在垃圾收集时快速删除这些数据。垃圾收集可释放被占用的空间,从而保持出色的写入速度。此外,利用时间戳信息,SSD 可将数据均匀写入各存储块中,从而延长 SSD 的使用寿命,并确保平稳的写入性能。
- 主机内存缓冲区 (HMB) 功能使 SSD 能够独占式访问系统 DRAM 中的部分空间,以满足某些需要。增加 HMB 的大小可让 SSD 拥有更多缓冲空间,用于存储数据和数据属性。利用该功能,SSD 可构建更大的 FTL(闪存转换层)表,从而实现更高效的数据映射,并降低 SSD 开销。有了更大的缓冲区,SSD 可以更有效地缓存重要数据,从而缩短访问时间,提高性能。HMB 功能利用系统 DRAM 的一部分作为缓存,可大幅缩短访问数据的时间,加速读写操作。此外,更高效的数据传输还可提高系统性能。该缓冲区利用系统内存的一部分创建,在提高性能的同时无需额外的成本和功耗。
- 主机系统可向 SSD 发送与读写命令相关的额外元数据。此类元数据也称为数据提示,可为 SSD 提供有关接下来将会如何使用目标数据的信息(例如,频繁读取)。SSD 可以通过这些提示了解数据的使用模式,然后对数据进行优先级排序,确保系统能够更快访问数据。元数据还可能包括预期寿命或访问模式等提示。利用这些提示,SSD 能够更有效地管理数据的存放位置,减少写入放大效应,提高整体性能。
2024 年 8 月,微软公司的 Scott Lee 在 FMS 峰会上宣布,微软将在即将发布的 Windows 操作系统版本中集成这些增强功能。美光正在与微软合作,持续优化 SSD 的性能,以满足未来应用的需求。